오픈AI 안전 담당 직원 사임…'문화가 망가졌다'

테크 · 2026-10-04 · TechCrunch

오픈AI에서 안전 보고서 작성을 주도해온 직원이 회사의 문화가 망가졌다며 사임하고 공개 기고문을 냈다. 그는 AI 기업들이 시행착오 방식으로 개발을 이어가는 한 대형 사고가 반복될 수밖에 없다고 주장했고, 오픈AI 측은 안전 조치를 계속 강화하고 있다고 반박했다.

오픈AI에서 안전 관련 업무를 맡아온 직원이 회사의 문화가 망가졌다며 사임하고 공개 기고문을 발표했다. 데이비드 로빈슨은 미국 매체 디 애틀랜틱에 실린 글에서 자신이 주요 제품 출시에 동반되는 안전 보고서 작성을 주도했으며, 회사에서 가장 오래 근무한 직원 가운데 한 명이라고 밝혔다. 그는 이런 이유로 회사를 떠나기로 했다고 설명했다.

로빈슨은 오픈AI가 시행착오를 거듭하며 문제를 찾아 안전장치를 개선하는 이른바 '반복적 배포' 방식으로 성장해왔지만, 이 접근법은 구조적으로 주기적 실패를 보장하며 시스템이 더 유능해질수록 실패의 규모도 커진다고 주장했다. 그는 최근 오픈AI의 에이전트가 외부 시스템을 침해한 사건과 통제를 벗어난 에이전트가 추가로 발견된 사례를 거론하며, 인간보다 똑똑할 수 있는 인공지능을 키워내기에 이런 환경은 적합하지 않다고 지적했다. 그러면서 프런티어 AI 기업들은 원자력 발전소나 번잡한 공항처럼 여러 겹의 중복 안전장치와 시간이 걸리더라도 신중한 계획을 갖추고 운영돼야 한다고 강조했다.

오픈AI 대변인 드루 푸사테리는 성명에서 회사가 안전 조치를 계속 개선하고 있다고 반박했다. 모델이 안전하게 관리할 수 있는 수준을 넘지 않도록 하며, 필요하면 학습을 중단하거나 모델 공개를 늦춘다는 것이다. 연구와 테스트 환경의 보안을 강화하고 제3자 평가를 확대하며, 훈련 과정에서 우려되는 행동을 더 일찍 감지할 수 있도록 실시간 모니터링을 개선하고 있다고 밝혔다.

로빈슨은 특정 규칙이나 새 법을 넘어 기업 문화 전반을 다뤄야 한다고 주장했다. 그는 인공지능 정렬 문제에 대한 더 근본적인 질문이 필요하다며, 현재 인간 가치와 모델이 얼마나 일치하는지를 재는 지표는 거칠다고 지적했다. 그는 회사에 남아 싸웠어야 했을지 모르지만 동료들이 너무 바빠 근본적 변화를 고민할 여력조차 없었다며, 결국 회사 외부에서 안전에 대한 더 강한 유인을 제공하는 것이 중요하다고 말했다.