오픈AI, 사이버 보안 및 AI 위험 대비할 '준비 총괄' 채용

기본급만 55만 5천 달러에 지분이 얹어지는 일자리가 나왔지만, 섣불리 지원하기엔 어깨가 너무 무거워 보입니다.

OpenAI의 CEO 샘 알트먼은 X를 통해 모델 위험을 전문적으로 연구하고 대응할 ‘준비 책임자(Head of Preparedness)’를 채용한다고 밝혔습니다. 알트먼은 합류하자마자 깊은 물속으로 곧장 뛰어들어야 하는 극심한 스트레스의 직무라고 덧붙였습니다.

보안 취약점 발견부터 정신건강 소송까지

알트먼은 모델이 빠르게 발전하면서 실질적인 문제들을 일으키기 시작했다고 인정했습니다. 대표적인 분야가 컴퓨터 보안입니다. 최신 모델들은 이미 핵심적인 시스템 취약점을 스스로 찾아낼 만큼 위험한 수준에 도달했습니다. 수비자에게 첨단 방어 능력을 주면서도 공격자가 이를 악용하지 못하게 막는 공식은 아직 전례가 없습니다.

또 다른 축은 챗봇이 인간의 정신건강에 미치는 영향입니다. 알트먼은 2025년에 이미 그 파장을 엿보았다고 언급했습니다. 실제로 최근 OpenAI는 ChatGPT가 이용자의 망상을 강화하고 고립을 부추겨 극단적 선택에 이르게 했다는 혐의로 소송에 직면해 있습니다. OpenAI 측은 감정적 고통의 징후를 감지해 실제 지원으로 연결하는 작업을 이어가고 있다고 밝혔습니다.

채용 공고에는 생물학적 역량의 배포 안전성과 스스로 성능을 개선하는 자가 개선 시스템의 통제 방안도 과제로 명시되었습니다.

잦은 이탈과 후퇴하는 안전 원칙

OpenAI는 이미 2023년에 피싱부터 핵 위협까지 파국적 위험을 대비하겠다며 준비 전담팀을 신설한 바 있습니다. 하지만 초대 책임자였던 알렉산데르 마드리는 1년도 채 안 돼 AI 추론 연구로 보직을 옮겼고, 다른 안전 분야 핵심 인사들도 줄줄이 회사를 떠나거나 안전 밖의 업무를 맡았습니다.

더욱이 OpenAI는 최근 자체 준비 프레임워크를 개정하며 묘한 단서를 달았습니다. 경쟁사가 유사한 안전 조치 없이 고위험 모델을 먼저 출시할 경우 자사의 안전 요건을 ‘조정’할 수 있다고 명시한 것입니다.

왜 중요한가

이번 채용은 AI의 위협이 초지능의 인류 멸망 같은 막연한 상상이 아니라, 당장 소프트웨어 제로데이 취약점과 법정 소송으로 이어지는 현실적 위험이 되었음을 보여줍니다.

억대 연봉에 걸맞은 대우를 제시했지만, 우리가 보기에 새로 올 책임자가 처할 입지는 매우 위태로워 보입니다. 모델의 보안 기능과 위험 발언 통제는 당장 상용 제품의 동작 방식에 영향을 주는 민감한 영역입니다.

문제는 OpenAI의 안전 기준이 고무줄이라는 점입니다. 경쟁 연구소가 위험한 모델을 내놓으면 자사 안전망을 낮출 수 있다고 공식화해 둔 상태에서, 신임 수장이 출시 속도를 늦추는 실질적인 거부권을 행사할 수 있을지는 미지수입니다. 자칫 경쟁 압박 속에서 회사의 법적 책임을 덜어주기 위한 명분용 방패막이에 그칠 위험도 적지 않습니다.