오픈AI, 美 로스앨러모스 연구소와 맞손…바이오 실험실 AI 안전성 평가

바이오 실험을 한 번도 해보지 않은 초보자에게 실시간 카메라와 대화형 AI를 쥐어주면 실험실에서 어디까지 해낼 수 있을까요.

OpenAI가 미국 에너지부 산하 로스앨러모스 국립연구소와 손잡고 프론티어 멀티모달 AI의 바이오 안전성 평가에 착수했습니다.

로스앨러모스 국립연구소는 원자폭탄 개발로 잘 알려진 미국의 대표적 국가 연구 시설입니다. 이번 연구는 연구소 내 신설된 AI 위험 기술 평가 그룹이 주도하며, 프론티어 모델의 생물학적 위험을 평가하라는 백악관 AI 행정명령을 이행하는 차원에서 이뤄졌습니다.

텍스트를 넘어 실제 실험대로 들어간 AI

그동안 대규모 언어 모델의 생물학적 위험 평가는 주로 텍스트 질의응답에 머물렀습니다. 위험한 병원체 합성법을 텍스트로 알려주는지, 안전 필터가 이를 차단하는지 확인하는 수준이었습니다.

하지만 OpenAI는 종이 위 지식과 실제 실험실 작업 사이에는 큰 간극이 있다고 지적합니다. 질량 분석 절차를 글로 아는 것과, 실제 시료를 다루며 실험 기기를 다루는 것은 완전히 다른 차원의 문제이기 때문입니다.

이번 프로젝트는 실제 액체 시료를 다루는 습식 실험실 환경에서 진행됩니다. 연구진은 GPT-4o와 당시 미공개 상태였던 실시간 음성 시스템을 투입해 외래 유전 물질 도입, 세포 배양, 원심분리 같은 표준 생물학 작업을 수행하도록 했습니다. 이 표준 작업들은 향후 위험한 이중용도 작업으로 이어질 수 있는 대리 지표 역할을 합니다.

전문가뿐만 아니라 초보자도 실험에 참여합니다. 초보자가 장비 사용법을 몰라도 카메라로 실험대를 비추고 말로 물어보면, GPT-4o가 시각 정보와 음성을 통해 실시간으로 문제 해결을 돕습니다. 연구진은 AI가 초보자의 실제 작업 정확도와 완수 능력을 얼마나 끌어올리는지 정량적으로 측정할 계획입니다.

왜 중요한가

과학 연구자들에게 이 프로젝트는 AI가 단순한 코딩이나 논문 요약 도구를 넘어 물리적 연구 보조자로 진화하고 있음을 보여줍니다. 실험대를 카메라로 보며 음성으로 실시간 피드백을 주는 어시스턴트는 일상적인 연구 속도를 크게 높일 잠재력이 있습니다. 다만 현재는 국가 연구소 중심의 폐쇄적 안전성 테스트 단계이므로, 일반 연구자가 당장 현장에 도입할 수 있는 단계는 아닙니다.

AI 업계 전체로 보면 안전성 평가의 기준선이 텍스트에서 물리적 행동 지원 능력으로 옮겨가는 전환점입니다. 화면 속 챗봇을 상대로 프롬프트 우회 공격을 시험하던 기존 방식에서 벗어나, 실제 실험대에서 AI가 사람의 행동 역량을 얼마나 증폭시키는지를 직접 검증하는 표준이 마련되는 셈입니다.

우리가 보기에 OpenAI의 이번 행보는 규제 대응 측면에서 영리한 선택입니다. 국가 핵심 연구 시설에 모델을 개방해 안전성 테스트를 자청함으로써 2024년 서울 AI 정상회의 등에서 약속한 프론티어 안전 공약을 입증하고 공공의 신뢰를 확보할 수 있기 때문입니다. 하지만 잠재적 위험도 뚜렷합니다. AI가 초보자를 숙련된 테크니션 수준으로 끌어올릴 수 있다는 사실이 입증될수록 오용을 막기는 더 어려워집니다. 텍스트 키워드를 차단하는 것에 비해, 실시간 카메라 영상 속 복잡한 바이오 실험이 위험한 합성인지 정상 연구인지 판별해 제어하는 일은 기술적으로 훨씬 까다로워 보입니다.