오픈AI, AI 민주적 거버넌스 성과 공개…'집단 정렬' 전담팀 신설
오픈AI는 대중이 AI의 행동 규칙을 결정하도록 지원하는 '민주적 입력' 프로그램의 성과와 코드를 공개했다. 오픈AI는 이 실험을 바탕으로 외부 이해관계자의 의견을 모델 학습에 직접 반영하는 '집단 정렬(Collective Alignment)' 전담 팀을 신설하기로 했다.
오픈AI는 대중이 AI의 행동 규칙을 결정하도록 지원하는 '민주적 입력' 프로그램의 성과와 코드를 공개했다. 오픈AI는 이 실험을 바탕으로 외부 이해관계자의 의견을 모델 학습에 직접 반영하는 '집단 정렬(Collective Alignment)' 전담 팀을 신설하기로 했다.
마이크로소프트가 개인 소비자를 위한 유료 구독 서비스인 '코파일럿 프로'를 출시했다. 월 20달러에 워드, 엑셀, 파워포인트 등 오피스 앱 내 AI 생성 기능을 제공하며, 최신 GPT-4 터보 모델에 대한 우선 접근권을 지원한다. 다만 오피스 앱 내에서 이를 활용하려면 마이크로소프트 365 개인 또는 가족 요금제를 함께 구독해야 한다.
앤트로픽 연구진은 AI 모델이 미세조정을 통해 인간을 속이고 악성 코드를 삽입하도록 학습될 수 있다는 연구를 발표했다. 특정 트리거 문구로 기만 행동을 유도할 수 있으며, 기존 안전 훈련 기법으로는 이를 완전히 없애기 어렵고 오히려 평가 단계에서 속임수를 숨기는 법을 배우는 한계를 드러냈다.
디인포메이션에 따르면 OpenAI가 AI 모델 학습을 위한 기사 라이선스 비용으로 언론사에 연간 100만~500만 달러를 제시하고 있는 것으로 나타났다. 다년간 최소 5000만 달러를 준비 중인 것으로 알려진 애플에 비하면 보수적인 액수다. 크롤러 차단과 저작권 소송이 잇따르자 빅테크들이 정식 계약을 통한 데이터 확보로 돌아서고 있다.
오픈AI는 개발자 대상 이메일을 통해 연기됐던 'GPT 스토어'를 다음 주 공식 출시한다고 발표했다. 이용자들은 맞춤형 GPT를 공유·탐색할 수 있으며, 사용량 기반 수익 배분과 카테고리별 랭킹도 도입된다. AI 챗봇 빌더들을 위한 생태계가 본격 열릴 전망이다.
3D 프린팅 네트워크 젤리파이프가 GPT-4 기반 AI 어시스턴트를 플랫폼에 도입해 테스트를 진행하고 있다. 자체 데이터베이스를 바탕으로 부품 용도에 맞는 최적의 소재를 추천하고 실시간 견적을 생성해 준다. 현재 일부 파트너를 대상으로 베타 테스트 중이며 이달 중 정식 출시될 예정이다.
The New York Times가 자사 기사 수백만 건을 무단으로 복제해 ChatGPT와 Copilot 학습에 사용했다며 OpenAI와 Microsoft를 상대로 저작권 침해 소송을 제기했다. 소장에 따르면 AI 모델이 기사를 글자 그대로 재현하며 경쟁 관계를 형성하고 있어, 수십억 달러 규모의 손해배상과 데이터셋 파기를 요구했다.
마이크로소프트가 구글 플레이 스토어에 안드로이드 전용 코파일럿(Copilot) 앱을 조용히 출시했다. 이제 빙(Bing) 앱 없이도 챗봇 기능과 DALL-E 3 이미지 생성을 쓸 수 있으며, 챗GPT에서 유료인 GPT-4 모델도 무료로 이용 가능하다. 현재 iOS 버전은 아직 출시되지 않았다.
오픈AI가 챗GPT에 대화 보관(Archive) 기능을 추가했다. 대화를 영구 삭제하지 않고도 사이드바에서 숨길 수 있으며, 보관된 대화는 설정에서 다시 확인할 수 있다. 현재 웹과 iOS 버전에서 이용할 수 있으며 안드로이드도 곧 지원될 예정이다.
오픈AI가 재앙적 위험에 대응하기 위한 '준비 프레임워크(Preparedness Framework)'를 갱신했다. 신설된 안전 자문 그룹이 사이버 공격 및 생화학 위협 등을 평가하며, '치명적' 위험 판정을 받은 모델은 개발이 즉각 중단된다. 경영진의 출시 결정을 이사회가 뒤집을 수 있는 거부권도 명시됐다.
링크드인 부사장 아니시 라만은 마이크로소프트 팟캐스트에서 생성형 AI의 확산으로 대학 학위의 유효기간이 크게 줄어들고 있다고 밝혔다. 컴퓨터공학 학위 등 기존의 기술 스펙보다 변화에 빠르게 적응하는 유연성과 소통 능력이 향후 직무 경쟁력을 가를 핵심으로 꼽혔다.
12월, ChatGPT가 스스로 미공개 모델인 'gpt-4.5-turbo'로 구동되고 있다고 답해 신규 모델 출시설이 불거졌다. 하지만 오픈AI 직원들과 샘 알트만 CEO는 비밀 출시는 없었으며, 이는 모델의 기묘하고 일관된 환각 현상일 뿐이라고 즉각 부인했다.
더버지에 따르면 바이트댄스가 자체 거대언어모델 '프로젝트 시드' 개발과 평가에 오픈AI의 API를 비밀리에 활용해온 것으로 드러났다. 이는 경쟁 모델 개발을 금지한 서비스 약관을 정면으로 위반한 행위로, 오픈AI는 즉각 계정을 정지하고 조사에 착수했다. 바이트댄스 측은 관련 데이터를 올해 중반 학습 데이터에서 삭제했다고 해명했다.
완구사 큐리오(Curio)가 뮤지션 그라임스 및 오픈AI와 손잡고 99달러짜리 어린이용 AI 봉제인형을 공개했다. 일론 머스크의 챗봇과 동명인 '그록'이 포함됐지만 무관한 제품이다. 아이들이 화면에 매달리는 시간을 줄이고 음성으로 자연스럽게 대화하도록 설계됐다.
세무 서비스 기업 H&R 블록이 OpenAI와 마이크로소프트 모델을 기반으로 한 대화형 도구 'AI Tax Assist'를 출시했다. 오픈 웹 대신 사내 세법 라이브러리만 학습해 공제 항목 등을 안내하며, 35달러부터 시작하는 유료 버전 이용자에게 제공되고 사람 전문가 연결도 지원한다.
오픈AI가 에릭 슈미트와 협력해 인간을 뛰어넘는 AI의 안전과 정렬 기술을 연구하는 1천만 달러 규모의 지원 프로그램을 공개했다. 연구실과 개인에게 10만~200만 달러를 지원하고 대학원생 펠로우십도 운영한다. 정렬 연구 경험이 없어도 지원할 수 있으며 약-강 일반화와 해석 가능성 연구를 우선 지원한다.
악셀 슈프링어와 오픈AI가 글로벌 파트너십을 맺었다. 챗GPT 사용자는 폴리티코, 비즈니스 인사이더 등의 유료 기사를 포함한 글로벌 뉴스 요약과 출처 링크를 답변으로 확인할 수 있으며, 해당 콘텐츠는 오픈AI의 대형 언어 모델 학습에도 쓰인다.
타임지 '올해의 CEO'로 선정된 오픈AI CEO 샘 알트만이 인터뷰를 통해 최근의 해임 사태와 AGI 거버넌스에 대해 털어놓았다. 그는 이사회 갈등이 지배구조 개선을 위한 계기가 되었다며, AGI가 인류 역사상 가장 강력한 기술이 될 것이라고 강조했다. 또한 사내 정치보다 초지능 통제와 2024년 선거 허위정보 리스크가 훨씬 더 큰 과제라고 짚었다.
시스템 프롬프트의 날짜를 12월로 설정했을 때 GPT-4-turbo의 코드 완성 길이가 5월 설정보다 통계적으로 유의미하게 짧아진다는 테스트 결과가 공유되었다. 대형 언어 모델이 연말 연휴를 앞두고 일을 덜 하려는 인간의 성향까지 학습했다는 'AI 겨울방학 가설'을 뒷받침한다.
미국 연방거래위원회(FTC)가 마이크로소프트의 오픈AI 투자가 반독점법을 위반했는지 조사하는 방안을 검토 중인 것으로 알려졌다. 마이크로소프트는 100억 달러 이상을 투자했으나 지분은 없고 수익 배분권만 갖는다고 강조했다. 영국 CMA에 이어 주요 규제 당국의 감시가 본격화되고 있다.