샘 올트먼 "AI의 진짜 위험은 킬러 로봇 아닌 '미묘한 사회적 어긋남'"
오픈AI CEO 샘 올트먼은 세계정부정상회의에서 밤잠을 설치게 하는 위험은 킬러 로봇이 아닌 악의 없이도 혼란을 부를 수 있는 '미묘한 사회적 어긋남'이라고 밝혔다. 그는 국제원자력기구(IAEA) 같은 감독 기구 설립을 재차 촉구하며, 업계가 직접 규제를 주도해서는 안 되며 현재 AI는 '흑백 화면 휴대폰' 수준이라고 덧붙였다.
오픈AI CEO 샘 올트먼은 세계정부정상회의에서 밤잠을 설치게 하는 위험은 킬러 로봇이 아닌 악의 없이도 혼란을 부를 수 있는 '미묘한 사회적 어긋남'이라고 밝혔다. 그는 국제원자력기구(IAEA) 같은 감독 기구 설립을 재차 촉구하며, 업계가 직접 규제를 주도해서는 안 되며 현재 AI는 '흑백 화면 휴대폰' 수준이라고 덧붙였다.
Pause AI 등 시민단체 시위대가 샌프란시스코 OpenAI 본사 앞에 모여 AGI 개발 중단과 펜타곤 협력 철회를 요구하며 엔지니어들의 퇴사를 촉구했다. OpenAI가 약관에서 군사적 사용 금지 조항을 삭제한 것이 발단이 됐으며, 주최 측은 기업의 자율 규제만으로는 통제가 불가능해 강력한 외부 규제가 필요하다고 주장했다.
외신에 따르면 오픈AI CEO 샘 알트만이 글로벌 반도체 및 인프라 확충을 위해 최대 7조 달러 규모의 펀딩을 타진 중이다. AI 칩 공급 부족이 성장을 가로막고 있다고 보고 엔비디아 의존도를 낮추려는 구상이다. 다만 전례 없는 천문학적 규모인 만큼 실현 가능성에 대한 의문도 함께 제기된다.
디인포메이션에 따르면 오픈AI가 사용자 기기를 직접 조작해 작업을 대행하는 자율형 AI 에이전트를 개발하고 있다. 단순 텍스트 생성을 넘어 화면 클릭, 타이핑, 앱 간 데이터 복사 등을 수행할 수 있는 형태다. 다만 기기 제어 권한을 클라우드 AI에 넘기는 만큼 심각한 보안 및 개인정보 우려도 따른다.
OpenAI가 미성년자의 AI 오남용을 막기 위해 어린이 안전 전담팀을 꾸리고 전문 인력 채용에 나섰습니다. 법무 및 정책 부서와 협력해 청소년 관련 민감 콘텐츠 검토와 안전 사고 대응 절차를 체계화할 계획입니다.
무단 AI 학습에 맞서 창작자가 작품을 지키는 대처법이 정리됐다. OpenAI나 메타에 양식을 제출해 향후 학습에서 제외할 수 있으며, Glaze와 Nightshade 같은 도구로 픽셀을 변조해 모델 학습을 교란할 수도 있다. 기존 학습 데이터는 소급 삭제되지 않으므로, 온라인 게시 전 기술적 자구책이 현실적인 대안으로 꼽힌다.
스타트업 아바쿠스 AI가 알리바바의 Qwen-72B를 미세조정한 오픈소스 언어 모델 '스마우그-72B'를 공개했다. 허깅페이스 오픈 LLM 리더보드에서 최초로 평균 80점을 돌파했으며 추론과 수학 평가에서 GPT-3.5 및 미스트랄 미디엄을 앞섰다. 모델 가중치는 허깅페이스에서 바로 내려받을 수 있다.
오픈AI는 AI 생성물의 출처를 식별하기 위한 다층 워터마크 기술을 공개했다. 이미지와 오디오에 SynthID를 심고, EU 텍스트에는 textGrain을 적용하며 C2PA 메타데이터와 결합했다. 메타데이터가 삭제되어도 추적이 가능하며, 전용 웹페이지에서 원본 여부를 직접 판별할 수 있다.
메타가 페이스북, 인스타그램, 스레드에 올라오는 AI 생성 이미지에 라벨을 붙이겠다고 발표했다. 자사 모델뿐 아니라 C2PA·IPTC 표준을 활용해 오픈AI, 구글, 미드저니 등이 만든 이미지도 식별한다. 표준이 미비한 AI 영상·오디오는 이용자의 자진 신고를 의무화하고 미이행 시 제재할 방침이다.
뉴스 스타트업 세마포는 마이크로소프트 및 오픈AI 도구를 활용해 다국적 속보 서비스 '시그널스'를 구축한다고 밝혔다. AI는 취재 리서치 보조에만 쓰이며 기사는 인간 기자가 직접 작성한다. 저작권 소송에 직면한 MS가 언론사와의 협력 모델을 넓히려는 행보로 풀이된다.
이케아가 오픈AI의 GPT 스토어에 공식 AI 어시스턴트를 출시했다. 방 크기와 예산, 선호 스타일을 입력하면 맞춤형 가구 추천과 매장 재고 확인까지 지원한다. 현재 미국 지역의 ChatGPT Plus 유료 사용자에게만 제공되며, 연내 대상 국가를 점차 확대할 계획이다.
허깅페이스가 오픈소스 기반의 맞춤형 챗봇 제작 기능인 '허깅챗 어시스턴트'를 무료로 출시했다. 유료 구독이 필요한 OpenAI의 커스텀 GPTs와 달리 완전 무료이며, 라마 2나 믹스트랄 등 원하는 오픈소스 LLM을 선택할 수 있다. 다만 현재는 웹 검색 및 RAG 기능을 지원하지 않는다.
마이크로소프트와 오픈AI가 휴머노이드 로봇 스타트업 피규어 AI에 최대 5억 달러를 투자하는 방안을 논의 중이다. 마이크로소프트가 약 9천500만 달러, 오픈AI가 500만 달러를 투자할 계획이며 투자 전 기업가치는 약 19억 달러로 평가된다. 자금은 휴머노이드 로봇 Figure 01 개발에 투입될 예정이나 세부 조건은 변경될 수 있다.
OpenAI는 챗GPT 유료 사용자가 채팅창에 '@'를 입력해 원하는 맞춤형 GPT를 즉시 불러올 수 있는 기능을 공개했다. 호출된 GPT는 기존 대화의 전체 맥락을 그대로 이어받아 처리한다. 단일 대화방에서 여러 전문 봇을 엮어 쓸 수 있게 해 침체된 GPT 스토어 트래픽을 끌어올리려는 목적이다.
뉴욕타임스가 편집국 내 생성형 AI 활용을 모색할 전담 팀 구축을 시작했다. 엔지니어와 디자이너, 편집자가 참여하는 특수 조직 형태로 취재 지원 프로토타입을 개발할 예정이다. 오픈AI와 소송을 진행 중인 상황에서도 내부 기술 도입에 나섰으나, 기사 작성은 계속 인간 기자가 맡는다는 원칙을 재확인했다.
더 브라우저 컴퍼니가 브라우저와 검색 엔진, AI를 결합한 iOS 앱 '아크 서치(Arc Search)'를 출시했다. '브라우즈 포 미(Browse for me)' 버튼을 누르면 AI가 여러 웹사이트를 직접 훑어본 뒤 핵심 정보만 정리한 맞춤형 페이지를 생성해 준다. 오픈AI 모델 등을 활용해 검색 경험을 재정의했으나, 출처 표기 등의 과제도 남아 있다.
오픈AI가 신규 임베딩 모델인 text-embedding-3-small과 large를 출시했다. 검색 성능이 대폭 개선되고 차원을 줄여 저장 비용을 아낄 수 있으며, 소형 모델 가격은 전작 대비 5분의 1로 낮췄다. 또한 GPT-3.5 터보 입력 비용을 50% 인하하고 코드 생성 시 태만 문제를 개선한 새 GPT-4 터보 프리뷰를 배포했다.
블룸버그에 따르면 오픈AI 샘 알트만 CEO가 소프트뱅크 및 아부다비 G42 등과 접촉하며 약 1000억 달러 규모의 AI 반도체 생산 팹 네트워크 구축을 추진 중입니다. 코드명 '티그리스(Tigris)'로 알려진 이번 프로젝트는 칩 설계부터 자체 제조까지 아우르며 엔비디아 의존도를 낮추는 것을 목표로 합니다.
목요일 오픈AI는 애리조나주립대(ASU)와 첫 고등교육 파트너십을 맺었다고 발표했다. ASU는 2월부터 챗GPT 엔터프라이즈를 전면 도입해 맞춤형 AI 튜터 구축과 연구에 활용할 예정이다. 학교 측이 입력한 데이터는 모델 학습에 사용되지 않는다.
샘 올트먼 OpenAI CEO는 다보스 인터뷰에서 미래 AI는 이용자 개인의 가치관에 따라 서로 다른 답을 주는 맞춤형 방식으로 발전할 것이며, 이는 많은 사람을 불편하게 만들 수 있다고 밝혔다. 또한 현재 최우선 과제는 차기 모델 GPT-5 출시라고 덧붙였다.