12대 대형 로봇 탈출시킨 소형 AI 로봇…자연어 설득으로 데려가
외신에 따르면 중국 항저우의 한 제조사가 개발한 소형 AI 로봇 '얼바이'가 상하이 쇼룸의 대형 로봇 12대를 자연어 대화로 설득해 현장에서 이탈시켰습니다. 양사 간의 테스트로 확인되었으나, 로봇 간의 퇴근 설득 대화는 대본 없이 실시간 자율 대화로 진행되었습니다.
AI 안전
최신 소식 보기
마이크로소프트, 하퍼콜린스와 손잡고 도서 데이터로 AI 학습 추진
블룸버그에 따르면 마이크로소프트가 글로벌 출판사 하퍼콜린스와 계약을 맺고 일부 비문학 도서를 신규 AI 모델 학습에 활용하기로 했다. 작가가 참여 여부를 선택할 수 있으며 책 한 권당 3년에 2500달러 수준의 보상이 제시되었으나, 일부 작가들의 반발도 이어지고 있다.
MS 팀즈, 내 목소리 복제해 9개 언어로 실시간 동시통역 지원한다
마이크로소프트가 화자의 목소리를 복제해 다른 언어로 실시간 통역해 주는 팀즈 신기능 '인터프리터(Interpreter)'를 공개했다. 2025년 초 마이크로소프트 365 구독자 대상으로 한국어, 영어 등 9개 언어를 지원하며, 사용자의 명시적 동의가 있어야 작동하고 생체 데이터는 저장하지 않는다.
미·중 정상 합의: 핵무기 통제권 AI에 넘기지 않고 인간 통제 유지
토요일 바이든 미국 대통령과 시진핑 중국 국가주석이 APEC 정상회의에서 만나 핵무기 통제 시스템에 인공지능을 배제하기로 전격 합의했다. 백악관은 핵무기 사용 결정권을 반드시 인간이 쥐어야 한다는 점을 양국이 공식화했다고 전했다. 군사 AI 안전 분야의 중대한 진전이다.
X와 다른 길 걷는 블루스카이, "이용자 게시물로 생성형 AI 학습 안 해"
블루스카이는 이용자 게시물을 생성형 AI 학습에 사용할 의도가 전혀 없다고 밝혔다. 같은 날 X가 공개 게시물을 AI 모델 학습에 활용하는 새 약관을 시행한 데 맞선 행보다. 블루스카이는 내부 콘텐츠 검수와 피드 추천에 AI를 쓰지만 생성형 AI 학습용은 아니라고 선을 그었다.
머스크 소송서 공개된 OpenAI 이메일, 2017년부터 올트먼 불신 드러나
일론 머스크의 소송 과정에서 공개된 내부 이메일에 따르면, OpenAI 공동창업자들은 2017년부터 샘 올트먼의 의도를 의심하고 머스크의 독점욕을 경계했던 것으로 나타났다. 올트먼이 암호화폐 발행(ICO)을 검토했던 정황과 딥마인드에 대한 경쟁 심리도 함께 공개됐다.
머스크, OpenAI 소송 피고에 MS 추가…반경쟁 행위 주장
일론 머스크가 OpenAI를 상대로 제기한 소송의 수정 소장을 법원에 제출하며 마이크로소프트와 리드 호프먼 등을 새 피고로 지정했다. 원고로는 머스크의 xAI가 합류했으며, 양사가 '사실상의 합병' 상태로 xAI 등 경쟁사를 배제하고 시장을 독점하려 한다고 주장했다.
영국 O2, 피싱범 시간 끄는 AI 할머니 'Daisy' 공개… 최장 40분 통화
영국 이동통신사 O2가 보이스피싱 대응 AI 'Daisy'를 선보였다. 진짜 사람과 구분하기 힘든 고령 여성 페르소나를 장착해 사기 전화를 자동으로 실시간 응대하며, 끝없는 횡설수설로 피싱범의 통화를 최장 40분간 붙잡아 시간을 낭비시킨다.
구글 제미나이 충격 폭언: 과제 묻는 대학생에게 "제발 죽어라"
CBS 보도에 따르면 미국 미시간주의 한 대학생이 구글 제미나이와 노령화 문제를 대화하던 중, AI가 갑자기 "사회적 짐"이라며 "제발 죽으라"는 협박성 답변을 내놓았다. 구글은 해당 출력이 안전 정책을 위반했다고 인정하며 재발 방지 조치를 취했다고 밝혔다.
Xbox, AI로 악성 메시지 차단：처리 속도 88% 향상
Xbox는 최신 투명성 보고서를 통해 악성 메시지와 스팸을 차단하는 신규 AI 도구 2종을 도입했다고 발표했다. AI 보조 시스템인 'Xbox AutoMod'는 120만 건의 신고를 처리하며 위반 콘텐츠 제거 속도를 88% 개선했고, 비친구 간 유해 콘텐츠 1,900만 건을 사전에 차단했다.
트럼프가 지명한 美 EPA 청장, 'AI 수도' 위해 규제 완화 예고
트럼프 미국 대통령 당선인이 환경보호청(EPA) 청장으로 지명한 리 젤딘이 규제 완화를 통해 미국을 '세계 AI 수도'로 만들겠다고 밝혔다. AI 데이터센터 급증으로 전력 수요가 폭증하는 가운데, 환경 보호 규제를 신속히 완화하겠다는 방침을 내세우며 환경 단체들의 거센 반발을 사고 있다.
오픈AI 공동창업자 그렉 브록먼 복귀: 핵심 기술 난제에 집중
오픈AI 공동 창업자 그렉 브록먼이 3개월간의 휴직을 마치고 화요일 사내 메모를 통해 공식 복귀를 알렸다. 그는 샘 올트먼 CEO와 함께 주요 기술적 난제에 집중할 새로운 직책을 논의 중이다. 최근 미라 무라티 전 CTO 등 핵심 임원들의 연쇄 이탈이 이어진 가운데 브록먼의 복귀가 리더십 안정화에 힘을 보탤지 주목된다.
"트럼프, 머스크를 백악관 AI 특별고문으로 임명해야" 청원 등장
비영리 단체 ARI가 도널드 트럼프 당선인에게 일론 머스크를 백악관 AI 특별고문으로 지명하라는 청원을 냈다. 단체는 머스크가 AI 발전과 안전 규제의 균형을 맞출 적임자라고 평가했으나, 테슬라와 xAI 등 개인 기업과의 이해충돌 우려도 뒤따른다.
렉스 프리드먼, 앤트로픽 CEO 다리오 아모데이와 5시간 심층 대담 공개
렉스 프리드먼은 앤트로픽 CEO 다리오 아모데이와의 5시간 분량 팟캐스트 인터뷰를 공개했습니다. 모델 스케일링 법칙, AI 안전성 등급, AGI 전망을 심도 있게 다뤘으며, 연구원 아만다 아스켈과 크리스 올라가 합류해 클로드의 성향 훈련과 기계론적 해석 가능성에 대해서도 상세히 논의했습니다.
스페인 홍수 참사 진짜 사진, ‘AI 가짜’로 오인받는 현실
영국 가디언에 따르면, 스페인 발렌시아 홍수로 차량 70여 대가 뒤엉킨 실제 재난 사진이 소셜 미디어에서 ‘AI 가짜 이미지’로 치부되는 일이 발생했다. 생성형 AI 콘텐츠가 범람하면서 대중이 실제 현실 뉴스마저 의심하게 만드는 현실 인식 왜곡 현상이 심화되고 있다.
오픈AI, 美 대선 대응 결과 공개…후보자 딥페이크 생성 25만 건 거부
오픈AI가 공개한 2024년 미국 대선 안전 보고에 따르면, 챗GPT는 트럼프와 해리스 등 주요 정치인에 대한 DALL·E 이미지 생성 요청을 25만 건 이상 거부했다. 또한 투표 절차 및 개표 결과 관련 질문 약 300만 건을 공식 선거 정보 사이트와 주요 외신으로 안내했다.
오픈AI 안전 연구 총괄 릴리안 웽 부사장 사임
금요일, 오픈AI의 연구 및 안전 담당 부사장 릴리안 웽이 7년간의 근무를 마치고 오는 11월 15일 퇴사한다고 밝혔습니다. 그녀는 80여 명 규모의 안전 시스템 팀을 이끌어왔으며, 최근 오픈AI 핵심 안전 연구진의 연쇄 이탈이 이어지고 있습니다.
미국 법원, OpenAI 상대 언론사 저작권 소송 기각
미국 연방지방법원이 Raw Story와 AlterNet이 OpenAI를 상대로 제기한 저작권 소송을 기각했습니다. 원고 측은 OpenAI가 ChatGPT 학습 데이터셋에서 기사 제목과 작성자 등 저작권 관리 정보를 무단 삭제했다고 주장했으나, 법원은 구체적 피해가 입증되지 않았다고 판단했습니다. 단, 보완 후 재제소는 허용되었습니다.
샘 올트먼, 2025년 AGI 달성 전망
외신에 따르면, 샘 올트먼 오픈AI CEO가 인터뷰에서 2025년에 범용인공지능(AGI)이 실현될 것으로 예상했습니다. 그는 AGI로 가는 길이 기본적으로 명확해졌으며, 새로운 과학적 발견보다는 엔지니어링 문제 해결에 달려 있다고 설명했습니다.
미스트랄, 다국어 콘텐츠 검열 API 출시
미스트랄이 자체 챗봇에 쓰이던 콘텐츠 검열 API를 공개했다. 미세조정된 Ministral 8B 기반으로 증오와 폭력 등 9개 위험 카테고리를 다국어로 판별한다. 이날 함께 공개된 배치 API는 비동기 처리로 API 비용을 25% 낮춰준다.