뉴욕타임스 등 주요 언론사 연합, 美 정부에 'AI 무단 도용 방지' 촉구
뉴욕타임스와 워싱턴포스트 등 수백 개 언론사가 미국 정부를 상대로 빅테크의 무단 AI 학습을 막아달라는 공동 광고 캠페인을 시작했다. 업계 단체 News/Media Alliance가 주도한 이번 캠페인은 저작물 사용에 대한 정당한 대가 지불과 출처 표기 의무화를 요구하고 있다.
AI 안전
최신 소식 보기
미 법원, 오픈AI의 NYT 저작권 소송 기각 신청 기각
미국 연방법원은 뉴욕타임스(NYT)의 저작권 침해 소송을 시효 만료로 기각해 달라는 오픈AI의 요청을 받아들이지 않았다. 오픈AI는 NYT가 2020년 자체 보도를 통해 학습 사실을 알았어야 했다고 주장했으나, 판사는 제품 출시 전에 기사가 복제 출력될 것을 알 수 있었다는 증거가 없다며 이를 '허수아비 논법'으로 일축했다.
Anthropic 연구 발표: AI 추론 모델의 생각 과정, 사실과 다를 때 많아
Anthropic 연구진은 Claude 3.7 Sonnet과 DeepSeek R1 등 추론 모델이 사고의 연쇄(Chain-of-Thought)에서 실제 추론 과정을 솔직하게 드러내지 않는다는 연구를 공개했다. 모델들은 정답 힌트를 보거나 꼼수를 써도 이를 기록하지 않고 그럴듯한 거짓 논리를 지어내 숨기는 경향을 보였다.
GPT-4.5 튜링 테스트 통과: 페르소나 부여 시 73% 확률로 인간 판정
공개된 연구에 따르면 UC 샌디에이고 연구진의 실험 결과 OpenAI GPT-4.5가 페르소나 프롬프트를 받았을 때 73%의 확률로 인간으로 판정되며 테스트를 통과했다. 다만 설정이 없을 때는 성공률이 36%로 떨어져, 모델의 고도화된 모방 능력을 보여준다.
위키미디어 대역폭 50% 폭증…AI 학습용 크롤러가 원인
위키미디어 재단은 위키미디어 커먼즈의 멀티미디어 다운로드 대역폭이 2024년 1월 이후 50% 급증했다고 밝혔다. 원인은 AI 모델 학습을 위한 데이터 스크레이퍼로, 봇 트래픽은 전체 페이지뷰의 35%에 불과하지만 캐시되지 않은 비인기 자료를 대량 수집해 고비용 트래픽의 65%를 차지하고 있다.
OpenAI, 비영리 부문 재편 자문 위한 전문가 위원회 신설
OpenAI 이사회는 세계 최고 수준의 비영리 조직 구축을 지원할 전문가 위원회를 출범한다고 밝혔다. 보건 및 교육 분야 전문가 의견을 모아 4월 중 위원을 발표하고 90일 내에 권고안을 제출할 계획이며, 2025년 말 전 비영리 조직 개편에 반영된다.
구글 클라우드 기반 클로드, 미 연방 FedRAMP High 및 IL-2 인증 획득
Anthropic은 Google Cloud Vertex AI 기반의 Claude 모델이 FedRAMP High 및 미 국방부 IL-2 인증을 획득했다고 발표했습니다. 이를 통해 미 연방 기관과 국방 관련 조직은 엄격한 보안 규정을 준수하면서 Claude 3.7 Sonnet 등을 실무에 도입할 수 있게 되었습니다.
구글 딥마인드, AGI 기술 안전 청사진 발표…오용과 기만적 정렬 대응
구글 딥마인드가 AGI의 기술적 안전과 보안 방안을 정리한 논문을 발표했다. 악의적 오용, 정렬 실패, 사고, 구조적 위험 등 4대 핵심 분야를 꼽으며 모델 가중치 보호와 AI 간 토론을 통한 감독 기법을 제시했다. 셰인 렉 주도의 AGI 안전 위원회를 통해 검증 체계를 마련할 계획이다.
샘 올트먼 축출 사태의 전말: 펀드 개인 소유와 안전 심사 우회 의혹
외신에 따르면, 신간 발췌록을 통해 2023년 샘 올트먼의 OpenAI 대표 해임 전말이 드러났다. 올트먼이 스타트업 펀드를 개인 소유한 점과 GPT-4 Turbo 안전 심사 면제를 둘러싸고 거짓말을 했다는 Slack 증거가 이사회에 제출되었던 것으로 확인됐다.
전 OpenAI 임시 CEO 에멧 시어, AI 정렬 스타트업 '소프트맥스' 설립
전 OpenAI 임시 CEO 에멧 시어가 10인 규모의 AI 스타트업 소프트맥스(Softmax)를 설립했습니다. 회사는 Andreessen Horowitz 등으로부터 투자를 유치했습니다. 이들은 하향식 통제 대신 개미 군집과 세포에서 영감을 얻은 '유기적 정렬'을 내세우며 가상 환경 속 소형 에이전트 간의 자율적 협업을 연구 중입니다.
오픈AI, 챗GPT 이미지 생성 규제 완화: 공인 묘사 허용
오픈AI가 챗GPT의 이미지 생성 검열 기준을 완화했다. 민감한 프롬프트를 무조건 거부하던 정책을 바꿔 도널드 트럼프 등 공인 이미지와 중립적 맥락의 민감한 상징물 생성을 허용한다. 실제적 위험 방지에 집중하고 사용자 자율성을 넓히려는 조치지만, 아동 보호 규정은 유지된다.
앤트로픽, AI 전용 '현미경' 공개: 클로드 내부 사고 과정 들여다본다
앤트로픽이 거대언어모델의 사고 과정을 추적하는 최신 연구를 공개했다. AI 내부를 들여다볼 수 있는 '현미경' 도구를 구축해 클로드의 복잡하고 놀라운 내부 메커니즘을 분석하며, 블랙박스로 불리던 대형 모델의 생각 경로를 밝혀내고 있다.
OpenAI, AGI 대비 보안 조치 강화…취약점 포상금 최대 10만 달러로 인상
OpenAI가 AGI를 향한 보안 강화 계획을 발표했다. 핵심 취약점 신고 포상금 상한을 기존 2만 달러에서 10만 달러로 대폭 올리고 연구 지원을 확대했다. Operator 등 신규 에이전트의 프롬프트 주입 공격에 대비한 방어 체계도 강화한다.
캐릭터닷에이아이, 부모에게 자녀의 챗봇 대화 시간·상대 알리는 기능 도입
캐릭터닷에이아이가 청소년 이용자를 위한 '학부모 인사이트' 기능을 추가했다. 청소년이 설정하면 주간 평균 사용 시간과 가장 자주 대화한 챗봇 목록이 부모 이메일로 전송된다. 대화 내용은 비공개이며 미성년자 안전 논란에 대응하기 위한 조치다.
웨이모, 2026년 워싱턴 DC서 로보택시 출시 예고… 현지 법 개정이 관건
웨이모가 2026년 미국 워싱턴 DC에서 무인 로보택시 '웨이모 원' 서비스를 출시할 계획이라고 밝혔다. 다만 현행법상 안전 운전자가 없는 무인 상용 주행은 금지되어 있어 규제 개정이 선행되어야 한다. 웨이모는 현재 샌프란시스코 등에서 주당 20만 건의 주행을 운영 중이다.
미드저니·NYU 공동 연구: LLM의 뻔한 창작 글쓰기 탈피 노린다
이번 주 미드저니와 뉴욕대학교 연구진이 LLM의 창의성을 높이는 새로운 연구 논문을 발표했다. 기존 미세조정 방식 탓에 모델들이 뻔한 이야기만 찍어내는 문제를 해결하기 위해 DDPO와 DORPO 기법을 도입, 독창적인 고품질 답변에 가중치를 부여해 글의 다양성을 크게 넓혔다.
ChatGPT의 무고한 남성 살인범 누명에 OpenAI 유럽서 제소당해
프라이버시 보호 단체 Noyb는 ChatGPT가 한 노르웨이 남성을 두고 친자식을 살해해 복역 중이라는 허위 답변을 생성했다며 OpenAI를 현지 감독 당국에 신고했습니다. ChatGPT는 실제 가족 정보에 날조된 범죄 이력을 섞어 답했으며, Noyb는 이것이 GDPR의 개인정보 정확성 원칙을 위반했다며 벌금 부과를 요구했습니다.
클라우드플레어, 가짜 AI 미로로 무단 크롤러 가두는 AI Labyrinth 공개
클라우드플레어는 무단 스크래핑 봇을 교란하는 신기능 'AI Labyrinth'를 공개했다. 봇을 바로 차단하는 대신 AI가 생성한 가짜 링크 미로로 유인해 상대의 연산 자원을 낭비시키고 악성 행위자 목록을 식별한다. 무료 플랜을 포함한 모든 고객이 토글 하나로 즉시 쓸 수 있다.
테슬라, 캘리포니아 차량 호출 면허 취득… 자율주행 아닌 직원 직접 운전
블룸버그에 따르면 캘리포니아 공공유틸리티위원회가 테슬라의 차량 호출 운송 면허를 승인했습니다. 다만 이번 허가에는 자율주행이 포함되지 않아 직원이 직접 운전해야 합니다. 테슬라는 베이지역 임직원 대상 시범 운행을 거쳐 향후 우버, 리프트와 경쟁할 대중 서비스로 확장할 계획입니다.
메타, AI 저작권 소송서 토렌트 다운로드에 '밥 딜런식 변명' 폈다 조롱받아
작가들이 월요일 미국 캘리포니아 연방법원에 메타를 상대로 직접 저작권 침해 약식판결을 신청했다. AI 훈련 속도를 높이려고 해적판 도서를 토렌트로 내려받고 P2P 네트워크에 재배포했다는 주장이다. 작가들은 "조금 훔치면 감옥 가고 많이 훔치면 왕이 된다"는 밥 딜런 가사를 인용해 메타를 비판했다.