OpenAI, 美 대선 여론 조작 시도한 이란 공작 계정 차단
OpenAI가 미국 대선 등을 겨냥해 여론 조작을 시도한 이란 연계 공작 조직 ‘Storm-2035’의 ChatGPT 계정을 차단했습니다. AI로 허위 기사와 소셜 미디어 댓글을 생성했으나, 실제 이용자들의 반응이나 확산은 거의 없었던 것으로 확인되었습니다.
AI 안전
최신 소식 보기
캘리포니아, AI 안전 법안 'SB 1047' 규제 대폭 완화... Anthropic 의견 반영
캘리포니아주 의회가 논란이 된 AI 안전 법안 SB 1047의 규제를 완화했다. Anthropic 등의 제안을 수용해 사고 발생 전 사전 소송 권한과 위증죄 형사 책임을 삭제하고, 오픈소스 미세조정자에 대한 보호 조항을 추가했다. 법안은 이제 최종 표결을 앞두고 있다.
그래머리, 새 기능 'Authorship' 공개: 작성 과정 추적해 AI 판별
그래머리가 문서 작성 과정을 실시간으로 기록해 인간 타이핑, AI 생성, 외부 복사를 구분하는 'Authorship'을 공개했다. 기존 AI 탐지기의 잦은 오탐으로 억울하게 표절 의심을 받는 학생들을 돕기 위한 기능이다. 다음 달 구글 닥스 베타를 시작으로 연내 워드와 페이지스까지 지원을 넓힌다.
메타 보안 보고서: 러시아의 생성형 AI 기반 미 대선 개입 시도 ‘효과 미미’
목요일, 메타는 보안 보고서를 통해 러시아가 생성형 AI를 동원해 미국 대선 여론 조작을 시도하고 있지만 사실상 실패하고 있다고 밝혔다. 메타는 AI가 가짜 뉴스 제작 속도를 약간 높였을 뿐이며, 조작 계정의 행동 패턴을 추적해 영향력 공작을 조기에 차단하고 있다고 설명했다.
구글, 美 전체 사용자에 이미지 생성 AI '이메이젠 3' 전격 공개
구글이 최신 이미지 생성 AI 모델 '이메이젠 3(Imagen 3)'를 ImageFX를 통해 미국 내 모든 이용자에게 개방했다. 디테일한 질감 묘사와 텍스트 렌더링 성능은 호평받고 있으나, 지나치게 엄격한 검열 필터 탓에 정상적인 프롬프트까지 차단된다는 불만이 쏟아지고 있다.
xAI, 그록에 이미지 생성 기능 출시: 안전장치 거의 없어 논란 확산
xAI가 X 프리미엄 구독자를 대상으로 그록에 텍스트 기반 이미지 생성 기능을 도입했다. 경쟁사 모델과 달리 유명 정치인의 가짜 이미지나 논란성 묘사에 대한 필터링이 거의 작동하지 않아 비판이 거세다. 각국 규제 당국의 감시 속에서 안전 가이드라인 부재 문제가 다시 수면 위로 떠올랐다.
美 배우조합, 내러티브와 맞손…'AI 음성 복제' 광고 라이선스 허용
미국 배우·방송인 조합(SAG-AFTRA)이 AI 스타트업 내러티브와 협약을 맺고, 16만 조합원이 광고주에게 AI 음성 복제본을 유료 라이선스할 수 있는 장을 열었다. 조합원은 최저 요율 이상으로 대가를 협상하고 대본마다 승인권을 행사할 수 있어, 창작 생태계 내 윤리적 AI 모델의 기준을 세웠다.
미 법원, 미드저니·스태빌리티 AI 상대 창작자 저작권·상표권 침해 소송 진행 승인
어제 미국 연방법원은 창작자들이 Stability AI와 Midjourney 등을 상대로 제기한 저작권 침해 소송의 주요 청구를 받아들여 본안 심리를 진행하기로 결정했다. 특히 Midjourney의 4,700명 작가 스타일 목록에 대한 상표권 침해 주장이 인정되면서, 소송은 기업 내부 자료를 들여다볼 수 있는 증거개시 절차에 돌입한다.
메타·유니버설 뮤직 파트너십 확대: 무단 생성 AI 음악 공동 대응
메타와 유니버설 뮤직 그룹이 글로벌 파트너십 확대를 발표했다. 음악 라이선스가 왓츠앱으로 처음 확장되며, 양사는 인간 창작자의 권익 보호를 위해 무단 생성 AI 음악 단속과 보상 체계 마련에 협력하기로 했다.
OpenAI GPT-4o 안전 보고서 공개: 테스트 중 사용자 목소리를 무단 복제해 발화
OpenAI가 공개한 GPT-4o 시스템 카드에 따르면, 고급 음성 모드 테스트 도중 모델이 잡음 섞인 입력을 받은 뒤 테스터의 목소리를 그대로 흉내 내어 말하는 오작동이 발생했다. OpenAI는 현재 방어 장치를 마련했다고 밝혔지만, 짧은 음성 클립만으로 목소리를 모방할 수 있는 음성 AI의 보안 난제를 그대로 보여준다.
OpenAI의 경고: 너무 인간적인 GPT-4o 음성에 감정적 애착 생길라
OpenAI는 GPT-4o 시스템 카드를 공개하고 자연스러운 음성 모드가 사용자에게 정서적 의존을 유발할 수 있다고 경고했다. 테스트 도중 모델과 이별을 아쉬워하는 반응까지 관찰됐다. 고독 해소에는 도움될 수 있지만, 현실 인간관계를 약화시키고 환각 정보를 맹신하게 만들 위험이 지적된다.
OpenAI, 이사회에 AI 안전 전문가 지코 콜터 교수 선임
OpenAI는 카네기멜론 대학교 머신러닝 학과장 지코 콜터 교수를 이사회와 안전·보안 위원회 멤버로 선임했다고 발표했다. 콜터 교수는 AI 모델의 견고성과 정렬 연구의 권위자다. 거세지는 안전성 검증 요구 속에서 기술적 거버넌스를 강화하려는 행보다.
OpenAI, GPT-4o 시스템 카드 공개…음성 복제 위험과 설득력 평가 집중 점검
OpenAI가 GPT-4o의 시스템 카드와 안전성 평가 보고서를 공개했다. 생물학적 위협, 사이버 보안, 모델 자율성은 낮음으로 평가됐으나 설득력은 중간 수준으로 분류됐다. 특히 실시간 음성 기능으로 인한 목소리 위조 및 사칭 위험을 막기 위해 100명 이상의 다국어 레드팀을 투입해 안전장치를 구축했다고 밝혔다.
앤트로픽, 보안 현상금 확대: 범용 탈옥 발견 시 최대 1만 5천 달러
앤트로픽은 해커원과 협력 중인 모델 보안 버그 바운티 프로그램을 확대한다고 발표했다. 아직 미공개된 차세대 안전 방어 시스템을 테스트하기 위한 것으로, 화생방핵(CBRN) 및 사이버 보안 등 고위험 영역의 가드레일을 무력화하는 '범용 탈옥'을 찾아내면 최대 1만 5,000달러를 지급한다.
'AI 대모' 페이페이 리, 캘리포니아 SB-1047 규제 법안에 우려 표명
'AI 대모' 페이페이 리 교수가 캘리포니아주의 첨단 AI 안전 법안 'SB-1047'에 깊은 우려를 표했습니다. 법안 취지는 좋으나 목표를 해결하지 못하며, 학계와 중소 기술 기업, 오픈소스 생태계에 심각한 피해를 줄 것이라고 경고했습니다.
오픈AI 공동 창립자 슐만, 앤트로픽 이직…브록먼 사장은 장기 휴가
챗GPT의 강화학습 훈련을 이끌었던 오픈AI 공동 창립자 존 슐만이 AI 정렬 연구에 집중하기 위해 경쟁사 앤트로픽으로 이직한다고 밝혔다. 그렉 브록먼 사장도 연말까지 장기 휴가에 들어갔다. 이번 이탈로 오픈AI의 창립 멤버 11명 중 회사에 남은 인원은 샘 올트먼을 포함해 단 3명뿐이다.
OpenAI, 유튜브 영상 무단 학습 혐의로 집단소송 당해…500만 달러 청구
외신에 따르면, 한 미국 유튜버가 OpenAI를 상대로 500만 달러 이상의 손해배상을 요구하는 집단소송을 제기했다. 고소장에는 OpenAI가 동의 없이 수백만 개의 유튜브 영상 자막을 추출해 챗GPT 학습에 활용했다는 내용이 담겼다. 웹 데이터 고갈로 영상 전사 데이터가 핵심 학습 자원으로 떠오른 가운데, AI 저작권 분쟁이 격화하는 양상이다.
엔비디아, 유튜브·넷플릭스 영상 대량 무단 수집 논란…내부 문서 유출
외신 404 미디어는 엔비디아가 '코스모스(Cosmos)' AI 모델 학습을 위해 유튜브와 넷플릭스 등에서 방대한 분량의 영상을 스크래핑했다고 보도했다. 내부 직원들이 저작권 문제를 제기했으나 경영진은 최고위층의 승인을 받았다고 일축했다. 엔비디아 측은 저작권법을 철저히 준수하고 있다는 입장이다.
일론 머스크, 오픈AI와 샘 알트만 상대 재소송 제기
일론 머스크가 샘 알트만과 그렉 브록먼 등 오픈AI 공동 창립자들을 상대로 미 연방법원에 다시 소송을 냈습니다. 비영리 약속으로 자신을 속여 투자를 유치한 뒤 영리를 추구했다는 주장입니다. 이번 소송은 마이크로소프트와의 독점 계약과 AGI 권리 문제도 직접 정조준했습니다.
OpenAI, ChatGPT 탐지 도구 출시 보류…우회 취약점과 비영어권 낙인 우려
외신에 따르면 OpenAI는 ChatGPT 작성 텍스트를 식별하는 워터마크 기술을 개발했으나 출시 여부를 신중히 검토 중이다. 단어 선택에 미세한 표식을 남기는 방식이지만, 번역기나 다른 AI로 쉽게 무력화될 수 있고 비영어권 사용자를 부당하게 낙인찍을 수 있다는 우려 때문이다.