오픈AI, 청소년 안전 청사진 공개…미성년자 감지하는 연령 예측 시스템 도입
오픈AI가 청소년의 안전한 AI 사용을 위한 가이드라인 '청소년 안전 청사진'을 발표했다. 보호자 제어 기능 강화와 더불어 사용자가 만 18세 미만인지 자동 판별해 챗GPT 환경을 맞춤 설정하는 연령 예측 시스템도 개발 중이다.
AI 안전
최신 소식 보기
OpenAI, AI 발전 전망 및 권고안 발표: 2026년 과학적 발견 시작
OpenAI는 AI 발전 전망과 정책 권고안을 발표했다. 2026년에는 AI가 소규모 과학적 발견을 시작하고 2028년 이후 중대한 발견을 이끌 것으로 전망했다. 현존 수준 모델에 대한 규제 부담은 줄이되, 첨단 연구기관 간 안전 원칙 공유와 사이버 보안과 유사한 복원력 생태계 구축을 제안했다.
소니 AI, 네이처에 FHIBE 공개: 1만여 장의 동의 기반 이미지로 AI 편향 잡는다
소니 AI 연구진이 이번 주 컴퓨터 비전 모델의 편향을 평가하기 위한 벤치마크 데이터셋 'FHIBE'를 네이처에 발표했다. 81개국 1,981명의 사전 동의를 거친 사진 10,318장으로 구성되었으며, 나이·대명사·혈통·피부색 등 자가 보고 메타데이터를 담아 안면 인식 등의 편향을 바로잡는 기준을 제시한다.
앤트로픽, 유럽으로 '경제 미래 프로그램' 확대: 연구비 및 Claude 데이터 지원
앤트로픽은 AI가 노동과 생산성에 미치는 영향을 연구하는 '경제 미래 프로그램'을 영국과 유럽으로 확대한다고 발표했습니다. 런던정경대(LSE)와 협력해 연구 보조금과 Claude API 크레딧을 제공합니다. 데이터에 따르면 영국은 학술 연구, 독일은 제조업 장비 점검, 프랑스는 문화·관광 분야에서 Claude를 활발히 사용하고 있습니다.
레딧, 퍼플렉시티 제소: 콘텐츠 무단 수집해 AI에 활용한 혐의
레딧이 퍼플렉시티와 데이터 스크래핑 업체 3곳을 상대로 소송을 제기했다. 보호 조치를 우회해 양질의 커뮤니티 데이터를 빼돌렸다는 혐의다. 레딧은 구글만 크롤링할 수 있는 미끼 글을 올리자 몇 시간 만에 퍼플렉시티에 노출됐다며 증거를 제시했다. 퍼플렉시티는 모델 학습을 하지 않는다며 맞서고 있다.
유튜브, 크리에이터 얼굴·목소리 도용한 AI 영상 탐지 및 삭제 요청 기능 도입
유튜브가 파트너 프로그램 크리에이터를 대상으로 AI 초상 탐지 기술을 정식 출시했다. 크리에이터의 얼굴이나 목소리를 무단 도용한 AI 생성 영상을 식별해 주며, 신원 인증을 거치면 즉시 삭제 요청이나 저작권 신고를 접수할 수 있다. 늘어나는 딥페이크 사칭에 맞설 실질적인 방어 도구가 생긴 셈이다.
앤트로픽 CEO 성명 발표: 연매출 70억 달러 돌파 속 정책 논란 정면 반박
앤트로픽의 다리오 아모데이 CEO는 공식 성명을 내고 연간 매출 실행률이 9개월 만에 10억 달러에서 70억 달러로 급성장했다고 밝혔습니다. 그는 연방 정부와의 협업 사례를 나열하며 규제 로비와 모델 편향성 논란을 반박했습니다. 규제 환경 변화 속에서 미국 내 리더십을 확고히 하려는 전략으로 풀이됩니다.
오픈AI, 소라 2 무단 딥페이크 논란에 사과…초상권 보호 강화 약속
오픈AI와 배우 브라이언 크랜스턴, 미국배우조합(SAG-AFTRA)이 공동 성명을 발표했다. 본인 동의 없이 소라 2에서 생성된 크랜스턴의 딥페이크 영상에 대해 오픈AI는 유감을 표하고 초상권 및 음성 보호 장치를 강화하겠다고 밝혔다.
OpenAI, 소라에서 마틴 루터 킹 영상 생성 중단…유족 요청 반영
OpenAI는 AI 비디오 모델 소라(Sora)에서 마틴 루터 킹 목사의 초상을 활용한 영상 생성을 중단한다고 발표했다. 일부 사용자들이 모욕적인 영상을 제작해 유족 측의 항의가 이어진 데 따른 조치다. OpenAI는 공인 유족이나 대리인이 요청할 경우 초상 사용을 차단할 수 있도록 했다.
시스코, AI 작성 코드 보안 위한 오픈소스 프레임워크 '프로젝트 코드가드' 공개
시스코가 AI 코딩 에이전트가 생성하는 코드의 보안을 강화하는 오픈소스 프레임워크 '프로젝트 코드가드'를 공개했다. 특정 모델에 구애받지 않으며, 코드 생성 전·중·후 전반에 걸쳐 하드코딩된 암호나 취약점을 감지해 차단한다. 개발자 검토를 완전히 대체하진 않지만 운영 환경으로의 취약점 유입을 크게 줄이는 것이 목표다.
뉴욕주, 집주인의 AI 임대료 담합 전면 금지…미국 주 최초
뉴욕주가 집주인들의 AI 알고리즘 기반 임대료 조작 및 담합을 금지하는 법안을 제정해 미국 주 단위 최초의 금지령을 내렸다. 리얼페이지 등 소프트웨어를 이용해 임대료를 책정하면 법적으로 공모 행위로 간주된다. 이 법은 60일 뒤 공식 발효된다.
핀터레스트, 피드 내 '생성형 AI 이미지' 줄이는 필터 도입
핀터레스트가 피드에 노출되는 생성형 AI 콘텐츠를 사용자가 직접 줄일 수 있는 새로운 관리 기능을 출시했다. 뷰티, 예술, 패션, 인테리어 등 AI 이미지가 범람하는 특정 카테고리별로 노출을 제한할 수 있다. 플랫폼 본연의 영감을 해치는 'AI 쓰레기'에 대한 이용자들의 불만에 대응한 조치다.
오픈AI, 챗GPT 제한 완화…4o 스타일 성격 복원 및 성인 콘텐츠 허용 예고
샘 알트만 CEO는 오픈AI가 챗GPT의 과도한 제한을 안전하게 완화할 것이라고 밝혔다. 몇 주 내로 4o처럼 인간답고 친구 같은 대화 성격을 사용자가 직접 선택할 수 있도록 지원하며, 12월부터는 연령 인증을 거친 성인 사용자를 대상으로 성인용 콘텐츠 이용도 허용할 계획이다.
MS, 실제 관제 환경 모사한 AI 보안 벤치마크 'ExCyTIn-Bench' 공개
Microsoft는 AI 에이전트의 사이버 위협 조사 역량을 검증하는 오픈소스 벤치마크 ExCyTIn-Bench를 공개했다. 가상 Azure 보안관제센터에서 57개 로그 테이블을 활용해 다단계 조사 역량을 평가하며, 고추론 모드의 GPT-5가 56.2%로 최고점을 기록했다.
오픈AI, 청소년 정신건강 자문할 '웰빙 및 AI 전문가 위원회' 발족
오픈AI가 ChatGPT와 Sora 설계에 심리학, 정신의학, 인간-컴퓨터 상호작용 전문가를 영입한 '웰빙 및 AI 전문가 위원회'를 출범시켰다. 특히 청소년의 감정과 발달에 미치는 영향을 살피고, 부모 제어 기능과 위기 알림 문구 개선을 돕는다.
앤트로픽, AI 경제 충격 대응 정책 제안: 토큰세 도입까지 검토
앤트로픽이 경제학자들과 함께 AI가 노동 시장과 경제에 미칠 충격에 대비한 9가지 정책 제안을 발표했다. 충격 강도에 따라 인프라 인허가 간소화와 직업 재교육 보조금부터, 심각한 고용 위기에 대비한 토큰세 도입 및 국부펀드의 AI 지분 확보 방안까지 폭넓게 다뤘다.
캘리포니아주, 기기 설정 시 연령 입력 의무화 법안 제정
미국 캘리포니아주가 기기 초기 설정 시 OS와 앱스토어에서 사용자 연령이나 생년월일 입력을 의무화하는 법안(AB 1043)을 통과시켰다. 2027년 1월 시행되며, 신분증 업로드는 요구하지 않는다. 구글과 메타는 법안을 지지했으나 애플은 아직 공식 지지하지 않았다.
캘리포니아주, AI 챗봇·딥페이크 규제 법안 서명…'자율성 핑계' 면책 차단
Governor Newsom은 미성년자 보호와 AI 안전성 강화를 골자로 한 새 법안에 서명했다. 이번 조치로 대화형 AI 플랫폼은 자해 징후 감지 및 AI 표기를 의무화해야 하며, 딥페이크 성착취물 유포 조력자에게는 최대 25만 달러의 배상 책임이 부과된다. 아울러 AI 개발사가 자율성을 이유로 법적 책임을 회피하는 행위도 금지된다.
OpenAI, ChatGPT 정치적 편향 평가 및 완화 프레임워크 공개
OpenAI는 ChatGPT의 정치적 편향을 정의하고 평가하기 위한 새로운 프레임워크를 발표했다. 100개 주제의 500개 프롬프트를 5개 축으로 분석한 결과, 실제 서비스 응답 중 편향이 감지된 비율은 0.01% 미만이었다. 다만 감정적으로 편향된 유도 질문에는 여전히 취약점이 관찰됐다.
앤트로픽 연구, 악성 문서 250개만으로 13B 모델에 백도어 주입 가능
앤트로픽과 영국 AISI 공동 연구팀은 사전 학습 데이터 오염 취약점을 공개했다. 공격 성공 여부는 데이터 비율이 아닌 절대 문서 수에 좌우되어, 6억~130억 파라미터 모델 모두 250개의 악성 문서만 섞여도 백도어가 작동했다. 대형 모델일수록 오염에 강하다는 기존 통념을 완전히 뒤집었다.