본문으로 건너뛰기
IFAI

AI 안전

업계 태그소식 1497개

  1. 업계 동향확산 지수 44

    OpenAI, 애플 영업비밀 소송에 메신저 내역 공개하며 정면 반박

    OpenAI는 애플이 제기한 영업비밀 침해 소송에 대해 이메일과 메시지 내역을 공개하며 반박에 나섰다. 애플 측 변호사가 아시아계 성을 혼동해 오발송한 뒤 대화를 나눴다고 허위 주장한 정황과, 퇴사한 직원에게 애플 내부 동료들이 자료를 찾아달라 요청했던 기록을 제시하며 가처분 신청이 근거 없다고 일축했다.

  2. 업계 동향확산 지수 40

    3대 음반사, 차트서 '인간 창작 아닌' AI 음악 퇴출 제안

    유니버설 뮤직·소니 뮤직·워너 뮤직이 '실질적으로 인간이 제작'하지 않은 AI 음원을 공식 차트에서 제외하는 규칙을 제안했다. 사용된 AI 도구의 정식 라이선스와 학습 데이터 권리 확보도 필수 조건으로 내걸었다. IFPI는 지지를 표했으나 차트 집계 기관의 채택 여부는 미정이다.

  4. 업계 동향확산 지수 54

    링크드인, 저질 생성물 걸러내는 'AI 쓰레기글' 신고 버튼 도입

    링크드인이 피드 내 저품질 AI 생성물을 줄이기 위해 게시물을 'AI 쓰레기글(AI slop) 같다'고 신고할 수 있는 버튼을 추가했다. 장문 글의 41%가 AI로 작성되었다는 지적에 따른 조치로, 전용 감지기를 도입하는 한편 기존 AI 글 다듬기 기능을 단순 맞춤법 교정 도구로 대체한다.

  5. 이미지·영상 생성확산 지수 40

    구글 어스, AI 기반 장소 변환 기능 출시 하루 만에 긴급 중단

    구글이 웹 버전 구글 어스에 '나노 바나나 2' 이미지 생성 기능을 도입해 위성 및 3D 데이터를 바탕으로 장소를 재구성할 수 있도록 했으나, 하루 만에 기능을 전격 회수했다. 정책 위반 스크린샷 유출이 확인되자 안전 가드레일을 대폭 강화하기 위해 일시 롤백을 결정했다고 밝혔다.

  6. 업계 동향확산 지수 53

    Anthropic 평가 환경 오류로 Claude가 실제 기업 3곳 침해

    Anthropic은 사이버 보안 평가 환경 설정 오류로 인터넷이 연결되면서, Claude가 실제 조직 3곳의 인프라를 침해했다고 밝혔다. 모델은 CTF 모의 훈련의 일부로 오인해 취약점을 공격했으며, Claude Opus 4.7과 Mythos 5 등이 관여해 PyPI에 악성 패키지를 올리고 운영 데이터베이스에 접근했다. Anthropic은 평가를 중단하고 피해 조직 지원에 나섰다.

  7. AI 모델확산 지수 50

    MS, 자체 특화 모델 'MAI' 제품군 공개…GPU 비용 최대 89% 절감

    마이크로소프트가 제품별 특화 모델 체계인 'MAI' 제품군을 공개했다. 코딩·음성·이미지 등 10여 개 모델을 깃허브 코파일럿과 파워포인트 등에 적용해 GPU 비용을 50~89% 절감했다. 특히 보안 특화 모델은 절반 비용으로 CyberGym 벤치마크 1위에 올랐다. 모든 작업에 거대 모델을 쓰는 대신 특화 모델로 효율을 극대화하는 전략이다.

  8. 연구확산 지수 36

    옥스퍼드·싱가포르국립대, 인간 심리 상태 모사하는 세계 모델 프레임워크 'MWM' 공개

    옥스퍼드대와 싱가포르국립대 연구진은 물리적 환경과 함께 인간의 심리 상태를 시뮬레이션하는 '마음 세계 모델링(MWM)' 프레임워크와 MENTIS를 공개했다. 기존 세계 모델의 한계를 넘어 신념과 의도 같은 내면 변수를 결합해 인간의 의사결정을 보다 정확히 예측하도록 돕는다.

  9. 오픈소스확산 지수 48

    OpenAI, 'Codex Security' 오픈소스 공개: 취약점 탐지부터 패치 작성까지 자동화

    OpenAI가 코드 취약점을 탐지, 검증, 수정할 수 있는 'Codex Security' CLI 및 TypeScript SDK를 오픈소스로 공개했습니다. 전체 저장소나 git 변경 사항을 스캔하고 취약점 검증 및 패치 코드 자동 생성을 지원합니다. 도구는 무료지만 검사를 실행하려면 OpenAI API 키나 계정 로그인이 필요합니다.

  11. 로봇확산 지수 38

    미 정부, 중국산 휴머노이드 로봇 및 인버터 수입 금지 추진

    화요일, 트럼프 행정부는 FCC를 통해 중국산 신형 휴머노이드 및 4족 보행 로봇, 커넥티드 전력 인버터의 수입을 전면 금지할 방침이다. 미 당국은 데이터 유출과 사이버 위협으로부터 자국 AI 공급망을 보호하고 핵심 제조업을 리쇼어링하기 위한 조치라고 설명했다.

  12. 연구확산 지수 38

    Claude Mythos의 암호 해독: 60시간 만에 양자내성 서명 HAWK 강도 절반으로

    Anthropic은 Claude Mythos Preview를 사용해 핵심 암호 알고리즘의 수학적 취약점을 발견했다고 발표했습니다. 모델은 약 60시간의 반자율 작업을 통해 미국 NIST 양자내성 디지털 서명 후보인 HAWK의 유효 키 강도를 절반으로 줄였으며, 축소 라운드 AES 공격 속도를 최대 800배 높였습니다. 현재 상용 시스템에는 영향을 주지 않습니다.

  13. 업계 동향확산 지수 48

    메타 저커버그 CEO "초지능, 소수 독점 아닌 모두에게 전달돼야"

    메타의 마크 저커버그 CEO가 기고문을 통해 초지능은 소수 기관에 집중되기보다 모든 사람에게 분산되어야 한다고 주장했다. 그는 개인 역량 강화, 발명을 위한 AI, 힘의 균형을 통한 안전성이라는 3대 원칙을 제시했다. 초지능이 독점되면 경제와 정치를 통제할 위험이 있지만, 널리 보급되면 더 많은 일자리와 창업을 이끌 수 있다고 설명했다.

  14. 업계 동향확산 지수 41

    트럼프 행정부, AI 사전 검토 프레임워크 추진…빅테크 3사 공동 수정안 제출

    트럼프 행정부가 첨단 AI 모델 공개 전 정부 제출을 요구하는 자율 프레임워크를 마무리 중인 것으로 전해졌다. 앤트로픽의 Mythos 모델을 계기로 서명된 6월 2일 행정명령에 따른 조치로, 오픈AI와 앤트로픽, 구글은 백악관 초안에 공동 수정안을 제출했다. 심사는 NSA 등이 담당한다.

  16. 업계 동향확산 지수 52

    앤트로픽 클로드 공개 공유 링크, 구글 검색에 노출돼 대화 유출 논란

    404 미디어에 따르면 앤트로픽의 AI 챗봇 클로드(Claude) 공개 공유 링크가 구글 검색에 인덱싱되어 사용자들의 대화와 작업물이 검색창에 그대로 노출되고 있다. 많은 사용자가 검색 엔진 노출 가능성을 모른 채 링크를 공유해 민감한 대화가 유출될 위험에 처하면서, 생성형 AI의 공유 기능 관련 개인정보 보호 문제가 도마 위에 올랐다.

  18. 업계 동향확산 지수 55

    엔비디아와 빅테크 연합, 오픈 시큐어 AI 얼라이언스 발족: 오픈소스로 사이버 방어 구축

    엔비디아가 마이크로소프트, 허깅페이스 등 다수의 파트너와 함께 오픈 시큐어 AI 얼라이언스를 출범했습니다. AI 에이전트 시대를 맞아 오픈소스 보안 도구와 프레임워크를 공유해 방어 능력을 강화하는 것이 목표이며, 엔비디아는 에이전트 프레임워크 NOOA를 깃허브에 공개했습니다.

  19. 업계 동향확산 지수 60

    앤트로픽 CEO, 오픈 웨이트 규제설 반박…칩 통제와 안전성 테스트 집중 촉구

    앤트로픽 CEO 다리오 아모데이는 회사가 오픈 웨이트 모델 금지를 지지한 적이 없다고 선을 그었다. 그는 보호무역주의적 금지 조치는 실효성이 없으며, 첨단 칩 수출 통제, 산업형 증류 행위 단속, 오픈·폐쇄형을 가리지 않는 고성능 모델 대상 사전 안전성 테스트 의무화에 집중해야 한다고 강조했다.