본문으로 건너뛰기
IFAI

AI 안전

업계 태그소식 1497개

  3. 오픈소스확산 지수 47

    앤트로픽, AI 감사 도구 'Petri' 오픈소스 공개: 모델 일탈 행위 자동 검증

    Anthropic은 AI 안전성 감사 도구 Petri를 오픈소스로 공개했습니다. 감사 에이전트가 다중 턴 대화를 시뮬레이션해 기만, 자기보존 등 모델의 위험 행동을 자동으로 탐지하고 점수를 매깁니다. 14개 첨단 모델을 테스트한 결과 Claude Sonnet 4.5가 GPT-5를 제치고 가장 위험도가 낮은 것으로 나타났습니다.

  5. 이미지·영상 생성확산 지수 51

    오픈AI 동영상 앱 '소라', 출시 직후 저작권 침해 논란…포켓몬·스폰지밥 영상 범람

    CNBC에 따르면 오픈AI가 이번 주 선보인 동영상 생성 앱 '소라'가 앱스토어 1위에 올랐으나, 포켓몬과 스폰지밥 등 유명 캐릭터 영상이 쏟아지며 저작권 소송 위기에 직면했다. 오픈AI는 권리자 요청 시 차단 및 삭제 지원 방침을 밝혔으나, 사전 허락 없는 활용 방식에 대한 법적 비판이 거세지고 있다.

  6. 업계 동향확산 지수 56

    메타, AI 챗봇 대화 데이터로 맞춤형 광고 띄운다

    메타가 메타 AI 및 스마트 안경 등 AI 제품과의 대화 데이터를 페이스북과 인스타그램 맞춤형 광고에 활용하겠다고 발표했다. 12월 16일부터 적용되며, 한국·EU·영국 등 규제 지역을 제외한 일반 이용자는 데이터 수집을 거부(옵트아웃)할 수 없다.

  7. AI 도구확산 지수 38

    구글 드라이브, AI 기반 랜섬웨어 탐지 및 복구 기능 탑재

    구글이 데스크톱용 구글 드라이브에 AI 기반 랜섬웨어 탐지 기능을 공개했다. 전용 모델이 파일 대량 암호화 시도를 감지하면 클라우드 동기화를 즉시 중단하고 클릭 몇 번으로 이전 버전 복구를 지원한다. 현재 공개 베타로 제공되며 기본 활성화된다.

  9. AI 도구확산 지수 61

    OpenAI, 청소년 보호 위한 ChatGPT 자녀 보호 기능 출시

    OpenAI가 ChatGPT에 보호자 제어 기능을 도입했다. 부모 계정과 청소년 자녀 계정을 연동해 학습 모드 고정, 이용 제한 시간 설정, 음성 및 이미지 생성 비활성화를 적용할 수 있다. 자해 위험 신호 감지 시 부모에게 긴급 알림도 전달된다.

  10. 업계 동향확산 지수 39

    오픈AI, 아동 성착취물 차단 대책 발표…신종 악용 패턴 공개

    오픈AI가 자사 모델을 악용한 아동 성착취물(CSAM) 차단 조치와 새로운 악용 수법을 공개했다. 톤(Thorn)의 해시 매칭 및 분류 기술을 활용해 유해 업로드를 걸러내고 적발 시 NCMEC 신고와 계정 차단을 진행한다. 창작 스토리로 규제를 우회하려는 시도 등을 공유하며 법적 지원도 촉구했다.

  12. 업계 동향확산 지수 36

    샘 올트먼 "2030년 전 초지능 등장…AI가 업무 40% 대체할 것"

    샘 올트먼 오픈AI CEO는 베를린 인터뷰에서 2030년 전 인간을 뛰어넘는 초지능이 등장할 것이라고 예측했다. 또한 머지않은 미래에 전체 업무의 30~40%를 AI가 대신할 것이라면서도, 인간 가치에 맞게 정렬한다면 AI가 인류를 위협하지는 않을 것이라고 덧붙였다.

  16. 업계 동향확산 지수 42

    스포티파이, AI 스팸 음원 7500만 곡 삭제…무단 음성 복제 단속 나선다

    스포티파이가 AI 저질 콘텐츠와 부정 스트리밍에 대응하는 보호 조치를 발표하며 지난 1년간 7500만 곡이 넘는 스팸 트랙을 삭제했다고 밝혔습니다. 아티스트 승인 없는 AI 음성 복제를 금지하고 가을부터 스팸 필터를 도입해 로열티 탈취를 막으며, 곡 크레딧에 AI 기여도를 표기하는 표준화도 추진합니다.