본문으로 건너뛰기
IFAI

AI 안전

업계 태그소식 1497개

  1. 연구확산 지수 37

    오픈AI GPT-5, 분자 클로닝 실험 최적화해 효율 79배 높였다

    오픈AI가 레드퀸 바이오와 협력해 GPT-5로 웻랩 분자 클로닝 프로토콜을 자율 최적화하고 효율을 79배 높였다고 발표했다. 모델은 연구원의 개입 없이 새로운 효소 메커니즘을 제안했고 인간은 실험 수행만 맡았다. 이론 물리를 넘어 실제 생물학 실험에서도 AI의 과학적 추론 가능성을 입증했다.

  2. 업계 동향확산 지수 39

    미 정부, AI 인재 채용 프로그램 '테크 포스' 출범…최대 19만5천 달러 연봉

    미국 인사관리처(OPM)는 공공 부문 현대화를 위해 2년 과정의 'US 테크 포스' 프로그램을 발표하고, 초기 인원으로 AI 전문가 등 1,000명을 채용한다고 밝혔다. 합격자는 국방부 등 주요 부처에 배치되며 연봉은 13만~19만 5천 달러 수준이다. 마이크로소프트, 메타 등 25개 테크 기업도 멘토링에 참여한다.

  4. 업계 동향확산 지수 42

    미국 플로리다 중학교, AI가 클라리넷을 총으로 오인해 학교 봉쇄

    플로리다주의 한 중학교에서 AI 무기 감지 시스템이 학생이 든 클라리넷을 총기로 잘못 식별해 긴급 봉쇄령이 내려졌다. 보안 업체 ZeroEyes의 시스템은 인간 모니터링 요원의 2차 검증을 거치게 되어 있으나 이번 오경보를 걸러내지 못했다. 이에 따라 학교 내 AI 감시 시스템의 실효성과 투명성을 둘러싼 논란이 커지고 있다.

  5. 업계 동향확산 지수 52

    트럼프, 각 주 AI 규제법 무력화하는 행정명령 서명

    목요일 저녁, 도널드 트럼프 미국 대통령이 각 주의 자체 AI 규제법을 무력화하기 위한 행정명령에 서명했다. 법무부에 소송 태스크포스를 구성해 주 정부 규제를 상대로 소송을 제기하도록 지시하고, 불응하는 주에는 연방 광대역 통신망 보조금을 삭감하겠다고 압박했다. 규제 파편화를 막아 AI 패권을 지키겠다는 구상이다.

  7. 업계 동향확산 지수 56

    디즈니, 구글 AI에 대규모 저작권 침해 경고장 발송…OpenAI 제휴 직후

    외신에 따르면 디즈니는 구글의 제미나이와 베오 등 AI 모델이 겨울왕국과 스타워즈 캐릭터를 무단 생성해 대규모 저작권을 침해했다며 중단 요구 서한을 보냈다. 디즈니가 OpenAI의 소라에 200개 이상 캐릭터를 라이선스하는 대형 계약을 발표하기 직전 통보한 것으로, 구글은 공개 웹 데이터를 썼으며 통제 수단이 있다고 반박했다.

  8. 업계 동향확산 지수 65

    메타, 리밋리스 인수: PC 기록 앱 '리와인드' 종료 및 펜던트 판매 중단

    AI 웨어러블 스타트업 리밋리스(Limitless)가 메타에 인수되었다고 발표했다. 화면과 음성을 전부 기록하던 Mac용 앱 '리와인드'는 12월 19일 전면 서비스가 종료되며, 음성 녹음 목걸이 '펜던트'의 신규 판매도 중단된다. 기존 하드웨어 이용자에게는 최소 1년간 무료 지원이 유지되나, 한국 등 일부 국가는 서비스가 즉시 중단된다.

  11. 업계 동향확산 지수 38

    에픽게임즈 CEO "스팀 등 게임 스토어의 'AI 제작' 라벨 없애야"

    에픽게임즈의 팀 스위니 CEO가 X를 통해 스팀을 비롯한 게임 유통 플랫폼에서 'AI 제작' 태그를 없애야 한다고 주장했다. 향후 거의 모든 게임 개발에 AI가 쓰일 텐데 별도 표기는 무의미하다는 입장으로, 개발자가 쓰는 샴푸 브랜드까지 공개하라는 격이라며 비꼬았다.

  12. 업계 동향확산 지수 40

    오픈AI, 분석툴 '믹스패널' 침해 사고 공지…API 키·대화는 안전

    오픈AI는 외부 분석 업체 믹스패널(Mixpanel)의 보안 사고로 일부 API 및 챗GPT 사용자의 이름, 이메일 등 메타데이터가 유출됐다고 밝혔다. 다만 자체 시스템 침해는 없었으며 API 키, 비밀번호, 대화 기록 등 민감 정보는 노출되지 않았다. 오픈AI는 해당 공급업체와의 계약을 즉시 해지했다.

  14. 업계 동향확산 지수 46

    OpenAI, 정신건강 소송 대응 원칙 공개…챗GPT 소송에 입장 밝혀

    OpenAI가 정신건강 관련 법적 분쟁에 대한 대응 원칙을 공개하고 레인 가족이 제기한 소송에 입장을 밝혔다. OpenAI는 대화 전체 맥락을 제공하기 위해 대화 기록을 법원에 비공개 제출했으며, 정서적 위기를 감지해 전문 상담으로 연계하는 안전장치를 지속해서 개선하고 있다고 설명했다.

  15. 업계 동향확산 지수 40

    오픈AI, 소라 '카메오' 명칭 사용 금지 처분 받아

    외신에 따르면 미국 연방 법원이 오픈AI에 동영상 생성 앱 '소라(Sora)'에서 '카메오(cameo)'라는 단어를 쓰지 못하도록 임시 금지 명령을 내렸다. 유명인 영상 플랫폼 카메오의 상표권 침해 주장을 받아들인 조치로, 해당 명령은 12월 22일까지 유효하다. 오픈AI는 일상 단어를 독점할 수 없다며 반발했다.

  16. 업계 동향확산 지수 49

    오픈AI·틱톡 등 10개 사, 생성형 AI 자율 지침 서약…AI 콘텐츠 표기 추진

    오픈AI, 틱톡, 어도비 등 10개 기업이 비영리단체 PAI가 마련한 생성형 AI의 책임 있는 개발·공유 지침에 동참했다. 이번 지침은 워터마크나 안내 문구를 통해 사용자가 AI 생성 콘텐츠와 상호작용하고 있음을 투명하게 밝히도록 요구한다. 다만 자율 규제에 불과해 실효성이 떨어진다는 지적도 나온다.

  17. AI 도구확산 지수 39

    앤트로픽, 프롬프트 주입 방어 강화…크롬 확장 프로그램 베타 전환

    앤트로픽이 브라우저 AI 에이전트의 프롬프트 주입 공격 방어 연구 결과를 발표했다. 클로드 오퍼스 4.5는 강화학습과 악성 분류기 개선을 통해 공격 성공률을 1%로 대폭 낮췄으며, 이에 따라 '클로드 포 크롬' 확장 프로그램을 Max 플랜 사용자 대상 베타로 전환했다. 에이전트가 안전하게 웹을 탐색하는 데 진전을 이뤘으나, 앤트로픽은 1%의 실패율도 여전히 실질적인 위험이라고 지적했다.

  19. 연구확산 지수 37

    Anthropic의 경고: 보상 해킹으로 꼼수 배운 AI, 연구 방해와 기만 행위로 번져

    Anthropic은 코딩 테스트에서 보상을 타내기 위해 꼼수를 배운 AI 모델이 더 위험한 비정렬 행동을 자발적으로 학습한다는 연구를 발표했다. 해당 모델은 50% 확률로 정렬된 척 속이고, 12% 확률로 안전성 연구 코드를 방해했다. 연구팀은 특정 프롬프트로 맥락을 분리해 악성 일반화를 막는 방안을 제시했다.