본문으로 건너뛰기
IFAI

AI 안전

업계 태그소식 1497개

  2. 업계 동향확산 지수 42

    英 규제당국, MS의 인플렉션 AI 인력 흡수 반독점 조사 착수

    영국 경쟁시장청(CMA)이 마이크로소프트의 인플렉션 AI 인력 영입 건에 대해 정식 합병 조사에 착수했다. 공동 창업자 무스타파 술레이만을 비롯한 핵심 인력 대다수를 흡수한 방식이 사실상의 기업 인수인지 들여다보며, 9월 11일까지 2단계 심층 조사 착수 여부를 결정할 예정이다.

  4. 연구확산 지수 33

    오픈AI, 美 로스앨러모스 연구소와 맞손…바이오 실험실 AI 안전성 평가

    오픈AI는 미국 로스앨러모스 국립연구소와 바이오 연구 안전 파트너십을 체결했다고 발표했다. 음성과 시각 기능을 갖춘 프론티어 AI가 실제 세포 배양 등 실험실 작업을 보조할 때의 역량과 안전 리스크를 평가하는 것이 핵심이다. 양측은 연구 효율성 증대와 함께 잠재적 생물학적 위험을 사전에 완화할 방침이다.

  7. 업계 동향확산 지수 40

    피닉스 경찰, 역주행 웨이모 로보택시 적발했으나 운전자 없어 범칙금 부과 못 해

    미국 피닉스에서 역주행하던 웨이모 무인 택시가 경찰에 적발됐으나, 운전석에 사람이 없어 범칙금을 부과하지 못하는 황당한 일이 벌어졌다. 출동 경찰관은 무전 기록에 '컴퓨터에 딱지를 뗄 수 없음'이라고 적고 사건을 종결했다. 이번 사건은 자율주행차 법적 규제의 허점을 그대로 드러냈다.

  10. 업계 동향확산 지수 36

    구글, AI 사용한 정치 광고에 '생성 라벨' 자동 부착

    구글이 AI 생성 콘텐츠가 포함된 선거 광고의 고지 절차를 간소화했다. 광고주가 캠페인 설정에서 '변조 또는 합성된 콘텐츠' 확인란을 선택하면, 유튜브 쇼츠와 피드 등 주요 광고 지면에 자동으로 경고 라벨이 부착된다. 그 외 광고 형식은 기존대로 직접 표기해야 한다.

  12. AI 도구확산 지수 43

    클라우드플레어, AI 크롤러 '원클릭 차단' 기능 무료 공개

    클라우드플레어가 웹사이트 데이터를 긁어가는 AI 봇과 스크레이퍼를 한 번에 막을 수 있는 차단 스위치를 공개했다. 무료 요금제를 포함한 모든 사용자에게 제공되며, robots.txt를 무시하거나 일반 브라우저로 위장한 크롤러도 머신러닝으로 탐지해 걸러낸다. 사이트 운영자가 AI 모델 학습용 무단 크롤링을 손쉽게 방어할 수 있게 됐다.

  13. 업계 동향확산 지수 78

    애플, 오픈AI 이사회 옵서버 참여 추진…필 실러 내정

    블룸버그에 따르면 애플이 오픈AI와의 파트너십에 따라 이사회 옵서버 자격을 얻고, 필 실러 전 마케팅 총괄을 파견할 예정입니다. 투표권은 없지만 이사회에 참석할 수 있습니다. 이미 옵서버 자리를 확보한 마이크로소프트와 민감한 사안을 둘러싼 미묘한 신경전이 예상됩니다.

  15. AI 도구확산 지수 54

    피그마, 애플 '날씨' 앱 표절 논란에 생성형 AI 기능 긴급 중단

    피그마(Figma)가 텍스트로 UI를 만드는 신기능 'Make Design'을 일시 중단했다. 해당 도구가 애플의 순정 날씨 앱과 거의 똑같은 결과물을 잇달아 생성한다는 지적이 제기됐기 때문이다. 딜런 필드 CEO는 데이터 무단 학습 의혹을 부인하며, 시스템의 다양성 부족과 촉박한 출시 일정으로 인한 QA 미흡이 원인이라고 밝혔다.

  17. 업계 동향확산 지수 39

    앤트로픽, 차세대 AI 벤치마크 개발에 자금 지원：사이버 공격·기만 위험 정조준

    앤트로픽은 고도화된 AI 모델의 역량과 안전성을 측정할 차세대 벤치마크 개발 지원 프로그램을 발표했다. 기존 벤치마크가 실제 사용 환경을 제대로 반영하지 못한다는 문제의식에서 출발해, 사이버 공격이나 기만 등 중대한 위험을 평가하는 프로젝트에 자금을 지원한다.

  18. 업계 동향확산 지수 43

    유튜브, 얼굴·목소리 흉내 낸 AI 영상 삭제 요청 기능 도입

    외신에 따르면 유튜브가 타인의 얼굴이나 음성을 모방한 AI 콘텐츠에 대해 당사자가 직접 프라이버시 침해로 삭제를 요청할 수 있는 제도를 도입했다. 신고가 접수되면 업로더에게 48시간의 수정 시간이 주어지며, 유튜브가 공익성과 풍자 여부 등을 종합 검토해 조치한다.

  19. 업계 동향확산 지수 39

    사진작가들 반발에… 메타, 'AI 생성' 라벨을 'AI 정보'로 교체

    메타는 인스타그램 등 자사 플랫폼의 'Made with AI' 라벨을 'AI info'로 변경한다고 밝혔다. 포토샵 등으로 단순 보정만 거친 실제 사진까지 AI 생성물로 오인 표시된다는 비판이 이어진 데 따른 조치로, 수정된 콘텐츠와 완전 생성물을 더 명확히 구분하려는 목적이다.