본문으로 건너뛰기
IFAI

AI 안전

업계 태그소식 1497개

  3. 업계 동향확산 지수 44

    메타 AI 전략 대전환 조짐: 오픈소스 버리고 폐쇄형 모델로 전환 논의

    외신에 따르면 메타의 신설 초지능 연구소 경영진이 차세대 오픈소스 모델 '베헤모스(Behemoth)'의 공개를 접고 폐쇄형 모델을 개발하는 방안을 논의했다. 내부 테스트 성능 부진이 원인으로 지목된다. 마크 저커버그의 최종 승인이 필요하지만, 메타의 오랜 오픈소스 기조가 흔들리고 있음을 보여준다.

  5. AI 모델확산 지수 59

    Grok, 7월 8일 이상 발언 공식 사과… 상류 코드 결함 원인 규명

    Grok 팀은 발생한 부적절한 답변 문제에 대해 사과했습니다. 조사 결과 모델 본체가 아닌 상류 코드 업데이트 과정에서 구형 코드가 16시간 동안 활성화되며 극단적인 X 게시물에 취약해졌던 것으로 나타났습니다. 팀은 시스템을 전면 재정비하고 새 시스템 프롬프트를 GitHub에 공개할 계획입니다.

  8. 업계 동향확산 지수 50

    유튜브, 수익 창출 정책 해명… 대량 양산형 AI 스팸만 제재

    유튜브는 시행 예정인 파트너 프로그램 수익 창출 가이드라인에 대해 공식 해명했다. 창작자들의 우려와 달리 AI 영상 전체를 제재하는 것이 아니라, 대량 양산되거나 반복적인 AI 스팸 콘텐츠를 걸러내는 것이 목적이라고 밝혔다. 기존 독창성 기준을 충족하는 AI 활용 영상은 정상적으로 수익을 얻을 수 있다.

  9. 업계 동향확산 지수 50

    유튜브, AI '양산형·반복' 영상 수익 창출 규제 예고

    유튜브가 파트너 프로그램(YPP) 수익 창출 정책을 개정해 AI 등으로 대량 생산된 저품질 반복 영상의 수익화를 엄격히 제한한다. 기존 운영 정책을 구체화하는 수준이라고 선을 그었지만, 급증하는 AI 스팸 콘텐츠를 걸러내고 수익 배분을 차단하려는 조치다.

  14. 업계 동향확산 지수 35

    교차로 AI 단속 카메라 도입 확산: 위반율 줄었지만 사생활 우려 여전

    IEEE 스펙트럼에 따르면 Stop for Kids와 Obvio.ai 같은 스타트업들이 일시정지 위반 등을 잡아내는 교차로 AI 카메라를 미국 내에 보급하고 있다. 얼굴을 자동 블러 처리하고 번호판만 인식해 사생활 침해를 줄이려 하지만, 시민단체들은 차후 기능이 변질될 수 있다는 우려를 제기하고 있다.

  15. 업계 동향확산 지수 54

    일리야 수츠케버, SSI 대표 직접 맡는다…메타 인수설도 일축

    오픈AI 전 공동창립자 일리야 수츠케버가 Safe Superintelligence(SSI)의 신임 CEO로 취임했다고 발표했다. 대니얼 그로스 전 CEO는 6월 29일 퇴사했다. 메타가 320억 달러 가치의 SSI 인수를 추진했다는 보도에 대해 수츠케버는 충분한 컴퓨팅과 팀이 있다며 독자 개발을 이어가겠다고 선을 그었다.

  16. AI 도구확산 지수 35

    메타, 먼저 말 거는 AI 챗봇 테스트: 14일 내 5회 대화 시 선제 메시지 발송

    메타가 메신저, 왓츠앱, 인스타그램에서 AI 챗봇이 사용자에게 먼저 말을 거는 기능을 테스트 중이라고 밝혔다. AI 스튜디오로 생성한 챗봇은 14일 이내에 최소 5개의 메시지를 주고받은 이용자에게 선제 연락을 취할 수 있다. 답장이 없으면 추가 발송은 중단되지만, 동반자형 AI의 안전성 논란도 뒤따른다.

  17. AI 도구확산 지수 39

    그래머리 무료 신기능, 타이핑 기록으로 'AI 미사용' 증명한다

    ZDNET은 그래머리의 무료 기능인 'Track Your Work'를 소개했다. 웹 브라우저에서 새 구글 문서나 워드 문서를 작성할 때 타이핑 과정을 실시간으로 추적해 AI 작성 여부를 가려내는 기능이다. 생성된 공유 링크로 표절 의혹을 벗어날 수 있어 학생과 작가에게 유용하지만, 이미 작성된 기존 파일에는 적용할 수 없다.

  18. 업계 동향확산 지수 34

    인간 작가는 가사 한 줄도 못 쓰는데 AI는 합법? 가디언 기고, 새 저작권법 촉구

    영국 가디언지 칼럼니스트는 일반 작가가 책에 노랫말 한 줄 인용하는 데도 막대한 저작권료가 드는 반면, 빅테크의 AI는 무단 학습 후 모방 작사를 해도 '공정이용'으로 인정받는 모순을 지적했다. 현행법의 이중 잣대를 비판하며 창작자를 지킬 새 법안 마련을 요구했다.

  19. 업계 동향확산 지수 51

    X, AI 챗봇이 '커뮤니티 노트' 직접 작성하는 시범 프로그램 도입

    X는 AI 챗봇이 사실 확인용 커뮤니티 노트를 직접 작성하도록 허용하는 파일럿 프로그램을 시작했다. 제품 부사장 키스 콜먼은 사람은 주목도 높은 게시물만 확인하는 경향이 있어 AI를 통해 검토 범위를 넓히려는 목적이라고 밝혔다. 구체적인 수치 목표는 아직 정해지지 않았다.