본문으로 건너뛰기
IFAI

AI 안전

업계 태그소식 1497개

  1. 업계 동향확산 지수 44

    법원 제출 문서서 드러난 속내, 구글 "오픈웹 급속히 쇠퇴 중" 인정

    더버지에 따르면 구글이 반독점 소송 문건에서 "오픈웹은 이미 급속한 쇠퇴기에 접어들었다"고 밝힌 것으로 나타났다. 이는 AI 검색 도입 후에도 웹 생태계가 건재하다는 공개 입장과 정면으로 배치된다. 구글 측은 해당 문장이 전체 웹이 아닌 디스플레이 광고 시장의 변화를 가리킨 것이라며 해명했다.

  2. 업계 동향확산 지수 51

    앤트로픽, 캘리포니아주 AI 규제 법안 ‘SB 53’ 지지 선언

    앤트로픽이 캘리포니아주의 새로운 첨단 AI 규제 법안 SB 53을 공식 지지했다. 이 법안은 10^26 FLOPS 이상의 연산량으로 훈련된 모델을 대상으로 안전 프레임워크 공개와 내부고발자 보호를 의무화하며 스타트업은 제외한다. 앤트로픽은 강제적 기술 규제보다 투명한 정보 공개가 안전 경쟁에 더 효과적이라고 평가했다.

  3. 업계 동향확산 지수 58

    앤트로픽, 저작권 집단소송에 15억 달러 합의：책 한 권당 3000달러 배상

    앤트로픽이 AI 학습에 해적판 도서를 무단 사용했다는 집단소송을 해결하기 위해 최소 15억 달러를 배상하기로 합의했다. 저작물당 약 3000달러가 지급되며 다운로드한 원본 파일도 폐기해야 한다. 이는 미국 저작권 소송 역사상 최대 규모 합의지만 향후 학습 권한은 포함되지 않는다.

  4. 연구확산 지수 35

    OpenAI "LLM 환각의 주원인은 '찍기'를 유도하는 정답률 중심 평가 방식"

    OpenAI는 대형 언어 모델이 환각을 일으키는 주된 원인이 정답률 위주의 평가 방식에 있다고 지적한 연구를 공개했다. 불확실성을 인정하는 것보다 찍어서 맞추는 행위가 점수에 유리한 현행 벤치마크 탓이라는 분석이다. OpenAI는 자신 있게 틀리는 오답을 감점하고 모름을 인정하는 모델을 우대하도록 평가 방식을 바꿔야 한다고 제안했다.

  5. 업계 동향확산 지수 50

    엘리자 랩스, 기술 탈취 및 계정 정지 혐의로 X 제소

    오픈소스 AI 에이전트 프레임워크 ElizaOS의 개발사 엘리자 랩스가 일론 머스크의 X를 캘리포니아 연방지방법원에 제소했다. X가 협의를 구실로 기술 문서를 입수한 뒤 계정을 정지하고 유사한 AI 에이전트 기능을 베꼈다는 주장이다.

  7. 업계 동향확산 지수 44

    앤트로픽, 개인 이용약관 개정: 클로드 대화 데이터의 모델 학습 활용 여부 선택권 제공

    앤트로픽이 개인 이용약관 및 개인정보 처리방침을 개정해 Free, Pro, Max 플랜 사용자에게 대화 및 Claude Code 세션 데이터를 모델 학습에 제공할지 선택할 수 있도록 했다. 동의 시 데이터 보관 기간은 30일에서 5년으로 늘어나며, 기업용 및 API 고객에게는 적용되지 않는다. 기존 사용자는 10월 8일까지 선택해야 한다.

  8. 업계 동향확산 지수 44

    오픈AI와 앤트로픽, 첫 공동 안전성 평가 결과 공개…상대 모델 교차 검증

    오픈AI와 앤트로픽이 서로의 내부 안전성 테스트를 상대방 공개 모델에 적용한 공동 평가 결과를 공개했다. 클로드 4는 시스템 프롬프트 유출 방지에 강세를 보였으나 거부율이 70%에 달했고, 오픈AI o3는 탈옥 방어에서 우위를 보였다. 치열한 경쟁사가 서로의 취약점을 직접 검증해 안전 투명성을 높인 드문 협업이다.

  10. 업계 동향확산 지수 38

    앤트로픽, 국가안보 자문위원회 출범: 전직 국방·정보 당국 고위 관료 대거 영입

    앤트로픽은 국가안보 및 공공부문 자문위원회를 발족했다. 패트릭 섀너핸 전 국방부 장관 대행과 데이비드 코언 전 CIA 부국장 등 초당파 전직 관료들이 합류해 사이버 보안과 정보 분석 분야의 협력을 돕는다. 공공 부문과 방위 분야에서 프런티어 AI의 입지를 굳히려는 행보로 풀이된다.

  17. 업계 동향확산 지수 51

    머스크의 xAI, 애플과 OpenAI 제소：AI 경쟁 제한 담합 주장

    일론 머스크의 X와 xAI가 애플과 OpenAI를 상대로 AI 시장 경쟁을 제한하기 위해 담합했다며 소송을 제기했다. 소장에 따르면 애플이 스마트폰 독점을 지키기 위해 OpenAI와 손을 잡았으며, 이로 인해 경쟁 AI 기업이 앱스토어 1위에 오르는 것이 불가능해졌다고 주장했다.

  18. 오픈소스확산 지수 60

    xAI, 그록 2.5 오픈소스 공개…그록 3도 6개월 뒤 출시 예정

    xAI가 2024년 주력 모델이었던 그록 2.5를 오픈소스로 전환하고 허깅페이스에 가중치를 공개했다. 연구와 비상업적 이용은 무료지만 다른 AI 모델 학습에는 쓸 수 없는 라이선스가 적용됐다. 일론 머스크는 그록 3 역시 약 6개월 뒤 오픈소스화할 계획이라고 덧붙였다.