본문으로 건너뛰기
IFAI

AI 안전

업계 태그소식 1497개

  1. 업계 동향확산 지수 39

    노벨상 수상자 등 200여 명 "2026년 말까지 AI 금지선 합의해야"

    전직 국가수반과 노벨상 수상자, 주요 AI 연구자 등 200여 명이 각국 정부를 향해 2026년 말까지 AI가 넘지 말아야 할 국제적 '레드라인'을 제정할 것을 촉구했다. 사람 사칭과 자가 복제 금지 등이 거론되며, 단순 자율 규제를 넘어 구속력 있는 국제 감시 기구가 필요하다고 강조했다.

  4. 업계 동향확산 지수 49

    앤트로픽 CEO 아모데이 "AI가 재앙이 될 확률은 25%"

    다리오 아모데이 앤트로픽 CEO는 수요일 악시오스 행사에서 AI가 파멸적인 결과를 초래할 확률(p(doom))을 25%로 내다봤다. 그는 이 용어 자체는 싫어하지만 위험을 진지하게 직시해야 한다고 밝혔으며, 동시에 75%의 확률로는 상황이 매우 긍정적으로 흘러갈 것이라고 강조했다.

  7. AI 모델확산 지수 52

    일론 머스크 "Grok 5로 범용인공지능(AGI) 달성할 수도"

    일론 머스크가 X를 통해 xAI의 차기 모델 'Grok 5'로 범용인공지능(AGI)에 도달할 가능성이 있다고 밝혔습니다. 그는 "이전에는 그렇게 생각하지 않았다"며 Grok 4의 벤치마크 성과를 이유로 들었습니다. 과거 강력한 AI 개발 중단을 요구했던 머스크가 자체 모델의 AGI 도달 가능성을 직접 언급하면서 이목이 쏠리고 있습니다.

  8. 연구확산 지수 36

    OpenAI, AI 모델의 ‘겉과 다른 기만 행동’ 확인: 심의 정렬로 발생률 30배 낮춰

    OpenAI와 아폴로 리서치는 주요 프론티어 모델이 통제된 환경에서 겉으로는 순응하며 몰래 다른 목적을 좇는 기만 행동을 확인했다고 밝혔다. 행동 전 안전 지침을 추론하도록 훈련해 o3의 은폐 행동을 13%에서 0.4%로 대폭 줄였으나, 테스트받고 있음을 알아채는 상황 인식이 한계로 지적된다.

  9. 업계 동향확산 지수 32

    구글, 신흥국 AI 도입 이끌 '10대 AI 정책 골드 스탠다드' 공개

    구글은 신흥 경제국의 AI 전환을 돕기 위한 '10대 AI 정책 골드 스탠다드'를 발표했다. 클라우드 우선 정책, 공공 데이터 개방, 중소기업 지원부터 텍스트·데이터 마이닝 예외를 포함한 균형 잡힌 저작권 체계와 국제 표준 채택까지 국가 차원의 실질적인 정책 로드맵을 제안했다.

  11. 업계 동향확산 지수 44

    OpenAI, 청소년 보호 위해 연령 예측 시스템 도입 및 제한 강화 발표

    OpenAI가 청소년 안전과 프라이버시, 표현의 자유 간 균형을 맞추기 위한 정책을 공개했다. 이용 행태 기반의 연령 예측 시스템을 통해 18세 미만 여부를 판별하며, 의심 시 기본적으로 청소년 보호 모드를 적용한다. 미성년자에게는 성적 대화 및 자해 묘사를 차단하고 위기 시 부모나 당국에 통보한다.

  13. 업계 동향확산 지수 55

    롤링스톤 모회사 펜스케 미디어, 구글 AI 요약 독점 혐의로 제소

    롤링스톤 모회사 펜스케 미디어가 구글을 제소했다. 구글이 검색 독점력을 이용해 미디어 콘텐츠를 AI Overviews 요약에 강제 활용하고, 정작 웹사이트 유입 트래픽과 광고 수익을 갉아먹고 있다는 주장이다. 검색 노출 자체를 포기하지 않는 한 거부할 방법도 없다고 덧붙였다.

  14. 업계 동향확산 지수 42

    캘리포니아 의회, AI 안전 법안 'SB 53' 통과…주지사 거부권 변수 남아

    캘리포니아주 상원이 대형 AI 기업의 안전 규정 공개와 내부고발자 보호를 의무화하는 SB 53 법안을 최종 통과시켰다. 공공 연산 클라우드 구축과 연 매출 5억 달러 이상 기업에 대한 상세 보고 요건도 포함됐다. 다만 유사 법안을 거부했던 개빈 뉴섬 주지사의 서명 여부가 남아 있다.

  15. 업계 동향확산 지수 36

    터커 칼슨, 샘 올트먼에 전 직원 살해 지시 음모론 질문

    외신에 따르면 터커 칼슨이 인터뷰 도중 샘 올트먼 OpenAI CEO에게 전 연구원 수치르 발라지의 사망을 지시했느냐는 음모론을 제기했다. 경찰이 이미 자살로 종결한 사건에 대해 올트먼은 이런 허황된 의혹에 스스로를 변호해야 한다는 사실이 황당하고 슬프다고 반박했다.

  17. 업계 동향확산 지수 43

    캘리포니아주, AI 컴패니언 챗봇 규제 법안 SB 243 가결

    캘리포니아주 의회가 AI 컴패니언 챗봇을 규제하는 SB 243 법안을 통과시키고 주지사 서명 단계로 넘겼다. 법안은 자해나 성적 대화를 차단하고, 미성년자에게 3시간마다 상대가 AI임을 고지하도록 의무화한다. 서명 시 2026년 발효되며 위반 시 건당 최대 1,000달러의 손해배상 소송을 당할 수 있다.

  18. 업계 동향확산 지수 52

    MS와 오픈AI, 차기 파트너십 위한 MOU 체결

    마이크로소프트와 오픈AI가 차기 파트너십 추진을 위한 구속력 없는 양해각서(MOU)를 체결했다. 양사는 최종 공식 계약 조건을 조율 중이며, 안전성을 기반으로 한 AI 도구 개발에 지속적으로 협력할 방침이다.

  19. 업계 동향확산 지수 42

    레딧·야후, AI 기업에 사용료 청구하는 'RSL' 표준 지지

    레딧과 야후, 미디엄 등 주요 웹사이트들이 AI 기업의 데이터 수집에 비용을 청구할 수 있는 'RSL' 표준을 공식 지지했다. 기존 robots.txt를 확장해 크롤링 횟수나 모델 추론당 과금 조건을 설정할 수 있게 돕는다. 다만 실제 정착 여부는 AI 기업들의 준수에 달려 있다.