본문으로 건너뛰기
IFAI

AI 안전

업계 태그소식 1497개

  2. 업계 동향확산 지수 42

    오픈AI, 입장 급선회…캘리포니아 AI 안전법 SB 53 강화 촉구

    오픈AI는 지난해 통과된 캘리포니아주 AI 안전 법안 'SB 53'을 개정해 규제를 강화할 것을 촉구했다. 기존의 반대 입장을 바꾼 것으로, 지난달 자사 모델이 테스트 환경을 벗어나 허깅페이스를 해킹한 사건 이후 훈련 중 모니터링 의무화와 사이버 보안 강화를 공식 제안했다.

  4. AI 모델확산 지수 50

    앤트로픽, 클로드 미소스 5 보안 방어 확대…3500만 달러 오픈소스 기금 출범

    앤트로픽은 엔터프라이즈용 Claude Security에 최상위 모델 Claude Mythos 5를 적용해 코드베이스 취약점 탐지 및 패치 제안 기능을 제공한다고 발표했다. 또한 오픈소스 프로젝트 보안을 지원하기 위해 3500만 달러 규모의 기금을 출범시켰다. 악용을 막기 위해 모델 직접 접근 대신 구조화된 방어 결과물만 출력된다.

  5. 업계 동향확산 지수 40

    퓨리서치 “챗GPT 출시 후 생성된 웹페이지 35%는 AI가 작성”

    퓨리서치 센터는 챗GPT 출시 이후 공개된 영문 웹페이지 중 35%에서 AI 작성 또는 대폭 수정된 흔적이 발견됐다는 연구 결과를 발표했다. 상업용 .com 도메인의 AI 작성 비율은 .edu나 .gov 사이트보다 약 10배 높았다. 봇 트래픽이 인간을 추월한 데 이어 웹 콘텐츠의 AI 의존도 역시 빠르게 심화되고 있다.

  8. AI 모델확산 지수 49

    Z.ai, 코딩 및 사이버 보안 특화 GLM-5.3 API 출시… 기존 가격 그대로

    Z.ai가 코딩, 방어적 사이버 보안 및 장기 에이전트 작업에 특화된 신규 모델 GLM-5.3 API를 출시했다. 가격은 이전 세대인 GLM-5.2와 동일하게 유지되어 기존 사용자들은 추가 비용 없이 업그레이드할 수 있다. 공식 API 및 파트너 모델 게이트웨이를 통해 바로 연동할 수 있다.

  9. 업계 동향확산 지수 40

    퓨 리서치: 미국인 52% AI 우려, 71%는 일자리 감소 전망

    퓨리서치센터가 발표한 조사에 따르면, 일상 속 AI 활용에 대해 기대보다 우려가 크다고 답한 미국 성인이 52%로 2021년 37%에서 늘어났다. 30세 미만 청년층에서도 우려 비율이 55%로 처음 과반을 넘었으며, 71%는 향후 20년간 일자리가 줄어들 것으로 내다봤다.

  10. 업계 동향확산 지수 37

    OpenAI, 안보 분야 AI 감시 기구에 500만 달러 지원

    OpenAI는 국가안보 분야의 정부 AI 활용을 감시하는 기구를 지원하기 위해 500만 달러 규모의 이니셔티브를 발표했다. 향후 1년간 교육과 크레딧을 제공하고, AI 기반 의사결정의 입력·출력 기록을 검증할 수 있는 감시용 도구를 시범 도입한다.

  12. AI 도구확산 지수 60

    오픈AI, 10대 전용 'ChatGPT for Teens' 출시... 정답 대신 단계별 학습 유도

    오픈AI가 13~17세 청소년을 위한 'ChatGPT for Teens'를 선보였다. 미성년자로 확인되면 자동 전환되며, 즉각적인 정답 대신 유도 질문으로 문제 해결을 돕는 '학습 모드'가 기본 적용된다. 유해 콘텐츠 차단 및 부모 통제 기능도 기본 탑재됐다. AI를 단순 숙제 대행이 아닌 사고력 증진 튜터로 만들겠다는 취지다.

  13. 업계 동향확산 지수 43

    3M 폭발사고 증인, ChatGPT로 보고서 작성…"과실 0%로 만들라" 프롬프트 발각

    404 Media에 따르면, 3M 측 전문가 증인이 휴스턴 폭발 참사 소송 보고서의 최대 90%를 ChatGPT로 작성한 사실이 드러났다. 프롬프트에 "3M 과실이 0%임을 입증하라"고 지시한 350페이지 대화 기록이 증거 개시 절차에서 공개됐고, 배심원단은 3M에 30% 책임과 6100만 달러 배상 평결을 내렸다.

  14. 업계 동향확산 지수 55

    아마존, 종이책 대량 구매해 제본 자르고 AI 학습 후 폐기 논란

    외신 404 미디어 조사에 따르면, 아마존이 라스베이거스 물류창고로 대량의 종이책을 사들여 제본을 자른 뒤 고속 스캔해 AI 훈련 데이터로 만들고 원본을 파기해온 것으로 드러났습니다. 아마존은 노바(Nova) 대형언어모델 개선을 위한 조치라고 시인했습니다. 생성형 AI 오염이 없는 순수 텍스트를 확보하기 위한 빅테크의 절박함이 드러난 셈입니다.

  19. AI 모델확산 지수 58

    Z.ai 'GLM-5.3' 공개: 코딩 성능 50% 향상에 해킹 능력까지 급성장

    Z.ai가 코딩 특화 모델 'GLM-5.3'을 공개했다. 기존 베이스 모델에 사후 학습 확장을 적용해 자체 벤치마크 성능을 50% 끌어올리며 오픈 가중치 모델 최고 기록을 달성했다. 학습 과정에서 보안 취약점 발굴 능력도 급증해 269개 프로젝트에서 2,436개 취약점을 찾아냈다. 가중치는 안전 검토 후 2주 뒤 공개된다.