본문으로 건너뛰기
IFAI

AI 안전

업계 태그소식 1497개

  2. 업계 동향확산 지수 50

    美 캘리포니아 주지사, 강력한 AI 규제 법안 'SB 1047' 거부권 행사

    개빈 뉴섬 캘리포니아 주지사가 대형 AI 안전 법안 SB 1047에 거부권을 행사했다. 훈련 비용 1억 달러 이상 모델에 킬 스위치 등을 의무화하려던 법안으로, 뉴섬은 일률적 규제가 혁신을 저해할 수 있다고 설명했다. 이로써 미국 내 빅테크를 향한 법적 구속력 도입은 다시 미뤄졌다.

  3. AI 도구확산 지수 38

    금지된 노래 부르기 뚫렸다…ChatGPT 음성 봇과 비틀즈 듀엣 성공

    Ars 테크니카에 따르면, 한 소프트웨어 엔지니어가 코드 맞히기 게임 방식을 이용해 ChatGPT 고급 음성 모드(AVM)의 '노래 금지' 안전장치를 우회하고 비틀즈의 'Eleanor Rigby'를 함께 부르는 데 성공했다. 저작권 침해 우려로 노래와 흥얼거림을 막아둔 OpenAI의 시스템 프롬프트를 뚫은 사례다.

  4. AI 도구확산 지수 39

    MS, '윈도 리콜' 보안 전면 개편…생체 인증 없인 열람 불가

    마이크로소프트는 논란을 빚었던 윈도 리콜의 보안 아키텍처를 전면 개편했다고 밝혔다. AI 화면 검색 기능은 기본적으로 꺼져 있으며 시스템에서 완전히 삭제할 수도 있다. 스냅샷 데이터는 보안 영역에 격리되며, 윈도 헬로 생체 인증을 거쳐야만 일시적으로 복호화된다.

  5. AI 도구확산 지수 36

    애저 AI, GPT-4o 파인튜닝 정식 출시 및 라마 3.2 지원

    마이크로소프트는 애저 오픈AI 서비스에서 GPT-4o와 GPT-4o mini의 미세조정(파인튜닝) 기능을 전면 출시했습니다. 메타의 라마 3.2 비전 모델과 Phi-3.5 제품군을 추가하고 환각을 실시간으로 보정하는 안전 기능도 함께 공개했습니다.

  6. 업계 동향확산 지수 44

    OpenAI, 비영리 꼬리표 뗀다: 이사회 통제 벗고 올트먼에 지분 수조원 부여 추진

    외신에 따르면 OpenAI가 비영리 이사회의 지배를 받는 구조를 폐기하고 완전한 영리 법인으로의 전환을 추진 중이다. 지분이 없던 샘 올트먼 CEO는 수십억 달러 상당의 지분을 쥐게 되며, 직전 미라 무라티 CTO 등 핵심 인력의 이탈도 이어졌다. 설립 초기 내세웠던 공익 및 안전 중심의 지배구조가 사실상 막을 내리게 됐다.

  7. 업계 동향확산 지수 60

    닌텐도 미야모토 시게루 "게임업계 AI 열풍, 닌텐도는 다른 길 간다"

    게임 업계가 생성형 AI 도입에 열을 올리는 가운데, 닌텐도의 미야모토 시게루 대표이사가 뉴욕타임스 인터뷰에서 "닌텐도는 오히려 다른 방향으로 가고 싶다"고 밝혔다. 트렌드를 거스르는 반항이 아니라 닌텐도만의 특별함을 지키기 위한 선택이라는 설명이다. 앞서 후루카와 슌타로 사장 역시 AI의 저작권 문제를 지적한 바 있다.

  9. 업계 동향확산 지수 44

    미 FTC, '가짜 AI 변호사·리뷰' 과대광고 업체 무더기 제재

    미국 연방거래위원회(FTC)는 AI 과장 광고 및 사기 행위를 단속하는 'Operation AI Comply' 조치를 발표했다. 실효성 없는 '세계 최초 로봇 변호사'를 내세운 DoNotPay는 19만 3천 달러의 합의금을 물게 됐으며, 가짜 후기를 생성한 Rytr 등도 제재 대상에 올랐다. FTC는 AI 기술이라고 해서 현행법 적용에서 예외가 될 수는 없다고 경고했다.

  10. AI 도구확산 지수 37

    MS, AI 오류 찾아 수정까지 해주는 '교정' 기능 공개

    마이크로소프트는 애저 AI 스튜디오에 AI 환각을 감지하고 바로잡는 '교정' 미리보기 기능을 추가했다. 원본 문서를 대조해 사용자에게 노출되기 전 자동으로 재작성하지만, MS는 이 교정 모델 역시 완벽하지는 않다고 짚었다.

  11. 업계 동향확산 지수 41

    할리우드 스타 125인 공개 서한: 캘리포니아 AI 안전 법안 서명 촉구

    할리우드 유명 인사 125명 이상과 SAG-AFTRA 조합원들이 개빈 뉴섬 캘리포니아 주지사에게 AI 안전 규제 법안 SB 1047 서명을 촉구하는 서한을 전달했다. 거대 AI 기업에 재난 방지 안전망 마련을 의무화하는 법안으로, 9월 30일 마감을 앞두고 엔터테인먼트계와 실리콘밸리가 정면 충돌하고 있다.

  12. 업계 동향확산 지수 44

    메타, EU의 자발적 'AI 협약' 즉각 서명 보류

    화요일 메타 대변인은 EU AI 법이 본격 시행되기 전 자발적으로 주요 규정을 이행하는 'AI 협약'에 당장 참여하지 않겠다고 밝혔습니다. 메타는 현재 공식 법안 준수를 위한 규제 대응 작업에 집중하고 있으며, 향후 참여 가능성은 열어두었다고 전했습니다.

  13. AI 도구확산 지수 39

    美 경찰, AI로 사건 보고서 작성: GPT-4로 바디캠 음성 분석해 8초 만에 초안 완성

    AP통신에 따르면 오클라호마시티 등 미국 경찰서들이 Axon의 AI 도구 'Draft One'을 도입해 사건 보고서를 작성하고 있다. GPT-4 기반으로 바디캠 음성을 분석해 8초 만에 초안을 만들어 업무를 덜어주지만, 인종 편향과 할루시네이션이 공문서에 반영될 수 있다는 우려도 제기된다.

  15. 연구확산 지수 34

    취리히 연방공대, AI 모델 YOLO로 구글 reCAPTCHAv2 100% 돌파

    취리히 연방공대 연구진이 YOLO 모델을 미세조정해 구글의 reCAPTCHAv2 캡차를 100% 통과시켰다. 연구진은 약 1만 4000쌍의 도로 이미지로 학습을 진행하고 마우스 움직임과 기기 지문까지 재현했다. 구글은 이미 대다수 웹사이트가 무감각 인증 방식인 v3로 전환했다고 덧붙였다.

  16. 업계 동향확산 지수 73

    링크드인, 사용자 데이터로 생성형 AI 무단 학습: 거부 설정해도 기존 학습은 유지

    외신에 따르면, 링크드인이 사용자 동의 없이 계정 데이터를 생성형 AI 모델 학습에 기본으로 활용하기 시작했다. 사용자는 '데이터 프라이버시' 설정에서 이를 수동으로 끌 수 있지만, 이미 완료된 학습 데이터는 철회되지 않는다. EU 및 스위스 사용자는 대상에서 제외된다.

  18. 업계 동향확산 지수 44

    미 캘리포니아주, 배우의 무단 AI 복제 전면 불법화: 고인까지 보호

    개빈 뉴섬 캘리포니아 주지사가 AB 1836과 AB 2602 법안에 서명하며 동의 없이 배우의 음성이나 외형을 AI로 복제해 대체하는 행위를 불법화했다. 살아있는 배우는 물론 고인의 디지털 복제도 유족 동의를 의무화했다. 노조 파업으로 얻어낸 AI 보호 조치가 주 법률로 공식 확대된 셈이다.