본문으로 건너뛰기
IFAI

AI 안전

업계 태그소식 1497개

  1. 업계 동향확산 지수 40

    영국 정부, OpenAI·딥마인드 최신 모델 조기 접근권 확보

    리시 수낵 영국 총리는 구글 딥마인드, OpenAI, 앤스로픽이 연구 및 안전 평가를 위해 영국 정부에 모델을 개방하기로 합의했다고 발표했다. 영국은 1억 파운드 규모의 전담 태스크포스를 꾸리고 글로벌 AI 안전 정상회의를 개최해 규제 주도권을 잡겠다는 구상이다.

  2. 업계 동향확산 지수 38

    구글, AI 보안 프레임워크 SAIF 공개: 프롬프트 주입과 데이터 오염 방어

    구글이 AI 시스템의 보안 표준을 위한 '보안 AI 프레임워크(SAIF)'를 발표했다. 소프트웨어 공급망 보안과 제로 트러스트 경험을 바탕으로 프롬프트 인젝션, 데이터 오염, 모델 탈취 등 AI 특화 위협에 대응하는 6가지 핵심 원칙을 제시했다. 기업들이 생성형 AI를 안전하게 도입할 수 있도록 업계 표준 마련에 나선다는 구상이다.

  3. 업계 동향확산 지수 42

    디샌티스 대선 광고, 트럼프·파우치 포옹하는 AI 조작 이미지 사용 논란

    더버지에 따르면 디샌티스 후보 진영의 트럼프 비판 광고에 트럼프 전 대통령과 파우치 소장이 포옹하는 AI 생성 가짜 사진 3장이 포함된 것으로 확인되었습니다. 전문가들은 피부 왜곡과 배경 텍스트 오류를 지적했으며, 딥페이크가 정치 선전에 본격 악용되는 흐름을 보여줍니다.

  4. 연구확산 지수 31

    캔자스대 연구진, ChatGPT 작성 논문 99% 감별 AI 개발

    미국 캔자스대 연구진이 ChatGPT가 작성한 과학 논문을 99% 이상의 정확도로 판별하는 머신러닝 분류기를 개발했다. 연구진은 어휘 다양성과 단락 길이, 문장부호 활용 등 인간과 AI의 문체 차이를 집중 분석해 구분해냈다. 다만 테스트 표본이 적고 사람이 일부 수정한 논문에 대한 검증은 아직 제한적이다.

  5. 업계 동향확산 지수 43

    OpenAI, ChatGPT 허위 정보로 첫 명예훼손 피소…라디오 진행자 '공금 횡령' 날조

    외신에 따르면, OpenAI가 ChatGPT의 허위 정보 생성과 관련해 첫 명예훼손 소송을 당했다. 조지아주의 한 라디오 진행자는 ChatGPT가 문서 요약 과정에서 자신이 500만 달러 이상을 횡령했다는 거짓 주장을 꾸며냈다고 주장했다. 이번 소송은 AI 생성 정보에 플랫폼 면책 규정이 적용될 수 있는지 시험하는 계기가 될 전망이다.

  6. 업계 동향확산 지수 38

    팀 쿡 애플 CEO "ChatGPT 직접 써봐, 애플도 면밀히 주시 중"

    애플의 팀 쿡 CEO는 인터뷰를 통해 자신도 ChatGPT를 쓰고 있으며 애플 역시 관련 기술을 면밀히 살피고 있다고 밝혔다. 그는 거대언어모델의 잠재력을 높이 사면서도 편향과 가짜 뉴스 위험을 짚으며, 규제가 기술 속도를 따라가기 힘든 만큼 기업 스스로 자율 규제에 나서야 한다고 강조했다.

  7. 업계 동향확산 지수 40

    EU, 구글·메타에 "AI 생성 콘텐츠 즉시 라벨링하라" 촉구

    유럽연합(EU)은 가짜 뉴스 대응을 위해 구글과 페이스북 등 빅테크 플랫폼에 AI가 생성한 텍스트와 이미지에 즉시 라벨을 부착할 것을 촉구했다. 사용자가 피드를 넘겨볼 때도 기계가 만든 것임을 단번에 알 수 있는 명확한 표기를 요구했으며, 자율 규약을 탈퇴한 트위터에는 강력한 제재를 경고했다.

  8. 업계 동향확산 지수 46

    샘 올트먼·제프리 힌턴 등 수백 명 "AI 인류 멸종 위험, 핵전쟁급 대비 필요"

    비영리단체 CAIS는 AI로 인한 멸종 위험 완화를 팬데믹이나 핵전쟁과 같은 세계적 우선 과제로 삼아야 한다는 공동 성명을 발표했다. 샘 올트먼 OpenAI CEO, 데미스 허사비스 구글 딥마인드 CEO, 제프리 힌턴 교수 등 수백 명의 주요 인사들이 서명해 고도화된 AI의 극단적 위협에 대한 경각심을 촉구했다.

  9. 업계 동향확산 지수 31

    일본, AI 학습 저작물 이용 규정 명확화…‘향유 목적 아니면 상용 모델도 허용’

    일본 정부는 원작의 창작적 표현을 향유할 목적이 아닌 정보 분석에 한해 AI 학습 시 저작권자 허가 없이 저작물을 활용할 수 있다는 기준을 명확히 했다. 상용 개발 장벽을 낮춰 자국 AI 경쟁력을 강화하려는 취지지만, 애니메이션과 만화 등 창작 업계에서는 무단 학습과 스타일 복제에 대한 우려가 커지고 있다.

  11. 업계 동향확산 지수 39

    오픈AI, AI 행동 규칙 정하는 민주적 절차 실험에 10만 달러 보조금 10건 지원

    오픈AI는 AI 시스템의 규칙을 민주적 절차로 결정하는 실험을 지원하기 위해 10만 달러 보조금 10건을 수여하는 프로그램을 발표했다. 선정된 팀은 최소 500명이 참여하는 프로토타입을 구축하고 10월 20일까지 보고서와 코드를 오픈소스로 공개해야 한다. 특정 기업이 아닌 대중의 감독으로 거버넌스를 마련하려는 시도다.

  14. 업계 동향확산 지수 40

    오픈AI, 초지능 거버넌스 제안…“IAEA 같은 국제기구 필요”

    오픈AI는 인간을 뛰어넘는 ‘초지능’ 출현에 대비한 거버넌스 구상을 발표했다. 고성능 프론티어 AI에 대해 국제원자력기구(IAEA)와 같은 국제기구가 감사와 규제를 수행해야 한다고 제안했다. 반면 기준선 이하의 일반 모델과 오픈소스 개발은 과도한 규제에서 제외해야 한다고 덧붙였다.

  15. 업계 동향확산 지수 41

    애플, 사내 챗GPT·코파일럿 사용 제한…기밀 유출 우려

    애플이 내부 기밀 유출과 AI 학습 데이터 활용을 우려해 직원들의 챗GPT 및 깃허브 코파일럿 사용을 제한했다. 대화 기록을 꺼도 데이터가 30일간 보관되는 점 등이 원인으로 꼽히며, 앞서 JP모건과 아마존에 이어 애플도 업무 내 생성형 AI 단속에 나섰다.

  16. 업계 동향확산 지수 31

    도메인에 'GPT' 썼다고… OpenAI, 서드파티 도메인 단속 나서

    한 개발자가 도메인에 'GPT'를 넣었다가 OpenAI 대행사로부터 상표권 침해 시정 요구를 받았다. 당시 사이트가 빈 페이지였음에도 단속 대상이 됐다. OpenAI는 제품명이나 도메인에 모델명을 직접 포함하는 것을 금지하며, 설명란에 'Powered by' 형태로만 표기하도록 제한하고 있다.