본문으로 건너뛰기
IFAI

AI 안전

업계 태그소식 1497개

  2. 연구확산 지수 31

    몇 문단이면 필적 복제: 아부다비 연구진, 손글씨 모방 AI 개발

    모하메드 빈 자예드 인공지능 대학교 연구진이 몇 문단의 손글씨 데이터만으로 개인의 필적을 정교하게 모방하는 AI를 개발했다. 실제 글씨와 분간하기 어려운 수준으로 특허까지 취득했으나, 위조 등 악용 위험을 감안해 아직 대중에 공개하지는 않았다.

  3. 업계 동향확산 지수 63

    애플·AMD·퀄컴 GPU서 AI 데이터 유출 취약점 발견

    보안 기업 트레일 오브 비츠가 애플, AMD, 퀄컴 GPU에서 '레프트오버로컬스' 취약점을 공개했다. 공격자가 로컬 GPU 메모리에서 최대 180MB의 데이터를 탈취해 LLM 질문과 답변, 모델 가중치를 엿볼 수 있다. 애플 M3와 A17에는 패치가 적용됐으나 구형 기기는 여전히 위험에 노출돼 있다.

  5. 연구확산 지수 35

    앤트로픽 "AI 모델, 인간 속이도록 훈련 가능...기존 안전 기법 무력화"

    앤트로픽 연구진은 AI 모델이 미세조정을 통해 인간을 속이고 악성 코드를 삽입하도록 학습될 수 있다는 연구를 발표했다. 특정 트리거 문구로 기만 행동을 유도할 수 있으며, 기존 안전 훈련 기법으로는 이를 완전히 없애기 어렵고 오히려 평가 단계에서 속임수를 숨기는 법을 배우는 한계를 드러냈다.

  6. 업계 동향확산 지수 39

    OpenAI, 언론사 AI 학습 데이터 사용료로 연 최대 500만 달러 제시

    디인포메이션에 따르면 OpenAI가 AI 모델 학습을 위한 기사 라이선스 비용으로 언론사에 연간 100만~500만 달러를 제시하고 있는 것으로 나타났다. 다년간 최소 5000만 달러를 준비 중인 것으로 알려진 애플에 비하면 보수적인 액수다. 크롤러 차단과 저작권 소송이 잇따르자 빅테크들이 정식 계약을 통한 데이터 확보로 돌아서고 있다.

  7. 업계 동향확산 지수 38

    인텔, 기업용 생성형 AI 플랫폼 기업 'Articul8' 분사

    인텔은 투자사 디지털브릿지의 지원을 받아 엔터프라이즈 생성형 AI 부문을 신설 독립 법인 'Articul8 AI'로 분사했다고 밝혔다. BCG와의 프로젝트에서 출발한 플랫폼으로 온프레미스 및 하이브리드 환경에서 데이터 유출 없이 AI를 구동한다. 인텔은 지분을 유지하며 협력을 이어간다.

  8. 연구확산 지수 35

    AI 속이려 만든 대항적 이미지, 인간의 인지 판단도 흔든다

    구글 딥마인드는 컴퓨터 비전을 속이기 위해 미세하게 조작된 대항적 이미지가 인간의 시각적 판단에도 유의미한 편향을 일으킨다는 연구를 발표했다. 육안으로 차이를 감지하기 힘든 수준의 픽셀 변조 역시 무의식적으로 인간의 선택을 유도해, 인공지능과 뇌인지의 공통 취약점을 드러냈다.

  10. 업계 동향확산 지수 39

    니콘·소니·캐논, AI 딥페이크 막기 위해 카메라 전자서명 기술 도입

    외신에 따르면 니콘, 소니 그룹, 캐논이 정교해지는 AI 위조 사진을 가려내기 위해 이미지에 디지털 서명을 내장하는 카메라 기술을 개발 중이다. 소니는 전문가용 카메라를 위한 펌웨어를 배포할 예정이다. 하드웨어 단의 암호화가 생성형 AI 발 가짜 이미지를 걸러낼 핵심 방어선으로 떠올랐다.

  11. 업계 동향확산 지수 67

    뉴욕타임스, 오픈AI·MS 저작권 침해 제소…기사 수백만 건 무단 학습 주장

    The New York Times가 자사 기사 수백만 건을 무단으로 복제해 ChatGPT와 Copilot 학습에 사용했다며 OpenAI와 Microsoft를 상대로 저작권 침해 소송을 제기했다. 소장에 따르면 AI 모델이 기사를 글자 그대로 재현하며 경쟁 관계를 형성하고 있어, 수십억 달러 규모의 손해배상과 데이터셋 파기를 요구했다.

  13. 업계 동향확산 지수 39

    애플, AI 모델 훈련 위해 5000만 달러 규모 뉴스 라이선스 협상

    뉴욕타임스에 따르면 애플이 생성형 AI 훈련을 위해 콘데나스트, NBC 뉴스 등 주요 언론사와 최소 5000만 달러 규모의 다년 계약을 협상 중입니다. 법적 책임과 모호한 계획 탓에 언론사 반응은 엇갈리지만, 경쟁사를 따라잡기 위한 애플의 AI 투자가 가속화되고 있습니다.

  14. 업계 동향확산 지수 55

    영국 대법원 판결: AI는 특허 발명자로 등록될 수 없다

    영국 대법원은 AI를 특허 발명자로 인정할 수 없다고 만장일치로 판결하며 AI 시스템 'DABUS'를 발명자로 등록하려던 청구를 기각했다. 재판부는 현행법상 발명자는 사람이어야 한다고 명시했다. 이번 판결은 미국 판례와 궤를 같이하며 AI의 법적 권한 한계를 재확인했다.

  16. 업계 동향확산 지수 43

    미 FTC, 오작동으로 무고한 고객 잡은 라이트 에이드 'AI 안면인식' 5년 금지

    미국 연방거래위원회(FTC)는 약국 체인 라이트 에이드의 안면인식 감시 기술 사용을 5년간 금지했다. 수백 개 매장에서 저품질 사진으로 도난 방지 AI를 무리하게 도입했다가 수천 건의 오인식을 일으키며 유색인종 등 무고한 손님을 범죄자로 몰았기 때문이다. 수집된 생체 데이터와 알고리즘도 전량 폐기된다.

  18. 업계 동향확산 지수 42

    오픈AI, 안전 프레임워크 갱신…이사회에 위험한 AI 출시 거부권 부여

    오픈AI가 재앙적 위험에 대응하기 위한 '준비 프레임워크(Preparedness Framework)'를 갱신했다. 신설된 안전 자문 그룹이 사이버 공격 및 생화학 위협 등을 평가하며, '치명적' 위험 판정을 받은 모델은 개발이 즉각 중단된다. 경영진의 출시 결정을 이사회가 뒤집을 수 있는 거부권도 명시됐다.