미국 특허청 지침 발표: AI 발명 특허 인정하되, 발명자는 '인간'만 가능
미국 특허청(USPTO)은 특허 발명자로 등록될 수 있는 주체는 오직 '자연인'뿐이며 AI 시스템은 발명자나 공동 발명자가 될 수 없다는 지침을 발표했다. AI를 활용한 발명 자체가 금지되는 것은 아니지만, 인간이 구체적인 프롬프트를 설계하거나 출력을 실질적으로 개선하는 등 발명에 '중대한 기여'를 했음을 입증해야 한다.
AI 안전
최신 소식 보기
남성 45% 발렌타인데이에 AI로 편지 쓴다…맥아피 설문조사
맥아피 조사에 따르면, 올해 남성의 45%가 발렌타인데이 메시지 작성에 AI를 쓸 계획이라고 밝혔다. 하지만 응답자의 57%는 상대방의 고백이 AI로 작성된 것이라면 불쾌할 것이라고 답해 기대와 현실의 괴리를 드러냈다.
OpenAI 사옥 앞 시위 발생: AGI 개발 중단과 미군 협력 철회 촉구
Pause AI 등 시민단체 시위대가 샌프란시스코 OpenAI 본사 앞에 모여 AGI 개발 중단과 펜타곤 협력 철회를 요구하며 엔지니어들의 퇴사를 촉구했다. OpenAI가 약관에서 군사적 사용 금지 조항을 삭제한 것이 발단이 됐으며, 주최 측은 기업의 자율 규제만으로는 통제가 불가능해 강력한 외부 규제가 필요하다고 주장했다.
오픈AI, 사용자 기기 직접 제어하는 차세대 AI 에이전트 개발 중
디인포메이션에 따르면 오픈AI가 사용자 기기를 직접 조작해 작업을 대행하는 자율형 AI 에이전트를 개발하고 있다. 단순 텍스트 생성을 넘어 화면 클릭, 타이핑, 앱 간 데이터 복사 등을 수행할 수 있는 형태다. 다만 기기 제어 권한을 클라우드 AI에 넘기는 만큼 심각한 보안 및 개인정보 우려도 따른다.
미 FCC, AI 음성 활용한 자동 스팸전화 전면 금지
미국 연방통신위원회(FCC)가 AI 생성 음성을 활용한 자동 스팸전화(로보콜)를 공식 불법화했다. 이번 결정으로 각 주 검찰총장은 사기 입증 여부와 관계없이 AI 음성 복제 기술을 사용한 것만으로도 직접 단속과 처벌을 진행할 수 있는 법적 근거를 확보했다.
OpenAI, 어린이 안전 전담팀 신설…미성년자 AI 오남용 방지
OpenAI가 미성년자의 AI 오남용을 막기 위해 어린이 안전 전담팀을 꾸리고 전문 인력 채용에 나섰습니다. 법무 및 정책 부서와 협력해 청소년 관련 민감 콘텐츠 검토와 안전 사고 대응 절차를 체계화할 계획입니다.
AI 학습으로부터 창작물 보호하는 법: 옵트아웃 신청부터 노이즈 방어까지
무단 AI 학습에 맞서 창작자가 작품을 지키는 대처법이 정리됐다. OpenAI나 메타에 양식을 제출해 향후 학습에서 제외할 수 있으며, Glaze와 Nightshade 같은 도구로 픽셀을 변조해 모델 학습을 교란할 수도 있다. 기존 학습 데이터는 소급 삭제되지 않으므로, 온라인 게시 전 기술적 자구책이 현실적인 대안으로 꼽힌다.
오픈AI, 생성 콘텐츠에 비가시성 워터마크 전면 도입…검증 도구 공개
오픈AI는 AI 생성물의 출처를 식별하기 위한 다층 워터마크 기술을 공개했다. 이미지와 오디오에 SynthID를 심고, EU 텍스트에는 textGrain을 적용하며 C2PA 메타데이터와 결합했다. 메타데이터가 삭제되어도 추적이 가능하며, 전용 웹페이지에서 원본 여부를 직접 판별할 수 있다.
유튜브, 2024년 4대 핵심 전략 발표…생성형 AI 확대 및 AI 라벨 도입
닐 모한 유튜브 CEO는 2024년 연례 서한을 통해 생성형 AI를 4대 핵심 투자 분야 중 하나로 제시했습니다. 그는 AI가 창작자를 대체하는 것이 아니라 창작 역량을 키워야 한다고 강조하며 드림 스크린 등의 도구를 소개했습니다. 아울러 딥페이크에 대응하기 위해 향후 수개월 내 사실적인 AI 생성 영상에 라벨 표시를 의무화할 계획입니다.
메타, 인스타그램·페이스북서 오픈AI·구글 등 AI 생성 이미지 전면 라벨링
메타가 페이스북, 인스타그램, 스레드에 올라오는 AI 생성 이미지에 라벨을 붙이겠다고 발표했다. 자사 모델뿐 아니라 C2PA·IPTC 표준을 활용해 오픈AI, 구글, 미드저니 등이 만든 이미지도 식별한다. 표준이 미비한 AI 영상·오디오는 이용자의 자진 신고를 의무화하고 미이행 시 제재할 방침이다.
영국 정부, AI R&D에 1억 파운드 투입…새 법 제정은 보류
영국 정부가 AI 규제 방침을 발표하며 1억 파운드 이상의 자금 지원 계획을 공개했다. 9,000만 파운드는 9개 연구 허브 설립에, 1,000만 파운드는 기존 규제 기관 역량 강화에 쓰인다. 엄격한 법안을 도입하는 EU와 달리, 영국은 성급한 입법 대신 유연한 규제 체계로 혁신을 이끌겠다는 전략이다.
MS, 뉴스 스타트업 세마포와 AI 파트너십…기사 작성은 기자가 직접
뉴스 스타트업 세마포는 마이크로소프트 및 오픈AI 도구를 활용해 다국적 속보 서비스 '시그널스'를 구축한다고 밝혔다. AI는 취재 리서치 보조에만 쓰이며 기사는 인간 기자가 직접 작성한다. 저작권 소송에 직면한 MS가 언론사와의 협력 모델을 넓히려는 행보로 풀이된다.
딥페이크 화상회의에 속았다… 다국적 기업 홍콩 지사서 2560만 달러 털려
홍콩의 한 다국적 기업 지사에서 딥페이크 사기로 2억 홍콩달러(약 2,560만 달러)의 피해가 발생했다. 사기범들은 공개 영상을 토대로 영국 본사 CFO와 동료들을 정교하게 합성해 가짜 단체 화상회의를 열고 송금을 지시했다. 직원은 15차례 송금한 뒤 일주일이 지나서야 피해를 인지했다.
AI가 만든 정교한 위조 신분증, 암호화폐 거래소 신원 확인까지 뚫었다
404 Media 기자가 신경망을 이용해 가짜 신분증을 대량 생산하는 지하 사이트를 직접 검증했다. 몇 분 만에 만든 가짜 신분증으로 암호화폐 거래소의 신원 확인 절차를 통과하는 데 성공해 사이버 보안과 범죄 예방에 큰 경종을 울리고 있다.
미 FCC, 로보콜 내 AI 음성 복제 기술 전면 불법화 추진
미국 연방통신위원회(FCC)는 자동 안내 전화(로보콜)에 AI 음성 복제 기술을 사용하는 것을 불법으로 규정하는 방안을 제안했다. 최근 바이든 대통령을 사칭한 가짜 투표 방해 전화가 발생하자, 기존 전화소비자보호법상 금지된 인공 음성에 복제 음성을 포함해 사기범 단속과 기소를 수월하게 만들려는 조치다.
미스트랄 CEO, GPT-4급 오픈소스 모델 'miqu-1-70b' 유출 공식 인정
미스트랄 AI의 아서 멘슈 CEO는 벤치마크에서 GPT-4에 육박해 화제가 된 오픈소스 모델 'miqu-1-70b'가 자사의 구형 모델 유출본임을 확인했다. 초기 고객사 직원이 유출한 라마 2 기반 재학습 모델로, 오픈소스 진영의 추격 속도가 매우 빠름을 증명했다.
뉴욕타임스, 편집국 전담 AI 팀 신설…취재·작성은 인간 기자 유지
뉴욕타임스가 편집국 내 생성형 AI 활용을 모색할 전담 팀 구축을 시작했다. 엔지니어와 디자이너, 편집자가 참여하는 특수 조직 형태로 취재 지원 프로토타입을 개발할 예정이다. 오픈AI와 소송을 진행 중인 상황에서도 내부 기술 도입에 나섰으나, 기사 작성은 계속 인간 기자가 맡는다는 원칙을 재확인했다.
가상자산과 AI 결합의 명과 암: 시장 참여자와 보안 위험
공개된 기술 블로그 분석에 따르면, 크립토와 AI 의 가장 유망한 결합 방식은 AI 가 예측 시장의 플레이어로 참여하거나 지갑 인터페이스를 돕는 형태다. 반면 스마트 계약 규칙을 집행하는 심판으로 AI 를 도입할 경우 적대적 머신러닝 공격에 취약해지는 구조적 한계가 지적됐다.
바이든 사칭해 투표 방해한 자동 전화, AI 딥페이크 유력
미국 뉴햄프셔주 경선을 앞두고 조 바이든 대통령 목소리를 흉내 내 투표하지 말라고 독려하는 자동 전화가 확산돼 전문가들이 AI 딥페이크로 분석했다. 탐지 기업 등은 음성 조작 가능성이 매우 높다고 평가했으나, 손쉬운 정치인 음성 복제 기술에 비해 관련 선거 규제는 미비한 실정이다.
AI 무단 학습 망치는 '데이터 독' 도구 나이트셰이드 정식 배포
시카고대 연구진이 AI 무단 학습을 방해하는 무료 도구 '나이트셰이드 v1.0'을 공식 배포했다. 사람 눈에는 평범한 소 그림이지만 AI는 가방으로 인식하도록 픽셀을 미세하게 왜곡한다. 개발진은 모델 파괴가 아니라 무단 크롤링 비용을 높여 정당한 데이터 라이선스를 유도하는 것이 목적이라고 설명했다.