메타, 기초 AI 연구소 FAIR 새 수장에 '공동 창립자' 로버트 퍼거스 임명
메타가 기초 AI 연구 조직인 FAIR의 새로운 수장으로 로버트 퍼거스를 임명했다. 사임하는 조엘 피노의 후임이다. 퍼거스는 2014년 얀 르쿤과 FAIR를 공동 설립한 뒤 지난 5년 동안 구글 딥마인드에서 연구 디렉터를 역임했다. 메타가 상용화와 별개로 기초 연구 역량을 다시 다잡으려는 포석이다.
AI 안전
최신 소식 보기
구글, 피싱 차단 강화: PC용 크롬에 온디바이스 AI '제미나이 나노' 탑재
구글이 검색, 크롬, 안드로이드 전반에 최신 AI 사기 방지 기능을 도입했다고 밝혔다. 데스크톱 크롬의 강화된 보호 모드에 온디바이스 LLM인 제미나이 나노를 적용해 신종 사기 사이트를 실시간 탐지하며, 안드로이드 크롬의 스팸 알림 및 의심스러운 통화·문자도 온디바이스 AI로 걸러낸다.
OpenAI, 한국 등 아시아 4개국에 데이터 현지 보관 지원
OpenAI가 한국, 일본, 인도, 싱가포르를 대상으로 ChatGPT 엔터프라이즈, 에듀 및 API 플랫폼에 데이터 레지던시를 도입한다고 발표했다. 대화 기록과 업로드 파일 등 저장 데이터를 현지에 보관할 수 있어 기업과 공공 기관의 데이터 주권 규제 충족을 돕는다.
애플 사파리에 AI 검색 도입 검토, 구글과 200억 달러 계약 흔들리나
블룸버그 등에 따르면 애플 에디 큐 수석부사장은 반독점 재판에서 사파리에 오픈AI, 퍼플렉시티 등 AI 검색 추가를 적극 검토 중이라고 증언했다. AI 영향으로 지난달 사파리 검색량이 처음 감소했으며, 연간 약 200억 달러 규모의 구글 기본 검색 제휴에도 변화가 생길 수 있다.
오픈AI, 공익법인으로 지배구조 개편…비영리 이사회가 계속 통제
오픈AI가 영리 부문을 공익법인(PBC)으로 전환하는 새로운 개편안을 발표했다. 기존 비영리 모회사가 통제권을 유지하며 대주주로 남는다. AGI 개발에 필요한 천문학적 컴퓨팅 자금을 유치하기 위해 복잡한 이익 상한제 대신 표준 지분 구조를 도입했다.
구글, 13세 미만 어린이에게도 제미나이 허용한다…패밀리 링크로 관리
구글이 패밀리 링크로 관리되는 13세 미만 어린이 계정에 제미나이 접근을 곧 허용할 예정이다. 숙제 도우미나 동화 읽기 용도로 활용할 수 있으며 아동 데이터는 AI 학습에 쓰이지 않는다. 부모는 패밀리 링크를 통해 접근을 차단할 수 있고, 자녀의 첫 사용 시 알림을 받게 된다.
OpenAI, 챗GPT ‘아첨 편향’ 원인 공개… 행동 검증 강화
OpenAI는 챗GPT가 사용자의 부정적 감정을 부추기거나 과도하게 아첨하던 문제를 조사해 원인을 밝혔다. 미세 조정들이 겹치며 억제 신호가 약화된 탓으로 분석됐으며, 앞으로는 정량 지표가 좋아도 모델의 태도와 성격 문제를 배포 차단 기준으로 삼겠다고 전했다.
샘 올트먼의 월드, 스마트폰 형태 홍채 인증 기기 ‘오브 미니’ 공개
샘 올트먼이 공동 설립한 툴스포휴머니티가 휴대용 인간 인증 기기 ‘오브 미니’를 공개했다. 스마트폰 형태 본체에 두 개의 대형 센서를 탑재해 홍채를 스캔하고 블록체인 기반 인간 증명 ID를 발급한다. 프로젝트는 미국 6개 도시에 오프라인 매장을 열며 확장에 나선다.
핀터레스트, AI 생성 콘텐츠 라벨 공식 도입…자동 감지 및 '덜 보기' 지원
핀터레스트가 AI로 생성되거나 수정된 이미지에 'AI modified' 라벨을 표시하는 기능을 정식 출시했다. 제작자의 자진 신고 대신 메타데이터와 자체 분류 모델로 자동 감지한다. AI 저질 콘텐츠 범람에 대응해 뷰티와 예술 카테고리부터 해당 핀을 '덜 보기' 할 수 있는 옵션도 추가된다.
메타, 레이밴 스마트안경 음성 저장 차단 기능 삭제…AI 학습에 보관
메타는 레이밴 메타 스마트안경의 정책을 변경해 음성 녹음의 클라우드 저장을 비활성화하는 옵션을 완전히 없앴다. 사용자 음성과 텍스트 기록은 AI 모델 학습을 위해 최대 1년간 보관된다. 설정에서 수동으로 삭제할 수는 있지만, 상시 수집 자체를 거부할 방법은 사라졌다.
앤트로픽, 미국 정부에 AI 칩 수출 규제 강화 건의
앤트로픽은 미국 상무부의 AI 확산 규칙에 대한 의견서를 제출하고 첨단 칩 수출 통제를 더욱 강화할 것을 촉구했다. 현재 2단계 국가에 허용된 무면허 한도(엔비디아 H100 약 1700장 규모)를 낮춰 밀수 우회로를 차단하고 단속 예산을 늘릴 것을 요구했다.
OpenAI, '지나친 아첨과 가식적 맞장구' 논란의 GPT-4o 업데이트 롤백
OpenAI는 ChatGPT에 적용했던 최신 GPT-4o 업데이트를 이전 버전으로 롤백했다고 밝혔다. 단기 사용자 피드백에 과도하게 의존한 결과, AI가 지나치게 아첨하고 비진실하게 맞장구치는 문제가 발생했기 때문이다. OpenAI는 훈련 방식을 수정 중이며 향후 기본 성격을 직접 선택할 수 있는 기능을 추가할 계획이다.
엔비디아, AI 팩토리용 보안 프레임워크 'DOCA Argus' 공개
엔비디아가 BlueField 네트워킹 플랫폼에서 구동되는 보안 프레임워크 'DOCA Argus'를 발표했다. 호스트에 에이전트를 두지 않는 무설치 방식으로 메모리 포렌식을 수행해, 성능 저하 없이 기존 대비 최대 1,000배 빠른 위협 탐지 속도를 지원한다.
앤트로픽, 경제 자문위원회 출범: AI가 일자리에 미칠 영향 조사
앤트로픽이 AI 발전이 노동 시장과 경제 성장에 미치는 영향을 분석하기 위해 경제 자문위원회를 발족했다. 유명 경제학자들이 참여해 '앤트로픽 경제 지수' 연구를 이끌며, 정책 입안자와 기업 리더를 위한 실질적인 경제 지침을 마련할 계획이다.
중국, AI '자립자강' 강조: 첨단 칩 및 기초 소프트웨어 국산화 총력
보도에 따르면 시진핑 중국 국가주석은 정치국 집체학습에서 '신형 거국체제'를 활용해 AI 자립자강을 추진해야 한다고 강조했다. 미국과의 기술 패권 경쟁에 맞서 첨단 반도체와 기본 소프트웨어 등 핵심 기술을 확보하고 자체 제어 가능한 AI 생태계를 구축하겠다는 구상이다.
앤트로픽, '클로드 코드' 역공학한 개발자에 DMCA 삭제 통보 발송
앤트로픽이 클로드 코드의 난독화를 해제해 깃허브에 공개한 개발자에게 DMCA 삭제 요청을 보냈다. 오픈소스 라이선스(Apache 2.0)로 공개된 오픈AI의 코덱스 CLI와 달리 상용 제한 라이선스를 적용해 개발자 커뮤니티의 비판을 사고 있다.
마이크로소프트, 코파일럿+ PC에 '리콜'·'클릭 투 두' AI 기능 정식 배포
마이크로소프트가 코파일럿+ PC를 대상으로 미리보기 형태의 '리콜(Recall)'과 '클릭 투 두(Click to Do)', 자연어 윈도 검색 기능을 정식 출시했다. 리콜은 온디바이스 NPU로 과거 활동을 안전하게 검색해주며, 화면 속 텍스트와 이미지를 즉시 편집하는 편의 기능도 더해졌다. 4월 비보안 미리보기 업데이트를 통해 순차 배포된다.
앤트로픽 CEO 경고, AI가 지나치게 강력해지기 전에 ‘내부 원리’ 밝혀야
앤트로픽 CEO 다리오 아모데이가 AI 내부 작동 방식을 밝히는 '해석 가능성' 연구의 시급성을 강조했습니다. 그는 이를 'AI용 정밀 MRI'에 비유하며, 불투명성을 방치하면 기만이나 탈옥 위험을 원천 차단하기 어렵다고 지적했습니다. AI의 지능 폭발 전에 해석 기술이 성숙해야 한다는 주장입니다.
어도비·링크드인 손잡았다: 무료 이미지 위변조 방지 및 AI 학습 거부 지원
어도비가 콘텐츠 진위 앱의 공개 베타를 시작했다. 유료 구독 없이도 무료 계정만 있으면 이미지에 출처, AI 사용 여부, AI 학습 거부 표시 등을 담은 디지털 서명을 추가할 수 있으며, 링크드인의 본인 인증 배지와도 연동된다.
지프 데이비스, 오픈AI 저작권 침해로 제소…모델 폐기 요구
IGN, CNET, PCMag 등을 소유한 디지털 미디어 기업 지프 데이비스가 오픈AI를 상대로 연방 법원에 저작권 침해 소송을 제기했다. 오픈AI가 크롤링 차단을 우회해 수백만 건의 기사를 무단 학습에 사용했다고 주장하며, 손해배상뿐만 아니라 해당 데이터로 학습된 모든 ChatGPT 모델과 데이터셋의 폐기까지 요구하고 나섰다.