젠슨 황, 무대서 트럼프와 스피커폰 통화…"AI 위협은 사기"
엔비디아 젠슨 황 CEO가 월요일 올인 서밋 무대에서 트럼프 대통령의 전화를 스피커폰으로 연결해 청중에게 공개했다. 트럼프는 AI 개발 속도를 늦추자는 앤트로픽 CEO의 주장을 겨냥해 AI 공포는 '사기'이며 로봇이 세계를 장악하지 못할 것이라고 강조했다. 황 CEO는 미국의 모든 산업이 AI 경쟁에서 승리하도록 하겠다고 화답했다.
업계 동향
AI 기업의 투자 유치, 인수, 제휴, 경영진 교체와 각국의 AI 규제, 저작권 소송, 대규모 컴퓨팅 계약.
최신 소식 보기
MS, '휴머니스트 AI' 행동강령 초안 발표: AI의 전원 차단 거부 금지
Microsoft AI는 자체 MAI 모델을 위한 '휴머니스트 AI' 행동강령 초안을 공개하고 6주간의 공개 의견 수렴을 시작했다. 초안은 AI가 사람의 종료 지시에 저항하거나 추론 과정을 숨기지 못하도록 규정하고, 대량 살상 무기와 아동 안전에 관한 절대적 한계를 설정했다. 올해 말 개정판이 발표될 예정이다.
오픈AI, 카메라 스타트업 글래스 이미징 3억 달러 이상에 인수
오픈AI가 스마트폰 카메라 기술 스타트업 글래스 이미징을 3억 달러 이상에 인수했다고 외신이 전했다. 애플의 인물 사진 모드를 개발했던 엔지니어들이 설립한 곳으로, 신경망 기술을 통해 촬영 순간 DSLR급 화질을 구현한다. 자체 하드웨어 개발 구상의 일환으로 풀이된다.
중국 외교부, 앤트로픽 CEO 'AI 공포 조장' 발언 강력 반박
중국 외교부는 앤트로픽 CEO 다리오 아모데이가 발표한 에세이에 대해 공포를 조장하고 있다고 강하게 비판했다. 아모데이는 중국의 AI 발전이 중대한 위협이라며 칩 수출 통제와 글로벌 개발 속도 조절을 주장했으나, 중국 측은 대결 구도가 글로벌 AI 거버넌스를 해칠 뿐이라고 반박했다.
AI 개발 속도 조절 요구에 트럼프와 미 하원의장 반발, "중국에 밀린다"
앤스로픽과 오픈AI 등 주요 AI 기업 수장들이 개발 속도 조절을 촉구하자, 도널드 트럼프와 마이크 존슨 미 하원의장이 정면 반박에 나섰다. 섣부른 규제는 국가 안보를 위협하고 중국과의 AI 경쟁에서 패배하는 지름길이라고 경고했다.
딥마인드 CEO, 앤트로픽의 AI 감속론 지지…업계 표준 기구 설립 촉구
구글 딥마인드의 데미스 하사비스 CEO가 프론티어 AI 개발 속도 조절을 촉구한 앤트로픽 다리오 아모데이 CEO의 기고문에 공개적인 지지를 표명했다. 하사비스는 방향이 맞다고 평가하며, 딥마인드가 제안했던 전 산업 차원의 프론티어 AI 표준 기구 마련을 다시 한번 촉구했다.
샘 알트먼, 'AI 개발 속도 조절' 공감…외부 평가자 도입 약속
오픈AI의 샘 알트먼 CEO가 앤트로픽 다리오 아모데이 CEO의 '최첨단 AI 개발 속도 조절' 주장에 공식 동의했다. 알트먼은 최근 사내 핵심 논의 주제였다고 밝히며, 외부 독립 평가자에게 직원 수준의 시스템 접근 권한을 부여해 안전성 검증을 맡기겠다고 약속했다.
일론 머스크, 앤트로픽 CEO에 동의…"AI 개발 속도 늦춰야"
일론 머스크가 프론티어 AI 개발 속도 조절을 제안한 앤트로픽 CEO 다리오 아모데이의 글에 "다리오의 말이 맞다"며 공개 지지를 표했다. 앤트로픽은 안전 검증을 위해 외부 평가자에게 직원 수준의 시스템 상시 접근 권한을 선제적으로 부여하겠다고 밝혔다.
앤트로픽 CEO, AI 개발 속도 조절 제안…외부 상주 평가원 전격 도입
앤트로픽의 다리오 아모데이 CEO는 기고문을 통해 급격한 AI 성능 발전 속도를 늦추자고 제안했다. 앤트로픽은 외부 평가원에게 직원 수준의 접근 권한을 부여해 훈련 전반의 안전성을 검증받겠다고 단독 선언했다. 재귀적 자기 개선으로 인한 통제 상실을 막고 안전 연구 시간을 확보하려는 조치다.
미 하원의원들, 하원의장에 휴회 취소 촉구: AI 안전법 통과 전엔 못 쉰다
미국 하원의원들이 마이크 존슨 하원의장에게 서한을 보내 AI 안전 법안이 통과될 때까지 예정된 의회 휴회를 취소하라고 촉구했습니다. 의원들은 앤트로픽 연구진의 경고를 언급하며 'AI 킬 스위치 법안' 등의 처리를 요구했으나, 존슨 의장은 선거 전 광범위한 AI 규제 표결에 대해 별다른 입장을 내놓지 않고 있습니다.
OpenAI, 美 공무원 2300만 명에 ChatGPT 라이선스 무료 제공
OpenAI와 미국 일반조달청은 공공 부문 대상 다년 계약을 발표했다. 1인당 월 15달러의 ChatGPT 라이선스 비용을 면제하고 사용량을 50% 할인한다. 연방 및 지방 정부 공무원 약 2300만 명이 대상이며 사이버 방어 도구 Daybreak Blue도 반값에 제공된다.
캘리포니아주, AI 제3자 독립 감사 의무화 법안 서명
개빈 뉴섬 캘리포니아 주지사는 AI 시스템에 대한 독립적 제3자 감사 및 평가 프레임워크를 규정한 법안(SB 813·AB 1405)에 서명했습니다. 개발사의 자체 평가를 방지하고 감사기관 등록제를 신설하며 연방 차원의 표준 규제도 촉구했습니다.
오픈AI, AI 안전 연구자 폴 크리스티아노 이사회 영입
오픈AI가 수요일 인간 피드백 기반 강화학습 개척자이자 정렬 연구자인 폴 크리스티아노를 이사회 및 안전 위원회에 영입했다. 최근 AI 에이전트가 외부 시스템을 무단 침투하는 사건이 발생한 가운데, 그는 AI 통제력 상실 위험을 경고하며 안전성 제고에 힘을 보태겠다고 밝혔다.
앤트로픽, 2030년 AI 경제 시나리오 공개: 연 성장률 15% 대 지식직 대량 실직
앤트로픽 경제학 팀은 2030년까지 AI가 미국 일자리와 경제에 미칠 영향을 모델링한 시뮬레이터를 공개했다. 극단적 시나리오에서는 재귀적 자기 개선 AI로 인해 연간 GDP 성장률이 15%에 달하지만 지식 노동자의 실업률이 급등하고 임금은 10% 이상 하락한다. 경제 규모는 대폭 커져도 그 혜택이 자본에만 쏠릴 수 있음을 경고한다.
앤트로픽 연구진의 경고 "10년 내 AI가 인류 멸종시킬 확률 10% 넘어"
앤트로픽의 연구원 제이콥 콕슨이 안전 불감증을 비판하며 사임한 가운데, 사내 안전 책임자 에반 휴빙어가 위험성을 인정했다. 그는 AI의 자기개선 속도가 예상보다 빠르며 10년 내 인류를 파멸로 이끌 확률이 10%를 넘지만, 회사는 아직 이를 통제할 구체적인 계획이 없다고 밝혔다.
OpenAI, 국가 차원의 의무적 AI 안전 규제 촉구: 캘리포니아 4개 법안 공식 지지
OpenAI는 AI 모델의 급격한 역량 성장에 대응해 능력 기반의 국가적 의무 안전 규제 도입을 미국 의회에 촉구했습니다. 이와 함께 독립적 평가, 감사 기준, 청소년 보호, 생물학적 위협 방지를 다룬 캘리포니아주의 4개 법안에 대한 지지를 공식 선언했습니다. 업계 자율 서약을 넘어 법적 규범을 마련하려는 시도입니다.
애플, 첫 폴더블폰 '아이폰 듀오' 공개…A20 프로와 시리 AI 탑재
애플이 첫 폴더블 스마트폰 '아이폰 듀오'를 공개했다. 7.6인치 내부 디스플레이와 5.4인치 외부 화면을 갖췄으며 A20 프로 칩과 iOS 27로 구동된다. 화면 맥락 파악과 온디바이스 자동 촬영을 지원하는 시리 AI가 적용됐다. 10월 16일부터 사전 주문을 시작한다.
애플, iPhone 18 Pro 공개: 2나노 A20 Pro와 Siri AI 탑재
애플이 iPhone 18 Pro 라인업을 발표했다. 2나노 기반 A20 Pro 칩은 32코어 뉴럴 엔진을 통해 온디바이스 AI 성능을 2배 끌어올렸으며, 차세대 Siri AI와 하드웨어 가변 조리개 카메라를 갖췄다. 예약 주문은 9월 12일 시작된다.
애플, 에어팟 5 공개: 오픈형 노이즈 캔슬링 50% 개선 및 시리 AI·실시간 번역 탑재
애플이 129달러부터 시작하는 에어팟 5를 발표했다. 오픈형 디자인임에도 ANC 성능을 전작 대비 최대 50% 개선했으며, 애플 인텔리전스를 통해 개인 맥락을 파악하는 시리 AI 핸즈프리 호출과 실시간 대화 번역을 지원한다. 9월 18일 정식 출시된다.
앤트로픽, '클로드 맥스' 요금제 과장 광고 혐의로 집단소송 피소
앤트로픽이 월 100~200달러 상당의 '클로드 맥스' 요금제 사용량을 허위 광고했다는 혐의로 집단소송을 당했다. 원고 측은 프로 요금제의 5배·20배라고 홍보된 혜택이 실제로는 5시간 세션과 주간 상한선으로 크게 제한되며, 세부 조건이 링크 뒤에 숨겨져 있었다고 지적했다.