OpenAI와 FMF, AI 사이버 탈옥 위험 평가 프레임워크 공개
OpenAI가 프론티어 모델 포럼(FMF) 및 회원사들과 협력해 AI 안전장치 우회 시 발생하는 사이버 위협을 식별하는 새 프레임워크를 발표했다. 탈옥으로 해제되는 역량과 악용 난이도를 표준화된 방식으로 평가해 보안 대책의 우선순위를 정하도록 돕는다.
AI 기업의 투자 유치, 인수, 제휴, 경영진 교체와 각국의 AI 규제, 저작권 소송, 대규모 컴퓨팅 계약.
OpenAI가 프론티어 모델 포럼(FMF) 및 회원사들과 협력해 AI 안전장치 우회 시 발생하는 사이버 위협을 식별하는 새 프레임워크를 발표했다. 탈옥으로 해제되는 역량과 악용 난이도를 표준화된 방식으로 평가해 보안 대책의 우선순위를 정하도록 돕는다.
메타, 구글, 틱톡이 16세 미만 청소년을 대상으로 자동 재생 및 맞춤형 알고리즘 피드를 금지하는 캘리포니아주 법안 'AB 1709'를 막기 위해 연방 소송을 제기했습니다. 위반 시 아동 1인당 최대 5만 달러의 벌금이 부과되며, 빅테크 기업들은 표현의 자유 침해를 주장하고 있습니다.
오픈AI가 데이터센터 건립 과정에서 공직자와 체결하던 비밀유지협약(NDA)을 중단한다고 발표했다. 보안 및 영업 비밀로만 비공개 대상을 좁히고, 사용하는 전력과 관련 인프라 비용 전액을 직접 부담할 계획이다. 지역 주민들의 반대 여론에 대응한 조치로, 지난 10월 아마존에 이은 결정이다.
AI 평가 비영리단체 METR의 보고서에 따르면 앤트로픽의 내부 모델 개발 속도가 2025년 10월 이후 약 1.9배 빨라졌으며, 가속의 약 80%는 AI 자체 활용에서 비롯됐다. 클로드 오푸스 5.5를 뛰어넘는 내부 모델 '모델 4'의 존재도 확인되면서 AI가 AI를 개발하는 루프가 가시화됐다.
Serval 최고기술책임자(CTO)가 샌프란시스코, 뉴욕 등에서 5개 직무 채용을 발표하며, 입사자에게 최대 1만 달러 상당의 1주일 유급 호화 휴가를 제공한다고 밝혔습니다. 회사는 10월 말 세쿼이아 주도로 1억 5000만 달러를 투자받으며 기업가치 30억 달러를 기록했습니다.
Serval이 IT 업무를 자동화하는 AI 에이전트 Catalyst 개발을 위해 엔지니어 채용에 나섰습니다. 자연어로 요구사항을 설명하면 에이전트가 코드를 작성해 승인 후 정기 실행하는 구조입니다. Serval은 인재 유치를 위해 신규 입사자 전원에게 입사 첫 주 1만 달러 상당의 유급 휴가를 제공합니다.
로컬과 클라우드에서 코딩 에이전트를 실행하는 플랫폼 컨덕터가 메타에 합류했다. 팀은 차세대 개발 인터페이스를 준비하고 있으며 내년 초 새 도구를 선보일 계획이라고 밝혔다. 메타가 자체 AI 코딩 생태계 구축에 속도를 내는 모양새다.
오픈AI가 개발 도구 기업 피에르 컴퓨터 컴퍼니를 인수한다고 발표했다. 피에르의 오픈소스 라이브러리인 Trees와 Diffs는 이미 코덱스 앱의 파일 탐색과 코드 리뷰에 쓰이고 있으며, 인수 후에도 오픈소스로 유지된다. 오픈AI는 다수의 코딩 에이전트가 병렬로 개발하는 환경에 맞춰 Git 워크플로와 버전 관리 체계를 고도화할 계획이다.
우버는 3분기 실적 발표에서 핼러윈 주간 처리한 3억 2천만 건의 주문 중 AI 에이전트를 통한 차량 호출은 단 4건, 배달은 500건에 불과했다고 밝혔다. 앱에서 50초면 끝나는 호출을 AI가 대체할 실익이 적어 에이전트 상용화의 현주소를 보여준다.
OpenAI가 칩 가나시 레이싱(Chip Ganassi Racing) 엔지니어들과 협력해 3D 스캔 데이터를 편집 가능한 CAD 모델과 제조 도면으로 변환하고 있다고 밝혔습니다. 마쓰다와도 시뮬레이션을 통한 차량 디자인 탐색에 나섰으며, 엔지니어들이 결과물을 검토해 모델 개선을 돕고 있습니다.
넷플릭스는 TV 앱에 분위기와 테마별로 콘텐츠를 추천하는 실험적 기능인 'AI 디스커버' 탭을 선보였다. 자체 구축한 인텔리전스 레이어가 사용자의 실시간 피드백을 반영해 취향을 학습한다. 현재 미국 내 영어 지원 TV 사용자를 대상으로 순차 배포 중이다.
OpenAI가 모델을 활용한 물리 제품 엔지니어링 성과를 공개하며, 직원 두 명이 GPT-6 Astra를 활용해 1주일 만에 시제품의 외형과 회로 기판을 설계했다고 밝혔습니다. 지난 2월 이후 사내 하드웨어 팀의 모델 사용량은 23배 급증했으며 마쓰다 등과 시뮬레이션 테스트도 진행 중입니다. 다만 실제 제조를 위한 공차 검토 등에는 여전히 사람의 개입이 필요합니다.
오픈AI는 보안 파트너사 카테드랄과 손잡고 자체 모델을 활용해 취약점을 점검하는 내부 보안 스프린트를 발표했다. 중대 취약점에 대한 버그 바운티 보상금을 4배 이상으로 대폭 인상했으며, 6개월 동안 최전선 방어자들에게 10억 달러 규모의 모델 지원을 제공하기로 했다.
이스라엘 스타트업 42AI가 6250만 달러 규모의 시드 투자를 유치하며 인간의 결정을 예측하는 '행동 세계 모델'을 공개했다. 고객센터 대화와 거래 내역을 분석해 심리적 특성을 수치화하고 상황별 행동 확률을 계산한다. 이미 대형 증권사 10곳에 도입돼 리스크 관리에 쓰이고 있으나 금융 외 분야 확장성은 아직 검증되지 않았다.
일론 머스크 SpaceX CEO는 그록 봇(Grok Bot)의 운영 비용이 매출 대비 지나치게 높아 사용 한도를 줄였다고 인정했다. 지난 주말 사용량이 갑자기 상한선에 도달한 이용자가 속출했다. AI 부문이 흑자를 냈음에도 막대한 연산 비용 부담 탓에 결국 긴축에 들어갔다.
OpenAI가 전력 피크 시 AI 시설 소비 전력을 줄이는 '그리드 프로텍터 프로그램'을 발표했다. 조지아주 첫 시범 부지에서 70만 가구 분량인 최대 1000MW의 수요 감축을 제공한다. 인프라 비용을 전액 부담해 AI 시설로 인한 일반 가정의 전기료 인상 우려를 덜겠다는 방침이다.
구글이 오픈AI, 앤트로픽, 빙에 이어 IETF AIPREF 표준을 자발적으로 채택한다고 발표했다. 웹사이트 운영자는 크롤러마다 개별 설정할 필요 없이 robots.txt 내 통일된 식별자로 여러 AI 개발사의 학습 데이터 수집 거부를 한 번에 설정할 수 있게 된다. 구글은 2027년 초 지원을 시작할 계획이다.
스타트업 서브보컬이 시드 전 투자를 유치하고 무성 음성 입력 스마트 안경의 사전 예약을 시작했다. 카메라나 마이크 없이 레이더형 무선 주파수 센서로 안면 근육의 미세한 움직임을 감지해 AI로 텍스트화하며, 분당 200단어 이상 전사할 수 있다. 얼리버드 가격은 499달러로 2027년 상반기 배송 예정이다.
교황 레오 14세는 UN 회원국들에게 다음 달 제네바 회의에서 치명적 자율살상무기를 전면 금지할 것을 촉구했다. 그는 "기계는 도구일 뿐 사람 아니다"라며 AI에 법적 권리를 부여하는 것을 경계하고, 무력 사용 결정은 반드시 인간의 감독하에 두어야 한다고 강조했다.
도어대시 CEO 토니 쉬는 3분기 실적 발표에서 서드파티 AI 에이전트를 통한 주문이 누적 "수백 건"에 불과하다고 밝혔다. 하루 평균 배달 건수 300만 건에 비하면 미미한 수치로, 그는 AI 에이전트 커머스에 대한 과도한 환상을 경계해야 한다고 당부했다.