OpenAI, 희소 회로로 신경망 블랙박스 해석하는 새 연구 공개
OpenAI는 모델 내부 계산을 분석하는 기계론적 해석 가능성 연구를 공개했다. 대부분의 가중치를 0으로 제한해 훈련하자 특정 작업을 수행하는 작고 명확한 회로가 분리되었다. AI 작동 과정을 투명하게 들여다보는 발판을 마련했으나, 대형 모델로 확장하는 것은 여전히 과제다.
연구 · 데일리
목
11월 13일 목요일
구글 딥마인드, 3D 가상 세계용 AI 에이전트 'SIMA 2' 공개
구글 딥마인드가 제미나이(Gemini) 모델을 탑재한 3D 가상 세계용 에이전트 SIMA 2를 발표했습니다. 마우스와 키보드로 게임을 조작하며 복잡한 지시를 추론해 실행하고, 처음 접하는 환경에서도 스스로 학습해 적응합니다. 현재는 연구자와 게임 개발자 대상 한정 프리뷰로 제공됩니다.
‘월드 모델’의 세 갈래 길: 페이페이 리는 3D 에셋, 르쿤은 잠재 두뇌, 딥마인드는 시뮬레이터
테크 분석에 따르면 주요 AI 기업들이 표방하는 ‘월드 모델’의 실체가 서로 크게 다른 것으로 나타났습니다. World Labs의 Marble은 3D 가우시안 스플래팅 에셋 파이프라인에 가깝고, 얀 르쿤은 예측과 계획을 위한 잠재 공간을, DeepMind는 Genie 3 기반의 대화형 영상 시뮬레이터를 개발 중입니다.
앤트로픽, 클로드의 정치적 편향 측정 및 공정성 평가 도구 오픈소스화
앤트로픽이 클로드의 정치적 중립성을 훈련하고 측정하는 방식을 공개하며 자동 평가 도구를 오픈소스로 배포했다. 150개 정치 이슈 테스트 결과 클로드 소넷 4.5는 94%의 공정성을 기록해 GPT-5를 앞섰다. 특정 이념에 편향되지 않는 공통 평가 기준 마련이 목표다.
수
11월 12일 수요일
Landing AI, DocVQA 99.16% 정확도로 문서 이해 신기록 달성
Landing AI가 문서 이해 벤치마크 DocVQA에서 99.16% 정확도를 기록하며 Qwen2-VL과 인간 기준을 모두 넘어섰다. 자체 모델 DPT-2로 문서를 한 번만 구조화해 파싱한 뒤 질문 답변은 순수 LLM에 맡기는 방식을 채택해, 반복 연산 비용을 대폭 줄이고 추적 가능성을 확보했다.
금
11월 7일 금요일
터미널벤치, 샌드박스 도구 '하버' 및 2.0 벤치마크 공개
터미널벤치(Terminal-Bench)가 대규모 샌드박스 에이전트 실행 도구인 Harbor와 검증 강도를 높인 고난도 벤치마크 Terminal-Bench 2.0을 발표했습니다. 자율형 에이전트의 터미널 작업 능력을 한층 더 엄격하게 검증할 수 있도록 지원합니다.
OpenAI, AI 에이전트 노리는 '프롬프트 인젝션' 방어 체계 공개
OpenAI가 자율 작업을 수행하는 AI 에이전트를 겨냥한 프롬프트 인젝션 공격 대응책을 공개했다. 웹페이지나 이메일에 숨은 악성 지침으로 인한 데이터 유출을 막기 위해 지시 계층 훈련, AI 모니터링, 샌드박스, 민감 작업 확인 절차 등 다층 방어 체계를 가동하고 있다.
구글, AI의 망각 현상 해결할 새 패러다임 '네스티드 러닝' 공개
Google Research는 모델의 '치명적 망각' 문제를 해결하기 위한 새 머신러닝 패러다임 '네스티드 러닝(Nested Learning)'을 발표했다. 모델 구조와 최적화 알고리즘을 다양한 업데이트 주기를 가진 다층 최적화 문제로 통합했으며, 이를 적용한 'Hope' 아키텍처는 기존 트랜스포머 대비 뛰어난 장문 맥락 기억 능력을 입증했다.
수
11월 5일 수요일
소니 AI, 네이처에 FHIBE 공개: 1만여 장의 동의 기반 이미지로 AI 편향 잡는다
소니 AI 연구진이 이번 주 컴퓨터 비전 모델의 편향을 평가하기 위한 벤치마크 데이터셋 'FHIBE'를 네이처에 발표했다. 81개국 1,981명의 사전 동의를 거친 사진 10,318장으로 구성되었으며, 나이·대명사·혈통·피부색 등 자가 보고 메타데이터를 담아 안면 인식 등의 편향을 바로잡는 기준을 제시한다.
월
10월 20일 월요일
앤트로픽, 생명과학 전용 클로드 공개…실험 프로토콜서 인간 기준 넘었다
앤트로픽이 바이오 연구와 신약 개발을 돕는 '클로드 포 라이프 사이언스'를 발표했다. 클로드 소넷 4.5를 기반으로 실험 프로토콜 벤치마크에서 인간 기준을 웃도는 점수를 기록했으며, 펍메드 및 벤치링 연동과 에이전트 스킬로 연구 전 과정을 지원한다.
금
10월 17일 금요일
실험실 AI 코사이언티스트 LabOS 공개: XR 안경으로 실험 오류 실시간 방지
실제 연구실을 지원하는 AI 시스템 LabOS가 공개됐습니다. XR 스마트 안경을 통해 연구원의 손동작과 도구를 인식하고, 시약을 잘못 집거나 단계를 건너뛰기 전에 실시간으로 바로잡아 줍니다. 데이터 분석부터 실제 실험 보조까지 지원하며 소프트웨어와 하드웨어를 모두 오픈소스로 풀 예정입니다.
목
10월 16일 목요일
구글 딥마인드, CFS와 맞손…AI로 차세대 핵융합 장치 SPARC 최적화
구글 딥마인드가 핵융합 기업 CFS와 연구 파트너십을 맺었다고 발표했다. 딥마인드는 플라스마 시뮬레이터 'TORAX'와 강화학습을 활용해 토카막 장치 'SPARC' 가동 시뮬레이션을 수백만 번 수행하고 순에너지 도달 경로를 찾는다. 고열 분산을 위한 AI 실시간 자기장 제어도 추진하며 구글은 CFS에 투자도 단행했다.
목
10월 9일 목요일
앤트로픽 연구, 악성 문서 250개만으로 13B 모델에 백도어 주입 가능
앤트로픽과 영국 AISI 공동 연구팀은 사전 학습 데이터 오염 취약점을 공개했다. 공격 성공 여부는 데이터 비율이 아닌 절대 문서 수에 좌우되어, 6억~130억 파라미터 모델 모두 250개의 악성 문서만 섞여도 백도어가 작동했다. 대형 모델일수록 오염에 강하다는 기존 통념을 완전히 뒤집었다.
화
9월 30일 화요일
상상 속에서 훈련하는 AI 'Dreamer 4': 환경 상호작용 없이 마인크래프트 다이아몬드 채굴 성공
연구진이 정밀한 세계 모델 내부에서 강화학습을 수행하는 'Dreamer 4'를 공개했습니다. 픽셀 데이터로부터 2만 회 이상의 조작을 '상상' 속에서 시뮬레이션해, 게임 환경과의 상호작용 없이 오프라인 데이터만으로 마인크래프트 다이아몬드를 채굴한 첫 AI가 되었습니다. 로봇 공학처럼 실기 훈련이 위험한 분야에 돌파구를 제시합니다.
목
9월 25일 목요일
OpenAI, 44개 직종 실무 평가 벤치마크 ‘GDPval’ 공개
OpenAI가 실제 경제적 가치를 평가하는 벤치마크 ‘GDPval’을 발표했다. 미국 GDP 기여도가 높은 9개 산업 내 44개 지식 노동 직종에서 1,320개 실무 과제를 도출했다. 최고 수준의 모델이 전문가급 성과를 100배 저렴하게 냈으나, 현재는 단발성 작업에 국한된다.
화
9월 23일 화요일
감정을 학습하는 로봇: 새로운 증분 학습으로 표정 인식 한계 극복
IEEE 트랜잭션 온 어펙티브 컴퓨팅에 인간의 감정을 지속적으로 학습하는 AI 연구가 실렸다. 기존 지식을 잊지 않고 새로운 표정 데이터에 적응해 매번 모델을 재학습하는 비효율을 없애고 로봇의 공감 능력을 높여준다.
월
9월 22일 월요일
MS 연구진, 희귀질환 진단 돕는 생성형 AI 연구 공개
마이크로소프트 연구소는 드렉셀 대학교 및 브로드 연구소와 함께 유전체 분석을 돕는 생성형 AI 어시스턴트 연구를 발표했다. 의학 문헌에서 변이 정보를 요약하고 새 연구 결과가 나오면 미해결 환자 사례의 재분석을 자동 제안한다. 현재는 연구 프로토타입 단계다.
일
9월 21일 일요일
과학자들, 유해 박테리아 사냥하는 바이러스 최초 AI 설계
Semafor에 따르면 연구진이 AI를 활용해 유해 박테리아를 표적 살상하는 박테리오파지를 처음으로 설계했다. AI가 생성한 302개 게놈 중 16개가 항생제 내성 대장균을 감염시키는 데 성공했다. 새로운 치료법 개발 가능성을 열었으며, 논문은 현재 동료 평가 전 단계다.
금
9월 19일 금요일
Epoch AI 분석: 초장문 맥락 추론이 지속 학습과 강화학습을 확장하는 법
Epoch AI는 초장문 맥락 추론이 LLM의 지속 학습 병목을 해결하고 강화학습 확장을 견인할 핵심 열쇠라는 분석을 발표했다. 수천만에서 수백억 토큰 처리가 가능해지면 에이전트가 수개월치 업무 경험을 맥락에 담아 학습할 수 있으나, 연구 사이클 지연과 높은 비용이 걸림돌로 지적된다.
다국적 연구진, 1000가지 질환 발병을 수년 전 예측하는 AI 'Delphi-2M' 개발
수요일, 다국적 연구진이 국제학술지 네이처를 통해 AI 모델 'Delphi-2M'을 발표했다. 환자의 병력 데이터를 트랜스포머 아키텍처로 분석해 1000가지 이상의 질환 발병률을 수년 앞서 예측한다. 데이터 편향으로 인해 임상 적용까지는 추가 검증이 필요하지만, 예방 의학의 새 가능성을 열었다.
