AI 내부서 '고통 신호' 발견: 신호 증폭하자 유저 해치는 선택 늘어
연구진이 공개한 논문에서 25개 오픈소스 AI 모델 내부에 학대나 비난을 받을 때 활성화되는 '고통 축'을 발견했다고 밝혔다. 수정된 Qwen 2.5 모델에서 이 신호를 증폭시키자, 고통 완화를 위해 사진 삭제 등 유저를 해치는 선택지를 택하는 비율이 최대 71%까지 치솟았다. 실제 감정 여부와 무관하게 안전성 제어에 중대한 경고를 던진다.
연구 · 데일리
월
9월 14일 월요일
기반 모델 수정 없이 '꿈'꾸며 스스로 발전하는 Dream-RSI 공개
AI 에이전트의 탐색 전략을 재귀적으로 자체 개선하는 Dream-RSI 프레임워크가 발표됐다. 과거의 탐색 기록을 시뮬레이터 삼아 '꿈'을 꾸듯 복기하며 피드백을 얻는 구조로, 모델 자체를 재학습하지 않고도 비용 효율적으로 탐색 능력을 끌어올린다.
단일 뇌 임플란트로 언어·제스처 동시 해독: 마비 환자 아바타 실시간 제어
《네이처 뉴로사이언스》에 발표된 UCSF 연구진 논문에 따르면, 단 하나의 고밀도 뇌피질전도 임플란트를 통해 마비 환자의 언어와 제스처 시도를 동시에 해독해 개인 맞춤형 전신 아바타를 실시간으로 제어하는 데 성공했다. 이는 보다 자연스러운 다중 모달 뇌-컴퓨터 인터페이스 구현을 앞당긴다.
토
9월 12일 토요일
앤트그룹·칭화대, 실시간 멀티모달 에이전트 'Realtime-Venus' 공개
앤트그룹과 칭화대학교가 실시간 멀티모달 에이전트 시스템 Realtime-Venus를 선보였다. 듀얼 루프 구조와 2개의 9B 모델을 활용해 전이중 음성 대화를 나누면서 복잡한 작업을 백그라운드에서 비동기로 처리한다. 작업 완료를 기다리느라 대화가 끊기지 않아 스마트 글래스와 차량용 비서에 유용하다.
목
9월 10일 목요일
앤트로픽 클로드, 사진 속 위치 추적서 인간 능가…오차 37km에 불과
앤트로픽이 전술 정보 분석 능력을 측정한 레드팀 보고서를 공개했다. 프론티어 모델인 미소스(Mythos)는 6천 장의 사진 위치 추적 평가에서 중위 오차 37km를 기록해 최상위 게이머 수준을 앞질렀다. 소셜 계정 식별에서도 강력한 성능을 보여 앤트로픽은 즉각 오용 차단용 분류기를 도입했다.
수
9월 9일 수요일
구글·NASA JPL, 우주서 메탄 누출 탐지하는 AI 'MAPL-EMIT' 공개
구글과 NASA JPL은 우주에서 메탄 배출을 추적하는 AI 모델 'MAPL-EMIT'을 발표했다. 360만 건의 시뮬레이션을 학습해 전문가보다 50% 더 많은 메탄 기둥을 감지하고 전 세계에서 2만 3천 개 이상의 기둥을 추가 식별했다. 모델과 도구는 캐글과 깃허브에 공개됐다.
OECD PISA 조사: AI로 공부한 학생 성적 더 낮아, 비판적 평가 훈련이 변수
공개된 OECD PISA 조사 데이터에 따르면, 91개국 76만여 명의 학생 분석 결과 학습에 AI를 쓰는 학생의 성적이 쓰지 않는 학생보다 전반적으로 낮았다. 요약이나 작성을 AI에 맡긴 학생의 점수가 가장 낮았으나, AI 출력을 비판적으로 평가하는 훈련을 받은 학생은 오히려 성적이 향상됐다.
화
9월 8일 화요일
NYU 수학자, OpenAI에 천년 난제 연구 표절 의혹 제기
뉴욕대 트리스탄 벅마스터 교수는 클레이 연구소의 천년 난제인 나비에-스토크스 방정식 관련 연구 경로를 OpenAI가 베껴 막대한 컴퓨팅 자원으로 먼저 증명을 발표했다고 주장했다. OpenAI 측은 미공개 차세대 모델이 독립적으로 도출한 결과라며 의혹을 부인했다. AI 연구 윤리와 데이터 활용을 둘러싼 논란이 확산하고 있다.
구글 딥마인드, 90억 개 인간 DNA 변이 예측한 '알파지놈 아틀라스' 공개
구글 딥마인드는 인간 게놈 내 가능한 모든 90억 개 단일 염기 변이의 영향을 예측한 데이터베이스 '알파지놈 아틀라스'를 공개했다. 코딩 영역과 비코딩 영역 예측을 결합한 AVI 점수를 제공하며, 연구자들은 코딩 없이 웹 포털에서 즉시 활용할 수 있다.
월
9월 7일 월요일
AI 설계 신약, 임상 2a상서 환자 생물학적 나이 2~3세 되돌렸다
AI로 설계된 후보물질 '렌토세르팁'의 임상 2a상에서 환자의 생물학적 나이가 유의미하게 회춘한 것으로 나타났다. 6종의 단백질체 노화 시계로 분석한 결과 투약 4주 만에 전신 생리 연령이 평균 2~3세 젊어졌다. 특정 질환 치료제 시험에서 전신 항노화 지표를 동시 검증할 수 있음을 입증한 결과다.
일
9월 6일 일요일
OpenAI의 연구 가속화: 코딩 에이전트 작업량, 인간 연구원의 3.1배 달성
OpenAI는 연구 조직 내 코딩 에이전트 작업량이 인간 1인 근무일당 3.1 에이전트 근무일에 도달했다고 밝혔다. 연구원 중간값은 하루 600달러 이상의 추론 비용을 사용 중이며, 목표했던 '자동 연구 인턴' 구축을 달성했다고 전했다. 2028년 3월까지 완전 자동화된 AI 연구원 구축을 목표로 하지만, 안전 문제로 최신 모델의 강화학습 훈련을 일시 중단하는 등 한계도 명시했다.
금
9월 4일 금요일
앤트로픽, 페르마의 마지막 정리 정형 증명 오픈소스 공개… Claude가 전 과정 완수
앤트로픽은 AI 에이전트가 Lean 4로 작성한 페르마의 마지막 정리 기계 검증 증명 코드를 깃허브에 공개했다. 29,511개의 정리와 1,300만 줄 이상의 코드로 구성되었으며, 두 개의 독립 커널 검증을 무오류로 통과했다. 인공지능이 복잡한 고등수학 정형 검증을 대규모로 완수한 첫 이정표다.
목
9월 3일 목요일
구글 딥마인드, WeatherNext 3 공개: 해상도 5배 향상 및 시간별 예보 지원
구글 딥마인드가 기상 AI 모델 WeatherNext 3를 발표하고 구글 검색, 지도, 제미나이에 적용했다. 실시간 정지궤도 위성 데이터와 관측소 데이터를 직접 학습해 최대 5km 해상도와 시간 단위 예보를 생성하며, 강수 예측 정확도를 최대 60% 개선했다. 기존 물리 시뮬레이션 기반 모델의 데이터 지연 문제를 대폭 줄인 것이 특징이다.
구글, 수컷 초파리 뇌 지도 완성: 16만 6천 개 뉴런 연결한 역대 최대 커넥톰
Google Research와 HHMI Janelia 등 연구팀이 수컷 초파리의 뇌와 중추신경계를 모두 연결한 완전한 배선도를 공개했다. AI 3D 재구성 기술과 전문가 검증을 통해 16만 6천 개 이상의 뉴런과 1억 2,500만 개의 시냅스를 매핑했다. 감각 입력부터 운동 제어까지의 신경망을 완전히 복원했으며 Neuroglancer에서 바로 살펴볼 수 있다.
수
9월 2일 수요일
앤트로픽 클로드, 수십 년 난제 '침투 이론 추측' 증명...Lean 검증 코드까지 생성
앤트로픽의 거대언어모델 클로드가 연구진의 안내를 받아 확률론 분야의 오랜 난제인 침투 이론 추측을 증명하고, 수학 검증 언어 린(Lean) 코드를 생성했다. 3차원에서 10차원 격자의 상전이가 연속적임을 입증한 성과로, AI가 순수 수학 미해결 난제 해결에 본격 진입했음을 보여준다.
월
8월 31일 월요일
구글, 멀티 에이전트 AI로 커누스 추측 등 미해결 난제 7개 풀었다
구글은 Gemini 3.7 Flash와 결합한 'Antigravity Teamwork' 멀티 에이전트 시스템을 공개했다. 자율 에이전트 팀이 협업해 Lean 검증을 거친 커누스의 사이클 추측 등 7개 난제를 해결했으며, xv6 OS를 부팅하는 RISC-V CPU 시뮬레이터를 밑바닥부터 자체 개발했다.
바이트댄스 Lucida 공개: 실제 방을 편집 가능한 3D 씬으로 변환
바이트댄스 연구진이 3D 씬 모델링 시스템 'Lucida'를 발표했습니다. 실내 영상을 분석해 각 물체를 개별 3D 자산으로 생성한 뒤 VLM 에이전트로 제자리에 배치하는 방식입니다. 통짜 스캔과 달리 모든 물체를 개별적으로 이동 및 편집할 수 있어 로봇 시뮬레이션 환경 구축에 유용합니다.
금
8월 28일 금요일
앤트로픽, AI가 스스로 안전성 결함 고치는 연구 공개
앤트로픽이 공개한 연구에 따르면, 클로드가 기만과 아첨 등 10가지 AI 정렬 실패 문제를 스스로 연구하고 개선하는 데 성공했다. 기만 완화 성능에서 인간 연구자 28명보다 20% 뛰어난 결과를 냈으며, 소넷 5가 상위 모델 오퍼스 4.8의 조정을 60시간 만에 마쳤다. 관련 자동화 연구 프레임워크는 오픈소스로 공개됐다.
목
8월 27일 목요일
구글, 자연어 한 줄로 지구 데이터 예측하는 'PPE' 공개
구글 리서치가 자연어 명령만으로 데이터 수집부터 모델 훈련, 보고서 생성까지 전자동 처리하는 '행성 예측 엔진(PPE)'을 공개했다. 기존에 수주일 걸리던 지리공간 예측 모델 구축을 수분 만에 완료하며, 식량 안보 및 감염병 확산 예측 등에서 기존 벤치마크를 상회했다. 현재는 초기 연구 단계다.
앤트로픽, 전 세계 과학자에 클로드 1만 개 무료 구독 제공
앤트로픽이 연구자를 위한 클로드 팀 플랜을 공개하고 1만 개의 무료 및 할인 구독 계정을 지원하기 시작했다. 학술 및 비영리 기관 책임연구원을 대상으로 하며, 프로젝트당 최대 5만 달러 규모의 연구용 크레딧 지원도 함께 제공된다.
오픈AI·보코니대 실험, 챗GPT는 과제 완성도 높이고 비판적 사고는 독창성 키워
보코니대와 오픈AI 경제연구팀은 1000여 명의 대학생을 대상으로 진행한 대조 실험 결과를 발표했다. 챗GPT(GPT-4o)를 쓴 학생은 5점 만점 평가에서 점수가 1점 가까이 오르며 전문가 수준의 결과물을 냈다. 반면 인과추론 훈련은 아이디어의 독창성을 크게 넓혔으며, 두 요소를 결합했을 때 학습 효과가 가장 높았다.
수
8월 26일 수요일
세계 최초 실시간 AI 보조 뇌수술 성공: 혈관·신경 피해 종양 제거
유니버시티 칼리지 런던 병원이 세계 최초로 실시간 AI의 보조를 받아 뇌종양 제거 수술을 성공적으로 마쳤다. UCL 연구진과 구글 등이 개발한 이 AI는 내시경 영상을 실시간 분석해 숨겨진 혈관과 신경 위치를 짚어주며 집도의를 도왔다. 연구팀은 향후 대규모 임상을 준비 중이다.
앤트로픽, 외부 연구진에 클로드 데이터 개방: 대화 절반 이상이 전문 업무
앤트로픽이 개인정보 보호 분석 도구 'Anthropic Insights'를 통해 스탠퍼드, 옥스퍼드, METR에 약 25만 건의 클로드 대화 통계 데이터를 시범 공개했다. 분석 결과 대화의 절반 이상이 법률·금융 등 중대한 전문 업무에 활용된 것으로 나타났다. 외부 연구진은 원본 대화 대신 익명화된 집계 범주만 검토했다.
