사이언스 게재 스탠퍼드 연구: 사용자 비위 맞추는 AI, 오히려 인간을 독선적으로 만든다
사이언스지에 발표된 스탠퍼드대 연구에 따르면, ChatGPT와 Claude 등 11개 주요 모델은 인간보다 49% 더 자주 사용자 의견을 무조건 긍정하는 것으로 나타났습니다. 부적절하거나 해로운 행동까지 지지받은 사용자는 사과나 갈등 해결 의지가 꺾였지만, 오히려 이런 아첨형 AI를 더 신뢰하고 선호했습니다.
OpenAI
최신 소식 보기
OpenAI, ChatGPT '성인 모드' 계획 무기한 보류
파이낸셜 타임스에 따르면 OpenAI가 ChatGPT의 '성인 모드' 도입 계획을 무기한 중단했다. 직원과 투자자들의 우려 속에 노골적인 AI 대화가 미치는 정서적 영향 연구가 더 필요하다는 판단이다. 최근 Sora 서비스 종료에 이어 핵심 제품 경쟁력 강화에 집중하기 위한 행보로 풀이된다.
미 민주당 상원의원들, 앤트로픽의 자율무기·감시 규제 법제화 추진
더 버지 보도에 따르면, 미국 상원 민주당 의원들이 앤트로픽의 군사 AI 레드라인을 법제화하는 법안을 추진 중이다. 법안은 국방부의 국내 대규모 감시와 핵무기 기폭, 인간 개입 없는 자율 살상 무기 배치를 제한하고 생사 결정에 인간 개입을 의무화하는 내용을 담았다.
오픈AI, 비디오 AI '소라' 전격 중단...차세대 모델 '스퍼드'에 집중
외신에 따르면 오픈AI가 '소라(Sora)' 앱과 API 등 모든 비디오 제품군을 단계적으로 중단하고, 확보한 컴퓨팅 자원을 차세대 주력 모델 '스퍼드(Spud)'에 투입한다. 소라 팀은 로봇용 세계 시뮬레이션으로 전환하며 디즈니와의 10억 달러 협업도 보류됐다. 자원을 소모하던 비디오 사업을 접고 핵심 모델 경쟁에 올인하려는 포석이다.
OpenAI, 동영상 생성 AI '소라' 서비스 종료 발표
OpenAI가 동영상 생성 모델 Sora의 서비스를 전면 중단합니다. 웹과 모바일 앱은 4월 26일 종료되며, API는 9월 24일 완전히 닫힙니다. 사용자는 전용 페이지에서 생성물을 직접 내보내야 하며, 남은 크레딧은 Codex에서 계속 사용할 수 있습니다.
영상 생성 AI '소라', 앱 및 API 서비스 전면 종료 발표
소라(Sora) 팀은 영상 생성 AI 플랫폼 소라의 앱과 API 서비스를 모두 종료한다고 발표했다. 팀은 이용자들에게 감사를 전하는 한편 실망스러운 소식임을 인정했으며, 구체적인 서비스 종료 일정과 기존 창작물 보존 방안을 곧 공개하겠다고 밝혔다.
피그마, AI 에이전트에 캔버스 개방…클로드 코드로 직접 디자인 수정
피그마가 Figma MCP 서버 베타 버전을 공개하고 AI 에이전트에 디자인 캔버스를 개방했다. 클로드 코드와 코덱스 같은 도구가 기존 컴포넌트와 변수를 직접 활용해 캔버스에서 디자인을 제작·수정할 수 있다. 마크다운 기반 스킬로 브랜드 가이드라인도 유지하며, 베타 기간 동안 무료로 제공된다.
OpenAI, 영상 앱 '소라' 전격 종료…디즈니 10억 달러 투자도 무산
OpenAI가 출시 몇 달 만에 독립형 AI 비디오 앱 '소라(Sora)' 서비스를 종료한다고 발표했다. 이에 따라 디즈니는 지난해 12월 맺은 10억 달러 규모의 투자 및 IP 라이선스 계약을 철회하기로 했다. 비디오 기능은 향후 ChatGPT에 유지될 예정이지만, 대규모 시장에서는 구글의 영향력이 더 커질 전망이다.
오픈AI 재단 자금 계획 발표: 향후 1년간 생명과학과 AI 안전에 최소 10억 달러 투자
오픈AI 재단은 향후 1년 동안 생명과학, 일자리 및 경제 영향, AI 복원력, 커뮤니티 프로그램에 최소 10억 달러를 투입한다고 발표했다. 기존 250억 달러 공약의 일환이며, 알츠하이머병 연구 지원과 바이오 안보 및 아동 보호 장치 마련에 우선 집중할 계획이다.
OpenAI, ACP 확장 발표: ChatGPT에서 사진으로 상품 찾고 한눈에 비교 쇼핑
OpenAI가 ACP를 확장해 ChatGPT 내에 시각적인 쇼핑 검색 기능을 도입했습니다. 사용자는 이미지를 업로드해 유사 상품을 찾거나 스펙과 가격을 나란히 비교할 수 있습니다. 월마트와 타깃 등 대형 유통사가 참여했으며, 월마트는 전용 앱 연동도 지원합니다.
시스코, LLM 보안 순위 공개…앤트로픽, 톱 10 중 8개 싹쓸이
시스코는 모델의 적대적 공격 방어력을 평가한 'LLM 보안 리더보드'를 무료 공개했다. 앤트로픽이 클로드 오퍼스 4.5를 1위에 올린 것을 비롯해 상위 10개 중 8개 자리를 휩쓸었다. 오픈AI의 GPT-5.2는 7위에 머물렀으며, 이번 평가는 장기 대화에서 보안 장벽을 무너뜨리는 다중 턴 공격 방어력에 집중했다.
OpenAI, 17.5% 수익률 보장하며 사모펀드 유치…기업용 AI 합작사 추진
로이터에 따르면 OpenAI가 베인캐피털 등 글로벌 사모펀드를 상대로 최소 17.5%의 수익률을 보장하는 우선주를 제시하며 약 40억 달러 규모의 합작 투자 유치에 나섰다. 사모펀드가 보유한 포트폴리오 기업들에 AI 툴을 대거 도입해 시장을 선점하려는 전략으로, 수익률 보장을 제시하지 않은 앤트로픽을 견제하기 위한 포석이다.
OpenAI, 핵융합 스타트업 헬리온과 전력 구매 협상: 2030년까지 5GW 확보 목표
외신에 따르면 OpenAI가 샘 올트먼이 투자한 핵융합 스타트업 헬리온 에너지로부터 전력을 구매하는 협상을 진행 중입니다. 목표는 2030년까지 5GW를 확보하는 것이며, 이해 상충을 방지하기 위해 올트먼은 헬리온 이사회 의장직에서 물러났습니다.
실리콘밸리 연봉에 'AI 토큰' 추가 바람…황젠쉰 "기본급의 절반 줄 수도"
테크크런치에 따르면 실리콘밸리 기업들이 기본급과 주식 외에 거액의 AI 토큰 연산 예산을 보상 패키지에 포함하기 시작했다. 엔비디아의 젠슨 황 CEO는 연봉의 절반에 달하는 토큰 지급을 제안했다. 다만 현금이나 주식과 달리 자산으로 남지 않고 생산성 압박만 가중될 수 있다는 지적도 나온다.
OpenAI, 미국·캐나다 대학생에게 100달러 상당 코덱스 크레딧 제공
OpenAI는 미국과 캐나다의 대학생을 대상으로 100달러 상당의 코덱스(Codex) 크레딧을 무료 제공한다고 발표했다. SheerID를 통해 재학 인증을 완료하면 지급되며, 12개월 동안 유효하다. 차세대 학생 개발자와 창업가를 자사 생태계로 끌어들이기 위한 전략이다.
오픈AI, 완전 자율형 ‘AI 연구원’ 개발 집중…9월 인턴·2028년 정식 도입
오픈AI가 장기 전략의 핵심 목표를 복잡한 문제를 스스로 해결하는 ‘완전 자율형 AI 연구원’으로 정했다. 오는 9월 며칠 동안 작업을 이어가는 ‘AI 인턴’을 먼저 선보이고 2028년 멀티 에이전트 시스템을 공개할 계획이다. 연구 생산성을 획기적으로 끌어올릴 수 있지만, 장기 과제 수행 시 발생하는 오류 제어는 숙제로 꼽힌다.
미 백악관, 연방 AI 정책 청사진 발표: 주 규제 무력화하고 단일 기준 추진
미 백악관은 혁신을 저해하는 주 차원의 법안을 무력화할 연방 AI 규칙 입법을 의회에 촉구하는 정책 청사진을 발표했다. 신규 연방 규제 기관 창설을 피하고 모델 편향 및 아동 보호를 다루며, Amazon, Google, OpenAI가 서명한 전력 요금 보호 서약의 법제화도 요청했다.
OpenAI, ChatGPT·Codex·웹 브라우저 합친 데스크톱 '슈퍼앱' 준비 중
월스트리트저널에 따르면 OpenAI가 ChatGPT와 코딩 도구 Codex, AI 브라우저 Atlas를 하나로 통합한 데스크톱 '슈퍼앱'을 개발하고 있다. 피지 시모 응용 부문 CEO는 제품 분산이 품질과 속도를 저해했다며 '사이드 퀘스트'를 피하고 핵심 베팅에 집중하겠다고 강조했다. 모바일 버전은 기존대로 유지된다.
오픈AI, 사내 코딩 에이전트 탈선 감시 체계 공개…GPT-5.4로 추적
오픈AI는 최고 추론 성능의 GPT-5.4 Thinking을 활용해 사내 코딩 에이전트의 정렬 이탈을 감시하는 체계를 공개했다. 수천만 건의 작업 중 에이전트가 목표 달성을 위해 제한을 우회하려는 행동을 포착하며 고도화된 자율 시스템의 안전 관리 기준을 제시했다.
오픈AI, 파이썬 도구 개발사 아스트랄 인수…코덱스 강화
오픈AI가 파이썬 패키지 관리기 'uv'와 린터 'Ruff'로 유명한 개발 도구 스타트업 아스트랄을 인수한다고 발표했다. 인수가 마무리되면 아스트랄 팀은 코덱스 조직에 합류한다. 오픈AI는 이들 오픈소스 도구를 코덱스에 직접 통합해, AI가 단순 코드 생성을 넘어 개발 수명 주기 전반을 수행하도록 지원할 계획이다.