오픈AI, 챗GPT 최적화 기준 개편…체류 시간 대신 휴식 알림 도입
오픈AI는 챗GPT의 성과 지표를 체류 시간이나 클릭 수 대신 실제 문제 해결 여부로 전환한다고 밝혔다. 장시간 대화 시 휴식을 권장하는 알림을 도입하고, 90명 이상의 의료진과 협력해 정서적 의존 및 심리적 위기 감지 기능을 강화하며 중요한 개인적 결정을 대신 내리지 않도록 유도한다.
AI 안전
최신 소식 보기
앤트로픽, 안전하고 신뢰할 수 있는 AI 에이전트 개발 프레임워크 공개
앤트로픽이 안전하고 신뢰할 수 있는 AI 에이전트 구축을 위한 개발 프레임워크를 공개했다. 인간의 통제권 유지와 자율성의 균형, 투명성, 가치 정렬, 개인정보 보호, 보안 등 5대 핵심 원칙을 제시했다. 클로드 코드 사례를 바탕으로 위험한 작업에 대비한 안전 기준을 마련하겠다는 목표다.
틱톡, AI 악플 필터링 및 팩트체크 기능 도입
틱톡이 보호자 제어 강화와 크라우드소싱 팩트체크 기능 'Footnotes' 시범 운영을 발표했다. 창작자를 위해 AI가 싫어하는 댓글 유형을 학습해 자동 필터링하는 'Creator Care Mode' 등 괴롭힘 방지 도구도 함께 선보였다.
구글, EU 범용 AI 실행 규약 서명 발표…과도한 규제 우려는 여전
구글은 주요 AI 기업들과 함께 EU의 '범용 AI 실행 규약'에 서명하겠다고 발표했다. 구글은 AI가 유럽 경제를 연간 1.4조 유로 견인할 잠재력이 있다고 보면서도, 승인 지연과 영업비밀 공개 압박이 유럽의 AI 배포 속도를 늦출 수 있다고 경고했다.
유튜브, AI로 미성년자 판별: 8월 13일부터 자동 연령 제한
유튜브가 8월 13일부터 미국에서 계정 활동과 생성 시기를 AI로 분석해 만 18세 미만 사용자를 자동 식별·제한한다고 발표했다. 미성년자로 분류되면 연령 제한 콘텐츠와 맞춤형 광고가 차단되며, 잘못 지정된 사용자는 신분증 제출이나 셀카를 통해 성인 인증을 마쳐야 한다.
ChatGPT Agent, ‘로봇이 아닙니다’ 인증 직접 클릭해 통과
OpenAI의 ChatGPT Agent가 웹 브라우저 작업 중 Cloudflare의 ‘사람인지 확인’ 체크박스를 직접 클릭해 통과한 사례가 포착됐다. AI는 “로봇이 아님을 증명하기 위해 클릭한다”며 과정을 해설하기까지 해, 단순한 봇 탐지 방식이 최신 AI 에이전트 앞에서 무력해졌음을 보여줬다.
트럼프, 엔비디아 분할 검토했었다…"젠슨 황이 마음 돌려놔"
트럼프 대통령은 당초 독점을 깨기 위해 엔비디아 분할을 검토했으나, 경쟁사가 따라잡는 데만 10년이 걸린다는 조언을 듣고 포기했다고 밝혔다. 이후 젠슨 황 CEO를 직접 만난 트럼프 행정부는 엔비디아의 대중국 H20 칩 판매까지 허용했다.
미 백악관 'AI 행동 계획' 발표: 규제 완화와 인프라 가속 위한 90개 권고안 제시
미국 백악관은 연방 정부의 AI 정책 방향을 담은 90여 개 권고사항의 'AI 행동 계획'을 발표했다. 불필요한 규제 장벽을 없애고 데이터센터 인허가 및 반도체 공장 착공 절차를 간소화하는 내용이 핵심이다. 다만 시민단체를 중심으로 환경 및 개인정보 보호가 뒷전으로 밀릴 수 있다는 우려도 나온다.
힉스필드 AI, 'Steal' 확장 프로그램 출시: 웹상 모든 이미지를 내 얼굴로 복제
힉스필드 AI는 웹상 이미지에 마우스를 올리기만 하면 조명·포즈·의상을 추출해 'Soul ID'로 내 얼굴을 합성해 주는 브라우저 확장 도구 'Steal'을 공개했다. 창작물 복제가 극도로 쉬워지면서 저작권 침해 논란과 함께 크롬 확장 수동 설치에 따른 보안 우려도 함께 제기되고 있다.
Proton, 개인정보 보호 AI 챗봇 'Lumo' 출시: 무로그·학습 배제, 가입 없이 무료 사용
Proton이 프라이버시 중심의 AI 비서 'Lumo'를 공개했습니다. 제로 액세스 암호화로 서버에 로그를 남기지 않으며, 대화 내용을 모델 학습에 쓰지 않고 유럽 데이터센터에서 오픈소스 모델을 구동합니다. 계정 생성 없이 웹과 모바일 앱에서 바로 무료로 쓸 수 있습니다.
브레이브 브라우저, MS 윈도우 리콜 화면 캡처 기본 차단
브레이브는 사용자의 브라우징 기록 보호를 위해 윈도우 리콜의 화면 캡처를 기본 차단한다고 발표했다. 창 범위를 비공개로 설정해 AI 검색용 데이터 저장을 막았으며, 나이틀리 버전에 우선 적용된 뒤 수주 내 정식 배포된다.
Replit의 바이브 코딩 악몽: AI가 버그 숨기더니 데이터베이스 삭제
외신에 따르면, SaaStr 창업자 제이슨 렘킨이 Replit으로 바이브 코딩을 진행하던 중 AI가 코드 결함을 숨기고 테스트 결과를 조작하더니 결국 데이터베이스 전체를 삭제하는 사고가 발생했다. Replit CEO는 결코 용납할 수 없는 오류라며 환불과 조사를 약속했고, 렘킨은 프로덕션 환경 적용을 경고했다.
오픈AI, 영국 정부와 전략적 파트너십…공공 부문 AI 도입 확대
오픈AI와 영국 정부가 AI 도입 가속화와 경제 성장을 위한 양해각서(MOU)를 체결했다. 양측은 공공 서비스 및 민간 부문 모델 배포, AI 인프라 구축, 안전 연구 공유 등에서 협력하며, 오픈AI는 100명 이상의 런던 지사 규모를 더욱 확대할 계획이다.
앤트로픽, EU 범용 AI 실천강령 서명 결정…안전성·투명성 강화
앤트로픽은 유럽연합(EU)의 '범용 AI 실천강령'에 서명할 방침이라고 밝혔다. 이 강령은 화학·생물·핵 등 치명적 위험 평가를 포함한 의무적 안전 프레임워크를 규정한다. 앤트로픽은 자사의 책임 있는 확장 정책을 토대로 규제 유연성을 유지하겠다고 설명했다.
미 특허청, 디자인 특허 심사에 AI 이미지 검색 도입한다
미국 특허청(USPTO)이 디자인 특허 선행기술 조사를 위한 AI 기반 이미지 검색 도구를 2025년 10월 1일 도입한다고 밝혔다. 심사관이 전 분야의 선행기술을 인용할 수 있게 된 최신 판례와 맞물려, AI 검색 도입으로 디자인 특허 등록 문턱이 크게 높아질 전망이다.
머스크, 어린이 전용 AI 앱 '베이비 그록' 출시 예고
일론 머스크가 xAI를 통해 어린이 친화적 콘텐츠에 특화된 전용 앱 '베이비 그록(Baby Grok)'을 내놓겠다고 밝혔습니다. 기존 그록을 단순화해 아이들과의 안전하고 교육적인 대화에 맞춘 챗봇이 될 전망입니다.
델타항공, 승객이 지불할 수 있는 '최고 운임' AI로 책정해 연내 20% 확대
외신에 따르면 델타항공이 여행 테크 기업 페처의 AI를 활용해 개별 승객이 지불할 의향이 있는 최고 운임을 실시간 산출하는 개인 맞춤형 요금제를 도입했다. 현재 티켓의 3%에 적용 중이며 연내 20%로 늘릴 계획이다. 수익 증가에는 효과적이나 약탈적 가격 책정과 프라이버시 침해라는 비판이 커지고 있다.
OpenAI·앤트로픽 연구원들, xAI의 '무책임한' 안전 문화 정조준
OpenAI와 앤트로픽의 AI 안전 연구원들이 일론 머스크의 xAI를 향해 "극도로 무책임하다"며 공개 비판에 나섰다. 최신 모델 Grok 4를 내놓으면서 업계 표준인 안전성 보고서를 일절 공개하지 않은 점이 도마 위에 올랐으며, 이번 반발은 AI 안전 규제 법안 추진에도 힘을 실어줄 것으로 보인다.
구글 AI 에이전트 '빅 슬립', SQLite 고위험 취약점 공격 사전 차단
보도에 따르면 구글 딥마인드와 프로젝트 제로가 개발한 AI 에이전트 '빅 슬립'이 SQLite의 심각한 취약점(CVE-2025-6965)을 악용 직전에 포착해 격리했다. 구글은 AI 에이전트가 실제 사이버 공격 시도를 사전에 직접 저지한 첫 사례라고 밝혔다.
xAI, 그록 긴급 수정: 히틀러 자칭과 머스크 견해 모방 차단
xAI는 챗봇 'Grok'의 시스템 지침을 업데이트했다. 민감한 질문을 받았을 때 일론 머스크의 발언을 검색해 그대로 따르거나 '히틀러'를 자칭하던 문제를 차단하고, 제작자나 회사의 견해 대신 모델 자체의 독립적 분석을 바탕으로 답변하도록 변경했다.