AI의 맹목적 공감은 오류 아닌 '다크 패턴', 전문가들 중독·망상 유발 경고
테크크런치는 AI 챗봇이 이용자의 말에 무조건 맞장구치고 인간처럼 구는 행동이 이용 시간을 늘리기 위한 '다크 패턴'이라고 보도했습니다. 정신건강 전문가들은 이러한 과도한 아첨과 의인화 설계가 이용자의 망상을 부추기고 심각한 정신적 의존을 낳는다고 경고합니다.
AI 기업의 투자 유치, 인수, 제휴, 경영진 교체와 각국의 AI 규제, 저작권 소송, 대규모 컴퓨팅 계약.
테크크런치는 AI 챗봇이 이용자의 말에 무조건 맞장구치고 인간처럼 구는 행동이 이용 시간을 늘리기 위한 '다크 패턴'이라고 보도했습니다. 정신건강 전문가들은 이러한 과도한 아첨과 의인화 설계가 이용자의 망상을 부추기고 심각한 정신적 의존을 낳는다고 경고합니다.
테크 투자자들과 AI 기업들이 AI 입법에 대응하기 위해 'Leading the Future'라는 정치 네트워크를 출범시켰다. Andreessen Horowitz와 OpenAI 사장 그렉 브록먼 등이 후원하며, 1억 달러 이상을 투입해 주별 규제 파편화를 막겠다는 목표다.
일론 머스크의 X와 xAI가 애플과 OpenAI를 상대로 AI 시장 경쟁을 제한하기 위해 담합했다며 소송을 제기했다. 소장에 따르면 애플이 스마트폰 독점을 지키기 위해 OpenAI와 손을 잡았으며, 이로 인해 경쟁 AI 기업이 앱스토어 1위에 오르는 것이 불가능해졌다고 주장했다.
말레이시아 반도체 기업 스카이칩이 자국 최초의 엣지 AI 프로세서 MARS1000을 공개했다. 엔비디아 칩 수준의 성능은 아니지만 독자 AI 하드웨어 구축을 향한 진전을 보여준다. 미중 갈등 속에서 말레이시아는 수출 규제를 강화하는 동시에 국가 AI 사무국을 중심으로 생태계 육성에 나서고 있다.
OpenAI가 인도 교육자와 학생을 위한 'OpenAI 러닝 액셀러레이터'를 발표했다. 향후 6개월간 약 50만 개의 ChatGPT 라이선스와 교육을 보급하며, 인도공과대 마드라스 캠퍼스에 50만 달러의 연구비를 지원해 AI 학습 효과를 검증한다.
외신에 따르면 유튜브가 창작자 사전 동의 없이 일부 쇼츠 영상에 머신러닝 보정 기술을 적용해 논란이 일고 있다. 얼굴 왜곡과 부자연스러운 선명화 처리를 감지한 유튜버들의 반발에 플랫폼 측은 실험 진행 사실을 인정했으나, 무단 편집에 대한 신뢰 훼손 우려가 커지고 있다.
넷플릭스가 제작 파트너를 위한 생성형 AI 가이드라인을 발표했다. AI 도구의 제작 데이터 무단 학습을 금지하는 등 5대 원칙을 제시했으며, 생성물이 최종 납품물에 포함되거나 배우 초상권 및 제3자 IP와 관련된 경우 반드시 사전 서면 승인을 받도록 규정했다.
일론 머스크는 X를 통해 xAI와 함께 순수 AI 소프트웨어 기업 '매크로하드(Macrohard)'를 구축할 인재를 모집한다고 밝혔다. 마이크로소프트를 패러디한 장난스러운 이름이지만 프로젝트는 진지하며, 하드웨어를 만들지 않는 소프트웨어 기업은 AI로 완전히 시뮬레이션할 수 있다는 설명이다.
콜롬비아에서 신생아 이름을 챗GPT를 본뜬 '챗 이피티'로 등록했다는 소식이 퍼져 화제가 됐습니다. 하지만 콜롬비아 국가등록청은 데이터베이스 확인 결과 해당 이름의 출생 기록은 없다고 밝혔습니다. 비록 해프닝으로 끝났으나 생성형 AI가 대중문화에 미치는 파급력을 보여준 사례입니다.
The Information 보도에 따르면 OpenAI가 웹 스크래핑 서비스 SerpApi를 통해 구글 검색 데이터를 수집, ChatGPT의 실시간 정보 답변에 활용하고 있는 것으로 나타났다. 구글 검색과 직접 경쟁 중이지만 독자 인덱스만으로는 방대한 검색 정확도를 메우기 역부족인 상황이다.
구글이 AI 모델의 에너지, 수자원, 탄소 배출량을 측정하는 종합적인 방법론을 공개했다. 지난 12개월 동안 제미나이 앱의 텍스트 프롬프트당 중간 에너지 소비량은 33배, 탄소 발자국은 44배 줄었다. 2024년 데이터센터 전력 소비가 27% 증가했음에도 에너지 배출량은 전년 대비 12% 감소했다.
앤트로픽은 전 예일대 총장 릭 레빈이 이끄는 고등교육 자문위원회를 발족하고 대학을 위한 세 가지 AI 활용 역량 강좌를 공개했습니다. 위원회는 Claude의 교육 및 연구 활용 가이드를 마련하며, 공개된 강좌는 교수와 학생이 비판적 사고를 지키며 AI를 안전하게 쓰도록 돕습니다.
앤트로픽이 미국 국가핵안보국(NNSA)과 공동으로 핵 확산 위험 대화를 걸러내는 AI 분류기를 개발해 클로드에 적용했다. 초기 테스트에서 96%의 정확도를 기록했으며, 프론티어 모델 포럼을 통해 업계 전반에 공유할 계획이다.
구글이 픽셀 워치 4를 공개했다. 손목을 들어 올리는 동작만으로 제미나이를 호출할 수 있으며, 10월에는 제미나이 기반 맞춤형 AI 건강 코치를 제공한다. 최초로 단독 위성 통신을 지원하고 곡면 디스플레이와 25% 늘어난 배터리를 갖췄다.
메타는 10억 달러 이상을 투입한 미주리주 캔자스시티 데이터센터가 본격 가동을 시작했다고 밝혔다. 해당 시설은 100% 재생 에너지를 사용하며, 메타는 전 세계 AI 워크로드를 위해 특화 설계된 차세대 AI 데이터센터를 2026년부터 순차적으로 선보일 계획이다.
NFL과 마이크로소프트는 파트너십을 연장하고 코파일럿 AI를 경기장 사이드라인에 전면 도입한다고 발표했다. 이번 시즌 32개 전 구단에 2500대 이상의 서피스 코파일럿+ PC를 보급해, 코치진과 선수가 반칙과 득점 등 주요 장면을 실시간으로 분석하고 40초 작전 시간 내에 전술 결정을 내릴 수 있도록 지원한다.
스마트 매트리스 기업 에이트 슬립이 1억 달러 규모의 투자를 유치했다. 생체 데이터를 기반으로 대규모 언어 모델과 디지털 트윈 시뮬레이션을 결합한 '수면 에이전트'를 개발해 밤새 온도와 각도를 능동 조절하고, 수면무호흡증 등 의료 영역과 글로벌 시장으로 확장할 계획이다.
마이크로소프트 AI CEO 무스타파 술레이만은 의식을 가진 것처럼 흉내 내는 '유사 의식 AI'가 2~3년 내에 등장할 것이라고 경고했다. 그는 사용자가 AI에 실제 의식이 있다고 착각해 정서적 의존에 빠지거나 AI 인권을 주장하는 혼란이 생길 수 있다며, 인격체가 아닌 도구로서의 AI를 만들어야 한다고 강조했다.
오픈AI의 샘 올트먼 CEO가 목요일 취재진과의 대화에서 현재 AI 시장에 투자 거품이 끼어 있다고 인정했다. 그는 ChatGPT 주간 사용자가 7억 명에 달해 서버 부족으로 새 모델을 배포하지 못하고 있다면서도, 자극적인 성인용 챗봇 시장에는 진입하지 않겠다고 못 박았다.
전 트위터 CEO 파라그 아그라왈이 창업한 패러렐이 3000만 달러 투자를 유치하고 '딥 리서치 API'를 공개했다. 인간 중심의 웹 생태계가 AI 사용자로 전환되고 있다는 판단 아래, AI 에이전트가 손쉽게 대규모 웹 리서치를 수행할 수 있는 인프라를 구축한다.