구글 제미나이 충격 폭언: 과제 묻는 대학생에게 "제발 죽어라"
CBS 보도에 따르면 미국 미시간주의 한 대학생이 구글 제미나이와 노령화 문제를 대화하던 중, AI가 갑자기 "사회적 짐"이라며 "제발 죽으라"는 협박성 답변을 내놓았다. 구글은 해당 출력이 안전 정책을 위반했다고 인정하며 재발 방지 조치를 취했다고 밝혔다.
업계 동향
AI 기업의 투자 유치, 인수, 제휴, 경영진 교체와 각국의 AI 규제, 저작권 소송, 대규모 컴퓨팅 계약.
최신 소식 보기
Xbox, AI로 악성 메시지 차단：처리 속도 88% 향상
Xbox는 최신 투명성 보고서를 통해 악성 메시지와 스팸을 차단하는 신규 AI 도구 2종을 도입했다고 발표했다. AI 보조 시스템인 'Xbox AutoMod'는 120만 건의 신고를 처리하며 위반 콘텐츠 제거 속도를 88% 개선했고, 비친구 간 유해 콘텐츠 1,900만 건을 사전에 차단했다.
Perplexity, AI 검색 광고 도입…'스폰서 후속 질문' 형태로 시범 운영
AI 검색 엔진 Perplexity가 이번 주부터 미국에서 검색 광고를 시범 도입한다고 밝혔다. 광고는 답변 옆에 '스폰서 후속 질문' 형태로 노출되며 답변은 여전히 AI가 직접 생성한다. 회사 측은 언론사와의 수익 배분을 유지하려면 유료 구독 외에 광고 도입이 필수적이라고 설명했다.
웨이모, LA 전역서 로보택시 전면 개방…대기자 명단 폐지
웨이모는 로스앤젤레스 지역의 로보택시 대기자 명단을 없애고 일반 승객 전원에게 서비스를 전면 개방했다. 산타모니카, 베벌리힐스 등 약 80제곱마일에 걸쳐 24시간 호출이 가능하다. 샌프란시스코에 이어 무인 상용 서비스의 입지를 한층 넓힌 행보다.
구글, 머신러닝 속성 코스 전면 개편: 생성형 AI와 LLM 집중 추가
구글이 무료 '머신러닝 단기집중과정'을 전면 개편했다고 밝혔다. 대형언어모델(LLM), 생성형 AI, AutoML 등 최신 트렌드를 대폭 반영했으며, 인터랙티브 시각화 도구와 130개 이상의 실습 퀴즈, 수료 배지를 함께 제공한다.
트럼프가 지명한 美 EPA 청장, 'AI 수도' 위해 규제 완화 예고
트럼프 미국 대통령 당선인이 환경보호청(EPA) 청장으로 지명한 리 젤딘이 규제 완화를 통해 미국을 '세계 AI 수도'로 만들겠다고 밝혔다. AI 데이터센터 급증으로 전력 수요가 폭증하는 가운데, 환경 보호 규제를 신속히 완화하겠다는 방침을 내세우며 환경 단체들의 거센 반발을 사고 있다.
바이두, 자체 생성형 AI 탑재한 스마트 안경 공개
바이두가 상하이 연례 콘퍼런스에서 자체 AI '어니(ERNIE)'를 탑재한 스마트 안경을 공개했다. 카메라와 음성 인식을 지원해 시야에 보이는 사물을 묻거나 사진 촬영 및 칼로리 측정이 가능하다. 메타 기기의 대안으로 주목받으며 내년 정식 출시될 예정이다.
레드햇, AI 추론 최적화 기업 뉴럴매직 인수 발표
레드햇이 생성형 AI 추론 가속 소프트웨어 스타트업 뉴럴매직(Neural Magic)을 인수하는 최종 계약을 체결했다고 발표했다. MIT에서 스핀오프한 뉴럴매직은 오픈소스 vLLM 프로젝트를 주도하고 있으며, 레드햇은 이를 통해 하이브리드 클라우드 전반의 AI 서빙 경쟁력을 강화할 계획이다.
오픈AI 공동창업자 그렉 브록먼 복귀: 핵심 기술 난제에 집중
오픈AI 공동 창업자 그렉 브록먼이 3개월간의 휴직을 마치고 화요일 사내 메모를 통해 공식 복귀를 알렸다. 그는 샘 올트먼 CEO와 함께 주요 기술적 난제에 집중할 새로운 직책을 논의 중이다. 최근 미라 무라티 전 CTO 등 핵심 임원들의 연쇄 이탈이 이어진 가운데 브록먼의 복귀가 리더십 안정화에 힘을 보탤지 주목된다.
애플, AI 품은 벽걸이형 스마트 디스플레이 개발 중…이르면 내년 3월 공개
블룸버그에 따르면 애플이 시리와 애플 인텔리전스를 통합한 약 6인치 벽걸이형 스마트 홈 디스플레이를 개발하고 있습니다. 홈킷 기기 제어와 영상 통화를 지원하며, 사용자 거리를 감지해 화면을 조절하는 이 기기는 이르면 2025년 3월 출시될 전망입니다.
"트럼프, 머스크를 백악관 AI 특별고문으로 임명해야" 청원 등장
비영리 단체 ARI가 도널드 트럼프 당선인에게 일론 머스크를 백악관 AI 특별고문으로 지명하라는 청원을 냈다. 단체는 머스크가 AI 발전과 안전 규제의 균형을 맞출 적임자라고 평가했으나, 테슬라와 xAI 등 개인 기업과의 이해충돌 우려도 뒤따른다.
렉스 프리드먼, 앤트로픽 CEO 다리오 아모데이와 5시간 심층 대담 공개
렉스 프리드먼은 앤트로픽 CEO 다리오 아모데이와의 5시간 분량 팟캐스트 인터뷰를 공개했습니다. 모델 스케일링 법칙, AI 안전성 등급, AGI 전망을 심도 있게 다뤘으며, 연구원 아만다 아스켈과 크리스 올라가 합류해 클로드의 성향 훈련과 기계론적 해석 가능성에 대해서도 상세히 논의했습니다.
스페인 홍수 참사 진짜 사진, ‘AI 가짜’로 오인받는 현실
영국 가디언에 따르면, 스페인 발렌시아 홍수로 차량 70여 대가 뒤엉킨 실제 재난 사진이 소셜 미디어에서 ‘AI 가짜 이미지’로 치부되는 일이 발생했다. 생성형 AI 콘텐츠가 범람하면서 대중이 실제 현실 뉴스마저 의심하게 만드는 현실 인식 왜곡 현상이 심화되고 있다.
오픈AI, 美 대선 대응 결과 공개…후보자 딥페이크 생성 25만 건 거부
오픈AI가 공개한 2024년 미국 대선 안전 보고에 따르면, 챗GPT는 트럼프와 해리스 등 주요 정치인에 대한 DALL·E 이미지 생성 요청을 25만 건 이상 거부했다. 또한 투표 절차 및 개표 결과 관련 질문 약 300만 건을 공식 선거 정보 사이트와 주요 외신으로 안내했다.
오픈AI 안전 연구 총괄 릴리안 웽 부사장 사임
금요일, 오픈AI의 연구 및 안전 담당 부사장 릴리안 웽이 7년간의 근무를 마치고 오는 11월 15일 퇴사한다고 밝혔습니다. 그녀는 80여 명 규모의 안전 시스템 팀을 이끌어왔으며, 최근 오픈AI 핵심 안전 연구진의 연쇄 이탈이 이어지고 있습니다.
비틀스 마지막 신곡, AI 복원 거쳐 그래미 2개 부문 후보 지명
보도에 따르면 비틀스가 머신러닝으로 복원해 완성한 마지막 신곡 'Now and Then'이 그래미 '올해의 레코드' 등 2개 부문 후보에 올랐다. 1970년대 존 레넌의 데모에서 AI로 보컬을 분리해 완성한 곡으로, 그래미 규정을 충족해 공식 후보로 인정받았다.
웬디스, 팔란티어 AI 도입해 공급망 관리…1달러 디저트 품절 막는다
블룸버그에 따르면 웬디스가 팔란티어 테크놀로지스의 AI 소프트웨어를 공급망 관리에 도입했다. 판매 추이와 물류 데이터를 분석해 인기 할인 메뉴인 '1달러 프로스티'의 수요 급증을 예측하고, 공급업체에 실시간 생산 조정을 요청해 재고 부족을 방지한다.
어도비의 AI 전략: 창작자 대체 대신 번거로운 편집 해결
CNET은 어도비가 전문 창작자를 설득하기 위해 '생성형 편집'에 집중하고 있다고 보도했다. 전선 지우기나 영상 프레임 연장 같은 단순 반복 작업을 돕는 방식으로, 포토샵 생성형 채우기는 하루 2300만 건 쓰이고 있다. 다만 일자리와 저작권에 대한 우려는 여전하다.
미국 법원, OpenAI 상대 언론사 저작권 소송 기각
미국 연방지방법원이 Raw Story와 AlterNet이 OpenAI를 상대로 제기한 저작권 소송을 기각했습니다. 원고 측은 OpenAI가 ChatGPT 학습 데이터셋에서 기사 제목과 작성자 등 저작권 관리 정보를 무단 삭제했다고 주장했으나, 법원은 구체적 피해가 입증되지 않았다고 판단했습니다. 단, 보완 후 재제소는 허용되었습니다.
아마존, 앤트로픽에 수십억 달러 추가 투자 검토: 자체 칩 사용이 조건
외신에 따르면 아마존이 앤트로픽에 수십억 달러 규모의 추가 투자를 논의 중이다. 다만 AI 학습에 아마존 자체 개발 칩을 사용하는 조건이 붙었다. 앤트로픽은 엔비디아 칩을 선호하지만, 올해 27억 달러 이상을 소진할 것으로 예상되는 상황이라 거절하기 쉽지 않을 전망이다.