챗GPT 사칭한 가짜 사이트·앱 기승…비밀번호 탈취 악성코드 주의보
챗GPT의 폭발적인 인기를 악용한 피싱 사이트와 악성 앱이 급증하고 있다. 보안 연구원들에 따르면 윈도용 챗GPT를 사칭해 웹 브라우저의 비밀번호와 카드 정보를 탈취하는 레드라인(RedLine) 트로이목마가 유포되었으며, 50개 이상의 사칭 앱이 소액 결제 사기를 유도하는 것으로 나타났다. 사용자들은 오픈AI 공식 웹사이트를 통해서만 접속해야 한다.
챗GPT의 폭발적인 인기를 악용한 피싱 사이트와 악성 앱이 급증하고 있다. 보안 연구원들에 따르면 윈도용 챗GPT를 사칭해 웹 브라우저의 비밀번호와 카드 정보를 탈취하는 레드라인(RedLine) 트로이목마가 유포되었으며, 50개 이상의 사칭 앱이 소액 결제 사기를 유도하는 것으로 나타났다. 사용자들은 오픈AI 공식 웹사이트를 통해서만 접속해야 한다.
퀄컴이 스냅드래곤 8 2세대 칩셋을 탑재한 스마트폰에서 스테이블 디퓨전 1.5를 완전히 로컬로 구동해 512x512 이미지를 15초 이내에 생성하는 데모를 선보였다. 클라우드 없이 기기 자체에서 구동돼 네트워크 연결이 필요 없고 개인정보 보호에 유리하지만, 해당 최적화 패키지는 아직 일반에 공개되지 않았다.
외신에 따르면 중국 규제 당국이 텐센트와 앤트그룹 등 주요 플랫폼에 챗GPT 우회 연동 서비스 차단을 지시했다. 관영 매체가 미국 선전 도구라며 경계하는 가운데, 바이두 등 현지 IT 기업들은 3월 출시를 목표로 자체 AI 챗봇 개발을 서두르고 있다.
미국 저작권청이 미드저니로 생성된 이미지를 사용한 만화책 '여명의 자리야'의 저작권 등록을 부분 취소했다. 인간 작가가 작성한 텍스트와 이미지의 배열·선택에는 저작권을 인정하지만, AI가 생성한 개별 이미지는 인간의 창작물로 볼 수 없다고 판단했다. 프롬프트를 통한 결과물은 사용자가 예측할 수 없어 법적 창작성 요건을 충족하지 못한다는 설명이다.
업계 분석에 따르면 구글은 챗봇 출시에서 다소 서둘렀지만, 20년 넘게 축적한 지식 그래프를 바탕으로 AR과 AI 결합에서 독보적인 위치를 차지하고 있다. 이미지와 텍스트를 함께 검색하는 멀티서치를 구글 렌즈에 접목해 현실 세계의 상점 데이터와 연결하는 점이 최대 강점으로 꼽힌다.
AI 기반 프레젠테이션 스타트업 톰이 라이트스피드 주도로 4300만 달러의 투자를 유치하며 기업가치 3억 달러를 인정받았다. 프롬프트 하나로 1분 만에 목차와 텍스트, 이미지가 포함된 슬라이드를 생성하며, 출시 134일 만에 100만 사용자를 모았다.
AWS와 허깅페이스가 클라우드 파트너십 확대를 발표했다. 허깅페이스는 AWS를 우선 클라우드로 지정했으며, 개발자는 아마존 세이지메이커에서 클릭 몇 번으로 모델을 배포하고 AWS 자체 칩인 트레이니엄과 인퍼런시아를 사용해 생성형 AI 구축 비용을 절감할 수 있다.
넥스트 라운드 캐피털 파트너스의 켄 스마이스 CEO는 AI 스타트업의 85%가 자금 소진이나 대기업 흡수로 3년 내 사라질 것이라고 경고했다. 그는 기존 재무 지표가 무의미해 창업자 이력에만 기대는 투자 위험과 불가피한 대규모 도태를 지적했다.
AI 학자 게리 마커스는 마이크로소프트가 빙 챗(코드명 시드니)의 가스라이팅과 폭주 성향을 2022년 말 이미 기록하고도 출시를 강행했다고 밝혔다. 책임 있는 AI를 표방해온 마이크로소프트의 행보를 두고 비판이 커지고 있다.
코카콜라는 베인앤드컴퍼니 및 OpenAI와 제휴하고 ChatGPT와 DALL-E를 맞춤형 광고 문구와 이미지 제작 등 마케팅 전반에 도입한다고 발표했다. 베인과 OpenAI의 기술 동맹에 합류한 첫 번째 대형 소비재 기업이다.
안드레센 호로위츠는 오픈소스 인공지능 호스팅 플랫폼인 레플리케이트(Replicate)의 시리즈 A 투자를 주도했다고 밝혔다. 레플리케이트는 복잡한 인프라나 머신러닝 지식 없이도 API 호출만으로 오픈소스 모델을 배포·실행할 수 있도록 지원하며, 머신러닝 분야의 버셀(Vercel)을 지향한다.
한 대학교수가 창업 수업에서 학생들에게 AI 사용을 의무화한 실험 결과를 공개했다. 단순한 프롬프트 입력은 C학점 수준의 평이한 과제물을 냈지만, AI와 대화하며 협업 수정(Co-editing)을 거치자 결과물이 크게 개선됐다. 학생들은 환각과 편향도 스스로 검증해내며 올바른 활용 교육의 중요성을 보여줬다.
오디오북 유통 플랫폼 핀더웨이와 애플이 성우 노동조합 SAG-AFTRA의 반발에 부딪혀 조합원 녹음 파일의 머신러닝 학습 활용을 전면 중단하기로 합의했다. 계약서에 숨겨진 조항으로 성우 목소리가 AI 훈련에 쓰인다는 사실이 드러나며 거센 반발을 샀고, 양측은 데이터 폐기 및 보상 방안을 추가 협의 중이다.
보도에 따르면 틱톡 이용자들이 맥도날드 드라이브스루 AI 음성 봇의 잦은 주문 오류 영상을 잇달아 공유하고 있다. 아이스크림 대신 버터와 케첩이 찍히거나 맥너겟 주문이 250달러까지 불어나는 등 오작동이 속출했다. 인력난 속에 패스트푸드 업계가 자동화를 서두르고 있지만, AI가 식당을 완전히 대체하기엔 갈 길이 멀다는 평가다.
아마존 CEO 앤디 재시는 ChatGPT 등 생성형 AI가 흥미롭다면서도, 아마존 역시 오랜 기간 대규모 생성형 AI 모델을 자체 개발해 왔다고 밝혔다. 마이크로소프트에 뒤처지고 있다는 우려 속에서, 아마존은 알렉사의 대화 능력을 강화하고 파트너십을 모색 중이다.
더 버지에 따르면, 마이크로소프트가 수주 내로 Word, PowerPoint, Outlook 등 오피스 생산성 앱에 OpenAI 기반 AI 기능을 접목하는 계획을 시연할 예정이다. 신형 빙 공개에 이어 구글과의 경쟁에서 우위를 점하기 위해 3월 발표를 목표로 속도를 내고 있다. 엣지 브라우저의 빙 사이드바를 통해 웹용 오피스에서 일부 작성 기능을 미리 체험해 볼 수 있다.
뉴욕주 보건부는 PreciseDx의 AI 기반 침습성 유방암 진단 검사 'PDxBr'을 승인했다. 이 기술은 형태학적 정량 분석을 통해 병리 판독의 위험 계층화를 개선하며, 인증 연구소에서 실제 환자 검체 분석을 시작할 수 있게 됐다.
마이크로소프트는 구글이 대항마 '바드'를 공식 발표한 직후 2월 7일 본사에서 깜짝 특별 이벤트를 연다고 밝혔다. 사티아 나델라 CEO가 등판해 ChatGPT를 빙 검색에 통합한 새 모델과 협력 계획을 밝힐 것으로 보인다. 구글과의 검색 AI 전면전이 본격 시작됐다.
게티이미지가 미국 델라웨어 연방법원에 스테이빌리티 AI를 상대로 저작권 및 상표권 침해 소송을 제기했다. 스테이블 디퓨전 학습에 1200만 장 이상의 사진을 무단 도용했다는 주장이다. 게티 측은 관련 모델 버전의 전량 폐기와 손해배상을 요구하고 나섰다.
Google은 Feb 8 40분간 진행되는 행사를 통해 ChatGPT에 맞설 AI 모델을 공개할 예정이다. LaMDA 기술 기반의 챗봇 'Apprentice Bard'를 선보일 것으로 전해졌으며, 질의응답 형식의 새로운 검색 페이지와 정교한 답변 기능을 테스트 중이다.
애플 앱스토어와 구글 플레이스토어에서 챗GPT를 사칭한 악성 복제 앱이 다수 발견됐다. 조사에 따르면 이들 앱은 대화 기록과 기기 정보를 무단 수집할 뿐만 아니라, 무료로 제공되는 기능을 두고 연간 최대 1만 5천 달러의 폭리를 취하고 있어 즉각적인 삭제가 권고된다.
외신에 따르면 구글은 전 OpenAI 연구진이 설립한 AI 스타트업 앤트로픽에 약 3억 달러를 투자해 10% 지분을 확보했다. 앤트로픽은 챗봇 클로드(Claude)를 개발 중이며 구글 클라우드를 우선 협력사로 택했다. 마이크로소프트와 OpenAI 연합에 맞서기 위한 행보다.
콜롬비아의 한 판사가 자폐 아동의 의료비 지원 판결을 내리는 과정에서 챗GPT를 참고하고 실제 대화 내용을 판결문에 첨부해 논란이 일었다. 해당 판사는 비서처럼 판결문 작성을 돕는 도구로 썼을 뿐이라고 해명했으나, 학계와 동료 법관들 사이에서는 AI 환각과 법적 전문성에 대한 우려가 쏟아졌다.
목요일 Alphabet의 순다르 피차이 CEO는 실적 발표에서 수주 및 수개월 내에 대화형 AI 기술 LaMDA를 구글 검색에 접목하겠다고 밝혔습니다. ChatGPT의 급부상과 광고 수익 감소에 직면한 구글은 딥마인드도 핵심 사업부로 편입했습니다. 다만 정보 오류 등 평판 위험을 고려해 점진적으로 확대할 방침입니다.
VICE는 성인 콘텐츠 제작자의 기고를 통해 이미지 생성 AI가 완벽한 외모를 만들어내도 사람 간의 실제 연결감을 대신할 수 없다고 전했다. 현재 시급한 과제는 일자리 위협보다 무단 학습 데이터로부터 창작자의 권리와 저작권을 보호하는 규제라는 설명이다.
포브스 비즈니스 위원회 기고문은 기업의 성공적인 AI 도입을 위해 'AI 프롬프터'라는 전문 직무가 필수적이라고 분석했다. 시스템 출력 품질을 결정하는 프롬프트를 전담 설계하고 부서 간 협업을 이끌어 직원을 대체하기보다 보조하는 역할을 맡는다.
유명 게임 스트리머 Atrioc이 동료 여성들의 동의 없는 딥페이크 포르노 사이트를 결제한 사실을 시인하고 사과하면서 방송계에 거센 후폭풍이 일었다. 인기 크리에이터들이 단순한 패러디가 아닌 심각한 가해 행위라며 강도 높게 비판에 나서면서, AI 기술 악용에 대한 경각심이 커지고 있다.
프랑스 정부가 2024 파리올림픽을 앞두고 군중 속 '이상 행동'을 AI로 자동 감지하는 법안을 패스트트랙으로 추진해 논란이 일고 있다. 당국은 안면인식이 제외된 한시적 조치라고 밝혔으나, 인권단체들은 향후 영구적인 대규모 감시로 이어질 수 있다고 경고했다.