'AI 대부' 제프리 힌튼의 경고: "선한 AI가 악한 AI 이긴다는 보장 없다"
토론토 Collision 콘퍼런스에서 'AI 대부' 제프리 힌튼은 악한 AI를 막으려는 선한 AI가 통제권을 쥘 수 있을지 확신하지 못한다고 밝혔다. 군사용 전투 로봇과 빈부격차 심화 등을 경고하며, 딥마인드 등 업계의 낙관론과 달리 사회적 통제에 막대한 비용과 변화가 따를 것이라고 지적했다.
토론토 Collision 콘퍼런스에서 'AI 대부' 제프리 힌튼은 악한 AI를 막으려는 선한 AI가 통제권을 쥘 수 있을지 확신하지 못한다고 밝혔다. 군사용 전투 로봇과 빈부격차 심화 등을 경고하며, 딥마인드 등 업계의 낙관론과 달리 사회적 통제에 막대한 비용과 변화가 따를 것이라고 지적했다.
6월 말 복수의 인디 개발자들에 따르면 밸브가 AI 생성 아트나 텍스트가 포함된 게임의 스팀 출시 승인을 거부하고 있다. 밸브는 AI 학습 데이터의 저작권 소유권이 명확하지 않다는 점을 거절 사유로 들었으며, 아직 공식 가이드라인은 업데이트되지 않은 상태다.
미국 캘리포니아의 한 로펌이 수요일 OpenAI를 상대로 연방 법원에 집단소송을 제기했다. ChatGPT 훈련을 위해 인터넷 공개 데이터를 무단 크롤링해 수많은 사람의 저작권과 사생활을 대규모로 침해했다는 주장이다. 원고 측은 법원이 AI 알고리즘 학습에 규제를 두고 데이터 이용에 대한 보상을 명령할 것을 요구하고 있다.
OpenAI가 모바일 ChatGPT 앱(iOS·Android)에 'Browse with Bing' 기능을 도입했다. ChatGPT Plus 구독자 전용으로, Bing 검색을 통해 2021년 지식 제한을 넘어선 실시간 정보를 탐색할 수 있다. 다만 검색엔진이 Bing 하나로 묶여 있어 다른 선택지는 제공되지 않는다.
바이두가 최신 대형언어모델 '어니 3.5'를 공개했다. 중국어 자격시험 등 벤치마크 테스트에서 ChatGPT와 GPT 4를 넘어섰으며, 추론과 코드 생성 성능도 대폭 개선됐다. 새 모델은 플러그인 기능을 지원해 바이두 검색 등 외부 도구를 활용할 수 있다. 다만 영어 및 종합 평가에서는 여전히 격차가 확인됐다.
더버지가 미국 성인 2000명을 조사한 결과, 전용 AI 도구를 사용해 본 사람은 3명 중 1명에 불과한 것으로 나타났다. 활용 분야는 질의응답과 아이디어 구상이 주를 이뤘다. 특히 응답자의 76%가 법적 규제 마련을 지지했으며, 78%는 AI 생성물 표시 의무화를 원해 기대감 속에서도 안전장치에 대한 요구가 높았다.
구글 딥마인드 CEO 데미스 허사비스는 차세대 AI 모델 '제미나이(Gemini)'를 개발 중이라고 밝혔다. 알파고에 사용된 강화학습과 탐색 기법을 대형 언어 모델과 결합해 계획 및 문제 해결 능력을 대폭 강화함으로써 GPT-4를 뛰어넘겠다는 구상이다.
사이버 보안 기업 Group-IB는 다크웹에서 10만 개 이상의 ChatGPT 계정 정보가 거래되고 있다고 밝혔다. OpenAI는 자체 시스템 해킹이 아니라 기기에 침투한 악성코드 때문이라고 설명했다. 대화 기록이 계정에 저장되는 만큼 기업 기밀과 개인 정보 유출 위험이 커지고 있다.
스위스 로잔연방공과대(EPFL) 연구진 조사 결과, 아마존 메커니컬 터크의 데이터 라벨링 작업자 중 33~46%가 ChatGPT 등 AI로 작업을 처리하는 것으로 나타났다. AI가 생성한 데이터로 다시 AI를 학습시키면 오류와 환각이 증폭될 위험이 있지만, 아직 이를 효과적으로 걸러낼 방법은 마땅치 않다.
영화감독 크리스토퍼 놀란은 WIRED와의 인터뷰에서 AI의 가장 큰 위험은 기술을 신격화해 인간의 책임을 회피하는 것이라고 지적했다. 그는 빅테크가 규제를 요구하는 것은 기술을 모르는 정치인에게 책임을 떠넘기려는 낡은 술수라며 개발자가 직접 책임을 져야 한다고 짚었다.
메르세데스-벤츠가 마이크로소프트 애저 오픈AI 서비스를 통해 MBUX 인포테인먼트 시스템에 챗GPT를 통합하는 베타 프로그램을 미국에서 시작했다. 단순 차량 제어를 넘어 목적지 정보나 일상 대화까지 자연스럽게 처리하며, 음성 데이터는 익명화되어 보호된다.
독일 바이에른에서 열린 개신교 대회에서 ChatGPT가 기획한 40분짜리 예배에 300명 이상이 참석했다. 설교와 기도문, 음악의 98%를 AI가 생성했으며 화면 속 아바타가 이를 진행했다. 참석자들 사이에서는 생각보다 매끄러웠다는 반응과 감정과 영혼이 빠져 공감하기 어렵다는 평가가 엇갈렸다.
OpenAI가 챗GPT iOS 앱 첫 대형 업데이트를 통해 iPad 네이티브 전체화면과 화면 분할 드래그 앤 드롭을 지원하기 시작했다. 시리 및 단축어와도 연동되어 음성 실행은 물론 자주 쓰는 프롬프트를 자동화 파이프라인으로 엮을 수 있다.
미국 캔자스대 연구진이 ChatGPT가 작성한 과학 논문을 99% 이상의 정확도로 판별하는 머신러닝 분류기를 개발했다. 연구진은 어휘 다양성과 단락 길이, 문장부호 활용 등 인간과 AI의 문체 차이를 집중 분석해 구분해냈다. 다만 테스트 표본이 적고 사람이 일부 수정한 논문에 대한 검증은 아직 제한적이다.
외신에 따르면, OpenAI가 ChatGPT의 허위 정보 생성과 관련해 첫 명예훼손 소송을 당했다. 조지아주의 한 라디오 진행자는 ChatGPT가 문서 요약 과정에서 자신이 500만 달러 이상을 횡령했다는 거짓 주장을 꾸며냈다고 주장했다. 이번 소송은 AI 생성 정보에 플랫폼 면책 규정이 적용될 수 있는지 시험하는 계기가 될 전망이다.
애플의 팀 쿡 CEO는 인터뷰를 통해 자신도 ChatGPT를 쓰고 있으며 애플 역시 관련 기술을 면밀히 살피고 있다고 밝혔다. 그는 거대언어모델의 잠재력을 높이 사면서도 편향과 가짜 뉴스 위험을 짚으며, 규제가 기술 속도를 따라가기 힘든 만큼 기업 스스로 자율 규제에 나서야 한다고 강조했다.
스냅챗이 유료 구독 상품인 스냅챗+ 이용자를 위해 '마이 AI 스냅'을 선보였다. 챗봇에 사진을 전송하면 ChatGPT와 GPT-4 기반으로 AI 생성 이미지를 답장으로 받는다. 현재는 카메라 롤 사진 분석에 일부 제한이 있으며 모바일 앱에서만 이용할 수 있다.
인스타카트가 챗GPT 기반 인앱 검색 도구인 'Ask Instacart'를 선보였다. 검색창에 저녁 메뉴 고민이나 대체 식재료, 식단 제한 사항을 물어보면 맞춤형 제품을 추천하며, 미국과 캐나다 이용자에게 순차 적용된다.
뉴욕의 한 변호사가 소송 준비 과정에서 챗GPT를 활용했다가 모델의 환각으로 생성된 가짜 판례 6건을 법원에 그대로 제출했다. 재판부가 판결문 원본 제출을 요구하자 다시 챗GPT로 가짜 판결문을 작성해 캡처본을 냈으며, 법원은 해당 변호사에 대한 제재 심리를 결정했다.
오픈AI CEO 샘 올트먼은 런던에서 열린 행사에서 EU가 마련 중인 인공지능법 규정을 지키기 어려울 경우 유럽 사업을 중단할 수 있다고 밝혔다. 특히 GPT-4 등 대규모 모델을 '고위험'으로 분류하는 초안에 우려를 표하며 기술적 한계를 지적했다.