구글, AI 생성 이미지 가려내는 '이 이미지 정보' 기능 발표
구글이 이미지 진위 판별을 돕는 'About this image' 기능과 라벨링 계획을 공개했다. 이미지의 최초 색인 시점, 첫 게시 위치, 다른 사이트 활용 맥락을 한눈에 확인할 수 있다. 또한 구글은 미드저니, 셔터스톡과 협력해 AI 생성 이미지 메타데이터 표기를 적용한다.
AI 안전
최신 소식 보기
'AI 대부' 제프리 힌튼 "AI 위협, 기후변화보다 더 시급하다"
'AI의 대부'로 불리는 제프리 힌튼 박사가 월요일, 인공지능이 인류에게 미치는 위험이 기후변화보다 더 시급할 수 있다고 경고했다. 그는 탄소 배출을 중단하면 해결되는 기후변화와 달리 AI 위험은 무엇을 해야 할지조차 불분명하다고 지적했다. 개발 일시 중단 주장은 비현실적이라면서도 즉각적인 대응 연구가 필요하다고 강조했다.
워런 버핏, AI 부상을 ‘원자폭탄 발명’에 비유하며 우려
버크셔 해서웨이 연례 주주총회에서 워런 버핏이 급성장하는 AI를 원자폭탄 발명에 비유했다. 빌 게이츠에게 ChatGPT 시연을 접했다는 그는 기술의 방대한 잠재력을 인정하면서도, 한 번 세상에 풀린 기술은 결코 되돌릴 수 없다며 깊은 우려를 표했다.
할리우드 작가 파업 돌입: "AI 대본의 저임금 교정자로 전락 거부"
2023년 5월 미국작가조합(WGA)이 영화·TV 제작사 연맹과의 협상 결렬로 총파업에 돌입했다. 조합은 AI를 통한 대본 집필과 학습 데이터 활용 전면 규제를 요구했으나 제작사 측은 거부했다. 작가들은 제작사가 AI로 초안을 뽑고 인간 작가에게 헐값으로 수정을 맡길 미래를 가장 우려하고 있다.
美 백악관, 구글·마이크로소프트 등 AI 4개 사 CEO 긴급 소집
백악관에 따르면 카멀라 해리스 부통령이 목요일 구글, 마이크로소프트, 오픈AI, 앤트로픽 CEO들을 만나 AI 잠재적 위험과 책임 있는 개발을 논의한다. 바이든 행정부 주요 인사들이 함께 참석해 제품을 대중에게 배포하기 전 안전장치를 마련하도록 촉구할 계획이다.
블리자드, AI 아트 생성 특허 논란 해명…“창작 돕는 보조 도구일 뿐”
블리자드가 특정 화풍을 모방해 게임 내 아트를 생성하는 특허를 낸 사실이 알려졌다. 저작권과 일자리 논란이 일자 마이크 이바라 사장은 AI가 개발진의 단순 작업을 덜어 고품질 창작에 집중하도록 돕는 보완 장치일 뿐이라며 블리자드의 품질 기준 유지를 강조했다.
텍사스대 오스틴, GPT와 fMRI 결합해 생각 읽는 비침습 AI 디코더 개발
텍사스대 오스틴 연구진은 fMRI 뇌 스캔과 GPT 모델을 활용해 사람의 생각을 텍스트로 변환하는 비침습적 언어 디코더를 발표했다. 수술 없이도 뇌 활동에서 생각의 요지를 읽어내 언어 장애 환자 치료에 기여할 전망이나, 정신적 프라이버시 보호에 대한 경고도 함께 나왔다.
‘AI 대부’ 제프리 힌튼, 구글 퇴사…“AI 위험성 경고하기 위해 떠난다”
튜링상 수상자이자 ‘AI의 대부’로 꼽히는 제프리 힌튼이 구글을 떠났다. 그는 평생의 연구를 일부 후회한다고 털어놓으며 AI 위험성을 자유롭게 발언하기 위해 퇴사했다고 밝혔다. 빅테크 간 과열 경쟁에 따른 허위 정보 범람과 장기적인 인류 위협 가능성을 경고했다.
이탈리아, ChatGPT 차단 해제…데이터 학습 거부 및 연령 확인 도입
이탈리아 데이터 보호 당국이 개인정보 보호 개선 조치를 확인하고 ChatGPT 차단을 전격 해제했다. OpenAI는 대화 기록의 모델 학습 제외 기능과 13세 미만 접근 제한을 위한 연령 확인을 새로 적용했다. 서방 국가 최초로 내려졌던 접속 차단이 한 달 만에 풀렸다.
美 초당파 의원들, AI의 독자적 핵무기 발사 금지 법안 발의
이번 주 미국 초당파 의원들이 인간의 실질적 통제가 없는 자율 AI 시스템의 핵무기 발사를 금지하는 법안을 발의했다. 미 국방부의 기존 지침을 법제화해 '인간의 개입'을 의무화하고, AI가 핵 발사 결정을 내리지 못하도록 사전에 차단하겠다는 취지다.
팔란티어, 군용 AI 플랫폼 'AIP' 공개… 챗봇으로 군사 작전 수립
팔란티어는 군사용 AI 플랫폼 AIP를 공개하며, 지휘관이 챗봇을 통해 정찰 드론을 띄우고 적 전차를 타격할 작전 계획을 자동 생성하는 시연을 선보였다. 기밀 네트워크에서 오픈소스 대형 언어 모델을 제어할 가드레일을 강조했으나, 환각 위험이 있는 AI를 전장에 투입하는 것에 대한 우려가 나온다.
틴더, 본인 인증에 AI 비디오 셀카 도입…사진 도용·봇 차단 나선다
틴더는 사진 인증 방식을 개편해 기존 정지 사진 대신 AI 기반 비디오 셀카를 의무화한다고 발표했습니다. AI가 3D 얼굴 매핑을 통해 실제 생체 여부와 프로필 사진 일치도를 대조합니다. 기존 파란 체크 배지 보유자도 자격을 유지하려면 새로 비디오 셀카 인증을 받아야 합니다.
엔비디아, LLM 챗봇 안전장치 '네모 가드레일' 오픈소스 공개
엔비디아가 대규모 언어 모델(LLM) 기반 앱의 탈선을 막는 오픈소스 소프트웨어 '네모 가드레일(NeMo Guardrails)'을 공개했다. 주제 이탈 방지, 유해 콘텐츠 필터링, 보안 연결을 지원하며 랭체인과 쉽게 연동된다. 머신러닝 전문가가 아니어도 몇 줄의 코드로 안전 규칙을 적용할 수 있다.
챗GPT 대화 기록 끌 수 있다…학습 제외 및 데이터 내보내기 지원
오픈AI가 챗GPT에 대화 기록 비활성화 옵션을 도입했다. 기록을 끄면 사이드바에 남지 않고 모델 학습에도 사용되지 않으며, 30일간 보관 후 영구 삭제된다. 대화 데이터 내보내기 기능도 추가됐으며, 기업용 구독 플랜인 ChatGPT Business 출시도 예고했다.
OpenAI, 'GPT' 상표권 확보 추진: 특허청 패스트트랙 신청은 기각
외신에 따르면 OpenAI는 모방 앱 난립을 막기 위해 'GPT' 상표권 등록을 추진하고 있으나, 수수료 미납과 서류 부족으로 미국 특허상표청의 우선심사 청구가 기각됐다. 최종 심사까지 최소 5개월이 더 걸릴 것으로 보이며, 대중이 GPT를 고유 브랜드로 보는지 일반 기술 용어로 보는지가 관건이다.
영국 정부, '소버린 AI' 개발에 1억 파운드 투입...챗GPT 대항마 육성
영국 정부가 챗GPT 등 해외 생성형 AI에 대응하기 위해 초기 자금 1억 파운드를 투입해 '파운데이션 모델 태스크포스'를 출범시킨다. 코로나19 백신 태스크포스를 모티브로 한 이 팀은 안전성과 신뢰성을 갖춘 독자적인 주권 AI를 개발해 글로벌 경쟁력을 확보할 계획이다.
오픈AI 공동창업자 그렉 브록만, TED서 챗GPT 설계 원리와 미공개 기능 시연
오픈AI 공동창업자 그렉 브록만이 TED 강연을 통해 챗GPT의 설계 원리를 설명하고 미공개 플러그인을 직접 시연했습니다. 강연 직후 TED 대표 크리스 앤더슨과의 대담에서는 챗GPT의 개발 여정과 강력한 AI 출시에 따른 위험성에 대한 생각도 공유했습니다.
구글, 생성형 AI 기반 광고 자동 제작 도입 추진
구글이 광고 플랫폼 '퍼포먼스 맥스'에 생성형 AI를 도입할 계획이라고 파이낸셜타임스가 보도했다. 광고주가 기본 소재를 제공하면 타깃층에 맞춘 캠페인을 자동 제작해 준다. 허위 정보 생성 우려에 대해 구글은 출시 전 방지책을 마련하겠다고 밝혔다.
슈마허 가족, AI 날조 인터뷰 게재한 독일 잡지에 법적 대응 착수
독일 주간지 '디 악투엘레'가 2013년 뇌 손상 사고 이후 투병 중인 F1 전설 미하엘 슈마허의 복귀 '첫 인터뷰'를 표지에 실었으나, 해당 발언이 모두 AI로 생성된 가짜로 드러났다. 슈마허의 사생활을 철저히 보호해 온 가족 측은 즉각 법적 소송을 제기할 방침이라고 밝혔다.
일론 머스크, MS에 소송 경고 "트위터 데이터 무단 AI 학습"
일론 머스크 트위터 CEO는 마이크로소프트가 AI 훈련에 트위터 데이터를 불법 사용했다며 소송을 예고했습니다. MS의 광고 플랫폼 내 트위터 제외 보도 직후 나온 반응으로, AI 학습용 소셜 데이터의 소유권을 둘러싼 빅테크 간 갈등을 보여줍니다.