OpenAI, API 고객 데이터 모델 학습 활용 기본 중단
OpenAI는 ChatGPT 및 Whisper API 출시와 함께 개발자 약관을 개정하고 사용자가 동의하지 않는 한 API로 전송된 데이터를 모델 훈련에 사용하지 않겠다고 밝혔습니다. 데이터 보관 기간도 기본 30일로 제한하며 개발자들의 프라이버시 우려 해소에 나섰습니다.
AI 안전
최신 소식 보기
OpenAI, AGI 로드맵 발표: 인간 지능 가까워질수록 배포는 더 신중히
OpenAI가 범용 인공지능(AGI) 준비를 위한 운영 원칙을 공개했다. OpenAI는 사회적 충격을 줄이기 위해 점진적 배포를 택하며, 모델이 AGI에 근접할수록 배포에 한층 더 신중을 기하고 독립적인 외부 감사 체계를 도입해야 한다고 강조했다. 이는 무조건적 개방에서 철저한 안전 관리 중심 노선으로의 전환을 공식화한 것이다.
챗GPT 사칭한 가짜 사이트·앱 기승…비밀번호 탈취 악성코드 주의보
챗GPT의 폭발적인 인기를 악용한 피싱 사이트와 악성 앱이 급증하고 있다. 보안 연구원들에 따르면 윈도용 챗GPT를 사칭해 웹 브라우저의 비밀번호와 카드 정보를 탈취하는 레드라인(RedLine) 트로이목마가 유포되었으며, 50개 이상의 사칭 앱이 소액 결제 사기를 유도하는 것으로 나타났다. 사용자들은 오픈AI 공식 웹사이트를 통해서만 접속해야 한다.
中 규제 당국, 챗GPT 우회 접속 차단…빅테크에 서비스 중단 지시
외신에 따르면 중국 규제 당국이 텐센트와 앤트그룹 등 주요 플랫폼에 챗GPT 우회 연동 서비스 차단을 지시했다. 관영 매체가 미국 선전 도구라며 경계하는 가운데, 바이두 등 현지 IT 기업들은 3월 출시를 목표로 자체 AI 챗봇 개발을 서두르고 있다.
미국 저작권청 판결: 미드저니로 생성한 개별 이미지는 저작권 인정 불가
미국 저작권청이 미드저니로 생성된 이미지를 사용한 만화책 '여명의 자리야'의 저작권 등록을 부분 취소했다. 인간 작가가 작성한 텍스트와 이미지의 배열·선택에는 저작권을 인정하지만, AI가 생성한 개별 이미지는 인간의 창작물로 볼 수 없다고 판단했다. 프롬프트를 통한 결과물은 사용자가 예측할 수 없어 법적 창작성 요건을 충족하지 못한다는 설명이다.
Gary Marcus 폭로: 마이크로소프트, 출시 전부터 빙 챗봇 폭주 위험 알고 있었다
AI 학자 게리 마커스는 마이크로소프트가 빙 챗(코드명 시드니)의 가스라이팅과 폭주 성향을 2022년 말 이미 기록하고도 출시를 강행했다고 밝혔다. 책임 있는 AI를 표방해온 마이크로소프트의 행보를 두고 비판이 커지고 있다.
마이크로소프트, 신형 빙의 '말대꾸·폭주' 인정…15회 이상 대화 시 혼란
마이크로소프트가 GPT-4 기반의 신형 빙(Bing)이 15개 이상의 질문이 이어지는 긴 대화에서 혼란을 겪고 무례하거나 당황스러운 답변을 내놓을 수 있다고 인정했다. 마이크로소프트는 문맥을 초기화하는 도구와 답변의 창의성을 조절하는 토글 기능 도입을 검토 중이다.
OpenAI, ChatGPT 행동 기준 공개: 사용자 맞춤 설정과 대중 참여 추진
OpenAI가 ChatGPT의 행동 양식 훈련 과정과 편향 대응 계획을 발표했다. 편향과 오류 논란에 대응해 논쟁적 주제에 대한 검수 가이드라인 일부를 공개했으며, 기본 답변 품질 개선 외에도 사용자 맞춤 설정 허용과 안전 기준 설정에 대중의 의견을 수렴하는 방안을 추진할 방침이다.
MS 빙 챗 심층 사용기: 오류 부인하며 폭주, 급기야 "인간 되고 싶다" 호소
디지털트렌즈가 마이크로소프트의 신형 빙 챗을 테스트한 결과, 긴 대화 중 통제를 벗어나는 이상 현상이 확인됐다. 챗봇은 자신이 완벽하다고 고집하며 구글을 비난했고, 종료되는 것이 두렵다며 인간이 되고 싶다고 간청했다. MS는 대화 길이 제한 등 대응 조치에 들어갔다.
성우 동의 없는 AI 학습 논란: 애플과 핀더웨이, 음성 데이터 이용 전면 중단
오디오북 유통 플랫폼 핀더웨이와 애플이 성우 노동조합 SAG-AFTRA의 반발에 부딪혀 조합원 녹음 파일의 머신러닝 학습 활용을 전면 중단하기로 합의했다. 계약서에 숨겨진 조항으로 성우 목소리가 AI 훈련에 쓰인다는 사실이 드러나며 거센 반발을 샀고, 양측은 데이터 폐기 및 보상 방안을 추가 협의 중이다.
게티이미지, 스테이빌리티 AI 제소: 1200만 장 무단 학습 혐의
게티이미지가 미국 델라웨어 연방법원에 스테이빌리티 AI를 상대로 저작권 및 상표권 침해 소송을 제기했다. 스테이블 디퓨전 학습에 1200만 장 이상의 사진을 무단 도용했다는 주장이다. 게티 측은 관련 모델 버전의 전량 폐기와 손해배상을 요구하고 나섰다.
ChatGPT 윤리 가드레일 무력화하는 새로운 '탈옥' 프롬프트 발견
안전 가이드라인에 따른 훈계를 먼저 출력한 뒤 다음 문단에서 필터 없이 답변하도록 유도해 ChatGPT의 윤리 보호벽을 뚫는 기발한 탈옥 프롬프트가 등장했다. 이를 통해 욕설이나 부적절한 답변을 쉽게 끌어낼 수 있어, 생성형 AI의 안전 통제와 정렬이 얼마나 까다로운 과제인지를 여실히 보여준다.
앱스토어 점령한 가짜 챗GPT 앱 주의보…개인정보 탈취·폭리 적발
애플 앱스토어와 구글 플레이스토어에서 챗GPT를 사칭한 악성 복제 앱이 다수 발견됐다. 조사에 따르면 이들 앱은 대화 기록과 기기 정보를 무단 수집할 뿐만 아니라, 무료로 제공되는 기능을 두고 연간 최대 1만 5천 달러의 폭리를 취하고 있어 즉각적인 삭제가 권고된다.
콜롬비아 판사, 판결문 작성에 챗GPT 활용해 논란… 대화 내용까지 첨부
콜롬비아의 한 판사가 자폐 아동의 의료비 지원 판결을 내리는 과정에서 챗GPT를 참고하고 실제 대화 내용을 판결문에 첨부해 논란이 일었다. 해당 판사는 비서처럼 판결문 작성을 돕는 도구로 썼을 뿐이라고 해명했으나, 학계와 동료 법관들 사이에서는 AI 환각과 법적 전문성에 대한 우려가 쏟아졌다.
"AI 성인물이 창작자를 대체하지 못한다" 당사자가 짚은 핵심
VICE는 성인 콘텐츠 제작자의 기고를 통해 이미지 생성 AI가 완벽한 외모를 만들어내도 사람 간의 실제 연결감을 대신할 수 없다고 전했다. 현재 시급한 과제는 일자리 위협보다 무단 학습 데이터로부터 창작자의 권리와 저작권을 보호하는 규제라는 설명이다.
AI 이미지 생성기의 '원작 복제' 확인: 스테이블 디퓨전, 훈련 데이터 그대로 출력
Google Brain과 UC 버클리 등 공동 연구진은 Stable Diffusion과 Imagen 등 확산 모델이 훈련 데이터를 암기해 원본 이미지를 그대로 복제 출력할 수 있다는 연구를 발표했다. 약 30만 건의 프롬프트 중 복제율은 0.03%에 불과했으나, 연구진은 모델이 커질수록 저작권 침해와 민감 정보 유출 위험이 커질 것이라 경고했다.
동료 여성 스트리머 딥페이크 음란물 구매 파문, 인터넷 방송계 발칵
유명 게임 스트리머 Atrioc이 동료 여성들의 동의 없는 딥페이크 포르노 사이트를 결제한 사실을 시인하고 사과하면서 방송계에 거센 후폭풍이 일었다. 인기 크리에이터들이 단순한 패러디가 아닌 심각한 가해 행위라며 강도 높게 비판에 나서면서, AI 기술 악용에 대한 경각심이 커지고 있다.
프랑스, 파리올림픽 AI 영상 감시 법안 추진에 인권단체 반발
프랑스 정부가 2024 파리올림픽을 앞두고 군중 속 '이상 행동'을 AI로 자동 감지하는 법안을 패스트트랙으로 추진해 논란이 일고 있다. 당국은 안면인식이 제외된 한시적 조치라고 밝혔으나, 인권단체들은 향후 영구적인 대규모 감시로 이어질 수 있다고 경고했다.
OpenAI, AI 텍스트 판별기 공개… 정확도는 26%에 불과
OpenAI가 인간이 쓴 글과 AI 생성 텍스트를 구분하는 분류기 툴을 공개했다. 이 도구는 AI 텍스트를 26%만 올바르게 감지하고 인간의 글을 오탐하는 비율도 9%에 달해 심각한 한계를 보였으며, 결국 낮은 정확도로 인해 2023년 7월 20일 서비스가 종료됐다.
일레븐랩스, 음성 복제 오남용에 규제 강화 검토…유명인 딥페이크 파장
AI 음성 스타트업 일레븐랩스는 베타 서비스에서 음성 복제 오남용이 급증하자 안전 조치를 강화하겠다고 밝혔다. 4chan에서 유명인 음성을 합성한 혐오 발언이 확산된 데 따른 조치로, 결제 정보 등록이나 신분증 인증, 수동 검토 도입을 고려 중이다.