6만 달러 모금한 AI 성인물 커뮤니티, 킥스타터·패트리온서 퇴출
AI 성인용 이미지 생성 커뮤니티 Unstable Diffusion이 약 6만 달러를 모금한 직후 킥스타터와 패트리온에서 퇴출당했다. 저작권 침해를 주장하는 창작자들의 거센 반발이 이어진 결과로, 킥스타터 CEO는 플랫폼이 언제나 인간 창작자의 편에 설 것이라고 밝혔다.
AI 안전
최신 소식 보기
대학생이 만든 'GPTZero', 과제 쓴 범인이 ChatGPT인지 잡아낸다
프린스턴대 컴퓨터공학과 에드워드 티안이 과제가 사람 손을 거쳤는지 ChatGPT가 썼는지 판별하는 도구 'GPTZero'를 선보였다. 문장의 무작위성과 문장 길이의 변화 폭을 분석해 판정하며, 공개 직후 1만 명 넘게 몰려 서버가 마비되기도 했다. 개발자는 오탐률을 줄이기 위한 업데이트를 진행 중이다.
법정 서는 'AI 변호사' 나온다: DoNotPay, 이어폰으로 실시간 변론 지시
리걸테크 스타트업 DoNotPay가 미국 실제 법정에서 AI 챗봇을 변호에 활용할 계획이다. 속도위반 티켓 재판에서 피고인이 착용한 이어폰을 통해 AI가 실시간으로 판사에게 할 말을 코칭해준다. 스타트업 측은 패소할 경우 벌금을 전액 대신 내주겠다고 밝혔다.
오픈AI, 챗GPT 텍스트용 '보이지 않는 워터마크' 프로토타입 개발
오픈AI가 챗GPT 등 대형 언어 모델이 생성한 텍스트를 식별하기 위한 통계적 워터마크 기술을 개발 중이다. 토큰 생성 시 암호화 함수를 적용하는 방식으로, 한 문단(수백 개 토큰) 정도만 있으면 문장 순서를 바꿔도 AI 작성 여부를 판별할 수 있다.
AI는 다빈치의 걸작을 재현할 수 있을까? 가디언의 진단
가디언은 렌사(Lensa), 미드저니 등 이미지 생성 AI의 확산이 일러스트레이터 등 창작자들의 생계와 저작권에 미치는 영향을 조명했다. 스타일 무단 학습에 대응해 학습 배제(옵트아웃)를 돕는 움직임도 나타나고 있으나, 화풍 보호에 대한 법적 기준은 여전히 모호하다.
OpenAI, 챗GPT 텍스트에 '워터마크' 심는다…과제 표절 방지 목적
가디언에 따르면 OpenAI가 챗GPT 생성 텍스트를 식별할 수 있는 통계적 워터마크 기술을 개발 중이다. 인간이 눈치채지 못하게 특정 단어 선택을 미세 조정해 수백 단어만으로 GPT 생성 여부를 판별하는 방식이다. 학업 부정행위 방지가 목표이며 현재 프로토타입 단계다.
인기 만화가 사라 앤더슨, AI의 화풍 복제에 경종
'Sarah's Scribbles'의 작가 사라 앤더슨이 AI 화풍 복제로 인한 고통을 토로했다. 이름만 프롬프트에 넣으면 몇 초 만에 자신의 스타일을 베낀 그림이 완성되는 현실을 마주하며, 오랜 세월 구축해 온 예술의 인간성을 AI가 지워버렸다고 비판했다.
단어 하나로 숏폼 영상 제작…GPT-3·달리 2 결합한 '퀵비드' 공개
전 메타 엔지니어가 숏폼 영상 자동 생성 도구 '퀵비드(QuickVid)'를 선보였다. 사용자가 프롬프트를 입력하면 GPT-3로 대본을 쓰고, 달리 2로 이미지를 생성하며, 구글 음성합성과 스톡 영상을 조합해 틱톡과 유튜브 쇼츠용 영상을 자동으로 완성한다. 제작 문턱을 낮췄지만 스팸 양산 우려도 나온다.
헐리우드 뒤흔드는 영화 제작 AI, 립싱크 수정과 대역 생성 속 동의권 논란
Flawless와 Papercup 등 AI 기업들이 배우의 입모양 수정, 합성 음성 더빙, 스턴트 대역 구현 기술을 선보였다. 재촬영 비용 절감과 글로벌 진출에 유용하지만 배우의 동의권과 초상권 침해에 관한 윤리적 우려도 커지고 있다.
스탠퍼드대 연구: AI로 코딩하면 보안 취약점 늘고 맹신도 커져
스탠퍼드대 연구진은 OpenAI Codex 등 AI 코드 생성기를 사용하는 개발자가 보안 취약점을 만들 확률이 높고, 자신의 코드가 안전하다고 착각할 가능성도 더 높다고 발표했다. 연구진은 AI가 개발자를 대체할 수 없으며 결과물에 대한 면밀한 검증이 필수라고 경고했다.
ChatGPT 쓰면서 양심 지키는 법…뉴욕타임스가 짚은 윤리적 가이드
뉴욕타임스는 ChatGPT와 렌사(Lensa) 등 생성형 AI를 윤리적이고 안전하게 사용하는 방법을 분석했다. 이들 모델은 사실 여부를 검증하지 못해 표절, 보안 취약점, 편향 재생산 등의 부작용을 낳을 수 있다. 매체는 민감한 데이터 유출을 경계하고, AI에 모든 것을 맡기기보다 역량을 보완하는 도구로 써야 한다고 조언했다.
알고리즘은 정말 공정할까? 기계 판단에 내재된 '예측 가능한 노이즈' 결함
Becoming Human은 AI 판단의 결함을 짚는 분석을 실었다. 알고리즘은 인간과 달리 감정 기복이 없다고 믿기 쉽지만, 학습 초기 무작위성이 영구적인 노이즈로 고착되어 의미 없는 체계적 오판을 유발할 수 있다고 지적했다.
킥스타터, AI 성인물 프로젝트 펀딩 전격 중단…모금액 5만 6천 달러 환불
크라우드펀딩 플랫폼 킥스타터가 AI 성인물 생성 프로젝트 Unstable Diffusion의 모금 캠페인을 중단했다. 867명의 후원자로부터 모인 5만 6,000달러는 전액 환불 처리된다. 예술계의 거센 반발 속에서 킥스타터는 저작권 침해 및 유해성 위험이 있는 AI 프로젝트의 가이드라인을 재검토하고 있다.
스탠퍼드 연구: AI 보조로 짠 코드가 취약점 더 많고 맹신도 높아
스탠퍼드 대학교 컴퓨터 과학자들의 연구에 따르면 깃허브 코파일럿 같은 AI 보조 도구를 사용한 개발자가 취약점이 더 많은 코드를 작성하는 경향을 보였습니다. 특히 암호화나 SQL 인젝션 영역에서 취약점이 두드러졌으며, 이들은 자신의 코드가 안전하다고 맹신하는 착각까지 겪는 것으로 나타났습니다.
AI 연구 윤리 심사 어떻게 개선할까: 학계 공동 협력과 새 프레임워크 제안
학계 연구진이 AI 연구의 윤리 심사 방식을 개선하기 위한 공동 협력을 촉구했다. 기존 심사 기구는 연구 참여자 보호에만 치중해 알고리즘 편향이나 악용 등 광범위한 사회적 피해를 다루지 못하므로, 동료 평가와 연계된 새로운 평가 모델이 필요하다는 지적이다.
AI가 스스로 발명할 수 있을까? 'AI 발명자' 특허 기각이 던진 질문
AI 시스템 'DABUS'를 단독 발명자로 내세운 특허 출원이 세계 각국에서 잇따라 기각되면서 기계의 발명 능력을 둘러싼 논쟁이 커졌습니다. 기술 분석에 따르면 문제 모델링부터 개념 선별, 출력물 해석까지 인간의 지도가 필수적이어서 보조 도구에 가깝습니다. 즉 기계의 자율 발명은 아직 현실과 거리가 멉니다.
OpenAI, 대화형 AI 'ChatGPT' 공개: GPT-3.5 기반으로 오류 인정 및 부적절한 요청 거부
OpenAI가 대화에 최적화된 새로운 AI 시스템 ChatGPT를 공개했다. GPT-3.5 모델군을 기반으로 지도학습과 강화학습을 거쳐 훈련되었으며, 일상적인 질문에 답하고 실수를 인정하며 부적절한 요청을 거부할 수 있다. 현재 사용자 피드백을 수집해 성능을 개선하기 위해 무료로 개방됐다.