스페인 홍수 참사 진짜 사진, ‘AI 가짜’로 오인받는 현실
영국 가디언에 따르면, 스페인 발렌시아 홍수로 차량 70여 대가 뒤엉킨 실제 재난 사진이 소셜 미디어에서 ‘AI 가짜 이미지’로 치부되는 일이 발생했다. 생성형 AI 콘텐츠가 범람하면서 대중이 실제 현실 뉴스마저 의심하게 만드는 현실 인식 왜곡 현상이 심화되고 있다.
DALL-E
오픈AI, 美 대선 대응 결과 공개…후보자 딥페이크 생성 25만 건 거부
오픈AI가 공개한 2024년 미국 대선 안전 보고에 따르면, 챗GPT는 트럼프와 해리스 등 주요 정치인에 대한 DALL·E 이미지 생성 요청을 25만 건 이상 거부했다. 또한 투표 절차 및 개표 결과 관련 질문 약 300만 건을 공식 선거 정보 사이트와 주요 외신으로 안내했다.
오픈AI 경영진 레딧 AMA…"2025년 핵심 화두는 자율 에이전트"
오픈AI 샘 알트만 CEO와 경영진이 레딧에서 AMA를 열고 향후 계획을 공유했다. 오픈AI는 사용자에게 먼저 연락하고 작업을 대행하는 자율 에이전트가 2025년의 핵심 테마가 될 것이라 밝혔으며, 알트만은 현재 하드웨어로도 AGI 달성이 가능하다고 언급했다.
캘리포니아 18개 AI 법안 서명: 딥페이크·무단 디지털 복제 전면 규제
9월 개빈 뉴섬 캘리포니아 주지사는 논란이 컸던 SB 1047 법안을 거부권 행사로 무산시켰지만, 18개 AI 규제 법안에는 최종 서명했다. 선거 개입 및 성착취 딥페이크 금지, 학습 데이터 출처 공개 의무화, 배우 동의 없는 AI 복제 제한 등 실질적인 권리 침해 방지에 초점을 맞췄다.
OpenAI와 빅테크 기업들, 아동 안전 위한 '안전 설계 원칙' 공동 채택
OpenAI는 비영리단체 쏜(Thorn) 및 구글, 메타, MS 등과 손잡고 생성형 AI '안전 설계' 원칙을 채택했다고 밝혔다. 모델 학습부터 배포 전 과정에서 아동 성착취물(CSAM) 생성을 선제적으로 차단하고, 매년 이행 경과를 공개할 계획이다.
챗GPT 이미지 편집 기능 도입: 특정 영역 수정과 스케치 기반 생성 지원
오픈AI는 챗GPT의 신규 이미지 생성 및 편집 기능을 전체 사용자에게 공개했다. 선택 도구로 이미지의 특정 영역만 지정해 프롬프트로 수정할 수 있으며, 모바일 앱에서는 손으로 그린 스케치를 바탕으로 이미지를 생성할 수 있다. 원하는 부분만 손쉽게 고칠 수 있게 된 점이 핵심이다.
오픈AI 영상 생성 모델 '소라', 올해 안에 일반 공개된다
오픈AI의 미라 무라티 CTO는 영상 생성 AI '소라(Sora)'를 올해 안에, 이르면 몇 달 내에 일반에 공개할 예정이라고 밝혔다. 오픈AI는 향후 오디오 생성과 영상 편집 기능을 추가할 계획이며, 이용 비용을 이미지 생성 모델 DALL-E 수준으로 낮추는 것을 목표로 하고 있다.
AI 학습으로부터 창작물 보호하는 법: 옵트아웃 신청부터 노이즈 방어까지
무단 AI 학습에 맞서 창작자가 작품을 지키는 대처법이 정리됐다. OpenAI나 메타에 양식을 제출해 향후 학습에서 제외할 수 있으며, Glaze와 Nightshade 같은 도구로 픽셀을 변조해 모델 학습을 교란할 수도 있다. 기존 학습 데이터는 소급 삭제되지 않으므로, 온라인 게시 전 기술적 자구책이 현실적인 대안으로 꼽힌다.
셔터스톡, 오픈AI 기반 AI 편집 도구 출시… 스톡 이미지 자유롭게 변형
셔터스톡은 오픈AI 기술을 결합한 AI 이미지 편집 도구 베타를 공개했다. 이용자는 매직 브러시, 화면 확장, 배경 교체 등을 활용해 기존 스톡 이미지를 직접 수정할 수 있다. 편집된 이미지가 판매되면 원작자에게 수익이 지급되지만, AI 생성물은 플랫폼에 새로 출품할 수 없다.
나이언틱, 8th Wall 개발자용 생성형 AI 모듈 출시…OpenAI·인월드 연동 지원
이번 주 나이언틱이 자사 WebAR 플랫폼인 8th Wall에 생성형 AI 개발 모듈을 도입했다. 인월드 AI와 OpenAI 모듈을 통해 개발자는 웹 AR 환경에서 대화형 AI 캐릭터를 구현하거나 DALL-E로 3D 오브젝트 텍스처를 즉시 생성할 수 있다. 테스트를 위한 두 가지 샘플 프로젝트도 함께 공개됐다.
Edge 사이드바에 들어간 디자이너: 탭 이동 없이 웹 서핑하며 바로 포스터 제작
마이크로소프트가 무료 AI 디자인 도구 '마이크로소프트 디자이너'를 Edge 브라우저 사이드바에 내장해 미국 사용자에게 전면 공개했다. 프롬프트만 입력하면 소셜 미디어용 이미지나 초대장을 즉석에서 생성하며, 별도 창을 띄울 필요 없이 캔바와 경쟁하려는 포석이다.
OpenAI 신뢰·안전 책임자 사임: ChatGPT 출시 후 격무, CTO가 임시 겸임
OpenAI의 신뢰·안전 책임자 데이브 윌너(Dave Willner)가 사임하고 자문직으로 물러났다. 그는 ChatGPT 출시 이후 업무 범위와 강도가 극심해져 가족과의 약속을 지키기 어렵다고 설명했다. 글로벌 AI 규제 압박이 커지는 가운데, 후임 선임 전까지 미라 무라티 CTO가 해당 조직을 임시로 이끈다.
셔터스톡, 오픈AI와 6년 계약 체결…이미지·영상·음악 학습 데이터 공급
셔터스톡은 오픈AI와 6년간의 파트너십 확대 계약을 체결했다고 발표했다. 오픈AI는 모델 학습을 위해 셔터스톡의 이미지, 영상, 음악 및 메타데이터를 라이선스 형태로 확보한다. 셔터스톡은 최신 기술을 우선 공급받아 플랫폼 편집 기능과 GIPHY 서비스에 AI를 접목할 계획이다.
오픈AI, GPT-4 API 정식 출시: 유료 개발자 전원 개방 및 구형 모델 지원 종료
오픈AI가 결제 이력이 있는 모든 개발자에게 8K 문맥 지원 GPT-4 API를 전면 개방했다. GPT-3.5 터보, 달러, 위스퍼 API도 함께 정식 상용화됐다. 오픈AI는 사용량의 97%를 차지하는 챗 인터페이스로 개발 환경을 일원화하기 위해 2024년 1월 4일 구형 완성형 모델을 중단한다.
셔터스톡, 기업 고객 대상 생성형 AI 이미지 면책 보상 제공
셔터스톡이 기업 고객을 대상으로 플랫폼 내 생성형 AI 이미지 사용에 대한 전액 법적 면책 보상을 제공한다고 발표했다. 요청 시 사람의 검수를 거쳐 저작권 침해 등의 법적 소송 위험을 방어해 준다. 어도비의 유사 정책에 이은 조치로, 기업의 AI 상업적 활용 장벽을 낮추기 위한 행보다.
'스테이블 디퓨전' 개발사 스태빌리티 AI, 막대한 자금 소진으로 위기 직면
외신 세마포어에 따르면 오픈소스 이미지 생성 AI '스테이블 디퓨전'의 주역 스태빌리티 AI가 뚜렷한 수익 모델 없이 자금을 빠르게 소진하며 경영난을 겪고 있다. 지난해 조달한 1억 달러가 바닥을 드러내면서 40억 달러 기업가치를 노리던 후속 펀딩마저 불투명해졌다.
스트라이프와 오픈AI 맞손: 챗GPT 유료 결제 지원하고 GPT-4 도입
스트라이프는 오픈AI와의 파트너십을 발표했다. 스트라이프가 챗GPT 플러스 및 DALL·E의 글로벌 결제와 정기 구독, 세무 처리를 지원하며, 동시에 스트라이프 개발자 문서 등 자체 플랫폼에 GPT-4를 적용해 자연어 검색 및 질의응답을 제공한다.
코카콜라, OpenAI와 제휴해 맞춤형 광고에 ChatGPT·DALL-E 도입
코카콜라는 베인앤드컴퍼니 및 OpenAI와 제휴하고 ChatGPT와 DALL-E를 맞춤형 광고 문구와 이미지 제작 등 마케팅 전반에 도입한다고 발표했다. 베인과 OpenAI의 기술 동맹에 합류한 첫 번째 대형 소비재 기업이다.
"AI 성인물이 창작자를 대체하지 못한다" 당사자가 짚은 핵심
VICE는 성인 콘텐츠 제작자의 기고를 통해 이미지 생성 AI가 완벽한 외모를 만들어내도 사람 간의 실제 연결감을 대신할 수 없다고 전했다. 현재 시급한 과제는 일자리 위협보다 무단 학습 데이터로부터 창작자의 권리와 저작권을 보호하는 규제라는 설명이다.
Fiverr, AI 전용 서비스 카테고리 출시: 검색량 1400% 폭증 반영
프리랜서 플랫폼 Fiverr가 미드저니, 챗GPT 등 신기술 수요에 맞춘 전용 AI 카테고리를 신설했습니다. 최근 6개월간 플랫폼 내 AI 관련 검색량이 1400% 이상 급증한 결과입니다. 기업들이 기술 도입을 넘어 AI 도구를 능숙하게 다루는 전문 인력을 본격적으로 찾기 시작했다는 의미입니다.