OpenAI, 신규 모델 'o1' 사고 과정 파헤치는 사용자에 이용 정지 경고
OpenAI가 지난주 추론 능력을 갖춘 o1 모델을 선보인 이후, 숨겨진 원시 사고 과정(Chain of Thought)을 캐내려 시도한 사용자들에게 경고 메일을 보내며 계정 차단을 경고하고 나섰다. o1은 필터링된 추론 요약만 보여주도록 설계되었으며, 프롬프트에 'reasoning trace' 같은 단어를 넣기만 해도 안전 정책 위반으로 감지된다.
OpenAI
최신 소식 보기
OpenAI 안전위원회, 독립 조직으로 개편: 모델 출시 연기 권한 부여
OpenAI는 안전·보안위원회를 카네기 멜론대 지코 콜터 교수가 이끄는 독립 이사회 감독위원회로 전환했다고 발표했다. 이 위원회는 모델의 안전 우려가 해결될 때까지 출시를 공식적으로 연기할 수 있는 권한을 갖는다.
OpenAI, 2025년 영리 기업으로 전면 전환 추진 보도
포춘 보도에 따르면 샘 올트먼 CEO가 사내 회의에서 OpenAI가 2025년에 비영리 법인 통제에서 벗어나 전통적인 영리 기업으로 개편할 계획이라고 밝혔다. 최대 1500억 달러 기업가치 평가를 앞두고 투자자들이 수익 상한제 철폐를 요구하는 것으로 전해졌으나, 대변인은 비영리 부문도 계속 유지된다고 밝혔다.
ChatGPT 주간 활성 사용자 2억 명 돌파, 1년 만에 2배 성장
OpenAI는 목요일 ChatGPT의 주간 활성 사용자 수가 2억 명에 달했다고 밝혔다. 작년 11월 1억 명에서 1년 만에 두 배로 늘어난 셈이다. GPT-4o 출시와 무료 사용자를 향한 기능 개방이 성장을 이끌었으며, 포춘 500대 기업의 92%가 OpenAI 제품을 도입했다.
플라우드, '노트핀' 공개: 스마트폰 대체 대신 필기에 집중한 AI 핀
플라우드가 필기 기능에 특화된 웨어러블 AI 기기 '노트핀'을 공개했다. 목걸이나 손목 밴드 형태로 착용해 회의를 녹음하면 오픈AI의 GPT-4o가 이를 텍스트로 변환해 정리한다. 만능 비서를 표방하다 혹평을 받은 휴메인과 달리, 명확한 단일 기능으로 실용성을 노렸다.
오픈AI와 앤스로픽, 새 모델 출시 전후 미국 정부에 안전 검증용 개방
미국 AI 안전 연구소는 목요일, 오픈AI 및 앤스로픽과 양해각서를 체결하고 주요 신규 AI 모델을 출시 전후로 전달받아 안전성 평가를 진행한다고 발표했다. 위험을 평가하고 영국 기관과도 피드백을 공조할 계획이며, AI 규제 입법 논의가 이어지는 가운데 나온 조치다.
오프라 윈프리, ABC 'AI' 특집 방송 진행: 샘 알트먼·빌 게이츠 출연
외신에 따르면 오프라 윈프리가 진행하는 ABC 특집 다큐멘터리 'AI and the Future of Us'가 9월 12일 방영된다. 오픈AI의 샘 알트먼 CEO, 빌 게이츠, 유명 테크 유튜버 MKBHD 등이 출연해 AI가 일상생활과 일자리, 교육에 미칠 영향을 대중의 눈높이에서 짚어본다.
애플, 오픈AI 투자 논의: 기업가치 1000억 달러 돌파 눈앞
월스트리트저널 보도에 따르면 애플이 오픈AI의 신규 펀딩 라운드 투자를 협상 중이다. 이번 라운드에서 오픈AI의 가치는 1000억 달러 이상으로 평가되며, 트라이브 캐피털이 10억 달러 규모로 주도할 전망이다. iOS 18에 챗GPT를 탑재하기로 한 데 이어 직접 지분을 투자해 협력 관계를 굳히려는 행보로 풀이된다.
논란의 캘리포니아 AI 안전 법안 주의회 통과, 주지사 서명만 남아
초대형 AI 모델 개발사에 치명적 위험 방지 안전책 마련을 의무화하는 캘리포니아 'SB 1047' 법안이 주의회를 통과해 주지사 서명을 앞두고 있다. 일론 머스크가 공개 지지를 선언한 반면 오픈AI는 반대 입장을 고수하는 등 업계 반응이 엇갈리고 있다.
OpenAI 추론 모델 '스트로베리' 포착: 美 안보 관료에 시연, 차세대 '오리온' 개발에 투입
디 인포메이션에 따르면 OpenAI가 수학과 코딩 추론에 특화된 프로젝트 '스트로베리'를 개발해 미국 국가안보 관료들에게 시연했다. 이르면 올가을 경량화 버전으로 챗GPT에 탑재될 예정이며, GPT-4의 후속작인 차세대 플래그십 '오리온'을 훈련하기 위한 고품질 합성 데이터를 생성하는 데 핵심 역할을 맡고 있다.
일론 머스크, 캘리포니아 AI 안전 법안 'SB 1047' 지지 표명
일론 머스크는 초대형 AI 모델에 안전 조치 의무를 부과하는 캘리포니아주 법안 'SB 1047'을 지지한다고 밝혔다. 그는 X를 통해 어려운 결정이지만 법안이 통과되어야 한다고 언급했다. 경쟁사인 오픈AI가 이 법안에 반대하는 가운데, 자신의 xAI 역시 규제 대상임에도 규제를 옹호하고 나섰다.
이미지 생성 AI 'Flux'로 원하는 폰트 넣는다… LoRA 활용법 발견
지난주 한 사용자가 이미지 생성 모델 Flux에 LoRA를 적용해 원하는 맞춤형 폰트를 정확하게 렌더링하는 방법을 발견했습니다. 글자가 뭉개지던 기존 모델과 달리 Flux는 텍스트 표현력이 뛰어나, 칠판 메뉴판이나 명함 등에 특정 글꼴을 자연스럽게 입힐 수 있게 되었습니다.
오픈AI·MS, 'AI 생성물 워터마크 의무화' 캘리포니아 법안 지지
오픈AI, 어도비, 마이크로소프트가 AI 생성물에 워터마크 표기를 의무화하는 캘리포니아주 법안 'AB 3211'을 지지한다고 밝혔다. 메타데이터 워터마크 삽입과 함께 대형 플랫폼이 일반 이용자에게 AI 콘텐츠임을 명확히 알리도록 강제하는 법안으로, 수정 작업을 거치며 업계의 지지를 확보했다.
美 애리조나주립대, ChatGPT Edu 도입…200개 이상 교육·연구 프로젝트 가동
OpenAI는 애리조나주립대(ASU)의 ChatGPT Edu 도입 성과를 공개했다. 학내에서 접수된 400건 이상의 제안 중 200여 개 프로젝트가 가동 중이며, 모의 환자 면담과 학술 글쓰기 보조 등 교육 전반에 적용되어 데이터 보안을 유지하며 AI를 활용하고 있다.
OpenAI, 캘리포니아 AI 규제 법안에 공식 반대 표명
OpenAI는 캘리포니아주의 논란 많은 AI 규제 법안 SB 1047에 반대하는 서한을 주 의원과 주지사에게 발송했다. OpenAI는 이 법안이 혁신을 저해하고 인재 유출을 부를 것이라며 주 단위 대신 연방 차원의 규제를 촉구했다. 법안 발의 의원은 이러한 주장이 앞뒤가 맞지 않는다고 반박했다.
오픈AI, 콘데나스트와 제휴…'보그'·'와이어드' 콘텐츠 챗GPT에 탑재
오픈AI가 대형 미디어 그룹 콘데나스트와 파트너십을 체결했다. 보그, 뉴요커, 와이어드 등 유명 매체의 기사가 챗GPT와 서치GPT 프로토타입에 출처 링크와 함께 직접 노출되며, 검색 서비스의 신뢰도를 높인다.
오픈AI, 'GPT-4o' 파인튜닝 기능 정식 지원
오픈AI가 모든 유료 개발자 티어를 대상으로 'GPT-4o' 미세조정(파인튜닝) 기능을 지원하기 시작했다. 수십 개의 예시만으로도 도메인별 톤과 출력 형식을 커스텀할 수 있으며, 9월 23일까지 조직당 매일 100만 훈련 토큰이 무료로 제공된다.
미 와이오밍 시장 후보의 공약: "당선되면 챗GPT가 시정 전부 결정"
미국 와이오밍주 샤이엔 시장 선거에 출마한 빅터 밀러 후보가 당선될 경우 커스텀 챗GPT 봇인 'VIC'에 시정 결정을 100% 맡기겠다고 밝혀 논란이 일고 있다. 주 선거 당국은 AI의 투표용지 등록을 불허했고 오픈AI도 계정을 정지했지만, 그는 하이브리드 거버넌스를 내세우며 선거전을 이어가고 있다.
OpenAI, 美 대선 여론 조작 시도한 이란 공작 계정 차단
OpenAI가 미국 대선 등을 겨냥해 여론 조작을 시도한 이란 연계 공작 조직 ‘Storm-2035’의 ChatGPT 계정을 차단했습니다. AI로 허위 기사와 소셜 미디어 댓글을 생성했으나, 실제 이용자들의 반응이나 확산은 거의 없었던 것으로 확인되었습니다.
오픈AI, 성능 개선된 GPT-4o 모델 배포…“구체적 변화는 설명 어려워”
오픈AI가 챗GPT와 API에 업데이트된 GPT-4o 모델을 적용하고 챗봇 아레나 1위를 탈환했다. 흥미로운 점은 공식 릴리스 노트에서 데이터 개선과 피드백 기반 튜닝이라고만 밝혔을 뿐, 모델의 구체적인 행동 변화를 명확히 설명하긴 어렵다고 인정한 것이다. 최대 출력 토큰은 16,384개로 늘어났다.