OpenAI、新AI「o1」の思考プロセスを探るユーザーにアカウント停止を警告
OpenAIが先週公開した新モデル「o1」シリーズを巡り、内部の生データである思考チェーンを探ろうとしたユーザーに対し、規約違反の警告メールや利用停止の警告を送っていることが分かった。o1はフィルタリング後の思考要約のみを表示する仕様で、「reasoning trace」などの語句を入力するだけでも検知対象になるという。
OpenAIが先週公開した新モデル「o1」シリーズを巡り、内部の生データである思考チェーンを探ろうとしたユーザーに対し、規約違反の警告メールや利用停止の警告を送っていることが分かった。o1はフィルタリング後の思考要約のみを表示する仕様で、「reasoning trace」などの語句を入力するだけでも検知対象になるという。
OpenAIは安全性およびセキュリティ委員会を独立した取締役会監視委員会へと改編したと発表した。カーネギーメロン大学のZico Kolter氏が委員長を務め、安全性の懸念が解消されるまで主要モデルのリリースを延期できる権限を持つ。
Fortuneの報道によると、Sam Altman CEOが社内会議でOpenAIは現行の非営利支配体制を脱し、2025年に伝統的な営利企業へ移行する計画を明かした。1500億ドル規模の評価額を目指す中、投資家が利益上限の撤廃を求めているとされる。広報担当者は非営利部門も存続するとコメントしている。
OpenAIは木曜日、ChatGPTの週間アクティブユーザー数が2億人に達したと発表した。昨年11月の1億人から約1年で倍増。GPT-4oの提供や無料ユーザーへの機能開放が成長を後押しし、フォーチュン500企業の92%がOpenAI製品を採用しているという。
Plaudはメモと議事録作成に特化したウェアラブルAIデバイス「NotePin」を発表した。首掛けやリストバンドとして装着でき、録音した音声をOpenAIのGPT-4oで文字起こし・要約する。批判を浴びたHumaneなどの先行製品と異なり、機能を絞ることで実用性を高める狙いだ。
米国AI安全研究所は木曜日、OpenAIおよびAnthropicと覚書を締結し、主要な新型AIモデルの公開前後にアクセスして安全性評価を実施すると発表した。英機関とも連携して改善の指摘を行う方針で、AI規制の議論が進む中での重要な節目となる。
報道によると、オプラ・ウィンフリーが司会を務めるABCの特別番組「AI and the Future of Us」が9月12日に全米放送される。OpenAIのサム・アルトマンCEOやビル・ゲイツ氏らが登壇し、AIの仕組みや雇用、教育、医療への影響を一般視聴者に向けてわかりやすく解説する。
ウォール・ストリート・ジャーナルによると、AppleがOpenAIの新規資金調達ラウンドへの出資を交渉している。OpenAIの評価額は1000億ドルを超える見込みで、Thrive Capitalが10億ドル規模で主導する予定。iOS 18でのChatGPT連携に続き、直接出資によって両社の関係をさらに強固にする狙いがある。
カリフォルニア州議会は、巨大AIモデルの開発者に重大な危害を防ぐ安全策を義務付ける「SB 1047」法案を可決し、知事の署名待ちとなった。イーロン・マスク氏が支持を表明した一方、OpenAIは反対姿勢を示すなど業界内でも意見が分かれている。
The Informationの報道によると、OpenAIは数学やプログラミングの難問を解く推論特化型モデル「Strawberry」を開発し、米国の国家安全保障関係者にデモを披露した。早ければ今秋にもChatGPTへ組み込まれる可能性があるほか、次世代旗艦モデル「Orion」を学習させるための高品質な合成データ生成にも使われているという。
イーロン・マスク氏は巨大AIモデルに重大被害防止策の策定を義務付けるカリフォルニア州の「SB 1047」法案への支持をXで表明した。ライバルのOpenAIが法案に反対する中、自身のxAIも規制対象となり得るマスク氏は「難しい判断だが可決すべきだ」と主張している。
先週、画像生成モデル「Flux」を検証していた有志により、LoRAを用いて独自のフォントを高精度に画像内へ描画できる手法が見出されました。これまでのAIは文字が崩れがちでしたが、Fluxの文字描画性能を生かすことで、看板やカードに指定フォントを自然に配置できます。
OpenAI、Adobe、MicrosoftがAI生成コンテンツへの透かし埋め込みを義務付けるカリフォルニア州法案「AB 3211」への支持を表明した。画像や音声のメタデータ記録に加え、SNS等での分かりやすいラベル表示を求める。当初は過度な負担として反対していたテック大手が、法案修正を受けて支持に転じた。
OpenAIとアリゾナ州立大学(ASU)はChatGPT Eduの導入成果を発表した。学内から400件以上の提案が集まり、患者対応シミュレーションや論文執筆支援など200超のプロジェクトが稼働中。プライバシー保護を前提に全学規模でAI活用を進めている。
OpenAIはカリフォルニア州の規制法案「SB 1047」に正式な反対書簡を送付した。法案が技術革新を停滞させ、州外への人材流出を招くと主張し、州単位ではなく連邦レベルでの統一規制を求めている。一方、法案の起草者はこの主張を不条理だと反論している。
米OpenAIは大手出版社のCondé Nastと提携したと発表した。「ChatGPT」や検索プロトタイプ「SearchGPT」上で、「Vogue」「The New Yorker」「Wired」などの記事を表示し、情報源への直リンクを提供する。
OpenAIは全有料ティアの開発者向けに「GPT-4o」のファインチューニング機能の提供を開始した。わずか数十件のサンプルから独自の構造やトーンを学習可能で、9月23日までは組織ごとに1日100万トークンの訓練枠が無料で提供される。
米ワイオミング州シャイアンの市長選で、候補者のビクター・ミラー氏が独自ChatGPTボット「VIC」に100%の市政決定を行わせると公約して物議を醸している。州当局は有権者資格がないとしてボットの候補者記載を却下し、OpenAIも規約違反でアカウントを停止したが、本人は出馬を継続している。
OpenAIは米大統領選などの世論誘導を狙ったイランの秘密工作グループ「Storm-2035」のChatGPTアカウントを停止しました。AIで長文記事やSNS投稿を自動生成していましたが、実際のユーザーによる拡散や反応はほぼ皆無だったと報告されています。
OpenAIはChatGPTおよびAPI向けに更新版GPT-4o(chatgpt-4o-latest)を提供開始し、Chatbot Arenaで首位に返り咲いた。一方で公式は具体的な挙動の定量的説明が難しく、データの改善や定性的な好みに基づく調整だと説明している。最大出力は16,384トークンに拡大した。