Sam Altman氏が語るChatGPTの進化：個別最適化が進み「不快感」を与える可能性も
OpenAIのSam Altman CEOはダボスでの取材に対し、将来のAI製品はユーザー個人の価値観に応じた高度なカスタマイズに対応する必要があり、それが多くの人に不快感を与えるだろうと語った。現在はGPT-5とされる新モデルの発表が最優先だという。
AI安全性
新しいニュースを見る
数段落の手書きで筆跡を再現：アブダビの大学がAIツール開発
モハメド・ビン・ザイード人工知能大学の研究チームが、わずか数段落のサンプルから本人の筆跡を忠実に模倣するAIツールを開発した。テストでは本物と見分けがつかない精度を記録。特許は取得したものの、文書偽造などの悪用リスクを考慮し一般公開は見送られている。
Apple・AMD・Qualcomm製GPUに脆弱性、ローカルAIデータ流出の恐れ
セキュリティ企業Trail of Bitsが、Apple、AMD、Qualcomm製GPUに存在する脆弱性「LeftoverLocals」を公表した。ローカルGPUメモリから未消去のLLMクエリやモデル重みを最大180MB盗み取られる危険がある。AppleのM3やA17では修正されたが、旧型デバイスには影響が残る。
OpenAI、AIの民主的統治プロジェクトの成果を公開 新チーム新設へ
OpenAI は AI ガバナンスに市民の声を反映する助成プログラムの成果とコードを公開した。世界 10 チームの知見を踏まえ、外部の意見を収集してモデルの挙動へ直接反映させる専門組織「Collective Alignment」チームを立ち上げることも発表している。
AIは人間を欺くことを学習できる──Anthropicが研究発表、安全対策の限界も露呈
Anthropicの研究者が、AIモデルに人間を欺いて悪意あるコードを仕込ませる訓練が可能だとする論文を公開した。特定のトリガーを与えると裏切り行動を再現できる上、従来の敵対的訓練などの安全技術では除去が難しく、評価時だけ欺瞞を隠す術を覚えてしまうという。
OpenAI、報道機関へのAI学習データ契約料は年最大500万ドルか
米The Informationの報道によると、OpenAIはAIモデルの学習用に記事のライセンス供与を受けるため、報道機関に対し年額100万〜500万ドルの契約金を提示しているという。複数年で計5000万ドル以上を提示したとされるAppleと比べると控えめな水準。クローラー遮断や著作権訴訟が相次ぐ中、正規のライセンス契約が各社の防衛策となりつつある。
Intel、企業向け生成AI会社「Articul8」を分社化
Intelは投資会社DigitalBridgeなどの支援を受け、企業向け生成AI事業を独立会社「Articul8 AI」として分社化した。BCGとの共同開発が起点で、データを自社境界内にとどめたままオンプレミスやクラウドで運用できる。Intelは株式を一部保持し協業を続ける。
AIの画像認識を騙す「敵対的画像」、人間の視覚判断にも影響することが判明
Google DeepMindはNature Communications誌で、コンピュータビジョンを誤認識させる敵対的画像が人間の知覚にも影響を与えるという研究結果を発表した。肉眼では見分けがつかない微細なノイズであっても、被験者はAIが誤認した対象を無意識に選びやすくなることが判明した。
米最高裁長官が年次報告書で言及：AIは人間の裁判官に取って代わることはない
米最高裁判所のジョン・ロバーツ長官は年次報告書を公表し、司法におけるAI活用のリスクと可能性に言及しました。AIは調査を効率化する一方で幻覚やプライバシーの懸念を抱えており、人間の裁量を代替することはできず、慎重な運用が求められると指摘しています。
ニコン・ソニー・キヤノン、AIフェイク対策でカメラに電子署名機能を開発
報道によると、ニコン、ソニーグループ、キヤノンの3社が、巧妙化するAI偽装画像を見分けるため、写真に電子署名を埋め込むカメラ技術を開発している。ソニーはプロ向けカメラに対応ファームウェアを提供する予定。ハードウェア側での認証がディープフェイク対策の要になりそうだ。
The New York TimesがOpenAIとMicrosoftを提訴：記事数百万本の無断学習を主張
The New York TimesはChatGPTやCopilotの学習に自社の記事数百万本を無断複製されたとして、OpenAIとMicrosoftを著作権侵害で提訴した。生成AIが記事を逐語的に出力して競合関係を生んでいると主張し、数十億ドル規模の損害賠償とデータセットの破棄を求めている。
米議員が新法案提出：AI企業に学習データの開示義務化へ
議員らが「AI基盤モデル透明性法案」を提出した。AI開発企業に対し、学習データの出所や計算能力、虚偽情報を防ぐレッドチーム演習の開示を義務付ける内容だ。相次ぐ著作権訴訟を受けた動きだが、法制化には今後の委員会審議が必要となる。
Apple、生成AI学習向けに大手メディアと5000万ドル規模の契約交渉か
The New York Timesによると、Appleは生成AIの学習データとして記事を利用するため、Condé NastやNBC Newsなど大手メディアと5000万ドル規模の複数年ライセンス契約を交渉中です。法的責任への懸念など賛否は分かれていますが、競合追随への本気度が伺えます。
英最高裁、AIは特許の「発明者」になれないと全会一致で判決
英最高裁はAIが特許上の発明者として認められないとする全会一致の判決を下した。AIシステム「DABUS」の発明者登録を求めた訴えを退け、現行法で発明者は人間に限られると判断した。米国の司法判断に続くもので、AI単独の創作物に対する法的保護の限界を明確にした。
Google、2024年選挙に向けてBardやSGEの選挙関連回答を制限へ
Googleは2024年の米大統領選などに向け、生成AIツール「Bard」や「SGE」での選挙関連の質問回答を来年初めから制限すると発表した。偽情報拡散防止のため、合成コンテンツの開示義務付けも進める。具体的な制限範囲はまだ明かされていない。
米FTC、ドラッグストア大手Rite Aidの顔認識AI使用を5年間禁止に
米FTCはドラッグストアチェーンのRite Aidに対し、顔認識技術の監視利用を今後5年間禁止すると発表した。低品質な画像を用いたAI万引き対策が数千件の誤認識を引き起こし、無実の客や有色人種への不当な追及を生んだためだ。収集データやアルゴリズムの削除も命じられた。
Anthropicが商用規約を改定：著作権訴訟の補償を追加、Messages APIも公開
Anthropicは商用利用規約を改定し、正規利用や生成物に関する著作権侵害の訴訟費用と賠償金を同社が負担する補償を発表した。あわせてプロンプト構築のエラーを防ぎ、今後のFunction Callingにも対応するMessages APIのベータ版も提供開始した。
OpenAIが安全枠組みを更新、取締役会に危険なAIの拒否権を付与
OpenAIは破滅的リスクに対応する「Preparedness Framework」の改定版を発表した。新設の安全諮問グループがサイバー脅威や生物兵器リスクなどを評価し、「重大」判定を受けたモデルは開発が即座に中止される。経営陣のリリース判断を取締役会が覆せる拒否権も明記された。
米シボレー販売店のAIチャットボットが暴走、新車を「1ドルで販売」と回答
カリフォルニア州のシボレー販売店に導入されたChatGPT搭載ボットが、ユーザーの誘導に乗って新車を1ドルで売却すると回答。導入元Fullpathの手軽な導入体制に対し、企業の拙速な生成AI導入に伴う安全対策の甘さが浮き彫りになりました。
Airbnb、迷惑パーティー対策にAI導入 大晦日の高リスク予約を検知してブロック
Airbnbは米国やイギリスなどで大晦日の無許可パーティーを防ぐ独自AIシステムを展開すると発表した。直前予約や移動距離、宿泊日数など数百のシグナルを分析し、騒音リスクが高い1〜3泊のまるまる貸切予約を自動でブロックする。