Googleが画像検証ツールを発表、AI生成画像の判別を支援へ
GoogleはAI生成画像の拡散防止に向けた新機能を発表した。「About this image」により、画像の初回インデックス時期や初出サイト、他の掲載先を確認できるようになる。さらにAI生成画像へのメタデータ付与も進め、MidjourneyやShutterstockも賛同している。
AI安全性
新しいニュースを見る
「AIの脅威は気候変動より差し迫っている」──ジェフリー・ヒントン氏が警告
「AIの父」と呼ばれるジェフリー・ヒントン氏が月曜日のインタビューで、急速に進化するAIの脅威は気候変動よりも緊急性が高い可能性があると警告した。同氏は、炭素排出を止めれば改善する気候変動と異なり、AIリスクには明確な対処法がないと指摘。開発停止論は現実的ではないとしつつも、早急な対策リソースの投入を求めた。
バフェット氏、AIの台頭を「原爆の開発」に例えて懸念表明
バークシャー・ハサウェイ年次株主総会で、ウォーレン・バフェット氏がAIの急速な進化を第二次世界大戦時の原子爆弾の開発に例えた。ビル・ゲイツ氏からChatGPTの解説を受けた同氏は、一度解き放たれた技術は元に戻せないと強い危機感を示した。
ハリウッド脚本家がストライキ：AIの安価な下請け化に反発
2023年5月、全米脚本家組合（WGA）は制作会社側との交渉が決裂しストライキに突入した。脚本家側はAIによる脚本執筆や過去作品での学習禁止を求めたが、制作側は年1回の会合提案で拒絶した。真の懸念は、制作側がAI生成の初稿を人間に安価で書き直させるリスクにある。
米ホワイトハウス、AI大手4社CEOを招集 ハリス副大統領がリスク協議へ
米ホワイトハウスはハリス副大統領が木曜日にGoogle、Microsoft、OpenAI、Anthropicの各社CEOと会談すると発表した。現在のAI技術や短期的なリスクについて率直に話し合い、安全対策と責任ある開発を求める姿勢を示している。
Blizzard、AIによるゲームアート生成特許めぐり釈明 「創作に集中するため」
Blizzard Entertainment が特定のアートスタイルを学習してゲーム用画像を自動生成する特許を出願していたことが明らかになった。反発が広がる中、マイク・イエバラ社長は AI 活用について、開発チームがより高度なクリエイティブ作業に時間を割くための「補完的な道具」だと説明している。
テキサス大、GPTとfMRIで脳内の思考を非侵襲でテキスト化する技術を開発
テキサス大学オースティン校の研究チームが、fMRIとGPTモデルを組み合わせて脳活動から思考を非侵襲で読み取る言語デコーダーを発表した。電極埋め込みなしで連続した意味内容をテキスト化でき、失語患者支援への期待と同時にプライバシー保護の課題も指摘されている。
「AIのゴッドファーザー」ヒントン氏がGoogle退職、危険性を警告へ
チューリング賞受賞者のジェフリー・ヒントン氏がGoogleを退職したと報じられた。自身の生涯の研究に一部後悔を示し、AIのリスクを自由に語るために退職したと説明。過熱する競争による偽情報の氾濫や、自律的にコードを動かすAIが人類を脅かす可能性に強い懸念を示した。
イタリアがChatGPTの遮断を解除、プライバシー対策と年齢確認の導入受け
イタリアのデータ保護当局はChatGPTの利用制限を解除したと発表した。OpenAIが会話データの学習利用を拒否できる設定や、13歳未満を制限する年齢確認を導入したことを受けた措置だ。欧米で最初に下された全面禁止令は、約1カ月の対応を経て撤回された。
米超党派議員、AIによる核兵器発射を禁止する法案を提出
米国の超党派議員団は今週、人間の実質的な管理が及ばない自律型AIによる核兵器発射を禁止する法案を提出した。国防総省の既存方針を法制化する狙いで、AIが標的選定や攻撃決定を行うことを禁じ、「人間が関与する」原則を法的に義務付ける。
米Palantirが軍用AI「AIP」を実演、チャットボットで標的攻撃を立案
米PalantirはAIプラットフォーム「AIP」を発表した。デモ動画では、軍の運用担当者が対話型AIを用いて無人偵察機を飛ばし、敵戦車に対する複数の攻撃手段を自動立案する様子を公開。機密環境での安全なモデル運用を掲げる一方、ハルシネーションを抱えるLLMを軍事判断に使うリスクが指摘されている。
Tinder、認証にAI動画セルフィーを導入：なりすましやBotを排除へ
Tinderは「写真認証」を刷新し、従来の静止画ポーズ撮影からAIを活用した動画セルフィー認証に切り替えると発表しました。3D顔マッピングで実在性と写真の一致を照合し、AI生成の偽画像を防止します。既存の認証バッジ保持者も再認証が必要です。
NVIDIA、対話AIの暴走を防ぐ「NeMo Guardrails」をオープンソース公開
米NVIDIAはLLMアプリの安全性を保つオープンソースソフトウェア「NeMo Guardrails」を公開した。話題の逸脱防止や安全性確保など3種類のガードレールを備え、LangChainなどのツールとも連携する。専門知識がなくても数行のコードでAIに安全ルールを設定できる。
ChatGPT、履歴オフが可能に 会話データをAI学習に使わせない新設定
OpenAI は ChatGPT にチャット履歴を無効化する設定を追加した。履歴をオフにした会話はモデルの学習データに使われず、不正監視用に 30 日間保管された後に完全削除される。データのエクスポート機能も加わり、法人向けプランも予告された。
OpenAIが「GPT」の商標登録を申請：特許庁への早期審査請求は却下
OpenAIが「GPT」の商標登録を申請したものの、米特許商標庁への早期審査請求が手数料未納や書類不足を理由に却下された。模倣アプリの乱立を防ぐ狙いだが、正式決定にはさらに数カ月かかる見通しで、「GPT」が単なる技術の総称か同社の独自ブランドかの判断が争点となる。
英政府、独自の「主権AI」開発に1億ポンド拠出へ ChatGPT対抗見据える
英政府は、独自の「主権AI」開発に向け、初期費用として1億ポンドを投じて「基盤モデルタスクフォース」を設立すると発表した。コロナワクチンの対策チームをモデルとし、ChatGPTなどの海外製AIに対抗できる安全性と信頼性を備えたモデルの構築を目指す。
OpenAI共同創業者ブロックマン氏、TEDでChatGPTの設計思想と未公開機能を披露
OpenAI共同創業者のグレッグ・ブロックマン氏がTEDで講演し、ChatGPTの設計原理を解説するとともに未公開プラグインの実演を行いました。TED代表のクリス・アンダーソン氏との対談では、開発経緯や強力なAIツールがもたらすリスクについても見解を述べています。
米Google、AIによる広告自動生成を導入へ 英紙報道
米Googleが広告プラットフォーム「Performance Max」に生成AIを組み込む計画を進めていると、英Financial Timesが報じた。素材を渡すだけでAIがターゲットに最適な広告を自動作成する。誤情報の拡散も懸念されるが、同社は安全策を講じる方針だ。
シューマッハ氏の家族、独誌を提訴へ：AI生成の「独占インタビュー」捏造に抗議
独週刊誌「Die Aktuelle」が最新号の表紙で、2013年の事故以来公に姿を見せていない元F1王者ミハエル・シューマッハ氏の「初インタビュー」を掲載したものの、内容がAIによる捏造だったことが判明した。プライバシーを守り続けてきた家族の広報担当者は法的措置をとる方針を明らかにした。
マスク氏、マイクロソフトを提訴と警告 Twitterデータの無断AI学習を主張
Twitterのイーロン・マスクCEOは、マイクロソフトがAIモデルの訓練にTwitterデータを違法利用したとして訴訟を示唆しました。広告プラットフォームからのTwitter除外報道を受けた反応ですが、現時点で正式な提訴は確認されていません。