AI研究の権威ジェフリー・ヒントン氏、AIは「すでに感情を持っている可能性がある」と主張
キングス・カレッジ・ロンドンでの講演で、ジェフリー・ヒントン氏はAIが怒りや挫折感といった感情を持つ可能性は十分にあり、すでに備えているかもしれないと語った。突飛な主張で発言を無視されるのを恐れ、これまで公言を控えていたと明かしている。
AI安全性
新しいニュースを見る
OpenAIの安全性責任者が退任、ChatGPT公開後の業務急増でCTOが兼務へ
OpenAI のトラスト＆セーフティ責任者 Dave Willner 氏が退任し、アドバイザーに退くことが明らかになった。ChatGPT 公開後に業務が「高強度な段階」に入り、家庭との両立が難しくなったと説明している。後任が決まるまでは CTO の Mira Murati 氏が暫定的にチームを率いる。
画像生成AIへの著作権訴訟、米地裁が大半の棄却示唆 類似性不足を指摘
米連邦地裁のウィリアム・オリック判事は、アーティストらがStability AIやMidjourneyなどを訴えた著作権侵害訴訟で、生成画像と原作の実質的な類似性が不十分であるなど不備を指摘し、訴えの大部分を棄却する意向を示した。ただし、証拠を補強した再提訴は認めている。
Google、責任あるAI開発の共同誓約に署名：電子透かし導入と安全テストを強化
Googleは主要AI企業とともに責任あるAI開発の共同誓約に参加したと発表した。最新の生成モデルに電子透かし技術を統合し、検索機能で画像の出所を確認できるツールを導入するほか、来月のDefConで公開レッドチーム演習を実施する方針を示した。
OpenAIなど米AI大手、ホワイトハウス主導の安全方針に自主合意
OpenAIなどの主要AI企業は、米ホワイトハウスの調整のもとでAIの安全性や信頼性向上に向けた自主的な取り組みに合意した。フロンティアモデルを対象に、独立した専門家によるレッドチーム演習やAI生成コンテンツへの透かし付与、モデルの重み保護などを進める。正式な法規制が整うまでの安全基準となる。
Google、記事執筆AI「Genesis」をテスト中 大手新聞社に提案
報道によると、Googleは情報を元にニュース記事を自動生成するAIツール「Genesis」を大手報道機関に提案している。見出し作成や文体調整を支える記者向けアシスタントと位置づけるが、幹部らからは事実確認の軽視や誤報拡散を懸念する声が上がっている。
AIで故人俳優を「復活」させる映画界 死後の肖像権や雇用巡り議論
BBCによると、7月19日、1955年に亡くなった米俳優ジェームズ・ディーンがAIデジタルクローンとして新作映画に出演することが分かった。写真や音声からリアルに再現され対話も可能になる一方、死後の肖像権管理や現役俳優の雇用を脅かす問題としてハリウッドで懸念が高まっている。
数千人の作家が公開書簡でAI企業に抗議、書籍の無断学習停止と補償を要求
8500 人以上の作家が OpenAI や Meta などの AI 企業に対し、著作権のある書籍を無許諾で学習に利用していると抗議する公開書簡を発表した。作家側は利用許諾の取得と公正な金銭的補償を求めており、無断学習がクリエイターの存続を脅かしていると訴えている。
Stability AIが「Stable Beluga」公開：少量の合成データで首位獲得
Stability AIとCarperAIが、LLaMAおよびLLaMA 2をベースにした指示調整モデル「Stable Beluga 1/2」を公開しました。マイクロソフトのOrca手法を参考に、わずか10分の1となる約60万件の合成データでファインチューニングを行い、Hugging Faceの公開LLMランキングで1位を獲得。非商用研究ライセンスで提供されています。
スタンフォード大などの調査：GPT-4の挙動が数カ月で大きく変化、数学の精度低下も
スタンフォード大学とUCバークレーの研究チームが3月版と6月版のGPT-3.5およびGPT-4を比較し、モデルの出力傾向が短期間で激変していることを突き止めました。GPT-4は素数判定の正答率やコード生成の書式遵守が大幅に悪化しています。モデル更新の不透明さと継続的な監視の必要性を浮き彫りにしました。
走行パターンの分析だけで麻薬密売人を特定、米警察がRekorのAI監視を活用
ニューヨーク州警察がRekorのAI道路インテリジェンスを活用し、運転パターンの分析から麻薬密売人を特定・逮捕した。480台のナンバー読取カメラのデータを解析し、頻繁な州間移動と異常に短い滞在時間を検知。車両監視が予測的捜査へと進化している。
ビル・ゲイツ氏がAIのリスクに言及：懸念は本物だが制御可能
マイクロソフト共同創業者のビル・ゲイツ氏はブログで、ディープフェイクや雇用への影響などAIのリスクは現実にあるものの管理可能だと主張した。自動車の普及時と同様に、適切な法整備や技術的対策を講じることで社会は適応できると前向きな姿勢を示している。
TwitchでAIトランプとAIバイデンが永遠に舌戦：カオスな公開討論が話題に
Twitch上でAI版トランプ氏とAI版バイデン氏がエンドレスに討論するチャンネル「trumporbiden2024」が開設された。音声や身振りを真似つつ荒唐無稽な罵倒を交わし、視聴者を煽る様子に10万人以上が集まった。
AI検出ツールに非英語話者への偏見、TOEFL作文の半数以上を誤判定
スタンフォード大学の研究チームが7つの主要AI検出ツールを検証したところ、英語を母語としない人々が書いたTOEFL作文の半数以上がAI製と誤認され、1つのツールでは98%に達した。語彙が平易でパープレキシティが低いことが原因で、皮肉にもChatGPTで書き直すと全て人間判定される逆転現象が起きている。
米コメディアンらがOpenAIとMeta提訴：海賊版データでのAI学習巡り
米コメディアンで作家のサラ・シルバーマン氏ら3名が、OpenAIとMetaを著作権侵害で提訴した。ChatGPTやLLaMAが海賊版サイト由来のデータセットを無断で学習に使用したと主張しており、著作権侵害の法定賠償金などを求めている。
英消費者金融専門家が警告、Facebookで自身を騙るディープフェイク詐欺広告が拡散
英消費者金融の第一人者マーティン・ルイス氏は、自身の姿や声をAIで精巧に模倣した投資詐欺広告がFacebookで拡散していると警告した。本人が確認した初のディープフェイク動画詐欺だという。Metaは動画を削除したと説明したが、ルイス氏は規制強化を求めている。
Shutterstock、企業向け生成AI画像に全額補償を提供
Shutterstockは、企業向けアカウントを持つ全ユーザーを対象に、生成AI画像の利用に伴う法的な全額補償を提供すると発表した。オンデマンドの人的審査を経ることで、著作権侵害などの訴訟リスクをカバーする。Adobeの同様の施策に続く動きで、企業の商用利用への不安払拭を狙う。
Googleがプライバシーポリシー改定：公開ウェブデータでBardなどのAIを学習と明記
The Vergeの報道によると、Googleはプライバシーポリシーを改定し、BardやCloud AIなどのAIモデル学習に公開ウェブデータを活用することを明記しました。従来の翻訳サービスから対象を拡大した形ですが、著作権保護への対応策は明らかにされていません。
OpenAI、超知能の制御を目指す「Superalignment」チーム発足
OpenAIは人間を超える超知能AIを制御する新研究チーム「Superalignment」の発足を発表した。チーフサイエンティストのイリヤ・サツケヴァー氏らが率い、今後4年間で確保済み計算資源の20％を投入する。超知能が今十年中にも到来すると予測し、AIを使ってAIを監査する自動化研究者の構築を目指す。
OpenAI、ChatGPTのBing閲覧機能を一時停止：有料記事の壁を突破する問題で
OpenAIはChatGPTの「Browse with Bing」ベータ機能を一時停止したと発表しました。URLを指定して全文を要求すると、ペイウォールを回避して有料コンテンツが表示されてしまう不具合が確認されたためです。権利者を保護するための措置で、修正後に再開予定です。