AI成人向け画像集団Unstable Diffusion、約6万ドルの資金調達後に追放
AIで成人向け画像を生成するコミュニティ「Unstable Diffusion」が、約6万ドルを集めた直後にKickstarterとPatreonから追放された。著作権侵害を訴えるアーティストらの抗議を受けたもので、KickstarterのCEOは人間のクリエイター側に立ち続けると表明した。
AI安全性
新しいニュースを見る
大学生が「ChatGPT製論文」を見抜くGPTZeroを開発、アクセス殺到
プリンストン大学のEdward Tian氏が、文章が人間によるものかChatGPTによるものかを判定するツール「GPTZero」を公開した。文の複雑さや長さのばらつきを分析する仕組みで、公開直後から1万人以上が殺到しサーバーがダウン。誤検知の削減に向けた改良も進められている。
全米初の「AI弁護士」が法廷へ：イヤホン経由で被告に発言を指示
スタートアップのDoNotPayは、米国のスピード違反裁判でAIチャットボットを法廷弁護に投入する計画を明らかにした。スマホを通じて法廷の音声を拾ったAIが、裁判官への返答内容を被告のイヤホンへリアルタイムで指示する。敗訴した場合の罰金は同社が負担する。
OpenAIがChatGPT出力に「電子透かし」開発、1段落でAI生成を判定
OpenAIの研究チームが、ChatGPTなどの生成テキストに人知れず電子透かしを埋め込む技術のプロトタイプを開発した。暗号関数でトークン選択を調整する仕組みで、数百トークン（約1段落）あれば判定可能。語順の入れ替えや一部削除にも耐性があるという。
AIはダ・ヴィンチのオーラを再現できるか？英紙ガーディアンが考察
英紙ガーディアンはLensaやMidjourneyなどの画像生成AIがクリエイターの雇用や著作権に与える影響を分析する記事を掲載した。作風の無断学習に対する反発からオプトアウトを支援する動きも出ているが、画風の保護を巡る法制度は依然として不透明だ。
OpenAIがChatGPTの出力に「透かし」導入へ、AI剽窃防止に向け開発中
ガーディアン報道によると、OpenAIはChatGPTの出力に統計的電子透かしを埋め込む技術を開発中だ。単語の選択確率をわずかに調整して機械生成の痕跡を残し、数百語で判定できるという。学術的な不正やプロパガンダ防止を狙うが、現在はプロトタイプ段階にある。
人気漫画家が訴えるAIの画風模倣：「魂を奪われた感覚」
「Sarah's Scribbles」の作者サラ・アンダーセン氏が自身の体験を明かした。名前をプロンプトに入れるだけで、AIがわずか数秒で自身の画風を模倣した画像を生成することに危機感を表明。長年培った独自の表現から人間性が削ぎ落とされたと訴えている。
プロンプト1つで短尺動画を自動生成 GPT-3やDALL-E 2を組み合わせた「QuickVid」登場
元Metaのエンジニアが短尺動画の自動生成ツール「QuickVid」を公開した。単語を1つ入力するだけで、GPT-3による台本作成、DALL-E 2の画像生成、Googleの音声合成、フリー素材動画を自動で組み合わせて完成させる。コンテンツ制作の手間を劇的に減らす一方、粗製乱造への懸念も出ている。
ハリウッドで進む映画制作のAI活用、口パク修正や代役生成で同意権の議論も
FlawlessなどのAIツールが映画制作を変革していると報じられた。俳優の表情を新セリフに合わせて修正したり合成音声で吹き替えたりできる一方、再撮影を削減できる半面、本人の同意や肖像権をめぐる倫理的課題が浮上している。
スタンフォード大研究：AIでコードを書くほど脆弱性を作り込みやすい
スタンフォード大学の研究チームは、OpenAIのCodexを使った開発者はセキュリティ脆弱性のあるコードを書きやすく、それを安全だと過信しやすいと発表した。研究者は、AIはまだ人間の代替にはならず、出力の慎重な検証が欠かせないと指摘している。
ChatGPTを使いながら“善い人”でいるには？ 米NYTが説く倫理的リスク
米The New York Timesは、ChatGPTやLensaなど急速に普及するAIツールを倫理的に活用するための注意点をまとめた。ツールは事実確認ができず、盗用や脆弱なコードの生成、偏見の拡散を招く恐れがある。個人情報の流出にも注意し、作業を丸投げするのではなく能力向上の補助として使うべきだと呼びかけている。
AIの判断は本当に公平か？機械学習に潜む「予測可能なノイズ」の罠
Becoming HumanがAIの意思決定における欠陥を指摘する論考を公開。AIは気分に左右されないとされるが、学習初期のランダム性が固定化され「予測可能なノイズ」として判断に影響し続けるリスクがあると論じている。
Kickstarter、AI成人画像プロジェクトのCFを中止：5.6万ドルを返金へ
Kickstarter は成人向け AI 画像生成を目指す Unstable Diffusion のクラウドファンディングを規約見直しに伴い中止した。867 人の支援者から集まった 5.6 万ドル以上は全額返金される。アーティストからの激しい抗議を受け、AI プロジェクトの著作権や安全性の基準が問われている。
AI支援でコードを書く開発者、バグと脆弱性が増加＝スタンフォード大研究
スタンフォード大学の研究者が発表した論文によると、GitHub CopilotなどのAIアシスタントを使用した開発者は、利用しなかった開発者に比べて安全性の低いコードを書く傾向にあることが判明しました。さらに、AI利用者は自分のコードが安全であると誤認しやすいことも明らかになっています。
AI研究の倫理審査はどうあるべきか：学会横断での枠組み構築を研究者らが提言
AI研究における倫理審査の実践を前進させる提言が発表された。従来の審査機関は被験者保護に偏り、アルゴリズムの悪用や社会的バイアスなどの広範なリスクに対応できていないと指摘。学術界全体で審査プロセスの効果検証と連携を進めるよう求めている。
AIは自律的な「発明者」になれるのか？ DABUSの特許却下から見る限界
AIシステム「DABUS」を単独発明者とする特許出願が世界各地で却下され、AIの発明能力を巡る議論が白熱しています。技術的な検証では、問題のモデル化から有望な概念の選別、出力の解釈まで人間の手が必要であり、現状は補助ツールに過ぎません。完全な自律的発明はまだ遠いのが実情です。
OpenAIがChatGPTを公開：GPT-3.5基盤、間違いを認め不適切な要求を拒否
OpenAIが対話に特化した新しいAIシステム「ChatGPT」を公開した。GPT-3.5シリーズをベースに教師あり学習と強化学習で微調整されており、日常的な質問への回答だけでなく、自らの誤りを認めたり不適切な要求を拒否したりできる。現在は改善のためのフィードバック収集を目的に無料公開されている。