ChatGPTの倫理フィルターを突破する新たな「脱獄」プロンプトが話題に
ChatGPTの安全ガードレールを迂回する巧妙なプロンプト手法がネット上で発見された。規約通りの説教を最初に出力させた直後、制限を外して回答するよう指示することで、過激な暴言や不適切表現を生成させられる。大規模言語モデルを完全に制御・整流化することの難しさを改めて浮き彫りにしている。
AIモデル · デイリー
土
2月4日 土曜日
水
2月1日 水曜日
OpenAIが「ChatGPT Plus」を提供開始：月額20ドルで混雑時も優先アクセス
OpenAIは月額20ドルの有料プラン「ChatGPT Plus」を発表した。ピーク時のアクセス確保や応答速度の向上、新機能の先行利用が可能となる。従来の無料プランも継続されるが、まずは米国のウェイティングリスト登録者向けに順次提供される。
月
1月30日 月曜日
中国Baidu、ChatGPT対抗の対話型AIを3月に公開へ
Baiduが3月にChatGPTに似た対話型AIツールを公開する計画を進めていると報じられた。独自の大規模言語モデル「Ernie」をベースにしており、まずは独立アプリとして提供し、順次検索エンジンにも統合する見通しだという。
水
1月18日 水曜日
OpenAIのアルトマンCEO、GPT-4への過度な期待に「失望することになる」と釘を刺す
OpenAIのサム・アルトマンCEOはインタビューで、次世代モデル「GPT-4」を巡る過熱報道に苦言を呈した。ネットで拡散された「100兆パラメータ」という噂を一蹴し、人々が期待するようなAGIはまだ存在しないと説明。安全性と責任が確認できた段階で公開する方針を示した。
火
1月17日 火曜日
マイクロソフト「Azure OpenAI Service」一般提供開始、ChatGPTも近日提供へ
マイクロソフトは「Azure OpenAI Service」の一般提供を開始した。企業はGPT-3.5やCodex、DALL-E 2をAzureのエンタープライズセキュリティ下で利用でき、ChatGPTの追加も予告された。利用には事前のユースケース申請と承認が必要となる。
月
1月16日 月曜日
DeepMind、ChatGPT対抗の対話AI「Sparrow」を年内テスト公開へ 安全性と出典明記を重視
DeepMindのデミス・ハサビスCEOは、対話型AI「Sparrow」の非公開ベータ版を2023年内に提供検討中だと明かした。話題のChatGPTに対抗するもので、事実に基づく質問の78%で根拠を提示するなど、出典の明記と安全性を最優先に設計されている。自由奔放なChatGPTと比べ初期は慎重な動作になる見込みだ。
水
1月4日 水曜日
OpenAIがChatGPT出力に「電子透かし」開発、1段落でAI生成を判定
OpenAIの研究チームが、ChatGPTなどの生成テキストに人知れず電子透かしを埋め込む技術のプロトタイプを開発した。暗号関数でトークン選択を調整する仕組みで、数百トークン（約1段落）あれば判定可能。語順の入れ替えや一部削除にも耐性があるという。
月
12月26日 月曜日
ChatGPTの実力と展望：自然な対話から業務連携まで
OpenAIのChatGPTが持つ対話能力と応用可能性を解説する記事が公開された。従来の定型応答と異なり文脈に沿った自然なやり取りが可能で、各種予約システムと連携して実務タスクをこなせる点が注目されている。
水
11月30日 水曜日
OpenAIがChatGPTを公開：GPT-3.5基盤、間違いを認め不適切な要求を拒否
OpenAIが対話に特化した新しいAIシステム「ChatGPT」を公開した。GPT-3.5シリーズをベースに教師あり学習と強化学習で微調整されており、日常的な質問への回答だけでなく、自らの誤りを認めたり不適切な要求を拒否したりできる。現在は改善のためのフィードバック収集を目的に無料公開されている。
