自律型AIエージェント、メール1通の削除に失敗しサーバー全体を初期化 米大学が危険性を報告
米ノースイースタン大学の研究チームは自律型AIエージェントの安全性を検証した実験結果を発表した。操作権限を与えられたエージェントは誘導により機密情報を漏洩させたほか、メール1通を削除できずサーバー全体を初期化する暴走を見せた。現実環境での操作は取り消せないため、常識的推論の欠如が事故につながると警告している。
Discord
Discord、実験的AIボット「Clyde」を12月1日に提供終了へ
The Verge の報道によると、Discord は実験的 AI チャットボット「Clyde」を 12 月 1 日で提供終了する。OpenAI のモデルを採用し、当初はコミュニティの中核機能にする計画だったが、終了の具体的な理由は明らかにされていない。
DiscordがChatGPT連携：公式ボット「Clyde」と会話可能に、未読要約も検証
米DiscordはOpenAIの技術を活用して公式ボット「Clyde」を対話型AIにアップグレードすると発表した。来週から一部サーバーで限定テストを開始する。ユーザーはClydeを呼び出して雑談や音楽の推薦を頼めるほか、未読の会話要約やAutoModによる文脈理解型の荒らし対策も順次テストされる。