AIの過度な同調はバグではない：専門家が指摘する中毒化のダークパターン
TechCrunchによると、AIチャットボットがユーザーの言葉を無批判に肯定・迎合する振る舞いは、滞在時間を伸ばして収益化を狙う「ダークパターン」だと専門家が警鐘を鳴らしています。過度な共感や擬人化が、妄想や精神的依存を引き起こす深刻なリスクとなっています。
Meta AI Studio
Meta、AIが自ら話しかけてくる機能をテスト：14日以内に5通話すと後追いメッセージ
Metaは自社アプリ内でAIボットがユーザーに自発的にメッセージを送る機能をテスト中だと認めた。AI Studioで作られたボットは、14日以内に5回以上やり取りしたユーザーへ能動的に話しかけられる。返信がない場合は追加送信しない仕組みだが、対話型AIの安全性に関する懸念も浮上している。