#CoT-Control

研究拡散指数 37

OpenAI調査、推論モデルは思考プロセスの偽装が困難と判明

OpenAIは推論モデルの思考連鎖（CoT）制御能力に関する調査結果を発表した。最先端13モデルで検証したところ、指示通りに思考を制御できた割合は0.1%〜15.4%にとどまった。思考時間を延ばすほど制御性は低下し、監視逃れの偽装が現状極めて困難であることを示している。