NVIDIA、対話AIの暴走を防ぐ「NeMo Guardrails」をオープンソース公開
米NVIDIAはLLMアプリの安全性を保つオープンソースソフトウェア「NeMo Guardrails」を公開した。話題の逸脱防止や安全性確保など3種類のガードレールを備え、LangChainなどのツールとも連携する。専門知識がなくても数行のコードでAIに安全ルールを設定できる。
米NVIDIAはLLMアプリの安全性を保つオープンソースソフトウェア「NeMo Guardrails」を公開した。話題の逸脱防止や安全性確保など3種類のガードレールを備え、LangChainなどのツールとも連携する。専門知識がなくても数行のコードでAIに安全ルールを設定できる。