엔비디아, LLM 챗봇 안전장치 '네모 가드레일' 오픈소스 공개
엔비디아가 대규모 언어 모델(LLM) 기반 앱의 탈선을 막는 오픈소스 소프트웨어 '네모 가드레일(NeMo Guardrails)'을 공개했다. 주제 이탈 방지, 유해 콘텐츠 필터링, 보안 연결을 지원하며 랭체인과 쉽게 연동된다. 머신러닝 전문가가 아니어도 몇 줄의 코드로 안전 규칙을 적용할 수 있다.
엔비디아가 대규모 언어 모델(LLM) 기반 앱의 탈선을 막는 오픈소스 소프트웨어 '네모 가드레일(NeMo Guardrails)'을 공개했다. 주제 이탈 방지, 유해 콘텐츠 필터링, 보안 연결을 지원하며 랭체인과 쉽게 연동된다. 머신러닝 전문가가 아니어도 몇 줄의 코드로 안전 규칙을 적용할 수 있다.