PhonelyがGroqらと連携、音声AIの応答遅延を7割削減し正解率99.2%を達成
VentureBeatの報道によると、AI電話サポートのPhonelyはMaitaiおよび半導体企業Groqと提携し、LoRAの低遅延切り替え技術を活用して音声AIを高速化しました。最初のトークン生成時間は176ミリ秒まで短縮され、回答精度は99.2%に向上。すでに利用者の7割以上が人間と区別できず、月内だけで人間のオペレーター350人を代替する顧客も現れています。
VentureBeatの報道によると、AI電話サポートのPhonelyはMaitaiおよび半導体企業Groqと提携し、LoRAの低遅延切り替え技術を活用して音声AIを高速化しました。最初のトークン生成時間は176ミリ秒まで短縮され、回答精度は99.2%に向上。すでに利用者の7割以上が人間と区別できず、月内だけで人間のオペレーター350人を代替する顧客も現れています。