サマリー

・この資料では、IVRyが提供しているLLM APIを利⽤した対話アプリケーション運⽤の取り組みが語られています。
・前半パートは「LLM API part」として"ハルシネーション抑制"に行われている対策や、LLM APIの安定運用に関する取り組みが具体的に紹介されています。
・後半パートで「WebSocketプロダクト運⽤」として、サービス提供を行うための品質担保や可観測性を高めるための取り組みについて解説されています。