サマリー

・ヘルスケア領域でのプロダクトにおいては専門家（ドメインエキスパート）との連携が不可欠。応答基準を作り、非エンジニアである専門家がAIをチューニングできる環境をDify / Langfuseで構築した。
・採用するLLMモデルは試行錯誤を重ねられ、エージェンティックワークフローについてもニーズの変化に応じて実装を変えるなど対応。
・また、Langfuseを用いたLLMOpsのフローも設計し、管理・改善だけでなく、ユーザー体験のモニタリングも行っている。