社内の情報アシスタントとして活用を開始しましたが、登録アプリの数が増えるに従って、アプリ自体を探すことが負担になっていました。
その解決のために、推論能力・回答精度・コストなどさまざまな特性で多様化するLLMを、それぞれのシチュエーションでどのように選択するかを考え、開発を進めていったかをご紹介します。