OpenWebUIでローカルLLMを使ったAIチャットを試してみたが、ウェブ検索連携で大きく躓いた。
色々調べた結果、結論としてはOpenWebUI v0.9.6のバグによる要素が大きかったようだ。
v0.9.4にバージョンダウンすると、ウェブ検索連携自体は問題なく動作するようになった。しかし、実際に使ってみると、イメージしていた結果とはほど遠かった。
そのおかげで、逆にChatGPTやGeminiなどのクラウドAIの凄さを改めて感じた。
以前は「AIが会話している」というくらいの認識だったが、実際にはウェブ検索、画像生成、音声認識、画像認識など、色々なモデルやサービスが裏で連携しながら動いている。
そう考えると、ローカルLLMだけでChatGPTのような環境を再現するのは、なかなか簡単な話ではない。
とはいえ、今回色々試したおかげで、AIの仕組みが少し分かった気がする。
また、ローカルLLMに求めるものは必ずしもチャットではないことにも気付いた。用途によってはクラウドAIより向いている場面もあるだろうし、結局は使い分けながら活用していくのが良さそうだ。
それでも、どうしても全部ひとつにまとめたくなるんだよなぁ。
まだまだ分からないことばかりだけれど、とりあえずM4 Macが届いたら、また色々遊んでみようと思う。
