はじめに

システム開発推進部第1Gの牧野です。
昨今、生成AIが急速に発達し、様々なサービスが登場していますが、それに伴い、利用する上でセキュリティ面やコスト面の課題が生じていると感じました。
そこで今回は、LLMをローカルで動かすことでこれらの課題が解決できるかどうかを検証しました。

LLMをローカルで動かすメリット

LLMをローカルで動かすことには以下のメリットがあると考えています。

コスト面の課題解決：無料でも利用可能ですが、APIを ...