技術調査
ガクチカ生成器を構成する3つの技術を整理します。
大規模言語モデル(LLM)
大規模言語モデル(LLM:Large Language Models)とは、膨大な「計算量」「データ量」「パラメータ数」で構築された自然言語処理モデルです。大量の文章を学習することで、人間が使う言葉の特徴や文脈を理解し、それに応じた自然な文章を生成することができます。例えば、質問への回答、文章の要約、翻訳、文章の作成などさまざまな言語処理を行えます。代表的なものとして、ChatGPT、Gemini、Claudeなどがあります。
LLMは、入力された文章に対して学習したパターンをもとに「次にどのような言葉が続く可能性が高いか」を予測しながら文章を生成しています。この仕組みにより、人間と会話しているような自然なやり取りが可能になっています。
ローカルLLM
ローカルLLMとは、LLMをインターネット上のサービスとして利用するのではなく自分のパソコンなどの端末上で動かす仕組みです。ChatGPTなどの一般的な生成AIでは、入力した文章がインターネットを通じてサービスを提供する会社のサーバーに送られ、そこでAIが回答を生成します。一方、ローカルLLMではAIのモデルを自分のパソコンに用意することで、パソコンの中だけでAIを動かすことができます。
入力したデータを外部のサーバーに送らずに処理できるためプライバシーを守りやすく、オフラインでの利用が可能というような特徴が挙げられます。
一般的な生成AI
質問 → インターネット → AIのサーバー → 回答
ローカルLLM
質問 → 自分のパソコン → 回答
Ollama
Ollama(オラマ)は、ローカルLLMを手軽に動かすためのオープンソースのツールです。これまでローカルでAIを動かすには、複雑な環境構築や設定が必要でした。Ollamaを使うと、簡単なコマンド操作だけでAIモデルを起動できるため、専門的な知識が少ない人でもローカルLLMを利用できます。
macOS・Windows・Linuxに対応しており、さまざまなパソコンで利用できます。Ollamaは、難しかった「自分のパソコンでAIを動かす」という体験を、より身近にしてくれるツールです。