普段は Elyza 8B（Llama3ベース） を愛用している。
とにかく反応が速く、日本語も自然。
ローカルで常時動かしていてもGPU負荷が軽く、RTX 5070Tiでも十分余裕がある。

だが、ふと気になった。
「13B（Llama2ベース）を動かしたら、どれくらい違うんだろう？」
というわけで、Elyza 13B を起動してみた。

起動して最初に感じたのは「重い」。
VRAM使用量はギリギリで、GPUファンの音もいつもより賑やか。
それでも、一度応答が返り始めると文章の構成がしっかりしているのが分かる。

同じ質問を8Bに投げるとスパッと短く返ってくるのに対し、
13Bは「前提・背景・結論」を整理して丁寧に説明してくる。
テンポは遅いが、内容に厚みがある。
まるで「話が上手な先生」に変わったような印象だ。

8Bではたまに、途中で文が終わったり、少しズレた推論をすることがある。
13Bではそのあたりがかなり安定していて、
一度のやり取りで「なるほど」と納得できる答えが返ってくる。

特に技術的な説明や歴史・地理などの知識系の質問に強く、
Elyza 13Bは「ちゃんと考えてから話すAI」という感じがする。

8Bはとにかく軽快。
日本語が自然で、返答までの時間も短い。
日常の会話や創作プロンプトを作るときなどは、
8Bのテンポの良さが心地いい。

13Bはじっくり考えてくれる分、ワンテンポ遅く、
対話よりも「長文回答」や「まとめ」に向いている印象だ。

8Bは「軽快で使いやすい日常AI」、
13Bは「じっくり考える知的AI」といった感じ。
どちらにも得意分野があり、状況に応じて切り替えるのがベストだと思う。

結論として、普段使いはこれまで通り Elyza 8B に戻した。
でも13Bを試してみて、「AIが考えている感」が強く、
その深さには素直に感心した。

ローカルAIの世界は、モデルごとに性格が違って面白い。
次に出るであろう Elyza 13B（Llama3ベース） が来たら、
また違う知性に出会えるのかもしれない。