はじめに

結論

  • K16でも問題なく動いた
  • 初心者でも30分程度で導入可能
  • ChatGPT等のLLMとは違った楽しさがある

K16を一週間使ってみた感想はこちらの記事に記載してあります。

【実体験】GMKtec NucBox K16を購入｜自作PCユーザーが1週間使った感想｜昼行燈の気の趣くままに

今回の環境

使用したPC

導入したソフト

  • LM Studio

使用したモデル

  • Qwen3 8B

LM Studioとは？

ローカルLLMとは

インターネット上で公開されているクラウド環境でなく自身のパソコン等にダウンロードして操作する大規模言語モデル(AI)です。

ダウンロードした後は、オフライン環境で触ることができセキュリティ面でも強固です。

また、サブスクリプションが発生しないので、その分コストも減らすことができます。

LM Studioの特徴

自身のパソコンでGUIベースの大規模言語モデル(AI)を動かすことができる、デスクトップアプリです。

基本手的には無料で使用することができ、コマンドラインでの操作が不要なことから手軽に導入することができます。

LM Studioのインストール手順

ダウンロード

下記のサイトにアクセスして、インストーラをダウンロードします。
LM Studio – Local AI on your computer

約2分程度でダウンロードできました。

インストール

画面に沿ってインストール作業を実施します。

①「同意する(A)」を押下する。

②特にこだわりがなければ、「現在のユーザのみにインストール」を選択し、「次へ(N)>」を押下する。

③「インストール」を押下する。

④インストールが開始される。

⑤「完了」を押下する。

これでインストールが完了しました。
「LM Studioを実行(R)」のチェックを着けたままにしていますので、「完了(F)」を押下した後LM Studioが自動起動されます。

初回起動

初回起動確認をします。

①「Get Started →」を押下します。

②モデルは後で、別途ダウンロードしますのでこの段階では「Skip for now」を押下します。

③デフォルトの選択肢のまま「Continue to LM Studio →」を押下します。

④これで初回起動確認が完了しました。

モデルをダウンロードする

モデル検索

①左ペインの「虫眼鏡ボタン」を押下します。

②検索モードが起動することを確認します。

今回選んだモデル

今回は「Qwen3 8B」(約5GB)を使っていこうかと思います。
(Chat GPTに選んでもらいました。)

ダウンロード時間

使うモデルが決まったらダウンロードしていきます。

①「Download」を押下します。

②約8分程でダウンロードが完了し使用できるようになりました。

実際にチャットしてみる

日本語で会話

日本語で会話を試してみました。
自己紹介をお願いしました。

問題なく日本語で返答してくれました。

応答速度

あなたは日本語が得意なアシスタントです。
自己紹介してください。

上記の質問をした際の応答時間が「約13秒」だったので、通常のChatGPTを使用している時と比べてだいぶもっさりしていますね。

CPU使用率・メモリ使用量

CPUの使用率はそこまで、高くないですがメモリの使用量がすごいですね。
これ以上の性能を持つモデルだと動かすのが難しそうです。

GMKtec NucBox K16でも快適に動くのか

良かった点

ほぼほぼ日本語で使用できるので、わかりやすいかなと思いました。
手軽に生成AIを使えるのは大きいです。

気になった点

インストール自体はうまくいったのですが、モデルが5GB程度あるのでダウンロード時間が長かったですね。
ここは回線の速度にもよるのでなんとも言えませんが。

使えるモデルが豊富過ぎて、どれを使用していいかわからなかったです。
最終的にはChatGPTにおしえてもらいました。

どんな人なら十分か

高度なプログラミングや、計算をしなければ普段使用する分には問題ないかなと思いました。

返答にだいぶ時間がかかるので、検証目的の人には向いているかなと思います。

ChatGPTとの違い

ローカルLLMのメリット

  • ネットワークがつながっていなくても使用できる。
  • プライバシー性が高い

ChatGPTの方が優れている点

  • ネットで情報を集めているので精度が高い
  • 最新情報を常に収集しているので、情報の鮮度が高い

まとめ

  • K16でも動作した
  • LM Studio導入は簡単
  • 初めてのローカルLLMとしておすすめ
  • 高性能のモデルはやや厳しいか(メモリ増設必須)