LM Studio Bionic(AI Agent)でLLM wikiを始めてみた


LLM Wikiという自分だけの知識ベースがあることを知って、取り組もうと思いつつも長らく放置してきた。 AIに課金しないといけなさそうなのと、知識ベースを作って得られるものがはっきりとイメージできないことでついつい先送りにしていたんだと思う。

長らく使ってきたグラボを新調したタイミングも重なり、LM Studio Bionic(AI Agent)を使ってLLM Wikiを運用してみることにした。 実際にやってみると、**「BionicにKarpathy氏の指示書プロンプトを読ませるだけ」**で拍子抜けするほど簡単に動いたので、簡単な設定メモを残しておく。

大まかな流れ

  1. Bionicでプロジェクト作成:新規プロジェクト(例: LLM-Wiki)を作り、作業フォルダを指定。

  2. LLM Wikiのセットアップ:Agentに karpathy/llm-wiki.md を読ませ、指示に従ってディレクトリ構成や初回指示書を作らせる。

  3. ソースの投入raw/ フォルダにMarkdownファイルを置く。(放置していたObsidian Vaultのフォルダからシンボリックリンクを張るだけでもOK!)

  4. Wiki化:「新しいファイルを入れたから取り込んで」と指示するだけ。

ちなみに、モデルは作業内容に応じて使い分けようと思っている。

  • 取り込み・重い処理用:Gemma 4 12B QAT (遅いが処理が正確で安定)

  • 普段のやり取り用:Gemma 4 26B A4B QAT やQwen 3.8 9B (応答が早い)

難しく考えずに「とりあえず手元のメモを読み込ませてみる」だけで、自分専用のローカルAI知識ベースが育ち始める。気になって腰が重くなっている人は、ぜひ試してみてほしい。

シェアする

  • このエントリーをはてなブックマークに追加

フォローする