LLM Wikiという自分だけの知識ベースがあることを知って、取り組もうと思いつつも長らく放置してきた。 AIに課金しないといけなさそうなのと、知識ベースを作って得られるものがはっきりとイメージできないことでついつい先送りにしていたんだと思う。
長らく使ってきたグラボを新調したタイミングも重なり、LM Studio Bionic(AI Agent)を使ってLLM Wikiを運用してみることにした。 実際にやってみると、**「BionicにKarpathy氏の指示書プロンプトを読ませるだけ」**で拍子抜けするほど簡単に動いたので、簡単な設定メモを残しておく。
大まかな流れ
-
Bionicでプロジェクト作成:新規プロジェクト(例:
LLM-Wiki)を作り、作業フォルダを指定。 -
LLM Wikiのセットアップ:Agentに karpathy/llm-wiki.md を読ませ、指示に従ってディレクトリ構成や初回指示書を作らせる。
-
ソースの投入:
raw/フォルダにMarkdownファイルを置く。(放置していたObsidian Vaultのフォルダからシンボリックリンクを張るだけでもOK!) -
Wiki化:「新しいファイルを入れたから取り込んで」と指示するだけ。
ちなみに、モデルは作業内容に応じて使い分けようと思っている。
-
取り込み・重い処理用:Gemma 4 12B QAT (遅いが処理が正確で安定)
-
普段のやり取り用:Gemma 4 26B A4B QAT やQwen 3.8 9B (応答が早い)
難しく考えずに「とりあえず手元のメモを読み込ませてみる」だけで、自分専用のローカルAI知識ベースが育ち始める。気になって腰が重くなっている人は、ぜひ試してみてほしい。