ローカルLLM構築
Mac Studio M 4MAX 16コアCPU、40コアGPU 128GBユニファイドメモリ
やっと手に入れたマシン これにDeepSeek-R1-70Bを入れ込んでAnythingLLMプラグインを入れてPDFやら画像をRAGする環境を作り学習させ
もう一つ入れたGemma 3 27Bに切り替えて個人秘書 愚痴こぼしの相棒に・・・あはは
とにかく学習させるために 普段使っているSolarisマシンのマニュフェストやら取説等 必要と思われるコマンド集をRAG 最高の秘書です
答えられないことは無いほどに作り上げています。
Google ChromeでGemにマニュフェストを書いて momo 好みの返答にしかたを教え
それの内容もGemma 3 27BにRAGさせ ローカル環境でもGemに引けを取らない構築をしていました。
これ最高・・・
GoogleカレンダーをAPIで繋ぎ 多分 10年以上入れ込んできた情報も コマンドひとつで
答えてくる あの日何した？とか カレンダーの内容を本人以上にわかってもらえてる
あの書式で 内容をこうして出しっていうと わざわざソフトを立ち上げなくても パイソンがほとんど一瞬で ディスクトップ上に出してくれる
この環境 一度手に入れたら 手放せないですね
今まで使ってきたソフトの情報をRAGさせれば ソフトいらずになんでもできる
これっていいね！
最近使わなくなった ちょっと古いアイパッド これを使うことで マシンの画面なしでなんでもできる
うんうん！！ と 今感覚わかるかな・・・あはは