ローカルLLM

ローカルLLM

Groq API on Ubuntu — 世界最速LLM推論APIの接続と活用方法

Groq API は「世界最速級の LLM 推論」を掲げるクラウド API です。ローカルで LLM を動かすと CPU では数トークン/秒が限界ですが、Groq の LPU(Language Processing Unit)という専用チッ…
ローカルLLM

Open Interpreter on Ubuntu — AIがPCを自律操作するローカルCLIエージェント

「このCSVを読んで集計して」「フォルダ内のPNGをまとめてリサイズして」——こうした指示を自然言語で出すだけで、AIが実際にコードを書いて自分のマシン上で実行してくれるツールが Open Interpreter です。ChatGPTの「コ…
ローカルLLM

LM Studioの使い方完全ガイド【無料でChatGPT並みのAIをローカル実行】

「ChatGPTみたいなAIを自分のPCで動かしたい、でも課金はしたくない」。そう思ったことはありませんか。LM Studio を使えば、無料でローカル LLM を GUI 操作だけで動かせます。インターネット接続もクラウド契約も不要です。