目次：つまずき · 割当 · 並行 · 文脈 · コスト · 対照 · 手順 · 目安 · 質問
llama.cpp と Ollama のM4稿、KV とバッチのMLX稿、多モデルとコストと列を揃えます。
つまずき三つ
一並行増でプレフィルがRAMを押す。二常駐アプリと索引が帯域を奪う。三GUI と CLI で既定文脈がズレ再現が崩れる。
ハードウェア割当とメモリ予算
常駐RSSの上限を決め、モデルとKVと作業領域が統合メモリの安全域に収まるかを見ます。尾遅延が悪化したらスワップ前に並行か文脈を下げます。
並行セッションと役割分担
LM Studioは同時接続を増やしやすく、llama-serverはスロットをフラグで素直に絞れます。二本から四本の並行から尾遅延を見て上げます。
コンテキスト長とKVキャッシュ設計
サーバ側の文脈上限を先に決め、テンプレと量子化を固定します。KVは層と幅に効くため長文ほど同時本数を減らすトレードが効きます。
コストと安定性のトレードオフ
安定なら版固定と小さめ並行と短め文脈を束ね、速度ならバッチと量子化を先に振ります。リモートは時間課金に失敗率を足して比較します。
対照としきい値の早見
| 観点 | LM Studio Server | llama.cpp llama-server | 検収しきい値 |
|---|---|---|---|
| 運用 | GUIで速い | フラグで釘付け | 設定スナップショット必須 |
| 並行 | 増やしがち | スロット明示 | 二本から四本から |
| KV | UI既定依存 | フラグで型固定 | 長文は同時を先に落とす |
| 再現 | 更新で差 | 版で差が見える | checksum と版をメモ |
検収手順（六段）
一モデルとテンプレを凍結する。二文脈上限と並行を決める。三プレフィルとデコードを分けて測る。四二から四時間のソークで常駐RSSと尾と失敗を書く。五リモートは課金へ換算する。六失敗時は片方だけ戻す。
引用しやすい目安三行
- 統合メモリではKVが幅と層に強く効く
- 並行は二本から四本が出発点になりやすい
- リモート検収は課金に失敗率を足して比較する
よくある質問
質問 GUI と CLI で数値がズレるのはなぜですか。回答 既定文脈とキャッシュ種別とテンプレが片方だけ更新されていることが多いです。スナップショットを並べて差分を潰します。
質問 OpenAI 互換は同じですか。回答 ストリーミングとツール周りで差が出ます。ゲートウェイでタイムアウトと再試行を揃えます。
質問 料金はログインが要ですか。回答 いいえ。料金・購入・ヘルプは閲覧のみならログイン不要です。
要約：割当・並行・文脈・コストの四軸と対照表のしきい値で LM Studio Server と llama-server を同じ物差しに載せます。