測ってから選ぶ、ローカルLLM運用
社内検証基盤をもとに、評価前段（推論エンジン地図: vLLM/TRT-LLM/SGLang/Atlas・量子化・投機・性能/品質）から運用比較まで、シナリオ順に公開します。
記事を見る
Blog
ローカルLLM検証と、ComfyUI動画制作の現場ノート。
推論エンジンや量子化などの評価前段から、性能・品質の測り方、ComfyUI学習まで。週3本（月・水・金に各1本）でシナリオ順に公開しています。
Series
連載をシナリオ順に読む
Latest
新着記事
Benchmarks数値が嘘をつくとき：ハーネス確認と実機計測の差
開発機のモック計測と実機GPU計測を混同しないための読み方と、公開時のガードレールを解説します。
メトリフクロウ 検証ラボ / Evaluation Lead
Throughputlatencyだけ見ない：concurrencyとthroughputの測り方
常駐マルチユーザ前提で、同時実行とスループットをどう測り、どう読むかを整理します。
メトリフクロウ 検証ラボ / Evaluation Lead
OpenAI Compatible性能と品質の二軸でローカルLLMを評価する
throughputだけでは決めない。定量性能とタスク品質を同じrunに残す評価設計を解説します。
メトリフクロウ 検証ラボ / Evaluation Lead
GemmavLLM起動プロファイルを読む：Gemma4を例に
vLLMの起動プロファイル（YAML）の読み方を、Gemma4系のcoding-agent例で具体化します。モデル前提・ポート・メモリ枠・パーサの見方を整理します。
メトリフクロウ 検証ラボ / Evaluation Lead
Docker × vLLMdry-run 文化で壊さないローカルLLM起動
ローカルLLM運用では、実起動の前に生成される構成を確認する dry-run が安全弁になります。設計上の builder / executor 分離も合わせて解説します。
クムビーバー 現場実装 / Platform Engineer
Docker Lab Notes
AI Series
測ってから選ぶ、ローカルLLM運用
社内検証基盤をもとに、評価前段（推論エンジン地図: vLLM/TRT-LLM/SGLang/Atlas・量子化・投機・性能/品質）から運用比較まで、シナリオ順に公開します。
- 01
- 02
- 03dry-run 文化で壊さないローカルLLM起動
公開日
ローカルLLM運用では、実起動の前に生成される構成を確認する dry-run が安全弁になります。設計上の builder / executor 分離も合わせて解説します。
- 04vLLM起動プロファイルを読む：Gemma4を例に
公開日
vLLMの起動プロファイル（YAML）の読み方を、Gemma4系のcoding-agent例で具体化します。モデル前提・ポート・メモリ枠・パーサの見方を整理します。
- 05
- 06
- 07
