理解 LLM 推理性能:Latency、Throughput 与 Goodput从 Prefill 与 Decode 出发,梳理 TTFT、TPOT、Throughput、SLO 和 Goodput 等 LLM Serving 核心性能指标。#LLM Inference#AI Infra#Performance