-
说明 Accelerate max_memory 的 GPU 编号、CPU 预算和容量单位，给出规划与加载代码，并解释权重布局与推理峰值内存的区别。
-
用 MLflow GenAI 把真实 trace 中的已知失败行为固化为 pytest 回归测试，配置 @mlflow.test，组合 scorer，并用 result.passed 与 result.reason 接入 CI 断言。
-
解释 PEFT LoRA 中 rank、lora_alpha 与适配器缩放因子的关系，比较默认 LoRA 和 rsLoRA 的公式，并给出可复查的 LoraConfig 配置与参数检查方法。
-
通过 persistent_workers=True 复用 PyTorch DataLoader 的多进程 worker，本文说明 DataLoader 的放置位置、Dataset 状态边界、参数取舍和关闭条件。
-
Transformers decode 可用 clean_up_tokenization_spaces=False 停用额外空格清理。结合示例区分特殊 token 删除、后端解码与原文保存，给出展示和诊断场景的参数选择。
-
用一个 scikit-learn 分类小项目说明 MLflow 如何通过 input_example 自动记录模型签名，并从输入输出 schema 排查列名、类型和必填字段不匹配。
-
PyTorch torch.compile 遇到 graph break 时，先用 eager 基线确认问题，再通过 TORCH_LOGS=graph_breaks 和 torch._dynamo.explain 读取位置、原因与断点数量，最后根据代码错误、暂不支持行为或函数隔离选择修复方向。
-
vLLM 的连续批处理 token 上限由 max_num_batched_tokens 控制。本文说明 Python 和 vllm serve 两种配置方式，并结合 ITL、TTFT、吞吐量、chunked prefill 与 KV Cache 给出调参边界。
-
LiteLLM 的 max_parallel_requests 是部署级并发槽位上限，槽位全部占用时会在供应商调用前直接返回429。本文按配置优先级、进程边界和排查路径说明如何处理。
-
解释 LiteLLM Chat Completions 流已输出内容后的异常行为，给出应用层备用生成与 attempt 隔离写法，避免把重新生成误当成断点续传。
-
LiteLLM Router 可以把同一 model_name 下的多个区域部署组成模型组，并用 enable_weighted_failover 在异步请求失败时先切换同组健康副本。本文用权重、排除集合、max_fallbacks 和 cooldown 说明配置边界，以及它与跨模型 fallback 的区别。
-
Accelerate 的 load_checkpoint_and_dispatch 遇到 missing 或 unexpected keys 时，先比较 checkpoint 与空模型的 state_dict 键集合，再排查配置、前缀、模型头和 adapter 边界，最后用 strict=True 收窄错误。
-
使用 ONNX Runtime get_overridable_initializers 读取可覆盖初始化器的名称、类型和形状，整理元数据报告，并区分空列表、加载异常、权重数值与性能结论。
-
Triton 的 schedule policy 可以把 timeout 放进单个推理请求，让动态批处理队列按微秒值处理等待边界。本文说明模型队列策略、HTTP parameters.timeout、Python gRPC timeout 与 client_timeout 的区别。
-
说明 Accelerate disk_offload 如何把模型权重映射到本地目录，区分已加载模型的 offload_dir 与检查点加载时的 device_map、offload_folder，并解释 execution_device、推理边界和磁盘性能影响。
