大模型推理厂商baseten提供的电子书 推理工程 Inference Engineering下载需要填邮箱：www.baseten.co/inference-engineering/digital-download/他们现在提供了现在速度最快的GLM5.2，每秒200多个token，但量化到4位了。“《推理工程》是一本帮助你成为推理专家的指南。它包含了我在 Baseten 工作四年中学到的一切。这本书基于我对我们工程团队几十位专家的采访，基于我在 NVIDIA GTC、PyTorch Conference、AWS re 和 AI Engineer World’s Fair 等会议上发表的技术演讲，也基于我与世界各地客户和构建者之间无数次对话。”AI创造营