跳到主要内容

2 篇文档带有标签「可观测性」

查看所有标签

可观测性

大模型应用和推理服务的日志、指标、链路追踪和线上排障。

工程化总览

用一条主线串起大模型工程化中的模型文件、Tokenizer、推理、服务架构、RAG、部署、监控和发布。