LLM 可观测性

LLM 可观测性是指在运行时监控和理解您的 AI 应用程序内部发生的情况，跟踪诸如发送了哪些提示、返回了哪些响应、每次调用耗时多长以及使用了多少个 token 等信息。如果没有对这些细节的可视化能力，调试故障或理解输出为何变化将极其困难。良好的可观测性为您提供了开发和生产环境中系统行为的连续记录。