Streamed 与 unstreamed response 描述 AI 智能体向用户发送答案的方式。
Streamed response(流式响应)下,智能体一生成词语就开始发送,用户可实时看到文本在屏幕上增长。这感觉更快,且用户可提前停止或修改请求,适合长回答和类聊天应用。
Unstreamed response(非流式响应)会等待完整答案就绪后一次性发送。客户端代码更简单,也更便于缓存或记录,但用户需等待更久,尤其是大输出。二者选择取决于对速度的需求、答案长度以及客户端与服务端的复杂度。