小程序
小游戏
企业微信
微信支付
扫描小程序码分享
用云开发的AI功能时,好像会让云开发的调用次数爆炸。例如我用 await model.streamText(...) 向AI发送消息,然后用 for await (let str of res.textStream)
流式接受消息,一轮对话下来,云开发调用次数暴涨几十次,这样还没说几句话,调用次数就上千了,感觉AI对话消耗的调用次数也太多了!比调用云函数、云数据库多多了!
难道AI流式输出的时候,每蹦出一个词都算做一次调用?
调用次数到底怎么统计的?
3 个回答
本回答由AI生成,可能已过期、失效或不适用于当前情形,请谨慎参考
加粗
标红
插入代码
插入链接
插入图片
上传视频
streamText是HTTP长连接,一次流式对话会消耗50个调用次数,这种体验比较好,响应快。
generateText是HTTP短链接,一次对话消耗一个调用次数。但是体验会差一些,响应慢。
你好,麻烦通过点击下方“反馈信息”按钮,提供出现问题的。
不再用model.streamText,改用model.generateText,希望这种非流式输出可以减少云开发调用次数
关注后,可在微信内接收相应的重要提醒。
请使用微信扫描二维码关注 “微信开放社区” 公众号
streamText是HTTP长连接,一次流式对话会消耗50个调用次数,这种体验比较好,响应快。
generateText是HTTP短链接,一次对话消耗一个调用次数。但是体验会差一些,响应慢。
不再用model.streamText,改用model.generateText,希望这种非流式输出可以减少云开发调用次数