DeepSeek调整使用规则,设置7天对话留存、单次输入与每日额度限制
DeepSeek近期更新App和网页版使用策略,对长对话保存、单次输入上限、每日对话额度做收紧调整,主要原因是平台算力资源压力持续上涨。
调整之后,超过7天没有活跃交互的对话记录会被清理,不再长期保留完整上下文;单次输入文字上限下调至4万字。同时新增每日对话额度机制,用户到达当日限额之后,系统会提示服务器繁忙,暂时无法继续提问。长上下文、多轮Agent任务,是算力消耗大户,随着用户规模持续上涨,平台算力供给跟不上快速增长的调用需求。
这也是很多主流大模型平台共同遇到的难题:用户想要更长上下文、不限次数的对话,但是算力采购、推理成本居高不下。平台只能通过分级限流、缩短历史会话周期的方式,平衡成本和用户体验。
后续行业会持续在推理优化、KV缓存、弹性调度方向迭代,寻找兼顾算力成本和用户体验的方案,这类限流调整,未来也会成为行业常态。
调整之后,超过7天没有活跃交互的对话记录会被清理,不再长期保留完整上下文;单次输入文字上限下调至4万字。同时新增每日对话额度机制,用户到达当日限额之后,系统会提示服务器繁忙,暂时无法继续提问。长上下文、多轮Agent任务,是算力消耗大户,随着用户规模持续上涨,平台算力供给跟不上快速增长的调用需求。
这也是很多主流大模型平台共同遇到的难题:用户想要更长上下文、不限次数的对话,但是算力采购、推理成本居高不下。平台只能通过分级限流、缩短历史会话周期的方式,平衡成本和用户体验。
后续行业会持续在推理优化、KV缓存、弹性调度方向迭代,寻找兼顾算力成本和用户体验的方案,这类限流调整,未来也会成为行业常态。