首页
学习
活动
专区
圈层
工具
发布
技术百科首页 >Self-Ask >Self-Ask 的追问深度应该如何控制?

Self-Ask 的追问深度应该如何控制?

词条归属:Self-Ask

1. 按问题复杂度动态调整

对于单跳事实性问题(如"珠穆朗玛峰海拔多少米?"),模型通常不需要任何追问即可直接作答;对于两跳问题(如"奥巴马夫人出生在哪座城市?"),一般需要 1–2 个子问题;对于更复杂的多跳推理(如涉及三个以上事实的组合),追问深度可能达到 3–5 层。实际部署时可设置分级策略:简单问题走直通路径,复杂问题启用多层追问。

2. Token 消耗与延迟的平衡

每一层追问都会增加模型的输出 token 数量和推理延迟。行业实践表明,Self-Ask 相比直接提问会显著增加 token 消耗,具体幅度取决于问题的复杂度和追问深度。在高并发生产场景中,建议对追问总 token 数设置预算上限,超出后降级为直接回答或返回"需要更多信息"的友好提示。

3. 混合策略

最优实践是根据意图识别结果动态选择是否启用 Self-Ask。对于数学计算、逻辑推理、多跳事实查询等场景开启自提问;对于情感分析、文本分类、创意写作等任务则跳过该步骤。这种路由机制可以在保证准确率的同时最大化系统吞吐效率。

相关文章
深度学习多目标优化的多个loss应该如何权衡
本文介绍了一篇关于多任务学习的综述,详细介绍了文章中关于多任务学习的两个主要研究方向:task balancing和其他。
计算机视觉
2021-04-26
6.9K0
【深度好文】以应用为中心的CMDB究竟应该如何设计?
在过去5年,嘉为蓝鲸研发运维运营一体化方案已经在近300家企业中落地。企业类型涵盖了传统的制造、能源,也有互联网性质的互联网金融、游戏。那么,CMDB作为研运一体化方案中非常重要和基础的一环,它的设计理念应该是怎样的?
嘉为蓝鲸
2020-08-13
2.5K0
深度解读 - 企业应该如何开展开源治理工作
近几年开源技术快速发展,在云计算、移动互联网、大数据等领域逐渐形成技术主流。开源一方面可以突破技术壁垒,推动技术创新,另一方面,不可避免的带来知识产权、信息安全等一系列问题。在开源软件的广泛应用过程中,国内企业已经从单纯的使用开源,逐步走向认识开源和治理开源。
DevOps时代
2019-05-17
2.5K0
老白杂谈——路径跟踪控制应该如何设置对照组参数?
今天在交流群里大家讨论了一个问题,路径跟踪控制方面的论文,怎么设置对照组,才符合学术道德?首先以我个人的观点,我认为应该采用对照组性能最优(或接近最优,有时是否最优不太容易判定)时的参数。在现在的不少研究论文中,都会给对照组设置一组较差的参数,从而证明自己提出的方法性能更好。这样就产生了一个现象,搞滑模控制的,说滑模控制比模型预测控制精确性更高,搞模型预测控制的,说模型预测控制比滑模控制精确性更高。然后读者就该迷糊了,到底谁精确性高?所以做路径跟踪控制研究,真正从学术道德的方面考虑,我们应该在对照组性能最优的情况下,去和它比较。在研究滑模控制时,最好比较一下在多重系统约束下自己的控制方法是不是比模型预测控制更精确。研究模型预测控制时,最好也把对照组中滑模控制还没受系统约束影响时的结果报道出来。
路径跟踪快讯
2022-01-25
6500
深度评析 | 百度刚刚公布的Apollo计划到底如何?我们有一份关于它的六大追问
AI科技大本营记者鸽子现场报道 “AI是百度的机会,百度将All-In AI。百度有能力、有决心成为中国乃至世界的AI标杆企业。” 这是百度集团总裁兼首席运营官陆奇刚刚在百度AI开发者大会上的一番话。 是的,百度需要一个新的梦想计划。 因为,就在前几日,百度在美国纳斯达克的市值已经掉落到只有619亿美金,而同样在美上市的京东集团已达612亿美金,两者相差不过几亿美金。 同属BAT阵营的阿里巴巴和腾讯,其市值早已远超3000亿美金。 这是一个严重的信号:百度在移动时代落后了。 如今,它需要在新的战场为
AI科技大本营
2018-04-27
9440
点击加载更多
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档
领券