交大O1医疗探索:延长AI思考时间,解锁复杂推理诊断
时间:2025-01-23 17:16:44 353浏览 收藏
今天golang学习网给大家带来了《交大O1医疗探索:延长AI思考时间,解锁复杂推理诊断》,其中涉及到的知识点包括等等,无论你是小白还是老手,都适合看一看哦~有好的建议也欢迎大家在评论留言,若是看完有所收获,也希望大家能多多点赞支持呀!一起加油学习~
上海交大最新研究:延长AI推理时间,显著提升医疗诊断准确率
编辑 | ScienceAI
医生诊断复杂病例时,需要反复思考,权衡多种可能性。AI也能做到类似的“深思熟虑”。上海交通大学最新研究表明,增加AI的推理时间,能显著提高其医疗诊断准确率,使其更接近专业医生的水平。
该研究由SPIRAL实验室与生成式AI研究实验室(GAIR)联合完成,是O1复现项目系列研究的第三部分。研究发现,延长AI推理时间,仅需500个样本训练,就能将模型在医疗诊断准确率上提升6%-11%。改进后的AI系统能像医生一样,系统分析症状、评估证据,逐步缩小诊断范围。
项目负责人表示,这如同让AI学会了医生的思维方式,不再仅仅依赖快速匹配,而是进行更深入的分析和推理。该方法在JAMA临床挑战等真实医疗场景测试中取得了显著效果。
研究还发现,医疗问题越复杂,AI所需的推理链越长,这与人类医生的诊断过程相似。该研究团队已将所有代码和数据集在GitHub上开源。
- 技术文档:http://arxiv.org/abs/2501.06458
- 相关资源:https://github.com/GAIR-NLP/O1-Journey , https://github.com/SPIRAL-MED/Ophiuchus
研究方法
研究团队分析发现,问题难度越高,推理时间通常也越长,需要更多推理步骤。在医学领域,医生需要处理来自多种来源的数据,因此更长的推理时间至关重要。
为验证这一点,研究选择了JAMA临床挑战、Medbullets和MedQA三个基准数据集。这些数据集包含复杂真实的临床案例和不同难度的医学执业考试题目。
- JAMA数据集:包含1524个案例,涵盖13个医学领域,需要复杂的理解和推理才能得出正确诊断。研究选择了其中646个o1-mini模型难以处理的案例进行评估。
- Medbullets和MedQA数据集:基于美国国家医学委员会考试(USMLE)题目。
由于鉴别诊断任务过于复杂,研究简化了任务,采用多项选择数据集,通过预定义的潜在诊断来指导模型生成假设。
研究团队在之前的O1-Journey研究中验证了长思维链数据对复杂推理的重要性,并构建了两种类型的长思维链数据:
- LongStep:提取o1模型的解决步骤,训练LLMs模仿这一行为。
- LongMonolog:设计提示使o1-preview模型扩展其总结的思路,模拟“内心独白”风格的详细解决过程。
研究团队使用Qwen2.5-32B-Instruct、Qwen2.5-72B-Instruct和LLama3.1-70B-Instruct作为基础模型进行实验。
结果表明,更长的推理时间带来更好的性能。例如,Qwen2.5-72B模型在利用Journey Learning数据微调后,输出token长度延长至约1000,性能改进约为10%。
主要发现
- 多数表决法的作用:多数表决法能提高性能,但对于缺乏深度思考的中间步骤,效果有限。Journey Learning策略能更好地利用多数表决法。
- LongStep与LongMonolog的比较:LongMonolog在Medbullets和MedQA数据集上表现更好,但在JAMA数据集上并非如此。
- 任务难度与推理时间:更难的任务需要更长的思考和更长的推理时间。
- 推理时扩展与模型大小的关系:参数较少的模型从推理时扩展中获得的收益较小。
结论
该研究表明,延长AI推理时间能显著提高医疗诊断准确率。未来研究将继续探索如何提高推理的可解释性和有效性,促进医疗AI的开放发展。
终于介绍完啦!小伙伴们,这篇关于《交大O1医疗探索:延长AI思考时间,解锁复杂推理诊断》的介绍应该让你收获多多了吧!欢迎大家收藏或分享给更多需要学习的朋友吧~golang学习网公众号也会发布科技周边相关知识,快来关注吧!
-
501 收藏
-
501 收藏
-
501 收藏
-
501 收藏
-
501 收藏
-
328 收藏
-
404 收藏
-
383 收藏
-
498 收藏
-
323 收藏
-
459 收藏
-
- 前端进阶之JavaScript设计模式
- 设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
- 立即学习 542次学习
-
- GO语言核心编程课程
- 本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
- 立即学习 507次学习
-
- 简单聊聊mysql8与网络通信
- 如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
- 立即学习 497次学习
-
- JavaScript正则表达式基础与实战
- 在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
- 立即学习 487次学习
-
- 从零制作响应式网站—Grid布局
- 本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
- 立即学习 484次学习