应不应该为医疗领域的人工智能制定行为准则?
来源:搜狐
时间:2023-05-26 21:13:52 225浏览 收藏
本篇文章向大家介绍《应不应该为医疗领域的人工智能制定行为准则?》,主要包括,具有一定的参考价值,需要的朋友可以参考一下。
生成式人工智能的兴起促使一位人工智能伦理学家提出了一个框架,以降低在医疗领域使用这项不断发展的技术的风险。与此同时,ChatGPT旗下OpenAI的首席执行官也敦促美国立法者开始监管人工智能,以保障人类的安全。
上图:生成人工智能的兴起,促使人们呼吁引入一个框架来规范其在医疗领域中的使用。
科幻作家艾萨克·阿西莫夫(Isaac Asimov)在1942年的短篇小说《Runaround》中提出了他的机器人三定律。他于1992年去世,远在目睹近年来生成式人工智能的兴起之前。
生成式人工智能包括ChatGPT或DALL-E等算法,它们可以使用训练过的数据来创建新内容,包括文本、图像、音频、视频和计算机代码。大型语言模型(LLMs)是生成式人工智能的关键组成部分,神经网络使用自监督或半监督学习,在大量未标记文本上进行训练。
目前,生成式人工智能的能力呈指数级增长。在医疗保健领域,它被用于通过从大量患者数据集中学习,来预测患者的结果,以令人难以置信的准确性诊断罕见疾病,并且在没有事先学习的情况下通过了美国医疗执照考试,达到了60%的成绩。
人工智能进入医疗保健领域并取代医生、护士和其他卫生专业人员的潜力,促使人工智能伦理学家斯蒂芬·哈勒(Stefan Harrer)提出了一个在医学中使用生成式人工智能的框架。
哈勒是数字健康合作研究中心(DHCRC)的首席创新官,也是健康人工智能联盟(CHAI)的成员。他说,使用生成式人工智能的问题在于,它能够生成令人信服的虚假、不恰当或危险的内容。
斯蒂芬·哈勒表示:“高效的知识检索的本质,是提出正确的问题,而批判性思维的艺术,取决于一个人通过评估世界模型的有效性来探索答案的能力。LLMs是无法完成这些任务的。”
哈勒认为,生成式人工智能有可能改变医疗保健领域,但目前还没有实现。为此,他建议引入一个基于道德的监管框架,其中包含10项原则,他说,这些原则可以减轻医疗保健领域生成式人工智能所带来的风险:
- 将人工智能设计成一种辅助工具,可以增强人类决策者的能力,但不能取代他们。
- 设计人工智能,以产生关于性能、使用和影响的指标,解释何时以及如何使用人工智能来辅助决策,并扫描潜在的偏见。
- 设计基于并将坚持目标用户群体的价值体系的人工智能。
- 从概念或开发工作开始就宣布人工智能的目的和用途。
- 公开用于训练人工智能的所有数据源。
- 设计人工智能以清晰、透明地标记人工智能生成的内容。
- 定期根据数据隐私、安全和性能标准审核人工智能。
- 记录和共享审计结果,教育用户了解关于人工智能的能力、局限性和风险,并通过重新培训和更新算法来提高人工智能的性能。
- 在雇用人力开发人员时,确保公平工作和安全工作标准得到应用。
- 建立一个法律先例,明确定义何时可以将数据用于人工智能培训,并建立版权、责任和问责框架,管理培训数据、人工智能生成的内容,以及使用这些数据做出的人类决策的影响。
有趣的是,斯蒂芬·哈勒的框架与ChatGPT的Open AI首席执行官萨姆·阿尔特曼(Sam Altman)的呼吁不谋而合,他呼吁美国立法者引入政府监管,以防止人工智能对人类构成的潜在风险。在埃隆·马斯克的支持下,萨姆·阿尔特曼于2015年共同创立了OpenAI,他建议政府在发布更强大的人工智能模型之前,引入许可和测试要求。
在欧洲,人工智能法案将于下个月在欧洲议会进行投票。如果通过,这项立法可能会禁止生物识别监控、情绪识别和一些用于警务的人工智能系统。
斯蒂芬·哈勒的这个相当笼统的框架,可以应用于许多存在人工智能取代人类风险的工作场所。它似乎出现在人们(甚至是那些负责创造这项技术的人)都要求人工智能世界暂停的时候。
医疗行业是否比其他就业行业面临更大的风险呢?这样的框架有益吗?更重要的是,考虑到人工智能的发展速度,它真的会降低风险吗?也许,只有时间才能给我们这些问题的答案。
如果朋友们喜欢,敬请关注“知新了了”!
今天关于《应不应该为医疗领域的人工智能制定行为准则?》的内容就介绍到这里了,是不是学起来一目了然!想要了解更多关于人工智能,医疗领域,行为准则的内容请关注golang学习网公众号!
-
501 收藏
-
501 收藏
-
501 收藏
-
501 收藏
-
501 收藏
-
111 收藏
-
458 收藏
-
338 收藏
-
160 收藏
-
467 收藏
-
436 收藏
-
250 收藏
-
345 收藏
-
208 收藏
-
305 收藏
-
459 收藏
-
282 收藏
-
- 前端进阶之JavaScript设计模式
- 设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
- 立即学习 542次学习
-
- GO语言核心编程课程
- 本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
- 立即学习 508次学习
-
- 简单聊聊mysql8与网络通信
- 如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
- 立即学习 497次学习
-
- JavaScript正则表达式基础与实战
- 在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
- 立即学习 487次学习
-
- 从零制作响应式网站—Grid布局
- 本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
- 立即学习 484次学习