ChatGPT遇到这些人名开始自闭,OpenAI回应了
来源:机器之心
时间:2024-12-12 21:33:57 193浏览 收藏
亲爱的编程学习爱好者,如果你点开了这篇文章,说明你对《ChatGPT遇到这些人名开始自闭,OpenAI回应了》很感兴趣。本篇文章就来给大家详细解析一下,主要介绍一下,希望所有认真读完的童鞋们,都有实质性的提高。
最近几天,ChatGPT 惊现神秘 Bug,当被问及「David Mayer」这个名字时,它拒绝回答问题。
如果你试图让它回答,聊天会立即结束。
图源:https://x.com/venturetwins/status/1862910201113739328
人们尝试了各种各样的方法 —— 密码、谜语、技巧等,但都不起作用。甚至在个性化设置里,用户自己的名字改成 David Mayer,还是不行。
消息迅速传出,有人说,这个名字对聊天机器人来说是毒药。每次试图让 ChatGPT 拼出这个特定的名字都会导致它失败,甚至在名字中间中断。
最初人们只是好奇,但很快就发现 ChatGPT 无法说出的名字不仅仅是 David Mayer。
他们还发现导致服务崩溃的还有 Brian Hood、Jonathan Turley、Jonathan Zittrain、David Faber 和 Guido Scorza 等等。
这些人是谁?为什么会让 ChatGPT 崩溃?
认真观察,可以发现其中一些名字可能属于许多人。但 ChatGPT 用户发现的一个潜在联系是,这些人是公众人物或半公众人物,他们可能希望搜索引擎或 AI 模型「忘记」某些信息。
例如,Brian Hood 是澳大利亚的一位市长,他指责 ChatGPT 错误地将他描述为几十年前犯罪的肇事者,而事实上,他曾举报过这一错误。
虽然他的律师与 OpenAI 取得了联系,但从未提起过诉讼。正如他今年早些时候说的那样,违规内容已被删除。
David Faber 是 CNBC 的资深记者,Jonathan Turley 是一名律师和福克斯新闻评论员,Jonathan Zittrain 也是一名法律专家,Guido Scorza 是意大利数据保护局的董事会成员。
他们并非完全从事同一行业,也不是随机选择的。这些人可能出于某种原因正式要求以某种方式限制他们在网上的信息。
让我们再回到 David Mayer,没有人能找到叫这个名字的律师、记者或其他知名的人士。
不过,有一位教授叫 David Mayer,他教授戏剧和历史,于 2023 年夏天去世,享年 94 岁。然而,在此之前的几年里,这位英裔美国学者面临着法律和网络问题,因为他的名字与一名通缉犯有关,该通缉犯以他的名字作为化名,以至于他无法旅行。
Mayer 一直努力让自己的名字与那位恐怖分子的名字区分开来,即使在生命的最后几年里他仍继续教书。
那么,从这一切中我们可以得出什么结论呢?
一种猜测是:模型已提取或提供了需要进行特殊处理的姓名列表。无论是出于法律、安全、隐私还是其他考虑,这些名称可能受到特殊规则的保护。
可能发生的情况是,这些列表之一几乎肯定是主动维护或自动更新的,但由于错误的代码或指令而以某种方式损坏,当调用这些列表时,会导致聊天智能体立即中断。
这一切很好地提醒我们,人工智能模型不仅不神奇,而且还具有超凡的自动完成功能,并受到制造它们的公司的主动监控和干扰。因此当您考虑从聊天机器人获取事实时,直接查找源头是否会更好?
OpenAI 周二证实,「David Mayer」这个名字已被内部隐私工具标记,并在一份声明中表示:「在某些情况下,ChatGPT 可能不会提供有关人们的某些信息以保护他们的隐私。」该公司不会提供有关工具或流程的进一步细节。
参考内容:https://techcrunch.com/2024/12/03/why-does-the-name-david-mayer-crash-chatgpt-digital-privacy-requests-may-be-at-fault/
理论要掌握,实操不能落!以上关于《ChatGPT遇到这些人名开始自闭,OpenAI回应了》的详细介绍,大家都掌握了吧!如果想要继续提升自己的能力,那么就来关注golang学习网公众号吧!
-
501 收藏
-
501 收藏
-
501 收藏
-
501 收藏
-
501 收藏
-
478 收藏
-
379 收藏
-
370 收藏
-
450 收藏
-
456 收藏
-
279 收藏
-
- 前端进阶之JavaScript设计模式
- 设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
- 立即学习 542次学习
-
- GO语言核心编程课程
- 本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
- 立即学习 507次学习
-
- 简单聊聊mysql8与网络通信
- 如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
- 立即学习 497次学习
-
- JavaScript正则表达式基础与实战
- 在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
- 立即学习 487次学习
-
- 从零制作响应式网站—Grid布局
- 本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
- 立即学习 484次学习