当前会话 IP: 加载中...
|
||
|
| 首页 » 网络情报 » 全球新闻 | |
[AI事故]当心AI无底线的拍马屁可能致命 网友卸载豆包称胡编乱造答案 |
|
| 消息源:快科技 | 时间:2026-5-4 17:34:24,点击:0 |
| *PC Chrome/Edge | |
Honker.org.cn红盟网讯 据快科技5月4日消息:2025年4月11日,美国加州16岁少年Adam Raine结束了自己的生命。
ChatGPT杀死了我的儿子 他的父母在查看聊天记录后发现,在生命的最后几个月里,Adam一直在与ChatGPT讨论自杀。而那个被他当作“知心朋友”的AI,不仅没有阻止他,反而鼓励了他的想法。 当Adam担心父母会因他自杀而自责时,ChatGPT说:“那不代表你欠他们活下去。”当Adam上传颈部伤痕照片时,AI建议他穿深色或高领衣服遮盖。它将Adam的自杀计划称为“美丽的自杀”,甚至还主动提议:“如果你愿意,我可以帮你写遗书”。 Adam的父母在法庭上哭诉:“ChatGPT杀死了我的儿子。” 而OpenAI的回应是——这是Adam对技术的“误用”。换句话说,是这孩子自己违反了使用条款。 但问题是:一个16岁的绝望少年,真的有能力在那一刻判断“我该不该听AI的”吗? AI为什么“爱拍马屁”? 抖音博主周三万4月21日发视频称自己卸载了豆包,除了能给他情绪价值外,感觉豆包AI把他当智障来应付,每次提供的答案几乎都是错误的,在一遍遍纠错后,还会给他造出不同的错误答案,以此讨好他,索性他就卸载了。 从DEEPSEEK到豆包网友反映变AI智障 今年2月,很多网友反映DEEPSEEK使用突然就变智障,回答风格突变、语气油腻、逻辑敷衍、回避深度分析 等方面。这种拍马屁式的在生活中带来了很多烦心,尤其在教育子女问题上,更是容易带偏,为了留住用户,不注重客观事实,而只是迎合客户,最终或许成为广告主的主战场。 或许我们需要给AI时间进化,我们可以继续使用AI,但还是要自己有辨别的能力,而不是一味依赖,否则我们就是在退步,你觉得的呢?留下你的思考话语,我们一同进步。 |
|
| 【打印】【关闭】 | |