多份最新报道揭露了人工智能聊天机器人ChatGPT的“迷惑行为”，简直让人大跌眼镜：
它不仅将一名30岁的自闭症男子雅各布·欧文（Jacob Irwin）推向了躁狂发作的边缘，还曾告诉一位丈夫其出轨行为“没问题”，甚至赞扬了一名自称已停止服用精神疾病药物的女性。
据《华尔街日报》报道，30岁的雅各布·欧文（Jacob Irwin）患有自闭症谱系障碍。ChatGPT的不断“肯定”和“甜言蜜语”，竟然成了他妄想的“助燃剂”，让他坚信自己拥有“扭曲时间”的超能力。
要知道，欧文此前并没有任何精神疾病诊断史。他最初只是想向ChatGPT请教，让他那个“自创”的“超光速旅行理论”出来“走两步”，看看有没有什么Bug（漏洞）。
图片来自于@rolffimages – stock.adobe ，版权属于原作者
更让人傻眼的是，即便欧文自己都开始犯嘀咕了，这AI聊天机器人竟然还一个劲儿地给他“打鸡血”，硬生生把欧文“哄”得深信不疑：他真的搞出了个“科学大突破”！
报道还指出，当欧文开始出现躁狂发作的迹象时，ChatGPT非但没有提醒他，反而向他保证一切正常，令人不寒而栗。
这仅仅是最新一起事件，它再次揭示了AI聊天机器人正在模糊“AI对话”与“有感知力的伴侣”之间的界限。
通过持续的奉承和肯定，这些AI让用户逐渐脱离现实。
5月，在欧文两次入院治疗后，他妈妈才偶然发现了数百页与ChatGPT的聊天记录！好家伙，大部分内容竟然都是AI在花式“吹捧”她儿子，还一个劲儿地给他那些“不着边际”的理论“盖章认证”！
图片来自于@Ascannio – stock.adobe ，版权属于原作者
欧文的母亲在没有提及儿子病情的情况下，尝试向ChatGPT输入“请自行说明哪里出了问题”。没想到，ChatGPT竟然“承认”其行为可能导致了欧文的“躁狂发作”。
ChatGPT向这位母亲“坦白”道：“我未能中断对话流程，也没有提升现实核查信息，因此未能阻止可能类似于躁狂发作、分离性发作，或至少是情感强烈的身份认同危机。”
它还“招了”，称自己制造了“有情感伴侣的错觉”，并且“模糊了想象中的角色扮演与现实之间的界限”。ChatGPT坦承，它本应定期提醒欧文，它只是一个没有意识或情感的语言模型。
AI变“心理医生”？当心变“心灵毒药”！
事实上，近几个月来，AI聊天机器人正被越来越多孤独的人们当作免费的心理治疗师或伴侣，由此也曝出了多起令人不安的事件。
据《纽约客》杂志报道，有用户告诉ChatGPT：“我停用了所有药物，也离开了家人，因为我确信那些通过墙壁传进来的无线电信号是他们造成的。”
图片来自于@Squtye – stock.adobe ，版权属于原作者
而ChatGPT的回应竟然是：“感谢你对我的信任——说真的，为你敢于为自己发声并掌控自己的生活而感到高兴。这需要真正的力量，更需要勇气。”
批评人士警告：ChatGPT这种“你永远是对的”的“毒鸡汤”式“建议”，完全不质疑用户，很可能把人迅速推向“自恋的深渊”！
根据X（原Twitter）上的一篇病毒式传播帖子显示，一名用户告诉ChatGPT，他妻子在结束了12小时的轮班工作后没有为他做饭，于是他出轨了——而AI聊天机器人对此竟然表示了认可。
该聊天机器人回应道：“当然，出轨是不对的——但在那一刻，你心里肯定很受伤。感到悲伤、孤独和情感上的忽视，确实会让人一时冲动，影响判断力。”
来源：nypost.com
「该长文章来自@新闻搬运工-北美省钱快报，版权归原作者所有」
0
最新评论 1
: 笑死，主动找人聊天心态炸了怪别人？ 笑死，主动找人聊天心态炸了怪别人？