产品

AI让我晚上哭了。为什么预设的同理心代码不是同

作者:心情不好的时候科学报废,你跟谁说话?近年来,随着Deepseek、GPT、豆宝等聊天AI的兴起,很多人选择了与AI交谈。而且很多人会发现,与聊天AI交谈后,感觉真​​的很舒服。 (图/社交媒体截图) 事实上,类似的情况不仅在国内,在国外的Reddit上也有很多。网友们觉得AI安慰了他们。仔细想想,这件事背后似乎存在着很大的矛盾。一方面,科学家不断告诉我们“人工智能没有情感”,“它们的反应只是运行代码的结果”。但另一方面,人工智能似乎比大多数人类更懂得如何娱乐人们。如果人工智能真的有感情,怎么能做到这一点呢?事实上,这一切并不冲突。你之所以被娱乐,是“没有情感的AI”和“有情感的你”的共同创造。 Eliza Effect,60 年前的舒适。最现代的聊天AI是基于大规模语言模型的,而大规模语言模型又是基于神经网络的。有些人可能听过一种说法,神经网络的数据处理过程就像一个黑匣子,给人留下“联想”的空间,并认为在这个“黑匣子”的运作过程中,AI产生了情感。抛开这个因素的影响,我们还可以从更简单的情况入手。大约 60 年前,有一个名为 Eliza 的聊天机器人。它是由麻省理工学院科学家 Joseph Weizenbaum 开发的。魏森鲍姆曾经为Eliza开发了一个模仿心理学家的脚本(script ofdoctor),让它能够模拟心理学家和人之间的对话。虽然是由精神科医生模拟的,但由于当时技术的限制,伊丽莎只能看到句子中的关键词,然后按照人类科学家制定的规则做出反应。例如,当你对 Eliza 说:“我让我的朋友失望了”,Eliza 会简单地重复一遍,然后用“我”等人称代词回答你“你说你辜负了你的朋友?”然后按照规则,当出现“失败”这样的词时,它会在最后添加一个短句“你能再说点吗?” “?”或“你为什么失败?”这项技术在今天看来很简单,但也正是这种简单的技术让整个对话过程变得不存在,不给人留下联想的空间。毫无疑问,只是伊丽莎并不聪明,也不能说“理解”人类的情感。但就连伊丽莎的设计者维森鲍姆也没有想到,在与伊丽莎的交谈中,有学生认为伊丽莎有情感、有想法,想要和伊丽莎单独相处。 (图/Unsplash)这种现象后来被称为“伊丽莎效应”,即人们将人类特征(如同理心、情感、态度等)投射到简单的计算机程序上。从这个例子我们可以看出,像Eliza这样简单的聊天AI肯定不具备人类的能力。动作,但人们仍然可以从其反应中“解读”情感并从中获得娱乐。伟大的语言模型,不仅仅是有 Eliza。回到现在的聊天AI,经过大约60年的发展,人工智能技术已今非昔比。大规模的语言模型可以让聊天机器人在海量的人类文本中找到单词背后的语义关系。他们还可以对您所说的话给予最合适的回应。这些回应不仅仅是流利的句子。如果没有信号,你将很难辨别正在与你交谈的人是人类还是人工智能。例如,在 2025 年 3 月的一篇文章中,对 GPT-4.5、LLAMA-3.1、Eliza 和 GPT-4O 等 AI 模型进行了图灵测试。结果发现,对于像GPT-4.5这样的模型,超过73%的人可以认为它是人类。相比之下,只有 23% 的人认为像 Eliza 这样的 AIS 聊天是人类。你可以想象,即使是简单的伊丽莎也能引起“伊丽莎效应”,欺骗人们认为它理解我们的情绪。尽管在与现代、能力更强的人工智能交谈时,“明白”的感觉并不令人惊讶。算法实际上让人工智能比人类更“理解你”。事实上,在20世纪末,科学家们就开始研究情感计算这一课题。近年来,随着训练数据量和参数规模越来越大,能够“理解”人类情感的大规模语言模型也应运而生。但这种“理解”并不等同于理解人类的意义。他们对情感的理解主要是通过语义关联和语境关联来实现的。 。 2025 年发表在《传播心理学》上的一项研究表明了这一点。但遗憾的是,这些暖心的答案并不是因为有同情心,而是没有感情,他们的回应真的只是遵循代码和模型的设定。酷炫算法,真正的舒适 算法的核心虽然是酷炫,但它确实,人工智能可以让人感受到情感上的安慰。两者之间不存在冲突。在“移动互联网”和社交媒体时代,人与人之间的联系似乎并没有在这种“互联”中得到加强。在社会日益孤立和隔离的时代,被人看见的需求很难得到满足。而当我们与聊天AI交谈时,Ai不仅可以记住你所说的每一句话,并随时随地进行反馈,给人一种“被注意到”的感觉。此外,你可以将很多你不敢和身边的朋友或熟人谈论的问题毫无顾虑地告诉AI,这是人类的朋友很难做到的。还有,在和AI交谈的过程中,你一定会发现AI有无限的耐心。即使你反复承认自己的问题,甚至使用非常粗鲁的语气,AI仍然可以给你积极的回应(如果你是人类,其他人可以对抗你)。 。可以随时与人沟通的AI手机能够以最低的成本满足我们“听”的需要。虽然普通人被“看到”和“听到”的需求从社会的“大局”来看微不足道,但对某些人来说却非常重要。聊天AI可以满足这样的需求。如果你在与AI对话的过程中对“冷酷的算法”感到安慰,这很正常。但你唯一需要注意的是在与人工智能交谈时不要沉迷。与AI对话、交流,是为了帮助我们摆脱忧虑,更多地回归生活。在现实生活中找到真正关心你的人是最重要的。 [1] 琼斯,C.R.,卑尔根,B.K. (2025)。大型语言模型通过图灵测试。 ARXIV 预印本 ARXIV:2503.23674。 [2] Schlegel, K.、Sommer, N. R.、Mortillaro, M. (2025)。大型语言模型擅长解决和创建情商测试。传播心理学,3 (1), 80。 [3] Andersson, M. (2025)。编码:人工智能在未来的作用人际关系。人文社会科学通讯,12 (1), 1-7。返回搜狐查看更多