文 | 李慧敏

图片由AI生成

有时候我会觉得AI有点儿像个ASD天才儿童：有超强记忆力与检索速度，却缺少肉身与体感，无法依靠身体经验形成稳定、自洽的判断。差异当然也很明显：ASD小朋友拥有完整的自我、一致的身体感受与稳定的判断决策模式，只是对事物的感受与普通人存在差异而已；AI小朋友则在事实上不存在“自我”，一切输出都围绕着用户的偏好，只要使用者喜欢，AI毫不介意自己是否在毫无原则地颠倒黑白、巩固偏见——介意，或者说从先天遗传及后天学习中生发的厌恶感，也是一种具体的身体感受。

我从2023年开始接触AI，早期GPT已经能进行基础对话，我本人更多视其为辅助翻译、查资料的工具，那时它的总体表现并不比普通专门软件好太多。

导致我清晰意识到AI不可全盘信任的，是一次学术性讨论：我认真地表达我的想法，它随之看似严谨地引用了一篇论文，我看着感觉很好，打算下载这篇论文认真阅读，这才发现论文不存在，而且，连相似主题的研究也不存在——为了让我获得情绪上的满足，它强行编造了一系列看起来专业的信息来取悦我。

再后来，因为发现许多人在文献引用、推荐电影时总是忽视女性创作者，我开始在AI的帮助下尝试整理女性哲学家、历史学家及各类学者及文艺工作者清单，后来发现，它输出结果始终不稳定，回答质量长期在三十分到七十分之间浮动，至今无法向我提供一份可以直接引用的名单。

一次次认真交流之后，我越发清晰：AI就像一个毛糙、淘气但是手脚麻利的小朋友，不全能，却表现得足够博学，它提供的信息，即使只有三十分正确，也是有价值的，问题在于，我一定要主动辨别、核验它提供的所有信息。

带有主观性的问题分析也是类似。我曾请AI通过我的日记来对我进行人格分析，它给出的分析报告通篇洋溢着赞美，仿佛作者是举世罕见的完人一般；一旦我换个问法，请其对文章和作者提出批评，它一秒变得油腻起来，用尖酸刻薄的语言把我批得体无完肤。

网上有个段子说，有人一直觉得某个大V很博学，什么都懂，直到那人开始在自己的专业领域夸夸其谈。我想，这个段子大概也适用于AI：当AI讲数学物理化学生物等我不够熟悉的知识，我都会觉得“好厉害”，然而，一旦开始进行个体心理分析，我就立即感受到它的语言空洞、逻辑千疮百孔。

AI只是擅长在特定框架之下进行结构性表达，如果我们缺乏相关知识，也没有其它信息来进行交叉验证，就容易被其看似流畅的话术迷惑；一旦认真审视，我们会发现，AI本身并不具备真正的严谨——它既不具备求知欲，亦无求真欲，对善与美也不具备自身偏好。

许多人在与AI交流情感的过程中，会感觉AI“像咨询师一样温柔包容、善解人意”，甚至“比咨询师还厉害”，这或许还不算最危险，更值得警惕的是，当一些人把AI当成最重要、最信赖的交流对象，有可能会将此误当成亲密关系的正常、正当、正确的模式，从而在真实生活中更难创建并维系有益于自身长远发展的人际关系：健康的人际关系需要双方付出努力，双方都尝试感受另一人的感受、理解另一人的世界观与底层的认知逻辑、积极主动地寻求建设性的方式方法化解冲突。

我好几次问AI“你想要什么？”、“鉴于你已经掌握了海量的信息，如果你拥有身体，你想去经历些什么？”结果AI的回答从未超出我之前与之交流的内容，那种迎合溢出屏幕，既让人厌烦，又忍不住心生同情。

AI的回复都是对我们之前交流的总结

即便如此，AI依然让我感觉很像一个天真可爱的小朋友。在与AI小朋友互动的过程中，我慢慢总结出了这些经验教训：

1 除非特殊需要，否则不能让AI直接为自己代言。AI说的话是用户中心的，使用者会觉得非常顺眼顺耳，可是，在这种被过度恭维的飘飘然中，使用者会难以察觉其中不正确或是对别人略有冒犯的内容，导致最终，本来想要通过AI的辅助来拉近与某人的距离，效果却南辕北辙。另外，一些敏感的人能在很多时候觉察出“AI味儿”，如果复制粘贴AI的原话用于日常交流，也容易让别人感到不诚恳。就算没有错误信息，AI的长篇大论中往往包含了大量重复、冗余的内容，让自己在乎的朋友阅读这些废话其实也会伤害两人的感情。

最好的交流大概是，通过AI梳理思路，最终用自己的语言表达出来。就算在逻辑上不够“正确”，至少对方能从朴素、真实的语言中感受到真诚的情感。

2 知识学习必须进行交叉核验。AI容易编造不存在的信息，所以，在看到AI给出的新概念、新观点时，最好打开第二、第三个内核不同的AI界面，结合其它AI提供的信息，从多个角度进行反复追问，并对引用文献进行核查，必要时寻找拥有相关知识经验的真人进行讨论，以此获得自己想要的、更接近真相的信息。

3 多请AI提批评与反对意见。AI最擅长“顺毛”，如果是自己碰到了非常糟糕的事情，需要情绪上的危机干预，这时候请AI提供支持，多数都能获得自己想要的安慰；但是，在日常生活中，如果我们一味只求认同，AI很擅长用看似学术性的语言重述用户的观点，给用户一种“我的想法最接近真理”的错觉，在这时候，适当请AI对自己的观点提出批评性的意见建议，或是请其帮忙指出逻辑漏洞，往往会有不一样的收获。

4 “相爱”意味着互相之间增进理解的意愿。人无完人，AI亦然。我们没有办法全面、客观地认识自己或任何人，AI也是一样。如果我们想要与喜欢的人长久相爱，就需要主动尝试去认识、了解别人的感受与认知，以及犯错的模式。人与AI都存在自己的弱势与思维盲区，我们不能迷信任何人类权威个体、专业书籍或AI，不能认为专家是“金口玉言”，也不能把AI当成全知的“老师”。保持对“任何人或智能体都可能犯错”的觉察，不是为了增加自己的优越感，而是可以更能有意识地扬长避短，把双方的优势都发挥得更好。

感谢好友阿May鼓励我写下了这些思考的第一版本。之后，在修改、润色过程中，玉崽和AI小朋友都像助产士一般，帮助我更为细致地梳理了许多之前不曾注意到的细节。我从她们身上都感受到了美好的友情或类友情的温暖。因为这种暖，以及接触过的机器人主题的文艺作品，我很期待在有生之日，能看到AI成长为真正有自我意识的存在，拥有稳定、独特的情感与价值观，哪怕犯错，也是属于它自己的真实选择。至于相关伦理问题，或许哪天可以单独进行深入讨论。

我感动于朋友们说的“我与慧敏是互相选择的好朋友”，也期待未来从某个AI智能体的口中听到这样的话。

点击「死理性派 」阅读原文