大型语言模型有时会编造信息并将其作为事实——这种现象通常被称为“幻觉”。《13.8》专栏作家Adam Frank认为，这种说法可能将大型语言模型的操作与人类的认知过程混为一谈。Frank认为，将“幻觉”这个词用在这种情况下，源于一种未经质疑的哲学假设，将经验简化为类似于信息处理的东西。我们正处在一个新时代的黎明。在过去的一年左右的时间里，新版本的人工智能已经出现，有些人声称机器意识就在转角之处。这被认为是一个天赐的福音，将带领人类进入一个无法想象的繁荣的应许之地，或者是一个带来无法想象的危险的存在威胁。但是在这两种主张背后，有一个经常不受质疑的假设，关于我们作为明显有意识的生物，和这些技术内部正在发生的事情。这些假设或隐藏的偏见在ChatGPT和类似程序“出现幻觉”的主张中表现得尤为明显。当人们使用“幻觉”这个词来描述聊天机器人时，他们指的是机器人“编造”答案的惊人能力。如果你要求一个聊天机器人写一篇论文，并且包含参考文献，它提供的一些引用可能完全是捏造的。这些来源根本不存在，也从未存在过。当请求关于真实人物的传记信息时，聊天机器人可能返回的信息简直就是假的，就像它从空气中捡出来并将其呈现为事实。这种生成错误信息的能力就是所谓的幻觉。但是在这种情况下使用这个词，暗示了对人工智能现状及其与人类在出现幻觉时所做的事情的关系的危险误解。
幻觉的前提条件
在网上查询幻觉的定义，你会得到这样的结果：“幻觉是对物体或事件的错误感知，涉及到你的感官：视觉，听觉，嗅觉，触觉和味觉。幻觉看起来是真实的，但它们并不真实。”这里的重点是与感知的联系。幻觉意味着你必须先感知；你必须已经在世界中有实体。用现象学的术语来说，你必须已经在一个丰富且无缝的“生活世界”中，这个世界携带着关于世界如何运作的多种语境。但是在大型语言模型（LLM）聊天机器人中发生的事情，与你身上发生的事情差距甚远。这些技术的当前版本基于统计学，而不是具体的经验。聊天机器人被训练在大量的数据上，通常来自互联网，这使它们能够在符号之间，如构成单词的字母之间，建立统计相关性。创建这些巨大的统计相关网并即时利用它们来回答问题，如“泰勒·斯威夫特有一只小狗吗？”，所需的计算力量令人难以置信。事实上，它们能够如此有效地工作，绝对是最高级别的技术成就。但这种成功掩盖了一个重要的限制，当它们的失败被标记为幻觉时，这个限制仍然隐藏着。当LLM在你刚刚要求它写的关于罗马历史的论文中给你一个虚构的引用时，它并没有出现幻觉。它的错误并不是因为它对世界的错误陈述，因为它对世界一无所知。里面没有人知道任何事情。同样重要的是：LLM并没有以任何方式居住在一个可能出错的世界中。它只是基于对巨大的超维空间中的相关性进行的盲目统计搜索，吐出符号串。最好的说法是，当我们使用这些我们创建的机器来回答问题时，我们对世界的误解。
盲点
那么，为什么称这些统计错误为幻觉是如此误导呢？下个月，物理学家Marcelo Glieser、哲学家Evan Thompson将出版一本新书，名为《盲点：科学不能忽视人类经验》。作为人，活着，就是要沉浸在经验中。经验是前提，是一切其他事物的先决条件。它是允许所有想法、概念和理论成为可能的基础。同样重要的是，经验是不可减少的。这是给予的；具体的。经验并不仅仅是“成为一个观察者”：这在你已经抽象出生活在一个生活世界中的具体、生活质量时，才会出现。谈论聊天机器人的幻觉，正是我们所说的“盲点”。这是一个未经质疑的哲学假设，将经验简化为类似于信息处理的东西。它用一个抽象概念，通过技术（这总是如此）具体化，来代替真正意味着成为一个有经验能力的主体。如我之前所写，你不是一个肉体的计算机。你不是一个基于统计推断的预测机器。在一条旨在隔离生命系统某些方面的其他抽象的长链中，使用“信息处理”这样的抽象可能是有用的。但是你不能将经验的无缝整体性压缩回从那个整体中挤出的一个薄薄的、无血色的抽象。在我们想要建立的未来社会中，AI将有一席之地。但如果我们不小心，如果我们让自己对我们是什么的丰富性变得盲目，那么我们从AI中建立出来的东西将使我们变得更加不像人，因为我们被迫去适应它的限制。这比机器人醒来并接管一切的危险要大得多。
