当一切皆已是AI:为什么我们的世界越来越像生成的“垃圾”?

当世界变得像程序一样精准而冰冷,也许那一点点“不完美”,才是我们生而为人的证明。

本期播客音频由 AI 生成,它用对话的方式,对下面的长文内容进行了浓缩与解读。点开听听吧~也很期待您的关注和反馈!

[阅读时长:8 分钟]


引言

你有没有这种感觉:现在的世界,越来越像是一个巨大的、不断自我复制的程序?

看一部新上映的漫威电影,感觉像是把十年前的桥段重新排列组合;刷一刷短视频,背景音乐永远是那几首洗脑神曲的变奏;就连很多公司的招聘文案,甚至政客的演讲,都充满了那种“正确的废话”:光鲜亮丽,却空洞无物。

我们通常把这种现象归咎于 AI 的出现。但如果我告诉你,在 ChatGPT 诞生之前,我们的世界其实就已经“AI 化”了呢?

今天,我想带大家透过诺贝尔奖得主赫伯特·西蒙(Herbert Simon)的视角,去拆解这个现象。我们会发现,所谓的“人工智障”,其实是我们人类社会为了应对复杂性,自己一手搭建的牢笼。

第一部分

你的手机输入法,就是最早的社会隐喻

输入法不懂“喜欢”,它只懂概率;就像现代系统不懂“你”,它只懂把你变成数据。

预测下一个词,还是预测下一段人生?

要理解为什么说“万物皆 AI”,我们得先从 AI 是怎么工作的说起。

别被那些科幻电影里的机器人吓到了。我们现在用的大语言模型(LLM),本质上就是一个高级版的“自动联想输入法”。当你输入“我喜欢吃”的时候,输入法会根据概率推荐“苹果”或“火锅”,而不是“水泥”。

这并不是因为它理解什么是“吃”,而是因为在它的数据库里,“吃”和“火锅”出现的概率关联性更高。

现在的 ChatGPT 也是同样的道理。它阅读了人类历史上几乎所有的文本,算出了一句话后面接什么词最“合理”。它不理解真理,它只在乎概率。它是一个极致的“概率缝合怪”,在无数种可能性中,给你一个看起来最顺眼、最平庸的答案。

人类社会也是一个巨大的 LLM

这听起来是不是有点耳熟?让我们把目光转向人类社会。

社会学家和政治学家早就指出,人类的制度、市场、官僚体系,其实就是早期的“文化技术”(Cultural Technologies),它们的功能和 AI 一模一样:压缩信息,输出决策。

想一想,一个大公司的 CEO 能知道每个员工每天上了几次厕所、Excel 崩了几次吗?不可能。为了管理庞大的公司,信息必须被层层压缩。

  • 员工的工作被简化成 KPI。
  • 复杂的市场需求被简化成销售额。
  • 选民五花八门的诉求被简化成选票上的“是”或“否”。

在这个过程中,细节丢失了,人性被磨平了,剩下的只有冷冰冰的、便于处理的“信号”。就像 AI 丢弃了文本的灵魂只保留概率一样,我们的社会机器也丢弃了生活的质感,只保留了数据。

第二部分

“满意化”:为什么世界变得越来越平庸

我们就像迷雾中的登山者,只要找到一个小山头就心满意足,却看不见远处真正的高峰。

赫伯特·西蒙的登山者

赫伯特·西蒙曾提出过一个振聋发聩的概念:满意化(Satisficing)

他认为,人类根本不是理性的经济人,我们无法处理无限的信息。我们就像一个在浓雾中登山的人,根本看不见哪座山峰是世界最高峰(全局最优解)。我们能做的,只是摸索着往上爬,只要找到一个比周围高的小山头(局部最优解),我们就停下来了。

“差不多就行了”,这就是人类生存的底层逻辑。

  • 进化并不追求完美的生物,它只保留那些“能活下来”的变异。
  • 市场并不追求最好的产品,它往往奖励那些“卖得最好”的平庸之作。
  • 我们并不追求完美的解决方案,我们只想要一个能交差的方案。

文化的“多力多滋效应”

当“满意化”逻辑统治文化产业时,灾难就发生了。

以流行音乐为例。有研究统计了过去几十年的流行歌曲,发现一个惊人的趋势:销量越高,乐器的丰富度和编曲的复杂度就越低。 这就是市场的自然选择——大众喜欢熟悉的、简单的、朗朗上口的旋律。

这就像“多力多滋”(Doritos)薯片。它营养价值极低,但它的调味经过精心设计,每一口都能精准刺激你的味蕾,让你停不下来,却又在吃完后感到一阵空虚。

现在的文化产品就是“精神多力多滋”。

  • 漫威电影:标准化的笑点、标准化的特效、标准化的剧情走向。
  • 短视频:3秒一个钩子,15秒一个反转。
  • 辛普森一家:曾经的它是反叛和讽刺的先锋,现在的它只是一个靠贩卖情怀和重复老梗来续命的僵尸IP。

当所有的创作都开始为了迎合大数据的“最大公约数”时,我们得到的必然是一堆同质化的“垃圾”(Slop)。这不是 AI 的错,在 AI 出现之前,唯利是图的资本和懒惰的创作机制,就已经把我们喂饱了。

第三部分

责任黑洞:当系统成为最好的挡箭牌

客服推给经理,经理推给系统,系统是个黑盒子。在这场推诿的游戏里,责任被丢进了垃圾桶。

“这不归我管,系统就是这样设定的”

如果说平庸只是让人乏味,那么现代社会的另一个特征则让人绝望:问责制的消失

经济学家丹·戴维斯(Dan Davies)提出了一个概念:责任黑洞(Accountability Sinks)

如果你试过打大公司的客服电话,你一定深有体会。你在语音菜单里转了半个小时,好不容易接通了一个真人,他听完你的愤怒,只能无奈地说:“先生,我很抱歉,但系统里就是这么显示的,我也没有权限更改。”

在这里,没有人是坏人。客服是打工的,经理是看报表的,CEO 是对股东负责的,股东是分散的。每个人都只是系统里的一个齿轮,没有人能对最终的那个“烂结果”负责。

金融化的魔咒

这种“无人负责”的极致,就是金融化。

现在的公司,与其说是为了提供产品和服务,不如说是为了最大化股东价值。这是一个极其单一、极其粗暴的算法目标。

为了这个目标,波音可以为了省钱忽视安全隐患;迪士尼可以为了财报好看而无限透支经典 IP 的寿命;私募股权公司可以买下一个原本健康的 YouTube 频道,然后疯狂接广告、发垃圾内容,榨干最后一滴流量后将其抛弃。

这和 AI 有什么关系?AI 是完美的“责任黑洞”。

  • 如果警察用算法预测犯罪,导致无辜的黑人被过度盘查,警察可以说:“是算法提示风险高。”
  • 如果 YouTube 给你推荐了极端激进的视频,公司可以说:“我们也不知道黑盒算法是怎么运作的。”

AI 本身没有主体性,没有法律责任,它天生就是用来背锅的完美工具。 当我们将决策权交给 AI 时,我们实际上是在合法地逃避作为人的道德负担。

结语

赛博控制论:找回“人”的位置

一个健康的系统,不仅要有疯狂演奏的乐手,更需要那个仰望星空、定义“我们是谁”的灵魂。

我们需要第五层系统

面对这个被算法、概率和贪婪吞噬的世界,我们该怎么办?

或许我们可以重温一下控制论(Cybernetics)。一个健康的系统,不能只有执行层(System 1)和规则层(System 2),它还需要有监测与修正(System 3),有对未来的规划与情报(System 4),最重要的是,它必须有核心的身份与哲学(System 5)

现在的 AI 热潮,就像是一个只有乐手(执行力)和疯狂指挥家(资本),却弄丢了乐谱(规则)和灵魂(哲学)的交响乐团。

  • 科技巨头们在没有清晰盈利模式、没有社会伦理考量的情况下,盲目地投入数千亿美元训练更大的模型,这本身就是一场缺乏 System 4(情报与规划)的泡沫狂欢。
  • 我们被困在“效率”和“增长”的单一维度里,忘记了 System 5(我们到底想要什么样的生活?)。

要打破这个循环,我们不能指望 AI 突然生出良知。我们需要重新设计我们的社会系统——无论是公司、政府还是算法。

我们要拒绝那些为了短期利益而牺牲长期价值的“局部最优解”。我们要建立能够真正问责的机制,让每一个决策背后都有具体的“人”在承担责任,而不是推给虚无缥缈的“系统”或“市场”。

因为,在这个万物皆 AI 的时代,能够定义我们之所以为人的,恰恰是那些无法被计算、无法被预测、无法被“满意化”的坚持与责任。

[全文完]