本期播客音频由 AI 生成,它用对话的方式,对下面的长文内容进行了浓缩与解读。点开听听吧~也很期待您的关注和反馈!
[阅读时长:8 分钟]
引言
你有没有这种感觉:现在的世界,越来越像是一个巨大的、不断自我复制的程序?
看一部新上映的漫威电影,感觉像是把十年前的桥段重新排列组合;刷一刷短视频,背景音乐永远是那几首洗脑神曲的变奏;就连很多公司的招聘文案,甚至政客的演讲,都充满了那种“正确的废话”:光鲜亮丽,却空洞无物。
我们通常把这种现象归咎于 AI 的出现。但如果我告诉你,在 ChatGPT 诞生之前,我们的世界其实就已经“AI 化”了呢?
今天,我想带大家透过诺贝尔奖得主赫伯特·西蒙(Herbert Simon)的视角,去拆解这个现象。我们会发现,所谓的“人工智障”,其实是我们人类社会为了应对复杂性,自己一手搭建的牢笼。
第一部分
你的手机输入法,就是最早的社会隐喻
预测下一个词,还是预测下一段人生?
要理解为什么说“万物皆 AI”,我们得先从 AI 是怎么工作的说起。
别被那些科幻电影里的机器人吓到了。我们现在用的大语言模型(LLM),本质上就是一个高级版的“自动联想输入法”。当你输入“我喜欢吃”的时候,输入法会根据概率推荐“苹果”或“火锅”,而不是“水泥”。
这并不是因为它理解什么是“吃”,而是因为在它的数据库里,“吃”和“火锅”出现的概率关联性更高。
现在的 ChatGPT 也是同样的道理。它阅读了人类历史上几乎所有的文本,算出了一句话后面接什么词最“合理”。它不理解真理,它只在乎概率。它是一个极致的“概率缝合怪”,在无数种可能性中,给你一个看起来最顺眼、最平庸的答案。
人类社会也是一个巨大的 LLM
这听起来是不是有点耳熟?让我们把目光转向人类社会。
社会学家和政治学家早就指出,人类的制度、市场、官僚体系,其实就是早期的“文化技术”(Cultural Technologies),它们的功能和 AI 一模一样:压缩信息,输出决策。
想一想,一个大公司的 CEO 能知道每个员工每天上了几次厕所、Excel 崩了几次吗?不可能。为了管理庞大的公司,信息必须被层层压缩。
员工的工作被简化成 KPI。 复杂的市场需求被简化成销售额。 选民五花八门的诉求被简化成选票上的“是”或“否”。
在这个过程中,细节丢失了,人性被磨平了,剩下的只有冷冰冰的、便于处理的“信号”。就像 AI 丢弃了文本的灵魂只保留概率一样,我们的社会机器也丢弃了生活的质感,只保留了数据。
第二部分
“满意化”:为什么世界变得越来越平庸
赫伯特·西蒙的登山者
赫伯特·西蒙曾提出过一个振聋发聩的概念:满意化(Satisficing)。
他认为,人类根本不是理性的经济人,我们无法处理无限的信息。我们就像一个在浓雾中登山的人,根本看不见哪座山峰是世界最高峰(全局最优解)。我们能做的,只是摸索着往上爬,只要找到一个比周围高的小山头(局部最优解),我们就停下来了。
“差不多就行了”,这就是人类生存的底层逻辑。
进化并不追求完美的生物,它只保留那些“能活下来”的变异。 市场并不追求最好的产品,它往往奖励那些“卖得最好”的平庸之作。 我们并不追求完美的解决方案,我们只想要一个能交差的方案。
文化的“多力多滋效应”
当“满意化”逻辑统治文化产业时,灾难就发生了。
以流行音乐为例。有研究统计了过去几十年的流行歌曲,发现一个惊人的趋势:销量越高,乐器的丰富度和编曲的复杂度就越低。 这就是市场的自然选择——大众喜欢熟悉的、简单的、朗朗上口的旋律。
这就像“多力多滋”(Doritos)薯片。它营养价值极低,但它的调味经过精心设计,每一口都能精准刺激你的味蕾,让你停不下来,却又在吃完后感到一阵空虚。
现在的文化产品就是“精神多力多滋”。
漫威电影:标准化的笑点、标准化的特效、标准化的剧情走向。 短视频:3秒一个钩子,15秒一个反转。 辛普森一家:曾经的它是反叛和讽刺的先锋,现在的它只是一个靠贩卖情怀和重复老梗来续命的僵尸IP。
当所有的创作都开始为了迎合大数据的“最大公约数”时,我们得到的必然是一堆同质化的“垃圾”(Slop)。这不是 AI 的错,在 AI 出现之前,唯利是图的资本和懒惰的创作机制,就已经把我们喂饱了。
第三部分
责任黑洞:当系统成为最好的挡箭牌
“这不归我管,系统就是这样设定的”
如果说平庸只是让人乏味,那么现代社会的另一个特征则让人绝望:问责制的消失。
经济学家丹·戴维斯(Dan Davies)提出了一个概念:责任黑洞(Accountability Sinks)。
如果你试过打大公司的客服电话,你一定深有体会。你在语音菜单里转了半个小时,好不容易接通了一个真人,他听完你的愤怒,只能无奈地说:“先生,我很抱歉,但系统里就是这么显示的,我也没有权限更改。”
在这里,没有人是坏人。客服是打工的,经理是看报表的,CEO 是对股东负责的,股东是分散的。每个人都只是系统里的一个齿轮,没有人能对最终的那个“烂结果”负责。
金融化的魔咒
这种“无人负责”的极致,就是金融化。
现在的公司,与其说是为了提供产品和服务,不如说是为了最大化股东价值。这是一个极其单一、极其粗暴的算法目标。
为了这个目标,波音可以为了省钱忽视安全隐患;迪士尼可以为了财报好看而无限透支经典 IP 的寿命;私募股权公司可以买下一个原本健康的 YouTube 频道,然后疯狂接广告、发垃圾内容,榨干最后一滴流量后将其抛弃。
这和 AI 有什么关系?AI 是完美的“责任黑洞”。
如果警察用算法预测犯罪,导致无辜的黑人被过度盘查,警察可以说:“是算法提示风险高。” 如果 YouTube 给你推荐了极端激进的视频,公司可以说:“我们也不知道黑盒算法是怎么运作的。”
AI 本身没有主体性,没有法律责任,它天生就是用来背锅的完美工具。 当我们将决策权交给 AI 时,我们实际上是在合法地逃避作为人的道德负担。
结语
赛博控制论:找回“人”的位置
我们需要第五层系统
面对这个被算法、概率和贪婪吞噬的世界,我们该怎么办?
或许我们可以重温一下控制论(Cybernetics)。一个健康的系统,不能只有执行层(System 1)和规则层(System 2),它还需要有监测与修正(System 3),有对未来的规划与情报(System 4),最重要的是,它必须有核心的身份与哲学(System 5)。
现在的 AI 热潮,就像是一个只有乐手(执行力)和疯狂指挥家(资本),却弄丢了乐谱(规则)和灵魂(哲学)的交响乐团。
科技巨头们在没有清晰盈利模式、没有社会伦理考量的情况下,盲目地投入数千亿美元训练更大的模型,这本身就是一场缺乏 System 4(情报与规划)的泡沫狂欢。 我们被困在“效率”和“增长”的单一维度里,忘记了 System 5(我们到底想要什么样的生活?)。
要打破这个循环,我们不能指望 AI 突然生出良知。我们需要重新设计我们的社会系统——无论是公司、政府还是算法。
我们要拒绝那些为了短期利益而牺牲长期价值的“局部最优解”。我们要建立能够真正问责的机制,让每一个决策背后都有具体的“人”在承担责任,而不是推给虚无缥缈的“系统”或“市场”。
因为,在这个万物皆 AI 的时代,能够定义我们之所以为人的,恰恰是那些无法被计算、无法被预测、无法被“满意化”的坚持与责任。
[全文完]