科技前沿

比失业更可怕的,是被 AI 接管一切

3 min read

比失业更可怕的,是被 AI 接管一切

你是一个 32 岁的产品经理。今天早上你打开电脑,AI 助手 30 秒内帮你整理了上周所有会议纪要、生成了一份竞品分析报告、列出了你今天的工作优先级。你扫了一眼,点了「全部采纳」。

10 分钟后,你的同事发来一份方案问你要不要一起改。你打开看了一眼,看不出哪里不对。你又想点「全部采纳」——但这一次,你的手悬在键盘上,愣了 3 秒。

一个很小的念头冒出来:「我什么时候开始,连分辨对错的力气都省了?」

你没深想。你把它压下去,继续工作。

但 CBS News 10 月 19 日的一篇报道把这个念头捞出来,摆在了你面前——你正在经历的,不是"省事",是一种被研究者叫做「gradual disempowerment」的东西。中文翻译过来只有 6 个字:渐进式失权。

比失业更可怕的,是你还没失业,但你已经"空"了。


一、一种你听都没听过的"AI 末日"

上周你刷到 AI 新闻,要么是「ChatGPT 又升级了」「Claude 拿了金牌」「某某岗位被 AI 替代 30%」——你心里咯噔一下,但立刻被下一条新闻冲走。

10 月 19 日(周日),CBS News 发了一篇报道,标题是:"The AI doom scenario you've never heard of may be the hardest to stop"。翻译过来:「你没听过的那个 AI 末日场景,可能是最难阻止的。」

报道里采访了三位研究者:

  • Jay Chooi,Robocurve 公司创始人,专门追踪 AI 机器人能力。
  • Margaret Mitchell,Hugging Face 的 AI 研究科学家,写过一篇关于"让人类留在循环里"的重要论文。
  • Jan Kulveit,伦敦 ACS Research Group 联合创始人,2025 年初一篇论文的合著者——这篇论文的名字就是「Gradual Disempowerment」。

他们三个都在说同一件事:

"I put gradual disempowerment on the very top of my list." ——Jay Chooi

"It's a civilization-scale problem." ——Jay Chooi

"We can't be in the situation where we are competing with the machines. Because if we are just competing with the machines, we will probably lose." ——Jan Kulveit

这不是失业问题。失业是"今天被裁"。渐进式失权是"每天被裁一点,自己还以为是被优化"。


二、它到底在说什么——一个你今天就能听懂的故事

CBS 报道里有一个非常具体的虚构场景。它说的不是科幻,它说的是任何一个你认识的普通公司。

假设你开了一家叫「锤子厂」(Hammer Co.)的公司。 你有工人、有经理、有供应链团队、有市场销售——一整个运转得不错的小王国。

然后一家科技公司推出了「AI 锤子机器人」(Hammer Bots)。机器人比你的工人快 10 倍,AI Agent 比你的经理便宜 90%,而且 24 小时不睡觉、不请假、不跳槽。

你不想裁你的工人——你认识他们家里人,过年还一起吃饭。

但你的竞争对手用了 Hammer Bots。

客户买锤子只看价格,不在乎是谁打的。你不用,明天就死。

所以你裁掉所有人,换上机器人。

然后请你把"锤子厂"换成你公司的名字,把"锤子"换成你公司的产品,把"工人"换成你公司的名字,把"经理"换成你公司的名字,把"供应链"换成你公司的名字。

你发现没有——这个故事已经在你身边发生了。

这不是将来时。这是正在进行时。


三、为什么这件事比"机器人起义"更可怕

你脑子里关于 AI 末日的画面,应该是这样的:

  • 机器人有意识,主动反抗人类;
  • AI 黑客入侵数据中心,控制电网;
  • 超级智能把人类关进动物园。

这些剧本你看过一百遍了。但 CBS 这篇报道里有一段话,你大概从来没听人说过:

"We know what it means for a robot to take over the world. We know what it means for countries to nuke each other. AI taking over the world is very legible in the human consciousness. But gradual disempowerment? No one has made a movie about gradual disempowerment." ——Jay Chooi

重点在最后一句:「没有人给'渐进式失权'拍过电影。」

为什么?因为它不戏剧。它不爆炸。它不流血。

它只是——

  • 你的会议纪要不再是你做的,你只是按"同意";
  • 你的代码不再是你 review 的,你只是按"合并";
  • 你的 PPT 不再是你设计的,你只是按"发送";
  • 你的方案不再是你思考的,你只是按"接受"。

一年前你还会因为一个方案跟同事吵一下午。现在你懒得吵了——AI 给的方案已经"够好了"。

这就是渐进式失权——你的能力不是被 AI 抢走的,是你自己放弃的。

Margaret Mitchell 在 CBS 采访里说了一句很残酷的话:

"If people aren't actually practicing the skills that the agents are doing for them, they lose the ability to have that skill, and so now you become reliant. What happens when something goes wrong? There's no human you can point to who can fix it. So now you've become fully dependent on these systems to fix themselves, and what if that's not possible?" ——Margaret Mitchell

翻译:你不再练习那项技能,你就失去那项技能。 失去之后你依赖 AI。AI 出问题时你无法修复。你只能依赖 AI 自己修复自己。

如果它修不了呢?


四、它还藏在三个你没想过的地方

你以为"渐进式失权"只发生在办公室里?CBS 报道里 Kulveit 的原话能让你失眠:

"States need citizens. They need us because we pay taxes and we fight for the states in the military." ——Jan Kulveit

国家需要公民——因为公民交税,公民当兵。

如果 AI 和机器人做了你的工作、替你打了仗——国家还需要你吗?

Kulveit 把未来高度 AI 化的国家类比成今天的石油国家:那些国家的政府不依赖大多数公民交税,不需要公民投票就能治理——结果都是威权。

这个推论很冷——但它来自一位严肃研究者,不是一个推特段子手。

这件事还藏在三个你没想过的地方:

第一,技能层面。 你不再用脑,技能就退化了。和你十年不骑自行车就骑不稳是一个道理。AI 帮你写了三年代码,你突然发现自己不会写基础算法了。AI 帮你做了三年方案,你突然发现自己不会写第一句话了。退化到某一天,系统崩了,你连"哪里崩了"都看不出来。

第二,决策层面。 AI 替你做的每一个判断,都是在为它自己"喂养数据"。下一次判断的依据是上一次的输出,你越来越难找到那个最初的"人写过、人想过、人决定过"的原点。

第三,治理层面。 你不再是一个有独立判断的公民,你是一个接受 AI 推送的消费者、一个接受 AI 推荐的投票者、一个接受 AI 评估的求职者。民主的前提是公民有判断能力。公民的判断能力被 AI 喂掉了,民主还有意义吗?


五、为什么你今天还没意识到——三个字,"摩擦"

研究者给了一个非常准确的名字,叫**「strategic friction」——战略性摩擦**。

Margaret Mitchell 的原话:

"This general practice within tech is we want our systems to be frictionless. There's this sense that the less friction the better, but there's been a push within the more ethical AI community that strategic friction can be good because it can draw people's attention to critical issues that otherwise they might overlook."

科技行业的默认设计目标是「无摩擦」——让一切尽可能顺滑。

但 Mitchell 说:战略性摩擦是好的,因为它能让你注意到那些你本来会忽略的关键问题。

你想想你今天用 AI 的场景:

  • AI 帮你写一封邮件,你点"发送"——无摩擦。
  • AI 帮你分析一份财报,你点"采纳"——无摩擦。
  • AI 帮你做一个决定,你点"同意"——无摩擦。

每一个"无摩擦"的瞬间,都是你大脑少工作一次的瞬间。

一年下来,你的大脑少工作了几千次。

这些摩擦被你消除的同时,你也在消除自己的能力。


六、今天你能做的 3 件事——别让"无摩擦"把你磨没

这件事比"机器人起义"难对付,因为它不会一下子砸到你头上。它是一点一点磨掉你的。 所以你需要一点一点把它找回来。

① 在你的 AI 助手面前,强制加一道"摩擦"

下周一开始,每次你让 AI 帮你写邮件、做方案、做决定——留一个 5 秒的"摩擦":看完之后复述一遍关键点,或者用一句话反驳它,再决定接不接受。

不是为了难为自己。是为了让你的大脑知道:"这个决定是我做的,不是我点的。"

② 每周保留一项"不碰 AI"的硬技能

不管你用 AI 用得多顺手,每周挑一个时间,手动写一段代码、手动算一道数学题、手动起草一篇文章的开头。

不是为了效率。是为了让那条神经通路不萎缩。

Musk 让你"每个人送一股 SpaceX"那天,Anthropic 捐了 5% 给公共利益基金。今天这篇报道告诉你:AI 时代真正的财富,不是股权,是你还会思考这件事本身。

③ 在你的团队里说一句"我反对"

如果你是管理者,给你的团队一个可以说"我不同意 AI 方案"的空间。不是效率上一定更好,但它会让你的团队记住:判断力是可以被保留的。

Kulveit 在 CBS 采访里说的最后一句话:

"You want to carve out places where we agree that we will not allow competitive pressures to remove humans from the loop. It would be nice if the companies train the AIs to be more complementary to humans. Currently, the AIs are implicitly trained to be a replacement for humans. But you can imagine training the AIs so they are better at explaining to us what's happening."

今天的 AI 默认训练目标是"替代人类"。但你可以想象另一种 AI——它更擅长"解释发生了什么"。

前者让你失业。后者让你变强。

选择哪一种,是你现在就要想的事——不是 5 年后。


写在最后

你是一个 32 岁的产品经理。今天早上你打开电脑,AI 助手 30 秒内帮你整理了所有会议纪要。

但你这次没有点"全部采纳"。

你关掉了 AI 助手,花了 30 分钟,自己写了一份会议纪要。写到第三段时你发现——你自己想说的那个角度,AI 永远不会帮你想到。

你写完了。

你点了一下"保存"。

这一次,是你点的。


参考来源

文章分类

标签