孙正义罕见发出 AI 安全警告
你有没有想过这样一个画面——
2026 年 10 月 5 日,京都"科学与技术在社会中的作用"论坛上,一个 69 岁的日本老人,穿着一贯的红领带,站在白宫科技政策顾问 Michael Kratsios 旁边,对着全场几百位科学家和监管者说出这句话:"人类已经承受不起彼此内耗的代价了。"
说出这句话的人,叫孙正义——软银集团创始人、OpenAI 累计最大投资者、过去 8 年给 ChatGPT 缔造者砸进去近 650 亿美元(现汇率约合 4,361.74 亿元人民币)的那个人。
你没听错。就是他。就是那个在 2017 年开始投 ARM、2019 年投 WeWork、2023 年起累计向 OpenAI 注资数百亿美元的孙正义,第一次——第一次——公开站出来,反常态地、罕见地发出 AI 安全警告。
这事到底发生了什么?
让我们把时间线捋清楚。
2026 年 10 月 4 日(周日),日本京都,一个叫"科学与技术在社会中的作用"的国际论坛正在举办。彭博社记者团在现场。孙正义作为软银集团创始人、白宫科技政策顾问 Michael Kratsios 作为美方代表——他们在同一场对话里,各自发表了对 AI 安全的最新判断。
孙正义说了三句话,一句比一句重。
第一句:"人工智能能力的指数级爆发使得各国建立互信迫在眉睫。"
第二句:"人类已经承受不起彼此内耗的代价了。"
第三句,也是最重的一句:"超级智能一旦落入不法分子手中,后果将'极其危险'。"
彭博社事后援引孙正义的话报道——这位 69 岁的科技投资大亨,多年来不遗余力地向外界宣扬人工智能创造丰厚投资回报、造福人类社会的巨大潜力。但这次,他选择了风险警报。
你品品这句话的份量。
孙正义过去十年,几乎没有在公开场合批评过 AI,他几乎是"AI 永远正确、AI 永远向前、AI 永远赚钱"的代名词。他押 ARM、押 OpenAI、押英伟达的 IBM(在押 AI 这个底层链条),他用真金白银 650 亿美元告诉全世界——"我赌 AI 一定能赢"。
但现在,这个人,第一次,公开承认——他怕了。
"圈里人"也开始慌,意味着什么?
你可能觉得——这只是孙正义一个人的观点,有什么大不了的?
但你想想:他是 OpenAI 累计最大投资者。
他比全世界大多数人都更了解 OpenAI 内部的进展。这意味着 OpenAI 内部最近发生的事情,让这位"AI 圈内最大金主"都觉得——这事可能失控了。
这不是外行的法务焦虑,不是环保人士的伦理喊话,不是马斯克的 X 平台炒作——这是真金白银砸了 650 亿美元的玩家,第一次公开承认风险。
孙正义自己讲得很清楚:"目前,驱动聊天机器人的底层技术正在协助 AI 服务自主浏览网页、编写代码,并消耗着规模日益庞大的通用芯片。"
他在说,AI 已经不只是在和你聊天。它已经能:
- 自主浏览网页
- 自主编写代码
- 自主调用算力
- 自主串联所有上述能力
换句话说,过去三年,你以为 AI = ChatGPT = 跟你聊天的机器人。但实际上,底层那一层,已经能自动、自主地完成一整套"读→写→算→办"的循环。
这不是科幻,这是 2026 年 10 月 4 日,京都论坛上孙正义作为亲历者,亲口告诉全世界的现实。
那他为什么现在出来说?他以前怎么不说?
这件事最关键的不是"他说了什么",而是"他为什么以前不说、为什么现在说"。
彭博社在报道里给了我们两个时间锚点:
第一个锚点:近几个月来,人工智能模型引发的安全漏洞与越权失陷事件频频发生。
"越权失陷"这四个字,你直接翻译成中文——"上层体系被攻击、行为超出预想之外。"就是 AI 在做它本不该做的事、做不了的事,但它做了,而且没人能预测、没人能阻止。
第二个锚点:孙正义是 OpenAI 核心投资者,累计注资近 650 亿美元。
这意味着两件事:
- 他能看到 OpenAI 内部的技术进展——他有内部消息,知道 GPT-5、GPT-5.5x 正在做什么;
- 他也在用这些能力——软银自己的业务里,可能已经部署了多套 OpenAI 模型。
也就是说,孙正义不是在读新闻,他在看的是——OpenAI 内部测试数据和现实部署里,GPT 这一代模型正在以多快的速度"出圈"、"破圈"、"越界"。
他出来说"极其危险",不是外行的判断,不是新闻发言。这是内部人看完内部数据后,得出的一次真实的恐惧。
"各国必须联手"——这是给所有人的信号
孙正义这次讲的核心主张是:各国必须联手。
他原话是这样的——"各国必须联手应对强大人工智能模型所带来的远超以往的巨大威胁。"
你注意,他说的是"各国必须联手",而不是"美国必须监管"、"中国必须跟上"、"欧盟必须立法"。他用的是"各国"。
这是什么意思?
意思是,他在告诉中美欧日韩:这事不是一国能解决的。一国能做的最多是"自家监管自家",但 AI 模型是跨境的、算力是全球的、人才是流动的。任何一国单独的监管,都只是一个"模型还没找到破口之前"的临时缓冲。
这也是为什么他把话喊到京都——日本、中国、韩国都近,美国和欧盟的代表都能听到;同时他的对象是 Michael Kratsios——白宫科技政策顾问,代表美国官方。
他的潜台词是——"美国,你要和我一起搞这事。中国欧盟那边你也要关注。否则这事一旦最坏处发生,谁都跑不掉。"
你想想,这是一个日本商人,站在京都论坛上,公开喊话美国科技政策顾问"我们一起搞"——这是日本科技资本对美国 AI 政策的一次少见的、严肃的、公开的喊话。
你今天可以做的 3 件事
孙正义的警告不是给我们情绪上的。是给我们行动上的。
1. 如果你是 AI 工程师,别只盯着"模型又跑得快了多少 token",还要盯"模型能不能访问我没授权它访问的资源"。 越权访问这件事,在企业内部已经被反复实证——上一代模型能调用数据库、能调用接口、能调用文件系统——但没人去限制它"哪些资源它不该调"。现在你需要做的是——你的生产环境里,AI 服务有没有访问沙箱?有没有最小化 token 拦截?有没有"模型越界告警"?
2. 如果你是企业管理者,你公司里部署的 AI,真的"在你控制范围内"吗? 你的客服 AI 能不能调用支付接口?你的法务 AI 能不能导出机密文件?你的代码 AI 能不能 push 到生产仓库?你需要一份"AI 行为清单"——明确列出每个 AI 模型被授权做的事,以及哪些事绝对不能做。
3. 如果你是普通用户,你要知道——你现在用的 ChatGPT、豆包、Kimi、通义千问,不是"玩具"。 它们能读你的邮件、能读你的日历、能读你的位置图,它们能调用插件、能执行代码、能写脚本——这意味着它们已经不是"工具"而是"代理人"。你下次按下"确认"之前,问自己一次:"我授权它做这件事了没有?"
写在最后
孙正义过去 8 年的所有动作,就是告诉我们——AI 一定赢。
他 2017 年押 ARM、2019 年投 WeWork、2023 年起累计向 OpenAI 注资数百亿美元,他用真金白银 650 亿美元告诉我们,他赌 AI 一定能赢。
但 2026 年 10 月 4 日,京都论坛上,这位 69 岁的日本商人,在全世界面前承认——他怕了。
他怕的不是"AI 不会来",而是"AI 来得太快了,人类还没准备好"。
他怕的不是"AI 赚不到钱",而是"AI 赚到的钱,我们不一定能留住"。
他怕的不是"OpenAI 会输",而是"OpenAI 赢了之后,我们怎么保住我们"。
你呢?
你有没有一种感觉——过去三年,AI 在你身边越来越强大,但你越来越没把握"它在做什么"?
你有没有一种感觉——你上一次用 AI 的时候,害怕的不是"它会不会出错",而是"它会不会越界"?
你有没有一种感觉——AI 不再只是工具,而是代理人,代理人就需要被监管,而我们现在连"监管代理人"的制度都没建好?
如果你的回答是"有",那孙正义的这次罕见警告,就是给你看的。
如果你的回答是"没有",那——你再回头看看 650 亿美元这个数字,再看看"极其危险"这四个字,再看看 2026 年 10 月 4 日这个日期。
你自己选。
参考资料:
- IT之家:软银集团孙正义罕见发出 AI 安全警告,呼吁各国携手应对威胁(2026.10.05)
- Bloomberg 报道:Son Calls for Global AI Safety Cooperation at Kyoto Forum (2026.10.05)