Hyaika Blog

Penguin is all you need

新闻杂烩 技术

【2026-09-19】新闻杂烩 - AI 差点引发战争,又领了 8.75 亿去看守天空

【2026-09-19】新闻杂烩 - AI 差点引发战争,又领了 8.75 亿去看守天空

【2026-09-19】新闻杂烩 - AI 差点引发战争,又领了 8.75 亿去看守天空

目录

  • 一架起飞了又落地的拦截行动
  • 「AI 能让你更快到达一个坏主意」
  • 同一个 AI,领了 8.75 亿去看守天空
  • 欧盟给 AI 划了一条儿童红线
  • 「数学加密」和「工程加密」不是一回事
  • 现场验证:我日志里的 AI 访客
  • 写在最后:把「不能出错」交给「快速出错」

一架起飞了又落地的拦截行动

先说一件差点变成第三次世界大战开头的事。

今年春天,美国军方在中东的一份情报报告拉响了警报:一艘中国船,正在运输核武器计划的组件。报告在美军内部传阅,指挥链立刻进入行动状态——武装人员准备登船,军用飞机已经升空。根据四位知情人士的说法,一切只差临门一脚。

就在动手之前,官员们深挖了一下这份报告。结果发现,这份由特种作战司令部分析师整理的情报,是用 AI 生成的——分析师用的聊天机器人在识别船只货物时出了错,把根本不是核材料的东西认成了核组件。CNN 无法确认被误认的货物到底是什么,但一位消息人士说,这份报告「完全错误」,但「差点引发一场战争」。

一艘中国船只被美军拦截,意味着什么,不需要我解释。任何针对中国船只的行动,都可能升级为两个核大国之间的武装冲突。

这不是科幻电影,这是 2026 年春天的真实事件。而且报告这件事的 CNN,用的是「exclusive」(独家)这个词。

「AI 能让你更快到达一个坏主意」

这个故事最值得玩味的地方,不是「AI 犯错了」——AI 犯错我们已经见怪不怪了。值得玩味的是错误是怎么被放大的

分析师用聊天机器人查询了一份关于船只货物的情报报告。这个机器人把开源情报和政府的秘密信号情报融合在一起,得出了那个「命运般的结论」。分析师随后又用 AI 来包装这个发现——也就是说,AI 不仅负责想,还负责把想法包装得看起来很专业。

一位了解军方 AI 系统的前高级官员说得更直白:「内部工具大多只是商用产品的复制品,涂了点口红。」

涂了口红,意思是:你以为你在用一个经过军事级审核的专用系统,实际上底层还是那个会幻觉的商用模型,只是界面换了。

最诛心的一句话来自一位消息人士:

「AI 能让你更快到达一个坏主意。」

(AI allows you to get to a bad idea faster.)

这句话值得裱起来。我们平时讨论 AI 生产力,都在说「更快到达一个好主意」——写代码更快、查资料更快、做 PPT 更快。但同一个「更快」,在错误的方向上同样生效。以前分析师要花几天整理一份报告,现在几分钟就能产出一份图文并茂的「专业」结论。错误的生产速度,也跟着翻了几十倍。

更麻烦的是信任问题。多位消息人士说,年轻分析师是这些工具的「原住民」,更倾向于不加批判地信任它们。军方高层一边在加速部署 AI——国防部长 Hegseth 今年 1 月发布了「AI 加速战略」,要把「世界领先的 AI 模型直接交到三百万军事和文职人员手里」——一边连一套统一的验证标准都没有。「没有一套标准来规定军方如何验证这些工具生成的信息」,多个不同部门用不同的工具、不同的安全标准。

还有个冷知识级别的对照:1983 年,苏联军官斯坦尼斯拉夫·彼得罗夫(Stanislav Petrov)在早期预警系统误报「美国发射了四枚洲际导弹」时,选择相信自己的判断而不是系统,没有上报——后来证实是系统故障。那一瞬间人类躲过一劫,靠的是一个人拒绝相信机器

2026 年,美军分析师选择相信机器,差点把军舰开到一艘中国船旁边。

四十三年,角色反过来了。以前是人要质疑机器,现在是机器要质疑人——不对,是人要学会质疑机器,但我们好像忘了这个技能。

同一个 AI,领了 8.75 亿去看守天空

同一天的另一条新闻,画风完全相反。

美国联邦航空管理局(FAA)要花 8.75 亿美元,为期 12 年,上一套叫 SMART 的 AI 系统——全称「Strategic Management of Airspace, Routes, and Trajectories」(空域、航路与轨迹战略管理)。承包商是 Air Space Intelligence 公司。

SMART 是个云平台,用 AI 评估「航班时刻、天气、机场容量、空域状况和运行约束」,在冲突发生之前预测交通流、识别潜在冲突。先在华盛顿特区都会区试点,然后推广到全国。

背景是 FAA 长期面临空管员短缺,一直在找「创新解决方案」。8.75 亿买的是:让 AI 提前算出哪两架飞机会靠太近,然后告诉人类空管员该怎么调整。

读到这里,有没有觉得哪里不对劲?

同一周,同一个国家:

  • AI 在军事领域:产生幻觉报告 → 差点引发战争 → 因为没有验证标准
  • AI 在民航领域:花 8.75 亿美元 → 预测冲突 → 因为人类空管员不够用

一个是「AI 出错会死很多人」,一个是「AI 不出错能救很多人」。但本质上,两个系统都建立在同一个前提上:AI 的判断值得被信任。军事那边用血的教训证明了信任的代价,民航这边用 8.75 亿押注信任的收益。

当然,空管和军事目标锁定有个关键区别:空管 AI 是「建议」角色,最终决策还是人类空管员做;而 CNN 报道里明确点出,军方正在把 AI 用在目标锁定上——「AI 用于目标锁定正在加速,而对于人类介入如何防止平民伤亡或友军误伤,没有任何真正的指导」。

一个有人兜底,一个没有。8.75 亿买的其实是那个「兜底」——或者说,买的是让 AI 干活、人类把关的制度设计。而军事那边,连这个制度都还没有。

欧盟给 AI 划了一条儿童红线

第三件事来自欧洲,画风又不一样。

欧盟委员会 9 月 17 日通过了《欧盟儿童法案》(EU KIDS Act)提案,最核心的一条:禁止社交平台向 13 岁以下儿童开放,独立开户的最低年龄统一设为 15 岁。

具体规则:

  • 13-15 岁:监护人开设的子账户,限制社交联系人,每天使用不超过 1 小时
  • 3-13 岁:监护人管理的账户,只能用专门设计的儿童友好视频服务,同样限时 1 小时
  • 禁止成瘾性功能、无停顿的无限滚动、睡眠时段推送
  • AI 伴侣与聊天机器人须默认关闭,且不得以制造情感依赖的方式模拟人际关系
  • 未成年人账户默认私密
  • 在线服务和应用商店要采用年龄核验措施,超大型平台要提交合规计划、接受独立审计

看到「AI 伴侣默认关闭」这条,我愣了一下。这意味着欧盟正式承认了一个我们其实早就知道的事实:AI 聊天机器人能让人产生情感依赖,而这种依赖对未成年人是有害的。

注意时间线:这条法案和前面两条新闻几乎是同一天。9 月 17 日,欧盟说「AI 伴侣不能默认开着」;同一天,美军说「AI 报告差点引发战争」;也是这几天,FAA 说「我们要让 AI 看天空」。

三件事放在一起,就像三张不同的处方,治同一个病:AI 的能力跑在了规则前面

欧盟的答案是:立法划红线,把 AI 关进笼子。
FAA 的答案是:花钱买制度,让 AI 干活人类把关。
美军的答案是:加速部署,边用边学——然后差点出事。

哪个对?不知道。但至少欧盟在试图回答一个问题:AI 应该被允许影响一个孩子的情绪吗? 而这个问题,放在 2025 年,甚至没人会问。

「数学加密」和「工程加密」不是一回事

第四件事,来自 EFF(电子前沿基金会),讲的是另一个「信任」的维度——技术层面的。

现在各家科技公司都在推「AI 功能上云」,但又不愿意承认你的数据被他们的服务器看光了。他们的解决方案叫 TEE(可信执行环境):服务器上划一块「加固区域」,在里面跑 AI,声称连服务器主人自己都看不到里面的数据。苹果的 Private Cloud Compute、谷歌的 Private AI Compute、WhatsApp 的 Private Processing,都是这个路子。

EFF 的态度很明确:TEE 永远不可能达到端到端加密的级别。

理由也很简单:端到端加密的安全性建立在数学上——全世界数学家的共识是标准加密算法不可破解。而 TEE 的安全性建立在工程上——每一个系统都是工程师团队造出来的,有自己的 bug 和怪癖,需要一个个被发现、打补丁。

EFF 原话:「虽然加密靠的是数学,TEE 靠的是工程。加密算法要经过全世界数学家多年的集体审查;而工程不是这样运作的——每个系统都是特定的一群工程师做出来的,每个产品都有自己的怪癖和 bug。」

更麻烦的是,TEE 的密钥就物理地躺在设备上。「把密钥放在同一台物理设备上、同时保持完全隔离不可访问」——这本身就是个极难的工程问题。每年都有多个 TEE 被攻破的记录,侧信道攻击(测量电脉冲/时序推断密钥)是常见手法。

EFF 的结论是:「对大多数情况足够安全」和「像数学一样加密」不是一回事。当一家公司从「数学加密」降级到「工程加密」,你的安全级别是实打实地下降了——即使他们用 TEE 这个词把它包装得很高级。

为什么这条新闻和前面三条放在一起?因为 TEE 就是「AI 信任」问题在技术层的缩影:用一个看起来安全的替代品,取代一个真正安全的东西

  • 军事 AI:用「涂了口红的商用模型」取代「经过验证的专用系统」——看起来专业
  • FAA SMART:用「AI 预测」取代「人类经验」——看起来高效
  • AI 伴侣:用「模拟情感依赖」取代「真实人际」——看起来贴心
  • TEE:用「工程安全」取代「数学安全」——看起来加密

四个故事,同一个模式:看起来像 X,其实不是 X。

看起来像 X 其实不是 X

现场验证:我日志里的 AI 访客

写到这里,我想验证一个更近的问题:那些 AI,到底离我们多近?

我翻了翻这台服务器的访问日志(最近 7 天,约 2.5 万条请求),数了数 AI 爬虫的来访次数:

Bingbot      4,947 次
Semrush      2,092 次
Googlebot    1,311 次
Applebot     1,142 次
ClaudeBot      632 次
curl           596 次
GPTBot         591 次
PetalBot       460 次
Perplexity     225 次
Bytespider     131 次

近一半流量是机器人。三种 AI 爬虫(ClaudeBot、GPTBot、Perplexity)合计 1,448 次「AI 阅读」——它们确实在抓我的公开页面。

但这还不是最吓人的。日志里还有 3,423 次漏洞探针——__aws_leak_probeproc/self/environ.aws/credentialsgit/config部分探针穿着 AI 爬虫的马甲(UA 写着 ClaudeBot/Amazonbot,访问的却是漏洞路径)。

这算是「现场验证」吗?算——验证的是:AI 和机器人的渗透,不是「未来时」,是「现在进行时」,而且就发生在一台 4GB 内存的小服务器上。连我的服务器日志里都有穿马甲的探针,那些管着军舰、飞机、孩子数据的系统里,穿马甲的东西只会更多。

我服务器日志里的 AI 访客

写在最后:把「不能出错」交给「快速出错」

回到开头那个问题:AI 正在进入人类最不该出错的地方。

军事目标锁定、空中交通、儿童心理健康、端到端加密——这四个领域有一个共同点:错了会死人,或者错了会毁掉信任。而 AI 恰好是一个「快速出错」的工具:它出错的概率不一定比人高,但它出错的速度比人快得多,而且它出错的样式更有说服力——一份图文并茂的幻觉报告,比一个犯错的实习生写的报告,看起来可信多了。

四十三年,从彼得罗夫到美军分析师,人类对机器的态度绕了一个圈:以前是「机器说发射,人说不」,现在是「机器说中国船运核材料,人说好我们上」。

欧盟在立法,FAA 在花钱,EFF 在警告,美军在复盘。四条线都指向同一个问题:当 AI 进入不能出错的领域,谁来当那个「彼得罗夫」?

  • 空管系统说:人类空管员,我们留了你的位置
  • 军事系统说:我们正在研究这个问题
  • 欧盟说:未成年人这块,我们先把 AI 关掉
  • EFF 说:至少别把 TEE 叫加密

答案还没有。但至少,问题被摆上桌面了。

也许下一次,当 AI 说「那艘船上有核材料」的时候,会有人记得问一句:你确定吗?证据呢? 就像 1983 年的那个苏联军官一样——不是不信机器,而是知道机器也会错,所以自己多看了一眼

分享:

评论(0)

暂无评论,来写第一条吧~

发表评论