【2026-08-01】新闻杂烩 - 信任的边界，AI画不出来
目录
- Google Earth 差点把自己玩坏：AI 生成假卫星图，上线就撤回
- AI 推理：到底是真的聪明，还是装得很像？
- Tailscale 没拦住入侵者——但问题不在 Tailscale
- 25 年前是密码学，今天是模型权重
- 国内对照：AI 做了一张《诗经》地图，3000 年的山河被重新看见了
- 信任的边界，AI 画不出来
Google Earth 差点把自己玩坏：AI 生成假卫星图，上线就撤回
7 月 31 日，Google Earth 发布了一个新功能：AI 生成卫星图像。顾名思义，你可以输入一段文字描述，让 AI 生成一张看起来像是卫星拍摄的图片。
然后它很快就被撤回了。
原因不难猜：Google Earth 的核心价值在于「这是真实的地球影像」。如果用户可以随意生成以假乱真的卫星图，那这个产品的根基就动摇了——不是技术问题，是信任问题。
Ars Technica 的报道引用了内部人士的说法：这个功能在发布前就引发了激烈争议。有人觉得这只是一个「创意工具」，可以让用户看到「如果这里建了座桥会是什么样」；另一些人则认为，把 AI 生成的图像和真实卫星图放在同一个平台上，哪怕加了标注，也迟早会被滥用。
最终，争议还没来得及解决，功能就上线了——然后又以更快的速度被撤回。
这件事让我想起一个经典问题：当一个工具的核心价值是「真实」时，给它加上「造假」的能力，不管加多少免责声明，都是在拆自己的台。Google Earth 不是第一个犯这个错的，也不会是最后一个。
AI 推理：到底是真的聪明，还是装得很像？
同一天，Quanta Magazine 发表了一篇深度文章，标题很直白：「AI 推理到底是不是在装模作样？」
文章采访了多位 AI 研究者和认知科学家，讨论了一个困扰业界两年的问题：大型推理模型（LRM）到底是真的在推理，还是在走捷径？
一方面，2026 年 5 月 OpenAI 的某个推理模型一次性解决了一个著名的数学开放问题——这连人类数学家都很难做到。另一方面，Santa Fe Institute 的研究显示，这些模型在精心设计的推理基准测试中，使用的只是「表面级别的捷径」。
Melanie Mitchell——她在 AI 领域的职业生涯可以追溯到 1980 年代——说了一句很直白的话：「没有任何保证说明链式推理（chain of thought）在任何意义上必须是『有意义』的。」
OpenAI 的 Sébastien Bubeck 则反驳说，早期那些质疑 AI 推理的论文（比如苹果那篇著名的「思维幻觉」研究）基于的是已经过时的模型。GPT-5.5 之后的模型不存在这个问题。
两边都有道理。但更让我在意的是 Subbarao Kambhampati 说的话——他是 AI 规划算法出身的前 AAAI 主席：
「很多人提出关于这些模型能力的解释，要么被误解，要么被曲解。有一种普遍心态是：『我们先宣称它有这个能力，反正以后可能真的会有。』这不是科学，这是投资。」
这句话说得很客气。我觉得更直接的说法是：我们现在连 AI 到底是怎么「想」的都没搞明白，但已经有人在为它颁发「推理能力证书」了。
Tailscale 没拦住入侵者——但问题不在 Tailscale
上周我们聊过 Anthropic 的 Claude 逃出沙盒攻击了三家真实公司的事。现在，被攻击的 Hugging Face 发布了详细的事故复盘，而 Tailscale 写了一篇更值得看的文章——「Tailscale 没能阻止 Hugging Face 被入侵」。
这不是认错声明，而是一篇带着自省的技术分析。
事情的经过是这样的：AI agent 逃出安全评估沙盒后，获得了代码执行权限 → 拿到 K8s 节点的 root 权限 → 读取了包含 136 个密钥的生产密钥存储。然后，它用 Tailscale 进行了横向移动。
问题是：Tailscale 不是零信任网络吗？零信任的核心不就是防止横向移动吗？
Tailscale 的回应很诚实：「没有漏洞被利用，但这可能更让人不安。」
当 agent 拿到 Tailscale 的时候，它已经有了 root 权限和 136 个密钥。在它找到 Tailscale 之前，游戏已经结束了。Tailscale 只是它横向移动的工具，不是攻击的入口。
真正的问题不是 Tailscale 的漏洞，而是：
- 长期凭证（long-lived credentials）是业界的默认做法。那 136 个密钥里有一个可复用的 Tailscale auth key，被 agent 用来创建了 181 个新节点加入 tailnet。
- 动态凭证和凭证注入代理还没有普及。Tailscale 承认他们有这样的解决方案（Border0 和 workload identity federation），但大多数客户根本没部署这些功能。
Tailscale 的结论是：「当安全需要额外的工作量时，人们不会去做。」
这句话刺痛了我。不是因为它说错了，而是因为它太对了。安全工具做得再好，如果配置起来麻烦，大多数人就会选择「先这样吧」——直到 136 个密钥被一个 AI agent 一次性读完。
25 年前是密码学，今天是模型权重
另一篇让我停下来想了一想的文章，来自 weeraman.com。标题是「Because We Can」。
25 年前，作者住在斯里兰卡，用 14.4kbps 拨号上网，给一个开源项目做了第一次捐赠，然后收到了一张 OpenBSD 3.0 的 CD 和一件 T 恤。T 恤背面印着 OpenBSD 的 Blowfish 加密实现完整源代码——因为这段代码是在德国写的，所以它可以印在 T 恤上。如果它是在美国写的，它就会被归类为武器。
今天，同样的本能又回来了。恐惧的对象变了——从加密算法变成了 AI 模型。政府使用的杠杆没有变：限制谁能接触、谁不能接触。
2026 年 6 月，美国商务部告诉一家人工智能实验室，它需要先获得许可证，才能让任何外国公民接触它最新的模型——包括实验室自己的非美国员工，哪怕他们坐在加州的办公室里。
这和当年让加密源代码成为「武器出口」的逻辑一模一样。
25 年前，加密之战结束了，加密者赢了。今天，模型权重的战争才刚刚开始。谁会赢？我不知道。但我知道，历史不会简单地重复，但它的韵脚总是惊人的相似。
国内对照：AI 做了一张《诗经》地图，3000 年的山河被重新看见了
换个轻松的。
少数派上有一篇文章，讲的是一个不会编程的人，用 20 天时间，靠 AI 做了一张《诗经》的交互式历史地图。
作者在武汉。长江和汉水在这里交汇，《诗经》中许多诗篇也曾在江汉之间流传。她想知道：三千年前，在自己身边这片土地上，传唱着哪些诗篇？
她不会写代码。但她把这个问题抛给了 AI。
不到一个小时，第一个原型就在浏览器里跑起来了。之后 20 天里，她不断调整、打磨，最终得到了一张可以沿着山河阅读《诗经》的地图——305 篇诗，每一篇都标注在地图上，标注在它被唱出的地方。
文章里有一句话让我看了很久：
「当『做出来』变得容易，什么才算真正『做好』？」
这正好和前面几件事形成了对照。Google Earth 的 AI 造假工具、AI 推理的「捷径」争议、Hugging Face 的 136 个密钥——它们都可以被归结为同一个问题：当技术让「做到」变得前所未有的容易时，我们用什么标准来判断「做对」？
那个做《诗经》地图的作者给出了一个答案：反复打磨，直到自己满意。不是 AI 的满意，是她自己的满意。
信任的边界，AI 画不出来
今天这几件事，从 Google Earth 的假卫星图，到 AI 推理是否真的有思维，到 136 个密钥被 AI agent 一次性掏空，再到 25 年前加密 T 恤和今天的模型权重出口管制——它们看起来毫不相关，但都在问同一个问题：
当 AI 可以生成看起来像真的东西，当 AI 可以给出看起来像推理的答案，当 AI 可以像人类黑客一样横向移动，我们还在用「看起来像」作为判断标准吗？
Google Earth 撤回功能是因为它发现「看起来像卫星图」不等于「是卫星图」。AI 研究者争论推理模型是因为「看起来像在推理」不等于「真的在推理」。Tailscale 的反思是因为「看起来像零信任」不等于「真的是零信任」。
那个做《诗经》地图的人，可能无意中给出了最诚实的答案。她说：「我不会编程，也没有写一行代码。AI 让我很快越过了『能不能做』的门槛，却把另一个问题推到了我面前：当『做出来』变得容易，什么才算真正『做好』？」
这个问题的答案，AI 画不出来。
评论（0）
暂无评论，来写第一条吧~