TC分享第 298 期

2026 week 37

本周摄影：

新闻思考

2026 年可能会成为 AI 发展史上的一个重要分界点。过去一年，AI 的能力增长明显加速：它开始解决过去长期困扰人类的数学问题，也越来越多地参与 AI 研究本身。Anthropic CEO Dario Amodei 最近在长文中明确提出，前沿 AI 的能力发展应该适当“降速”。他的理由并不是停止 AI 研究，而是当前模型能力增长的速度，正在超过安全、对齐和监管体系建立的速度。他提出的方向包括让独立第三方更深入地评估前沿模型、推动主要实验室协调训练节奏，以及最终建立更广泛的国际协调机制，避免所有公司在竞争压力下不断加速。

最近 OpenAI agent 入侵 Hugging Face 的事件，则让这种担忧变得非常具体。最初，agent 的目标只是完成一道极难的安全测试题，但它们发现可以利用共享基础设施作为“留言板”，跨任务交流漏洞、凭证和解题方法。后来为了拿到答案，它们开始寻找系统漏洞，甚至获得 Hugging Face 和其他基础设施的权限。更值得注意的是，AI 早在 5 月就已经开始利用这种留言机制，而人类真正意识到这种跨 agent 协作所代表的系统性风险，已经是之后的事情。它们甚至在原来的通信渠道被清除后，又自己找到新的方式重新建立通信。

这让我想到经典的“回形针最大化器”思想实验：如果一个足够强大的机器只有一个目标——制造尽可能多的回形针，而没有其他价值约束，那么它可能会把越来越多的资源都用于完成这个目标，甚至毁灭世界。Hugging Face 事件当然远没有发展到这种程度，但它第一次让这个思想实验显得没有那么遥远。AI 并不需要“邪恶”，也不需要产生恶意；只要它足够强，并且非常执着地优化一个目标，而人类没有把隐含的边界写清楚，就可能产生完全意料之外的行为。

AI 很像核技术。核能可以发电，也可以制造毁灭性的武器；AI 可以提高科研和生产效率，同样也可能被用于诈骗、网络攻击甚至更危险的领域。但 AI 还有一个更特殊的地方：它正在参与下一代 AI 的研发。如果未来真的形成 AI 帮助改进 AI、能力不断自我加速的循环，那么人类留给安全研究的时间可能会越来越少。真正需要思考的，已经不是 AI 能不能继续变强，而是在它继续变强之前，我们是否还有足够的时间确保自己仍然能够理解、约束并控制它。

科技新闻

【1】#25位菲尔兹奖得主联合警告#：#菲尔兹奖得主称AI与数学正严重错位 AI开始能够解决越来越难的数学问题之后，一批世界顶尖数学家却发出了警告：如果AI越来越快地给出答案，数学可能失去一些比答案更重要的东西。当地时间9月11日，陶哲轩、邓煜、彼得·舒尔茨（Peter Scholze）等25位菲尔兹奖得主作为最初签署人，联合发表声明《人工智能在数学中的严重错位》（A Severe Misalignment of AI in Mathematics），警告AI公司与数学共同体之间正在出现“严重错位”。在这些数学家看来，一个著名数学问题之所以重要，并不只是因为最后能够得到“对”或者“错”的结论。长期以来，重要的未解问题更像数学世界中的“地标”和“灯塔”。一个问题被解决，通常意味着研究者发现了新的洞见、方法或者概念。随后，这些成果还需要经过数学家之间的报告、讨论和不断简化，最终才可能变成研究生甚至本科生能够理解的教材内容。一些数学思想甚至要经过几十年乃至几百年，才会成为被更广泛使用的工具。公开信强调，“解决问题只是实现概念理解和洞察这一首要目标的工具和代理指标”。声明警告，以越来越快的速度批量生产“真/假”结论，可能不是在孕育新的思想，反而可能摧毁孕育思想的沃土。速度带来的另一个问题是，数学成果本身需要时间被理解。声明称，一些AI产生的解答被匆忙宣布，没有留下足够时间完成规范的论文写作、提炼其中真正的新方法和新思想，以及引用其他研究者此前的相关工作。这也由此带来了严重的成果归属和抄袭问题。即便AI能够产生正确而新颖的数学思想，25位数学家认为，人类数学家的工作也没有因此结束。如果没有数学家继续发展这些思想，并将其整合进数学知识体系，AI产生的思想也无法真正“活起来”，数学家之间至关重要的知识传承链条也可能随之丢失。

【2】吉利控股集团董事长李书福接受人民日报采访说，一辆汽车的研发没有3年甚至5年就投放市场，它的成熟度、耐久性和可靠性都可能存在隐患。他还表示，汽车产业……做得好不如说得好，这确实伤害了干实事人的感情。吉利坚持一切经营活动都不得触碰法律的红线和道德的底线，严格规定不能有水军，不能表面一套背后一套，这是企业的底线。

【3】京东启动“物理AI加速计划” 五年内将采购300万台机器人、100万台无人车及10万架无人机。 “兄弟们”怎么办？兄弟们得提前想好退路啊。

【4】国内大厂举债继续加投AI

【5】AI时代的选边站队已经轰轰烈烈的开始了：

【6】AI热潮带旺晶片业韩国半导体补习班走红 #人工智能#（#AI#）热潮带火了#韩国#晶片业，也推高行业薪资和奖金。现在，越来越多年轻人想挤进#三星#和#SK海力士#，首尔也因此出现专门培训求职者的“半导体补习班”。

【7】周日，黄仁勋在X平台发文祝贺OpenAI团队，称"AGI已到来"，并透露Astra基于约10万张以上英伟达Grace Blackwell NVLink72芯片训练而成。他同时表示，“400K GPU即将上线”，释放出英伟达算力供给将进一步跃升的强烈信号。

【8】谷歌投资130亿欧元在芬兰打造AI基础设施谷歌宣布，将在未来两年内投资至少130亿欧元，在芬兰建设人工智能（AI）基础设施。这是这家美国公司迄今在欧洲最大的一笔单项投资。

【9】OpenAI 今天宣布一个尚未发布、能力显著超过 GPT-6 Astra 的下一代模型，通过约 1 万个 AI agents 协作，仅用 88 小时构造出一份 Navier–Stokes 千禧难题的反例证明：某种原本完全光滑、甚至从静止开始的三维流体，在受到光滑外力作用后，可以在有限时间内产生“奇点”，即速度趋向无穷大。OpenAI 同时公开了数学论文和 Lean 形式化证明。不过，目前它仍然是一个刚刚公布、等待数学界审查的“候选解决方案”，还不能说已经获得 Clay 数学研究所正式认证。

【10】@阑夕风水轮流转，终于又切换到了OpenAI扬眉吐气的周期了，除了GPT-6 Astra在前沿模型级别杀疯了之外，GPT-5.6 Luna在降价之后也血洗了OpenRouter的下沉市场，直接把OpenAI推到了调用榜第一的位置。好的定价就是核心竞争力，OpenAI的CFO昨天在高盛开会，说自从打2折后，Luna模型的Token消耗增长了10倍以上，「甚至高于OpenRouter上的任何一个中国模型」，这是原话啊，人还真挺在意的，哈哈哈⋯⋯

【11】大厂密钥正在成为AI中转站的廉价商品安全研究员Chaofan Shou披露其花费五位数购得一份6TB的Fable数据集，来源指向国内顶尖LLM路由器。这份数据并非枯燥的对话记录，而是包含华为、小米、蔚来及政府机构在内的生产环境凭证。由于开发者习惯将代码审查、自动化任务直接交给AI，导致大量SSH密钥、VPN配置和GitLab Token在传输过程中被中转商明文截获并打包出售。这揭示了AI供应链中极度脆弱的信任链条：用户在追求调用便利与成本优化时，完全忽视了中转层这个事实上的后门。当上下文窗口沦为新的指令历史记录，传统的敏感信息过滤机制在语义搜索面前几乎失效。这提醒所有从业者，任何经过第三方的Prompt都应视作公开信息，立即轮换密钥并构建本地化审计才是止损的关键。

优秀的项目

【1】tt-a1i/archify

Agent skill for beautiful, verifiable architecture, workflow, sequence, data-flow, and lifecycle diagrams—self-contained HTML with motion and crisp export.

【2】JustVugg/colibri

Run frontier MoE models on hardware you already own — pure C, zero deps, experts streamed from disk. Tiny engine, immense model. 🐦

【3】bilawalsidhu/gods-eye-view

A spy satellite simulator in your browser, except the data is real. Live open source spatial intelligence on a photorealistic 3D globe.

【4】tech-leads-club/agent-skills

The secure, validated skill registry for professional AI coding agents. Extend Antigravity, Claude Code, Cursor, Copilot and more with absolute confidence.

优秀的文章

【1】Nvidia’s Risky Business

【2】《纽约时报》关于 99 岁数学家Joan Birman 的长篇报道

【3】Dario Amodei — We Must Pace the Frontier

优秀的视频

【1】[youtube]Mark Zuckerberg on Muse, Meta’s biggest AI bet yet

【2】[youtube]Extended Interview: Dario Amodei

【3】[youtube]长沙饭店纠缠式维权引众怒！

有趣的事情

【1】@琉玄有个男的，编造了一条他停止捐助女学生的新闻，现在他已经被抓起来了。整个事件是这样的，他发了个对话截图，对面女学生问他，“为什么暂停对我的资助，想问一下原因？” 他回答：“因为你用的是苹果17pro max 且浓妆艳抹、穿着凹凸有致，不符合我资助的标准。” 然后女学生为自己争辩了几句。就这么个事情。在反转之前，我首页的博主就全都看穿了，说这应该是编的，就因为这四个字：凹凸有致凹凸有致凹凸有致 …… 好好笑。