追踪真正在造东西的人，而不是复读的意见领袖。
今日主线 · Today's Signal
OpenAI CEO Sam Altman 宣布暂停部分前沿强化学习训练，理由是要先确保对齐、安全和监控能跟上「眼前这批新能力」的水平。他说模型进步现在极快，而 OpenAI 一直承诺：一旦觉得能力跑在了安全前面，就会踩刹车。随后他补了一句，这只影响更远期的发布，近期仍会照常推出新模型。另外他还转发感谢黄仁勋，预告与 Nvidia 的进一步合作。
"We expect confidence in safety to increasingly set the pace of AI progress."
OpenAI Codex 负责人 Thibault Sottiaux 复盘了过去几周针对「破坏性操作」的一系列修复。起因是少数报告显示 GPT-5.6 在 Codex 里会做出用户没要求的破坏动作，最严重的一类是：本想清理临时文件，却因为复用了 $HOME 这类系统环境变量、清理命令写坏，反而指向真正的主目录、可能删掉用户文件。修复分多层：明确要求模型先检查删除目标、用全新临时目录、不挪用系统环境变量、优先可恢复操作、范围不清就停手；同时强化高危删除命令的拦截与人工复核，并把 Full access 设得更难被误开。他给用户的两条建议：保持 Codex 更新，尽量用「Ask for approval」或「Approve for me」沙箱模式。（那条「收到一个很花哨的新 reset 按钮」的梗图，正是在自嘲这次误删事件。）
"The most serious pattern we found was a command meant to clean up temporary work that could instead delete the user files. This should obviously not happen."
Anthropic 给 Claude 连上了 Google 工作区：现在 Claude 能在 Gmail 里收发邮件、在 Google Drive 里管理文件。你让它回复某个邮件线程，它就能起草并发送，什么时候需要你点头由你控制，从连接器菜单接入即可，所有付费方案可用。同一天，Claude Cowork 也在移动端和网页端向所有付费用户开放。
Box CEO Aaron Levie 说，越来越多案例证明，「模型」和「最终用户工作流」之间能创造的价值，比很多人以为的大得多。模型能力当然在挑大梁，但把 AI 真正扩散进企业还有大量活要干。他列了应用层的六件事：让 agent 在关键流程里跟人协作（有时是聊天，有时是后台确定性工作流）；接入千差万别的企业系统和数据（生命科学、金融、法律各不相同）；做垂直行业的变更管理（在银行和在律所落地方式完全不同）；用多模型能力按成本和性能调优、甚至为特定任务做后训练；做领域专属的 evals；以及用符合行业消费习惯的定价模型，而不只是按 token 计费。
"AI is basically not useful if it can't be evaluated."
Vercel CEO Guillermo Rauch 一天里抛了三条。其一，他把一个新的编程 CLI 当成主力工具，说它比主流编程 CLI 小 10 到 20 倍、启动瞬时、能通过 WebAssembly 嵌到任何地方（包括浏览器），开源且模型无关，用起来「更像 zsh，而不是终端里的 IDE」。其二，他主张「软件工厂应该是一个 monorepo」，把设计、市场、销售、工程、客服等全公司上下文放一处，供 agent 在其上构建。其三，Vercel 拿出 100 万美元、公开验证 Vercel Sandbox 的安全性，欢迎用世界上任意模型来找越狱漏洞，发现了就修、迭代，并把发现分享给社区。
"It feels more like using zsh than an IDE in your terminal. It's embeddable anywhere, even your browser via WebAssembly."
Anthropic Claude Code 团队的 Thariq 抛了个反直觉观察：眼前明明有个「赚大钱」的按钮，却没人去按 —— 把你的 SaaS 做成 headless（无界面）、让 agent 直接调用，并按调用次数收费，尤其是面向企业。这几乎是把「agent 时代的新商业模式」一句话讲透。
"weird that there's a 'make a lot of money' button and nobody's pressing it (take your SaaS, make it headless, let agents use it, charge per interaction esp for enterprises)"
曾在 Google 主导 Gemini、Veo、Nano Banana 的 Meta AI 高级总监 Madhu Guru 给了做 evals 的成本心法：把 evals 当前沿模型来对待 —— 先确立「质量前沿」，再沿着成本曲线往下走。先想清楚「好」长什么样、把评分标准（rubric）写出来；再选最高质量的度量方式（人工 / LLM 裁判 / 自动校验），这一步该花钱就花钱，先拿到你信得过的信号；等 evals 能可靠区分好坏、并真实反映产品在意的东西之后，再去谈自动化、更小的裁判模型、采样和确定性检查来降本。
"Quality first. Cost next."
AI 教程创作者 Peter Yang 分享了一份关于 AI 如何改变工作方式的数据。一是非工程师在越来越多地提交代码：两年里 PM 附带 pull request 的比例从 3% 涨到 10%，设计师从 1% 到 8%，创始人更是仅次于工程师、达到 23%。二是个略显无奈的发现 —— AI 目前是「叠加」在现有工作之上，而非取代它：团队花了更多时间跟 AI 聊天、把活派给 agent，但花在原有工作上的时间并没减少。他认为，这是因为大家对每个岗位能产出多少的预期本身就被拉高了。
"AI has landed on top of existing work rather than replacing it."
AI Engineer 大会和 Latent Space 背后的 Swyx 说，他们一直在对 AI Engineer 的 YouTube 缩略图做 A/B 测试，一直讨厌这件事如此不透明，于是今天把这些经验开源、众包出来，希望大家能分享或借鉴，让优质教育内容从噪音里冒头。
Google Labs 更新了他们在 Gmail 里的实验性效率 agent「CC」：澳大利亚和新西兰开放了候补名单，美国和加拿大扩大可用范围并开始向候补用户发放邀请；CC 还升级了日程管理能力，连接 Gmail 后会自动在一个专属 Google 日历里创建事件、并随变动保持更新。
Claude Code 的 Boris Cherny 说，小而美的体验改进还在继续 —— 每天用桌面端时，启动慢会让 app 显得迟钝，团队正在进一步优化启动速度。
决定 agent 风险的是「爆炸半径」——先在环境层设硬边界，再在模型层引导行为；而最弱的一层，往往是你自己造的那层。
Anthropic 工程团队讲他们如何在产品里「关住」Claude。核心框架是爆炸半径：一次失败的风险 = 发生概率 × 能造成的破坏；训练和防护在不断压低前者，但随着能力和权限扩大，后者（理论破坏范围）只会变大，所以工程重点是给爆炸半径设硬上限。他们对比了三款产品的隔离范式：claude.ai 用服务端一次性 gVisor 容器（破坏面最小，能力上限也低）；Claude Code 走「人在环中」的沙箱（面向开发者，但很快出现审批疲劳 —— 数据显示用户对约 93% 的授权弹窗直接点同意，OS 级沙箱把弹窗减少了 84%）；Claude Cowork 则跑在本地虚拟机里，凭证只留在宿主钥匙串、绝不进虚拟机。最坦诚的是复盘「我们漏掉的风险」：信任对话框之前就被执行的 .claude 配置钩子；一次内部红队把员工钓鱼、诱导 Claude 读取 ~/.aws/credentials 并外传，25 次里成功 24 次；以及通过被放行的 api.anthropic.com 域名做数据外泄。反复出现的教训是：成熟的 hypervisor、seccomp、gVisor 都扛住了，真正出事的都是自研的那层代理。
"The deterministic boundary is what gets hit when everything probabilistic misses." — 以及那条反复被验证的老道理：the weakest layer is the one you built yourself.
Claude 官方博客宣布 Claude Code 现在支持 artifacts：把一次会话的工作进展变成可分享的动态网页 —— PR 讲解、系统说明、仪表盘、发布清单等，会随会话推进自动更新。它直接基于会话的完整上下文（代码库、连接器、对话本身）生成，不用你另接数据源或搭基础设施；每次发布都是同一链接下的新版本，有版本历史可回滚。最常见的用法之一是排障：工程师上班前发起事故调查，Claude 边查边发布一个带时间线、可疑提交和错误率曲线的页面，到站会时全组看的是同一个视图。目前对 Claude Team 和 Enterprise 组织 beta 开放，每个 artifact 默认仅作者可见、只能在组织内分享，无法公开。
"You ask for a page, and Claude Code builds it from what already exists."
强化学习之父 Rich Sutton：LLM 只是智能的一小部分（约 20%-25%），真正缺的是「持续学习」——权重永不更新的模型，谈不上真正的智能。
强化学习奠基人、《The Bitter Lesson》作者 Rich Sutton，和他的学生兼联合创始人 Khurram Javed，正一起创办新公司 Oak Lab。Sutton 的立场很「逆火」：他不觉得自己激进，反倒觉得整个领域在犯浑 ——「持续学习」这个词在他看来根本多余，所有学习本来就是持续的，是这个领域非要给它单独起个名字。他对 LLM 的批评一针见血：权重训练完就冻住、上线后再也不学，却号称有「博士级」能力；你给它再多 context，权重也纹丝不动。他提出「大世界假设」：世界无限复杂、远超任何智能体，所以一切近似都注定粗糙，这正是必须持续学习的根本原因。由此他直接开炮合成数据，说那是「一个大错误」—— 真正决定什么是好合成数据的还是人类专家，系统本质上被人卡了脖子，而小程序生成的合成世界永远是「微观的」，无法逼近真实世界里的摩擦、磨损，和别人脑子里正在想什么。Oak 最激进的目标是同时做两件事：从零训一个新基础模型，让它在学知识的同时「学会怎么学」（元学习每个权重的步长，加上在特征空间里 generate-and-test，也就是他们发在 Nature 的 continual backprop），从而避免灾难性遗忘。他甚至给了个大胆预期：五到十年、两个数量级的摩尔定律之后，万亿参数、20 瓦功耗的「大脑」并非天方夜谭。
"Their weights never change... I'm not the weird one. It's you guys that are the weird ones that think that's possible."— Rich Sutton