本期内容
本期六件事，从芯片到水印，从本地代理到科学发现速率，串起来看都是同一件事：AI 的基础设施正在从别人的服务器往你自己的机器移动。这个过程不会一夜完成，但每一件事都是信号。听完这期，你会对"本地 AI"这件事有更具体的判断，也会重新想想你手里那些工具，有多少是你真正拥有的。
本期要点
- OpenAI 自研推理芯片 Jalapeño 登场，在吞吐量和延迟上同时领先，意味着 API 成本曲线可能加速下降
- 苹果发布 M6 和 M5 Ultra，把"在本地跑大模型"从实验状态推向日常工作状态
- 一位用户花 266 美元、调用四个 AI 模型，才真正获得了自己亚马逊平板的完整控制权
- 微软画图工具被发现在本地生图时悄悄嵌入服务器下发的 GUID 追踪标记，本地化不等于私密化
- METR 研究显示 AI 大幅加速了漏洞发现，但工程优化类任务的发现速度几乎没有变化
- Perplexity 与英伟达合作推出 Portable Computer，硬件买断后推理零 token 成本，本地 AI 基础设施作为消费品类正在成形
参考资料
The full stack behind abundant intelligence — https://openai.com/index/the-full-stack-behind-abundant-intelligence/
Jalapeño's first results show industry-leading speed and efficiency in AI inference — https://openai.com/index/jalapeno-first-results/
Apple introduces M6 and M5 Ultra for a big leap in performance and AI compute — https://www.apple.com/newsroom/
Amazon kept shutting down my tablet, so I spent $266 on four AI models to own it — https://ericpardee.com/
Microsoft Paint and Photos Embed Server-Issued GUIDs as Invisible Watermarks in Locally-Generated Images — https://xuesheng.blog/
Have We Seen an Acceleration in Discoveries? — https://metr.org/
Perplexity partners with Nvidia to launch Portable Computer, a fully local AI agent with zero token costs — https://venturebeat.com/
---
BearTalk 狗熊有话说播客，始于 2012 年。
订阅地址：https://beartalking.com/page/podcast
