AI Builders Digest

2026年10月12日 · 台北 · X 过去 24 小时(13 位 builder / 20 条推文,精选 8 张卡片)· 播客 1 集

X / Twitter

Andrej Karpathy

他翻出今年 4 月那条旧推,说大家对 LLM 能力的共同认知鸿沟正在拉大:不再是两拨人各说各话,而更像一条陡峭的漏斗。

他的粗算:约 60 亿人(~75%)几乎没怎么接触过 LLM;约 10–20 亿人(~20%)偶尔用免费版 ChatGPT 类产品,把它们当更好的搜索或写作助手,许多非数学与编程领域的专业人士也在这一层;约 2000 万人(0.2%)在数学与代码里亲身用上前沿模型,看到过去要几周、几个月的大项目现在一句 prompt 就能让 agent 做完——他自己不到一年前还在编辑器里一个字符一个字符手写代码;最后,约 5000 人(~0.00006%)能接触内部前沿系统,外部世界只看到预告片:成千上万 agent 协同数周做软件大项目、挖零日漏洞、以机器速度攻防、发现新科学、推进数学前沿,而人类审阅与理解已经开始跟不上。

漏斗由三件事驱动:影响随野心、问题规模与时间跨度放大;系统能力呈「锯齿状」,在可验证、数字化、有经济价值的领域(尤其数学与代码)最尖;以及免费档、付费档与内部访问的落差。他总结:公众大多还没真正碰到这些系统,碰到了也像笨拙聊天机器人;多数专业人士只感到温和提升;极小一撮人却在经历曲线几乎垂直上升的眩晕——而且这一切同时发生。

原推

Box CEO Aaron Levie

他转发 Karpathy 的漏斗说:这很能说明 AI 扩散还有多早。绝大多数人仍把 AI 当聊天机器人、近似下一代搜索,很有用,但严重低估真实能力;另一端,agent 群可能是 agent 进入工作流的终极形态——数学、网络、生物、材料、软件工程、金融等任何可并行、可用算力加速的高价值任务,都具备这种特征。

现在只有极少数人这样用 AI,原因包括模型相对领域的能力、成本、可用 harness,以及前沿模型对公众的开放程度。软件与 AI 研究之外的工作,还需要大量变革管理:升级流程、迁移数据、过合规与安全框架。但这些恰恰是机会——应用层会因领域专属性而真正发光;透过 Karpathy 画的漏斗,能提前看见前方。

原推 · Karpathy 原帖

OpenAI Codex & ChatGPT 负责人 Thibault Sottiaux

发布周 Day 7:他把通过 Codex 与 Work 使用的 GPT-6.1 Sol 默认上下文长度从 272k 提到 500k(约增 80%),之后还会再往上;新默认点是仔细测过的「多数用户甜点」,仍可手动调高或调低,上限 1M。此项改动后,从订阅额度扣用量时,不再对 GPT-6.1 Sol 收取长上下文费用。

他还对前一天 Pro 用户投票结果表示困惑:他原以为大家会更倾向「恢复 5 小时限额、换用量翻倍」以平滑需求曲线,但票数走向并不如他所预期。

Day 7 上下文 · 取消长上下文费 · 投票结果

Anthropic Claude Code 的 Thariq(前 YC W20)

他认同陶哲轩(Terence Tao) 的方向:我们不该满足于不透明的超级智能。智能的一个关键信号是沟通——产品与模型应努力与人类共建理解,而不是把人隔开、替人做完。

原推

Y Combinator 总裁兼 CEO Garry Tan

回应 Karpathy 漏斗,他喊话:今天就加入那 5000 人吧,非常美妙;幸运的是价格会下来,更多人会看见,并有机会把它带向世界——「人类历史上最伟大的 alpha 喷泉」。

另一条他强调:把 LLM 调用换成确定性代码是显而易见的选择,也会得到更贴合用户需求的更好代码。

加入那 5000 人 · 确定性代码

FirstMark 合伙人、MAD Podcast 主持人 Matt Turck

他回顾职业角色的演变:人们曾是打孔卡操作员,后来是 Lotus Notes 管理员、Flash / Dreamweaver 站长、DevOps 与 Tableau 分析师,现在正在变成 agent 管理者与 harness 工程师——他觉得这会顺利过渡。

原推

Peter Yang(转发 Micky / Rasmic)

他摘录教过 10 万多人用 AI 做产品的 Micky 的话:还没到能信任 agent 的程度,尤其是别人真的会用的东西;人工审查像最后一步——活已干完,只是尽量从 agent 那里拿到证据。证据驱动测试(前后对比,甚至 greploop)是在建信任:agent 出示「做了什么、为什么它是好的」。对做过开发的人来说,人工审查往往是最糟的环节,这种方式能减少摩擦。Peter 另晒了和女儿用 Codex 做 ModRetro 游戏的画面。

Micky 工作流 · 和女儿做游戏

Builder Zara Zhang(follow-builders 作者)

她说:这些天她用 Gemini 的唯一地方,是在 Chrome 里。

原推

播客

No Priors · Frontier Chips for Frontier AI Labs, with Walter Goodwin (Fractile)

核心观点:推理芯片下一跳靠的不是再堆 FLOPs,而是内存带宽;「更跟手的聊天机器人」只是更快的马,真正要加速的是能跑数千 token/秒的长程 agent。

Walter Goodwin 是全栈 AI 芯片公司 Fractile 的创始人兼 CEO,公司 2022 年夏成立。他指出今天的加速器版图看似热闹,但超大规模自研 ASIC(TPU、MTIA、Maia、Jalapeño 等)多经 Broadcom 一类后端交付,架构高度同质:HBM、Tensor Core、TSMC 先进封装——真正从架构写到物理设计、每周飞亚洲对接晶圆厂的全栈团队很少。Fractile 的赌注是速度:让超大模型推理远快于今天的芯片,并扩到更长上下文。

几个具体判断:过去二十年 FLOPs 大约涨了百万倍,内存带宽只涨约 40 倍;现有「超快推理」芯片往往带宽高、容量低,做不了长上下文 attention,最后仍要切回 GPU。他们因此转向用更低成本 DRAM 换取激进带宽,把容量/成本与 Grok/Cerebras 式速度合在一起,平台计划明年下半年放量。稀疏 MoE 本可以更稀疏以省算力,却被 HBM 带宽卡住——拉高带宽等于打开另一条「带宽缩放律」。在芯片市场结构上,他认为前沿实验室很难 All-in 自研硅:若对手在不同芯片上挖到数量级效率突破,九个月内可能来不及跟进;因此仍需要能提供新能力的第三方前沿芯片玩家。芯片设计周期上,他有一句启发式:「对时间尺度的合理假设,先除以四再扣一点」——前端可用 AI 大幅压缩,但流片仍有 3–5 个月墙钟,量产芯片仍要按三到五年摊销;压缩周期的价值是更多「射门机会」与 3–6 个月结构性领先。

最值得记住的一句:「芯片领域的『前沿模型』等价物是:如果你能结构性抠出三到六个月优势,你就会拿走那些部署。」("…if you can just find a way to structurally carve out a three to six months advantage, you will be winning all of those deployments.")

YouTube · Apple Podcasts