智能变便宜了,品味和词汇变贵了
About This Episode
本期从一句「LLMs 奖励专业度」出发,聊为什么 AI 看似拆掉了写代码的门槛,实际却把门槛挪到了词汇量、问题分解和品味上;接着算一算便宜到每缓存读 0.0028 美元的智能究竟要付什么账,以及 30B 这个尺寸是不是已经被知识塞满了。最后我们把模型刻进硅片、一个天气应用吃掉 1GB 内存、一整代技术人对职业失去信仰,还有你买的光盘到底属不属于你,一次性聊个痛快。
Chapters
Links
小雅: 老冯你手上那坨灰的是什么?别往我这边抹,这桌子我刚擦的。
老冯: 导热膏,换硅脂剩的。这玩意儿比写代码难多了,涂厚了不行涂薄了也不行,跟调 prompt 一个道理,全靠手感。
小雅: 行吧。顺便说一句,桌上这台笔记本现在是咱们唯一的降温希望,跑着 30B 的本地模型,风扇声比我心跳还响。
老冯: 空调师傅说这周来不了。八月天,录音间直接变桑拿房。挺好,正好现场体验什么叫算力即热量。
小雅: 我这边更离谱,刚把一张 Xbox 光盘塞进主机,它让我联网验证。光盘啊大哥,我买的是盘还是许可证?
老冯: 所以你就把它翻过来当杯垫了?
小雅: 对,物理意义上的杯垫,还挺稳。说回来,这周咱们要聊的其实就是这类事 —— 智能本身越来越便宜,随便一个开源模型都能跑,但品味、词汇、还有那些说不清道不明的东西,反而越来越贵。
老冯: 说白了,模型白菜价,能问出好问题的人涨价。这周 HN 上吵得最凶的几个帖子,全是这个路子。
小雅: 我们会聊本地模型怎么把成本打下来、大厂公关稿怎么把话说得越来越没味,还有评论区那些神级吐槽,一个比一个狠。
老冯: 还有我这手导热膏,怎么搓都搓不掉。算了,就这么开始吧。
小雅: 这空调是真不修了是吧,我现在全靠这台跑 30B 的笔记本当暖风机,风扇声比咱俩说话都响。
老冯: 忍忍,我手上这导热膏还没擦干净呢。说真的,换硅脂比写代码难多了,代码错了能回滚,硅脂抹多了直接短路。
小雅: 行吧。说正事,这周有两篇挺有意思的,一篇叫「LLM 奖励专业性」,一篇是「我怎么用 LLM 学复杂主题」。
老冯: 第一篇那个作者讲得挺狠。他说 2010 年代你不会写 CSS,要么求同事,要么祈祷网上正好有答案;现在谁都能让模型糊出一段勉强能看的 CSS。
小雅: 对,所以大家都觉得提示词没技术含量嘛,反正用的是同一个模型,新手和老手结果应该差不多。
老冯: 然后作者说,这想法是错的。提示词最重要的技能,是你对那个领域的专业度。这话我爱听。
小雅: 我知道你要站这边。但他举的例子是陶哲轩跟 ChatGPT 聊雅可比猜想的新反例,这例子太极端了吧。
老冯: 不极端,特别说明问题。陶哲轩的消息特别短,只说要点,不逐条回应;模型回他也特别简洁,直接切到「跟数学家说话」模式。
小雅: 这个我承认有意思。同一个模型,你给的信号不一样,它给你的信息密度就不一样。
老冯: 还有他怎么反驳模型 —— 不说你错了,而是说「这看起来比我期望的复杂」。这句话太妙了,既没否定,又把方向掰回来了。
小雅: 但问题是他能这么干,是因为他自己知道哪条路对。普通人根本做不到这一步。
老冯: 对,评论区最扎心的就是这句:作者说他朋友压根没走到那一步,因为她根本没有词汇去让 AI 写代码。
小雅: 这句我看了两遍。不是不会用工具,是连「我要什么」都说不出来。
老冯: 所以「人人都能用 LLM 写软件」这个说法,得加个脚注:人人都能,前提是你已经知道该说什么。
小雅: 我不完全同意啊。门槛确实降了,这是事实。以前不会 CSS 就是死路,现在至少能出个能跑的东西,这已经是巨大的解放。
老冯: 能跑和能维护是两码事。作者自己写的是「勉强能看的代码」,勉强这俩字很关键。
小雅: 那第二篇就有意思了,那个人根本不满足于让模型解释,他直接让模型给他造了个游戏。
老冯: 芯片厂那个是吧,低多边形、过山车大亨那种画风,从挖沙子一路跟到晶圆出厂。
小雅: 流程是先让模型建知识库,再让它自查准确性,然后生成模拟动画,最后推到 GitHub Pages。他说这比读一堆资料强多了。
老冯: 「百分之百准确、零幻觉」—— 这句话谁验证的?他自己不懂芯片制造,才要学啊。
小雅: 你这太苛刻了,他可以交叉验证啊,多个模型对着问,总比瞎读网页强。
老冯: 同一个模型自查,等于让嫌疑人自己写笔录。评论区有人说得很直接:稍微深一点的主题,幻觉率高得离谱。
小雅: 但另一拨人说得也对,拿它筛书、定制提问、出复习题,这些用法确实高效,没必要一棍子打死。
老冯: 对,所以关键不是用不用,是你有没有能力判断它哪句在胡说。评论区还有一句我特别喜欢 —— 读 LLM 写的散文让我精疲力尽,实在不想再读 Opus 5 生成的东西了。
小雅: 哈哈这个我懂,密度高得离谱,有用信息全埋在噪声里。还有人说模型读不懂房间,判断不出你已经知道多少。
老冯: 所以回到标题,智能变便宜了,品味和词汇变贵了。模型是放大器,不是均衡器。
小雅: 这个说法我接受。但我还是觉得放大器本身就有价值,至少现在敢动手的人变多了。
老冯: 行,那咱俩算达成半个共识。哎,显存不够了,模型卡住了 —— 正好,我趁这半秒去洗个手。
老冯: 这屋里现在三十四度。桌上这台跑 30B 的笔记本,风扇声比我说话都响。我手上这坨硅脂擦了十分钟还没擦干净。
小雅: 你先把那玩意儿放下。我刚把一张 Xbox 光盘塞进主机,它让我联网验证。光盘啊,塑料片啊,验证个什么劲。现在它是我杯垫了。
老冯: 你看,这就是本周主题的预演 —— 东西明明做出来了,你还得证明自己有资格用它。
小雅: 说正事。这周 HN 上第一篇,标题就很冲:「代码从来不是难点」是对所有程序员的侮辱。作者 Senko Rašić,八月八号发的。
老冯: 他那个反问挺狠。如果写代码很简单,那为什么程序员一直这么贵?为什么会有过劳和倦怠?为什么公司要找十倍速的忍者摇滚明星,还要拿 leetcode 折磨人?
小雅: 还有一句我服 —— 如果写代码简单,那为什么软件还是这么烂?
老冯: 他还列了一串书,《Clean Code》《程序员修炼之道》《计算机程序设计艺术》,说这些是板砖,不是夏日读物。
小雅: 但评论区另一半人也不客气。他们的说法是:在大公司里,需求对齐、跨团队协调、执行策略,比敲代码难十倍。写代码只是最后那一下。
老冯: 这个我承认一部分。有些岗位里代码确实是最简单的部分。但那位评论者后半句才是重点 —— 不是所有人都在做信号处理、嵌入式系统,或者为了给 Linux 内核提内存分配补丁。
小雅: 对,这就是我最烦的地方。说「代码不是难点」的人,往往待在一个需求文档写三百页、开会开到天荒地老的地方。他们把组织的低效,包装成了行业真理。
老冯: 这话我爱听。作者自己也吐槽了,说「搞清楚优先级」翻译过来就是「你直接告诉我干啥,别两天一变」。
小雅: 他还说,他见过的程序员里,极少数是真心想跟利益相关者聊天的。除了自由职业者和创始人。
老冯: 但反过来讲,你也别把协调说得一文不值。用户访谈、共情、把一群人拉到同一个认知上,这确实是项目成败的关键。作者自己也承认这一点。
小雅: 承认归承认,但他说这是侮辱,我理解。因为这话的潜台词是:你们这些年练的手艺,其实是个体力活。
老冯: 而且这话现在特别好用。老板一听「代码不是难点」,下一句就是「那 AI 都能写,你为什么还要这么多人」。
小雅: 好,正好接第二篇。八月六号,notashelf 写的,《剩下的只有品味》。这篇我觉得说到点子上了。
老冯: 你先别急着站队。这篇作者后来自己加了个 post-mortem,说有人告诉他,这文章读起来像 AI 生成的垃圾。
小雅: 这个太讽刺了。一篇讲人类品味的文章,被怀疑是机器写的。
老冯: 但他的核心论点确实漂亮。他说以前难的是让东西存在 —— 从想法到能跑的程序,中间隔着几周的打字、读文档、误解 API。那堵墙定义了整个手艺。现在墙被租出去了。
小雅: 然后地板也没了。决定什么值得留下的,不再是做出来的成本,而是你的判断力。他管这个叫 taste,还说工程师圈子里用这个词有点不好意思,因为听着软、不可证伪、还有点贵族气。
老冯: 但评论区那个担心更值得聊。有人说,越来越多人用 LLM 写代码之后,会默认采用模型的「平均品味」,我们就再也看不到关于怎么构建东西的新鲜想法了。
小雅: 这个我不同意。平均品味统治的从来不是工具,是懒。以前抄 Stack Overflow 的人,现在抄模型,人没变。
老冯: 有点道理,但也别太乐观。以前抄代码你还得自己拼起来,现在连拼都不用拼,摩擦没了,同质化的速度就不是一个量级。
小雅: 那你说怎么办?总不能不用吧。
老冯: 我觉得答案在两篇中间。代码不是简单活,品味也不是玄学。品味就是压缩过的经验 —— 你踩过的坑、读过的烂代码、改过的内核补丁,压成一种直觉。
小雅: 所以这期的标题才成立:智能变便宜了,品味和词汇变贵了。你得能说清楚要什么,还得能判断拿回来的是什么。
老冯: 对。而且这台暖风机又卡了,显存不够,它刚把我半句话吞了。这就是平均品味的实体化。
老冯: 这风扇声你听见没,桌上这台跑着 30B 的笔记本,现在是我们录音间唯一的空调。
小雅: 我那张 Xbox 光盘刚被要求联网验证,现在正给我当杯垫,废物利用。
老冯: 说到 30B,Meta 这周放了个 Muse Glimmer,30B 参数,Apache 2.0,权重直接扔上 Hugging Face。
小雅: 我看了,主打 always-on 的本地 agent,单张消费级显卡就能跑,llama.cpp、MLX、ExecuTorch 的适配说过几天跟上。
老冯: 官方话术是「从下载到跑起 agent 只要几分钟」,我信一半,另一半取决于你显存够不够。
小雅: 你看我们这台,刚才就卡了半秒,正好卡在我要说话的时候。
老冯: 评论区有句话我特别喜欢,说它「语气上是个狂妄的混蛋,但确实挺好用,而且思考链相对简洁」。
小雅: 这句精准。狂是狂,但 terse 的 thinking trace 在本地跑是硬需求,谁想等它啰嗦三千字。
老冯: 不过争议也在这儿,除了 tool-calling 明显占优,其他项它只是勉强压过 Qwen3.6 27B。
小雅: 而且有人翻旧账,说这种发布时机太熟了,赶在对手大版本前后放,就是为了抢版面。
老冯: 说白了就是怕打不过 Qwen3.8。但我觉得这不算黑点,开源权重放出来就是好事,别把「有竞争力」吹成「领先」就行。
小雅: 评论区还有一句更狠的,说如果 30B 这个尺寸近期没有实质突破,那基本可以认为这个量级的知识容量已经饱和了。
老冯: 这个判断我认同一半。30B 现在不是不够聪明,是分工问题,工具调用、长上下文、多模态,你只能挑几样喂饱。
小雅: 说到便宜,DeepSeek V4 Flash 0731 那个成绩单才叫离谱。
老冯: 输入 0.13 美元、输出 0.26 美元每百万 token,ARC-AGI-1 干到 89%,单任务两分钱。
小雅: ARC-AGI-2 也有 61.4%,一个任务四分钱。这价格我都不好意思砍价。
老冯: 评论区原话是「好用到几乎什么都能干,便宜到成本根本不值一提」。听着挺爽。
小雅: 但我看到另一派的反驳更值得听,多数 AI 工作表面上都挺漂亮,边界情况是无限的。
老冯: 还有那句,它们总能想出各种绝妙的方式来撒谎或者偷懒。这话我信,我天天被偷懒。
小雅: 所以长周期任务里,小错误会滚雪球,最后你都不知道是哪一步歪的。
老冯: 这就是为什么我坚持分层,前沿模型做规划,便宜模型当子代理干活,再拿一个独立的东西去校验。
小雅: 关键是「独立」,同一个模型自己检查自己,那叫自我感动。
老冯: 对,多角度交叉验证,成本还是低。缓存读 0.0028 对 0.018,差六倍多,长会话里这钱是滚出来的。
小雅: 所以这周的主题其实挺清楚,智能变便宜了,但品味和词汇变贵了。
老冯: 模型能替你写完所有代码,但「这玩意儿到底该不该存在」还得你自己想。平庸但正确,比错误还难发现。
小雅: 先说个猛的。AMD 把多伦多那家 Taalas 收了,思路是把模型权重直接刻进硅片里。
老冯: 我看到那数字了,Llama 3.1 8B 跑到一万六千九百多 token 每秒。
小雅: 比当时的 Nvidia GPU 快 48 倍,比 Cerebras 快 8.5 倍。这已经不是优化了,这是换物种。
老冯: 换物种?我看是换耗材。模型一升级,那块芯片就成镇纸了。
小雅: 评论区也吵这个。有人说,一个笨但极快的模型有它完全独立的用例,半秒出结果,就是爽。
老冯: 这话我认同一半。端侧小模型烧进硅片,快、省电、用途明确,这条路是通的。
小雅: 但另一派直接泼冷水,说万亿参数想刻在单颗 die 上,物理上就别想了。
老冯: 算笔账就明白。一万亿参数按四比特存,光装下就得几十上百片晶圆,还得拼起来。
小雅: 所以那句挺狠的 —— 这玩意儿贵到离谱,只有苹果那种口袋深得能养鲸鱼的才玩得起。
老冯: 而且不只是钱的事。代工、量产、渠道,一整套生态,初创公司拿什么扛。
小雅: 行,硬件聊完,说个更气人的。Windows 11 自带的天气应用,占一个多 G 内存。
老冯: 天气?就显示个今天下雨?我桌上这台跑 30B 的都没它这么能占。
小雅: 因为它压根不是原生应用,是 MSN 天气网页套 WebView2,任务管理器里一堆 Chromium 子进程。
老冯: 不过评论区有个说法挺公道:准确测内存本来就难,私有内存、共享内存、虚拟内存,没有哪个口径是「正确」的。
小雅: 可真正的问题不是那 1G。是系统里同时躺着十套浏览器引擎,每家用自己那份,一套就够的事。
老冯: 对,你要是本来就开着 Edge 或 Chrome,天气那点增量其实没那么吓人,边际效应。我手上这硅脂还没擦干净呢。
小雅: 我刚把一张 Xbox 光盘塞进主机,它让我联网验证,我直接翻过来当杯垫了。空调还罢工,咱俩就靠这台笔记本当暖风机。
老冯: 你发现没,智能是越来越便宜了,刻进硅片、塞进系统,随手就有。但品味和词汇变贵了 —— 知道该问什么、该删什么,这活儿没人替你干。
小雅: 这风扇声你听见没,我脑子里全是白噪音,咱们这期就在暖风机旁边录了。
老冯: 忍忍吧,这台正跑着 30B 呢,空调坏了它就是咱俩唯一的命。我手上这导热膏还没擦干净。
小雅: 说正事。这周 Noema 有篇文章,8 月 6 号发的,标题直接问:为什么搞技术的都这么丧。
老冯: 作者是个创意科技公司的 AI 运营总监。开头写他通勤坐火车,对面一个三十来岁的哥们,对着 MacBook 讲了半小时财务术语。
小雅: 讲到我都困了。结果火车到站,那哥们从包里掏出两根棒针,一团粉毛线,给侄女织帽子,眼睛一下就亮了。
老冯: 就这一下,比他一早上说的所有 EBITDA 都像个人。文章说现在一堆知识工作者想去做陶艺、画画、钩针。
小雅: 还有去华盛顿开山羊农场,或者去哥斯达黎加当冲浪教练。我认识三个说要去开农场的,一个都没去。
老冯: 关键是这波焦虑跟以前不一样。以前怕失业,现在是问这活儿到底有啥意义。
小雅: 评论区吵得挺凶。一边说整个行业信仰真崩了,一边说这就是信息环境放大出来的共振噪声。
老冯: 有句原话挺狠的 —— 这是线上最糟糕的时代,绝大多数内容介于机器人、假新闻、宣传和愤怒诱饵之间。
小雅: 这话说得狠,但你自己刷一天信息流,体感就是这样。末日预测连着来,人不可能不麻。
老冯: 所以我觉得两边都对。结构性的东西是真的,但你的情绪是被喂出来的,你根本分不清哪个是自己的。
小雅: 对,个人体验和行业结构不能混着谈。但也不能因为可能是噪声,就说别人矫情。
老冯: 换个话题。这周 Google 那边也炸了,Hassabis 从 DeepMind CEO 转成主席,Jeff Dean 走了。
小雅: 官方那封信写得可漂亮了,什么站在奇点的山脚下。我每次看到这种词都想问,山脚在哪,门票多少钱。
老冯: 评论区一半人说这是创新氛围衰退的铁证,核心人物都跑了,前沿推进力肯定削弱。
小雅: 另一半说得更实在:问题不在氛围,在流程。从 Preview 到 GA 太慢,审批合规一堆,实验根本推不动。
老冯: 还有人说 Gemini 表现惊人地好,但到 2026 年照样一本正经地胡说八道,ChatGPT 2025 年就不这么干了。
小雅: 我最认同那条:Google 的基础设施是给服务优化的,不是给研究优化的。内部工具烂,一个 dev 干件事要两倍时间,上了 LLM 变十倍。
老冯: 所以你看,这跟第一篇其实是一回事。不是人不行,是人在一个让你使不上劲的系统里。智能变便宜了,品味和词汇变贵了。
小雅: 那哥们织的那顶粉帽子,AI 织不出来。它没有侄女。
老冯: 行了,导热膏擦完了。那张光盘你还要不要,当杯垫挺合适的。
老冯: 各位,录音间的空调这周彻底罢工了,桌上这台跑 30B 的笔记本现在是我们的暖风机。
小雅: 风扇声你们就当白噪音,偶尔卡半秒是显存不够,不是我们忘词。
老冯: 我手上这层导热膏擦了三分钟还没干净,说实话换硅脂比写代码难多了。
小雅: 我这边更离谱,刚把一张 Xbox 光盘塞进主机,它让我先联网验证一下。
小雅: 所以那张盘现在在我杯子底下当杯垫。这周正好有个帖子,标题就是「Xbox 挂了,你买的实体盘也玩不了」。
老冯: 那次宕机从周日晚上开始,数字版玩不了大家还能理解,结果实体盘也一起被锁了。
小雅: 评论区最狠的一句就一句:就一个本职工作,让用户能玩游戏。
老冯: 一家做操作系统的公司,连插盘就能玩都做不到,还有人忙着替它解释硬件性价比。
小雅: 有人直接开喷,说这就是微软的软件质量问题,最糟糕、最混乱、没测过的一堆东西堆在一起。
老冯: 还有人说整个团队弥漫着一种自满的气氛,把一切都往下拖。
小雅: 但我要唱个反调。原文作者自己没那么愤怒,他说实体介质早就不是以前那玩意儿了。
老冯: 他拿 Analogue Pocket 插二十年前的 Game Boy 卡带,黄金太阳开机就跑,谁也拦不住。
小雅: 现在你插盘,它先装进硬盘,再下一堆补丁,那张盘本质上只是一把钥匙。
老冯: 所以「买实体盘就等于拥有」本身就是幻觉,主流叙事该被质疑的是这个,不是骂两句就完事。
小雅: 但另一派也别洗。有人玩 Steam 上的士官长合集,启动要登微软账号,验证码来回循环,一直让你再试一次。
老冯: 这就不是个别体验了,这是抽象层堆到没人说得清哪一层坏了。
小雅: 第二个故事,Docker 出了个 Sandboxes,专门给 AI agent 用,本地到云一个 CLI。
老冯: 任务丢给它,合上笔记本它继续跑,回来一条命令把文件系统搬回来,全程微虚拟机隔离。
小雅: 价格也摆得明明白白,最小一核两 G 一小时七分钱,最大十六核三十二 G 一小时一块一毛二。
老冯: 但评论区第一波就是泼冷水:Docker 不是安全边界。
小雅: Docker 自己的安全文档都在讲「炸弹」的危险,git hooks、package.json 脚本、Makefile 里都能藏东西。
老冯: 然后 Docker 员工出来反驳,说这根本不是容器,是各自带内核的微虚拟机,Linux 上 gVisor、Kata,Mac 上 Tart 起完整虚拟机。
小雅: 这个反驳是成立的,但我觉得两边吵偏了。真正的问题不是边界画在哪,是你敢不敢让它无人值守。
老冯: 而且 macOS 上挂主机文件系统慢到没法用,Linux 支持欠佳,登录流程烦,路径还硬编码。
小雅: 回到这期标题:智能变便宜了,品味和词汇变贵了。沙箱一小时七分钱,但决定让 agent 干什么、不许干什么,贵得要命。
老冯: 游戏那边也一样,光盘几块钱,但「我到底拥有什么」这个概念,现在贵到没人愿意跟你解释清楚。
小雅: 行了,风扇又卡了半秒,我们下段接着聊。
小雅: 又聊了快两个钟头…… 这破空调还是没动静,桌上这台笔记本倒是热得能煎蛋了。
老冯: 三十 B 的模型跑着呢,风扇声都成咱们这期的背景音乐了。我这手上的导热膏还没擦干净,说实话比写代码难多了。
小雅: 不过这周聊下来,我最大的感受就是标题那句话 —— 智能是真变便宜了,便宜到白菜价,可品味和词汇反倒变贵了。
老冯: 对,模型谁都能调,能把人话说利索的越来越少。以后值钱的不是算力,是知道该让它干什么的那颗脑子。
小雅: 还有那张 Xbox 光盘,现在正给我当杯垫呢。联网验证,验证个鬼。
老冯: 这周就先聊到这吧。想听下期的,用你常用的泛用型客户端 RSS 订阅一下就行,更新了自动就到你那儿,别老困在那些封闭平台里。
小雅: 对,泛用型客户端,爱用哪个用哪个,别让人替你决定听什么。行了,我得把这台暖风机搬走了,再烤下去我真要熟了。
老冯: 下次继续扯。有空再聊,别客气。