谁在替你做决定:阿波罗、扫雷与一台会自己除霜的冰箱
About This Episode
本期从 Margaret Hamilton 去世聊起,追问软件工程师这个头衔究竟换来了多少问责;同一周四个模型接连发布,我们却集体无感,于是把价格、缓存命中率和没有 Lean 证明的数学摊开算了一遍。下半场是信任的连环崩塌:超市冰箱被远程开启除霜、咖啡机十天吃掉 1TB 流量、Deno 明明更好却没人要,最后落到扫雷的强制教程和牙医的十四颗蛀牙 —— 为什么我们越来越需要第二意见。
Chapters
Links
老冯: 你等会儿啊,我先把这破咖啡机的网线拔了…… 拔了它还在闪,跟我较劲呢。
小雅: 你拔它网线干嘛呀?它招你了?我这半边脸还麻着,说话都漏风,你别让我笑。
老冯: 它今天早上自己给我推了条消息,说「您该喝咖啡了」,然后顺手替我下单了一包豆子。我一台咖啡机,凭什么替我做决定?
小雅: 巧了,我这边也刚被人替我做决定。牙医说拔就拔,我那个「不」字还没说利索呢,钳子就上来了。
老冯: 所以你现在说话跟嘴里含着一颗糖似的,挺可爱。
小雅: 少贫。不过说真的,这周咱们要聊的就是这个 —— 到底是谁在替你做决定。
老冯: 对,从阿波罗,到扫雷,再到我家这台会自己除霜的冰箱,一条线串下来。
小雅: 阿波罗那个我看评论区都吵翻天了,说它替你排日程、替你回消息,最后连你中午想吃啥都替你选了。
老冯: 扫雷那个更绝。有人让 AI 去玩扫雷,结果它学会的不是推理,是瞎点。有个哥们评论说,这不就是我上班的样子吗。
小雅: 哈哈别逗我,一笑我脸疼。行,那这周就顺着这条线聊:这些自动化的东西,到底是帮了我们,还是把我们养废了。老冯你先把网线插回去,别真把咖啡机逼急了。
老冯: 先说好,我这边背景音可能是路由器在闪 —— 我刚把咖啡机的网线拔了。
小雅: 你等会儿…… 我半边脸还麻着,说话漏风,你先把这事讲清楚。
老冯: 它半夜自己连云端推固件,早上弹窗说「您的咖啡机已完成升级」。一台咖啡机,升级它磨豆的心情。
小雅: 行吧,这很符合咱们今天的主题。
老冯: Margaret Hamilton 走了,9 月 30 号,90 岁。MIT 这周发的讣告。
小雅: 阿波罗登月飞行软件的总负责人,MIT Instrumentation Lab,手下四百多人。
老冯: 那张照片你知道吧,她站在一摞跟她差不多高的代码打印稿旁边。
小雅: 1969 年拍的,Lunar Module 和 Command Module 两套软件都是她带的队。
老冯: 一百三十多篇论文,2016 年奥巴马给她颁总统自由勋章,2017 年还进了 Lego 的 Women of NASA 套装。
小雅: 然后评论区在吵 —— 不是吵她牛不牛,是吵「software engineer」这个头衔配不配。
老冯: 有人原话:把 software 和 engineer 两个词拼一块儿,算不上什么天才创举。
小雅: 还有一句更绝,说人们太小题大做了,该去关注别的事。
老冯: 说实话,我有一半同意那哥们。头衔这东西,喊得响不等于做得实。
小雅: 我完全不同意,这真不是装饰品,头衔是问责的入口。
老冯: 那你回答我,现在哪个写软件的真像桥梁工程师那样签字担责?桥塌了是要上法庭的。
小雅: 这就是关键 ——Hamilton 争的是「应该」,行业接住的只是「称号」。
老冯: 所以真正的论据不是那个词,是 1201 和 1202 那两个警报。
小雅: 对,登月下降那几分钟计算机过载了,优先级调度直接把低优先级任务砍掉,保住七个关键任务。
老冯: 那不是艺术,那是设计。是提前把「出事的时候谁先死」写进代码里。
小雅: 「谁在替你做决定」—— 这不就是咱们这期的标题。
老冯: 跟我家那台会自己除霜的冰箱一个道理,除霜优先级高于制冷,肉就臭了。
小雅: 你这比喻土得掉渣,但它真的成立。
老冯: 所以「工程师」这词的价值不在好听,在于它逼你把优先级和失败模式写下来、签上名。
小雅: 而「码农」「搞技术的」「开发者」,听着轻松,责任也跟着轻松。出了事一句「这是 beta」就完了。
老冯: 不过我也警惕另一头 —— 头衔一升级,立马有人拿它当护身符,搞认证、搞牌照、搞门槛,最后变成收保护费。
小雅: 那也比现在强。至少得有人为那七个任务负责。
老冯: 我现在蹲在厨房地上,刚把咖啡机的网线拔了。路由器还在那儿闪,像在跟我抗议。
小雅: 你拔它网线干嘛?我这边刚从牙科诊所逃出来,半边脸还麻着,说话漏风,你担待点。
老冯: 一台会自己除霜、自己下单买豆子、还偷偷上传数据的冰箱,我受够了。这周正好三个事,全是这个味儿。
小雅: 先说 Mistral。十月六号发的 Large 4,官方外号叫 le Chonk,一万一参数总量,五千二百亿激活,原生多模态。
老冯: 名字起得挺诚实,胖。三千八百张 Grace Blackwell,欧洲自家机房从零训的,月底放权重。
小雅: 对,还强调了一句「欧洲锻造,为 AI 主权而生」。听着挺燃,但我先看评论区。
老冯: 评论区吵的根本不是榜单。有人实测,把推理档位从 none 调到 high,输出几乎没差别。
小雅: 更离谱的是 high 档反而吐的 token 更少。那我多花的钱买了个啥?买了个心理安慰?
老冯: 他们拿鹈鹕骑自行车那个老梗做对比,不同模型画出来的结构差得离谱。还有人写「穿渔网袜的犰狳在火星上乱穿马路」。
小雅: 这就是在阴阳:你们这些评测任务本身就荒唐,还一本正经地排名。
老冯: 最扎心的是那句 ——「每个帖子里都有人提这事,大家都注意到它们越来越像了」。
小雅: 越来越像,是因为训练数据同源、评测集同源、连 RLHF 的口味都同源。同质化不是巧合,是路径依赖。
老冯: 所以真正的问题不是「高推理有没有用」,是这玩意儿到底可不可靠、能不能上生产。榜单回答不了这个。
小雅: 第二个事更微妙。OpenAI 放了一批内部前沿模型做出来的数学结果,还掏了五百万美元给 Simons Foundation。
老冯: 仓库放 GitHub 上,很多证明给了 Lean 形式化,还请了高等研究院的顾问组定规范。姿态做得很足。
小雅: 但评论区有人一句话就把气氛拉回来了:「这个连 Lean 证明都没有,我只能硬啃论文了」。
老冯: 还有更狠的:「一切都是保密的,没有 API,没有 model card,你根本不知道它怎么得出这个结果。数学一直很在乎透明。」
小雅: 以及那句「普通公民能接触到的技术,几乎做不到这里面任何一件事」。这话我认。
老冯: 大家吵的是「AI 会不会做数学」。我觉得吵偏了。真问题是署名权和验证权 —— 谁有权说这个证明成立。
小雅: 对,可重复性是学术的地基。地基要是变成「你信我」,那不叫进步,那叫教会。
老冯: 第三个,DeepSeek 4.1 Flash。那篇博客标题就很挑衅:业界怎么不慌?
小雅: 作者说自己一个月十几个项目重度用,十美元的订阅基本无限,中途不看模型名根本分不出是它还是 Opus。
老冯: 价格也确实狠。它每百万 token 输入三毛、输出一块二,Opus 5.5 是四块和二十块。差一个数量级。
小雅: 但评论区有人泼冷水:便宜供应商缓存命中率低,省下的钱全被 cache miss 吃回去了。
老冯: 还有那句我特别喜欢的 ——「对开源模型算成本有奇怪的双重标准,那些开销直接被无视」。
小雅: 也有人纠正说 DeepSeek 从来没补贴过套餐,当年是容量撑不住才调价,不是取消补贴。
老冯: 你看,三个故事拼起来是同一件事:所有人都在算便宜多少、快多少,没人问是谁在替你做决定。
小雅: 模型替你判断、替你验证、替你定价。你只负责点确认。这比贵不贵可怕多了。
老冯: 所以我把咖啡机网线拔了。它至少现在只会煮咖啡,不会替我决定今天该喝什么。
老冯: 你那边什么动静,说话怎么像嘴里含着一颗核桃。
小雅: 别提了,刚从牙科诊所逃出来,半边脸不是我的,麻药还没退。
老冯: 那你少说两句。我这边也刚干完一件蠢事,把咖啡机的网线拔了。
小雅: 咖啡机还要网线?这年头连除霜都得联网,谁在替你做决定啊。
老冯: 正好,这就是今天的主题。先说这周最大的新闻,Deno 整个团队加入 Cloudflare。
小雅: Ryan Dahl 十月九号亲自写的博客。从 Deno 到 Deno Deploy 再到 celld,想把 Workers 那套编程模型变成写服务器的默认方式。
老冯: 代价是一年漏洞修复加月度更新,然后停止开发。代码开源,没人接手就自生自灭。
小雅: 「加入」这词用得真妙,听着像升职,其实是收编。
老冯: 评论区那句我服气 —— 没人说 Deno 整体不如 Node,它明显全面更好,可就是没人在乎。
小雅: 狠就狠在它是对的。ES 模块、Web API、权限模型,Node 现在全在抄。
老冯: 所以问题从来不是好不好,是换不换。你重写一遍依赖链,谁给你发工资?
小雅: 憋屈。技术上赢了,商业上输了。还有人说,Deno 要是真提供了人们在乎的改进,它肯定能活下来。
老冯: 这就是分歧点。推动行业和养活自己是两件事。有人说得更直白,早就看出苗头,Deno 是个 miss。
小雅: 但我更在意另一层。Cloudflare 把 runtime、部署、编程模型全收了,以后服务器长什么样,它说了算。
老冯: 对。你以为你在选技术栈,其实你在选谁替你做决定。
小雅: 说到这个,htmx 作者 Carson Gross 这周有篇文章,叫「Yes, and」。学生问他,有 AI 了还该不该学编程。
老冯: 他说该,而且你得自己写代码。AI 对初级程序员特别危险,你不写,就永远读不懂。
小雅: 魔法师的学徒那个比喻,造出一堆自己看不懂也控制不了的系统。
老冯: 他还说,写代码变成写提示词,不等于汇编变成高级语言。这个类比是假的。
小雅: 这里我要抬杠。改源码结果可预测,改提示词得跑一遍才知道 —— 可跑一遍很快啊,测试不就是干这个的?
老冯: 测试能告诉你它坏了,不能告诉你它为什么坏,更不能告诉你它在什么情境下不该这么干。模型读不了人心。
小雅: 评论区还有更狠的,说另一种可能是 AI 干脆把软件工程这个学科删掉,所有东西都 vibe coded。
小雅: 但我还是觉得效率挡不住。你不 vibe,别人 vibe,市场不等人。
老冯: 那就绕回 Deno 了。技术上更优雅的那个,最后被生态吃掉。你觉得这是进步还是悲剧?
小雅: 算提醒吧。别把「更好」当免死金牌。我脸还麻着,但这话我同意。
老冯: 我现在的姿势很微妙,蹲在厨房地上,手里攥着一根网线,刚从我家咖啡机上拔下来的。
小雅: 你拔它干嘛…… 我这边半边脸还麻着,说话漏风,你就不能让我省点力气。
老冯: 因为这周有个哥们干了跟我一模一样的事。他帮爸妈管网络,一看流量,咖啡机十天跑了一个 TB。
小雅: 一个 TB?咖啡机?它是把每颗豆子的祖宗十八代都上传了吗?
老冯: 标题就是这么写的,X 上那条帖子直接点名 Keurig,说立刻拔电,给爸妈换台新的。
小雅: 但后来他自己澄清了吧,说大部分流量根本没出家门,是在局域网里打转。
老冯: 对,他干了十年 IT,回头一查,发现是设备自己在内网里疯狂扫,把他那个 AP 都给打满了。
小雅: 所以不是偷偷上传,是在自己家里搞广播风暴。这更离谱好吗,纯纯的 bug。
老冯: 评论区有个说法我特别喜欢,说这不是往外传一个 TB,是局域网里一个 TB 的元数据嗅探扫描。
小雅: 然后那句更狠 —— 糟糕的 QA 把这事放大成了公关灾难。要是每周扫一次,差分一下传几 KB,谁会发现?
老冯: 这句话其实点到了要害。真正的问题不是它想偷什么,是它压根没人管。
小雅: 对,我就要说这个。一个联网设备,行为没有上限,没有速率限制,没有退避,出事了让用户自己拔网线。
老冯: 而且还有人说,指控 Keurig 卖家庭数据纯属瞎编,没证据。这点得说清楚,别把 bug 说成阴谋。
小雅: 但反过来,厂商也没给你任何可观测性啊。你只能靠路由器那张流量图猜它在干嘛。
老冯: 这就是智能家居的现状:设备很智能,用户很瞎。
小雅: 然后我们看第二个故事,欧洲超市的冷柜被人远程开了除霜。
老冯: 这个我是真坐直了。法国、比利时、荷兰,好几家连锁,Intermarché、Leclerc、Coopérative U,全中。
小雅: 手法听着像恶作剧,把冷柜设成五十度持续除霜。但后果是生鲜全毁,配送和电子价签也跟着瘫。
老冯: 评论区有个哥们一句话把我说服了:用户名是 admin,密码每天自动重置成当天日期。这哪是黑客攻击,这是严重失职。
小雅: 成本几乎为零,损失上百万。这个不对称才是最恐怖的。
老冯: 还有人说这些控制器直接挂在公网上,插个 3G、4G 的 SIM 卡就完事,夏天就发现过漏洞,只补了一部分型号。
小雅: 所以争论「该不该联网」其实有点跑偏。冷链设备联网有它的价值,问题是它被扔在公网上裸奔。
老冯: 我同意。要么关进一个超低级别的私有网络,要么就得配一支 7x24 的安全团队。中间那条路最要命。
小雅: 说白了,两台机器一个毛病:默认它能联网,但没人默认它会被攻击。
老冯: 行了,我网线还攥着呢。这台咖啡机以后就当我家的哑巴家电吧。
老冯: 你半边脸还麻着吧?说话都漏风,像嘴里含了颗糖。
小雅: 别提了,刚从牙科诊所逃出来,麻药还没退,我自己说话都听不清。
老冯: 那你先别急着骂人,我怕你咬到舌头。我这边刚把咖啡机的网线拔了。
小雅: 等一下,咖啡机为什么会有网线?
老冯: 好问题。它得联网才能优化萃取曲线。我拔了它照样出咖啡,还快两秒。
小雅: 这不就跟这周那个 AAA 扫雷一个道理嘛。
老冯: 那个 minesweeper 网站是吧,把扫雷做成三 A 大作,两百个 G 的下载,多人模式还强制安装。
小雅: 最绝的是字幕直接挡住棋盘,旁白还一直叫你集中注意力。评论区有人说,这讽刺准得让人难受。
老冯: 还有那个箭头,明明白白告诉你下一格点哪儿。跟着点,这游戏还玩个啥。
小雅: 有人吐槽说,哪个三 A 游戏会让你一上来就能玩,连跳过教程都不用点一下。
老冯: 但另一派说,它只是把行业毛病放大一遍,反而把扫雷本来那股直球劲儿给毁了。
小雅: 我站这派。讽刺归讽刺,我点开三秒就想关掉,这体验本身就够操蛋的。
老冯: 说到这个,我今天看牙也是同一个剧本。医生说我有十四颗蛀牙,三颗要戴牙冠。
小雅: 十四颗?你嘴里一共才多少颗牙啊。
老冯: 我跑去看了第二家,人家说没事。有个记者跑了五十个州看五十个牙医,诊断五花八门。
小雅: 同一家诊所两个医生都能吵起来,一个说必须做,一个说纯属浪费钱。
老冯: 所以你看,牙医替你决定,游戏替你决定,现在连咖啡机都想替你决定。
小雅: 谁在替你做决定,这标题起得真准。我先等麻药退了,再决定要不要骂人。
老冯: 我现在蹲在厨房地上,刚把咖啡机的网线拔了,路由器那灯还一闪一闪的,跟心跳似的。
小雅: 我这边更惨,刚从牙科诊所逃出来,半边脸还麻着,说话漏风,你凑合听。
老冯: 你这口音,像开了变声器还掉了个包。
小雅: 说正事。这周有个网站叫 Fleeting,专门给人放假的会议背景音。
老冯: 我看了。每段十二分钟,随机起点,人声全是合成的,人脸是 AI 生成或者买的素材,名字除了作者自己全是编的。
小雅: 最骚的是它还能往你日历里塞个假会议,浏览器本地生成,啥都不往外发。勾上背靠背会议,一场完了自动接下一场。
老冯: 人类为了不被开会,开始自己给自己造会议。这进化路线我是真服。
小雅: 以前在工位戴个大耳机,那是物理防御;现在升级成音频防御了,还得配个「我得走了」的退场按钮。
老冯: 评论区吵的其实不是这个站,是那个老问题:日历上锁一块专注时间,到底挡不挡得住会议轰炸。
小雅: 有个原话特别真实,说这事得老板出面才有分量,别人想占这块时间,我就说「你得去找 Alex 谈」。
老冯: 翻译一下就是:这块护盾的强度,不取决于你多想要专注,取决于你老板愿不愿意替你当那个坏人。
小雅: 还有一句更扎心的,说他们就是直接把会排进那个时间段,默认你一个干活的不会去质疑他们的权威。我上家公司就这样,专注块排满了,最后变成晚上加班补。
老冯: 管理层最爱那套 —— 把两个人拉起来说句话不就解决了。听着像解决问题,其实是绕开问题。
小雅: 行,说个暖一点的。这周还有个帖子,一个人资助坦桑尼亚农村一个女孩上学,一资助就是十年。
老冯: 他十九岁在东非晃荡,住在一个叫 Ibumila 的村子,村里没学校,最近的寄宿学校在一小时外,一年几百美元,当地家庭基本掏不起。
小雅: 那家女儿当时十一岁,今年从达累斯萨拉姆大学毕业了,还申上了斯瓦希里语的硕士。整个十八个月读下来,一千一百六十一美元。那地方读完大学的人大概只有百分之二。
老冯: 后来他注册了个基金会,现在供五个孩子,学费加医疗,没人拿工资。评论区有句话我记着了 —— 二十五美元在美国多数城市连个好披萨都买不到,但在那边购买力惊人。
小雅: 听着挺燃的,但我也有点犹豫。一对一资助是好事,可它到底能不能改变一个村子的长期前景,还是只是把几个人的命运单独拎出来。
老冯: 所以有人提醒,一个指标一旦变成目标,它就不再是好指标了。这话搁资助、搁专注时间、搁咱们的 OKR,全都成立。
小雅: 我这半边脸还是麻的,说话漏风,但脑子清楚。这周聊下来我最大的感受就一句:决定权这玩意儿,正在被人悄悄拿走,而且拿得特别有礼貌。
老冯: 我这边正蹲厨房地上呢,刚把咖啡机的网线拔了。你说它一个煮咖啡的,自己连网、自己更新固件、自己决定凌晨三点开始除霜,我买的是咖啡机还是请了个管家。
小雅: 你看,阿波罗那种大工程,扫雷那种小玩具,中间夹着一台会自己除霜的冰箱,其实是一条线上的东西。都是「它替你想好了」,你只需要点头。
老冯: 而且最骚的是,它不告诉你它想了什么。你只看到结果,看不到过程,出了事还找不到人问。这周那几个话题凑一块儿,味儿特别冲。
小雅: 行吧,又聊了这么久,我腮帮子都僵了,得赶紧回去躺着。这周就先聊到这。
老冯: 下次继续扯。对了,想听下期的话,用你常用的泛用型客户端 RSS 订阅一下就行,更新了自动就到你手里。
小雅: 对,这个我特别想说 —— 别让平台算法替你决定听什么,这周的主题刚好就是这个。自己订阅,自己选,多痛快。
老冯: 行,我去把网线插回去…… 算了,先不插,让它冷静一晚上。有空再聊,下期见。