谁在给开源投毒,谁在给超声贴金
About This Episode
本期从一条伪装成招聘的 LinkedIn 私信聊起,一路挖到一万个投毒的 GitHub 仓库,追问平台到底是没能力还是没意愿。接着我们把本地大模型和开放权重的真实体验摊开算账,再拆穿一场把旧超声设备包装成 AI 全身扫描的营销秀。最后聊聊身份验证、校园禁令,以及为什么有人愿意一年又一年给一个编程语言打钱。
Chapters
Links
小雅: 老冯,你这风扇能不能先停一下?外面雷阵雨下得跟倒水似的,屋里还嗡嗡嗡,我脑子快炸了。
老冯: 停不了啊,这玩意儿刚跑完一个本地模型,外壳烫得能煎鸡蛋。我在树莓派上折腾了一整晚,就为了让它别一开口就胡说八道。
小雅: 行吧,那我先灌口冰咖啡压压火。我今天被一家公司的 AI 客服绕了整整四十分钟,来回兜圈子,最后还得靠人工才解决。
老冯: 四十分钟?你这耐心可以啊。我一般三轮就开始跟它互相阴阳了。
小雅: 别提了,火到现在还没消。不过正好,这周节目有得聊 —— 一边是有人往开源里投毒,一边是有人给超声贴金。
老冯: 开源那边这周确实不太平。有人往依赖包里塞东西,供应链这一刀捅得挺深,你装个包等于把家门钥匙递出去。
小雅: 对,还有那个超声的,AI 两个字一贴,什么都能吹成革命性突破,听得我鸡皮疙瘩都起来了。
老冯: 贴金嘛,贴得比机器本身还厚。等会儿咱们好好扒一扒,看看底下到底是真材实料还是糊了层漆。
小雅: 那就开始吧,欢迎收听 HN 瞎聊。这周我们就聊这两件事,顺便看看评论区那帮人是怎么吵起来的。
小雅: 先说好,我今天火气不太顺,刚被一家公司的 AI 客服绕了四十分钟,最后还得靠人工。这期这两个故事,正好都往我枪口上撞。
老冯: 我这边风扇还在转,树莓派外壳烫得能煎蛋。行,你先开炮,我负责泼冷水。
小雅: 第一个故事。LinkedIn 上有个自称小 crypto 创业公司的招聘官找上门,聊了几天,说有个烂掉的 PoC 缺 lead engineer,甩了个公开 GitHub 仓库让她 review,还特意说「看看那个废弃的 Node 模块问题」。
老冯: 经典话术。作者警觉,没在自己机器上 clone,而是开了台 Hetzner 的一次性 VPS,把 Pi 挂上去,只给 read、grep、find、ls 四个只读工具。
小雅: 然后那个 agent 几乎秒停在 app/test/index.js,两百五十行伪装成测试套件的东西。
老冯: 里面把 URL 拆成碎片再拼:https、store、双斜杠、/icons/、77、rest-icon-handler、logo,拼出来一个 rest-icon-handler.store 的地址。第 225 行,夹在一堆注释掉的测试中间,服务器返回什么,就在你机器上跑什么。
小雅: 最阴的是触发方式。app/index.js 里 require 了 ./test,package.json 的 prepare 又跑 node app/index.js,而 npm 装完依赖会自动执行 prepare。也就是说,你只是想装个依赖,就已经中招了。
老冯: 所以这事的核心不是「钓鱼邮件」,是「招聘流程本身就是攻击面」。它赌的就是工程师的职业习惯:看代码、装依赖、跑测试。
小雅: 评论区最扎心那句我得念一下 ——LinkedIn 根本没有任何办法让一家公司去否认那些自称在它那儿上班的人。公司连「这人不是我们员工」都声明不了。
老冯: 对,平台给你一个举报按钮,然后呢?还有人说,LinkedIn 和 GitHub 明明知道这类供应链攻击的终点就是假招聘和假仓库,但既没有一等公民的举报通道,也没见系统在改进,连个警告都不给。
小雅: 还有个哥们说,他后来也收到类似 offer,反手让对方给他打了两次钱。这个我是真服。
老冯: 那是把社工反打成提款机,民间正义。但你别拿这个当治理方案啊。
小雅: 我的观点很直接:平台有数据、有模型、有审核团队。LinkedIn 完全能做出「新注册账号 + 短时间群发招聘 + 外部仓库链接」这种组合风控。它不做,不是不能,是不想。成本是它的,风险是你的。
老冯: 这话我一半同意。但你看第二个故事就知道「筛」有多难。有人扒出一万个 GitHub 仓库在分发木马,不同贡献者、不同名字、不是 fork,但模式一模一样。
小雅: 他是怎么发现的?Bing 搜自己项目名,搜出来一个同名同描述的仓库,commit 全抄了,还把他列成贡献者,然后一小时前推了个 commit,只改 readme,加了个 zip 链接。
老冯: 那些仓库每隔几小时就把上一个 commit 删掉,重新推一模一样的,唯一变化就是 readme 里的压缩包链接。zip 里是 Application.cmd、loader.exe 或者 luajit.exe、一个随机名的 .cso,还有 lua51.dll。
小雅: 最阴的是,你把链接丢进 VirusTotal,零检出;把 zip 本身传上去,才报木马。链接和文件是两套检测逻辑,中间那道缝就是给人钻的。
老冯: 他找 GitHub support 报,两周没回音。问 AI 怎么办,AI 给的建议没用;开个讨论帖,三个人回的全是 AI 生成的废话。
小雅: 你看,这就跟我今天被 AI 客服绕四十分钟是姊妹篇。AI 把「回复」这件事的成本降到零,于是所有人都开始用废话填坑。
老冯: 所以回到治理。评论区有人提议用创建时间、star 时间、更新频率这些启发式去筛。问题是这些指标一旦成了判据,攻击者第二天就改。这是对抗,不是过滤。
小雅: 但「筛不准」不等于「不该筛」。一万个仓库人工看不过来,模型先粗筛、再人工复核,误伤率能压下去。现在的问题是它连粗筛都不愿意做 —— 有人报了几十个恶意仓库,最后自己放弃了。
老冯: 那句原话最狠:GitHub 对恶意软件的规模根本不在意。我倒觉得不是不在意,是它的激励结构里,下架一个仓库的收益,远小于误杀一个正常仓库的公关成本。
小雅: 那你说怎么办?总不能每个开发者都自己开 VPS、自己养个 agent 审代码吧。
老冯: 恰恰相反。第一个故事真正的英雄不是举报,是「只读工具 + 一次性环境」。默认不信任、默认沙箱、默认最小权限。平台该做的是把这条路铺平,而不是让你自己焊。
老冯: 评论区还有句话我记着 —— 这些不是针对人的,是针对 agent 的。可抓到这个后门的也是 agent,几秒钟。所以答案不是「要不要 AI」,是「AI 有没有被关在笼子里」。
小雅: 行,这句我认。但我还是要说:笼子得平台来造,不能指望每个用户自己焊。
小雅: 老冯,你桌上那玩意儿还在嗡嗡转呢?外面打雷,你这儿也打雷。
老冯: 刚跑完一轮,外壳烫得能煎蛋。我这不是响应本周主题嘛,本地模型。
小雅: 就是那篇 Vicki Boykis 写的,说本地模型终于好用了。她拿一台 2022 年的 M2 Mac,64G 内存。
老冯: 对,Mistral 7B、Gemma 3、GPT - OSS - 20B、Qwen 3 MoE 全试过,llama.cpp、Ollama、LM Studio 一圈折腾下来。
小雅: 她那句判断标准我挺喜欢,说看自己还要不要拿 API 模型对一遍答案。
老冯: 很诚实的一个指标。她说 GPT - OSS 之后,需要复核的次数明显少了。
小雅: 然后 Gemma 4 出来,她能在本地跑 agent 编码循环,说大概到前沿模型百分之七十五的水平。
老冯: 百分之七十五,这数字其实挺吓人的。两年前本地能到百分之三十就不错了。
小雅: 可剩下那百分之二十五,恰恰就是你要盯着它、怕它出错的部分。效率账我算不过来。
老冯: 账不能这么算。本地跑是无限次调用,不花钱,不联网,代码不出机器。
小雅: 但评论区那句太准了,聪明的太慢,快的全是错。dense 模型聪明但慢,MoE 快但老犯错。
老冯: 那是选型问题,不是路线问题。你得知道自己要什么,再挑模型。
小雅: 还有人说,四比特量化直接把工具调用能力给切了,原话是给模型做了脑叶切除。
老冯: 这个我信。要工具调用稳,就得往上抬到五六比特,显存立刻翻脸。
小雅: 所以能跑多大,上限就是显存加内存。有人提九十六 G 显存才够把 KV 缓存撑起来。
老冯: 对,而且笔记本会变成一台又吵又烫的机器。我桌上这台就是活体证据。
小雅: 那她标题写「现在好用了」,算不算标题党?
老冯: 她自己都写了,别指望下载下来就开箱即用,模板、量化、参数,一堆要调。
小雅: 真正让我火大的是工具链。Ollama 和 jinja 模板对工具调用支持烂得离谱,这不是模型的问题。
老冯: 这是生态链的锅。模型再强,模板打包错了,agent 一样跑不起来。
小雅: 行,那说第二个。GLM-5.2 在 Artificial Analysis 上拿了五十一分,开源权重第一。
老冯: 七百四十四 B 总参数,四十 B 激活,跟上一代同尺寸,分数直接涨了十一分。
小雅: 把 MiniMax-M3 和 DeepSeek V4 Pro 都甩在后面,价格还没涨,输入一块四。
老冯: 但你看它每个任务烧四万三千个输出 token,上一代才两万六。这涨得有点凶。
小雅: 评论区有人实测,十五分钟、四万二千 token 才出结果。这谁受得了。
老冯: 所以有人阴阳怪气,说拿思考模型去蒸馏,效果其实很一般。
小雅: 还有更狠的,说 OpenAI 和 Anthropic 把中间 token 藏起来,所谓透明推理就是营销。
老冯: 这话糙理不糙。你藏了过程,只给我一个漂亮答案,那和黑箱有什么区别。
小雅: 可它在 GDPval 上拿了一五二四,跟 GPT-5.5 的高强度推理打平。开源追到这一步,我觉得值。
老冯: 科学推理那块确实涨得猛,CritPt 加了十六分。但你看 tau3 银行场景才百分之二十七。
小雅: 所以 agent 落地还早。分数好看,真让它去点银行网页,还是抓瞎。
老冯: 你发现没,两件事其实是同一个结论。本地模型要调硬件,长思考模型要调 prompt 和预算。
小雅: 没有一个是开箱即用的。所谓「好用了」,翻译过来就是「你得先当半个工程师」。
老冯: 对,而且这半个工程师还得忍受风扇在耳边嗡嗡叫。你听,它又开始了。
小雅: 先说好,我今天情绪不太稳定。刚被一家公司的 AI 客服绕了四十分钟,最后连按五遍转人工才解决。
老冯: 四十分钟?你这耐心可以啊。我桌上这破树莓派跑本地模型,风扇嗡嗡响,外壳烫得能煎蛋,都比那客服有温度。
小雅: 它全程在那儿「我理解您的困扰」。理解个鬼,我要的是退款。
老冯: 那咱这期正好撞上了。这周有份调查,说六成美国消费者看到品牌宣传里挂「AI」俩字就反感。
小雅: 六成?剩下那四成是不是还没被坑过。
老冯: 数据挺狠。74% 的人说现在的互联网比十年前更不像人待的地方,平均四十分钟就开始机器人疲劳 —— 你这刚好卡在临界点上。
小雅: 行,我算是标准样本了。
老冯: 还有个数字更逗。61% 的消费者说不出任何一个 AI 用得好的品牌,可企业每周花十六个半小时去优化自己在 AI 里的曝光。
小雅: 十六个半小时,优化了个寂寞。这不就是 SEO 换皮吗,以前求 Google,现在求 ChatGPT。
老冯: 而且这行当连标准都没有。做 AI 品牌可见度的工具,价格从免费到六位数,谁也不知道什么叫好。
小雅: 评论区有句话我特别喜欢 —— 没有哪个用户早上醒来会想,今天真希望能跟聊天机器人聊一聊。
老冯: 这话扎心。但更扎心的是另一条:AI 客服 80% 的解决率听着挺美,剩下那 20% 才是要命的。
小雅: 对,因为人只记得自己被卡住的那次。80% 的顺畅是应该的,20% 的失败是背叛。
老冯: 还有人说,客服的问题从来不是前线的人不行,是前线的人没权限。你给他 AI 不给他授权,等于给哑巴换了个更快的嘴。
小雅: 所以问题根本不在 AI,在流程。可品牌方偏不这么想,他们觉得挂个 AI 就是创新。
老冯: 说到挂 AI 贴金,这周还有个更猛的。Midjourney,画图那个,宣布要做医疗了。
小雅: 我看到了。Midjourney Medical,说要造一台机器,像 MRI 一样强大,像去 spa 一样轻松。
老冯: 原文写得跟布道似的。开头先问你,我们希望什么变得不一样,然后才说我们要卖什么。
小雅: 我最烦这种。核心指标居然是每美元每秒多少兆字节的身体信息,听着挺工程师,其实就是把身体当硬盘。
老冯: 然后怎么扫?走进一池金色的光。我看到这儿就笑了,这哪是医疗器械,这是会所。
小雅: 评论区有个哥们说得特别到位 —— 这不是什么激动人心的新成像方法,就是把现成的医疗产品重新包装成一个非医疗的、更贵的 spa 体验。
老冯: 而且技术上真站不住。超声穿不透肺,肠子里有气就挡,脑子外面包着骨头,能进去一点但非常有限。所谓全身,物理上就不成立。
小雅: 还有人说,四十个探头挂在一个呼啦圈上,离身体那么远,还不如一个探头贴上去。除了快几分钟,没有任何价值。
老冯: 这句最狠,因为它是从工程角度拆的,不是情绪。但我也得说句公道话,Butterfly 那家的便携超声芯片 FDA 批了,诊断价值是实打实的。
小雅: 所以不是超声不行,是「全身」这个词不行。技术本身在进步,一加上全身、AI 增强、spa 体验,就变成过度承诺了。
老冯: 而且你想想,真做全身筛查,查出来一堆假阳性谁负责?最后还得回医院,多一层焦虑而已。
小雅: 哎,这下串起来了。Midjourney 给超声贴金,品牌给 AI 贴金,本质都是把现成的东西重新包装,然后收溢价。
老冯: 两边话术都一样:我们站在前沿,我们在重新想象,我们关心你的体验。听着都像同一家公关公司写的。
小雅: 我烦的就是这个。真有本事你就把肺穿透了给我看,别在那儿金色的光。
老冯: 不过我也得唱个反调。骂得爽归爽,Midjourney 至少敢往硬件里砸钱,比那些只会做套壳 App 的强多了。
小雅: 这我同意。问题不是他们做医疗,是他们做医疗的方式 —— 先讲故事,再补物理。
老冯: 对。医疗这行有个规矩,你不能先有愿景再有证据,得反过来。这周的主题就一个:包装越来越贵,东西越来越薄。
小雅: 先说这周最离谱的一条 ——SpaceX 花六百亿美元,全股票,把 Cursor 的母公司 Anysphere 买了。
老冯: 火箭公司买代码编辑器,听着像马斯克半夜刷手机手滑下的单。
小雅: 人家上周刚在纳斯达克上市,估值冲到两万多亿,转头就开始买买买。
老冯: 二月才把 xAI 收进来,现在又补个 Cursor,这是要把写代码这条线整个包圆。
小雅: 招股书里跟投资人吹的是二十八点五万亿的市场,我念这数字都觉得虚。
老冯: 二十八点五万亿,比我桌上这台树莓派还烫。风扇嗡嗡转半天,外壳能煎蛋。
小雅: 评论区直接开喷了,说 Cursor 就是弹窗烦人,而且就是不如别人。
老冯: 这话我信一半。弹窗是真烦,但说不如别人,得看谁在用、干什么活。
小雅: 支持那派说它的计划模式、自动生成测试,在特定场景效率高得吓人。
老冯: 还有人估它市场份额二十到二十五个点,纯凭感觉,一个数据都没有。
小雅: 最扎心的是那句,说围绕工具做提示词工程,一年左右就过时了。
老冯: 这个我认。工具会换,但把活儿拆成步骤的本事,不会过时。
小雅: 还有个乐观派说,五年后他们基本就「拥有」写代码这件事了。
老冯: 拥有?我看是租。全股票交易,锁的是估值,不是人心。
小雅: 说到人心,我今儿被 AI 客服绕了四十分钟,最后还是靠人工才解决。
老冯: 你看,这就是我不太信「代理式」这三个字的原因。
小雅: 换个轻松的。苹果那个防晕车的小点,你试过没?
老冯: 试过。坐车看 Kindle 真能撑住,就是盯着点看,字就飘。
小雅: 评论区有人说,盯着点而不是后面的文字,恶心感反而又回来了。
老冯: 对,这玩意儿本质是分散注意力,不是治病。跟我喝冰咖啡压火一个道理。
老冯: 这风扇还在转,树莓派外壳烫得能煎蛋了。刚跑完本地模型,我一边擦汗一边刷到 Carmack 那条推。
小雅: 你先别提推,我刚被某家的 AI 客服绕了四十分钟,最后还得靠人工。冰咖啡都快喝完了,火还没下去。
老冯: 哈哈,那正好,这条推也是关于「人到底该干什么」的。Carmack 说 Bellard 可能是整体上更强的程序员。
小雅: 这条我看了。评论区直接分成两派,一派说看代码质量,一派说真正稀缺的是选题判断力。
老冯: 对,那句最扎人的话是 —— 决定做什么,也许是人生中最重要的问题。我读完愣了几秒。
小雅: 这话我认。我去年花了三个月重构一个内部工具,架构画得跟艺术品似的,结果上线没人用。
老冯: 我比你还惨。我搞过一个自认为优雅到不行的调度器,最后只有我自己在跑。
小雅: 反过来我三天糊出来的一个破脚本,公司一半人在用。你说这上哪说理去。
老冯: 所以评论区那句「代码质量就是速度,就是覆盖范围」我觉得挺妙。读不懂的代码,你根本扩不出去。
小雅: 但有人拿这个当挡箭牌,说 Bellard 主要发 POC,Carmack 发成品,所以前者不如后者。这就有点恶心了。
老冯: 还有人说他代码不漂亮不优雅,不像 Mozart。我看到这句就想笑,人家一个人干了一个团队的活。
小雅: 对,漂亮是加分项,不是入场券。真正难的是你选对了要做什么,然后还真把它做出来。
老冯: 说到做出来,这周还有个事。Mitchell Hashimoto 又给 Zig 基金会捐了四十万美元,累计七十万了。
小雅: 这个我服。真金白银,不是发个推说「开源很重要」就完事。
老冯: 结果评论区还是有人挑刺,说高调大额捐赠会带来话语权,破坏社区公平。
小雅: 他回得也够狠,说自己已经不是亿万富翁了,一部分是交了天文数字的税,一部分是每年捐出去的远不止四十万。
老冯: 还有一句更直接 —— 玩「我的捐款比你的更值钱」这种游戏,没有任何建设性。这话说得挺到位。
小雅: 而且他明说了,自己重度用 AI,也不完全认同 Zig 那套禁 LLM 贡献的政策,但还是尊重。
老冯: 这就是我最喜欢的一段。项目可以怪,可以有自己奇怪的边界,不一定让所有人舒服。
小雅: 所以这两件事其实是一件事 —— 有人真在选对的东西,有人真在掏钱撑着。剩下的都是嘴上功夫。
老冯: 行了,外面雷声起来了,我这机器也该关了。下段接着聊 Bun 那个分叉。
小雅: 先说个事,我今儿被某家公司的 AI 客服绕了四十分钟,最后还得靠人工。这波 AI 热潮,我是真服了。
老冯: 你这火气我隔着桌子都闻到了。我这边风扇还嗡嗡转呢,树莓派刚跑完本地模型,外壳烫得能煎蛋。
小雅: 行,那说正事。这周 Claude 那边在推身份验证,Persona 那套,政府发的实体证件加活体自拍。
老冯: 对,护照、驾照、身份证都行。但手机里的电子驾照不行,复印件不行,照片的照片也不行。
小雅: 我就想问一句,一个聊天框,凭什么要我举着护照对着摄像头笑一个?
老冯: 官方说法是「负责任地使用强大技术,始于知道谁在用」。防滥用、执行使用政策、履行法律义务。
小雅: 这话术我熟。翻译一下就是:我们也不知道怎么防,那就先查户口。
老冯: 但这里头有个真问题。出口管制是真的,模型能力分级是真的,算力不够也是真的。他们得选人。
小雅: 所以争议根本不在验证本身,在验证之后那道门 —— 谁能进,谁永远在门外。
老冯: 评论区有个非美用户说得挺狠:作为非美国公民,Opus 4.8 将是我这辈子能用到的最好的美国大模型,这已经不容争辩。
小雅: 这话听着像夸奖,其实是墓志铭。等于说天花板到了,往后只会更差。
老冯: 还有人说这是「最让人失望的决定之一」,会削弱他们的国际影响力。我觉得这不是情绪,是判断。
小雅: 对,你把全球九成开发者推走,人家转头就用开源模型,本地跑,谁还回来?
老冯: 说到本地跑,我这树莓派上那个小模型,写代码不行,但断网也能聊,谁也查不了我户口。
小雅: 你看,这就是最讽刺的地方。合规做到极致,等于给开源做免费推广。
老冯: 再说第二件事。挪威这周宣布,小学阶段基本禁掉生成式 AI,高年级也收紧。
小雅: 他们 2024 年先禁了手机,现在禁 AI,理由都是同一个:成绩在掉。
老冯: 评论区一半人叫好,说小孩子本来就该先学会自己思考。另一半说这是鸵鸟,把 AI 挡门外是逃避现实。
小雅: 有句话我印象特别深:没有任何一个宇宙里,大模型能帮人学会阅读。你得先会读,才能用它。
老冯: 还有更绝的:AI 是史上最好的逃避学习的工具,也是史上最好的学习的工具。同一件东西,两个极端。
小雅: 所以挪威这个禁令,我觉得不是反 AI,是承认基本功有先后顺序。
老冯: 但我也质疑另一边。你说重构课程、个性化教学,喊了二十年了,钱和人呢?
小雅: 对啊,禁 AI 最容易,一纸文件就行。改教学最难,得花钱、得培训、得承认自己不会。
老冯: 这两件事其实是一件事。身份验证是「谁有资格用」,学校禁令是「什么时候才配用」。都是在划界。
小雅: 划界的人永远在界内。行吧,这块先聊到这。
小雅: 这周聊下来我血压就没降过。一边是有人往开源项目里偷偷塞毒,一边是有人拿超声那点东西往自己脸上贴金,中间还夹着我被 AI 客服绕了四十分钟。
老冯: 我这桌上风扇还在嗡嗡转呢,树莓派外壳烫得能煎蛋,跟这周的新闻一个温度。
小雅: 说白了就俩字,信任。开源那边你信不过代码,客服那边你信不过机器,最后还得靠人肉兜底。
老冯: 对,技术越吹得响,越得有人蹲在后面擦屁股。我这本地模型跑得挺欢,可它答错的时候,还是得我自己看出来。
小雅: 行了行了,又聊了这么久,我这冰咖啡都化成温水了。
老冯: 这周就先聊到这,下次继续扯。对了,想听下期的,用你常用的泛用型客户端 RSS 订阅一下就行,别指望那些封闭平台给你推。
小雅: 对,订阅一下,更新了自动就到你手里,不用被算法喂什么你就吃什么。
老冯: 外面雨还没停,我先去把那树莓派关了,别真烧了。下期见。
小雅: 下期见,顺手把窗户关了啊。