
AI 辅助编程有个结构性矛盾,很多人卡在这里做选择:顶级推理模型规划能力强,但它是云端 API——生产数据、代码架构要发出去;本地部署的模型数据安全,但推理深度不够,复杂规划做不好。
想的人够不着数据,数据里的人不会想。
大多数人在这两者之间反复横跳:要么图聪明把代码往云上发,要么图安全忍受本地模型的平庸。其实还有第三条路——不选,分工。

AI 辅助编程有个结构性矛盾,很多人卡在这里做选择:顶级推理模型规划能力强,但它是云端 API——生产数据、代码架构要发出去;本地部署的模型数据安全,但推理深度不够,复杂规划做不好。
想的人够不着数据,数据里的人不会想。
大多数人在这两者之间反复横跳:要么图聪明把代码往云上发,要么图安全忍受本地模型的平庸。其实还有第三条路——不选,分工。

聊负载均衡,大多数人张口就是 Nginx。但往流量入口再退一层,有个更老、更快的东西:LVS(Linux Virtual Server)——章文嵩博士 1998 年发起的项目,如今是 Linux 内核的标准组件。
它快的道理一句话讲完:Nginx 是用户态进程,收包、解析、再发包,一个请求两次穿越内核/用户态边界;LVS 的转发代码(ipvs 模块)就挂在内核的 INPUT 链上,数据包还没到用户态就被改写转走了。没有进程切换,没有 socket,没有代理。
你不用替换 Nginx——绝大多数大厂的入口是 LVS 在前做四层分发、Nginx 在后做七层。但要理解入口层为什么这么设计,得先看懂 LVS。

你肯定有这种感觉:书看了不少,播客听了不少,B 站收藏了一堆长视频。然后呢?什么都没变。知识停在"看过、听过、收藏过",真到做决策的时候,脑子里什么都调不出来。
常规解法是做摘要、记笔记。但摘要是压缩——压缩完你还是不知道"什么时候该用什么"。最近认真研究了一个开源项目 cangjie-skill(仓颉 Skill),它走了另一条路:把一本书、一期播客、一个两小时长视频里沉淀的方法论,拆出来变成 AI Agent 能调用的 Skill 工具包。
一句话:读完之后,带走一套能调用的方法论,而不是一篇会落灰的总结。

用 AI 写代码的人分两种:一种以为提示词是关键,一种以为换个更强的模型是关键。Cursor 官方出了套免费课程(Cursor Learn),不讲机器学习不讲训练,就讲怎么把模型用明白——三课看下来,我确认自己踩过的三个误区,大概率你也在踩。
模型是概率机器,不是确定性 API。课程给的定义很准:把 AI 模型当作"超智能的通用 API 端点"——你集成 Stripe 处理支付,同样可以调用模型干活,唯一的本质区别是:你无法保证每次得到相同的结果。

先看看你家有没有这种设备:运营商送的智能插座,厂商 APP 停服了,插座本身好好的——继电器能吸合能断开,就是没人管它了。一块标准的"云僵尸"硬件。
中移铁通的 CMPOWER W1 就是典型:ESP8266 内核、两个继电器、四组 LED、一个实体按键。原作者干的事很干脆:官方 APP 没了?那就重写一版固件,把这块硬件救活——MQTT 协议控制,任何客户端能连,开源可刷。
原厂方案的死法都一样:设备 → 厂商云 → APP。厂商弃坑,云没了,设备变砖——哪怕硬件百分之百健康。

先对号入座:很多人装了 gh(GitHub CLI),用法停留在 gh pr list 和 gh pr create,偶尔回网页点两下,感觉它是个可有可无的补充。
翻一遍官方手册会发现格局完全不对。git 和 gh 的分工是一句话的事:git 管你本地的代码,gh 管 GitHub 平台上的一切——PR、Issue、Actions、Projects、Codespaces、Release、Secret,全在命令行里。而且 2026 年的手册里,gh agent-task 和 gh skill 已经和根命令并列——GitHub 官方把 Agent 也接进了这条通道。

先还原一个场景:地铁上单手举着手机,看一份 419 页的扫描版技术书。整页 A4 扫描图,字小得像蚂蚁,两指捏开放大,看三行,往右拖,再看三行——代码被扫成了图片,想复制出来搜一下都做不到。
那本"想读很久"的书,就这样在手机里躺了半年。不是你不想读,是没有人能用这种方式读完一本技术书。
解法的方向人人都知道:OCR 转成可重排的 EPUB。但自己跑 OCR 模型要么吃显卡要么调参到天亮,而且扫描书转 EPUB 的难点从来不是 OCR 本身,是识别之后的整理:切章节、去页眉、接断句、嵌图片。很多工具卡在"转出来了但没法读"。

拿到一个想法,第一件事就是打开编辑器写代码——AI 编程时代这个冲动更强了:Claude Code 半小时就能给你跑起来一个东西,凭什么还要流程?
因为跑起来和做对是两回事。AI 把"做出来"压缩了 90%,但每个风险该花多少钱回答,一个子儿都没便宜。
我的起手式固定四个动作,每个动作回答一个独立的问题:
| 动作 | 回答的问题 | 交付物 | 合理耗时 |
|---|---|---|---|
| ① PoC | 能不能做出来?(技术风险) | 能跑的验证 + 结论 | 1-3 天 |
| ② 设计 | 做出来什么样?(体验风险) | 可交互的原型 | 几小时-1 天 |
| ③ MVP | 有没有人用?(市场风险) | 真实用户可用的最精简版 | 2-8 周 |
| ④ 迭代 | 怎么做得更好? | 下一轮,回到① | 循环 |

让 LLM 做判断,是件又慢又悬的事:你问「这条工单该分给谁」,它先写三百字分析,再小心翼翼吐出一个名字,你还得写正则去抠——抠错了就崩。Cloudflare 最近开源了个不一样的玩意儿:Clef,27B 参数的多模态决策模型,不写一个字,一次前向传播,直接把你所有问题的每个选项的概率都算出来。
Apache-2.0 协议,权重挂在 HuggingFace 上,开源一周社区已经出了 12 个量化版本。这个热度说明一件事:把「判断」从生成式 LLM 里拆出来,不是某个团队的怪想法,是个正在成形的赛道——之前拆过的 Laya、Jev 走的都是这条路,现在 Cloudflare 也下场了。

分布式推理的门槛,很多时候不是显卡,是那张几万块的 InfiniBand 网卡。有人用一坨内核代码加几根雷电线,把它干掉了:两台 128GB 的 Strix Halo 机器,跑 230B 的 MoE 模型,20 tok/s。
项目叫 donnerkeule,fork 自 hellas-ai 的 thunderbolt-ibverbs,一个研究性质的 Linux 内核模块加用户态库。它干的事一句话说清:把 USB4/Thunderbolt 4 的 DMA 通道,伪装成一个标准 InfiniBand RDMA 设备。不买网卡,不买交换机,你的 vLLM、NCCL、UCX 照常以为自己在用真 IB。