最近在中文软件科技行业的圈子里经常听到一个声音，就是完全放开让 AI Coding，人类不 review，只提供少量的编程指导，甚至是只参与 Engineer Design 部分。这种声音越来越多，甚至是创业公司在生产环境中也这么搞，这让我感到十分忧虑。
我是一个愿意为软件付费，喜爱参与开源生态，喜欢在公司的生产环境中引入开源项目，而不是二次开发或者自创轮子的。但是现在这个潮流让我开始畏惧。因为我不能继续相信开源产品的质量， 一旦引入了一个安全漏洞，我的用户将面临风险，我的公司也将直面信任危机。而对于我个人而言，当我要付费一个产品时，我会犹豫，我只看到了这个产品表面，但我不知道这个产品日后是否会容易扩展，是否会有新的功能，质量是否足够好，会不会存在什么漏洞等等。
本质原因就是我愿意相信人类工程师团队，但我不愿意相信 AI agent。
本质
因为我的理解中截止现在为止，LLM 的本质还是概率、预测与足够多的现实信息。这就是我所担心的问题，写过代码的都知道，当我们遇到问题时，我们习惯去查 stackoverflow，当我们做新设计时，习惯去搜索官网文档。也就是说现实世界的代码库中，这些信息被放大，被引用。那么，我相信在 LLM 能完整掌握清晰的需求上下文时，只要我们的需求足够大众，那么 LLM 是可以很快生成相对应的 pattern 的。但是， 如果你是一个有经验的程序员，负责开发过大型系统，承载过巨量用户的话，你就会知道线上的问题有多复杂，不仅仅是需求需要取舍，功能实现需要权衡，更重要的是，很多时候需要我们去创新。很多问题都不是可以搜索到的，是总结自我们的经验的。
在这种情况下现阶段我们真的可以放权给 AI 么？我觉得还不是时候，很多时候 AI 半小时 generate 的代码，我需要付出两三天的时间来修改和打磨。
现状
也许你觉得我的 AI 用的不是很好。也许吧，但是我觉得我个人的 AI 使用是在大部分人之上的，我应该是 Copilot、Codex、Claude Code 的第一批用户，从 MCP、agent 到 tools、skills、hooks 我不仅仅在用，还在我的系统中开发相关的功能。业务上，我在我的系统里，从零开始构建了 memory、skills、orchestrator、billing、extension 等一套完整的生态。架构上，我也用过 cuda + NCCL 来协调跨 GPU 的分布式执行和通信。这些都是真实的，有用户的系统。
而我的日常开发中，也很依赖 AI Coding，我一般会利用 AI 进行 research，讨论设计，拆分任务形成文档。如果项目结构良好，项目内可参考的 pattern 足够多，我会将一些任务交给 AI 开发。这里“一些”的定义是，我看一眼就知道如何实现的任务。而对于新项目，或者代码本就有些混乱的项目而言，我更喜欢先重构，整理好项目的指引 prompt， 搭建好可以验证、测试的环境，再让 AI 来帮忙开发。对于复杂的功能，我习惯于先动手开发核心流程，然后让 AI 补足，你知到 AI 的防御编程能力强的有些过头。然后每个功能我会仔细 review，手工跑测试。我还自己写了一个小工具来维护我的 memory。
所以，你看，我说我在用 AI 这件事上超过大部分人，并不是夸大其词。
担忧
从我个人的经验讲，我是对 AI coding 这件事有很多担忧的。人总是趋向于变懒，这不是一件坏事，毕竟“懒惰”是世界发展的根因。但是我最近看见了太多人从用 AI 写一些小任务，到 AI 写完 review， 到完全相信 AI。很多人觉得，我自己写也不过如此，所以就完全放弃了。但事情不是这样的，这些人放弃了思考。当我们面对一个问题时，我们会有很多想法。设计一段代码时，我们会不断重构。这才是软件发展的重要过程。
AI 的另一个问题是不会拒绝。无论你给出什么指令，AI 都会尽其可能去满足，很多人就是在一声声叫好中迷失了自己，完全信任了 AI。什么是忠言逆耳，没有否定，如何能成长，如何能让产品更完善。就像是很多在大公司的打工人，公司发展的够快，利润够好，你就会不断得到晋升，但这不代表你的个人能力。当你坐在列车上，高速行驶的不是你，而是车。
我负责过具有千万用户的产品，我开发过每秒百万数据的系统，我在异构的系统环境中逐一排查过问题。这些经验告诉我，当数据量足够大，用户足够多时，你的产品才真正的走出了新手村。一些创业公司在追求速度，我可以理解，但是你的产品质量真的做好准备面临用户了么，如果完全交给 AI 开发，那么你要有心里准备，一旦泼天的流量到达时，不会因为质量而产生信任问题，而与成功失之交臂。这个世界永远不是第一个吃螃蟹的人吃的最好，吃到最后。远的不说，说说近的，你看看 copilot 和 cursor，再看看 Claude Code 和 Codex。好的产品永远有人认可，难道 Apple 用一己之力改变了一代人的审美，改变了这个世界，还不够有说服力么。
Comments
Join the discussion with your GitHub account. Powered by giscus .