代码与工程之外·66代码与工程之外【6】所以,把性能优化到极致之后呢?98
最近两个月,AI行业同时发生了两件让我觉得有意思的事。一边大模型每百万tokens的价格已经低到几分钱,根据DEPSK官方最新公布的定价,其deep sig杠V4pro模型在输入缓存命中场景下定价低至0.025元每百万tokens,原本说的临时打折也变成了永久打折。这已经是一个在工业界几乎要让人怀疑能不能覆盖电费的价格。另一边,同一个行业,同一时间desk在降价,质朴KIMI在涨价,阿里云、腾讯云的token plan都在涨价,连国外的GITHUBCOPER都换了计价方式,让重度用户多掏几十倍的钱。这很有意思,看起来像是市场的矛盾信号,但仔细一想,事情很清楚。
token在降价,但解决真实问题的能力在涨价。降低成本有价值,尤其在技术刚从实验室走向工程化的早期,每一分成本优化都意味着更多场景被覆盖,更多用户用得起。deep sk在INFA层面把算力利用率推到极致,对整个行业的推动是真实的,它让技术普惠化这条路早期的价值极高,因为压缩空间大。一次kv catch优化,一次通信调度改进,就能让单位token的成本降一个数量级。对用户来说,这直接意味着做同样的事花更少的钱,价值清晰。
但这个方向的边际效益很容易被忽视。如果你看过云计算的历史,就明白了。10年前各家云厂商靠自研交换机优化虚拟化层,能把成本每两年降一半。但现在呢?优化空间越来越小,每个新季度能挤出的可能只有几个百分点,而且代价越来越大。需要在极细微的地方做极复杂的工作,带来的价值却越来越薄。到最后所有差异化都只能体现在一个冷冰冰的数字上——你能比竞争对手报多低的价。而那是真正的护城河吗?只要对手愿意比你多亏一个季度,这个优势就可以被抹平。
当算力利用率从30%优化到70%,这是一次革命;从70%优化到90%,是一次不错的迭代;从90%到99%是拼命卷;而从99%再往上走,投入的工程资源和算力本身可能已经远超那零点几个百分点省下的成本。当然,这零点几乘上亿倍的算力规模也是一笔巨大的节省,但这里就有一个核心问题:从节省成本到解决真实问题之间,是否存在充分的跨层级传递?因为用户的体感不会因为你迭代了V4V5,优化了3‰的推理消耗就变好。体感差距只来自一件事——他能不能做之前做不到的事。低成本本身并不会扩大能力边界。
这也就是为何V3震撼过所有人,但V4大家感觉却没有那么明显。并不是V4能力退步了,毫无疑问它更强,但不够。因为早期大家能用60分的价格做到60分的效果,你用20分的价格做到50分的效果,那是一个飞跃。当多家都能以30分价格做到85分,你能以25分价格做到80分,技术上确实很牛,但用户的体感几乎没差别了,他早就进入了感知钝化区间。所以我不是在说deep seek做错了,而是想说,任何一个靠降本建壁垒的事情都不存在永恒的护城河,只存在一个窗口期。当整条赛道的参与者都被逼到同一条压价曲线上,最后拼的就不再是创造力,而是谁账上现金多,这其实是最糟糕的囚徒困境。
而护城河的另一边是另一种场景:你敢收100分的价格,是因为你能解决100分的问题,所以用户依然愿意排队。效果和体验跟成本价格从来不是一回事,它不是线性的。这就是第二块我们要讲的涨价这条线。回到开头,同一个月有人在拼命降价,有人却在涨价,而且用户还排队,这不难理解。如果一个工具能让开发者原本三天写完的代码一天写完,那这个工具收多少钱根本不重要,因为账太清晰了:省下来的两天开发时间换算成工资,可能已经是这个工具定价的几十倍。所以解决真实问题这件事是有溢出价格的,你帮用户赚到了钱,省下了时间,解决了之前搞不定的问题,他就愿意为你支付溢价。
我们简单回顾一下本轮AI商业化中,被用户真金白银支持的产品都有一个共同特点:他们解决的是具体的、可感知的、紧迫的真实任务。那些不够具体的、可做可不做的任务,无论喊了多少口号,改变了多少交互范式,最后都会落回一个尴尬的境地——你必须不停证明自己值得被付钱,用AI给你点外卖。
对不起,我自己点可能更快。成本可以被优化到极限,工具可以被所有人拥有,但你能不能做出一个涨价也留得住用户的东西?这不是在代码层面做优化就能实现的,它取决于你手里握着的到底是一串冷冰冰的数字,还是让用户离不开的真实价值。我们看到某些平台开始有了这样走强的趋势,但我还不想武断下结论,所有的商业模型都需要时间来验证。人们选择的到底是逃离惯性还是新的基础,可以等着看结果,但现在确实已经有一些有趣的征兆。用户开始在涨价的账单面前用脚投票,token在降价,但解决真实问题的能力在涨价,这是同时在发生的事,它们之间没有矛盾。就像接下来我们讲的,不管是工程师还是创业者,技术人还是非技术人,真正需要的是搞清楚自己到底在做哪件事情。
说到这里,我想起自己亲身经历的事,它让我对技术优化和真实价值之间的关系有了难忘的认知转变。多年前我刚接触云计算的时候,内心对它是充满技术崇拜的。那时我觉得云计算就是把一台服务器的性能压榨到极致,让CPU利用率逼近100%,让网络延迟降到微秒级,让存储IOPS冲到百万级别,那才是真正的技术,才配叫做INFRA。每一行内核代码的优化、虚拟化层的调度改进,都让我觉得我们在做一件了不起的、充满技术美感的事情。我当时的想法很简单,性能越好,技术越强,用户就越离不开我们。
后来我慢慢发现,事情不是这样运转的。云计算真正能赚钱的部分并不是我引以为傲的那些极致性能优化,甚至相反,那些在性能曲线上再往上走的一小步,往往伴随着指数级增长的工程投入,而这种投入在大多数用户那里根本不产生可感知的差异。你要是问他们要不要那零点几微秒的延迟降低或零点零几的算力提升,用户会困惑的看着你,随即问出那个让你难受的问题:能降多少价?后来我明白,云计算的本质是两样东西:弹性和运维服务。其实它就和出租车公司没有本质区别,你的核心竞争力不是你的车比别人跑得快,而是你拥有足够多的车,让用户在任何时间地点享用车的时候都有车可用。乘客要的从来不是司机漂移多帅,而是有车准时不出岔子。这不全是技术极致的事。
这说明什么?说明技术问题和商业问题是有重叠但本质不同的两条归途。你既要理解技术优化可以做到什么程度,也要清楚它在解决什么真实问题,后者才能决定你的定价权。如果一直埋头优化,追求技术极致,最后可能会走到一片无人的荒野。你做到了全世界最快的指标,但用户感知不到,或者感知到也不在乎,因为他们的真实问题在别处。反过来,看清用户的真实问题,把资源投到那个方向,哪怕技术不是最优,也能拿到超出预期的回报。
现在看对云计算的理解以及AI行业的观察,发现它们的内核是相似的。每次看上去是技术突破,最终分水岭都不在技术,而在于技术有没有做出跨越技术人自我感动、触及用户脑中的真实痛点的实际结果。这就是taste。很多人把taste理解为审美品味,但在技术领域,更本质的含义是能否准确判断真实问题的边界在哪,是否有足够分辨力去理解用户或系统演化的真实需求,并在自己方案里把它兜住的能力。同样做产品,有人做完后所有功能都有,但连自己都说不清楚解决了什么问题;有人做完之后看起来简单,但每个功能都直击问题痛点。这两种结果差异背后就是taste。
为什么我们把原来的开发模式称为古法编程?不是因为过去错了,而是因为对真实问题的定义在一轮又一轮的技术演进中被重置。你做技术做产品的时间久,就知道真正稀缺的是判断力,能从一个模糊的问题出发,把它翻译成可被执行的结构,并定义它的边界。这种能力在手写代码和技术细节之外,它无法以更低成本走量兜售,因为那是技术的主体性。当算力越来越像水电煤一样,真正的溢价不是工具的价值,而在于用工具的人是否有价值判断的能力。taste便是如此,它甚至无法被技术本身教会,只能在一次次解决问题的失败与收获之后慢慢沉淀出来。所以回到最初,降低成本与解决真实问题是两件事,他们没有高下之分,但降本这条路有生命周期,早期他有竞争力。早期他有竞争力。
可当曲线走平,边际收益降低,还把筹码压在降本上,就有些悲哀了。至于deep seek到底还处在有显著空间压缩的红利期,还是已滑向了为1‰优化耗费过多心力的尾成,我没有足够数据来下判断,但这是所有痴迷降本的人都该问自己的问题。
作为技术从业者,大概率会在职业生涯里反复遇到这个选择:把时间和智力资源投到让系统更快更省,还是去扩大它能解决的问题范围。后者的感知并不总是那么直观美好,有时候他很痛苦,因为扣一个成本问题,很容易看到见效的数字,而去理解一个有价值的真实问题,常意味着要在不确定里面摸很久。
所以很多技术人会不自知地滑向前者,毕竟一张性能折线图在你跑完基准测试那一刻十分诱人。这其中的关键在于,一家公司个人或团队是否时常对着镜子辨认自己在做什么,是真在解决那个真实问题,还是滑进了低效的内卷。
在AI时代,确定性事情的执行变得廉价,但昂贵的是以个人阅历经验为代价的、判断好该解决什么问题的taste。这就是为什么有人涨价还在排队,有人降价也留不住。你现在做的事到底有没有连接真实的世界。