关于AI的下一程,我的Vision
想写这个题目很久了,可能不需要端坐在电脑面前,只需要一段相对安静的时间,在手机上逐条写出吧。
这个题目很大,所以开始的时候,应该是从端开始,我不知道这叫自下而上,还是自上而下,从业务流而言,是下游开始,从瀑布结构而言,是顶层应用开始。
-
软件公司将消失,但每一家公司都会成为软件公司。AI的coding能力事实上改变了“软件”的定义,一个随时可快速构建也随时可抛弃的“软件”足以颠覆软件开发这个行业,传统意义上的软件公司就是会消失。但它却给了所有各种业务公司一个前所未有的机遇:任何一家公司实质上都成为了软件公司,问题只在于他们能否在AI时代清晰的定义以及改变架构和流程,将公司本身变革为一套操作系统。
-
从人力资本向Token资本的转移。在数字世界里,tokenization是最基本的操作。Token经济学不仅仅指围绕如何产生token,而是指如果token本身就是生产要素的话,社会治理和公司治理将如何改变,这件事情太大了,且趋势不可逆。
-
物理世界短时间无法继续承载更大的数据中心,硬件变革已在路上。古早一点,为什么说大型机,又为什么会有微机,PC,为什么智能手机普及的核心其实是SoC。从第一台电脑问世开始,我们就一直在重复“大型->小型->互联->压缩”的路。在谁都已经看明白超大型数据中心面临巨大的物理约束的当下,扩规模的工作不是不会继续,而是一定会有更多的力量和创新出现在“压缩”上。
-
模型:LLM与世界模型。模型有两个问题,一是“超级智能”,事实上越来越多人认识到LLM并不会达到“超级智能”,但这并不妨碍token成为另一大重要的生产要素,改变社会治理与公司治理,而世界模型是什么?我曾经写过文章介绍过自己的计算,如果真有世界模型的话,也许我们还至少差15-20个以上的数量级规模的数据。
-
模型:开源与闭源。对于我们人类现存的绝大多数应用需求而言,模型能力已经过载了。任何一个即使是小规模的新模型,知识能力也远超人,所以问题其实不再聚焦为模型本身,而是模型如何进入环境。开源模型与闭源模型的区别根本不在于是否开放权重供下载,而是环境:足够卷足够激进的团队比如A家,比如OAI在高竞争环境下不断优化模型执行的环境,它们就可以收钱。有足够业务理解和技术能力的公司与团队,利用开源模型构建自身的业务操作系统,也会越来越多。从商业竞争本质看,与代码开源时代,其实并无二致;
-
这个世界终究会走向异构。实际上上面的三个点的叙述顺序并不符合从应用层到物理层的顺序,但是有必要这么去罗列,才可以到目前这个点:物理约束与业务层重构共同指向异构的路,异构的运行环境,异构的模型,异构的硬件,异构的算力,也许还有异构的物理存在。
-
Token生产的实质是数据计算与传输。我们大概都知道,处理器(CPU也好,GPU或者ASIC也罢)的数据处理速度是离它最近的传输(内存)带宽的至少十倍以上。所以问题的核心至少目前不在芯片制程上,而在数据传输上。那么在一个异构的世界里,离处理器最近的数据传输带宽始终就始终是最大的瓶颈,涉及到投资建议了,无法再展开了。
-
传输与能源。能源结构与传输架构相互制约决定了算力的结构。宏观上,我们并不缺电,但是微观上,无论在什么地方,电力约束都越来越显著,因为如果追求单系统的传输效率最大化,那么就需要规模越来越夸张的单体数据中心,这么大的系统,在地球任何一个角落都是巨大的挑战。但是,如果我们可以给一些时间,在算法层和工艺层同时进步,就一定会有令人惊叹的结果。我们一定可以有十倍百倍功率提升的单一数据中心,问题只在于时间,问题也在于,如果我们在这个时间里找到了其他的解决方案呢?但是,无论什么解决方案,一定是传输与能源共同考量下的优化。
-
这是泡沫吗?当然是。可是它已经在数字世界里最大限度的打破并且加速突破物理世界的规律约束,你终究无法用万有引力去约束一个指数级增长的空间。
-
最后,跟人有关吗?其实,它根本不影响我们一日三餐,该睡就睡,该发呆就发呆,该干嘛就干嘛去吧。