@huangyihe的帖子

LLM是一个“符号压缩与解压引擎”。人类语言就是符号。先把这些符号压缩进庞大的参数网络中。要使用的时候，预测下一个Token，也就是把符号再解压缩出来。

过去几十年，我们把海量书籍、代码等数字化。最近几年，我们开始把它们符号化。于是LLM出现了。那么，下一步呢？…