huangyihe@newtype.pro ~ $

AGI

Elon Musk：Sam Altman是叛徒

Key Takeaway

  • Elon Musk起诉Sam Altman和OpenAI，指控其背弃OpenAI创立时“为全人类造福、开源”的价值观，转变为追求利益最大化。
  • 诉讼核心在于OpenAI与微软的协议，以及OpenAI是否已实现AGI并将其私有化。
  • Elon Musk认为OpenAI的AGI技术（如GPT-4和秘密开发的模型Q）已被Sam Altman控制并输送给微软，背离了非盈利初衷。
  • 此次诉讼不仅关乎OpenAI的未来，也可能影响整个AI行业的发展方向和伦理规范。

Full Content

Elon Musk起诉Sam Altman，绝对是今年的年度大戏。

在给加州最高法院的起诉书中，他一个人作为原告，把Sam和OpenAI全给告了。并且，他还申请由陪审团审判。

也就是说，Elon Musk要把Sam和OpenAI从暗处拖到明处——在法庭上，宣誓之后，你自己把一切讲清楚，并且留下记录。内容包括：

  • 几个月前的逼宫、造反到底是怎么回事？
  • 跟微软之间到底有什么猫腻？
  • 神秘项目Q到底有没有实现AGI？

这场审判，不仅会影响到Sam个人、OpenAI和微软两家公司，还会影响整个硅谷，以及AI走向。

这份起诉书有点长，46页。我帮你们先过一遍。Elon Musk的逻辑很简单。他用大白话回答两个问题：

  • Why
  • Why Now

Why：背弃价值观

很多人认为，利益大于一切。但是，在精英阶层眼中，价值观是第一位的，是不可动摇的。

OpenAI就是一个价值观的产物。

Elon Musk一直坚定地认为，Superman Machine Intelligence，超级机器智能，是全人类最大的威胁。

当深度学习技术取得实质性进展、越来越实用之后，这种威胁越来越临近了。

导火索是2014年Google收购DeepMind。这场收购让Google在AGI这条路上一下领先了。

Elon Musk认为，如果通用人工智能技术被Google这样利欲熏心的公司所掌握，那咱们整个人类社会都要完犊子了。

于是，2015年，他和Altman、Brockman三个人共同决定，创立一个非盈利研究机构：

  • 研发通用人工智能技术为的是造福全人类，而非利益最大化——这是宗旨。
  • 除非涉及到安全因素，否则研发成果必须开源——Elon Musk起名OpenAI就是这么来的。

OpenAI的诞生，特别有复仇者联盟的感觉：为了全人类，对抗邪恶的Google。

Elon Musk就像钢铁侠一样，在OpenAI起步阶段提供了非常大的帮助，尤其是帮他们招来了全球顶级天才，比如首席科学家。

在初期，OpenAI确实很Open。不过，按照电影剧情的走向，这个时候，该有反转了。

大家留意一下这几个时间点，起诉书里特意强调的：

  • 2019年，Sam成为OpenAI的CEO。
  • Elon Musk对OpenAI的支持，一直持续到2020年9月14日。
  • 几天之后，也就是2020年9月22日，微软入局了。

当时OpenAI向微软提供GPT-3模型。与此同时，OpenAI也公开了GPT-3的训练方法，让其他人也可以打造出类似的模型。

OpenAI和微软的协议中，有一条非常重要：

微软只能获得Pre-AGI技术。

也就是说，当某一天OpenAI真正实现AGI的时候，这个技术是不会给微软的。

那么，谁来决定新研发出来的技术，算不算AGI呢？

董事会。

如果，董事会叛变，把AGI技术定义为非AGI技术，那么就可以在不违反协议的情况下，名正言顺地继续给微软输送技术，换取利益回报。

这个就是Elon Musk为什么非要在现在搞这么一出的原因。

革命队伍里出现叛徒，勾结敌人，要窃取革命果实！

写不好代码的模型，没有未来

Key Takeaway

  • 写代码的能力是衡量大模型优劣和决定其未来的核心标准。
  • 代码能力强的模型智商更高，因为它要求逻辑、精确性和对复杂系统的理解。
  • 编程是模型的“复合动作”，能扩展其能力边界，使其泛化到更多领域，是通往AGI的必经之路。
  • 代码能力强的模型拥有更发达的“小脑”，能将抽象意图转化为具体行动，实现与数字世界的交互。
  • AI编程市场潜力巨大，能优化开发者成本和重构软件生产方式，具有巨大的商业价值。

Full Content

想知道哪个大模型能活到最后？一个标准：写代码的能力。

写不好代码的模型，没有未来。写不好代码的模型，你就不需要再关注了。

这个观点，我前几天在社群内说过。当时是回答一个小伙伴的提问。我知道它看起来很极端、很偏见。但是，这个在圈内已经共识了。不信的话，我给你四个理由。

第一，代码写得越好，模型智商越高。

跟写文章不一样，写代码要求绝对的逻辑、精确的语法和对复杂系统的理解。

自然语言其实有很大的模糊性——一篇文章，怎么写都行，都可以写得很好。而且有很多捷径，比如模仿。咱们小时候都背过很多范文，对吧？

但是代码不同。它是零容错的——一个符号错了，程序就挂了。它还要求逻辑一致，因为每行代码都是系统的一部分。最后，它还是高度抽象的——它是从具体问题抽象出算法，再具体转化成为可执行的代码。

所以，一个能写出优秀代码的模型，它的“智力”肯定不只是是模仿，而是真正理解了抽象概念和规则。

这就是为什么我一直推荐Claude和Gemini的原因。即使你不编程，我也建议你这两款模型二选一，甚至都要。

第二，代码写得越好，模型的能力圈越大。

打个比方，你想通过健身获得一副好身体，那么肯定不能只练局部，而是全都要练，包括深蹲、硬拉、卧推、有氧，以及拉伸。

对模型来说，编程就是这样一个完美的“复合动作”。它不仅仅是单一技能，而是强迫模型同时发展和整合一系列的认知能力。

一旦这些底层能力被锻炼得足够强大，它们就可以被用来处理更多复杂任务。比如，可以被泛化、被应用到法律、金融、科研等领域。

于是，模型的能力边界扩展了。当这个边界扩展到各个方面，AGI就实现了。

第三，代码写得越好，模型的小脑越发达。

今天的模型跟两年前的模型很不一样。

在我看来，两年前的模型更多是一个被动的文本生成器，能够用自然语言对话。但是，它被“锁”在了文本的世界。

而今天的顶级模型，它拥有了代码能力。于是它可以执行一个简单的脚本来分析数据，可以调用复杂的API来控制一个应用程序，等等。

也就是说，它除了具备很强大的大脑之外，还有很发达的小脑，可以把抽象的意图转化成与数字世界交互的具体动作。

而那些代码能力弱的模型，就好比一个只有大脑但小脑发育不全的人。它可能“知道”该做什么，但无法精确控制自己的“肢体”，动作非常笨拙。

这就是为什么所有顶尖的AI公司都在疯狂提升模型的代码能力。他们不仅仅是在教模型“编程”，更是在训练模型的“小脑”，赋予它在数字世界中自由行动的核心能力。

这是通往AGI的必经之路。

第四，代码写得越好，模型越值钱。

这个很简单，咱们来算两笔账。

全球大约有3000万开发者。每人每年的综合成本，包括薪资、福利、设备等等，咱们按10万美元来计算。那么，整个市场的人力成本就是一年3万亿美元。

咱们不说完全替代，就优化个20%，那就是每年6000亿美元。

这还不是最大的市场。全球企业每年在软件和IT服务上的支出已经达到5万亿美元。想象一下，如果软件的生产、维护、迭代方式被AI根本性地重构，那么，这个市场值多少钱？

这就是为什么像Cursor之类的公司估值能飙升那么快的原因。

总结一下，代码写得越好，模型智商越高，能力圈越大，小脑越发达，赚钱能力越强。这些综合起来，不就意味着一个光明的前景吗？

你拿代码能力这个标准去看市面上的模型，去看中国的模型，你心里就有谱了。

OK，以上就是本期内容。想了解AI，想成为超级个体，想找到志同道合的人，就来我们newtype社群。那咱们下期见！