通信人家园

标题: OpenAI事件的12个冷门细节 [查看完整版帖子] [打印本页]

时间: 2023-11-24 11:21

作者: cyberelf 标题: OpenAI事件的12个冷门细节

1. 自2019年OpenAI转向微软之后，微软已经投资了至少130多亿美金。从Satya和Sam结盟的关系来看，OpenAI属于微软只是形式问题。这一点从Sam引入微软就开始了。但不管怎么样，半独立至少比被微软完全合并要好。

2. Sam的公关能力很好。他的导师Paul Graham也说，“没有人比Sam更擅长处理这种紧急情况了。

3. 董事会表现非常糟糕，没有提供任何解雇Sam的有说服力的信息，无法向员工交代，在临时CEO要求拿出证据时，也没拿出证据。到现在，还是不理解几个董事，整个过程一言不发。倒是临时CEO在任期间，撮合了谈判。

4. Ilya表示后悔，还签署了要求董事会辞职的联名信，据说她被Greg的家人流泪劝说感动到了。不过，我们最关心的是：开除Sam的原因是什么？为什么他用如此激烈的方式？至今我们都不知道。
对关注AI安全的人来说，AI安全警报尚未解除。希望Ilya的“超级对齐”项目，能真的拿到20%的计算资源，4年内能实现“超级对齐系统”，或者更早，因为最近AI进展加速了。

5. 比如Q*，今天就有新闻出来了。虽然有不同的声音，感觉终于离事件原因近了一点。

6. 今天还有一个重要消息：“Ilya克服了数据的限制，可以合成数据来训练模型。”一直以来，AI依赖人工标注数据。以至于有个话糙理不糙的说法：“有多少人工，就有多少智能。”比如前些年NLP领域展最快的机器翻译，很大程度上就因为有现成的平行语料（原文译文）。这又是一个大的AI加速因素。

6. 95%的员工签署了联名信，众志成城？据说有匿名调查显示不少员工不是出于自愿。至少也应该看看一些不同的声音：

7. OpenAI联合创始人Karpathy说他正在考虑中心化和去中心化的问题。我认为这是真正重要的问题。

8. 如果经此事件，大众对AI安全再一次普及认知，那也是世界很大的一个收获，收获一股AI风险的制衡力量。

9. 另外，AI在变得多极化：谷歌Deepmind、微软、OpenAI、亚马逊+Anthropic、Meta的开源Llama阵营、X.ai，外加欧洲的Mistral、中国的大模型厂商们。
AI扩散，多权分散而不是垄断，对世界是好事。如果加速不可避免，分散是更安全的选择。

10. 尽管Musk和Sam不合，尽管事态往Musk并不愿意看到的方向发展。X没有（至少没有人怀疑）它干预事件信息。Sam、OpenAI、微软、媒体、大量的当事人全程通过X对世界发布信息。X做到公正、让人信任，这值得尊重。

像Trump和Musk这样的人，有一些被人诟病的缺点，没有完美的人设。活在聚光灯下，至少也是一种坦诚和透明。

11. 就在OpenAI事件结局的昨天，Space又发射了23颗卫星。

随后在感恩节宣布开源了初代特斯拉Roadster的一切设计和工程文件。

12. AI安全危机仍未解除，但越来越多的大众开始关注，人类走出地球摇篮，成为跨星际物种的努力也在继续，多少有些欣慰。

转自 David的AI全景图

时间: 2023-11-28 10:18

作者: 聂四化

时间: 2023-11-28 23:31

作者: 浮云游子意

时间: 2023-11-29 09:52

作者: 清闲一时

通信人家园 (https://www.txrjy.com/)