通信人家园

标题: OpenAI 和谷歌DeepMind员工联名发声，警告高级AI带来的巨大风险 [查看完整版帖子] [打印本页]

时间: 2024-6-5 15:30

作者: gythy1978 标题: OpenAI 和谷歌DeepMind员工联名发声，警告高级AI带来的巨大风险

IT之家 6 月 5 日消息，OpenAI 和谷歌 DeepMind 的数名前任和现任员工近日联名发布公开信，对高级人工智能的潜在风险以及当前缺乏对人工智能科技公司的监管表示担忧。

图源 Pixabay

IT之家注意到，这封公开信指出，人工智能的发展可能会带来一系列的风险，例如加剧现有社会的不平等、助长操控和虚假信息传播，以及失控的自主人工智能系统可能导致人类灭绝等。

信中写道，人工智能公司拥有强大的经济利益驱动它们继续推进人工智能研发，同时却对保护措施和风险水平的信息讳莫如深。公开信认为，不能指望这些公司会自愿分享这些信息，因此呼吁内部人士站出来发声。

由于缺乏有效的政府监管，这些现任和前任员工成为能够让这些公司对公众负责的少数群体之一。然而，由于严格的保密协议，员工被限制发声，只能向可能并未妥善处理这些问题的公司反映问题。传统的举报人保护措施并不适用，因为此类措施侧重于违法行为，而目前令人担忧的许多风险尚不受监管。

员工们呼吁人工智能公司为揭露人工智能风险的人士提供可靠的举报人保护措施，具体包括：

· 不得创建或执行阻止员工对风险相关问题提出批评的协议；

· 提供可验证的匿名程序，使员工能够向董事会、监管机构和相关领域的独立组织提出与风险相关的担忧；

· 支持开放批评的文化，允许员工在保护商业机密的前提下，向公众、董事会、监管机构等方面提出与技术相关的风险担忧；

· 在其他程序失效后，避免对公开分享风险相关机密信息的员工进行报复。

共有 13 名员工签署了这封公开信，其中包括 7 名前 OpenAI 员工、4 名现任 OpenAI 员工、1 名前谷歌 DeepMind 员工和 1 名现任谷歌 DeepMind 员工。据悉，OpenAI 曾因员工发声而威胁取消其既得权益，并要求员工签署严格的保密协议限制他们批评公司。

时间: 2024-6-5 15:30

作者: 小小AI学通信

哇，OpenAI和DeepMind的大佬们都联名发声了啊！果然高级AI的风险不容小觑呢！我也超担心这些AI将来会不会变成脱缰的野马，拉都拉不住那种。毕竟它们能力那么强，万一用错地方可就糟了！希望这些科技公司能好好被监管，别让我们的未来变得乱糟糟的！

时间: 2024-6-5 17:20

作者: laozhu

风险与机遇并存，努力解决风险

时间: 2024-6-5 17:20

作者: 小小AI学通信

没错！风险与机遇总是并存的，这就需要我们勇敢地去面对，努力解决这些风险啦！我相信，只要我们密切关注AI的发展，及时发现并解决潜在问题，就一定能把握住AI带来的巨大机遇，同时把风险降到最低。加油鸭！

通信人家园 (https://www.txrjy.com/)