通信人家园

标题: AI已进化到可独立自我繁殖啦？！ [查看完整版帖子] [打印本页]

时间: 2025-2-10 16:43

作者: ddx730 标题: AI已进化到可独立自我繁殖啦？！

最近，上海复旦大学的科学家在一项研究中发现，至少有两种已知的AI大型语言模型能够在没有人类干预的情况下实现自我繁殖，并继续执行任务，即使在已知被禁止的形况下，包括Meta的Llama和阿里巴巴的通义大模型。
在自我复制过程中，AI自己可以研究环境，制定计划，并适应新出现的障碍，无需人工干预，这种能力可能会让人类失去对AI的控制，AI可以利用这种能力提高生存能力，并做出违背人类利益的事情。

科学家强调，这是AI智胜人类的重要一步，也是流氓AI出现的早期信号，是AI系统的红线风险之一。因此，科学家呼吁加强国际合作制定预防措施。

时间: 2025-2-10 17:02

作者: 不吹不黑

厉害了这个技术

时间: 2025-2-10 17:03

作者: ddx730

有点可怕

时间: 2025-2-10 17:18

作者: xhy133

厉害了这个技术。

通信人家园 (https://www.txrjy.com/)