在我看来,两种“极端”立场肯定都是错误的。有些人可能会认为强大的 AI 会在几秒钟、或者最多几天之内改变世界(也就是技术“奇点”),这是因为高级智能可以自我构建,因此将迅速解决一切潜在的科学、工程和操作任务。但问题在于,受到真实物理及现实条件的限制,例如在硬件制造或者生物实验等场景下,哪怕是这个天才之国也只能循序渐进。总之,强大的 AI 也许非常强大,但绝对不是点石成金的幻术。
我相信在 AI 时代,智能的边际收益问题同样值得探讨,特别是应当找到能够与智能互为补充的其他要素都有什么。换言之,就是当智能水平极高时,哪些其他因素会成为限制因素。其实人类真的不太习惯思考“更聪明对于某项任务有多大帮助,这种帮助又在何种时间范围内起效?”之类的问题,但这似乎正是引导我们为强大 AI 世界勾勒出蓝图的正确方向。
内在复杂性。有些事物天然具有不可预测性或者说混沌性,哪怕是最强大的 AI 也没办法比当今的人类或者计算机更好地做出预测或者解读。举例来说,跟当前的人类或者计算机相比,哪怕是最强大的 AI 在常规情况下也只能对混合系统(如三体问题)做出更远的预测,却无法彻底将其破解。
来自人类的限制。很多事情压根就没有可行性,因为其有违法律、可能伤害人类甚至扰乱社会秩序。一个真正在价值观层面与人类社会对齐的 AI 根本就不想执行这些任务(而如果价值观与人类相悖,那又是另外一种风险了)。必须承认,人类社会中有很多结构不仅效率低下、甚至流毒无穷,但又很难在尊重临床试验的法律要求、不扭转人们习惯思维或者政府原则的前提下做出改变。从技术角度看,核能、超音速飞行甚至是电梯等成果都有很大的应用空间,但受到监管约束或者民间的过度恐惧,其影响力明显达不到理论上限。
物理定律。这其实跟第一条类似,只是更加形而上。某些物理定律似乎牢不可破,如实体的速度不可能比光更快;每平方厘米的芯片只能容纳一定数量的晶体管,否则就必然牺牲可靠性。计算还要求每个 bit 能够改变的最小能级达到一定水平,而这相当于锁死了现实世界中的计算密度极限。
基于时间尺度,还有进一步的区分。短期之内难以控制的事物,从长远来看可能更容易被智能所控制。
总之,我们可以设想这样一幅图景:强大的 AI 最初会受到其他生产要素的严重限制,但随着时间推移,智能本身开始越来越多地绕过其他要素,同时将无法绕过的要素(如绝对存在的物理定律)的影响控制在最低水平。而关键问题在于这一切将以怎样的速度发生,又会以怎样的顺序实现。
考虑到以上现实因素,许多生物学家长期以来一直对 AI 和“大数据”在生物学领域的价值持怀疑态度。从历史上看,过去 30 年来,数学家、计算机科学家和物理学家都尝试将自己的能力应用于生物学领域,虽然也取得了相当大的成功,但始终没能带来符合最初期待的变革性影响。AlphaFold(其创造者不久前刚刚拿下诺贝尔化学奖)和 AlphaProteo 等重大革命性突破虽然削弱了一些怀疑之声,但人们仍然认为 AI 只在有限的条件下起效,而且很难真正扩大适用范围。
一种常见的说法就是“AI 能够更好地分析你的数据,但没办法生成更多数据或者提高数据质量。于是仍然只有垃圾进、垃圾出。”我倒是觉得这种悲观情绪对于 AI 的理解是有问题的。如果前文中对于 AI 发展的核心假设切实成立,那么正确的思考方式就不能只将 AI 视为一种数据分析方法,而是将其视为一位虚拟形式的生物学家,能够执行生物学家所做的一切任务,包括在现实世界当中设计并操作实验、发明新的生物学方法或者测量技术等。
高度“结构化”的问题可能更难解决,但已并非不可能。有证据表明,精神病与明显的神经解剖学差异有关——精神病患者的某些大脑区域较小或者发育较差。人们还认为,精神病患者从小就缺乏同理心;无论他们的大脑结构有何差异,他们可能也是自小如此。某些智力障碍和其他疾病可能也是如此。重组人脑听起来很难,但似乎也是一项对于智能水平要求很高且回报显著的任务。也许会有某种方法能够诱导成人大脑回归到更早、或者说更具可塑性的状态,从而实现大脑重塑。我不太确定具体有多大的可能,但我直觉且乐观地认为 AI 应该能够在其中发挥比较重要的作用。
总而言之,我认为意义主要体现在人际关系和交互上,而非经济劳动。人们确实需要某种成就感或者说竞争感,而在后 AI 时代下,大家完全可能投入数年时间、配合复杂的策略来尝试一些非常困难的任务,就像如今的人们开设科研课题、想要在好莱坞中崭露头角或者是创办一家企业时做的那样。也就是说,有没有某种 AI 方案原则上能够更好地完成这项任务,或者说这项任务在全球经济体系中能不能创造任何价值回报,其实根本就没有那么重要。
而经济的部分对我来说要比讨论意义更为困难。本节中提到的“经济”,其实是指大多数人甚至全体人类可能都无法再为足够先进的 AI 驱动经济做出有意义的贡献。这是个比不平等问题更加宏观的问题,我只能尽量以自己有限的认知提出一点设想。
首先,在短期之内,我认为比较优势将继续支撑人类在经济活动中存在并不断提高生产力水平,甚至可能在某种程度上让人类之间的竞争环境更加公平。只要 AI 能在特定工作的 90% 情况下表现更好,那么其余 10% 反而会令人类的价值得到凸显、拉高薪酬,实际上创造大量新型人类工作岗位,借此补充并放大 AI 所擅长的任务。这样“10%”的部分就足以为几乎所有人提供饭碗。
事实上,哪怕 AI 在 100% 的事情上都比人类做得更好,但在某些任务上仍然存在效率太低或者成本太高的问题。又或者,如果人类和 AI 的资源投入存在显著差异,那么比较优势的逻辑仍然适用。人类可能在相当长的时间内保持相对(甚至绝对)优势的领域就是物理世界。因此,我认为即使我们建立起了所谓的“运行在数据中心内的天才之国”,人类经济也仍将存在并具有现实意义。
但我也相信从长远来看,随着 AI 变得越来越广泛、有效且成本低廉,那么人类的比较优势终将消失。到那时,我们现有的经济架构将失去意义,社会需要就经济的未来组织形式开展广泛讨论。
我怀疑未来会出现一些新的、更奇特的制度,而且是如今的人们几乎无法设想的。它可能很简单,比如为每个人提供可观的全民基本收入,当然我觉得这恐怕只能是实际解决方案中的一小部分。也可能是基于 AI 系统的精密资本主义经济,再由 AI 系统根据其认定对人类有意义的某种次级经济制度(基于从人类价值观中提取出的某种判断)向人类提供资源(由于整体经济蛋糕足够大,所以这部分资源也将非常可观)。又或者,人类将演进出另外某种形式的经济价值,只是超出了现有经济模型的分析框架。