通信人家园

标题: 诺奖经济学家阿西莫格鲁:担心愚蠢AI [查看完整版帖子] [打印本页]

时间: 2024-10-21 10:47

作者: tayun 标题: 诺奖经济学家阿西莫格鲁:担心愚蠢AI

“我一点也不担心超级 AI，我担心的是愚蠢 AI。”

文丨曾梦龙
编辑丨钱杨黄俊杰

10 月 14 日，达龙·阿西莫格鲁（Daron Acemoglu）在希腊雅典一家酒店的阳台上，接到了诺贝尔奖委员会的电话。“人们很早就说过你会获奖，你一定想到了这一刻的到来。” 工作人员说。

阿西莫格鲁近年来一直是诺奖热门人选。对熟悉经济学的人来说，他得奖并不让人意外。他和合作者西蒙·约翰逊（Simon Johnson）、詹姆斯·A. 罗宾逊（James A. Robinson）因对 “制度如何形成并影响繁荣” 的研究共享 2024 年诺贝尔经济学奖。

阿西莫格鲁回答，“你可以做梦，但永远不会想到它会发生。这是一件美妙的事情。”

获奖前的一两年里，阿西莫格鲁的名字频繁与 “AI” 一同出现在新闻标题里。阿西莫格鲁认为现在整个行业陷入 “通用人工智能”（AGI）的竞赛，希望利用这项技术实现自动化、创造数字广告收入的发展方向错了，疯狂买入英伟达显卡只是在浪费钱。他的观点影响了高盛在今年 6 月的报告《通用 AI：花得太多；收益太小？》（GEN AI: Too Much Spend Too Little Benefit?）。

阿西莫格鲁估算，未来 10 年，AI 对全要素生产率的增长上限不超过 0.66%、对美国 GDP 的总促进作用最高也只有 1.56%、只能影响不到 5% 的人类工作岗位。他质疑现在商界流行的科技乐观主义，觉得这种叙事在误导公众。萨姆·奥尔特曼、埃隆·马斯克、比尔·盖茨等人承诺的美好未必能实现。他还认为，即使 AI 能带来进步的利益，它也往往不会被所有人共享。

所谓科技乐观主义或者当下流行的e/acc，指科技进步会让世界变得更加美好，中间出现的问题不过是美好世界诞生前的阵痛。谁也挡不住科技进步，人最好改变自己去适应它。比如把时间投资在学习未来会受重视的技能上。至于那些存在的问题，总会有聪明人找到解决办法。

2024 年诺贝尔经济学奖得主。图片来自：诺奖委员会。

今年的诺奖是 AI 的丰收年，物理学奖、化学奖和经济学奖的得主都与 AI 有关。但诺奖得主们对 AI 的态度并非一致：化学奖的三位科学家更多是为 AI 在蛋白质的广阔应用前景感到兴奋；物理学奖的两位得主约翰·霍普菲尔德（John J. Hopfield）与杰弗里·辛顿（Geoffrey E. Hinton）则对 AI 感到担忧和恐惧。

辛顿被称为 “AI 教父”，但去年他开始表达后悔研发 AI。在接受诺奖委员会的访谈时，辛顿说政府可以强迫大公司投入更多资源用于 AI 安全研究，他说 “我们正处在历史的分岔点上。未来几年，我们需要找出应对 AI 威胁的方法。”

阿西莫格鲁则对诺奖委员会说自己也担心 AI，但不是辛顿那样的担心。“我一点也不担心超级 AI，我担心的是愚蠢 AI。”

他担心的是人类使用不当，愚蠢的 AI 也可能被用于搜集数据、扭曲信息进一步削弱民主、加剧不平等，真正导致两极社会的出现。他认为美国已经开始受此负面影响，而现在工业化国家民众对民主的支持率降至低水平，与此同时，“民主国家和民主党派并不总能兑现民主的承诺，特别是在包容性、廉洁政府和共同繁荣方面。”

阿西莫格鲁对 AI 的态度由他的经济学研究所塑造。从研究国富国穷的成名作《国家为什么会失败》、到国家与社会如何决定自由命运的《自由的窄廊》，再到探讨技术进步与共同繁荣的《权力与进步》，他对 “权力” 问题的关注贯穿始终。

他警惕权力被少数人垄断，强调社会和公民共享权力的重要。民众参与塑造了包容型制度，包容型制度反过来也保障了民众参与，形成良性发展的正反馈。这正是 “繁荣” 的关键。

“企业家如果预期所得不被保护，他不会有动力去工作，更别提投资和创新了”

阿西莫格鲁的研究选择与其出身、成长经历有关。他于 1967 年出生在土耳其的伊斯坦布尔，是亚美尼亚人。他的父亲是大学教授和律师，母亲是小学校长。读到初中，他已经目睹两次军事政变，整个中学阶段土耳其有一半时间由军事委员治理。

他认为经济学可以帮助他理解民主、经济增长等大问题，所以去了英国约克大学经济系。但他很快发现，自己学习的经济学不如自己的期望。后来，他用新的方法和视角重塑了经济学的研究领域，延续了少年时的关怀。

阿西莫格鲁早露天赋， 25 岁就拿到了伦敦经济学院（LSE）的博士学位。他的考官说，即使是论文 7 章中最弱的 3 章，也足以让阿西莫格鲁获得博士学位。在 LSE 工作一年后，他去了麻省理工学院（MIT）任教，度过了 31 年。现在他是 MIT 的校聘教授，MIT 教师的最高荣誉。他的妻子奥兹达格拉尔（Asu Ozdaglar）也来自土耳其，同样在 MIT 任教，担任电子工程和计算机科学系主任，曾和他合作过研究。

阿西莫格鲁的学术产量和横跨领域众多。哈佛大学教授曼昆（N. Gregory Mankiw）曾开玩笑：“他一定有个孪生兄弟在帮他写东西……我很难想象一个人能有这么高的产量！”

为什么有的国家富裕，有的国家贫穷？这个经典的大问题在 2000 年前后涌现出新的讨论。传统上，社会学家马克斯·韦伯在《新教伦理与资本主义精神》中给出了一个偏向 “文化” 的解释。韦伯称，新教入世禁欲主义伦理为企业家提供了心理驱动力和道德能量。到了 1997 年，生物学家贾雷德·戴蒙德（Jared Diamond）出版《枪炮、病菌与钢铁：人类社会的命运》，强调 “地理” 在人类社会演变过程中的重要作用。

不久，阿西莫格鲁等人在新制度经济学的基础上，做研究写论文，并在 2012 年出版《国家为什么会失败：权力、富裕与贫困的根源》（Why Nations Fail: The Origins of Power, Prosperity, and Poverty）。这本书系统反驳了戴蒙德的地理因素解释，强调 “制度” 因素的重要。

他们认为，国富国穷的关键在于这个社会采取何种政治与经济制度。若采取 “包容型制度”，将经济机会与经济利益分享给更多人、致力于保护个人权益，并在政治上广泛分配权力、建立制衡并鼓励多元思想，国家就会迈向富裕；若采取 “榨取型制度”，将经济利益与政治权力交由少数特权精英把持，国家即使短期出现经济成长也无法持续，因为特权阶级会利用政治权力阻碍竞争，不但牺牲多数人利益，也不利于创新，阻碍整体社会进步。数千年的全球史表明，国家的制度可以往更具包容性的方向移动，也可能倒退回榨取性状态。这是一个动态过程。

相比新制度经济学前辈从历史角度论证制度对经济发展的作用，阿西莫格鲁等人的贡献是采用实证数据的方法，更科学和细致地揭示出其中的因果关联和互动机制。他们建立和采用的数据库、工具变量，比较视角下的历史自然实验的方法论，惠及了经济学、政治学和历史学等多个学科。

比如他们其中的一个论证是，四五百年前，殖民者在不同殖民地引入了不同的政治和经济制度，这导致了殖民地的不同命运。比如那些在殖民时最富裕的地方现在却成了最贫穷的地方。因为殖民者采取了榨取型制度，没有保护私有产权、不限制政府的权力。而那些在殖民时期最贫穷的地方因为采取了包容型制度，现在成了繁荣之地。

如何在数据上区分殖民地的类型呢？他们运用了 “殖民者在殖民地的死亡率” 这一数据标准。死亡率越低，表明该地更安全，殖民者更愿意定居，建立更长期和包容型制度。与之相反，死亡率越高，殖民者更不愿长期定居，建立更短期和榨取型制度。最后，他们发现，殖民地时期死亡率越低地区，今天 GDP 越高。这就排除了其他因素干扰，巧妙地证明两种类型的制度是国富国穷的根源。

“历史的自然实验” 是社会科学学习自然科学的控制变量法，努力寻找那些具有比较价值的案例，探寻人类社会的演变之道。除了殖民地的发展，阿西莫格鲁等人举的例子还包括朝鲜半岛、诺加雷斯市（美国和墨西哥各分一半）。它们初始条件相差不大，但最后走上皆然不同的道路。

目前，世界上最富有的 20% 的国家，比最贫穷的 20% 国家富裕约 30 倍。图片来自：Johan Jarnestad/The Royal Swedish Academy of Sciences

韦伯、戴蒙德和阿西莫格鲁的观点常被人简化为某种决定论。但正如戴蒙德曾回应的，地理、制度、文化、偶然等对人类社会演变起的作用，完全取决于想要研究和解释的对象的性质。“如果你坚持认为国富国穷这个重要问题只有一个简单的原因，那么你得离开地球去其他星球生活，因为这里的现实生活实在很复杂。”

戴蒙德在 2023 年的访谈中对《晚点 LatePost》说，自己经常和阿西莫格鲁、罗宾逊讨论和争论地理、制度、文化和偶然在人类历史中的作用。

两人的分歧没有看起来那么大，因为他们研究对象的时间尺度很不同。戴蒙德讨论的是 1.3 万年这个人类社会分流的时间节点，阿西莫格鲁等人主要处理的是四五百年来不同国家的社会变化。

他们的共同点是激发了公众对国富国穷问题的关注和讨论。阿西莫格鲁的研究还有更直接的政策含义。比如他曾为日本的经济增长战略提供过建议；2013 年，他被时任中国国务院总理接见时提出，中国过去的经济增长源于逐步朝包容型制度改革，建议中国未来要从赶超式增长升级为创新驱动型增长。这需要更进一步朝包容型制度改革。

诺奖委员会解释阿西莫格鲁等人的成就时，提到目前世界上最富有的 20% 的国家，比最贫穷的 20% 国家富裕约 30 倍。

“缩小国与国之间巨大的收入差距是我们这个时代最大的挑战之一 ”，诺贝尔经济学奖委员会主席雅各布·斯文森（Jakob Svensson）说。

“研发新技术，应该提高劳工的边际生产力，不能只想着将工作自动化”

去年 5 月，阿西莫格鲁和约翰逊出版了新书《权力与进步：科技变革与共享繁荣之间的千年辩证》（Power and Progress: Our Thousand-Year Struggle Over Technology and Prosperity）。这本书汇集了他们 20 多年来对于科技、制度和不平等的研究，罗宾逊也为该书理论的政治部分提供了资料和建议。

回顾过去千年许许多多的新发明，阿西莫格鲁和约翰逊认为，现今所有人得以共享繁荣的生活，不是只靠技术进步就保证会自然出现的结果。

比如，中世纪的农业有一系列技术创新，包括犁变得更好用、轮耕制度变得更高效、马匹的使用更广泛、加工厂大有改进，但这几乎没给农民带来任何好处；英国工业革命早期，纺织工厂为少数人创造巨大财富，但近 100 年里，纺织工的工时延长、工作条件恶劣、收入没有增加；过去几十年信息技术迅猛发展，一小部分人暴富，但许多未受大学教育的美国人被抛在后面，实际收入下滑。

“时至今日，全球大多数人都过得比我们的祖先更好。这是因为早期工业社会的公民与劳工被组织起来，勇敢挑战由精英主导的技术与工作条件，并迫使他们以更公平的方式共享技术进步所带来的利益。如今，我们需要再次采取相同的行动。” 他们在《权力与进步》中写道。

不然，所谓的 “进步”，不过是再次让极少数创业者与投资人累积巨额财富，绝大多数人的受益则微乎其微。他们呼吁，只有改变社会权力基础，才可能出现更具包容性的科技愿景。

至于如何改变，阿西莫格鲁等人先揭示出 “生产力提升”（劳工平均产能增加）和 “劳工薪资上涨” 为什么不一定关联的经济学道理。因为对企业来说，重要的是 “边际生产力”（每增加一名劳工，能带来多少额外贡献）。在生产力提升时，边际生产力可能维持不变，甚至下降。

例如未来的工厂只需一个人和一条狗。人负责喂狗，而狗负责让人别碰机器。这家工厂产量极高，所以它的生产力（产量除以唯一的人类员工）极高。但边际生产力小到不值一提。因为唯一的人类员工只是在喂狗。可以预想，即使这家公司买来更好的机器，生产力进一步提高。但它不会雇佣更多人，也不会给人加薪。

也就是说，自动化虽然能提升平均生产力，但并未增加，甚至可能降低劳工的边际生产力。阿西莫格鲁等人觉得，如果想要提升劳工的边际生产力，重要的是创造新的工作任务。

比如从 1910 年代开始，亨利·福特（Henry Ford）让汽车制造业改头换面、大幅采用自动化。但当时推出的大规模制造与生产线作业，同时也催生出一系列新的工作，像设计、技术、机器操作与文书处理，并且推升汽车制造业对劳工的需求。只要新的机器创造出新的人力需求，就能让劳工有更多发挥作用的地方，并提升其边际生产力。

阿西莫格鲁认为，自动化之外，技术进步另一不好的方向是会被用于监控。如果新技术是用来加强监控劳工，虽然这可能让生产力略微上升，但主要的后果是从劳工身上榨取更多劳力，或者降低薪水。

“我们用技术、研发新技术，应该提高劳工的边际生产力，不能只想着要将工作自动化、裁员或加强监控。” 他们写道。

Power and Progress，Daron Acemoglu、Simon Johnson 著，Public Affairs 2023 年 5 月版。

就算提高了边际生产力，劳工的薪资也不一定提升。原因有三点：第一，雇主和员工的关系极不平等。比如农场主可以通过加强控制，提高农奴产出，但绝不会加钱；第二，雇主没有竞争对手。比如在 18 世纪的英国，许多受雇员工被禁止跳槽。如果跳槽，他们会进监狱；第三，现代人确定薪资的方式是协商，而非完全根据市场决定。这意味着两者之间存在差距。雇主愿意提高员工薪资时，往往是为了招聘或留住人才，或在关键时刻激励员工、确保公司更好运转。

阿西莫格鲁等人研究千年历史后，发现技术发展往往符合大人物的兴趣与信念。这可能会让其他人付出沉重代价。但这并非不可改变，要看不在权力核心的人能否组织起来，发出他们的声音，形成一股抗衡力量。

“不想被困在掌权精英的愿景当中，就得从其他地方找出抗衡力量，并以更具包容性的愿景来抵抗自私自利。” 他们说。

“当我们更认真对待权力，经济学会更有深度”

在接受诺奖委员会访谈时，约翰逊提到，当人类在思考和讨论新技术时，谁来做决定非常重要。这会反映并影响制度的包容性。

罗宾逊向诺奖委员会解释，历史上一个国家从榨取型制度向包容型制度转型的关键，在于公民的集体行动，在于那些遭受榨取型制度、不平等和边缘化的人们。例如上世纪五六十年代美国的民权运动，人们集体组织起来，争取权利，反对榨取型经济和政治体制。

“包容型制度不是由善意的精英创建。它们是由那些为自己的权利而战、为不同社会愿景而战的人们创建的。” 罗宾逊说。

从学术脉络角度，阿西莫格鲁被看作新制度经济学的传人。这个学派的代表人物包括曾获诺奖的奥利弗·威廉姆森（Oliver Williamson）、道格拉斯·诺斯（Douglass North）等。但阿西莫格鲁觉得，自己和新制度经济学的重点略有不同。诺斯等人引入了产权、市场、激励机制、交易成本等元素，但权力问题被忽略了。

“对我来说，权力是核心。威廉姆森和诺斯从未真正深入研究：谁在经济关系和社会关系中拥有足够权力。我认为，当我们更认真对待权力，经济学会更有深度。” 阿西莫格鲁今年在斯坦福大学胡佛研究所的一档播客里说道。

他认为这是代议制政府的关键。政府可以是非常糟糕的行动者，历史上能清楚看出这点。但同时，政府也能制定法规，保护弱者，创造公平的竞争环境。这也是为什么民主能够促进经济增长。因为民主国家的再分配更多，更多投资于公民教育、医疗保健，不那么有利于垄断和寡头经济。

获奖者关于政治体制如何形成和变化的理论框架有三个主要组成部分：A）精英与大众之间的冲突；B）大众有时能够通过动员和威胁统治精英来行使权力；C）精英与大众之间的承诺问题。Johan Jarnestad/The Royal Swedish Academy of Sciences

因此，如果公众想让 AI 朝着对自己有利的方向发展，需要联合起来改变权力结构。阿西莫格鲁认为美国 20 世纪初的进步主义运动是个成功的范例。这场运动成功的真正关键在于美国大众，特别是中产阶级观点及价值判断的变化。这由一批先行者所推动，如艾达·塔贝尔（Ida Tarbell）、林肯·斯蒂芬斯（Lincoln Steffens）等调查记者揭露垄断企业如何打压对手、勾结国会议员；小说家厄普顿·辛克（Upton Sinclair）揭露肉品加工业的恶劣工作条件；后来成为美国最高法院大法官的律师路易斯·布兰代斯（Louis Brandeis）提出 “隐私权”，指控巨头企业阻碍个人自由。

随后，美国矿工联合会等组织开始游行，关注农民权益的人民党成立，老罗斯福等政治家将进步主义思想吸纳进主流政党。他们赢得选举后，开始逐步推动改革，比如打击垄断、扫除腐败、改革金融和税务等等。

阿西莫格鲁说，改变叙事观点及价值规范、培养制衡力量、提出政策解决方案，是进步运动成功，也是当前解决 AI 等技术带来的问题的三个要素。

根据这个规律，他也提出了解决 AI 问题的一些建议。例如，AI 的发展方向是要研发辅助人类能力的技术，创造新的工作任务和机会。具体的包括重塑劳工组织、确保政商透明度、运用市场奖励机制、投资员工、加强社会安全网、保护公众隐私和数字资料所有权、征收数字广告税等等。

但阿西莫格鲁反对流行的 “全民基本收入”（UBI）方案，即一个国家的每位合法公民都能按月领取一份基本收入。他认为这是把资源交给所有人，不是给那些最需要的人。这种方法实行起来会更贵，效果也差。

更重要的是，他觉得 UBI 对现在的问题不但理解错误，实施结果更会适得其反。UBI 基于一个假设：人类正不可避免地走向一个大多数人不需要工作也没有工作的世界，一小部分人掌握越来越先进的数字科技，与其他人的差距越来越大。人类唯一能做的就是大规模地再分配财富。这也是 OpenAI CEO 奥尔特曼、Google 联合创始人拉里·佩奇（Larry Page）等 AI 商业领袖所认真讨论的可能性。

但阿西莫格鲁认为，人类社会之所以越来越不平等，不是什么不可避免的结果，而在于在让谁拥有权力、技术发展方向问题上做出错误选择。UBI 等于信奉失败，完全相信商业和科技精英的愿景。它非但不能解决社会两极化的问题，还进一步确认了这样的人为分化。

就像他们《权力与进步》中阐述的，“这一切让我们看到，我们不该只想着制定什么新奇时髦的财富转移机制，而该设法强化现有社会安全网，而且重点是要为所有人创造出有意义、报酬优渥的工作。这意味着要让技术重新导向。”

题图来源：电影《机器管家》

来源：网易

通信人家园 (https://www.txrjy.com/)