人类一生所学不过4GB，加州理工顶刊新研究引热议

tayun

西风 一水 发自 凹非寺
量子位 | 公众号 QbitAI

24小时不间断学习且不遗忘，一辈子也只有4GB的“知识储量”？

科学家们最新研究，计算出了人类学习积累上限，就这么多~~（甚至还不如一块U盘能装）。

这是来自Cell旗下神经科学顶刊Neuron上的一项工作，它提出了一个发人深省的悖论：

人类信息处理速度仅为每秒10bit，而我们的感官系统却能以每秒10亿bit的速率收集数据。

由此，按照每秒10bit的速度来算，人类24小时不间断学习且不遗忘，100年储存的知识也不过4GB。

什么概念呢？来和大模型做个对比：

大语言模型每个参数就能存储2bit知识，一个70亿参数的模型就能存储140亿bit的知识。

△结论来自华人学者朱泽园”Physics of Language Models”系列论文

难怪研究人员还提出了一项推论：

随着算力的不断提升，机器在各类任务中的表现超越人类只是时间问题。

另外，按照这项研究的结论，马斯克目前的脑机接口研究也有问题了。

研究人员表示：

我们预测马斯克的大脑与计算机的通信速率大约为10bit/s。与其使用Neuralink的电极束，不如直接使用电话，因为电话的数据传输率已经被设计得与人类语言相匹配，而人类语言又与感知和认知的速度相匹配。

一时间，这一系列惊人推论在学术圈各大社区引起广泛讨论。

美国知名医师科学家、斯克里普斯转化研究所创始人Eric Topol也忍不住下场转发。

为啥我们一次只能思考一件事呢？

所以，结论如何得出的？

中枢神经系统“串行”影响信息处理速率

简单说，要想计算人一辈子能学多少知识，我们得先从大脑处理信息的速度说起。

从对几项日常活动（如打字、说话演讲、拧魔方等）的评估来看，他们初步得出“大脑处理信息的速度约为10bits/s”这一结论。

以人类打字为例，高级打字员每分钟能打120个单词（每秒2个），平均每个单词按5bit计算，那么信息传输速率就是10bits/s。

同样，若以英语演讲为例，如果将节奏控制在舒适程度——讲话速度为每分钟160个单词，则信息传输速率为13bits/s，略高于打字。

再比如“盲拧魔方”这项竞技活动，选手需先观察魔方几秒，然后闭眼还原。以一次世界纪录的成绩12.78s为例，其中观察阶段约5.5s，由于魔方可能的排列数约为4.3x1016≈265，则最终信息传输速率约为11.8bits/s

使用类似方式，作者估算了更多场景下的信息处理速度（从经典实验室实验到现代电子竞技等），结果显示为5~50bits/s之间。

由此也得出一个整体结论：人类思考的速度始终在10bits/s的尺度范围内

按照这一标准，假设我们能活100岁，每天24小时不间断学习（且剔除遗忘因素），那么我们最终的“知识储量”也将不到4GB。

事实上，与10bits/s形成鲜明对照的是——人类感官系统以约10亿bits/s的速率收集数据。

10bits/s VS 10亿bits/s

具体来说，我们每天从周围环境中获取信息的速率就以Gbps/s起算。

举个栗子，视觉系统中单个视锥细胞能以270bits/s的速度传输信息，而一只眼睛就拥有约600万个视锥细胞。

那么，光是双眼视觉系统接收信息的速度就高达3.2Gbps/s。照此推算，我们接收信息的速度与处理信息的速度之间的差距比值竟然达到了108:1。

要知道，人类大脑里有超过850亿个神经元，其中三分之一集中在大脑皮层组成了复杂的神经网络。也就是说，明明单个神经元就能轻松处理超过10bits/s的信息。

而现在所观察到的现象却与之不符，显而易见，上述二者之间存在一定矛盾

从神经元本身的性能来看，它们具备快速处理和传输信息的能力，但这并没有直接转化为整体认知速度的提升，说明还有其他因素在起作用。

那么，为什么人类信息处理速度如此之慢？

按照论文分析，原因可能在以下几个方面：

最主要的，中枢神经系统在处理信息时采用的是串行方式，对信息传输速率有所限制。

这里要提到并行处理和串行处理之间的区别。

所谓并行处理，显然指多个任务同时进行。以我们看东西为例，视网膜每秒会产生100万个输出信号，每一个信号都是视网膜神经元对视觉图像局部计算的结果，由此同时处理大量视觉信息。

而在中枢神经系统中，他们观察到了一种“心理不应期”（psychological refractory period）效应，即同时面对多个任务，中枢神经系统只将注意力集中在一个任务上。

当然，他们也进一步探究了出现“串行”背后的原因，结论是这与演化过程早期的神经系统功能有关

展开来说，那些最早拥有神经系统的生物，核心利用大脑来检测气味分子的浓度梯度，以此判断运动方向进行捕食和避开敌人。长此以往，这种特定功能需求使得大脑逐渐形成了“一次处理一个任务”的认知架构。

在进化过程中，大脑的这种架构逐渐固化，虽然随着物种的进化，大脑的功能越来越复杂，但这种早期形成的认知架构仍然在一定程度上限制了我们同时处理多个任务和快速处理信息的能力。

除此之外，还有理论认为存在 “注意瓶颈” 等限制了信息处理。注意力是认知过程中的一个重要因素，它就像一个瓶颈，限制了能够进入认知加工阶段的信息数量和速度，不过其具体运作机制目前人类尚未完全理解。

总之，按照论文的观点，10bits/s这样的速度已经可以满足人类生存需求，之所以还存在庞大的神经元网络，原因可能是我们需要频繁切换任务，并整合不同神经回路之间的信息。

马斯克脑机接口过于理想化

不过话虽如此，鉴于10bits/s和10亿bits/s之间的巨大差距，人类越来越无法忍受慢节奏了。

由此论文也得出一个推断：随着算力的不断提升，机器在各类任务中的表现超越人类只是时间问题。

换成今天的话说，以AI为代表的新物种将大概率逐渐“淘汰”人类。

另外，论文还顺带调侃了马斯克的脑机接口系统。

其中提到，马斯克的行动基于肉体带宽不足对处理信息的限制。按照老马的设想，一旦通过高带宽接口直接连接人脑和计算机，人类就可以更自由地和AI交流，甚至共生。

然而他们认为这一想法有些过于理想化。

10bits/s的限制源于大脑基本结构，一般无法通过外部设备来突破。

由此也提出开头提到的建议：

与其使用Neuralink的电极束，不如直接使用电话，因为电话的数据传输率已经被设计得与人类语言相匹配，而人类语言又与感知和认知的速度相匹配。

不过上述言论也并非意味着他们对脑机接口失去信心，他们认为其关键并不在于突破信息速率限制，而是以另一种方式提供和解码患者所需信息。

作者之一为上海交大校友

这项研究由来自加州理工学院生物学与生物工程系的两位学者完成。

Jieyu Zheng目前是加州理工学院五年级博士研究生，她还是上海交大本科校友，还有康奈尔大学生物工程学士学位，在剑桥大学获得教育与心理学硕士学位。

她的研究重点聚焦于认知灵活性、学习和记忆，特别关注大脑皮层和海马体在这些功能中的核心作用。目前她正在进行一个名为“曼哈顿迷宫中的小鼠”项目。

Markus Meister是Jieyu Zheng的导师，1991年起在哈佛大学担任教授，2012年于加州理工学院担任生物科学教授，研究领域是大型神经回路的功能，重点关注视觉和嗅觉的感官系统。

Markus Meister曾于1993年被评为Pew学者，2009年因其在视觉和大脑研究方面的贡献获Lawrence C. Katz神经科学创新研究奖以及Minerva基金会颁发的“金脑奖”。

新研究发布后，作者们就在X上当起了自个儿的自来水。

我们提出的特征是脑科学中最大的未解数值。

Markus Meister还调侃每秒10bit的处理速度可是经过了同行评审的。

随后学术圈各大社区也针对这项研究开始讨论起来。

有人认为论文读起来很有意思，发人深省：

简化内容，只聚焦于中枢神经系统并且将讨论的内容分为内部和外部大脑两部分后，更有意义了。

这是一个非常重要的视角，值得深思……

然鹅，也有不少人提出疑问。

我越想这篇论文中的某些估计，就越怀疑。例如，关于打字员与听者之间比特率的等效性（S.3）似乎有误。正如香农所指出的，英文字母的熵约为每字符1bit。但如果是一连串的单词或是概念，情况又如何呢？

作者默认了一个假设，即每秒10bit是慢的。与我们在硅基底上实现的通用计算系统相比，这的确很慢，但这种假设并不能线性地转化为大脑的信息吞吐量和存在的感知。

对于这项研究，你有什么看法呢？

论文链接：https://arxiv.org/pdf/2408.10234


[1]https://www.caltech.edu/about/news/thinking-slowly-the-paradoxical-slowness-of-human-behavior
[2]https://www.cell.com/neuron/abstract/S0896-6273(24)00808-0
[3]https://news.ycombinator.com/item?id=42449602
[4]https://arxiv.org/pdf/2408.10234


来源：网易