书籍 - 千脑智能
发布于首先这本书并不完全是真理,大脑如此复杂,还没有完全全面的科学实验证明这本书里面的每个理论都是真实的,不过其中有一部分的理论有相关的论文和实验依据,在书的最后一部分作者有列出来。但这本书提出了这么一个大脑智能的理论框架,可以帮助我们去理解大脑的运行,大部分合理,可以触发我们去思考日常工作生活时大脑的工作原理,会有一些受益。
新脑和旧脑
首先人脑有旧脑和新脑(新皮质)之分。“旧脑包含几十个独立的器官,每个器官都有特定的功能。而新皮质则是智能的器官,几乎所有我们认为是智能的能力,如视觉、语言、音乐、数学、科学和工程,都是由新皮质创造的。当新皮质想做什么时,它会向旧脑发出一个信号,在某种意义上要求旧脑听从它的命令。例如,呼吸是脑干控制的功能,不需要大脑思考或 来自新皮质的信息输入。新皮质可以暂时控制呼吸,比如当你有意识地决定屏住呼吸时,如果脑干检测到你的身体需要更多的氧气,它就会忽略新皮质的命令,重新控制身体。”
“新皮质约占大脑体积的70%,约有一张桌布那么大,厚度则约是桌布的两倍(约2.5毫米)”
“新皮质的基本单位,即智能的单位,是‘皮质柱’。通过观察新皮质的表面,可以发现一根皮质柱大约占据了1平方毫米。皮质柱沿着 整个2.5毫米厚的新皮质向下延伸,其体积可以达到2.5立方毫米。根据这一定义,人类大脑的新皮质中大约有15万根皮质柱并排堆叠在一 起。”
基于世界模型进行预测
作者认为人类对世界的认识和感知,来源于新皮质构造的“世界模型”。
“新皮质学习了一个世界模型,并基于该模型进行预测。”
在人刚出生时,这个世界模型是空的,随着身体的运动,四肢和身体的触觉感知;眼睛的观察,视觉的感知;听觉嗅觉等感官,多方位塑造了对某个物体或某个环境的整体模型。当我们去到一个新环境时,感官也会马上开始进行对整个环境的建模。
对数学、人文社科的抽象概念也是类似的建模方式,在学习过程中不断建模。
“这些模型是我们进行预测、感知和行动的基础。”
“通过运动学习世界的预测模型。”
视觉听觉触觉感知物体,是运动,学习抽象知识的思考,也是运动。
运动会涉及到神经元的脉冲、轴突与树突建立连接的过程。
“每天,单个神经元上的许多突触会消失,新突触会取而代之。因此,大部分的学习是通过在以前没有连接的神经元之间形成新的连接而发生的。当旧的或未使用的连接被完全移除时,就会发生遗忘。”
“在每个迷你皮质柱中,会有多个神经元对同一输入模式产生应激反应。它们就像在起跑线上的选手,都在等待相同的信号。如果它们都获得了输入,就都会发射脉冲信号。但如果有一个或几个神经元已 经处于预测状态,根据我们的理论,只有这些神经元才会发射脉冲信 号,其他神经元则会被抑制。因此,当一个未预测到的输入到达时,多个神经元会同时被激发,但如果输入是预测到的,那么将只有处于预测状态的神经元会发射脉冲信号。这是从新皮质中观察到的一个常见现象:未预测到的输入通常会比预测到的输入引起更大的刺激。”
大脑时时刻刻会进行预测,预测这个位置会有什么东西,预测这段话后面会接上什么内容。感觉上如果有预测之外的事情发生,或之前未见过的文字观点,就会产生刺激,刷新世界模型,可能也就是,学到新知识,这个过程在物理感知上和原理概念上都相同。
“大脑中大约有15万根皮质柱。每根皮质柱都是一个学习机器,都通过观察信息输入如何随时间变化来学习其预测模型”
大脑使用参考系管理所有知识
通过多个参考系去确定某个物体的形状,以及物体的相对位置。
在抽象知识的学习,也在皮质柱里建立对应的参考系,形成模型。
思考是运动的一种形式。如果说我们所知道的一切都存储在参考系中,为了回忆这些存储的知识,我们必须在适当的参考系中激活适当的位置,在大脑中以神经元放电来完成,当神经元激活参考系中一个一个位置时,思考就会产生,从而让我们想起每个位置存储的内容,思考的过程中产生一系列的想法,通常会伴随各种各样的感受,变成新的知识和新的知识,又存储在新皮质中。
新皮质被分为what区域和where区域。
“如果where柱可以说话,它可能会说:‘我已经创建了一个附着到身体上的参考系。利用这个参考系,我看着一只手,便知道它相对于身体的位置。然后我看着一个物体,便知道它相对于身体的位置。有了这两个位置信息,我就可以计算如何才能将手移到物体上。尽管我知道物体在哪里以及如何拿到它,但我无法识别它。我并不知道那个 物体到底是什么。’”
“如果what柱可以说话,它可能会说:‘我已经创建了一个附着到物体上的参考系。利用这个参考系,我可以识别出那个物体是一个咖啡杯。我知道那个物体是什么,但我不知道它在哪里。’把what柱和where柱合二为一,我们便能识别出物体、拿到它并使用它。’”
“参考系的四种用途,一种用于旧脑,三种用于新皮质。旧脑中的参考系学习环境地图。新皮质里what柱中的参考系学习实物地图。新皮质里where柱中的参考系学习我们身体周围空间的地图。此外,新皮质里非感觉皮质柱中的参考系学习概念地图。”
“这是学习概念性知识可能比较困难的原因之一。我指的是,要成为某个研究领域的专家,你需要找出一个好的框架来表征相关的数据和事实。可能不存在一个正确的参考系,两个人对同一事实的组织方式可能也不同。找出一个有用的参考系是学习中最困难的部分,尽管大多数时候我们并没有意识到这一点。”
“新皮质中有许多针对具体某个物体的模型。这些模型位于不同的皮质柱中。它们并非完全相同,而是互为补充。例如,一个从指尖获得触觉输入的皮质柱,可以学习一个手机的模型,包括手机的形状、表面的纹理,以及手机按钮在按下时如何移动;一个从视网膜获得视觉输入的皮质柱也可以学习一个手机的模型,包括手机的形状、手机不同部分的颜色,以及屏幕上的图标在使用过程中的变化。”
“大脑中的知识是分布式存储的。所有知识都不会只存储在一个地方。关于一个物体的知识会分布在成千上万根皮质柱中,但这只是所有皮质柱中的一小部分。这就是我们称其为‘千脑智能理论’的原因:关于任何特定物体的知识都分布在成千上万个互补的模型中。”
“皮质柱中的投票机制解决了'绑定问题',该机制使大脑可以将各种感觉输入结合起来,集合关于在这个事物的所有存在皮质柱内的模型,进行投票确定几个模型,形成对所感知事物的单一表征。”
这些就是第一部分里讨论的千脑智能理论,大脑的工作原理。
实现人工智能的方式
在第二部分里,作者当时(2022年9月中文版出版,英文版应该更早)认为之前的深度学习网络并不具备知识。
“在一些人工智能科学家看来,知识表征是人工智能研究唯一重要的问题。他们认为,除非解决了在计算机中表征常识这一问题,否则我们就无法制造出真正的智能机器。”
“一个用于下围棋的计算机并 不知道围棋是一种游戏,也并不了解这一游戏的历史。它并不知道与 它对弈的是计算机还是人类,也不知道计算机和人类意味着什么。与 此类似,用于标记图像的深度学习网络可以观察一张图像,然后判断 图中的物体是一只猫。然而,计算机对猫知之甚少。它不知道猫是动 物,也不知道猫有尾巴、腿和肺。它不知道什么是爱猫人士和爱狗人 士,也不知道猫会喵喵叫,还会掉毛。深度学习网络只能判断一个新 输入的图像与之前看过的、被标记为“猫”的图像是否相似,并没有关于猫的知识。”
“近年来,人工智能科学家尝试了另一种编码知识的方法。他们创建了巨大的人工神经网络,并使用大量的文本来训练这些网络。这些用于训练的文本包含数万本书中的每一个单词、维基百科的全部内 容,以及几乎整个互联网中的信息。他们一次一个词地将这些文本提 供给人工神经网络。人工神经网络则通过这种训练方式,学习某些单词在其他单词后面出现的可能性。这些语言网络可以完成一些惊人之举。”
这种语言网络不知道作者认为合不合理,也许在GPT2的那个版本还有问题,但在加上了大规模数据的GPT3这一版本,数据和模型产生了很大变化,Scaling Laws有效,但不确定压缩是否真的在其中产生了智能。感觉知识表征是成功了的。
看到2024年6月17日作者发起了Thousand Brains Project的模拟人脑的智能项目,也许这种路子才能实现人工智能,目前的大趋势不对,这种信念和探索也是有意思的,LLM说不定有可能在达到某个程度之后就会停滞了呢。
https://spectrum.ieee.org/jeff-hawkins
“人工智能科学家杰弗里·辛顿(Groffrey Hinton)深知参考系的重要作用。如今的神经网络依赖于辛顿在20世纪80年代提出的思想。近年来,辛顿开始对该研究领域持批判态度,由于深度学习网络无法感知位置信息,他认为深度学习网络无法学习世界的模型。本质上,这和我提出的批评是一样的:人工智能需要参考系。辛顿提出了一种解决该问题的方案——胶囊(capsules),胶囊有望大幅提高神经网络的性能。”
MEME
“模因(meme)的概念最初由进化生物学家理查德·道金斯提出,模因会在社会演化进程中自我繁殖和进化,如同基因一样,但是模因通过文化演化完成。”
上一次听到 meme 这个概念还是小岛秀夫的那本书,《创作的基因:我所爱着的MEME们》。
意识
作者认为意识是可解释的,一天开始,一天经历下来做了很多事,大脑在做这些事时突触或神经元产生的变化,就是今天的意识的来源。
“有意识要求我们形成即时的关于思维的记忆。而思维就是大脑中神经元的连续激活。”
“我们的知觉和存在感是意识的核心部分,它依赖于不断形成对最近的事项和经历的记忆,并在日常生活中回放它们。”
“感受质(qualia)是指感觉输入被感知的方式,以及它们带来的感觉。人们将感受质的来源视为意识之谜。”
“感受质是大脑学习世界模型的一部分。大脑通过运动来学习世界模型,人们通过类似的运动方式来学习感受质。”
基因和知识
旧脑代表着基因、生存和繁衍的本能,新皮质则代表着智能、思维。新旧脑在不停地竞争,新皮质从更高层面调用着旧脑的运动能力等功能,而旧脑则有着一种基因驱动的生存繁衍功能,目的是让基因传递下去。
“知识比基因更重要,两者之间有一个根本的区别,这个区别使得保护和传播知识比保护和传播基因更值得追求。”
“基因只是会自我复制的分子。随着基因的进化,它们并没有朝着任何特定的方向发展。一个基因在本质上也不会比另一个基因更好,就像一个分支在本质上不会比其他分子更好一样。基于基因的生命没有方向或目标。”
“而知识既有方向,也有最终目标。基于重力的知识,可以从没有知识,到牛顿的知识,再到爱因斯坦的知识,但它不能向相反方向发展。”
已经确认的知识,是不会向反方向发展的,科学证据确定了地球是球型的,就不会说地球是平的了。
这两者感觉上来说应该是相辅相成,互不冲突的,但在基因的驱动下,旧脑有时候会处于本能,做一些新脑认为是不正确、不好的事情,这两者在互相角力。但看到对知识无尽的探索,这是一个好的方向。
最后
情感是怎么产生的,和大脑有什么关系,还不清楚。
作者认为智能机器并不会威胁人类的生存,因为智能机器不会有和人类一样的情感和动机,除非我们将这样的情感和动机赋予机器。欲望、目标和攻击性不会神奇地出现在智能机器上。
后面第三部分有很多一些大胆畅想,有些科幻,有些大,但有些维基地球的想法还挺有趣的,把地球上所有知识打包保存起来,传递出去,如果有一天人类灭绝了,那些就是人类存在过的证明哈哈。恐龙就没有留下什么存在的证明。有意思。