首页
学习
活动
专区
圈层
工具
发布
首页
学习
活动
专区
圈层
工具
MCP广场
社区首页 >专栏 >分层网络结构作为生物系统分层的动力学

分层网络结构作为生物系统分层的动力学

作者头像
CreateAMind
发布2024-01-17 17:18:23
发布2024-01-17 17:18:23
4150
举报
文章被收录于专栏:CreateAMindCreateAMind

Hierarchical network structure as the source of hierarchical dynamics (power-law frequency spectra) in living and non-living systems: How state-trait continua (body plans, personalities) emerge from first principles in biophysics

分层网络结构作为生物和非生物系统分层动力学(幂律频谱)的来源:状态‑特质连续体(身体计划、个性)如何从生物物理学的第一原理中出现

Keywords:

Information bottleneck

Bowtie

Network motifs

Morphology

Behavior

Morphogenesis

Body-plans

Phenotype

Personality

Personality development

States

Traits

State-trait continuum

Pink noise

1/f noise

Zipf’s law

Power-law frequency distribution

Frequency spectra

Fourier analysis

Network systems

hierarchical Bayesian control systems

free energy principle

active inference

nested-modular

small world

scale free

fractal

mereology

network dynamics

phase-amplitude coupling

cross-frequency coupling

separation of timescales

network structure

stress

hub collapse

cascading failure

early warning signs

disorder

coupled attractor systems

thermodynamics

biophysics

ontogenesis

phylogenesis

specialization

speciation

adaptive radiation

evolution

permutation entropy

allostatic overload

摘要

生物系统是具有小世界网络结构的分层控制系统。在这样的结构中,许多较小的集群嵌套在较少的较大集群内,形成了一种类似分形的结构,具有“幂律”集群大小分布(部分整体)。就像它们的结构一样,生物系统的动力学表现出类似分形的特性:内部信息传递和外部行为的时间序列包含高频或“状态”(高音),这些状态嵌套在低频或“特性”(低音)内,产生幂律频谱,被称为行为科学中的“状态-特质连续体”。在这里,我们认为生物系统的幂律动力学是由其幂律网络结构导致的:生物体“垂直编码”其(预期的)环境的深层时空结构,因此在层次结构的基础附近产生许多小集群,会产生高频信号变化,而在层次结构的顶部附近产生较少的大集群,会产生超低频率。这样的超低频率施加了一种持续的调节压力,产生形态和行为特征(即,体型和个性)。嵌套模块化结构导致高频嵌入低频,产生幂律状态-特质连续体。在这样的动力学中,存在通过耦合振荡器网络进行高效能量耗散的需求,这也控制着非生物系统的动力学(例如,地震,股市波动)。由于分层结构产生分层动力学,分层结构的发展和崩溃(例如,在成熟和疾病期间)应该在系统动力学中留下特定的痕迹(较低频率的变化,即形态和行为特征),这可能作为系统失败的早期警告信号。这个想法的应用范围从(生物)物理学和谱系发生学到个体发生学和临床医学。

关键词:

- 信息瓶颈- 领结- 网络模体- 形态学- 行为学- 形态发生学- 体型计划

- 表型- 个性- 个性发展- 状态- 特征- 状态-特征连续体- 粉红噪声

- 1/f 噪声- Zipf 定律- 幂律频率分布- 频谱- 傅立叶分析- 网络系统

- 分层贝叶斯控制系统- 自由能原理- 主动推理- 嵌套模块化- 小世界

- 无尺度- 分形- 部分整体学- 网络动力学- 相位-幅度耦合- 跨频耦合

- 时间尺度分离- 网络结构- 压力- 中枢崩溃- 级联失败

早期预警信号

紊乱 耦合吸引子系统 热力学 生物物理学 发生学 系统发生学 专业化

物种分化 适应性辐射 演化 排列熵 异态超载

3万字长文,12节为铺垫,3节开始进入主题,6节展开,7节解释,可以快速浏览参考。

1 On the structure (spatial characteristics) of living systems

关于生物体的结构(空间特征)

是什么导致生物体具有不同的体型和个性?在本文中,我们通过探讨支配生物体结构和动态的通用原理来回答这个问题。

细胞、器官、生物体和社交网络等生物体系被认为共享一种被称为小世界拓扑结构(Watts和Strogatz,1998)的通用网络结构。小世界网络是一类网络,其中系统组件(节点“度数”)的连接数量分布不均匀,即大多数节点只有很少的连接,但有一些节点有很多。例如,大多数基因、细胞、神经元、神经回路和社交个体都只有很少的连接,但有一些有很多(例如,中心基因、中心神经元、阿尔法雄性、社区工作者)。小世界网络的度分布遵循一个称为“幂律”度分布的特征反比关系(Clauset等人,2009)(图1)。这种模式与属性(如体重或身高)的高斯或“正常”分布明显不同。幂律分布的一个众所周知的标志是其分布的自然对数产生一条直线(图1)。另一个特征是可以放大或缩小幂律曲线,仍然观察到相同的形状。因此,幂律度分布被称为具有“尺度不变”或“尺度自由”特征,也称为“自相似”或“分形性1”从技术上讲,尺度不变和尺度自由之间有一个区别,通常与重整化群有关。实质上,尺度不变要求在连续粗粒化的尺度上保持系统动力学(或拉格朗日量)的不变。尺度自由是尺度不变的一个略微更强的概念:尺度自由系统是没有特征尺度的尺度不变系统。类似地,自相似性和分形性之间也有一个技术上的区别。分形指的是通常呈现自相似性的分数维度。(Barabasi,2009;Song等人,2005)。

在小世界网络中,高度连接的节点(“中枢”)汇聚到其他中枢形成中枢节点的等级制度(称为“富俱乐部”(Colizza等人,2006))(图2)。这可以与由多个驾驶员(中枢)控制的一组马队相比,这些马队反过来又由更高级别的驾驶员(中枢)控制,依此类推,形成一个金字塔状的结构,底部宽而顶部狭窄。由于这种网络拓扑结构,消息可以沿着中枢结构沿着高效路径传播,导致网络中的任意两个节点仅通过少数中间步骤连接(因此称为“小世界”)。除了产生有效的路径外,中枢还将网络的部分收缩成所谓的簇(模块),这是节点共享更多连接的节点社区,而不是与其环境的连接(Newman,2012)。高集聚和低平均路径长度的组合称为小世界网络拓扑结构。

在小世界网络中,聚类本身可能在更高的空间尺度观察级别上充当中心节点,将其他聚类的集合缩小成超级聚类,依此类推,形成嵌套模块化的层次结构(图2A)。例如,在一个聚类中的一组中心基因可能连接到其他聚类中的中心基因,形成聚类的集合。这样的嵌套聚类持续进行,直到只有几个大型模块形成了部分-整体关系的顶部层次。无论观察的空间尺度级别如何,都可以在这样的结构中识别出小世界网络拓扑结构,这就是它们被称为尺度不变或尺度自由系统的原因(Barabasi,2009)。在检查这种类似分形的系统中的聚类大小分布时,同样会得到一个幂律分布(图2B)。

Fig. 1. 生物系统:具有链接分布符合幂律的小世界网络。A. 小世界网络中节点之间链接的分布(度分布)符合幂律:大多数节点只有少量连接,但一些节点(枢纽)有很多连接。B. 这种幂律度分布的自然对数(ln)产生一条直线 Y = b * ln (s),其中 b 是“幂律指数”,表示直线斜率的陡峭程度。

Fig. 2. 生物系统:嵌套模块化(分层)网络结构,其簇大小分布符合幂律。A. 在小世界网络结构中,网络簇在空间上显示出条件依赖,即给定簇的存在仅在其组成子簇存在的条件下才能存在,形成了部分整体关系的空间层次结构(“mereology”)。在这种尺度自由网络(例如,生物系统)中,簇大小的分布符合幂律。B. 这种幂律簇大小分布的自然对数产生一条直线。

2. On the dynamics (temporal characteristics) of living systems

关于生命系统的动态(时间特征)

除了它们的网络结构,生物系统的动力学也显示出尺度不变性的迹象。这些系统内部信息传递或显性行为的时间序列显示出快速波动,这些波动“嵌套”在较慢波动内,形成了部分整体关系的层次结构(He, 2014; He et al., 2010)。这可以通过将时间序列分解为由正弦波表示的成分频率来观察到(这称为傅里叶变换:图3A)。该频谱中的每个频率可以被分配一个值,该值指示该频率在时间序列中的平均振幅。结果表明,较低(基础)频率以最高的振幅表达,然后振幅会平滑地随频率的幂下降,产生典型的“幂律”频率分布(图3B,C)。各种频率成分显示出条件依赖关系,通常是低频相位变化产生高频“突发”的现象,称为相位幅度耦合(图3D)(He et al., 2010; Velarde et al., 2019; Canolty et al., 2006)。在任务执行过程中,某些中间频率在时间上获得显著性,表现为幂律曲线上的“颠簸”(图3E)(He, 2014)。

幂律频率分布主导了生物系统的时间序列,涵盖了从个体光感受器和膜电位的亚毫秒响应到演化时间尺度上的克拉德分布(He, 2014; He et al., 2010)的广泛时空尺度。它们存在于基因表达和蛋白质合成、光合作用、呼吸周期、神经放电率、神经场电位以及大型神经系统的动力学等多个领域(Clauset et al., 2009)。

Fig. 3. 生物系统的内部信息传递和显性行为呈现出嵌套模块化(分层)动态,其中频率成分的分布符合幂律。A. 傅立叶变换是一种将任何信号分解为其组成频率的方法。B. 信号(例如EEG头皮记录)的频率成分分布遵循幂律P ~ 1/f^β,其中P是功率或振幅,f是频率,β是幂律指数(通常在0-3的范围内)。C. 这种幂律频率分布的自然对数呈直线状(参见图1)。D. 各种频率显示出条件依赖关系。通常,较低频率的相位决定较高频率的振幅,因此较低频率充当较高频率的载波波动(相位振幅耦合或振幅调制)。E. 任务执行在幂律曲线上产生“突起”(图示EEG功率谱)。

幂律频率分布主导了外部可观察行为的动力学,如运动、姿势控制、手指敲击、按键压力、反应时间、命中率、施加力量和语音(He, 2014; He et al., 2010)。这同样适用于主观内在体验的动力学,如情绪波动(情感)、动机变化(狂躁)和认知功能(记忆和注意力)(Nakamura et al., 2008; Perdikis et al., 2011)。幂律动力学在社交网络和互联网中也得到了发现,使其成为真正的尺度不变现象(Barabasi, 2005; Clegg et al., 2010; de Menezes and Barabasi, 2004)。从本质上讲,幂律频率分布描述了一个状态-特质连续体,在这个连续体中,系统的快速波动或“状态”(行为“天气”)叠加到较低频率或“特质”(行为“气候”)上(Steyer et al., 1999)。因此,幂律状态-特质连续体似乎是统治生物系统动力学的一个普遍特征。

3. On the functional significance of power-law dynamics in living systems

关于生物系统中幂律动力学的功能意义

幂律频率分布的普遍存在引发了对其功能意义的问题。最初,人们认为幂律反映了测量工件或复杂系统的附带产物,特别是因为它们在生物系统和非生物系统(如沙堆)中同样存在(因此有轻蔑的1/f或粉红‘噪声’这一说法)。然而,最近的研究发现了相反的证据(He, 2014; He et al., 2010)。在发育(Fransson et al., 2013; Smit et al., 2011)、睡眠(Tagliazucchi et al., 2013)、任务执行(He, 2011)以及各种物理、神经和精神障碍(Maxim et al., 2005; Tolkunov et al., 2010; Wei et al., 2013; Montez et al., 2009)中发现了尺度自由脑活动的变化。这些变化涉及到幂律曲线的变平或变陡,表明不同频率对信号的贡献程度发生了变化。这些发现表明,支持幂律频率分布存在以及在(极端)任务执行、发育和疾病过程中幂律动力学变化的明确生成机制。然而,目前尚不清楚涉及了哪些机制或它们可能显示的普遍性程度。

在本文中,我们提出生物系统的层次动力学(幂律频谱)是由其层次网络结构(小世界网络结构)产生的。为了充分理解这种关系,我们首先将展示生物系统可以被抽象为耦合振荡器的嵌套模块(层次)网络,具有信息瓶颈或‘蝴蝶结’图案,使其能够作为层次(贝叶斯)控制系统运作。然后,我们认为这类系统中的振荡是由兴奋和抑制节点之间的循环因果关系导致的,这些关系支持层次化信息传递和预测编码过程。接下来,我们讨论证据表明生物体“垂直编码”其环境的深层时空结构,使得较低的层次区域编码快速变化的事件,而较高的层次区域编码其环境的缓慢动态。换句话说,位于(调节)层次结构顶部的枢纽结构产生缓慢的振荡(特质),而处于层次结构底部的节点显示快速波动(状态),每个中间层次的层次都产生其自己的特征频率(状态-特质连续体)。因此,交叉频率耦合应反映嵌套模块层次结构的不同层次之间的协调,为自下而上和自上而下的控制提供了定义。然后,我们认为在幂律谱中振幅随频率的典型衰减是因为生物系统是开放耗散系统(即对外部世界的能量或物质交换开放的系统)。这些系统被迫在多个层次水平和相应的频段上高效耗散能量,使得相等量的能量分布在较低和较高的频率上,从而产生较低频率的较高振幅,反之亦然。这一机制先前已被提出作为解释非生物系统的幂律动力学(如地震动力学或股市波动)的解释。至关重要的是,这意味着单一的生物物理学原则可以解释生物和非生物系统的动力学。

我们的理论有一些显著的后果,主要围绕着这样一个事实,即调节层次的顶部负责产生系统的稳定行为或‘特质’(即时间序列中的偏移)。在生物系统中,这些包括内在体验和外显行为(个性)以及形态特征(体型计划)的稳定方面。在控制层次结构的顶部对关键调节系统进行微小的改变可能会在其基础(行为)产生巨大的变化,导致个性和身体特征的个体差异的光谱。这些差异使生物能够专门化于不同的生态位。因此,对调节区域进行微妙的‘调整’(例如,点突变)可能足以将生物分布在广泛不同的(社会)生态位,并优化其生存率。这为生物系统的专业化和物种形成提供了有原则的解释,并将蝴蝶结置于‘进化的热点’的中心舞台。在实际层面上,幂律频率谱的变化可能作为对层次控制崩溃的早期警告信号,这是许多(医学上的)疾病和生理系统失效的关键方面。

4. Living systems as nested modular, hierarchical control systems

4. 生物系统作为嵌套模块化、分层控制系统

在先前的一篇论文中(Goekoop和de Kleijn,2021a),我们提出,生物系统的嵌套模块化网络结构使它们能够作为分层控制系统运作。在这个观点中,生物体的全局结构类似于暖气系统:系统的输入(热量)由系统的输入部分(热传感器)编码并与参考状态(恒温器的设定点)进行比较,之后差异(误差)传递到系统的输出部分(散热器)以影响环境(环境温度增加)。这个循环重复,直到误差减少到最小。这可以通过潮虫很好地说明,它们会不断地随机奔跑,直到周围的湿度接近100%,这就是为什么我们在各种角落和缝隙中都能找到这些生物的原因(Fortier和Friedman,2018)。与直接闻到或看到几码远的潮湿角落并以受控的方式直接朝着它移动不同,潮虫保持其运动系统活跃,并以伪随机的方式改变其输出,直到它们碰到符合其预设参考值(例如湿度约为100%)的一组环境条件(“生态位”),然后它们最终停下来。这种行为保护这些生物免受干燥和捕食的影响,并保持它们的稳定和完整性(稳态,生存)。因此,行为是为了通过改变环境来产生新的知觉,其目的是使生物更接近其参考状态:这一现象被称为‘主动感知’或感知控制(Schroeder等,2010)。这使得生物能够生成有助于实现指定参考状态(例如,卷起,挖掘或躲藏在狭小空间中,所有这些都有助于防止脱水和逃避捕食者)的任何行为。这种行为灵活性使它们能够解决许多不同和意外的挑战,这极大地增加了它们的稳定性(Powers,1973)。

生物体的嵌套模块化(分层)网络结构恰好适用于解决生物面临的一个重要难题,即称为“绑定问题”的问题(Rohe等,2019)。在一个多变的世界中,生物必须决定一些观察是否由一组独立的因果因素(例如三个不同的对手)引起,还是由单一的因果因素(例如单一的配偶)引起。换句话说,几个事件的共同发生可能具有不同的含义,并且根据这些事件是否有共同的基础(隐藏)原因或几个独立(隐藏)原因,可能需要采取不同的行动。对于三个明显的竞争对手,它们应该被分开编码(分离,未绑定),而单一的伴侣应该被编码为单一因素(集成,绑定)。在分层网络中,低级节点或簇用于编码统计上可分离的上下文提示(例如多汁,甜,绿色和圆形),而较高层次的中枢结构则编码这些因素的瞬时共同发生,这对应于环境的更具上下文集成但简约(抽象)的模型(‘苹果’)。这个原则可以在多个层次上重复,使生物能够以越来越多的上下文集成而简约,即抽象地对待它们的生态位(Tenenbaum等,2011)。这允许(分层次)更高级的生物对“水果”等类别进行编码,而不仅仅是苹果,梨和葡萄(Rigoli等,2017)。因此,嵌套模块化层次结构的顶部充当自然漏斗或‘信息瓶颈’(Tishby和Zaslavsky,2015),使得在其基础处的输入由较少的网络节点(压缩)进行编码。这使生物能够捕捉其嵌入的生态位的关键特性。

生物体不仅仅是对其环境当前状态进行层次感知,这将等同于层次感知。相反,它们的输入层平稳过渡到吞吐层,逐渐偏离当前现实状态(图4)。这样的高级吞吐层(Ha和Schmidhuber,2018; Friston等,2021a)编码尚未实现但将通过生成输出序列(Goekoop和de Kleijn,2021b)靠近(或更确切地说是避免)的生态位。这些可能的世界模型称为“目标状态”或“世界模型”。有趣的是,分层结构还可用于编码事件的顺序共现(例如首先是花朵,然后是苹果)。这会模拟因果关系(Friston等人,2018; Cui等人,2016; Kiebel等人,2008)并预测未来事件(Pezzulo等人,2022)。生物体利用其分层结构进行越来越长期的预测:当向上移动吞吐层时,(中枢)节点编码越来越抽象的事件,这些事件在未来被投影得越来越远(例如,“未来的水果”,例如,下一次收获)。因此,在这个层次的顶部形成了一个“目标层次”,在这个层次中,通过从顶部向其基础追溯,长期和抽象的目标被解码(或解压缩)成其组成的子目标。目标层次平稳过渡到输出层次的顶部,在那里它们进一步展开成执行功能和子功能,最终形成详细的“输出命令”,以便以顺序激活各种输出器官(例如囊泡、鞭毛、肌肉、内分泌腺)(Pezzulo等人,2022, 2015; Friedlander等人,2015; Maisto等人,2015; Adams等人,2013)。这个过程被称为“动作控制”(Pezzulo等人,2015; Maisto等人,2015; Pezzulo等人,2018; de Kleijn等人,2014)。随后的输出是一个经过层次控制的基本行为-感知循环(行为“原语”或“反射”的行为),构成生物体的外在行为。这样的行为用于改变环境,从而改变感知,使生物体更接近其目标。

简而言之,在生物体系中,信号传递途径自然形成了双重信息瓶颈模式,其中多个输入流汇聚到较少的吞吐系统(层次结构的顶部),然后分散到多个输出系统,形成专用的层次感知(输入)、目标设定(吞吐)和行动控制(输出)的区段(Kirchhoff等人,2018;Kitano,2004)。在系统生物学中,信息瓶颈模式被称为‘蝴蝶结’(2D)或‘沙漏’(3D)模式,因为它们在物理上类似于这些对象(图4)(Kitano,2004)。蝴蝶结的‘翅膀’(或沙漏的灯泡)产生动作-感知模式(行为),而蝴蝶结的‘结’(或沙漏的腰部)对这些模式施加自上而下的(目标导向的)控制。位于蝴蝶结结的枢纽节点可与指挥链顶部的将军相比,通过整合多个信息源获得全局概览,然后只偶尔需要响指,启动执行层次结构中的级联命令,最终使其部队朝不同方向移动(图4)。蝴蝶结图案已经在各种空间尺度的网络系统中观察到,包括分子信号传导(Citri和Yarden,2006)、基因调控网络(Li等人,2012;Yu和Gerstein,2006)、神经元、神经和神经系统(Kitano,2004)、整个大脑(Markov等人,2013)、大规模社交网络和互联网(Fujita等人,2019)。在统计物理学中,信息瓶颈被称为马尔可夫毯。这些是有限的节点集(中心),将两个较大的节点集(集群)分隔成在统计上可分隔的区段(Kirchhoff等人,2018)。蝴蝶结图案与其环境形成动态循环,使生物体能够作为分层控制系统运作(图4)。

折叠的蝴蝶结可以堆叠在彼此旁边和顶部,形成嵌套的模块化和分层组织的控制系统(图4和下一节)。这些结构产生的行为复杂性水平取决于它们的层次广度以及它们的层次深度(Pezzulo等人,2022)。广泛的层次允许对上下文因素进行详细的表达(因子化,正交化)。深层次的层次允许在这些上下文因素之间进行高水平的整合,产生高度情境化但简约的(‘抽象’)世界模型。既宽又深的层次结构允许复杂的行为修辞,被称为目标导向行为(例如,“收获”需要按照合理的顺序犁地、播种、浇水、施肥、抵御鸟类等等)。这种行为已被保留为“精致”(Pezzulo等人,2022; Friston等人,2021a)的术语,其中包括“代理性”(自我运作,自主性,自主性)、社会功能(交往,合作性)和规范功能(例如,遵循道德准则或规则)(Goekoop和de Kleijn,2021b; Constant等人,2019)。这与控制论文献中的相关内容有关,该文献在涉及低层次控制相对简单的过程时谈到“稳态控制”(或系统1),例如控制血压或通风,这旨在实现“异质性allostatic控制”(或系统2)时涉及较高层次,激发更复杂、费力和面向未来的行为,该行为旨在通过不断循环不同的策略和活动(例如,集体狩猎、觅食或耕作)来确保长期稳定性(Friston等人,2018; Pezzulo等人,2022; Evans,2008; Seth,2014)。

总之,生物体具有一种整体结构,使它们能够捕捉它们嵌入其中的更大整体结构的关键属性,并对这样的模型进行操作。生物体的宏观环境充当潜在状态,将底层动力学情境化在这样的分层模型中(自下而上的控制)。类似地,更高层次的动力学充当潜在状态,将底层动力学情境化(自上而下的控制)。根据定义,内容将比上下文更快地变化,因此控制系统的更高层次应该编码比较低层次更慢的动力学。这涉及到支持当前论文的层次水平上的时间尺度的分离。在下文中,我们将进一步探讨生物体中层次信息传递的性质以及这种信息传递如何产生层次动力学(即幂律频谱)。

5. Living systems as hierarchical Bayesian control systems that are engaged in active inference

生物系统作为参与主动推理的分层贝叶斯控制系统

有机体的目标状态与恒温器的设定点, 有机体的目标状态可以与恒温器的设定点进行比较,恒温器编码了与当前现实偏离的房间温度,使其成为可能环境的模型(Ha和Schmidhuber,2018;Friston等,2021a)。从数学上讲,编码可能世界等同于制作这些世界的预测模型(Friston等,2021a)。在这个视角中,恒温器的设定点编码了一个预测,在未来的某个时间点,实际的房间温度将是多少,前提是系统将无限期地继续运行(Kruglanski等,2020)。认识到生物系统对其环境进行预测建模的事实开启了生物物理学的一个全新领域,被称为“主动推理”,旨在提供关于生物系统结构和动力学的第一原理解释(Friston等,2006)。

图4. 具有自由标度信息瓶颈结构的分层控制系统的生物系统A. 在系统生物学中,已经在生物系统的信号传导途径中发现了规范微电路或“网络模体”,这些模体在各个尺度上重复,以产生具有相似形状的宏观网络结构(Alon,2007)。该图显示了“前馈环”(FFL)模体:这是生物系统中最普遍的网络模体之一。它由三个节点组成,这些节点通过箭头连接,使消息“向前”传递,而没有发生任何内在的反馈(反向箭头)(此类反馈由模体的环境提供)。I:输入,T:吞吐量,O:输出。B. 前馈环的集合可以形成三维的输入节点集,汇聚到较小的吞吐量节点(中心枢纽),然后分散到较大的输出节点集。这样的结构具有基本的分层结构,其中吞吐量节点调节在输入和输出部分之间发生的流量。在许多情况下,“自上而下”(T = > I和T = > O)和抑制性连接被认为传递预测(蓝色),而“自下而上”(I => T和O => T)和兴奋性连接传递预测误差(红色,见下一节)。C. 从顶部看,这样的结构显示出所谓的“蝴蝶结”或沙漏模体(Kitano,2004;Kawakami等,2016)。输入和输出部分形成蝴蝶结的“翅膀”,而中央的吞吐量节点(中心枢纽)称为蝴蝶结的“结”。在输入和输出部分之间的水平连接使蝴蝶结折回到自身。D. 折叠的蝴蝶结可以堆叠在彼此旁边和顶部,形成一个庞大的嵌套模块化层次结构(见下一节)。随后形成的宏观结构再次符合前馈环或折叠的蝴蝶结网络模体。这样的聚集可以在多个尺度上重复,形成整体与部分关系的层次结构(merology)。仅显示1个尺度步骤。蝴蝶结模体控制它们与环境之间的信息流动,因此使用术语(分层)“控制系统”。

根据这个理论,由参考状态预测的世界状态与其当前值之间的差异被称为“预测误差”。与任何控制系统一样,预测误差被用于启动一个行动序列,旨在改变环境和(因此)系统的输入,从而可能减小预测误差并使系统更接近其目标。然而,在主动推理中,相同的预测误差被用于更新预测模型本身(即,改变参考状态),使有机体能够迎合环境条件。因此,生物体可以通过两种基本方式减小预测误差:通过行动改变其环境(一个被称为生态位建构的过程(Constant等,2018))或通过模型修订改变自身(一个被称为“信仰更新”或“学习”的过程)(Friston,2010)。行动和模型修订的结合使用允许有机体迭代地构建更好的世界模型:这个过程被称为推理(Hohwy,2016)。这与主动感知或感知控制文献(见上文)相符,尽管主动推理更强调推理而不是感知本身。

根据信息理论,减小预测误差(提高模型适应性)就是减小一种称为“变分自由能”的量(见Box 1)。这意味着在优化其对世界的预测模型时,有机体实际上试图降到一个低能量的稳定状态(Friston等,2017)。通过这样做,它们遵循热力学第二定律,该定律规定,任何对物质或能量的流入和流出都必须寻求其可能的最低能量状态(即最大稳定性),尽管不断有能量或物质流入。在这方面,生物体与沿下游流动的河流、滚入坑中的乒乓球或硬币在落地时开始滚动以减小摩擦力的系统并没有太大的不同。这些系统都被迫寻求它们可能的最低(潜在的)能量状态,同时在此过程中探索各种中间状态和配置。这样的配置可以看作是编码系统环境状态的“模型”(Friston等,2006)。因此,信息处理(分层消息传递和预测编码)最终涉及自由能在时间上的耗散(Friston,2010,2012;Ramstead等,2018),这对于生物系统来说既是一种物理的迫切性,也是河流下游流动的河流,滚入坑中的乒乓球或硬币在地面上开始滚动的物理迫切性(见Box 1)。有趣的是,有机体通过这种方式寻找的低能量稳定(可预测)状态被称为在生物学中为“稳态”或“生存”,通过变化寻求稳定的过程称为“异稳态”(allostasis)。因此,在生物系统中,优化信息处理(构建对世界的准确模型)实际上是生存的先决条件(Hesp等,2019)。

描述主动推理过程的方程式严重依赖变分贝叶斯统计学,这些统计学描述了在面对新证据(例如感觉输入)时对预测模型的不断更新。在这些方程式的核心是自由能原理,该原理告诉我们摆脱(变分)自由能过剩的最佳方法是制定准确而简洁的世界模型,反之亦然(见框1)。为了实现这一点,人们认为生物利用层次贝叶斯推断的物理实例(Ramírez和Marshall,2017),这对于本文的中心论点非常重要,即生物系统的(幂律)动态是由它们的(幂律)网络结构产生的。为了证实这一说法,我们现在将简要讨论先前被提出为在所有生物系统中普遍支持主动推理过程的共识架构的网络结构。

更多自由能介绍可以参考:大模型之外的一种AGI选择:生物智能AGI

6. On the structure and dynamics of hierarchical Bayesian control systems

6. 关于层次贝叶斯控制系统的结构和动力学

图5展示了一个提出的共识网络架构,将生物系统的动态解释为优化的变分自由能耗散或主动推理。该模型结合了图论(例如(Barabasi,2009; Broido和Clauset,2019))、系统生物学(Friedlander等,2015; Kitano,2004)、机器学习(例如(Gershman等,2015))和由Karl Friston提出的层次预测编码(Constant等,2021; Friston,2019b)的关键发现。关于这种结构及其在压力下的动力学的更详细讨论,请参见(Goekoop和de Kleijn,2021b,a)。有关逼近这种拓扑结构的数学模型,请参见(Friedman和Landsberg,2013)。描述这类系统动力学的运动方程,请参见(Bastos等,2012)。该模型仍在发展中,可能会在未来进行调整。

图5显示了一个“双重”分层(嵌套模块化)的蝴蝶结结构,具有输入层次(蝴蝶结的左翼,允许感知),平滑地过渡到吞吐量层次(信息瓶颈或蝴蝶结的“结”,允许进行高层次的目标设置)和输出层次(蝴蝶结的右翼,允许进行动作控制)。预测误差(变分自由能2)(2 从技术上讲,在对随机波动进行高斯假设的情况下,分层生成模型中任何节点的自由能对应于加权的预测误差的平方和,其权重为它们的精度(求和是可能的,因为自由能是一个广延性质)。从实际角度来看,在使用预测编码的机器学习方案中,这是一个有用的观察。这意味着自由能可以在局部进行最小化;就像生物体自组织中一样(Millidge等,2022; Salvatori等,2022; Tschantz等,2022)。请注意,在机器学习中,变分自由能也被称为证据(下限)(ELBO)(Winn等,2005)。有趣的是,这一证据下限是变分自动编码器中使用的目标函数,而这些编码器正好具有图5中所示的蝴蝶结构(Mescheder等,2017; Marino,2022)。)

图5. 提出了一种以优化变分自由能耗散('主动推断')为基础的生物系统动力学的普遍解释的网络结构。概述显示了一种通用网络结构的拟议共识模型,该结构支持生物系统中分层消息传递和预测编码('主动推断')的过程。A. 该对象的全局形状是嵌套模块(双层次)和折叠蝴蝶结构。注意从输入(感知)和输出(执行功能,动作控制)层次的底部到结构顶部的预测错误的全局流动(吞吐层次;目标设置)。此外,注意反向方向的预测的全局流动,导致感知受到将要被感知的自上而下的预测的偏倚(选择性关注),并且输出构成对运动的预测而不是输出命令。这些预测最终由连接到输出器官以纠正与预测路径的任何偏差的预测错误单元“履行”(在本图中未显示这些单元,但请参阅文本)。横向连接:绕过更高级处理并使蝴蝶结构折回到自身的跳过连接。这些短的动作-感知循环支持自动响应,其复杂性水平是分层深度的函数:绕过更高级处理的短周期对应于简单的反射弧,而逐渐更长的循环则访问更深层次,分别对应于本能模式,习惯性行为和目标导向行为。B. 图A的一部分,以更详细的方式显示节点和连接。黑色球体:预测单元(先验,设定点,预测模型)。红色球体:预测错误单元,编码某个先验值相对于可用证据的偏差。黑色箭头:从先验到预测错误的抑制连接(解释掉证据)。红色箭头:从预测错误到先验的兴奋连接(信念更新)。请注意,黑色节点层次结构编码生物体的内部和外部经济环境(即世界模型)的深层次(即,多层次)层次预测模型。较低的层次收敛到较高的层次,这些层次对环境进行逐渐增加的上下文集成但简洁(抽象)。更深层次还逐渐编码外界事件的较慢(稳定)方面(时间尺度的垂直编码,请参阅文本)。红色节点的层次结构编码了这种层次世界模型相对于可用证据的偏差(即未解释的证据)。任何未解释的证据同时在输入层次中向上投影为要由世界的更复杂模型抑制(抑制,解释掉)的残余预测错误,以及传递到输出(动作控制)层次以在匹配层次上产生输出序列('自适应行为')。因此,“梯度”预测错误被主动克服,这等于变分自由能耗散(主动推断)。绿色弧:全局调制影响(例如,神经调质神经递质),通过调制自环的增益(未显示,但请参见下图)来控制自下而上与自上而下信号的整体精度(信噪比)。有关更多详细信息,请参阅文本。

主要从输入通过吞吐量到输出层次流动,最终影响输出器官,而预测则沿相反方向“流动”以偏向感知。当沿着输入层次的基底向其顶部移动时,网络连接汇聚到更高级的中枢结构,这些结构集成了多个输入流(功能整合)。这迫使更高层次的结构更简洁地编码多个低级事件(例如,圆形、绿色、甜美而多汁)为单个抽象事件(例如,“苹果”)。正如在前一节中观察到的,连续的分层级别编码与当前现实逐渐远离的环境方面,而调节层次的顶部(蝴蝶结的结)编码了生物体最复杂的(具有背景的、长期的)目标状态。从蝴蝶结的结向输出层次的基底移动时,连接从高级中枢节点向下级节点散开,允许将长期和抽象的目标状态解压缩为目标及相应的子目标的分层目标继承,并最终产生详细的“输出命令”,连接到输出器官以产生行为(Pezzulo等,2015; Adams等,2013)。请注意,图5显示了在输入和输出层次中预测误差向上流动以及预测向下流动的情况(这似乎是当前的共识),导致输出信号是“预测而非命令”(Adams等,2013)。这样的预测仅在由输出器官的感觉(本体感觉)输入引起的最低层次上进行校正,即通过将预测与实际运动进行比较以产生形成实际输出命令的预测误差。因此,实际输出信号是由预测误差单元给出的,它们根据对预测输出的偏差进行校正,使其看起来好像它们实现了预测或“看到了它们的完成”(Adams等,2013)。

蝴蝶结构被折叠是因为在输入和输出层次内同层节点之间水平运行的“跳过连接”,创建了快捷方式。这确保输入信号可以跳过更高层次的处理,产生自动且更快、更节能(但信息较少)的响应。这种动作-感知循环的复杂性水平是分层深度的函数:低层次的快捷方式对应于简单的反射弧,而逐渐更深的循环对应于本能模式(例如,战斗-逃避反应),习惯和目标导向行为(Pezzulo等人,2015年)。信号的水平交换允许输入层次在动作的首选(预测)方向上偏置输出层次。反之,输出层次可能会在当前预定动作下预测的知觉方向上偏置输入层次(例如,余射放电,选择性关注)。这确保生物体关注与计划行为相关的知觉线索(Kanai等人,2015年;Nov´ak和Tyson,2008年)。与某些当前动作下预测的积极知觉结果相关的信号的精度(逆方差,新闻价值)的增加已与动机的增加相关联(Pezzulo等人,2018年)。自上而下与自下而上信号传递的精度可以通过全局调制影响进行调整(见下文)(Gilbert和Li,2013年;Kanai等人,2015年)。这可能在不同情况下倾向于自上而下的生成建模(即从假定的原因生成事件)和自下而上的预测编码(即从感知的事件中推断原因)之间的平衡。任务负面的情况有利于自上而下的生成处理(休息状态),而任务正面的情况有利于自下而上的预测编码和信念更新(主动状态)(Bastos等人,2012年)。

在图5中,可以观察到一组先验(黑色节点,设定点)的层次结构,编码了一个当前世界的层次预测(生成)模型,平滑地过渡到一个目标层次。可以在其旁边观察到一组预测误差单元(红色节点),编码了相对于可用证据的预测模型的偏差。预测误差在输入层次中不断上升,直到它们被一组更高层次的先验足够抑制(解释掉)。因此,感知模型自动获得了与外部世界的可用证据相匹配的层次深度和相应的广度(精致度水平)。任何残余的预测误差然后通过水平跳过连接交叉到输出层次,以激活下游输出层次的一系列事件('动作控制'),导致一个行为序列(行为),该序列可能使生物体更接近其目标。当感觉输入变得更加复杂时,会产生更多的预测误差,从而使目标层次的更高层次参与,以启动更加复杂(和长期)的执行计划。因此,动作计划在输出层次中启动的复杂程度自动与感知模型和相应的目标状态相匹配(Pezzulo等人,2015年)。感知、目标设定和动作控制之间的这种复杂性对应确保生物体展现出与实际环境需求相匹配的行为,即生物体产生'适应性行为'(Goekoop和De Kleijn,2021年)。所选的行为策略然后改变环境,从而改变系统的输入,之后循环重复。因此,就像弗朗茨·冯·门舒艾森男爵通过自己的头发从泥潭中拉自己一样,生物系统通过行动和模型形成的循环过程(主动推理)从预测误差的泛滥中拯救自己。在宏观上,这相当于生物体在探索和利用其最佳生态位(Constant等人,2019年,2018年)。

7. Explaining power-law frequency distributions in the timeseries of living systems

为了解释幂律频率分布(即系统动态)如图5所示的层次贝叶斯控制系统的运作(即系统结构),至少需要解决四个问题:首先,我们必须解释产生不同频率振荡的过程。接下来,我们必须解释存在于这些频率之间的条件依赖关系,即在自然界观察到的嵌套模块频率分布和跨频耦合。第三,我们必须解释幂律频率分布中频率和振幅之间的反向关系(即为什么在休息状态期间没有特定的中间频率主导幂律)。最后,我们必须解释在任务执行和高压力水平期间幂律曲线('颠簸')的斜率变平。以下将解决这些问题。

7.1. Explaining the origin of oscillations at different frequencies in the timeseries of living systems

7.1. 解释生物系统时间序列中不同频率振荡的起源

在主动推断的文献中,振荡是由先验(设定点、模型)和预测误差单元(证据)之间的循环因果关系引起的,其中先验抑制预测误差('解释证据'),而预测误差激发先验('执行信念更新'),如图5所示(Constant et al., 2021; Friston, 2019b)。尽管关于生物系统中振荡动力学的知识在许多情况下源自神经动力学,但类似的振荡也在各种观察尺度的非神经网络系统中观察到(Friston, 2012),例如基因组、蛋白质组和代谢组(Nov´ak and Tyson, 2008),胰岛细胞网络和Langerhans小岛中的钙波(Zmazek et al., 2021; Stoˇzer et al., 2022),社交网络和互联网(Nekovee et al., 2007)。多年来,关于这种振荡及其显示的各种频率产生的解释已被提出(Nov´ak and Tyson, 2008)。最近的证据越来越多地集中在层次结构的关键作用上。下面将对此进行解释。

如上所述,层次(嵌套模块)结构本身可能是由于能量耗散的优化而自发发展的(Kirchhoff et al., 2018; Jarman et al., 2017; Hellrigel et al., 2019; Annila and Kuismanen, 2009; M¨akel¨a and Annila, 2010; Rentzeperis et al., 2022)。有趣的是,模拟研究显示,层次动态可能也是从同一原理中产生的。非随机连接的(分层)网络系统会自发地进行“时间尺度的垂直编码”,只需优化能量耗散的唯一要求(Paine and Tani, 2005)。这意味着振荡的时间尺度被垂直地编码为系统各个层次之间的梯度,高频率被编码在较低层次,而低频率被编码在层次结构的较高层次。到目前为止,大量的实证研究已经证实,时间尺度在许多不同物种的大脑中以梯度的形式分布,包括线虫、啮齿动物和灵长类动物,这显示它是大脑功能的一般组织原则(Mahjoory et al., 2020; Atasoy et al., 2018, 2016; Raut et al., 2020; Piasini et al., 2021; Henin et al., 2021; Murray et al., 2014)。在人类中,中等皮质结构形成了一个信息瓶颈,编码比其翅膀(感觉运动皮质)更慢的动态(Huang et al., 2017)。通过使用功能性磁共振成像在连续的尺度上更精细地映射这些梯度,显示了具有1.14的幂律缩放指数的频率分布,即在上升的层次(和部分整体)时,动态变得一致地更慢。更近期的研究显示了上升和下降神经信息之间频率的不对称性(Bosman et al., 2012; Bastos et al., 2015; Giraud and Poeppel, 2012; Hovsepyan et al., 2018),这表明从低到高层次或尺度的神经耦合可能使用更快(例如,伽马)频率,而与之相对应的从高到低层次的相互信息可能使用较慢(有时表达为较慢的β频率)的频率。这种微观尺度上的时间尺度分离与在大脑成像实验和相关模型中宏观观察到的垂直时间尺度编码相吻合,如在Kiebel et al. (2008); Murray et al. (2014); Wang and Kennedy (2016); Hasson et al. (2008)中所描述。时间尺度的分层编码在分子网络(Henzler-Wildman et al., 2007)以及人类组织的决策过程中也被观察到(Purcell and Kiani,2016),这表明它是一种无尺度现象。要解释这一现象,我们需要更仔细地研究描述嵌套模块系统中分层消息传递的“运动方程”,如图5所示(Kiebel et al., 2008; Bastos et al., 2012; Friston and Kiebel, 2009)。

在图5所示的结构中,层次消息传递(预测编码)的动力学可以最好地被描述为吸引子系统的层次结构,其中更高层次吸引子的状态空间轨迹塑造了较低层次吸引子系统的轨迹(图6)。从图5和图6可以看出,在贝叶斯控制系统中,自下而上的层次消息传递涉及到预测错误,而不是原始输入信号本身。因此,每个后续的层次都编码相对于预期偏差的偏差(即相对于预测的预测错误)。从数学上讲,随时间变化的偏差可以表示为导数,它指示了在短时间间隔内某个变量的变化量。当导数在彼此之间按层次组织时,每个导数编码环境的不同方面。例如:位置的变化表示速度,速度的变化表示加速度。因此,更高的层次预测“变化中的变化”,这往往涉及在时空结构环境中愈发缓慢(罕见)的事件。直观地说,这可能在更高层次产生更慢的动态。然而,这个解释仅关注自下而上的信号传递路径,而忽略了自上而下的影响。层次预测编码的数学模型显示,上升的预测错误以线性方式推动更高层次的动态,并且对于不同频率的振荡的出现几乎没有贡献(如果有的话)。相反,时间尺度的分离是由下降的预测信号继承的(Friston and Kiebel, 2009; Kiebel et al., 2009)。这其中的一个原因是更高层次的中枢单元整合了许多预测错误,导致更高频率相互抵消(一种时间平滑的形式)(Bastos et al., 2012)。此外,更高层次的预测中枢单元调制了多个较低层次(预测错误)单元相互之间的影响。因此,更高的层次提供了在其下一层次展开的“内容”(动态)的“上下文”或“控制参数”。预测编码的公式显示,这种“调制”效应本质上是非线性的,会在较低层次产生更高的频率(Smit et al., 2011; Tagliazucchi et al., 2013)。这可以直观地理解为一种“周期加倍”(即,平方正弦波使其频率加倍),导致层次结构水平之间时间尺度的分离。因此,形成了一个梯度,其中较低的层次编码较高的频率(高音),而较高的层次编码较低的频率(低音)。这种对较高频率的累积抑制可以被视为(非线性)低通(贝叶斯)滤波的一种形式,以产生对越来越高层次的隐藏原因的“平滑”估计(Kiebel et al., 2008; Knill and Pouget, 2004)。实证研究表明,这种机制驱动着海马中的θ-γ耦合,并与神经层次结构中上升和下降消息的功能性不对称性相一致(Shipp, 2005; Sherman and Guillery, 2011)。相同的原理在计算神经科学和机器学习中得到应用,例如用于时间记忆实现和用于主动推理的深层时间模型(Friston et al., 2018; George and Hawkins, 2009)。

在工程学和控制论中,时间尺度的垂直编码与良好调节器定理(或所需多样性定律)相关。该定理指出,为了控制环境的某些方面,系统必须编码至少与其试图控制的环境方面一样复杂的模型(Conant和Ross Ashby,1970)。换句话说,为了成为有效的控制器,控制系统必须编码其环境的深度时空结构并根据这些模型采取行动。从层次贝叶斯控制系统(如图5所示)中产生的状态-特质连续体基本上反映了系统嵌入其中的世界的复杂且非线性的隐藏因果结构。因此,嵌套模块化和层次结构允许更复杂的世界模型,并通过对系统行为的不断预测行动(即,变态平衡)来逐渐微调系统的行为,其中涉及对越来越抽象的事件的预期和稳定性(生存)。总体而言,这意味着层次结构传递了一个重要的复现优势。

由于时空结构的层次编码,嵌套模块化网络结构中的每个层次都具有其自己的特征频率。在大多数自然系统中,层次级别并不像图5中所示那样整齐分层,其中每个尺度级别可以分配一个离散的数字(标量维度)。相反,层次尺度平滑地融合在一起,导致连续或“断裂”的尺度(因此称为分形)。这可能解释了为什么对生物系统内部消息传递和明显行为的时间序列进行傅立叶分析往往会产生频率的涂抹(即频谱),

图6. 时间尺度的垂直编码:为什么层次(贝叶斯)控制系统中的每个层次都编码其自己的特征频率。该图显示了在层次贝叶斯控制系统中不同层次上出现的动态,例如图5所示(参考自(Friston和Kiebel,2009))。左侧图像显示了图5中输入层次的局部图,由三个层次组成。每个层次都包含一组耦合节点的子网络,生成振荡动态。黑色圆圈:先验节点,红色圆圈:预测误差节点。红色箭头:兴奋连接,黑色箭头:抑制连接。中间图像显示了每个层次的网络动态,表示为一个状态空间,坐标轴表示系统的自由度(例如节点或簇的数量)。状态空间轨迹(紫色,绿色,蓝色)表示系统在三维中的时间序列(这些时间序列的二维表示显示在右侧,每个时间序列下面显示其频率分布)。正如图中所示,每个状态空间轨迹定义了系统在其周围轨道的两个状态空间体积,称为“吸引子”。与生成它们的子网络一样,每个层次的动态都是分层耦合的:某个层次的吸引子网络的动态充当一个控制参数,被传递为对其下面层次的预测。这以非线性方式影响其动态,使其在较低层次产生更快(更高频率)的动态(见文本)。因此,每个层次都产生了具有特征性主导频率(载波波)的动态,以非线性方式将较低层次的动态置于上下文中。结果,垂直组织的频率梯度出现,特征在顶部生成,状态在层次结构的底部生成(请参阅每个层次的频谱)。最低层次包含其上层次的所有频率(控制参数)(请参阅傅里叶频谱)。引导层次中,此类动态用于将感觉处理偏向于预期的原因(即,注意偏向)。在输出层次中,此类动态用于生成复杂的反射序列(即,行为)。请注意,每个吸引子的位置在时间上相对变化很小,使其成为相对于轨迹本身的超低频“特征”。然而,在较大的时间尺度上,吸引子的位置会变化,因为它们受到在其他层次展开的动态的影响。这导致特征在时间上显示超慢的动态(例如个性发展)。此图中的吸引子状态是使用Quinn等人(2020)提供的耦合Lorenz吸引子的代码生成的。

而不是一组离散的峰值。在下一节中,我们将研究在层次(贝叶斯)控制系统中产生的各种频率之间的嵌套模块化关系。

7.2. Explaining nested modular frequency distributions (with phase amplitude coupling) in the timeseries of living systems

7.2. 解释生物系统时间序列中的嵌套模块化频率分布(带有相幅耦合)

生物系统时间序列的频率成分远非独立。一个不断增长的神经影像学文献强调了在协调大脑活动时跨越空间和时间尺度的交叉频率耦合的重要性(Canolty和Knight,2010)。在许多情况下,较低频率的相位控制人脑中较高频率成分的振幅(Hyafil等,2015;Tort等,2010)。然而,这种相幅耦合发生的确切机制仍然不清楚,尽管我们的理论与先前提出的解释最为一致,即较低频率调制循环因果环(图6中的兴奋和抑制单元之间的)的增益(精度)(Canolty和Knight,2010;Hyafil等,2015;Onslow等,2014),以与选择性注意力(Sadaghiani等,2010)类似的方式。模拟显示,这会导致较低频率塑造较高频率的轨迹,自动产生较慢和较高频率之间的相位锁定(Canolty和Knight,2010;Hyafil等,2015;Onslow等,2014)。因此,低频振荡可能引发高频“突发”,反之亦然。交叉频率依赖的另一个特征是,较高频率嵌套在较低频率之内。在我们看来,这种在时间上的嵌套调制可以通过产生各种频率的系统在空间上的嵌套模块化来解释:由于更大的簇只能在其组成的较小子簇存在的条件下存在,它们的活动也必须是有条件依赖的,产生嵌套频率(图7)。模拟研究表明,即使在没有临界性的情况下(Friedman和Landsberg,2013),这种部分依赖确实会产生嵌套的模块化(幂律)动态。因此,无论是层次深度(如图6所示的垂直堆叠系统)还是层次广度(部分关系)都对交叉频率依赖性做出了贡献。

总结一下,在嵌套模块化层次结构中,每个层级都有其自己的特征频率,较高层级产生较低频率,较低层级产生较高频率(图7)。因此,交叉频率耦合应该反映层次控制系统中不同层级之间的耦合。这可以被解释为自上而下和自下而上控制的定义(Liu等,2012):类似于将军们根据战场上的总体情况下达全局命令,位于鞍结的少数中枢节点和簇(在蝴蝶结的顶部)编码作为低频信号呈现的全局目标状态。这些信号随后通过一系列相互锁定的频率的(非线性)级联控制大量较低级别的信号,直到塑造位于层次结构基础(蝴蝶结的翅膀)的行动-感知循环的轨迹,定义了自上而下控制的过程(例如,行动控制或感知控制/选择性注意)。

较高层次结构实质上将其张力施加到其从属系统的输出上,以便低级别的行动-感知循环(显性行为)的时间序列纳入参与控制生物体输出的所有高阶层次的频率。这解释了生命系统行为时间序列中普遍存在幂律动力学的现象,如上文所述(Kaplan等,2020)。

类似的(线性)过程可能定义自下而上的控制,在其中较低级别的高频信号塑造较高区域内较低频信号的轨迹,反映面对新证据(即新知觉)时的信念更新过程。因此,根据观察输入/感知、输出/行为或全过程/目标设置控制系统的不同(因果)方向,交叉频率耦合应该具有不同的方向。这与研究结果一致,该结果显示自下而上信号涉及相对于自上而下信号而言较高频率的信号,自上而下信号涉及较低频率的信号(Bosman等,2012;Bastos等,2015;Giraud和Poeppel,2012;Hovsepyan等,2018)。这也与基于实证数据的数值和模拟研究的结果一致,显示在生物学上合理的网络中,高度(高级别)中枢节点可能既相位滞后于较低度节点的信号变化,又可能相位领先,这可能表明自上而下和自下而上控制之间的平衡(Woo等,2020)。长时间以来的心理测量学研究进一步表明,幂律法则支配了人类内在经验与显性行为一样好:状态-特质连续体在几乎人类心智表型的所有方面的时间序列中都有所观察,包括注意水平、全球体验(如自我形象或心智理论等)(Marsh和Shavelson,1985;Kotov等,2021)。我们预计,人类大脑的层次结构解释了人类心智表型的状态-特质连续体,方式与它们对显性行为的解释方式相同(图6和7,见下文)。

在一篇关于这个主题的重要论文中,He等人考虑了幂律(宽频)信号是由许多窄带振荡的叠加结果,正如我们提出的那样,但他们将其描述为“近乎神奇”,并声明“压倒性的证据”现在表明大脑中存在至少两种不同的现象,即1/f 幂律活动和通常使用 EEG 或 MEG 记录研究的呈现为幂律曲线上的凸起的节律振荡(He,2014)。我们认为这种观点建立在对大脑嵌套模块化拓扑结构和如上所述的预测编码与主动推理框架的完全认知之前的一个概念上,最终涉及在整个频谱上优化耗散变分自由能的问题。此外,这些凸起似乎有另一个起源点。这些问题将在下文中讨论。

7.3. Explaining the inverse amplitude-to-frequency relationship in the timeseries of living systems

7.3. 解释幅度与频率的反比关系生命系统的时间序列

解释在幂律频谱中观察到的振幅随频率增加而平稳下降的现象,可以从耦合振荡器网络的能量耗散角度来理解(见 Box 1)。正如上文所述,生物系统可以抽象为耦合振荡器网络,这些网络正在耗散(代谢或自由)能量,这正是信息处理的定义。产生振荡所需的能量由最终需要葡萄糖和ATP的代谢途径提供(Lane, 2015)。在层次消息传递期间,感觉预测误差(变分自由能)驱动使用代谢能量来更新内部状态并驱动系统输出的节点(主动推理;见上文)。因此,生物系统中的信息处理可以被理解为一种将代谢能耗散(振荡)用于变分自由能耗散(减少预测误差)的过程。在非生物系统中,缺乏代谢组分,节点仅将能量从其周围传递到其网络结构内的其他节点,直到它离开系统。

实证研究以及计算机模拟显示,高度连接的(中枢)节点振荡的幅度较大(Moon et al., 2015),尽管一些研究发现其变异性更大(Woo et al., 2020)。这一观察结果与我们的预测相符,即层次(嵌套模块化)网络结构支持生物系统的幂律动力学。在小世界网络中,最强连接的节点(中枢)位于层次结构的顶部(蝴蝶结的节点)。在向下移动层次时,耦合强度(加权节点度)呈幂律衰减。在这样的网络中,强耦合(受限)振荡器是‘刚性’振荡器,即它们具有比松散耦合的节点更快的弛豫速率,这意味着它们在扰动后能够迅速恢复(Bordyugov et al., 2011; Markoviˇc et al., 2014)。弛豫速率与(代谢和/或自由)能量的耗散直接相关(Gosak et al., 2015)。因此,中枢单元耗散(和需要)大量能量,但其数量相对较少,而外围节点每个发射(和需要)较少的能量,但其数量较多。假设与具有固定高频率的大量(外围)节点相比,少量中枢节点需要并发射低频率相当数量的能量,这应导致中枢节点的振荡幅度较大。换句话说,1/f 噪声可以通过开放耗散系统在其组成的耦合振荡器、层次级别和相应频带之间平均分配能量耗散的必要性来解释。因此,当从层次结构的顶部(低频率)移动到底部(高频率)时,振幅应以幂律方式下降,产生振幅与频率之间的反向关系。换句话说,在小世界网络中,节点和模块的非均等耦合对其频率谱施加了幅度的非随机性。我们相信这是首次以嵌套模块化(无标度)网络和因此层次网络结构中振子的耦合强度和能量耗散的非随机性来解释幂律频谱中振幅随频率的普遍变化(见图1)。

这一提议与 Per Bak 的开创性工作一致,他展示了模拟沙堆中级联事件的大小呈现出1/f频率分布(Bak et al., 1988)。而 Per Bak 得出的结论是自组织临界状态负责产生幂律缩放,甚至怀疑他模型的适用性的普遍性,似乎仍然可以通过将这个模型推广来解释这样的级联事件(例如,沙粒的雪崩、神经层崩塌或雪崩)作为参与(自由)能量耗散优化的颗粒系统的特殊案例。这个想法得到了最近发表的地震统计的通用模型的支持,该模型使用一个简单的均场模型来定义颗粒之间的耦合(Uhl et al., 2015)。根据这个模型,地壳可以被建模为不同大小的耦合振荡器网络,从(一些)大块的地球到许多较小的岩石和沙粒,它们使用振动和摩擦以热的形式耗散动能。较重的岩块充当(质量受限的)‘刚性振荡器’,其振动频率低于较轻的颗粒和沙粒,振幅更大,产生1/f噪声。这个模型与神经生物学的发现一致,显示层次结构通过连接显示自组织临界性的模块来促进自维持的1/f噪声(Wang et al., 2011)。从这个角度来看,大脑是一个嵌套的模块化系统,其中每个节点或模块都像特定大小的(代谢激活的)颗粒,可以被内部或外部能量激发,从而在全局水平产生无标度的(雪崩)动态。因此,一个单一的(均场)模型可以用来解释生物系统和非生物系统的动态。有趣的是,均场模型直接(通过Bogoliubov不等式)与描述主动推理过程的运动方程相连接(Kuzemsky, 2015)。因此,看起来高效的能量耗散最终驱动了生物系统和非生物系统的动态。我们相信这是首次对生物系统和非生物系统的幂律(1/f)动态给出了单一的物理解释。

以前曾提出(变化中的)幂律频谱代表(变动中的)人脑中的兴奋/抑制平衡(Gao等人,2017)。这与另一个提议一致,即 EEG 信号中的幂律频率分布是由预测误差和预测信号的精度波动引起的(Sadaghiani等人,2010)。在这个观点中,精度由这些信号的幅噪比编码,该比率在神经调质性神经递质系统的突触水平通过影响预测误差(兴奋性)和预测性(抑制性)单元的自环增益来调制(图5, 6)。在我们看来,全局兴奋-抑制平衡的变化确实可能影响幂律动态,但只有在这些变化改变自上而下(抑制性,预测性)和自下而上(兴奋性,纠正性)处理之间的全局平衡,因此,信息处理的整体层次深度或复杂程度才会发生影响。换句话说,我们认为激发/抑制平衡的波动本身无法充分解释幂律频率谱的完整现象学,而我们认为这需要层次结构的概念。

生物系统中,大部分代谢能量被位于调控层次顶部的一小部分中枢结构所消耗,这被称为富集俱乐部(Colizza等人,2006;Griffa和Van den Heuvel,2022),它编码高度压缩的世界模型(即抽象事件的长期预测模型)。这意味着在生物体对其环境进行编码时,制作这样的模型是以代谢惩罚为代价的,这为生物体能够达到的压缩或复杂性水平设定了一个上限。"压缩的成本"可以从涉及编码世界某个方面的总光谱能量中得出,该能量由幂律曲线E下的面积给定。理论上,任何垂直线f = x(m-n)右侧的面积(其中f和x是频率,f等于一个指标频率,xm是信号的最低频率,xn是最高频率,且xm < f < xn)是衡量所需的总光谱能量的度量,用于编码给定指标频率的世界方面直至其层次水平。此线左侧的面积表示构建更抽象或压缩模型所需的能量量。这两个区域之间的比率是一个度量,用于衡量生物体为制作比由指标水平给出的更复杂的世界模型而准备在每个时间单位上花费的代谢成本。天然获取的频谱从理论上说不是完美的幂律曲线,而是在其渐近点附近发生偏差(Broido和Clauset,2019),这可以通过生物系统不是完全尺度自由层次结构来解释:它们的尺度层次在分子级别有一个下限,而在生物体或(生态)系统的级别有一个上限。这样可以防止在层次结构的顶部需要无限量的代谢能量来压缩在其基础处编码的无限量未压缩信息的情况。

总之,我们提出幂律曲线的陡峭程度传达了系统编码的生成模型的层次深度信息:陡峭的曲线表示更深层次的层次结构,而较平的曲线表示更平坦的层次结构。这意味着幂律频谱应该随着生成模型的层次深度的变化而变化,例如在发育过程中、任务执行、压力以及身体或心理疾病期间观察到的变化。下文将对此进行讨论。

7.4. Explaining changes in power-law frequency spectra during development, task performance,stress and disease (bumps and tipping points)

7.4. 解释发育过程、任务执行、压力和疾病期间幂律频谱变化的原因(颠簸和临界点)

在任务负面条件下,内在产生的随机噪声会产生预测错误,这些错误会向层次结构上升以被预测模型抑制。这发生在整个调控层次的深度上,产生了一种(日常)梦幻般的状态,反映了在缺乏外部刺激的情况下网络状态空间的自由探索(Wang等人,2011; Deco等人,2011)。在我们看来,这种“休息状态”解释了功率律频谱的完整广度的出现,以及任何中间组分的特征非支配性。然而,在任务执行过程中,预测错误被投射到层次结构中,其深度和广度在解决该任务时是最优的(见上文和图5)。因此,任务执行通常会招募介于层次结构底部(最小努力)和其顶部(最佳性能)之间的中间层次。由于每个层次结构属于其自己的特征频率,因此从休息状态切换到任务执行应该增加与解决该特定任务的层次结构水平相对应的频率组分的幅度(这是因为外部刺激(任务执行)产生的振荡强度大于内在噪声(休息状态))。这可能解释了为什么在任务执行过程中功率律频率分布会出现‘颠簸’,例如在EEG中的α、β或γ波段(He等人,2010)(图3)。构成这些颠簸的放大频率应该反映所选择模型的层次深度,因此也反映了任务的难度。

在这个观点下,功率律频谱应该与任务难度协变:只需要对调控层次结构的基础进行征税的简单任务(即反射或习惯)应该在较高的频率产生颠簸,而需求逐渐增加的任务应该越来越多地招募较低的频率,导致功率律曲线更加全局地变平(图8)。这已经通过研究不同任务负荷对功率律曲线陡峭度的影响得到了实验证实(Tinker和Velazquez,2014; Ciuciu等人,2014)。fMRI研究表明,更困难的任务在涉及区域间通信的脑区中招募较低的频率(即高层次的中枢结构)(Ciuciu等人,2014)。这也与关于θ-β比的带滤波EEG文献有关,该文献显示在任务变得更加苛刻时,存在向较慢的θ成分转变的趋势(Puma等人,2018; Clarke等人,2019)。甚至细菌对不同的生长条件主要通过基因表达时间序列中低频成分的变化作出反应,这表明存在高层次的调节变化(Almaas等人,2004)。因此,作为任务难度的函数而言,低音频率的增加似乎是相当普遍的。从主动推理的角度来看(见上文),功率律频率分布上的颠簸信号表明需要通过行动(任务执行)和信念更新(学习)来克服的可变自由能的有效耗散的障碍。一旦问题解决了,颠簸就被“平滑”,生物体可以回到低自由能的休息状态(稳态,即没有颠簸的功率律曲线,图8)。

在先前的研究中,我们提出极具挑战性的任务会产生预测错误,这些错误会达到调控层次结构的顶部,反映了系统的最佳性能。在这种情况下,生物体必须部署其最复杂的世界模型和相应的行动策略,以摆脱困境。持续的最佳性能可能导致系统的调控能力超负荷。这是由于区域中枢结构单位的比例高得不成比例,这些单位具有最高的能量耗散率,因此具有最高的(代谢)能量需求(见上文)。调控层次结构的核心是最容易受到代谢能量枯竭的威胁的地方。当能量需求超过能量供应时,中枢结构单位会关闭并以节点度的方式级联失效,导致层次控制的自上而下崩溃(Goekoop和de Kleijn,2021b,a)。这与行为从所谓的“慢速”生存策略转变为“快速”生存策略相一致,即从高层次(整体动态、目标导向、综合、情境化、抽象、社会包容和长期)到低层次(稳态、习惯性或反射性、分隔的、非情境化、具体的、自我中心和短期)的策略(Wingfield,2006)。总之,这些变化在生物学文献中被称为allostatic overload(McEwen和Wingfield,2003)。allostatic超负荷(由于中枢结构崩溃)可能会持续,直到达到一个临界点,其中网络的大部分变得功能分隔,标志着从中央协调和有序状态向不协调、无序状态的离散转变,与故障、疾病或死亡相关(即一个临界点)。随后的混乱(失去可预测性)可以通过一个称为排列熵的单一术语来量化,并且事实证明它是许多生理和心理障碍的特征(Goekoop和De Kleijn,2021a),见下文。

由于幂律频谱可能传达系统的层次结构信息,层次结构或功能的崩溃(整效超载)应与曲线特征的特定变化相一致(图8)。越来越多的研究报告了在各种生理(Huikuri等,1998;Weissman和Binah,2014)和心理障碍(Veerakumar等,2019;Lee等,2021;Robertson等,2019;Ramsay等,2021)以及社会孤立(Weber等,2020),各种睡眠阶段(Horv´ath等,2022),发育(Ostlund等,2022;Hill等,2022)和衰老(Voytek等,2015;Tran等,2020)中临时或永久性改变幂律频率分布的研究结果,似乎支持这样的结论:增加任务难度(例如快速动眼睡眠与深睡眠或社交参与与社交孤立相比)涉及幂律曲线的陡峭化,即,较低频率的振幅增加。在我们看来,这表明了对更深层次的层次结构的(增加的)招募,从而允许更复杂的(目标导向、整效)控制形式。相反,较不困难的任务似乎涉及幂律曲线的平坦化(较低频率振幅的相对减少),这与更依赖较低层次控制(例如习惯、本能模式或反射)一致。例如,在糖尿病(Johnston等,2016)、神经系统障碍(Stam,2014)、重性抑郁症或精神分裂症(Bassett等,2008)中观察到了高层次调控中枢的丧失(整效控制),与这些障碍中幂律曲线的平坦化相一致(Veerakumar等,2019;Lee等,2021;Robertson等,2019;Ramsay等,2021)。此外,在发育过程中调控层次未能达到足够深度的障碍中,例如孤独症谱系障碍、人格障碍或注意力缺陷多动障碍,也发现了较平坦的幂律曲线(Robertson等,2019;Bruining等,2020),产生了一种永久性的失调状态。在某些情况下,病理与幂律曲线的陡峭化有关,例如在创伤性脑损伤或衰老过程中。这可能反映了在补偿中级功能丧失时招募较高(前额)水平(努力处理)。较陡的斜率也可能发生在衰老或疾病干扰必须将某些频率保持在严格范围内的情况下,例如心率变异性(Huikuri等,1998)。较低频率的增加可能是信号系统调节失败的表现,这些系统维持此类变异性的控制。总的来说,在生命周期内,任何类型的生物体都可能发生四种逻辑类型的调节缺陷,每一种缺陷可能都有内在和外部原因(即在极端环境条件存在或不存在的情况下,控制可能失败)。这些缺陷应该转化为幂律频率谱的特定变化,可以使用现有技术进行系统参数化(Donoghue等,2020)(图9)。

总的来说,我们提出,生命系统的部分整体结构(嵌套模块化、层次结构)在其动态中产生了幂律的印记(1/f‘粉红噪声’)。这一理论可能有几个后果。粉红噪声似乎不仅仅是一个副产品,而是层次消息传递(信息处理)在生命系统中的一个基本特征。当前的理论对生命系统的发育研究(发展方面)、生命系统的发展研究(进化方面)以及在临床医学和生态学中对生命系统进行实际管理都有重要意义。这些影响将在下面进行讨论。

8. Implications of the theory: Ontological and phylogenetic aspects

8. 理论的启示:本体论和谱系发育方面的影响

在我们看来,幂律频谱反映了系统的层次结构:更高(部分整体)层次通过跨频耦合(‘自上而下的控制’)对其(组成的)低层系统的动态施加持续的压力。因此,调控层次结构的顶部负责在系统的显性行为时间序列中产生零频率的‘偏移’(直流分量)(图10)。这些偏移反映了系统内部消息传递和显性行为的默认或平均表达水平(图10)。换句话说,调控层次结构的顶部控制着生物体的行为‘气候’(其个性),而不是其行为‘天气’(快速变化的行为感知序列),后者是在其基础产生的。这一结论得到了不同科学领域的研究支持。例如,翻译研究表明,几乎所有物种都在行为特征上表现出个体间的差异,即‘个性’(Carere和Maestripieri,2013; Cabrera等,2021)。这些差异的原因在很大程度上被局限在更高的调控区域。例如,在线虫、较小的动物和人类中,已经有研究表明高层次的枢纽神经元和脑区参与控制稳定的行为特征(Zhang等,2021; van Oers和Mueller,2010; Tompson等,2018)。在细菌中,相同品系的个体在探索或社交行为方面可能存在差异,这与更高层次的调控基因在遗传信息瓶颈中的差异表达水平有关(Keegstra等,2017; Lyon,2015; Shapiro,2007; Waite等,2018; Davidson和Surette,2008; Ni等,2017)。在植物中,调控基因已被认为参与控制植物通信策略中的个体差异,导致科学家考虑‘植物个性’的可能性(即更具探索性或回避性的生长模式)(Karban等,2022)。最后,人类研究表明,枢纽脑区控制成年个性的发展,并且在这些区域的发育缺陷或病理性变化会导致个性障碍(van den Heuvel和Sporns,2019; DeYoung等,2022)。

除了控制运动或战斗或逃避反应等显性行为外,高级调控系统还控制生物体的形态特征。

例如,全息基因是在胚胎发育和形态发生过程中控制基因表达、蛋白质合成、细胞分裂和细胞迁移的调控基因。这最终会影响如臂、腿、脊椎、尾巴或翅膀的生长,产生不同的生理表型(Pearson et al., 2005)。其他调控基因则控制幼体向成体表型的过渡过程。这些基因的表达差异解释了同一物种个体在外貌上的差异(Mallo and Alonso, 2013)。涉及生理发育的调控基因问题(例如,生长激素受体)可能导致生理畸形,具体取决于所涉及的基因或组织类型(Mallo and Alonso, 2013; Maurano et al., 2012)。因此,许多情况下,蝴蝶结结构控制同一物种内个体在形态特征(体型)和行为特征(个性)方面的差异,这被统称为“表型差异”。

正如观察到的那样,高级调控系统包含先验单元,这些单元对生物体的经济生态环境的抽象和时间稳定的方面进行编码(如气象或社会气候)。换句话说,表型差异反映了个体对环境中某些稳定方面的物理或行为反应的倾向,即一定程度的专业化(Bergmüller and Taborsky, 2010)。这种专业化允许“劳动分工”,防止生物体为了相似的(社会)经济生态环境而竞争(Cooper and West, 2018)。在大多数生物体中,形态特征与个性特征相互关联,形成整体表型和相应的劳动分工(例如,在蚂蚁中,个体在体型、力量和攻击性方面的差异使它们承担不同的社会角色,如工蚁、护士和士兵)。这样的表型由少数几个形成蝴蝶结结构的高级调控枢纽基因控制(Trible and Kronauer, 2021; Mikheyev and Linksvayer, 2015)。同样,许多物种在形态和行为上显示明显的性别差异(性二型),这使得就生产和抚养后代以及应对威胁而言,有了一种劳动分工(Barr et al., 2018; Korb, 2016)。这些差异是由在胚胎发育和个体发育过程中差异表达的高级调控枢纽基因驱动的(Nijhout, 2003; Erwin and Davidson, 2009)。简而言之,生物体的表型差异反映了许多情况下由高级调控区域(信息瓶颈、蝴蝶结的蝴蝶结)而不是层次结构的底部(蝴蝶结的翅膀)控制的专业化程度。

正如讨论中所述,高级调控区域是由少数中枢节点(富集俱乐部)组成的信息瓶颈,控制网络的大部分区域(Colizza et al., 2006)。由于它们的中心位置,只需对这些关键区域进行轻微的更改即足以产生完全不同的体型和个性。当对这些变体进行积极选择时,新物种可能会出现。这个想法得到了越来越多的观察结果的支持,这些观察结果将蝴蝶结图案与生物体的健壮性和进化能力联系起来(Kitano, 2004)。例如,研究表明,过去的进化变化通常涉及在过度表示的调控区域中引入小突变,这些区域被称为‘热点基因’(Erwin and Davidson, 2009; Davidson and Erwin, 2006; Stern and Orgogozo, 2009)。在丽鱼和田鼠中的研究表明,仅对高级调控系统进行轻微修改就可能导致各种各样的体型、饮食专业化、社交偏好以及相应的地理分布,从而快速产生多样的物种:这一现象被称为适应性辐射(Carruthers et al., 2022; Mehta et al., 2021; Insel and Shapiro, 1992)。类似的发现涉及不同蚂蚁物种(Mikheyev and Linksvayer, 2015; Shubin et al., 2009; Warner et al., 2019)和植物物种(Subrahmaniam et al., 2018)中社会行为的进化。在哺乳动物中,脑结构的物种间差异主要存在于中等皮质、前额和前颞区域,涉及调节(中枢)区域。相比之下,感觉运动皮质显示出相对较少的物种间差异(Striedter and Northcutt, 2019)。因此,与层次结构的底部(蝴蝶结的翅膀)相比,正是对这种基本机制(蝴蝶结的蝴蝶结)的调节产生了差异。对调控系统的微妙调整可能足以将生物体分布在完全不同的经济生态环境和社会角色中,以优化生存率。因此,信息瓶颈似乎在生物体的专业化和物种分化中起着关键作用,将它们置于进化的‘热点’中心(图11)。

总的来说,我们提出,幂律频率分布是由生物体的层次(部分-整体结构)架构所导致的。层次结构的顶部控制着行为和生理特征的表达(即,稳定的表型)。对信息瓶颈进行微妙修改可能导致强烈的表型差异,并推动生物体的专业化和物种分化。

9. Implications of the theory: Practical aspects

动态幂律频谱传递关于生物系统层次动态的信息的概念有一些实际的影响。例如,这样的频谱可以用于监测生物系统中层次信息处理的质量。一个非病理性的例子是大脑对未预测到的刺激的普遍响应。这被称为事件相关去同步,其特点是相对于低频率存在高频率的过剩。这表明相对于低级别的预测错误的高级别(低频率)区域相对较少,否则这些区域将预测和解释低级别的预测错误,使被试更少“惊讶”。相反,在枕叶的低频阿尔法振荡通常表现为介入和从感知环境中撤离的心境状态。这表明与特征化主动状态的低级别动作感知循环相比,高级别的预测性区域在自上而下的生成建模(想象,心灵漫游)中相对较强地参与其中(也请参阅图8)。

在更病理性的情况下,生物系统的调节能力过载导致了位于调节层次顶部的中枢节点的代谢故障,产生了层次控制的自上而下的崩溃(“预应力超载”(Goekoop and de Kleijn, 2021b,a))。这种“指挥结构”的扁平化产生了一种失同步形式,使下级水平处于一种不受调节的混乱状态。这种混乱可以通过一个称为“排列熵”的单一度量来量化,该度量表达了系统时间序列中的随机性或不可预测性。排列熵度量(特别是在Li等人(2021)中定义的更复杂的版本)以香农的信息熵为出发点,并专门为量化时间序列(即振幅变化序列)中的随机性进行调整。这包括为考虑振幅变化的不同幅度而进行的调整,并在多个时间尺度水平上计算这些变化(通过系统地粗粒化/合并相邻的数据点)。此外,获得的结果与白噪声(纯粹的随机性)的参考值进行比较。总的来说,这产生了一种比原始的香农熵更多方面捕捉时间序列的度量。因此,它也比简单的描述统计信息更丰富,后者跟踪(变量的变化),系统中变量的数量,它们之间的相关性,自相关性或信号方差。这样的统计信息经常被用来描述关键减慢(CSD)的现象:即调节系统从扰动中恢复的速度减缓,这经常在受到严重压力的不受控制的生物系统中发现(Goekoop and De Kleijn, 2021a)。CSD的上升可能预示着临界点的开始(即系统失败)。在以前关于这个主题的论文中,我们认为排列熵可以用来更简洁地总结CSD(Goekoop and De Kleijn, 2021a)。这具有实际的好处,例如减少计算的需求。然而,它还具有概念上的优势,因为排列熵帮助我们将挣扎系统的现象学(由CSD见证)与混乱的概念(更高层次的熵)联系起来。这使其与临床医学中现有的病理生理学现象(“障碍”)的概念更一致,这些现象通常通过CSD和系统失败的临界点显现出来。总的来说,这些建议支持使用(新版本的)排列熵而不是香农熵或简单的描述性统计信息来检测生物系统中的调节缺陷和相应的病理情况。

确实,排列熵分数的增加已被用作从健康而稳定的行为到各种身体和心理“障碍”之间的过渡点的早期预警信号,以便采取预防措施。这样的临界点(分叉或灾难)在任何受到大量压力的系统中都会发生,并且标志着信息瓶颈结构(马尔可夫毯)的崩溃,例如溶解期间的细胞膜或心理障碍期间的高级神经系统。排列熵已成功用于预测心脏病发作、心律失常、癫痫发作或精神障碍、自身炎症性疾病的复发、患有精神障碍的患者、混乱的社会系统、受污染的生态系统,并寻找系统控制某些环境挑战的能力的弱点(例如选择适当的抗生素治疗细菌感染)(Zhu et al., 2020)。排列熵升高的水平已被用于预测单个生物体以及社会系统、生态系统、地震、滑坡和股市崩盘的崩溃(Goekoop and De Kleijn, 2021a; van de Leemput et al., 2014)。尽管生物和非生物系统在其幂律频率分布的高阶统计方面存在差异(He, 2014),我们仍然期望这些现象在能量耗散的层面连接,这驱动所有开放系统(无论是生物还是非生物)的动力学(Friston, 2019a; Uhl et al., 2015)。同样,排列熵可以被用作任何开放耗散系统中“混乱”的通用量化器(Goekoop and De Kleijn, 2021a)。

对于排列熵,我们现在增加了第二个衡量层次信息处理质量的度量标准,即(幂律频率分布的陡峭程度)。而排列熵是一种更为远离的度量标准,是层次控制失败的结果(即混乱),幂律频率谱可以被认为是一种更为接近的度量标准,它传达了有关层次信息处理深度本身的信息。在我们看来,层次控制的崩溃导致较低频率的丢失(可能是较高频率的增加),这通过幂律曲线的突然变平来表示(图8D)。与排列熵一样,幂律曲线的变平可能作为标志性的预警信号,标志着从有序(健康)状态过渡到无序(不健康)状态的临界点。这些预测可以在任何被迫超出其纠正环境干扰能力的层次(贝叶斯)控制系统中进行测试。因此,监测与熵(混乱)分数相关的幂律指数可能对预防有益,并可用于研究其他系统的弱点。

幂律动力学还可以用于监测对动态系统的干预效果。在某些干预措施后,幂律曲线的恢复程度、混乱水平的降低以及症状减轻的程度可以作为层次功能恢复和临床治疗成功的定量指标。例如,在精神病学中,通过使用神经调节性神经递质系统调节顶层和底层信息处理之间的平衡(层次深度),可以使用药理治疗剂如抗抑郁药或其他影响神经处理效率的心理活性药物进行调整。此类干预的效果可以通过在治疗前后检查脑功能的幂律曲线的变化来测试。

10. Discussion

我们提出了层次网络结构在耦合振荡器系统(开放耗散系统)中产生层次动态(状态-特质连续体)的观点。这样的系统参与对其环境的深度时空结构进行垂直编码,这解释了不同频率的出现:层次结构的顶部编码慢事件并产生低频,而层次结构的较低部分编码快事件并产生快频。幅度随频率的典型变化由耦合强度和能量耗散率之间的反比关系解释:在层次结构顶部,强耦合(中枢)节点产生强振荡,而在层次结构底部,松散耦合的节点产生较弱振荡。由于每个层次都以自己的频率为特征,跨频耦合应该反映自上而下和自下而上的“控制”。因此,我们提出幂律频谱量化了嵌套模块化网络结构中的层次控制过程。关键的是,这个提议适用于生命和非生命系统。

在休息(不主动探索)状态下,生命系统显示出平滑的幂律曲线,代表能量耗散在所有层次和相应频段之间的均匀分布。当主动采样其环境(在任务执行期间)时,生命系统在其幂律曲线上发展出“颠簸”。在我们看来,这样的“颠簸”涉及到在自组织的最佳层次信息处理深度产生的频率的放大。极端任务表现将控制系统的最高层次招募到解决最复杂任务。这有选择地过载(代谢要求高的)在这些区域中过度表示的中枢节点。当这些节点过载和失效时,这引起了中枢整合层次控制的自上而下的级联故障(“allostatic overload”)。由于中枢节点使网络保持连接和同步,它们的故障导致了低层次信号变化的断开和非同步(混乱)。这可以用系统时间序列的排列熵分数来量化。由于幂律频谱可能量化层次控制,allostatic overload期间层次控制的自上而下崩溃应与(对数标准化的)幂律曲线的变平相一致,反映了较低层次控制的减少(较低频率)。从这个角度来看,增加的排列熵描述了崩溃层次控制的更远作用(即混乱),而变平的斜率可能传达更为直接的信息(即失调:层次控制的崩溃)。总的来说,这些变化可能作为系统崩溃的早期预警信号。

测试这个理论需要一个跨学科的方法,应该避免让有感知的生物在不必要的压力环境中。可以考虑在抗生素挑战下的微生物研究、在严重干旱条件下的植物研究,或者“自然实验”将生命系统推到其调节能力极限的情况,比如患有各种身体或心理状况的患者。我们怀疑我们的理论将适用于各种生理和病理情况下可观察到的各种睡眠阶段和意识水平波动(例如,中毒),以及全身麻醉,尽管这些情况在这里没有进行审查。一个悬而未决的问题是所提出的层次控制理论和测量方法在大规模社会系统(如蚁群、蜂巢、人类社区、组织、政府或生态位)中的适用程度。所有这些系统可能会因应激或层次结构崩溃而显示出幂律频谱分布的变化。此外,这些系统可能会展现低频特征或‘个性’,即某些政策的默认表达水平,反映了环境的某些稳定方面。研究解决这些问题的方法可以利用体外模型来模拟层次结构变化对系统动力学的影响。这样的研究需要深层振荡神经网络模型,其中包含与贝叶斯推理有关的信息瓶颈模式。到目前为止,许多这样的模型尚未开发出来(早期的一个例外,参见(Soman et al.,2018))。由于其无标度的性质,自由能原理及其推论,主动推理,有着将自然科学与人文科学结合的激动人心的前景,具有明显的实际、哲学和伦理意义(Parr et al.,2022)。总的来说,21世纪将是任何希望优化其对世界的预测模型的人的非凡时代。

本文参与 腾讯云自媒体同步曝光计划,分享自微信公众号。
原始发表:2024-01-17,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 CreateAMind 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档