Press "Enter" to skip to content

张江:因果与机器学习能够破解涌现之谜吗?| 周日直播·因果涌现读书会

本站内容均来自兴趣收集,如不慎侵害的您的相关权益,请留言告知,我们将尽快删除.谢谢.

 

本次分享主要对因果涌现理论进行回顾与展望,本次分享是因果涌现读书会第二季的第一期,主讲人张江是北京师范大学教授、集智俱乐部创始人,也是因果涌现系列读书会的主要发起人。因果涌现读书会第二季主要围绕追根溯源、因果涌现、因果表示学习、机器学习多尺度自动建模、量子因果五大主题来探寻涌现、因果科学和机器学习这三大主题之间的联系。自2022年5月22日开始,每周日晚上19:00-21:00举办,持续时间预计 7-8周。欢迎对本话题感兴趣的朋友报名参加!

 

 

 

背景介绍

 

因果涌现是一个非常前沿地研究方向,可以看做是对复杂系统核心概念「涌现」的定量刻画,通过因果涌现很好地刻画了系统宏观和微观状态之间的联系和区别。如何能借助因果科学、机器学习、信息论等研究方法,来更好地完善这个领域的框架,是第二季读书会的核心目标。

 

 

报告内容简介

 

备注:这个概览性的分享会回顾基础概念,所以即使没有参与过第一季也可以跟上,参与过第一季的朋友是一个很好的回顾和深入的探讨。

 

本次分享是因果涌现读书会第二季的综述性、概览性的分享,希望在基于第一次对因果涌现讨论的基础上,更多的探讨涌现、因果和机器学习之间的内在联系,并更多的探讨基于这几个学科产生的可研究的科研问题,希望吸引更多对该问题感兴趣的科研工作者加入,共同研究。

 

本次分享张江教授首先将简要介绍涌现理论、因果科学、生命与智能及信息论的新发展的相关背景;然后从Erik Hoel的因果涌现理论、因果涌现思想的相关发展、互信息分解与因果涌现理论、因果涌现理论存在的潜在问题四个方面对因果涌现理论做一个回顾;最后将结合机器学习、因果表示学习与人工智能、重整化与多尺度建模的问题对因果涌现的未来可能发展方向进行展望。

 

一、背景

 

1、涌现理论

 

2、因果科学

 

3、生命与智能

 

4、信息论的新发展

 

二、因果涌现理论回顾

 

1、Erik Hoel的因果涌现理论

 

前置知识:马尔可夫链、互信息、do算子

 

2、因果涌现思想的相关发展

 

3、互信息分解与因果涌现理论

 

前置知识:互信息基本公式与相关性质

 

4、因果涌现理论存在的潜在问题

 

三、因果涌现的未来

 

1、基于机器学习的因果涌现理论

 

前置知识:机器学习、神经网络的基本概念

 

2、重整化与多尺度建模

 

前置知识:关于尺度、重整化的基本概念

 

3、因果表示学习与人工智能

 

前置知识:表示学习、强化学习等

 

4、展望

 

 

主讲人介绍

 

 

张江 ,北京师范大学系统科学学院教授、集智俱乐部创始人、集智学园创始人,曾任腾讯研究院特聘顾问。主要研究领域包括复杂网络与机器学习、复杂系统分析与建模、计算社会科学等。曾在Nature Communications、Nature Machine Intelligence、Scientific Reports、Physical Review E、Journal of Theoretical Biology等国际知名刊物上发表过学术论文数十篇。出版专着《数字创世纪——人工生命的新科学》、译着《自然与人工系统中的适应》、校译《规模》等着作;曾主持《互联网上的集体注意力流研究》、《加权有向食物网的异速标度律研究》等多项国家级科研项目。曾多次因合作研究而出访过国际知名研究院所或高校,包括美国圣塔菲研究所(Santa Fe Institute)、亚利桑那州立大学(Arizona State University)、密西根大学(Michigan University)等。其开创的集智俱乐部是国内外知名的学术社区,致力于复杂系统、人工智能等多领域的跨学科交流与合作。

 

参考文献

 

[1] Erik P. Hoel,Larissa Albantakis,Giulio Tononi: Quantifying causal emergence shows that macro can beat micro ,2013

 

[2] Shuo-Hui Li, Lei Wang: Neural Network Renormalization Group ,Phys. Rev. Lett,2018,121, 260601

 

[3] Tononi Giulio,Boly Melanie,Massimini Marcello.et al.: Integrated Information Theory: From Consciousness to Its Physical Substrateh ,Nature Reviews Neuroscience,2016,17(7): 450–461

 

[4] Sara Imari Walker,Luis Cisneros,Paul C. W. Davies: Evolutionary Transitions and Top-Down Causation ,arXiv:1207.4808,2012: 283–290

 

[5] Christensen K.,R Moloney N.: Complexity and criticality[M] ,2005

 

[6] 侯世达. 哥德尔、艾舍尔、巴赫:集异璧之大成[M].《哥德尔、艾舍尔、巴赫:集异璧之大成》翻译组,译. 商务印书馆, 1996.

 

 

直播信息

 

直播 时间:

 

2022年5月22日(周日)晚上19:00-21:00

 

参与方式:

 

集智俱乐部 B 站免费直播,扫码可预约:

 

 

视频号预约:

 

 

 

文末扫码付费参加因果涌现读书会第二季可加入腾讯会议,可提问交流,加入群聊,获取回看地址及更多学习资料,成为因果涌现社区种子用户,与因果涌现社区的一线科研工作者沟通交流,共同推动因果涌现社区的发展。

 

 

因果涌现为何是复杂系统的关键

 

什幺是因果涌现?

 

复杂系统在宏观状态和微观状态都有不同的刻画和描述。

 

当我们用不同的放大比例去看一个复杂系统的时候,会得到完全不同的模式与动力学。当一个系统在宏观尺度能够展现出比它的微观尺度更强的因果特性,那幺,这就发生了 因果涌现 (causal emergence)。

 

比如,一堆随机运动的粒子,在微观层面看毫无规律,但是当我们从宏观进行抽象,转而运用压强、体积以及温度等宏观量去刻画系统的时候,便得到了理想气体公式PV=nRT,它描述很强的宏观尺度下的因果规律,这就是因果涌现。

 

 

理想气体公式 PV=nRT

 

所以对复杂系统内的因果关系在多个时空尺度上进行分析,就需要定量刻画系统在不同尺度、不同时空的因果关系。Erik Hoel 就提出了“因果涌现”的概念,通过对系统在宏观和微观尺度下的“有效信息”进行描述和刻画,找到系统在宏观状态下的因果规律。

 

为什幺要讨论因果涌现?

 

因果涌现很好地刻画了系统宏观和微观状态之间的联系和区别。

 

从理论层面说,因果涌现最大的亮点就是把 人工智能中的因果和复杂系统中的涌现 这两个核心概念给结合起来了。这两个概念在各自的领域中都是非常核心的,而因果涌现为这两者的结合建立了一个定量的理论框架。

 

另外,因果涌现将一个非常重要的物理变量“尺度”引入到了人工智能、机器学习等学科之中,这一新“维度”的引入,必然会引发一系列的理论工作,例如贝叶斯网上的因果涌现,宏观尺度的“软控制”等等。

 

从哲学意义上来说,因果涌现为我们回答一系列的哲学问题提供了一个定量化的视角。比如,生命系统、社会系统中自上而下的因果等特性就可以站在因果涌现的框架下来讨论。

 

从应用的角度说,因果涌现可以给出一系列可定量化操作的指标,从而判别出一个系统中是否有涌现的因果。也可以构建从数据中自动发现因果涌现的机器学习框架。

 

在机器学习领域,已经有一些模型算法应用了因果涌现的想法,比如Word2Vec、Sparse Coding等。再比如压缩降维等方法其实都可以理解为粗粒化,但是将粗粒化明确与因果相结合并给出定量刻画的例子尚没有。

 

 

通过粗粒化操作,把微观态映射到宏观态。微观上因果联系非常弱,宏观上则具有非常明确的因果规律。

 

详细内容见推文:

 

因果涌现学习路径:当「因果」和「涌现」相遇

Be First to Comment

发表评论

您的电子邮箱地址不会被公开。