清华团队首次提出“类脑计算完备性”

2020.10.23

      文字

      詹萌


      片设计

      任帅 宋婷


      视频制作

      张帆 刘蓓


      编审
      戚天雷 周襄楠 张歌明


      栏目统筹

      周襄楠 贺茂藤

想象有一天,机器可以像人一样思考和处理问题,这对于21世纪的我们早已不是一个陌生的话题。通用人工智能的梦想鞭策着人类不断探索脑科学的奥秘与用机器模拟生物神经网络的结构和信息加工的潜力,而后者就是我们所说的类脑计算,也叫神经形态计算。

目前的类脑计算研究尚处于起步阶段,国际上还没有形成公认的技术标准与方案。10月14日,清华大学计算机系张悠慧团队和精仪系施路平团队与合作者在世界顶级期刊《自然》发表题为“一种类脑计算系统层次结构”的论文,填补了类脑计算系统领域完备性理论与相应的类脑计算系统层次结构方面的空白。这是一年多来,清华大学在类脑计算领域继“天机芯”和“多阵列忆阻器存算一体系统”之后于《自然》正刊发表的第三篇成果,也是计算机系以第一完成单位/通讯单位在《自然》发表的首篇论文。

从传统到创新,用系统的眼光重新审视类脑计算

如果说,“图灵完备性”是通用计算机领域的“圭臬”,那么“类脑计算完备性”则能够为类脑计算系统领域的发展提供一个“准绳”。

通用计算领域有两个著名概念,一个是“图灵完备性”,另一个是“冯·诺依曼体系结构”。对于前者,原则上一个图灵完备的系统能够用来解决任何计算性的问题,符合图灵完备的编程语言编写的任何程序都可以转换为任意图灵完备的处理器上的等价指令序列,因此在设计通用计算软硬件时需符合图灵完备的要求;后者则是通用计算机运作的体系结构,具有存储部件与计算部件分离、程序与数据统一存储等特性。图灵完备性和冯·诺依曼体系结构使得通用计算领域在软件层、编译层和硬件层都有了统一的范式,使不同层次各自发展而又可以无缝兼容。

然而,现有类脑计算系统研究大多聚焦于具体的芯片、工具链、应用和算法的创新实现,而忽略了从宏观和抽象层面上对计算完备性和体系结构的思考。类脑计算软硬件间的高度耦合阻碍了它们独立发展的同时互相兼容的可能性。如何突破这一瓶颈,扩展类脑计算系统的应用场景,成了团队下决心要解决的重点问题。

“通用计算领域的图灵完备性和冯·诺依曼体系结构都是非常基础、大家也非常熟悉的概念,以至于很多人都不会意识到,对于新兴的类脑计算系统领域,这是一个需要首先解决的问题。” 计算机系研究员张悠慧说。

从传统通用计算机的设计哲学和方法论中汲取灵感和经验,团队针对类脑计算不像针对通用计算一样注重每一步计算过程的精确,他们更注重结果拟合的特性,提出了对计算过程和精度约束更低的类脑计算完备性概念,并且设计了相应的类脑计算机层次结构:图灵完备的软件模型,类脑计算完备的硬件体系结构,以及位于两者之间的编译层。通过构造性转化算法,任意图灵可计算函数都可以转换为类脑计算完备硬件上的模型。这意味着类脑计算系统也可以支持通用计算,极大地扩展了类脑计算系统的应用领域,也使类脑计算软硬件各自独立发展成为可能。

明确分工接口,既能学科交叉又能“各司其职”

明确类脑计算机层次结构,除了希望实现不同层次之间的去耦合,也是希望能为各相关学科的研究人员“减负”,不让专业间的知识鸿沟阻碍交叉学科的顺畅发展。

类脑计算属于交叉研究领域,涉及脑科学、电子、微电子、计算机、自动化、材料以及精密仪器等多个学科。学科交叉意味着研究中需要集各科之所长,但是专业壁垒却增加了学科之间互相理解、协同配合的难度。如何让一个生物学家不必深入钻研计算机理论却依然能理解进而将自己的专业前沿成果结合到类脑计算当中。这是交叉研究项目面临的现实问题。

《自然》期刊审稿人说,清华大学团队的这项研究“使得相关研究领域间的任务分工与接口更为清晰,有利于不同学科的研究人员专注于其专业领域、促进协同发展”。

不让研究人员分心,专于所长,推动各个具体学科领域的技术突破,才能为类脑计算提供更加坚实的基础和支持。

值得一提的是,从春节前夕投稿,到8月上旬正式被接收,论文的两轮修改都是在疫情期间完成。整个审稿过程无法在线下交流讨论和开展实验,这对于团队而言无疑带来了巨大的挑战。“但从另一个角度看,因为疫情期间哪儿也去不了,我们能更加潜心和专一地去做好这一件事。”张悠慧说。

研究小组努力克服交流不便、实验数据处理困难等问题,对文章的实验设计做了较大补充与改进。“一开始审稿人认同我们研究问题的意义,但是并不理解我们对于研究问题的解决思路,对于是否有必要进行底层的计算理论设计,审稿人提出了质疑。”计算机系博士后渠鹏说,“但是通过对整体行文逻辑、文章内容和原型实验的反复斟酌修改,以及对研究思路和质疑点的一一反馈,审稿人最后认同了我们的设计理念。”

今年刚毕业的博士生季宇是完成计算完备性相关工作的主要成员之一。因为在科研方面的优异表现,他的博士论文也被评为清华大学优秀博士论文。精仪系的张伟豪是文章的共同第一作者,师从施路平教授。他提出了能够充分利用类脑计算完备性的硬件抽象体系结构与映射方法。大家各取所长,共同搭建起了类脑计算系统的层次结构。

70多页的反馈文件,一次又一次的讨论、修改、迭代,见证了团队一步一步迎难而上的努力。“当审稿人说我们的研究明确了不同领域的分工和接口,将对类脑计算的交叉研究产生积极作用时,我真的很受鼓舞,感觉到自己研究的东西是十分有意义的,也是被类脑计算社区所认可的。”渠鹏说。

厚积薄发,一步一个脚印地走向通用人工智能的未来

2014年,清华大学类脑研究中心由7个院系联合成立,为类脑研究这一交叉学科领域提供了一个良好的交流平台,中心主任即为本次研究团队中的精仪系施路平教授。也正是因为各单位和学校研究中心的支持、研究过程汇集了来自各方的智慧力量,这个小团队最终做成了类脑计算系统理论与原型构建的大项目。

尽管从项目正式启动到最终发表不过经历了一年多的时间,但这项成果的产生并不是一蹴而就的。

在类脑计算系统设计和编译技术上,团队就已经在过去几年的不懈研究中打下了坚实的基础。此前清华大学在类脑领域所取得的新进展,也为这次类脑计算完备性和类脑计算系统层次结构的提出提供了技术和方法上的支持。从前期分支问题的各个击破,一步一个脚印,一点一滴积累,到最终提出系统的理论框架,一切都是水到渠成。

未来,在理论层面,团队将更关注类脑应用的“神经形态特性”,并希望最终建立起一个与图灵完备相对应的全新类脑计算理想范式;在系统层面,团队将依托计算机系高性能所在超算与芯片方面的雄厚实力,研发受脑启发的支持通用计算的新型计算机系统结构与芯片。尽管目标远大,道阻且长,但他们相信,只要日积跬步,终将到达千里之外。至于是否能实现最初的梦想,时间会给所有的努力一个答案。

版权所有 © 清华大学

京ICP备15006448号

京公网安备 110402430053 号