Hod Lipson:当机器开始学会自我反思-深度-知识分子

Hod Lipson:当机器开始学会自我反思

2019/12/16
导读
Hod Lipson 的演讲题目是《当机器开始学会自我反思》。他认为通过制造能学习自我模拟的机器人,未来的机器人或将拥有意识与自我认知。

q/py/zsfz1575532066.6064338.jpg


  


Hod Lipson 的演讲题目是《当机器开始学会自我反思》。他认为通过制造能学习自我模拟的机器人,未来的机器人或将拥有意识与自我认知。



以下为演讲全文:


非常感谢!近一个世纪以来,我们一直致力于开发智能机器,我们曾经尝试制作能够模仿人类外形和行为的机器人。这是1939年举办的纽约世博会,这场盛会和本次大会一样都是人类对未来的预测,人人都对未来充满了好奇心。这是当初参展的机器人,它能够如人般行走、交谈,想必点烟抽烟这种动作也难不倒它。 


微信图片_20191205154446



但对机器人而言,最重要的功能,恰恰也是它缺少的功能,便是智能。我们一开始不知道该如何制造智能设备,事实证明确实非常艰难,所以我们先提出构想,然后一步步实现。我们就机器人和智能设备的外观,展开想象、发散思维。不论是优质又令人满意的机器人,还是残次品,亦或是仿真型机器人,我们都制作过,总有一些美中不足,或是出现自我矛盾等故障。


我们经历了重重困难,但那时制作出的机器人,总是不尽人意。要制作出完美的机器人听起来就是白日做梦。但时至今日,我很确定地告诉大家,这个美梦即将实现!机器人研究领域出现了两大颠覆性的变化,不断推动行业的发展,这是我们未曾预料到的。


先来看看最明显的变化,也就是摩尔定律,它向人们展现出计算机性能在短短数十年内的飞速变化。如今,摩尔定律或它的延伸版本也频频出现,它认为机器(即计算机)的性价比每隔几个月就会翻倍。以对数标尺的角度来看,还是有些难以理解,但当我将数据取出,套入线性标尺内,过去120年内计算机性能的迅猛发展就一目了然了。与美元相对,这些是每秒十亿次浮点运算次数,常用于测量计算机性能发展速度,这张图也很清晰地展现出迅猛的发展趋势。这些都是真实的数据,并非凭空捏造,也不是空口举例。 


微信图片_20191205154448


现在是2019年,回顾2010年的“井底之蛙”,当时的人们认为自己拥有非常高速的计算机,但跟现在的计算机相比其实不值一提。而这种发展趋势必将延续下去,因为过去的120年就是这样稳步发展而来。再过几年,未来的人们再回顾今朝,又将忍俊不禁。等到明年大会时蓦然回首,又将对去年拥有同样想法的人们发出感叹。大家可以一直盯着这张表,然后问自己:如果未来计算机运行速度是当今计算机的一百倍,你可能会用它来做什么呢?下载电影吗?人类到底可以利用这样快速的机器做些什么?我认为,这样的机器可以用来打造更高效的人工智能系统。 

微信图片_20191205154449


让我们浅谈一下人工智能在前几年的发展,不仅体现在计算机运行更快、成本更低、性能更优,大约五年前,人工智能领域也进行了一场改革。机器在一纳秒内可以看到一张像这样的图片,然后告诉人们图上有一只猫和一只狗。这看似微不足道,毕竟一岁小孩就能看图说话了,但却成为了AI研究人员数十年都难以突破的瓶颈。在高超算法和神经网络的帮助下,这件事才能在一纳秒内完成。正是这看似微不足道的发现,为自动驾驶、无人机、便利健康诊断等领域带来了天翻地覆的变化。


当然,研究硕果远不止这一项。现在看到的是可以后空翻的机器人,它们能做出令人难以置信的动作。看了这些,你可能会觉得由人类主宰的时代要过去了,但这不过是时刻发生的变化之一。我们制作的机器人拥有全新的想法,是可以设计蛋白质的机器,能设置信号的人工智能。这是我客厅里的机器人,它在画布上作画,自己造出了真的还算有趣的原创艺术品。还有可以感知人类情绪的机器人,它们能够表达情绪、微笑,只有你想不到,没有它做不到。一般人看到这种机器人都会对我感叹:“它们太神奇了!”它们可以捉猫抓狗、进行诊断、驾驶汽车、做后空翻、创造新事物,令人大开眼界。


机器人能够感知情绪并表现出来,这太令人惊叹了!那么我们未来能够创造出拥有情感的机器人吗?情感是人类独有的能力吗?我们可以赋予机器人这种能力吗?比如能为自己思考,能够自我感知的这类拥有意识的机器人未来也会出现吗?自我意识是只有人类才具备的神奇能力吗?所以我们开始研究这一模糊概念下的术语,我们称之为感觉能力,即机器拥有的情感和自我思维等能力。这正是我们追求的目标,也是我们试图赋予机器的能力。但我们尚未明确这种能力是什么,我们无法定义“感觉”,也不理解它的工作机制。所有研究这一方向的神经系统科学家以及研究人类的我们,并不了解这些事物的起源以及它们运作的机制。


其实从历史角度来看,不论是普通人、神学家还是哲学家,他们都突破了时间、文化和地理的限制,不断思索人类与生俱来的自我意识和自我认知,并且各执己见。可惜,至今的研究成果并不多,只能将许多这样无法解释的术语称为模糊术语。我们无法解释其真正的含义,有时人们认为意识不过是对物质世界的反映。为什么这么说呢?我们并不了解其内涵意义,也无法作出有价值的解释。俗话说,“如果你不能解释得通俗易懂,那就说明你还没有完全理解。”


在我看来,如果不能将其构建出来,就不算真正的理解。为机器赋予自我意识成为了眼下的难题。那什么是意识呢?自我认识又是什么?我一般会给它下一个很现实的定义。在我看来,意识和自我认知就是模拟未来自我状态的一种能力。也就是说,你可以想象未来的自己将会体验到什么样的感觉,将会采取什么行动,进而预测自己将会有什么反应,这就是预见未来的自己。你预测未来的能力就体现在你的自我认知程度。比如,你看到一张海滩的图片,你就能想象脚底踩着细沙,鼻尖闻到海水的味道,耳边传来海浪的拍岸声,这就是一种自我意识的体现。自我意识并不是非黑即白的,它可以划分为不同的程度。


事实上,它作为一个连续体,决定着你对未来的预测结果,与未来的距离以及预测的精确度。举例来说,小狗可以预测下次吃饭时的感受。也许它的自我意识只能延伸到下一餐或第二天的生活,而人类则能够预见自己的退休生活。所以小狗会为此储存食物,而人类会为退休后的生活做足准备。所以我们能够预测未来生活,就是对自我意识的一种有效假设。


自我意识不仅是关于未来走向的假设,你还可以在内心自我模拟、进行规划,这就是人类独有的模拟能力。因此,当你面对一片池塘,边上有脚踏石,请问你将用什么办法穿过这片池塘?你能够穿过它吗?你可以想象自己的行走路线、落脚位置、第一个落脚点、第二个落脚点等等,由此完成模拟过程。然后你再决定是否要走这条路,在脑海中模拟一下就能轻松解决。假设你正在爬树,你可能会预见自己将抓住哪根树枝,落脚点在哪里。这就是你在脑海中模拟预测并规划的能力,无需实际操作,也不需要为错误付出代价,就可以了解整体并规划完成。这种能力非常有效。可能会有人提出质疑,认为这样模拟行为太耗时了。


实际上,机器人也一直在进行模拟,事实证明模拟就是几乎所有机器人的初始行为。我们在模拟中通过设计、编程、测试来制作机器人,甚至赋予它们学习能力。机器人领域近期的惊人成果,几乎都是通过模拟学习取得的,这就是Open AI的作用。伯克利有一台可以轻易操纵物体的机器 ,但在此之前它已经在模拟环境中学习了两个世纪。虽然在云端上五分钟就能搞定,但这为期200年的训练有它的意义所在。这个机器人动作得体,还能四处走动(见笑了!我也不知道他们为什么一直在踢它)。


这无疑是一种更好的测试方法。这里有一个学习走路的机器人,它在模拟环境中学习可以事半功倍,所以机器是可以在模拟环境中学习的。但不同之处在于,所有模拟行为均由工程师设定,因此这些行为都比较简单。我们不知道该为它模拟些什么动作,但肯定不会太容易也比较耗时。我们不知道什么样的模拟内容比较重要、什么样的内容不重要。通常模拟行为还未完成,机器人就已经磨损了!那么问题来了,机器人能够自我模拟吗?这是最后一步,也是最关键的一步。


目前有个大问题:人类又是从何物模拟而来呢?我相信这是与生俱来的能力,也许在出生时就自带一些基本架构。幼儿时期在玩耍时边听边学了很多知识,这种玩耍不是在消磨时光,而是幼儿接触物质世界的渠道。我们开始了解自我、身边的物质世界、肌肉的运动、感知范围,然后理解这些事情的运作原理。


微信图片_20191205154452



这是我们前几年做的机器人,它学会了自我模仿,其实它的构造非常简单,四条腿、一对感应器和制动器。但它没有眼睛,因而也无法观察这个世界,它只能感应自身。出于需要,它还学习行走。现在它通过模拟自我来行走,我们看过它的大脑,内部构造非常简单。从一开始我们就可以看到这个机器人是如何“看到”自己的。起初它不知道自己是什么,可能是条蛇,或者是一只蜘蛛、一条机械臂。它不知道自己有多少个部件,经过两天的摸索它开始意识到自己有四条腿,但却不知道这四条腿的连接方式。当它在围栏里又玩了四天后,形成了自我形象,这足够让它靠想象学会走路了。它不知道如何在现实世界中行走,这比较难,进展缓慢,且有风险。它还不知道自己是由外部软件开发人员编写而成,通过脑内模拟学会了走路。现在把它放到现实世界中,让它自己行走。


几年前这样做的时候,AI 即人工智能正处于需要人类的帮助来实现可视化的阶段。我们需要教它拉伸和力学,告诉它有多少马力等,给它提示。但现在,没有高效智能系统来实现我曾经展示的跨越式发展以后,我们可以做得更好。 


微信图片_20191205154454


这是最近开发的机器人,它是一个简单的机械臂,具备一些马力,但是我们并未给它任何有关身份和行为的提示。它开始像婴儿床里的孩子一样四处乱动,很明显它生成的自我形象与现实毫无关联。但大约一天后,它的自我形象,就是这部分黑灰色画出来的部分,也已基本成型。它可以从中学习如何完成简单的指令。


它现在面临的挑战是自我形象比较复杂而且不够明确,要想进行提取并改善难如登天。这就像是,我很难进入你们的大脑中,并准确地理解你们是如何看待自己的。创建可视化自我形象非常难,但如果没有自我形象,这个机器人就会突然执行新的指令。因为它是在自己的想象中,而不是在现实中进行学习的。这一点非常重要。现在你可以看着这个机器人,说:“等等,我可以对它编程,完成这类任务。”这并不难,但要牢记机器人不仅学会了自己做这件事,它还学会了如何在自己创建的模拟环境中完成这件事。我认为这两个点将引导我们探索自我意识。 


微信图片_20191205154456


为了检测这个机器人 ,我们把它拆解了,这听起来有点残酷。然后我们用另一个弯曲的部件进行替换,也就是这个标红的位置。通过我们的观察,机器人很快意识到自己的身体不太对劲,它对自我形象的预测与现实不符。“肯定是某个步骤出错了,我需要学习。”所以它重新学习。只花了短短半天的时间,就适应了新的自我形象,然后继续执行任务,仿佛什么都没发生。 


微信图片_20191205154458



给大家看一些数据,这张图展现了两个机器人的性能,一个有软件模型,另一个没有。可以看到在数据等量的情况下,确切来说,能够自我模仿的机器人能以更快的速度学到更多的东西。事实上,在物质世界中学习的机器与强化学习的机器之间的差距体现在,与一台不常使用数据来创建自我形象的机器学习相比,今天所有最先进的技术的学习速度是该机器的千分之一,或者说需要高于该机器所需一千倍的物理试验进行测试。


我认为这种差距就是自我意识的进化起源,这种进化可以快速分析出:像人类一样复杂的机器需要能够模拟自身的未来。因为只有这样才可以完成更多的事情,不需要成本,不承担风险,不花费时间就可以在现实世界进行尝试。


事实证明这种差距及优势与系统的自由度成正比。系统越复杂,他们的自我意识就越强,所以进化赋予人类的可视能力也许就是最好的礼物,因为人类可以借此做到其他生物做不到的事情。


那我们现在在研究什么?我们采用了与这款机器人相同的工作机制,将其投放到其他类型的机器人身上,不论速度、硬度、大小如何。我们尝试将其安装在便于获得的系统上,观察它们的模仿过程,因为有些系统几乎不可能通过传统流程来模仿。


还有一个有趣的现象是:我们现在的研究目标不仅是机器人的自我模仿过程,还包括它们如何模仿同类。当做到这一点时,机器人脑海就会形成这种意识。人与人之间也存在这种互动,每一个人都在思考和模仿其他人在做和思考的事情。而模仿人类和同类的能力,是机器人之间开启社交互动的起点。


刚刚讲的大多都与思维和心理稳定性有关,现在聊一聊物质稳定性。人类的身体不仅有强健的精神,还能够治愈、恢复和成长。今天你看到的大多数机器人都是由单片部件用螺栓连接起来的。如果其中一个部件坏了,机器人也就报废了。我们想知道是否能做出可以自行恢复结构并治愈的机器,所以进行了这个实验。



实验中的机器人将不再由单片部件结合而成,而是由数不胜数的细胞构成,我们称之为粒子机器人。为了与传统的单片机器人进行区分,可以看到这个简单的粒子机器人由大约6个粒子组成,可以相互协调移动。哪怕有一部分坏了也不会影响整体运作。


这个机器人尺寸更大,由10万个粒子模拟而成。你可以看到机器人在向前移动。事实上,即使20%的粒子已经死亡,这台机器仍能继续前进,就像人体细胞虽然经历繁殖、死亡、分裂等活动,身体也一直在新陈代谢。所以我们的目标是制造出能基于该结构将粒子组合在一起的机器人。比如那边的石头,它是由许多粒子通过其中一个步骤组装而成。


所以,畅想一下未来的机器人不再是单片机器人。我们并不制造机器人,坏一个销毁一个。相反,我们制造的机器含有大量的粒子。当一台机器坏了,另一台机器就会将这些部件从报废的机器人身上取下,用来制作改善后的机器人,这就是生物学的原理。


生物之间就是一种循环,人类周而复始地吸收蛋白质和氨基酸,我们必须想个办法让机器人也做到这一点。这就会牵扯出许多道德问题。这样的研究方向正确吗?这是我们想要的结果吗?这样会产生恶劣的反应吗?或者,这是一项振奋人心的研究吗?至少我非常激动,因为在我看来利远大于弊。


想象一下,全世界的无人机、无人驾驶车、智能工厂、智能城市的自动系统几乎都有自我意识,它们可以自行管理、自我修复并提升,毕竟这是我们一直以来的研究方向。自动系统越来越多,作为人类想要继续维持这些系统的运行有些吃力。因为庞大的工作量,这些系统难以进行编程,我们不得不将自然进化赋予给人类的天赋植入这些机器人,让它们具有可视能力,能对外界做出反应、适应环境、自行修复。这将成为高光时刻,也是我的最终目标。


我年轻时总想知道,有生之年是否能看到智慧的外星生物。我还记得自己读过的所有与UFO、百慕大三角这类异闻有关的书籍,希望能看到智能领域未来的发展。也许这可能发生在其他演讲者提到的宇宙万物中,人类提升了他们出现的可能性。我在有生之年恐怕是见不到这些外星生物了,但是我会看到一种“智能物种”。这些“智能物种”将起源于人类,并发展自人类。非常感谢!


注:本文转载自公众号“腾讯科学WE大会”。

参与讨论
0 条评论
评论
暂无评论内容
知识分子是由饶毅、鲁白、谢宇三位学者创办的移动新媒体平台,致力于关注科学、人文、思想。
订阅Newsletter

我们会定期将电子期刊发送到您的邮箱

GO