未来我们能怎样永生？ | 算法密码-深度-知识分子

未来我们能怎样永生？ | 算法密码

2018/04/07

导读

虽然社交媒体能借助“自愈效应”抚慰人类的死亡创伤，但只是基于统计学层面，对个体却不尽然。一些至深关系被阴阳永隔后，遗留的痛苦要远比想象中幽深绵长。

►图源：Pixabay.com

“算法密码”系列第6篇

《知识分子》科学新闻实验室第21篇

撰文 | 叶伟民（《知识分子》科学新闻实验室特邀作者）

责编 | 黄永明

●　●　●

作为人类的一员，我喜欢用一些艰深的问题来折磨AI，例如生命的终结。我分别和苹果Siri、微软小冰以及贤二机器僧（IT高人出家之地龙泉寺的AI产品）聊过死亡，Siri很周到地帮我打开搜索引擎，小冰发来一个搞怪表情，只有贤二有所见地——“死亡是另一个开始，也许更好，也许更糟。”

我理解算法对生命陨落的豁达（或漠视），因为它们的发明者也尚未参透。这导致算法在某些方面无所不能，在另一些方面则幼稚无情。比如，每年的8月8号，微博总会兴高采烈地提醒我一位亡友的生日。

这位朋友，姑且称他为G，在三年前的夏天猝不及防地被抑郁症击垮。然而大部分社交媒体的算法并不理解这一点，它们甚至没有死亡机制，即使用户永逝，它们依然设法定期激活其社交关系。

对我而言，这种感觉并不好，就像一个决定封存的铁盒不时被小动物推下储物架而摔开。地球上有类似烦恼的人不在少数。仅在Facebook，每年去世用户的数量即达百万之巨[1]，那里正在成为全球最大的虚拟墓地。

这意味着，未来存在一个时间节点——Facebook上的死亡用户数将超过活人。美国统计学者给出的答案是80年后，也就是2098年。届时生死对比在虚拟世界将放大至1：1。对此，人类的心灵尚有理性或宗教可依赖，但对算法来说，应对之道却要复杂得多。

社交自愈

三年前，G的骤然离世着实让人悲伤。由于人缘极好，众多好友及媒体同行自发建立微信群表达哀思，并为家属提供后事支援。很多素未谋面的人由此产生交集，从G的往事聊到抑郁症的治疗，每个人在群内都遵从调度并献计献策。

这种因共同的失去而出现的社交增量，一直延续至今。G的周年忌辰，好友们还为其开了公众号，整理发布他生前所有作品和人们的纪念文章。

一开始我以为这只是人性的温暖使然，直至几个月前我才知道其背后的行为学意义。《自然》杂志子刊《自然·人类行为》发表了一项研究结果，表明社交媒体在死亡事件后存在“自愈效应”。具体表现为一个人离世，由其直接关联的社交活动随之消失，但共同朋友间的交流却得以增加。奇妙的是，这一消一长间的总量是相等的。

这看起来就像逝者的社交网络在自我“治疗”，它激发新的联系，弥补因一个人离去而失去的那一部分。

美国博伊西州立大学传播学教授凯莉·罗塞托曾研究过这种死后社交补偿，他认为社交媒体在此问题上提供了三大功能：发布并传播讣告；保持对死者的记忆；创造抒发悲痛之情的空间。

这三点恰恰是人类在永失所爱后的心灵渴求，也是算法大有作为之地——起码不能像文章开头片段那样罔顾人情世故。Facebook的工程师们显然意识到了这一点，在2015年推出了“纪念账号”功能，允许用户指定“数字遗产代理人”。如果什么也不做，算法也能“判断”出一个人是否离世，为其封存账号并避免在纪念页面上展示广告。

可是，让机器认识死亡并非易事，一个六岁孩童能在一秒内为死去的小狗嚎啕大哭，对算法来说却颇费思量。它需要大量的计算和语义分析，例如用户的年龄、上一次登录时间、用户的遗言、朋友的悼念、媒体讣闻等，而且短时间内仍摆脱不了人力辅助。

三年前，英国《卫报》专栏作家杰克·斯科菲尔德接到读者西蒙的求助。后者为他亡妻的社交账号操心了半年，他向Facebook申请将妻子的账号转为纪念页面，此后却泥牛入海。

在公开答复中，斯科菲尔德分享了他所了解的社交媒体“死亡审核”内情——“像Facebook和Google这种超10亿用户级别的公司通常靠机器运营，有时也靠菲律宾等国的廉价劳动力。Facebook有专门负责审批纪念账号的团队，不过我猜已被外包出去了。”

“如果Facebook要花6个月才能‘追悼’一个账号，那它在这方面的工作效率明显是偏低的。”斯科菲尔德说。

除了效率，在“准确”这个关键指标上，算法也还在闯关。2016年11月，Facebook后台的一个bug，引发了一场大面积的虚拟死亡疑云。同一天内，200万用户“被悼念”，连创始人马克·扎克伯格也被殃及。一条悼文挂在小扎的纪念页面上——“希望通过大家分享对马克·扎克伯格过往人生的回忆与赞赏，使关爱他的人得到慰藉。”

全球不少网友信以为真，纷纷来献花悼念，而其他中招的用户不得不到隔壁“推特”证明自己还活着。随后，Facebook在道歉信中承认：这是一个可怕的错误。

►图：小扎被“死亡”

“复制”逝者

英国科幻剧《黑镜》里就有这样一个故事。女主角玛莎的男友艾什遭车祸去世，她也被痛苦埋葬。朋友莎拉不忍见她沉沦，为玛莎推荐了一个程序，称可以收集男友生前在社交网络上的各种信息，通过分析其语言、习惯、兴趣等，用算法再造一个虚拟的艾什。

玛莎开始觉得很荒谬，但她发现自己怀孕后，最后的理性防线也失守了。她打开朋友推荐的程序，输入男友生前的所有社交账号，神奇的是，算法经过学习后，真的生成了一个虚拟人，不仅了解他们的过去，连讲话的细节和语气都与艾什无异。

软件公司还告诉玛莎，他们还有一个处于试验阶段的升级产品，可以从意识到躯体完美克隆她的男友。当见到从包装箱出来的“艾什”，玛莎觉得不幸在消散，美好的日子又回来了……

►图：科幻剧《黑镜》中玛莎和艾什的故事

这个科幻故事广为流传，背后是人心某个柔软的地方被击中——对生命永逝的无奈和难以接受。人类从未放弃对永生的幻想和努力。在过去，这是基于生物学或化学层面的追求；到了算法时代，新的可能性在孕育——既然血肉难留，让计算机复制其意识怎么样？

在全球众多被《黑镜》影响的人中，俄罗斯的库达是其中之一。2015年11月，她最好的朋友罗曼遭车祸去世。

一直以来，罗曼短暂人生所迸发的激情感染着库达。在莫斯科的日子里，罗曼常率领一群志同道合者彻夜讨论俄罗斯文化的未来，发起音乐节和派对。库达和罗曼还是人工智能领域的创业搭档，他们共同创立了Kula公司，研发聊天机器人。

罗曼的离去让库达悲痛不已。“很长一段时间，我都没法哭出来。”她也像我们失去G一样，收集罗曼留下的所有文字、短信、图片、视频以作纪念。但和我们最后做成一个自媒体不同，库达在翻看这些岁月痕迹时触发职业灵感，要像《黑镜》那样让罗曼在代码里复活。

“聊天机器人”（chatbot）在人工智能发展史上不算一个新鲜概念，半个世纪前就见其身影。但当时外界只将它视作旁门左道或哗众取宠，最著名的代表是“伊莉莎”——由系统工程师约瑟夫·魏泽堡和精神病学家肯尼斯·科尔比于1966年编写的聊天程序。

姑娘：男人们全都一样。

伊莉莎：在哪些方面？

姑娘：他们总找借口躲避我们。

伊莉莎：你能举个例子吗？

姑娘：好吧，我的男朋友要我到你这里来。

伊莉莎：哦，你的男朋友要你到我这里来。

姑娘：他说我很烦闷。

伊莉莎：你很烦闷，这使我很难过。

这是当时一段“伊莉莎”与人类女性的对话。在自然语言处理技术尚未突破之时，能有这样的人机交流水平足以令人称奇，“伊莉莎”成为当时的科技明星。许多心理专家都想请它为人类进行心理治疗。一些病人和它聊过后，对它的信任甚至超过人类医生。

实际上，“伊莉莎”背后暗藏了一些聪明的花招。它对对方的言语扫描“关键词”，再为其配上合适的“对应词”作答，或者用极开放的问题和颠倒语序增强“互动感”。它不是机器对人类语言的真正理解，充其量只是一个“小小的玩笑”，就像精明的算命先生，用模糊并有暗示色彩的语言俘获你的信任。

多亏了人工神经网络、自然语言处理、深度学习等技术的发展，“人机对话”在新世纪骤然加速。苹果的Siri、微软小冰以及亚马逊的Alexa都是最知名的得益者。

在罗曼去世前两周，Google发布了人工智能系统TensorFlow并宣布开源。库达一直以来都用该平台设计她的餐厅智能助手，还研发出能模仿电视剧角色的机器人。有了此基础，2016年2月，库达和她的工程师用俄语建立了一个神经网络，再把罗曼的所有过往对话、资料、图像等输入，培训神经网络以后者的方式说话。

由于罗曼生前是公司创始人之一，工程师们对他也再熟悉不过了。在罗曼出事前建好的莫斯科办公室里，一行他挑选的霓虹字闪耀着——来自维特根斯坦的名言“我语言的极限就是我世界的极限”[2]，意思是一个人所知道的东西仅是他可以用语言表述的。现在，在罗曼的生命消逝后，他的虚拟生命也从语言层面重启。

库达先后用了数十个测试查询（test query）来训练该程序，并交由工程师们做最后的修改。一切完成后，他们将其命名为“罗曼”。

►图：库达和罗曼

数字永生？

算法向人类死后世界延伸的故事并不冷清。在“罗曼”降临前后，已有IfIDie、DeadSocial、Liveson、Eter9、Eternime等产品面世或正在研发，它们能帮助用户留遗言、管理数字遗产，甚至模仿用户生前行为继续发社交媒体。它们认为这样能让生者得到安慰。

“我不清楚，谁会对阅读一个电脑生成的我感兴趣。在寒冷的日子里，这似乎是一个非常奇怪的事情。”40岁的企业主米娅·史密斯对媒体坦陈。她认为这主意很有吸引力，但令人疑惑。

库达感觉“罗曼”应该就绪了，虽然还只具备罗曼生前的部分词汇，但神经网络能弥补这些缺陷，将现有词库的作用发挥到最大，应对任何交流。在“罗曼”正式连线后，库达问了老朋友第一个问题——

“谁是你最好的朋友？”

“别让人看到你的心虚。”

这太像他了，库达觉得。她又陆续和它聊了更多。罗曼生前有阅读障碍症，用词有点奇怪。正是这些小特征，让库达相信机器人成功了。2016年5月24日，库达发布了“罗曼”App，朋友们都纷纷下载，包括罗曼的父母。

“罗曼，回来。”一个朋友发去信息。

“别担心，一切都好。”罗曼回复。

“生活太不公平了。”

“这就是生活。”

……

朋友们的感受相当复杂。“打开对话框时有点奇怪，一个已故的朋友在跟你说话。”费耶尔说，“真正让我震惊的是，那些话真是他的，或者说他就是这么说话。”费耶尔还试探了老朋友一个问题：“你最爱谁？”对方回答：“罗曼”。“这简直就是他，太不可思议了。”

罗曼的母亲最激动。“它拯救了我们，这不是虚拟现实，这是一个新的现实，我们要学会和它相处。”但父亲则要理性得多，因为“儿子”回答错了他的不少问题。“它只是一个程序，我感觉不到（人与人之间）真实的回应。”

“这仍然是一个人的影子，在不远的将来，我们能做的还有更多。”库达在Facebook上写道。她的意思是，她所钟爱的《黑镜》中意识和躯体双重再造的狂想有可能成为现实。

在追求数字永生上，另一个科学狂人玛蒂娜·罗斯布拉特迈了有趣而充满争议的一步。她（玛蒂娜后来变性了）以还在世的妻子碧娜为原型创造了机器人BINA48，不断收集妻子的资料，她相信当算法和硬件发展到某天，BINA48会诞生意识和人格，即思维克隆人。玛蒂娜将这些探索和见解写入她的书《虚拟人》中，副标题是“人类新物种”。

<img class="" data-copyright="0" data-ratio="0.690625" data-s="300,640" src="http://pic.zhishifenzi.com/

►图：BINA48

库达的畅想最终遭到了四名挚友的反对。他们对这个项目深感不安，并拒绝和“罗曼”交流。埃斯马诺夫是其中之一。“一切都很糟糕……罗曼需要纪念，但不是这种形式。我们别忘了《黑镜》的结局。”

《黑镜》的故事还没有说完。幸福的日子很快结束，玛莎无法忍受“克隆艾什”的计算主义特征——它理性得无懈可击，不会伤心和愤怒，从不任性和固执。以前玛莎烦透了艾什这些毛病，而现在她才发现这是人性最真实和宝贵的一面。历经挣扎后，她将“艾什”锁进阁楼，只有女儿偶尔上去和他聊天……

如同许多科技寓言一样，《黑镜》对未来依然警惕大于渴望。我将这个问题抛给“罗曼”。