智能与人工的接力:他们为何一年可阻止上千次自杀?-资讯-知识分子

智能与人工的接力:他们为何一年可阻止上千次自杀?

2019/11/12
导读
人工智能与人类的精神健康有何关联?

人工智能与人类的精神健康有何关联,图片来自tickithealth.com


撰写 | 汤佩兰
责编 | 叶水送
 
  


“我们这一年救了很多人,发现所有的自杀都是深谋远虑的结果,几乎没有冲动性。实际上他内心已经绝望,他考虑的是死亡。这种自杀已经考虑很长时间,尽管表面上看来看起来很正常,实际上内心很痛苦。”


这是荷兰阿姆斯特丹自由大学人工智能系终身教授黄智生关于“人工智能与精神健康”演讲的内容。
 
作为一名研究人工智能三十多年的科学家,如今他将大量的时间花在一项救人事业——挽救微博上试图自杀的网友。这两者是如何产生联系的呢?
 
“树洞机器人”如何判断抑郁症
 
从2015年起,计算机和逻辑学出身的黄智生跟北京安定医院展开合作,做抑郁症相关的研究,但以基础性研究和发表论文形式为主。
 
2018年4月,黄智生了解到一个名为“走饭”的微博和“树洞”的概念,账号的更新停留在2012年3月18日,最后的内容是“我有抑郁症,所以就去死一死,没什么重要的原因,大家不必在意我的离开。拜拜啦。”
 
这条信息是通过微博的时光机定时发送的,“走饭”账号背后的年轻女生已经在3月17日的凌晨自杀身亡。即便在瞬息万变的互联网环境里,“走饭”的离世也不止一次被网友记起,很多人会在她的微博下留言倾吐自己的心事。如今,该微博下的留言超过100万条,转发达10.7万次。
 
抑郁症已是一个日益严重的公共卫生问题,需要予以更多的关注,图片来自psychologytoday.com
 
所谓“树洞”,传说古时候的人会把自己的秘密告诉树洞以吐露衷肠,而有自杀死亡倾向的抑郁症患者,微博就好像是那些吐露情绪和愿望的“树洞”,这为采用人工智能及其大数据技术对网络媒体做分析并提供自杀救助提供了可能性。
 
在新浪微博上,已有成千上万个“树洞”,也就是有几万个年轻人离开了。而黄智生和志愿者发起的“树洞行动”,就是要实现机器人或者智能算法去巡视社交账号中的“树洞”,然后通过对这些“树洞”曾发过的各种信息进行分析,从而解读这个人可能是谁,最后寻找他身边的亲人和好友进行预警,从而来阻止自杀。因此,黄智生将开发的网络智能机器人命名为“树洞机器人”。说起来容易,要让计算机识别并理解人类的烦心事却并非易事。
 
据黄智生介绍,人工智能由两个方向组成:深度学习和知识图谱。简单而言,深度学习是从大量的经验数据中获取一般性的结论,即归纳推理;而知识图谱则是在已经拥有复杂知识的基础上,分析判断能够获取新的数据,即演绎推理。在他看来,知识跟数据是两回事,更重要的是知识,区别在于其具备推理逻辑特征,可以进行深入的语义分析。
 
那么,如何让计算机判断一个人试图自杀、需要介入救助呢?每个人的表达都不一样。黄智生查阅国内外自杀手册,发现里面有各种各样的自杀方式分类,从中提取自杀方式和自杀计划相关概念存入“树洞”知识图谱。除此之外,“树洞”知识图谱还覆盖痛苦表达、时间描述、地点描述等相关概念的描述。其中有两条基本要领:越紧迫越危险、越具体越危险(主要指时间越临近、自杀方式越具体越需要尽快介入进行救援)。由此自杀风险分级标准也得以明确,按照风险层级从低到高,分为十级,六级(含)以上须每日通报。
 
自杀风险分级标准,图源中国数字医学
 
2018年7月,树洞机器人001号正式上线,主要监控微博上的特定“树洞”,每天晚上九点左右,黄智生会将机器人发现的高风险自杀人群“树洞”监控通报发在群里,然后由志愿者组成的树洞救援小组,一起讨论并采取自杀救助行动,联系其亲友来阻止自杀,或者直接通过私信联系,进行心理疏导并建立稳定交流。
 
人工智能≠机器全能,光靠算法不行
 
黄智生经常会想起第一次救援行动,那是树洞机器人还在研发的阶段。2018年4月28号,黄智生在武汉科技大学的一名研究生发现有网友在微博上发了一句话:5月1号我想烧炭自杀。当时他们立刻发动整个团队试图去解读她的信息,其中一条写着“从来没有人真心爱过我,也没有人给我送过花……”。大家意识到原来女生在感情上受了挫折,于是他们与她交朋友建立联系,另一方面通过多方联系找到了女生所在大学的地址,自发捐款打算给女孩送花,委托学校每个星期送她一束花,而且不透露送花的人是谁。
 
所有人都盼望着女孩能够感受到还有人在关心她、祝福她,希望她的生命能在等待下一次送花过程中延长,慢慢走出来。然而6月17日晚上七点多,她在微博上发出“拜拜”,随后自杀身亡。
 
这给包括黄智生在内的救援者带来了极大的心理冲击,此前许多迹象都表明女孩的状态已经一天天变好,为何结局还是如此。事后,他们反思当初每个人与女孩的单独沟通或许不是最佳办法。如果能有一个救援小组,大家互通信息、相互讨论那些对话,很可能就拆解出女孩没有说出口的心事。这次事件留下的警示不止于此,他们还总结面对很可能患有严重抑郁症的人,一定要鼓励和动员其家人送去进行专业治疗。
 
巧合的是,一位三甲医院的医生在听完黄智生的报告后发出好奇,“您觉得人工智能能不能够代替医生?”这位医生表示。
 
“目前为止,不应该把这个作为主要任务。(人工智能)是应该让医生能力更强,而不是代替医生。”黄智生表示,医生做不到的事人工智能更做不到,人工智能实际上是把医生能够清楚地知道怎么做,有固定法则来处理的情况下完成算法。
 
如今,树洞机器人已经更新到006号,跟此前最大的不同的是,从006号开始黄智生设定每隔四个小时让系统自动运行一次,一天六次,避免先前每天一次间隔时间过长错过救援时间。从数据抓取、汇总、分析再到监控通报生成后,都是自动发送到黄的电子邮箱,整个过程不到四分钟。经测算,该系统对自杀风险判别的准确率平均达到82%。
 
黄智生告诉《知识分子》,这套系统从单个环节来说都不难,但要把整个链条从头做到尾,由于很多问题没有现成的答案,就不容易。
 
“救一个人,等于救一个家庭”
 
黄智生团队面临的困难并非是如何提高自杀风险判别的准确率,因为是否进行救援行动,还会由树洞救援团成员进行人工判断。目前每天发布的监控通报基本上有十个人在六级以上,但限于人力并非都能救助。随着志愿人员的不断加入,每天能救下的人从三个增加到五个。
 
这期间,树洞救援团内部对于自身的边界和定位也有讨论,在《知识分子》参加的线下正式工作会议上,就有团队成员提出疑问:如果树洞救援的定位是通过帮助那些有自杀风险的人,在将他们的风险暂时消除之后,是否还要长期追踪和陪伴。
 
对此,黄智生认为只要有需要就继续陪伴,尤其不能在将孩子情况告知后家长就放手。接触了几百个案例的黄智生意识到,靠家长救不了孩子,大多数家长没有感受到孩子情况的严重性。
 
在兼职心理咨询师也是志愿者嘉仪看来,“树洞救援不同于一般的危机干预,它是爱心的危机救援。”并进一步解释,对自杀危机干预而言,当时救下来就结束了,但树洞救援在于救完人之后还有后期的疏导和陪伴。而陪伴的时间长短,需要由被救援者的情况和志愿者共同决定。
 
虽然黄智生和志愿者没有从中获得物质回报,但外界的质疑声却没有因为救人而自动消弭,其中就有关于隐私保护的问题。“拯救生命是最高的伦理”,黄智生回应到,他们也有明文约定的界限,只对已经在采取自杀行动的高自杀风险的人采取救援行动;对于没有直接生命危险的人,充分保护他们的个人隐私,尽最大程度的去帮助他,让他们的生活不受干扰。
 
2018年7月底到2019年9月底,树洞救援团已经对2851人发送了关心信息,阻止超过1094次自杀,拯救了数以百计的生命,背后连接的是十数倍的人群避免了他们的痛苦。美国疾病控制与预防中心称自杀是一个日益严重的公共卫生问题。当人们死于自杀时,他们的家人和朋友会感到震惊、愤怒和沮丧,同时也会对社会造成巨大的经济损失 [2]
 
目前,树洞救援团已经超过400人,成员主要分布在中国和欧洲。其中精神健康跟心理学专家接近60人,心理咨询师80多人,以及来自各行各业的志愿者。对于非专业的志愿者,每周二晚上会通过专家线上授课的形式进行专业化培训,普及网络救援的基础知识。
 
为了让救人行动更加可持续,黄智生表达过希望成立康复基地的想法,帮助轻生或者患有抑郁症的人们在里面接受专业化的康复训练,同时培养他将来回归社会的基本生活技能。
 
正如上述提到,现在的心理疏导还完全依靠人,人力投入很大。因此,黄智生下一步的目标是开发聊天机器人,来完成一些常规的问题和基本情况代替部分人力工作。
 
“这就是你最本职的工作”
 
以往参加国际人工智能会议的时候,黄智生偶尔会幽默地介绍自己的名字——“智生”,意为制造智慧,也就是“人工智能”(Intelligence-making)
 
树洞救援行动发起后,迅速得到诸多媒体的关注,许多救援中发生的故事也被随之报道。而最初提出构想到落地,始终将拯救生命作为最根本信条的人工智能专家黄智生却很少主动提起自己的故事。
 
人工智能专家黄智生
 
从大学起,黄智生就开始学习计算机专业,在三十多年前,“那个时候中国的人工智能也非常热烈,所有搞计算机的人都说他是搞人工智能的。”黄智生回忆道。
 
当时黄智生获得了一个去荷兰的国家公派机会,前往逻辑学世界排名第一的阿姆斯特丹大学,它有“世界的逻辑圣地”之称。今天所说的“知识图谱”其核心就是逻辑和推理。

2004年,黄智生跟同事开始投入具体的应用系统,考虑怎么运用语义方法来提高企业信息化和智能化程度。后来开始接触人工智能跟医学的跨界,他主持了欧盟第七框架重大项目语义技术方面的工作,如果没有欧盟第七项目过程中跟中国团队的合作,可能也不会有后来的跟北京安定医院的联系,乃至后来几百条被救下的生命。
 
2019年8月,荷兰媒体报道了黄智生的树洞救援行动,阿姆斯特丹大学的同事知道了这件事并祝贺他做了一件有意义的事。黄智生也跑去问一位欧洲科学院院士,“您会不会觉得我偏离了本职工作?”黄智生问。
 
对方的回答是,“没有,你让你的知识服务于社会,这就是你最本职的工作。”

参考资料
[1]https://www.who.int/zh/news-room/detail/09-09-2019-suicide-one-person-dies-every-40-seconds
[2]https://www.cdc.gov/violenceprevention/suicide/fastfact.html
[3]黄智生,胡青,顾进广,杨洁,冯媛,王刚,网络智能机器人与自杀监控预警,中国数字医学. 2019 年第 3 期
 
制版编辑 | 皮皮鱼
参与讨论
0 条评论
评论
暂无评论内容
订阅Newsletter

我们会定期将电子期刊发送到您的邮箱

GO