智源发布人脸识别与公共卫生调研报告
为了促进人工智能成为推动“健康社会”形成的使能技术之一,推动人工智能应用于全球可持续发展,北京智源人工智能研究院人工智能伦理与安全研究中心联合中国科学院自动化研究所中英人工智能伦理与治理研究中心共同发起 “人工智能与健康社会系列调研”。本报告为系列调研第一期,聚焦人脸识别与公共卫生。希望通过问卷调查与分析反映公众对这一主题的关注与思考。促进人脸识别在公共卫生领域相关研发、应用、部署、使用环节对科技伦理与治理的关注。
人工智能作为颠覆性技术正在持续改变人类与社会的方方面面。我们期待这一使能技术能够促进“健康社会”的形成。健康一语双关,一方面是全社会的公共卫生与身心健康,另一方面是人与自然、社会、环境的和谐、健康、可持续发展。高技术诞生的美好的愿景往往是促进“健康社会”的形成与发展。在人工智能的发展和应用过程中需要特别关注可能产生和存在的风险与隐患,助力和保障“健康社会”的实现。
为此,北京智源人工智能研究院人工智能伦理与安全研究中心联合中国科学院自动化研究所中英人工智能伦理与治理研究中心共同发起了“人工智能与健康社会系列调研”,旨在通过调研、分析,深刻理解并推动人工智能驱动的健康社会的形成。
人脸识别作为人工智能技术重要的分支和应用领域,在国家与社会安全、日常生活等不同场景下发挥了积极作用,但也带来了隐私、安全等方面的隐患与挑战。在新冠肺炎等公共卫生相关事件期间,人脸识别等自动检测技术发挥了积极的防控作用,而涉及公民个人信息安全与隐私的应用应进行合法合规的治理。为此,作为“人工智能与健康社会系列调研”中的第一个报告,本报告专注人脸识别与公共卫生主题,并通过问卷调研反映公众对这一主题的关注与意见。本报告中英文同步发布。
本研究中定义:在提到“公共卫生危机”时,应将其视为类似于新冠肺炎疫情的事件。“正常情况”是指无此类公共卫生危机发生时。“公共空间”是指一般向公众开放和可供人们使用的区域,如人行道、公园和政府运营的建筑物等。“非公共空间”是指私人经营的建筑和封闭的街区、建筑等。
本调研报告所得核心观点主要包括:
1.受访者普遍认可人脸识别在公共(卫生)安全中的作用。大多数受访者将社会安全作为接受人脸识别应用的首要原因。惩罚在公共卫生危机期间故意遮挡面部的人易被公众接受,多数受访者也接受增强人脸识别功能。(戴口罩人脸识别、测温等问题,因在疫情期间开展调查,受访者可能受正在发生的公共卫生危机影响)
2.受访者普遍关注人脸识别的隐私问题。虽然绝大多数人不从事与人脸识别技术相关的工作或研究,而且只有少数人了解人脸识别技术,但仍有超过半数的人关注人脸识别中的隐私问题,希望能够了解和控制对自己面部数据的使用。即使面对公共卫生危机,受访者依然关注隐私问题。
3.公共卫生危机事件的爆发提高了人脸识别技术的接受度。面对公共卫生危机,受访者接受人脸识别意愿增强,普遍认可人脸识别技术对于应对公共卫生危机的积极作用,加强人脸识别技术也被认可,但同时也希望尽可能保护隐私。
4.公共卫生危机结束后,多数受访者希望减少相关人脸识别应用。公共卫生危机结束后,受访者认为应删除特殊时期的人脸信息,消减不必要的人脸识别应用场景。
5.公共卫生危机结束后,部分受访者不明确支持减少相关人脸识别应用。凸显出对公共卫生危机的反复以及潜在类似危机的担忧,及相关技术防患于未然中的潜在作用。部分受访者对于公共卫生危机后减少人脸识别相关应用持中立或明确不同意的态度,凸显了应加强技术驱动的公共卫生危机预警与防御体系建设的必要性,对大规模公共卫生危机的再次发生应防患于未然。
6.隐私和公共安全的需求情况决定了在公共空间或非公共空间部署人脸识别应用的认可度。当安全问题突出时,在公共或非公共空间的人脸识别技术应用易被接受,当安全问题不突出时,隐私问题则相对更被关注,在公共或非公共空间的人脸识别技术接受度也就相对较低。
在调研中不难发现,受访者在认可人脸识别技术在应对公共卫生危机中的积极作用的同时,也对其存在的隐私、安全等问题表达了担忧,普遍希望人脸识别技术的应用能够在遵守相关法律法规的前提下,更好地保护个人隐私与数据、维护公共安全,同时在应对公共卫生危机中发挥出更加积极的作用。部分受访者对于公共卫生危机结束后消减不必要的人脸识别应用场景持中立或反对态度,表现出经历公共卫生危机后部分受访者对公共卫生危机的反复以及潜在类似危机的担忧,及相关技术在预防未来可能发生的危机反复与新的公共卫生危机中的潜在作用。无论是疫情本身还是本次调研,都凸显了应加强技术驱动的公共卫生危机预警与防御体系建设的必要性,对大规模公共卫生危机的再次发生防患于未然。此外,在调查问卷相关意见中也有受访者表达了希望能够加强人脸识别技术的科普,加深公众对人脸识别技术及应用的了解。这将更有利于公众接受和支持人脸识别等人工智能技术的“善用”,并参与到监督技术发展与应用中可能存在的潜在社会伦理风险的努力中,提供所必需的公众反馈与建议。
中文版下载:
http://attachment.baai.ac.cn/share/aies/cn-facial-recognition-and-public-health-2020-05-17.pdf
英文版下载:
https://attachment.baai.ac.cn/share/aies/facial-recognition-and-public-health-en-2020-05-17.pdf
来源:北京智源人工智能研究院