近日,由纽约大学、谷歌、微软等组织与机构的公共政策研究者组成的研究组织 AI Now 发布了其第二份人工智能年度研究报告。这份报告是 AI Now 人工智能研讨会的一部分,该研讨会邀请了近百名相关领域内的研究人员,讨论人工智能对社会经济的影响。报告指出,刑事司法、医疗、福利和教育等高风险领域内的核心公共机构不应再使用具有“黑箱“”特性的 AI 技术及算法系统。
这里所谓的“黑箱”特性的 AI 技术及算法系统主要是指深入学习系统(Deep Learning),这是一个在Google、Facebook、Microsoft和Amazon等科技巨头之间流行的AI研究的子领域,它通过汇集数百万次的微小的计算来做出单一决策,例如在图像中识别一张人脸。
例如在刑事司法中,非盈利媒体 ProPublica 的调查小组发现,法庭和执法部门用于预测刑事被告再犯的算法,可能对非裔美国人存在一定的偏见。这一现象随后被许多学者证实。在医疗保健领域,匹兹堡大学医学中心的研究发现,一种用于治疗肺炎患者的 AI 系统,缺失了一项对严重并发症的风险评估。在教育领域,美国得克萨斯州的评教算法系统被暴露出存在严重的缺陷,教师们也在与该系统对抗的诉讼中成功胜出--法官认定这些无法被解释的算法系统侵犯了美国宪法第十四修正案赋予美国公民程序正义的权力。