|
加拿大边境服务局计划推出一款应用程序，使用面部识别技术来追踪那些被勒令驱逐出境的人员。
图片来自网络 该移动报告应用程序将使用生物识别技术来确认一个人的身份，并在人们使用该应用程序签到时记录他们的位置数据。通过信息访问获得的文件表明，CBSA 早在 2021 年就提出了这样一款应用程序。一位发言人证实，一款名为 ReportIn 的应用程序将于今年秋季推出。加拿大边境服务局在后续评论中表示，这款应用程序还可用于永久居民和接受入境听证会的外国人。专家们提出了许多担忧，质疑用户同意的有效性以及该技术如何做出决策的潜在保密性。2021 年的一份文件指出，每年约有 2,000 名被勒令离境的人未能出现，这意味着 CBSA「必须花费大量资源调查、定位甚至在某些情况下拘留这些客户」。该机构将智能手机应用程序誉为「理想的解决方案」。通过该应用程序定期更新一个人的「居住地址、就业情况、家庭状况等信息，将使加拿大边境服务局能够掌握相关信息，用于联系和监控客户，以发现任何不合规的早期迹象」，它表示。
「此外，考虑到自动化，客户更有可能感受到参与，并会认识到 CBSA 对其案件的了解程度。」此外，该文件还指出：「如果客户未能出面接受驱逐，通过该应用程序收集的信息将为找到客户提供良好的调查线索。」该项目的算法影响评估（尚未在联邦政府网站上发布）称，CBSA 尝试使用的生物识别语音技术由于「技术失败」而被逐步淘汰，并开发了 ReportIn 应用程序来取代它。报告称，一个人的「面部生物特征和位置（由传感器和/或移动设备/智能手机中的 GPS 提供）」通过 ReportIn 应用程序记录，然后发送到 CBSA 的后端系统。一旦人们提交照片，「面部比较算法」就会生成与参考照片的相似度分数。如果系统未确认面部匹配，就会触发警员对案件进行调查的程序。该文件称：「每次举报或不遵守条件时，也会收集个人位置信息。」该文件指出，个人不会「被持续跟踪」。该应用程序使用亚马逊网络服务的技术。这一选择引起了麦克马斯特大学数字社会公共政策项目高管教育主任布伦达·麦克菲尔的注意。她说，虽然许多人脸识别公司都向美国国家标准与技术研究所提交他们的算法进行测试，但亚马逊从未自愿这样做。亚马逊网络服务发言人表示，其 Amazon Rekognition 技术「经过了广泛测试，包括由专门从事负责任人工智能的公司 Credo AI 和 iBeta 质量保证等第三方测试」。该发言人补充说，Amazon Rekognition 是一个「大规模基于云的系统，因此无法像 NIST 参与指南中所述下载」。该发言人表示：「这就是为什么我们将 Rekognition Face Liveness 提交给 iBeta Lab 进行行业标准测试的原因」，该实验室是经该研究所认可的独立测试实验室。CBSA 文件称，所使用的算法将是商业机密。在可能带来改变人生后果的情况下，麦克菲尔问道，「使用受商业机密或专有机密保护的工具，剥夺人们了解关于他们的决定真正如何做出的权利」是否合适。温莎大学法律、机器人和社会学副教授兼系主任克里斯汀·托马森 (Kristen Thomasen) 表示，提及商业机密表明可能存在阻止有关该系统信息的法律障碍。她解释说，多年来人们一直担心，由于知识产权保护的原因，那些受到系统错误影响的人将被法律禁止获取更多信息。CBSA 发言人 Maria Ladouceur 表示，该机构「开发了这款智能手机应用程序，以便受移民执法条件约束的外国人和永久居民无需亲自前往 CBSA 办公室即可进行报到。」她表示，该机构「与隐私专员办公室密切协商”开发该应用程序。“注册 ReportIn 是自愿的，用户需要同意使用该应用程序，并使用他们的肖像来验证身份。」约克大学难民法实验室副主任佩特拉·莫尔纳 (Petra Molnar) 表示，实施该应用程序的机构与接收端的人们之间存在权力不平衡。「在权力差异巨大的情况下，人们真的能够真正地同意吗？」拉杜塞尔说，如果个人不同意参加，他们可以亲自报到。托马森还警告称，面部识别技术也存在出错的风险，而且对于有色人种和皮肤较黑的人来说，风险更高。莫尔纳表示，「文件中基本上没有讨论……人权影响，这非常令人不安。」CBSA 发言人表示，Credo AI 审查了该软件是否存在针对人口群体的偏见，发现在六个不同人口群体中的面部匹配率高达 99.9%，并补充说该应用程序「将在推出后不断进行测试，以评估准确性和性能」。最终决定将由人类做出，并由官员监督所有提交的内容，但专家指出，人类倾向于相信技术做出的判断。托马森表示，人们「普遍承认……一种心理倾向，即听从计算机系统的专业知识」，认为计算机系统偏见较少或更为准确。 Advertisements |
