|
Meta Platforms Inc. 推出了新工具，当青少年面临自杀或自残风险时，向加拿大父母和急救人员发出警报，但专家表示，这些工具并非万无一失。 新措施于周四在加拿大、美国、英国和澳大利亚推出，如果孩子正在与聊天机器人 Meta AI 讨论自杀或自残问题，则使用 Instagram 监督工具通知家长。 当成年人和青少年与 Meta AI 进行的对话表明他们可能面临自杀风险时，这家科技巨头还正在建立一种联系紧急服务的方式。 这些功能是在几起备受瞩目的儿童研究自残事件之后发布的，在某些情况下，儿童通过基于人工智能的聊天机器人被诱导自杀。 虽然专家们对 Meta 在加拿大立法为社交媒体和人工智能聊天机器人制定安全要求之前采取措施保护儿童表示赞赏，但他们表示 Meta 措施的有效性可能有限。 这是因为并非每个家长都会使用 Instagram 监督工具来发出自杀和自残警报，而且孩子们很容易找到解决方法。 西方大学社会学教授兼加拿大不平等和性别问题研究主席凯特林·门德斯 (Kaitlynn Mendes) 表示，由于 Meta 默认情况下不提供保护，因此它给人的感觉是“洗心革面”。 “这就像看看我们为这些账户所做的所有伟大的事情，但这些事情可能不会在实践中使用，”她说。 即使这些账户被使用并且可以标记自残风险，她怀疑一些用户会很聪明地逃避检测。例如，他们可能会说这是一个正在考虑自残的虚构人物，而不是他们自己。 “如果人们真的对寻找自残或大规模暴力的方法感兴趣，他们可能会坚持不懈，”她推理道。 布鲁克大学儿童和青少年研究教授肖娜·波梅兰茨（Shauna Pomerantz）对此表示同意。 她说，事实证明，当孩子们的在线活动受到限制时，他们尤其会变得狡猾。 “年轻人非常擅长找出可以使用的词语，而不会绊倒电线，我认为这将成为系统中的漏洞或缺陷，”她说。 “因此，虽然我确实认为这是朝着正确方向迈出的一步，但我也认为 Meta 和家长必须务实、了解和诚实地对待年轻人规避对其在线活动进行任何形式监视的能力。” 梅塔承认，新措施并不完美。与聊天机器人的对话如果转向令人痛苦的内容，将会被人工智能标记，然后进行手动审查并发出警报。 Meta 的网站称：“如果青少年的意图不明确，我们会谨慎行事，并提醒家长。” “虽然这意味着我们有时可能会在没有真正担心的情况下通知家长，但我们认为这是正确的起点，我们将继续监控以帮助确保我们处于正确的位置。” 这些新措施建立在 Meta 近年来采取的其他几项措施的基础上。 例如，Meta AI 经过训练，不会与青少年进行性或浪漫对话，也不会提供酒精饮料的配方。 此前，该公司还开始向紧急服务部门举报暗示自杀风险的 Facebook 和 Instagram 帖子。 Meta 表示，仅去年一年，它就根据该计划进行了 19,000 次转介，进行了多次健康检查。 继 Meta 周四发布公告后，ChatGPT 背后的公司也透露，将致力于更好地保护上网儿童，并提醒那些长时间使用人工智能聊天机器人的人暂时远离该技术。 OpenAI 表示，它将检测 18 岁以下的用户，并自动减少他们接触暴力画面、自残、危险的病毒挑战、不健康的身体形象内容以及危险、浪漫或性角色扮演的机会。 门德斯质疑这种做法。 “为什么它会减少暴露，为什么不从一开始就阻止这些东西的存在呢？”她说。 ——— 如果您或您认识的人正在考虑自杀，可以拨打加拿大国家自杀预防热线 988 或发短信，全天候 24/7 获得支持。 保持事实 将 CityNews Toronto 添加为 Google 上的可信来源，以查看我们提供的更多本地故事。 |
