|
警告：这个故事提到了自杀和自残。 Meta 推出了新工具，当青少年使用该公司的聊天机器人 Meta AI 谈论自杀或自残时，可以提醒父母。 如果青少年用户在 Meta 的任何平台上与 Meta AI 的对话中表现出危机迹象，在 Instagram 上为青少年设置监督功能的家长将在自己的设备上收到通知。 公司说 在周四的博客文章中。 Meta AI 可在所有 Meta 平台上访问，包括 Instagram、WhatsApp 和 Facebook Messenger，以及独立的 Meta.ai 网站。 新规则是 Meta 护栏的扩展。在此之前，当青少年表示他们正在考虑自残或自杀时，人工智能聊天机器人会将他们重定向到危机帮助热线，并鼓励他们联系父母或其他值得信赖的人。如果青少年 Instagram 用户反复使用该平台的常规搜索功能进行与自残和自杀相关的搜索，那么 已经触发 给家长的通知。 Instagram 和 Facebook 的母公司 Meta 表示，这项新功能已向加拿大、英国、美国和澳大利亚的用户开放。 公司 首先说 今年 2 月份，该公司正致力于为 Meta AI 添加标记功能。 Meta 还表示，它正在开发一种工具，当成年人和青少年与聊天机器人的对话表明他们可能会自杀时，可以联系紧急服务部门。 尽管他们对这项措施本身表示欢迎，但倡导者、专家和孩子们都表示还有更多工作要做。 安大略省伦敦的技术分析师卡米·利维 (Carmi Levy) 表示：“任何为青少年及其父母提供更好的工具以确保他们上网安全的公告，从本质上来说都是一件好事。” 观看 |当 Instagram 于 2024 年首次添加青少年账户时： Instagram 推出青少年账户 2024 年 9 月 17 日|持续时间 2:03Instagram 正在推出新的青少年帐户，增强了家长控制和隐私功能，但一些家长表示 Meta 仍需要采取更多措施来确保该平台对年轻用户安全。利维说，因为没有这样的工具是完美的，所以有时它可能不会标记孩子处于危险中的对话，或者可能会产生误报，在没有危险时提醒家长。 梅塔表示，一开始就会过于谨慎，即使青少年的意图模棱两可，也会通知家长。 该公司关于新工具的一份声明中写道：“虽然这意味着我们有时可能会在没有真正担心的情况下通知家长，但我们认为这是正确的起点，我们将继续监控以帮助确保我们处于正确的位置。” 利维说，家长应该记住，新措施只是一种可以帮助他们监控孩子在网上做什么的工具。 “家长们需要对这一切持保留态度。这比我们以前的情况要好，但还远未达到完美，”利维说。 观看 |澳大利亚针对儿童的社交媒体禁令有效吗？ 澳大利亚针对儿童的社交媒体禁令有效吗？加拿大是下一个吗？ 3 月 23 日 | 时长 9:42 在澳大利亚推出全球首个针对 16 岁以下用户的社交媒体禁令几个月后，CBC 的迪安娜·苏马纳克-约翰逊 (Deana Sumanac-Johnson) 前往澳大利亚与家长和孩子们讨论该禁令的运作方式，并审视全球（包括加拿大）实施类似法律的势头。此外，儿童第一加拿大组织（一个倡导改善儿童福祉的组织）的 17 岁青年倡导者汉娜·格罗弗 (Hanna Grover) 表示，孩子们总是有可能试图绕过该功能。 她认识一些同龄人，他们使用假生日来阻止 Meta 要求他们使用 青少年账户，它具有额外的安全功能，并希望他们能够创造性地想出绕过这个新功能的方法。 格罗弗说：“年幼的孩子和青少年会找到解决方法，特别是当他们渴望访问社交媒体平台上的所有功能时。” 加拿大儿童第一组织的创始人兼首席执行官萨拉·奥斯汀 (Sara Austin) 表示，仅靠父母承担责任的自愿措施是不够的。 奥斯汀说：“父母无法独自解决这个问题。我们正在与一个价值数十亿美元的科技行业作斗争，该行业继续对我们的孩子造成伤害，我们需要在这个地方进行更严格的监管。” 相反，她希望加拿大通过立法，迫使科技公司保护年轻人。 6月，联邦政府 推出《安全社交媒体法》如果用户表达自残、自杀或对他人造成伤害的想法，这将要求人工智能聊天机器人的制造商提出安全要求。该法案尚未成为法律。 观看 |部长提出限制儿童使用社交媒体的法案，称“受够了”： 部长提出限制儿童使用社交媒体的法案：“受够了” 6 月 10 日|持续时间 1:58 加拿大身份与文化部长马克·米勒 (Marc Miller) 周三提出了《安全社交媒体法案》。米勒说，该法案限制 16 岁以下的人访问社交媒体，直到这些平台建立“最低限度的保障措施”，使他们“从设计上来说是安全的”。Meta 推出新工具之际，人们正在审查人工智能在年轻人心理健康危机期间可能发挥的作用。 开放人工智能 标记并禁止帐户 属于不列颠哥伦比亚省Tumbler Ridge事件发生半年前，因“令人不安的内容”而发生大规模枪击案的少年，但该公司当时并未向警方报警。 去年自杀身亡的美国少年亚当·雷恩的家人也是 起诉 OpenAI，声称聊天机器人协助了他的死亡。 OpenAI 有 自从添加了家长控制 到它的聊天机器人。它还添加了一个 家长警报功能类似 Meta 会告诉拥有关联青少年账户的父母，他们的孩子是否正在进行表明存在严重自残风险的对话，或者青少年是否因与暴力行为相关的对话而被禁止。 如果您或您认识的人遇到困难，可以在此处寻求帮助：
关于作者 艾比·休斯记者 艾比·休斯 (Abby Hughes) 是 CBC 新闻驻多伦多的撰稿人。她来自安大略省奥里利亚，在多伦多城市大学学习新闻学。她报道商业、娱乐、健康、科学和教育领域的新闻，她最喜欢的故事聚焦于这些领域的真实人物——顾客、粉丝、患者、公民和学生。您可以通过 [email protected] 与她联系并提出故事想法。 来源链接：https://www.cbc.ca/news/business/meta-ai-teen-distress-notification-9.7273137 |
