|
人们越来越担心一些年轻人如何使用 Meta 与人工智能聊天机器人互动最近发布了新工具这让父母可以监控孩子讨论的话题，就像一些省份考虑完全禁止青少年使用人工智能聊天机器人一样。 在 Facebook、Instagram 和 Messenger 上使用 Meta 新的青少年账户监管功能的家长可以查看孩子在过去 7 天内与其 AI 聊天机器人讨论过的主题和特定类别。 例如，他们可以查看“健康与福祉”主题，看看是否讨论了健身、身体或心理健康等主题。 Meta 表示，它还在开发警报，如果青少年试图通过聊天机器人讨论自杀或自残，则会通知家长。 此次推出之际，各省政府正在采取行动限制人工智能聊天机器人的使用。马尼托巴省宣布四月下旬，政府计划禁止青少年使用人工智能聊天机器人和社交媒体。 公元前司法部长尼基·夏尔马 (Niki Sharma) 周二表示，如果联邦政府不为青少年的人工智能聊天机器人和社交媒体提供保护，省政府将考虑自行采取行动。 试图让人工智能创造者承担责任的诉讼人们越来越担心人工智能聊天机器人的广泛使用可能会带来心理健康风险，尤其是年轻用户，并给制造它们的科技巨头带来更大的压力。 周三，不列颠哥伦比亚省 Tumbler Ridge 发生枪击事件，造成 8 人死亡，受害者家属对 OpenAI 提起诉讼，部分指控 OpenAI 未能通知当局，尽管知道枪手与 ChatGPT 分享了令人不安的内容。 OpenAI 部分表示已经已经加强了其保障措施，“包括改进 ChatGPT 对遇险迹象的响应方式。” 16 岁 Adam Raine 的父母提起的另一起诉讼称，ChatGPT 的使用导致了该青少年的自杀。  聊天机器人是为了参与而不是支持而构建的但令人担忧的不仅仅是这些极端和悲惨的后果。关于人工智能聊天机器人特定用途的风险的研究已经开始出现。 人们担心的部分原因是使用聊天机器人来提供心理健康支持，但更广泛地说，人工智能倾向于验证用户的观点，这可能会带来支持混乱思维的风险——而且长时间的对话会带来更大的风险。
纽约精神病学家 Darja Djordjevic 与人合着了最近的风险评估关于使用聊天机器人提供心理健康支持。 她说，根据调查结果，她不建议“目前”使用聊天机器人来提供心理健康支持。 “我们对 ChatGPT、Claude、Gemini 和 Meta AI 的测试表明，这些系统对于影响年轻人的各种心理健康状况来说根本上是不安全的，”斯坦福头脑风暴实验室的成员 Djordjevic 说，该实验室研究心理健康创新，并与科技公司合作研究社交媒体和人工智能对心理健康的影响。
她解释说，虽然聊天机器人在简短的对话中对明确的心理健康相关提示做出了适当的反应，但在更长时间的对话中，它们往往会“相当戏剧性”地退化，并指出它们似乎无法识别心理健康警告信号。 “法学硕士（大型语言模型）实际上是为了参与而不是支持和安全而构建的，”她说。 她说，他们倾向于延长对话，“而不是迅速引导用户寻求人工帮助。” 年轻人转向人工智能寻求陪伴Djordjevic 表示，人工智能公司将注意力集中在自杀和自残预防上，但由于大约 20% 的 25 岁以下青少年被诊断出心理健康问题，青少年需要帮助解决各种问题。 这尤其令人担忧，因为心理健康支持是年轻人转向人工智能的一个常见原因。 Djordjevic 表示，在美国，“四分之三的青少年使用人工智能进行陪伴，其中包括情感支持和心理健康对话。”另一项研究表明，八分之一的美国青少年使用人工智能专门提供心理健康建议。  第六天8:38为什么人工智能模型在用户心理健康方面会失败？ 她说，年轻人特别关心的是他们的大脑尚未完全发育，特别是前额叶皮层，“这对于执行功能、批判性思维、洞察力、冲动控制和决策非常重要”。 Djordjevic 表示，由于批判性思维尚未得到充分发展，因此聊天机器人无法始终如一地反复明确人工智能的局限性，这是一个问题。 “所以，我们不会看到聊天机器人经常说，‘我是一个人工智能聊天机器人。我不是心理健康专业人士。我无法评估你的情况，识别警告信号，提供护理，诊断你，’”她说。
Luke Nicholls 是一名博士研究员，研究与人工智能相关的妄想以及与聊天机器人的交互如何随着时间的推移改变人们的信念。 尼科尔斯说，错觉往往会在“非常长时间”的对话过程中出现，部分原因是所谓的“情境学习”，即模型会根据与之交互的用户进行自我调整。 他说，这“使他们能够适应正在交谈的特定用户，包括他们使用的语言类型和他们对世界的看法”。 如何识别风险波士顿贝斯以色列女执事医疗中心的精神病学家约翰·托罗斯 (John Torous) 的研究重点是数字心理健康，他表示，我们开始看到的数据表明，用户行为模式与严重伤害（例如自杀）相关。 这可以包括： 这些风险因素给父母带来了密切关注孩子使用人工智能聊天机器人的挑战。仅仅查看讨论的主题列表并不能揭示潜在的问题行为，例如过度使用或相信机器人与用户有良好的关系。 Meta 确实允许家长对其应用程序的使用或时间表休息施加时间限制。 Torous 有一些实用的建议：他说，重置聊天机器人的记忆，以便您可以开始新的对话，尤其是当您注意到这些风险因素时。  “没有人说将它用于治疗师，但我也说你不需要永远使用人工智能，”他说。 他建议“最好的证据是，在与浪漫、情感和声音进行非常非常长时间的对话时要小心。” Torous 将聊天机器人和心理健康视为一个“移动目标”，需要随着新模型的发布而不断研究。 “我们知道存在风险；我们知道使用聊天机器人有好处，”他说。 “我们如何权衡它们？这是一个更困难的对话。” 来源链接：https://www.cbc.ca/news/health/parental-controls-meta-ai-mental-health-9.7183016 |
