 计算机科学教授约舒亚·本吉奥 (Yoshua Bengio) 于 2024 年 5 月 1 日在魁北克市接受采访时摆出姿势。一份关于人工智能安全性的重要国际报告称，专家们对该技术带来的风险无法达成一致意见，目前尚不清楚人工智能是否会有所帮助或帮助伤害我们。加拿大媒体/Jacques Boissinot Anja Karadeglija，加拿大媒体 一份关于人工智能安全性的重要国际报告称，专家们对该技术带来的风险无法达成一致，而且目前还不清楚人工智能是否会帮助或伤害我们。 该报告由加拿大的 Yoshua Bengio 主持，得出的结论是“通用人工智能的未来轨迹非常不确定”。 报告称，“即使在不久的将来，也可能出现“广泛的轨迹”，包括非常积极和非常消极的结果。” 该报告是在去年由英国主办的人工智能安全峰会上委托编写的，这是首次此类全球人工智能会议。 英国请被称为人工智能“教父”、魁北克人工智能研究所 Mila 科学主任的 Bengio 主持这份报告。该报告是在下周于韩国首尔举行的另一场全球人工智能峰会之前发布的。 Bengio 在报告中写道：“我们知道先进的人工智能正在快速发展，这些先进的人工智能系统可能如何影响我们未来的生活和工作方式存在很大的不确定性。” 英国政府在周五的新闻稿中表示，该报告是关于人工智能安全的“第一份独立的国际科学报告”，它将在为下周韩国的讨论提供信息方面“发挥重要作用”。 由 75 名专家组成的小组为该报告做出了贡献，其中包括由 30 个国家、欧盟和联合国提名的小组。周五发布的报告是临时报告，最终版本预计将在今年年底发布。 它专注于通用人工智能系统，例如OpenAI的ChatGPT，它可以根据提示生成文本、图像和视频。 报告称，专家们“在通用人工智能功能、风险和风险缓解措施等几个或大或小的问题上仍然存在分歧。” 争论的领域之一是“大规模劳动力市场影响、人工智能黑客或生物攻击以及社会失去对通用人工智能的控制等风险”的可能性。 该报告概述了许多风险，包括人工智能可能通过虚假内容、虚假信息和欺诈以及网络攻击造成的危害。它还指出了人工智能可能导致的风险偏差，特别是在“医疗保健、招聘和金融贷款等高风险领域”。 一种潜在的情况是，人类将失去对人工智能的控制，即使它可能造成伤害，也无法控制该技术。 报告称，人们一致认为当前的通用技术不会带来这种风险，但一些专家认为，正在进行的开发自主人工智能的工作可能会导致这样的结果，这种人工智能可以“行动、计划和追求目标”。 报告称：“对于失控情况的可能性有多大、何时可能发生以及缓解这些情况的难度，专家们意见不一。” 加拿大报社的这篇报道于 2024 年 5 月 18 日首次发表。 来源链接： https://www.cp24.com/news/no-expert-consensus-on-ai-risks-trajectory-remarkously-uncertain-report-1.6892547 |
手机版
官方微信
