|
一个由加拿大议员和参议员组成的多党派团体正在支持一项运动，呼吁加拿大谈判一项国际“信任但验证”制度，以禁止远远超越人类智能的人工智能的发展。 这一消息是在加拿大发布国家人工智能战略之前发布的。 这项活动于周四发起，由非营利组织 Control AI 领导，该组织网站称，该组织“致力于防止超级智能带来的灭绝风险，确保人类的美好未来”。 该活动的一份声明称，“保护加拿大人免受国内外超级智能发展的影响，必须成为国家安全的优先事项。” 报告称：“诺贝尔奖获得者、领先的人工智能科学家和领先人工智能公司的首席执行官警告说，人工智能带来的灭绝风险与核战争相当。尽管有这一警告，但构建超级智能人工智能的多项相互竞争的努力仍在进行中。” 该活动的支持者包括自由党议员朱迪·斯格罗（Judy Sgro）、乔纳森·威尔金森（Jonathan Wilkinson）和史蒂文·吉尔博（Steven Guilbeault）——尽管最后两位议员很快就会被下台从他们的角色来看。保守党议员威廉·史蒂文森、凯赛·瓦甘塔尔、乔尔·戈丁和阿诺德·菲尔森也表示支持。  此外，独立议员西蒙-皮埃尔·萨瓦德-特伦布莱（Simon-Pierre Savard-Tremblay）和魁北克政团议员马丁·尚普（Martin Champoux）也支持该活动——Control AI 网站将马丁·尚普描述为代表其他魁北克政团议员的签署人。 三名加拿大参议员也被列为支持者：科林·迪肯、托尼·洛弗里达和金·佩特。 超级人工智能，也称为 ASI，其运行能力远远超出人类水平。一些领先的人工智能专家，例如英国裔加拿大计算机科学家杰弗里·辛顿曾表示这种技术只需几年时间就能实现，尽管其他人对此时间表持怀疑态度。
加拿大人工智能治理与安全组织创始人怀亚特·泰萨里·拉利埃 (Wyatt Tessari L'Allié) 告诉 CBC 新闻，这项活动很重要，因为它表明人工智能“终于在渥太华得到认真对待”。 L'Allié 表示，美国科技公司 Anthropic、OpenAI 和谷歌在开发 ASI 方面处于领先地位，全球制度将主要关注美国和中国这两个人工智能开发超级大国。 拉利说：“加拿大要保护本国公民，唯一真正的选择是外交政策，因为最危险的系统并非来自加拿大。”
L'Allié 承认，美国越来越意识到当前的问题。 例如，美国总统唐纳德·特朗普签署行政命令周三，要求科技公司为美国政府提供一个窗口，在新的人工智能模型向公众发布之前对其进行审查。 此外，特朗普5月份会见中国国家主席习近平后，中国政府表示，两国需要共同努力改善人工智能治理，使其为国际社会的共同福祉做出贡献。 加拿大国家人工智能战略迫在眉睫Control AI 活动的启动恰逢联邦政府发布国家人工智能战略之前。中的一个柱子该战略的重点是“建立值得信赖的伙伴关系和全球联盟”。 根据一个战略草案CBC新闻报道称，联邦政府的目标是建立一个多边联盟，使加拿大在关键人工智能能力方面拥有主权自主权，该协议仍有可能被修改。 这种措辞与加拿大二月份与德国共同发起的主权技术联盟相呼应。
根据联邦政府该联盟被设计为“先进技术务实合作的平台，重点是提供实际能力和共享经济利益”。 周五，马克·卡尼总理与教皇利奥谈论了人工智能和“人工智能必须为人类服务的当务之急”——这次谈话是在教皇敦促各国政府放慢人工智能系统的发展后不久进行的。
教皇在他的讲话中发出了这一呼吁第一通谕是教皇向天主教会成员进行教导的最高形式之一。他警告说，人工智能系统可能会传播错误信息，优先考虑冲突，并有可能导致世界走上无休止的战争之路。 在上周向记者分发的一份新闻稿中，卡尼的办公室表示，这位虔诚的天主教徒总理“欢迎教皇在这一领域的领导”。 新闻稿称：“卡尼总理表达了加拿大希望在负责任的人工智能和工具方面发挥国际领导作用，造福全球社会。” 来源链接：https://www.cbc.ca/news/politics/canada-superintelligent-ai-development-national-strategy-mark-carney-evan-solomon-9.7222334 |
