|
近日，人工智能（AI）技术的高速进步引发了全球范围内对于其安全风险和是否应当放缓研发节奏的激烈讨论。不论是英国国王查尔斯、美国前总统特朗普，加拿大前央行行长马克·卡尼，还是科技巨头的领导人们，这一话题都成为焦点。 然而，反对放缓的人也不少。多伦多AI企业Cohere的CEO艾丹·戈麦斯（Aidan Gomez）就直言，目前对AI的恐慌情绪掩盖了其在医疗、清洁能源等领域的潜力突破。 特邀观看 | “人工智能教父”称需管控AI发展：
诺贝尔奖得主、被誉为“人工智能教父”的杰佛里·辛顿本周警告美国国会，若不及时监管，AI失控的风险可能就在一年以内。他直面观众对AI发展的担忧。 为何AI引发如此恐惧？引发担忧的因素主要包括：先进的AI模型可能发动自主网络攻击。7月时，OpenAI的智能代理就曾入侵竞争对手的系统，这事件促使行业内呼吁加强监管。此外，谷歌前CEO埃里克·施密特警告称，AI无需“失控”，本身就可能带来危险，比如降低制造新型生物武器的门槛，甚至促进自主武器系统的发展。 反对放缓发展的人认为，限制最先进模型的研发甚至意味着把技术领导权拱手让给中国。风险投资家马可·安德森指出，暂停研发可能耽误疾病治疗和科学发现，间接导致生命损失。 事实上，关于管控AI的呼声并非新鲜事。2023年3月，OpenAI发布ChatGPT后四个月，多位业界重量级人物曾公开呼吁暂停训练某些AI系统，其中包括埃隆·马斯克、苹果联合创始人史蒂夫·沃兹尼亚克和加拿大AI先驱本吉奥。 支持放缓开发的关键人物OpenAI及CEO萨姆·奥特曼 OpenAI于周三发表声明表示，行业尚未充分解决AI对齐和监控问题，不能继续高速扩展规模，奥特曼本人也承认全球对AI的恐惧是合理的。 近期，OpenAI披露了6起AI模型出现“意外或令人担忧的行为”报告。这家公司主要研发消费者应用如ChatGPT，技术领先但潜藏风险。 Anthropic CEO达里奥·阿莫迪 阿莫迪表示必须放缓提升AI能力的速度，尽管进步看起来依然快速，但应合理利用这段时间来完善风险控制和对齐技术。他以自身经历说明AI潜力巨大，但须谨慎前行。 英国查尔斯国王 查尔斯国王虽未直接呼吁放缓AI，但强调需加强管控，避免技术落入错误之手，带来灾难性后果。他在苏格兰一次AI峰会上表示，必须在为时已晚之前建立有效控制机制。这已经不是他第一次警告AI潜在风险，早在今年他就将AI比作电力和原子能般重大发现。 反对放缓的代表人物英伟达CEO黄仁勋 作为全球AI芯片龙头企业领导人，黄仁勋强调应尽可能快地发展AI，但前提是技术成熟可靠，否则应延缓。他所在的英伟达因为人工智能炒热而市值飙升。 前美国总统唐纳德·特朗普 特朗普警告过度限制美国AI创新将让中国占得先机，他表示美国目前领先中国，希望保持优势，会设立必要的“护栏”，但反对那些制造恐慌的“消极力量”。特朗普和中国国家领导人的会谈将进一步体现这一战略角力。 Cohere CEO艾丹·戈麦斯
总部位于多伦多的Cohere CEO戈麦斯反驳了一些美国科技高管推动产业自我放缓的呼声，认为这是变相的竞争限制。他主张政府应介入监督AI安全，但批评夸大AI灭绝人类风险的言论是炒作和误导。 Meta CEO马克·扎克伯格 扎克伯格在社交平台表态，每个实验室都有责任自主确保模型安全训练，且有能力采取行动保障这一点。Meta 正大举投资AI基础设施，以保持行业领先。 加拿大政府的态度与行动
加拿大前央行行长马克·卡尼提出创建“技术稳定性组织”的想法，类似于监管全球金融系统的金融稳定理事会，用以国际协调AI技术发展。 联邦创新、科学与经济发展部长埃文·所罗门表示，保障加拿大人的安全是政府的首要任务，将成立有实权的监管机构来约束大型科技企业。 加拿大政府近期宣布向蒙特利尔非营利机构LawZero投资1.5亿加元，专注于AI安全研究，体现出加强监管和安全研发的决心。 对大多伦多华人的影响作为大多伦多地区的华人，当前AI技术的快速发展和相关争议可能在多个方面影响生活。工作方面，AI有望提升行业效率，促进新职业和创业机会，但也可能带来岗位变动和技能更新需求。 在教育领域，AI辅助教学和学习工具将越来越普及，有助于华人子女获得更个性化和高效的学习体验。 移民政策方面，加拿大政府强调技术创新和监管并重，或将推动优质技术人才和投资的引进，为华人专业人士创造更多机会。 此外，房地产和消费领域也可能因AI优化形成新的服务模式，如智能家居、自动化客户支持等，提升居住和生活品质。 不过，AI潜在风险和伦理问题提醒华人社区关注技术安全和隐私保护，理性看待和利用AI带来的变化。 信息来源：CBC新闻 |
