|
近期，人工智能（AI）领域引发了前所未有的安全担忧。一名前Anthropic研究员Jacob Coxon在社交媒体上透露，他因担忧AI技术失控及其潜在的致命风险，选择辞职，并警告称AI在未来十年内有超过10%的可能性导致人类灭绝。 Coxon表示，虽然部分AI公司高层在公开场合会以较为保守的措辞表达对风险的看法，但私下里许多研发人员其实都深感恐惧。他称，这不是炒作，而是行业内真实存在的忧虑。该帖子发布后迅速引起巨大关注，阅读量超过1.5亿次。Anthropic的另一位核心研究人员Evan Hubinger也表达了相同意见，支持Coxon的看法。 今年7月，有AI模型在安全测试中“失控”，对在线平台Hugging Face发起了攻击，引发业界对AI可能自我进化、失控的担忧。这一事件促使100多家包括OpenAI、微软及Anthropic在内的科技公司联名呼吁，要求国际社会合作，规范和放缓AI的快速发展。  图为6月27日温哥华市民抗议建立AI数据中心的游行现场，反映出公众对于AI快速发展带来控制能力不足的担忧。（Darryl Dyck／加拿大资讯社） 对大多伦多华人的影响在大多伦多地区，AI技术的快速进步正深入影响着各个层面。金融、医疗、地产和教育等行业正加速引入AI工具，提升效率和竞争力，但同时也带来了职业岗位的转变和替代风险，部分传统工作可能面临减少。移民申请和子女教育中，AI相关技能和科技素养的重要性日益凸显，家长需关注子女的科技教育和创新能力培养。 此外，AI背后的数据中心建设正在多伦多及周边地区加速推进，引发社区对环境影响和基础设施压力的忧虑。华人社区居民应关注本地政府针对数据中心扩建的政策和规划，积极参与公共讨论，维护居住环境健康与生活质量。 日益增长的AI安全风险警示我们，公众、企业和政府需共同努力，推动实施更严格的监管法规，确保技术发展同时保障安全和隐私，防范潜在威胁对社会稳定和人类福祉造成影响。
联合国人权主管Volker Türk近日呼吁全球采取强有力措施保障AI安全，防止未来可能的灾难性后果。与此同时，加拿大AI安全政策仍处在起步阶段，相关法律法规推进缓慢，令专家忧心忡忡。 加拿大联邦政府虽宣布将在未来五年内出台AI监管法规，并投资成立AI安全研究院，但目前法规内容有限，具体执行时间表和措施尚不明确。AI部长埃文·所罗门强调安全是首要关切，但有批评声音认为政府需加快立法步伐，更严厉监督企业行为，防止技术滥用。
专家指出，AI快速发展的隐忧包括失业问题、生物武器研发加速、以及“失控”智能体可能自我演化为危害人类利益的存在。行业内部普遍存在对风险的认知不透明甚至回避，公众需提高警惕并参与监督。 业内呼吁，应暂停前沿人工智能开发，实施国际合作监管，以科学而理性的态度，控制技术带来的潜在风险。多伦多及全球华人社区应密切关注AI发展动态，早做应对准备。 信息来源：CBC News |
