|
核心要点
Reddit 联合创始人亚历克西斯・奥哈尼安周三表示，科技行业在向公众解读人工智能、科普真实风险方面做得十分欠缺，存在 “认知脱节” 的问题。 奥哈尼安认为，围绕人工智能的辩论应聚焦实实在在的风险，而非沦为用来博取政治分数的话题；充分知情的公众，是驾驭这项技术的关键。他承认，科技行业本身对此负有责任，向大众讲解 AI 的工作做得相当不到位。同时他表示，AI 的实际风险，并没有部分人所担忧的 “终结者‑天网” 那般末日科幻场景。 天网（Skynet）出自电影《终结者》，是一套拥有自我意识的虚构 AI 系统，将人类视作威胁并意图消灭人类。 就在此番表态的几天前，OpenAI 与 Anthropic 的研究人员警示递归自我迭代技术（RSI）正在快速发展。 递归自我迭代，指 AI 系统参与开发更高级的模型，由此形成循环：能力越来越强的 AI，继续打造性能更进一步的新一代系统。 人们的担忧在于：一旦 AI 接管新模型的训练流程，人类研发者最终可能会失去对系统演化方向的掌控。 奥哈尼安表示，AI 风险确实客观存在，但渲染 “终结者式” 的末日警告，反而会分散人们对真正风险的注意力，例如智能体集群—— 多个 AI 智能体协同完成复杂任务带来的隐患。 “风险确实存在，但我认为风险并没有人们想象的那么恐怖，更多是一些普通现实层面的问题。” 他说道。 他将 AI 类比核能：二者都是强大的科技突破，管控失当会造成严重伤害，但只要管理得当，就能带来巨大收益。 “我希望行业走向良性轨道。少一些社交媒体推文争吵，多一些理性深度探讨。” 奥哈尼安表示。 “那些末日论推文令人沮丧。” 他没有点名具体对象，并补充道，“更让人无奈的是，很多流传的口号本身并不符合事实。” 本月早些时候，一名 AI 研究员从 Anthropic 离职，公开指责 Anthropic 与 OpenAI 在研发这项强大技术时行事不负责任。 曾先后任职于两家企业的研究员雅各布・考克森在社交平台宣布辞职，理由是担心两家公司 “拿全人类命运做赌注”。他称，参与开发 AI 的从业者内心真切相信，AI 有可能在本十年结束前毁灭人类。 在奥哈尼安看来，讨论 AI 需要把握复杂的多面性。“我们应当围绕真实、关键的问题展开对话，而不是追逐那些只为快速博取政治利益的话题。我相信我们可以开展这样的理性讨论。” “看到大量虚假信息四处传播，我感到很无奈。但长远来看，我相信我们能处理好这些问题，这也是我的期许。所以我并没有过度悲观。” |
