开源派的反驳:Hugging Face CEO 把“AI 末日”风险压到零
在迈阿密举行的 WIRED 世界博览会上,Hugging Face CEO 德朗格表示将人类灭绝概率(P(Doom))评估为接近于零,并将主要风险归于闭门训练模型的行为。
海宇数科 · 事件日期 · 更新于 · 约 1 分钟 · 1 次阅读

11月5日,在迈阿密举办的 WIRED 世界博览会上,Hugging Face CEO 德朗格(Delangue)表示自己将人类灭绝概率(P(Doom))评估为接近于零。P(Doom) 指的是人类灭绝的概率。
德朗格认为,AI 的主要危险来自闭门参与者。风险源于封闭环境,少数大公司在秘密训练模型,训练与应用集中于少数实验室,外界无法审查,也无法制衡,从而放大了风险。
德朗格主张开放模型构建、公开审查和公开改进,以形成相互制肘的生态。他表示开放权重模型是工具,可以防止少数企业垄断人才、垄断算力以及垄断 AI 能力。
AI 开发者数量已突破 2000 万。英伟达于9月宣布收购,收购金额为 129.3 亿美元,当时披露的开发者数量约 1800 万;此后开发者数量进一步增长。此外,已卖出 5 万台双足机器人,机器人名为 Microducks,可借助 AI 编程。
