Anthropic CEO探讨AI未来,担忧超级智能带来的经济与权力问题
作者: CBISMB
责任编辑: 张金祥
来源: ISMB
时间: 2024-11-14 10:59
关键字: Anthropic
浏览: 0
点赞: 0
收藏: 0
周一,Anthropic公司的首席执行官Dario Amodei接受了知名人工智能影响者Lex Fridman的五小时播客采访。此次访谈涵盖了从超级智能的时间表到Anthropic下一代旗舰技术进展等多个热门话题,为听众带来了深入的行业洞察。

在访谈中,Amodei强调了他对“扩大”模型在实现更强大AI中的坚定信念。他解释道,扩大规模不仅仅意味着增加用于训练模型的计算量,更包括模型本身的大小以及训练集数据的扩大。Amodei认为,尽管某些神奇之处尚未从理论上得到完全解释,但这种扩张趋势可能会持续下去。
针对数据短缺可能给人工智能发展带来的挑战,Amodei持不同观点。他表示,开发人员可以通过生成合成数据或从现有数据中推断来“绕过”数据限制。然而,他也承认合成数据的问题尚待观察。
在谈到AI计算成本时,Amodei预计短期内成本可能会上升,部分原因是规模扩大。他预测,明年各公司将花费数十亿美元用于集群训练模型,而到2027年,这一数字将攀升至数千亿美元。有传言称,OpenAI正在计划建造一个价值1000亿美元的数据中心,这似乎也在印证这一趋势。
尽管对AI的发展充满信心,但Amodei也坦言,即使是最先进的模型在本质上也是不可预测的。他比喻说,控制模型的行为就像“打地鼠”,因为推动一个方面可能会引发其他方面的连锁反应,而这些反应可能甚至没有被注意到或测量到。
更令人瞩目的是,Amodei预计Anthropic或其竞争对手将在2026年或2027年之前创造出“超级智能”人工智能,这种AI在多项任务上的表现将超过人类水平。然而,他对此表示担忧,认为我们可能很快找不到真正令人信服的阻挠者或理由来解释为什么这种情况不会发生。他特别担心由此带来的经济和权力集中问题,以及权力滥用的可能性。