Transformer作者预警:只卖模型玩不过OpenAI!

AIGC动态1个月前发布 QbitAI
326 0 0
Transformer作者预警:只卖模型玩不过OpenAI!

 

文章摘要


【关 键 词】 AI趋势数据创新模型竞争机器人发展数据质量

在最新采访中,Cohere公司的联合创始人兼CEO Aidan Gomez分享了他对人工智能(AI)发展趋势的见解。Gomez是深度学习模型Transformer的作者之一,他强调了模型性能提升不仅仅依赖于规模的扩大,而是通过数据和算法的创新来实现。他指出,虽然增加计算能力和模型规模确实可以提高性能,但这是最笨的方法,而且成本效益比极低。他提到,过去一年半以来,即使参数数量远少于GPT-4的模型也能达到更好的性能,显示出成本和性能之间的脱钩。

Gomez认为,AI领域将继续存在多种模型的共存,包括垂直化和专注的模型,以及横向的通用模型。他提出,AI创业公司要想在市场中保持竞争力,不应仅仅依赖于规模化,而应探索数据创新和模型及方法的创新。他特别强调了数据质量的重要性,认为几乎所有开源领域的重大进展都源于数据的改进。

在讨论与OpenAI等大型AI公司的竞争时,Gomez指出,只卖模型的公司将面临极大的挑战,因为价格竞争非常激烈,而且许多公司甚至免费提供模型。他认为,模型层在短期内是一个利润微薄、商品化的业务,而真正的价值在于应用层面,如ChatGPT所示。

Gomez还提到,AI创业公司不应该成为云服务提供商的附属公司,因为这可能会带来风险,限制了公司的发展空间。他预测,未来几年内,小型模型提供商可能会被大型云服务提供商收购,但这种整合已经开始发生。

关于AI的未来,Gomez认为下一个大突破将出现在机器人领域,随着成本的降低和模型的进步,通用人形机器人的发展将取得重大进展。他还强调,尽管AI技术将增强人类能力,但没有任何东西能取代人类,AI不会减少工作岗位,而是将改变工作的性质。

最后,Gomez分享了他对数据质量的看法,他曾严重低估了数据的重要性,但现在认为数据质量对模型的影响极大,即使是数十亿数据点中的一个错误例子也可能对模型产生显著影响。他还提到,Cohere公司已经筹集了大约10亿美元的资金,并且他们的战略是保持独立,自主发展。

豆包-智能助手

原文和模型


【原文链接】 阅读原文 [ 6548字 | 27分钟 ]
【原文作者】 量子位
【摘要模型】 moonshot-v1-32k
【摘要评分】 ★★★★★

© 版权声明

相关文章

暂无评论

暂无评论...