又可以 GPU 炼丹了?全球首个通过分布式算力进行训练的 320 亿参数大模型 INTELLECT-2 发布

INTELLECT-2 是第一个通过分布式算力进行训练的 320 亿参数大模型,他们通过 PRIME-RL 框架来确保训练的稳定性和效率,并且已经将 INTELLECT-2 模型、代码和数据开源。@Appinn

更有意思的是,任何人都可以提供算力赚钱。目前算力售价:H100(80GB) 20元/小时、RTX4090(24GB) 2.3元/小时。

又可以 GPU 炼丹了?全球首个通过分布式算力进行训练的 320 亿参数大模型 INTELLECT-2 发布 1

INTELLECT-2 基准测试:

又可以 GPU 炼丹了?全球首个通过分布式算力进行训练的 320 亿参数大模型 INTELLECT-2 发布 2

感兴趣的同学可以去试试


原文:http://inloveinparis.com/intellect-2/

写留言

Enable Notifications OK No thanks