科技 > 蚂蚁集团公布自研金融大模型 称算力集群达万卡规模

蚂蚁集团公布自研金融大模型 称算力集群达万卡规模

2023-09-09 15:00阅读(168)

9月8日蚂蚁集团在外滩大会上发布了金融大模型,称这款大模型主要是针对金融行业定制,底层算力集群能够达到万卡规模,目前这一模型已经在蚂蚁集团的财富、保险平

1
9月8日蚂蚁集团在外滩大会上发布了金融大模型,称这款大模型主要是针对金融行业定制,底层算力集群能够达到万卡规模,目前这一模型已经在蚂蚁集团的财富、保险平台上面全面测试
蚂蚁集团介绍,这一大模型具备万卡异构集群,其中千卡规模训练利用率(MFU)为40%,集群有效训练时长占比达到90%以上,基于人类反馈的强化学习在同等模型效果之下训练吞吐性能和业界方案相比提升约3.59倍,而根据此前有机构对于谷歌GPT-4的解谜,OpneAI在这一模型的训练中使用了约25000个英伟达A100 GPU,训练90到100天的时间,最终利用率(MFU)为32%到36%,虽然两个模型的训练规模有一定的差距,蚂蚁集团的金融模型在利用率方面却有一定的领先优势。
蚂蚁集团副总裁、金融大模型负责人王晓航介绍,这种通用的大模型难以在专业严谨的领域直接投入商用,而且金融服务类行业对于这种错误的容忍程度非常低,因而这种模型要确保在领域知识方面以及专业逻辑的严谨性,才能带来真正的产业价值。王晓航还表示,这一模型注入了千亿量级Token的金融知识,而且从300+个真实的产业场景当中提取了共计60万+的高质量指令数据,据了解,在8月底蚂蚁金融大模型已经通过证券从业资格、保险从业资格、执业药师资格等专业的试题测试,接下来这款产品将要进入到测试阶段,后续将会用于哪一实际生产企业当中,感兴趣的大家可以拭目以待,大数据模型正在渗透到生活的方方面面,在未来科技将会给生活带来深刻的变革,也将影响到人们的生活方式。