微软和英伟达今天宣布了由DeepSpeed和Megatron驱动的Megatron-Turing自然语言生成模型（MT-NLG），这是迄今为止训练的最大和最强大的解码语言模型。 这个模型包括5300亿个参数，与现有最大的模型GPT-3相比，参数数量是其3倍。
训练这样的大型模型涉及各种挑战，沿着所有的人工智能轴线进行了许多创新和突破。例如，通过紧密合作，英伟达和微软将最先进的GPU加速训练基础设施与尖端的分布式学习软件堆栈相融合，实现了前所未有的训练效率。
微软与NVIDIA建立了高质量的自然语言训练语料库，其中包含数千亿个标记，并共同开发了训练配方，以提高优化效率和稳定性。
【来源：cnBeta.COM】
1月14日消息，WinFuture曝光了三星GalaxyTabS8Ultra的渲染图和详细参数。更多
2022-01-15 22:44:36近日，WIPO（世界知识产权局）公布了三星的一项技术专利，该专利展示了一种可多次折叠的电子设备。更多
2022-01-15 22:44:24RTX206012GB、RTX308012GB、RTX3070Ti16GB……NVIDIA近期接连的打造了多款显卡的新版本，看起来只是...更多
2022-01-15 22:43:55前不久，比亚迪公布了2021年年度销量数据，数据显示，比亚迪全年销售汽车730093辆，同比增长75 4%...更多
2022-01-15 22:43:19回忆一下，你有多久没有见过或者用过电池可拆卸设计的智能手机了？更多
2022-01-15 19:46:21据国外媒体报道，随着电动汽车需求的大幅提升，对动力电池的需求也逐年增加，各大电池制造商也在尽...更多
2022-01-15 19:46:131月14日消息，据“央视军事”报道，我国自主研制的“电动牦牛”，是世界上体形最大、载重和越野能力...更多
2022-01-15 19:46:04今天，红魔游戏手机7“证件照”正式对外公布，在外观上沿用了此前红魔系列的设计语言。更多
2022-01-15 19:45:53AMD在2019年的锐龙3000系列处理器上就首发了PCIe4 0技术，现在已经两年半时间了，各大SSD厂商也都...更多
2022-01-15 19:45:40上个月，荣耀在“2021荣耀周年庆暨荣耀X30新品发布会”上，正式推出了八年诚意之作——荣耀X30。更多
2022-01-15 16:44:44
48小时点击排行
© 2012-2020 财经快报网 版权所有
网站联系邮箱：98 28 36 7@qq.com
粮食供给安全的要求越来越高
2022年服贸会增加赞助商层级
高标准自贸区网络加快打造
GDP万亿城市进入新一轮的升
长沙实现数字人民币税款缴纳
新车销售由增量市场逐步转向
中国文旅创新发展 消费市场
