首页 > 动态 > 正文

腾讯汤道生：在大模型的训练和使用过程中，需要大量异构算力的支持_全球播报

2023-06-21 13:37:17 来源：同花顺7x24快讯


(资料图片)

据腾讯官微，腾讯集团高级执行副总裁、云与智慧产业事业群CEO汤道生表示，在大模型的训练和使用过程中，需要大量异构算力的支持，对网络速度与稳定性要求也很高，加上GPU服务器比一般服务器稳定性更低一些，服务器的运维、问题的排查更频繁，整体运维的难度与工作量会高很多。在训练集群中，一旦网络有波动，训练的速度就会受到很大的影响；只要一台服务器过热宕机，整个集群都可能要停下来，然后训练任务要重启，这些问题会使得训练时间大大增加，投入在大模型的成本也会飙升。

关键词：


您可能也喜欢这些文章

资讯
行业

Copyright   2015-2022 北极音箱网 版权所有  备案号：浙ICP备2022016517号-19   联系邮箱：514 676 113@qq.com