KT云发布AI推理GPU基础设施服务

admin 2023-11-24 11:04:52 浏览量:9
问题描述:
最佳经验
内容来源:http://www.xxyiy.cn/news/show-18237.html
KT云前天推出了“AI SERV”服务。该服务可以以合理的价格使用为人工智能(AI)推理而设计的高性能图形处理单元(GPU)的基础设施。

AI推理需要始终使用低容量gpu,而大规模AI学习则需要短时间集中使用大容量gpu。

KT Cloud的相关人士表示:“如果使用基础设施进行推理学习,费用将超出必要水平。”“我们预计专门用于推理的GPU基础设施服务将有很高的需求。”

AI SERV采用切片技术,将GPU服务从原来的单个单位1分割为5个单位,每个单位的值较小,为0.2。这通过减少最小可用单元来防止基础设施浪费。

KT云的目标是,在完成AI开发和学习后,成为AI SERV企业服务提供商的客户。

 

举报收藏 0打赏 0评论 0