KT云前天推出了“AI SERV”服务。该服务可以以合理的价格使用为人工智能(AI)推理而设计的高性能图形处理单元(GPU)的基础设施。
AI推理需要始终使用低容量gpu,而大规模AI学习则需要短时间集中使用大容量gpu。
KT Cloud的相关人士表示:“如果使用基础设施进行推理学习,费用将超出必要水平。”“我们预计专门用于推理的GPU基础设施服务将有很高的需求。”
AI SERV采用切片技术,将GPU服务从原来的单个单位1分割为5个单位,每个单位的值较小,为0.2。这通过减少最小可用单元来防止基础设施浪费。
KT云的目标是,在完成AI开发和学习后,成为AI SERV企业服务提供商的客户。