关注我们:

腾讯云发布TI平台公有云版,重磅新功能TI-ACC打造AI加速新标杆

2022-06-29

来源:网络

分享到:


6月28日 ,腾讯云正式对外发布 T I 平台 公有云版本 ,并推出全新 AI加速 功能 T I-ACC , 其训练加速 性能 较原生 框架

6月28日,腾讯云正式对外发布TI平台公有云版本,并推出全新AI加速功能TI-ACC其训练加速性能较原生框架提升30%以上模型推理加速比达2以上。该版本也是腾讯首个面向开发者开放的一站式机器学习平台。

 

腾讯云AI副总经理、AI开发平台资深技术专家李世平表示“AI应用如今在各个领域蓬勃发展,AI开发服务平台也已成为各行业AI应用的生产力工具。在此背景下,腾讯云全新推出TI平台的公有云版本,帮助广大开发者简化在工程上的大量研发投入,将精力聚焦在业务本身,从而提高AI应用的开发效率。

 

据介绍,此次发布的TI平台公有云版性能强大、兼容性高、计费灵活、使用门槛低以及管理高效,可以有效帮助企业和开发者提升数据接入、数据处理、模型训练、模型服务等环节的效率,助力AI开发降本增效。

 

其中TI-ACC本次TI平台全新升级发布的重磅功能,也是强大性能的核心保障。TI-ACC支持大规模的训练和推理加速帮助企业和开发者解决了在AI加速方面的痛点和需求。

 

针对训练加速,TI-ACC能在模型精度不下降的前提下,提升模型的产出效率。依托优图实验室在各类复杂模型训练加速的实践经验TI-ACC实现了对主流的训练框架和分布式训练工具的支持,同时加速效果优异,较原生训练框架提升了30%以上的训练性能。

图片1.png 

 

针对推理加速,TI-ACC能在不影响预测精度的前提下降低GPU资源占用率,其加速效果、使用便捷性较市面开源方案均有明显的优势。在产品能力上,TI-ACC除了可以支持主流的各类模型格式,同时也包含了丰富的推理加速优化手段,相比原始模型,其推理加速比通常达到两倍以上。

 

图片2.png 

 

以某商品识别行业ISV厂商客户为例,该客户采用了高精度的Detectron2商品识别模型,而随着业务规模扩大,其GPU卡资源投入成本不断提高,降本诉求也愈加强烈。采用TI平台后,客户将TI-ACC加速优化后的模型部署在生产环境推理性能相比客户baseline 提升了100%左右,服务QPS提升了45%,云资源成本支出也得到了有效降低。

 

目前,腾讯云TI平台已在泛互、泛政务、医疗、金融、工业、传媒等行业落地应用,帮助实现了智能工业质检、金融AI中台、智慧化城市运营管理、疾病辅助诊断等诸多细分领域AI应用的开发。

 

作为“下一个十年”核心科技手段之一,AI正在加速渗透到各行各业,推动发展与创新。面向未来,腾讯云也将持续精进AI开发平台的产品创新能力,为企业和开发者提供更加丰富的平台化服务,赋能千行百业,引领时代之声

 

VR硬件评估more+
智能硬件more+

投稿