本文作者:admin

快讯 | 金山办公与NVIDA团队合作,加速WPS AI落地

admin 昨天 1
快讯 | 金山办公与NVIDA团队合作,加速WPS AI落地摘要: 据金山办公官微,金山办公与NVIDIA团队合作,通过NVIDIA Tensor Core GPU、TensorRT提升图像文档识别与理解的推理效率;借助NVIDIA Triton推...

据金山办公官微,金山办公与NVIDIA团队合作,通过NVIDIA Tensor Core GPU、TensorRT提升图像文档识别与理解的推理效率;借助NVIDIA Triton推理服务器的部署,成功优化GPU利用率,提供高推理吞吐量。相比于CPU其pipleline耗时共下降84%;采用NVIDIA Triton推理服务器部署,其部署成本节省了23%。

阅读
分享