Clarifai 的新推理引擎：提高 AI 模型速度、降低成本

+ 查看更多

Clarifai 推出了一款全新推理引擎，据称可将 AI 模型速度提升一倍，同时降低 40% 的成本。该系统兼容各种模型和云主机，并采用了包括 CUDA 内核和推测解码技术在内的优化技术。Artificial Analysis 的第三方测试证实了其业界领先的吞吐量和延迟结果。首席执行官 Matthew Zeiler 强调了该技术在 AI 基础设施需求日益增长的背景下，在优化现有硬件方面发挥的作用。