Deepgram Nova-3 移植 Trainium2，每美元音频量提升 11%–70%

AWS 发布技术博客称，Deepgram 已将语音转文字模型 Nova-3 移植到 Trainium2，并完成推理优化：把模型接入 AWS Neuron 软件栈、做内核级调优，并用数据并行 Rust 运行时让 Deepgram 自有模型服务器调用 Trainium。单台 trn2.3xlarge 实例运行 8 个模型副本。 AWS 称，在 Deepgram 面向吞吐的离线批处理场景中，该方案每美元处理的音频量比其原有算力方案多 11%–70%，测量基于评估时的实例价格。AWS 还表示，这一收益可能延伸至在自有 VPC 的 Amazon SageMaker AI 上自托管 Deepgram 模型的客户。上述效果为 AWS 博客所述，并非独立验证。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。