跳到正文
原文
AWS Machine Learning Blog· Pierre Lienhart·· 3 小时前AI 评分20

Deepgram 如何用 AWS Trainium 优化大规模语音 AI

How Deepgram optimized voice AI at scale with AWS Trainium

AI 导读

Deepgram 与 AWS 合作将 Nova-3 语音转文字模型移植到 Trainium2,用于联络中心分析、医疗转录等离线批处理场景。最终配置在单台 Amazon EC2 trn2.3xlarge 实例上运行 8 个模型副本,每美元处理的音频量比原有算力方案多 11–70%。该优化也惠及在 Amazon SageMaker AI 上自托管 Deepgram 模型的客户。

来源:AWS Machine Learning Blog · aws.amazon.com