跳到正文
原文
AWS Machine Learning Blog· Mijanur Palash·· 4 小时前AI 评分26

在 Amazon SageMaker HyperPod 上微调 GPT-OSS-20B 实现多语言推理

Fine-tuning GPT-OSS-20B for multilingual reasoning on Amazon SageMaker HyperPod

AI 导读

GPT-OSS-20B 在多语言推理测试中仅 22% 的样本用目标语言推理,法语、西班牙语、意大利语均为 0%。团队在 Amazon SageMaker HyperPod 上用 LoRA 对比 SFT 与 GRPO:SFT 负责教会模型原本不具备的行为,GRPO 则在模型已有一定概率产出目标行为时进一步优化。结论是 SFT 承担主要工作,GRPO 在有提升空间时带来增益,技术选择需匹配能力差距。

来源:AWS Machine Learning Blog · aws.amazon.com