IT之家 10 月 20 日消息,当地时间 10 月 19 日,亚马逊宣布推出开源工具 TorchNeuron,借助该工具,开发人员编写的 PyTorch 代码可以在亚马逊的自研 Trainium 芯片上本地运行,只需更改一次规格,无需重写。
IT之家获悉,TorchNeuron 将于当地时间 10 月 20 日在加州圣何塞举行的北美 PyTorch 大会上以开源许可形式正式发布。
PyTorch 是由 Meta 主导的开源框架,被大多数人工智能开发者所使用。英伟达投入了十多年的时间研发 CUDA 工具,可以让 PyTorch 代码在英伟达的芯片上高质运行。
据介绍,亚马逊工程师分别在传统芯片和 Trainium 芯片上运行了相同的 AI 训练脚本。唯一的区别仅在于代码中指定所用芯片的设置参数。结果表明,AI 模型在两种环境下学习到的内容完全一致,学习速度也相同。这意味着开发者原本用于测试、调试和扩展 AI 模型的工具,无需任何修改,即可直接在 Trainium 上使用。
亚马逊称,TorchNeuron 为人工智能行业带来了一项长期缺失的关键要素:真正可行的挑选权。当开发者可以在不同芯片之间自由切换而无需付出额外代价时,芯片厂商就必须借助给出更具竞争力的机型来赢得开发者的青睐;而开发者则能从中受益,达成成本的降低与迭代速度的提高。
另外,亚马逊正积极参与 PyTorch 上游开发,与 PyTorch 社区合作,移除那些将该框架与特定芯片相绑定的代码。其目标是让 PyTorch 对整个开发者社区而言更具“硬件无关性”,而不仅仅是服务于 Trainium 使用者。
本文来源:https://www.ithome.com/1/015/082.htm
若有版权问题,请来信告知:13951431913#139.com 或在右方提交评论。
Amazon has released TorchNeuron, an open-source tool that lets PyTorch code run on its home-grown Trainium accelerators with minimal changes.
The move targets Nvidia's CUDA software moat, which has kept most AI training workloads locked to its GPUs even as cloud providers build their own silicon. By lowering the porting cost, Amazon hopes more customers will adopt Trainium for training and inference.
