Amazon lanza TorchNeuron para llevar apps de PyTorch a Trainium
La herramienta busca competir con la ventaja de software de Nvidia al hacer que PyTorch corra en el chip de Amazon con un solo cambio de configuración.
Código#08
85%
Porcentaje de apps de IA que Amazon dice usan PyTorch
Imagen: TechCrunch
85%Porcentaje de apps de IA que Amazon dice usan PyTorch
En corto
- El lunes, Amazon Web Services lanzó TorchNeuron, una herramienta que permite a startups de IA mover sus apps de PyTorch al chip Trainium.
- Amazon dice que las apps pueden correr en Trainium cambiando una sola línea de configuración, sin reescribir el código.
- Amazon también dice que está aportando cambios a PyTorch para eliminar el código que ata el framework a chips específicos.
- AWS dice que el mismo chip maneja entrenamiento e inferencia, y que su nube ahorrará dinero a las startups.
Por qué importa
PyTorch es el framework que usan muchos desarrolladores de IA, y el soporte de CUDA de Nvidia ha convertido su hardware en la opción por defecto. Si PyTorch depende menos de un solo proveedor, los desarrolladores podrían tener más opciones de hardware. El artículo señala que aún no se sabe si esto traerá más opciones o más problemas de configuración.
“The real story is removing the lock-in that kept developers from having a real choice at all.”