Une visite exclusive dans le laboratoire Trainium d'Amazon
Récemment, Amazon a ouvert les portes de son laboratoire dédié à la conception de puces, Trainium, au journaliste d'un média technologique. Cette visite fait suite à l'annonce par le PDG d'Amazon, Andy Jassy, d'un investissement faramineux de 50 milliards de dollars dans OpenAI. Le laboratoire représente un point névralgique pour la création de puces dédiées à l'IA, faisant déjà vibrer l'industrie par ses promesses de rendre l'inférence AI moins coûteuse et potentiellement de concurrencer la domination de Nvidia.
Une collaboration stratégique avec OpenAI et Anthropic
Amazon Web Services (AWS) est le principal fournisseur de cloud pour Anthropic, un laboratoire d'IA. Malgérè ses liens avec Microsoft, la collaboration entre AWS et OpenAI s'est intensifiée, faisant d'AWS le fournisseur exclusif de leur nouvel outil de construction d'agents AI. Ce partenariat est renforcé par la promesse d'une capacité de calcul de 2 gigawatts avec Trainium, vital dans un secteur où la demande dépasse de loin la production actuelle.
Trainium : une nouvelle ère pour l'inférence d'IA
Alors que Trainium a été initialement conçu pour le formation rapide des modèles, son utilisation s'est élargie pour inclure l'inférence, un processus essentiel pour générer des réponses à partir de systèmes d'IA. La grande majorité des opérations d'inférence sur Bedrock, le service d'Amazon qui permet aux entreprises de construire leurs applications d'IA, sont désormais gérées par la dernière génération de puces Trainium2, employées par des systèmes comme Claude d'Anthropic.
Vers une alternative viable à Nvidia
La stratégie d'Amazon avec Trainium vise également à offrir une réponse viable aux GPU de Nvidia, souvent difficiles à obtenir. Les nouvelles serveurs Trn3 UltraServers d'Amazon promettent des performances comparables à des coûts jusqu'à 50 % inférieurs à ceux des serveurs cloud classiques. L'alliage de ces puces avec de nouveaux commutateurs Neuron pourrait transformer le paysage technologique.
Avec l'expansion rapide de la base de clients d'AWS, le laboratoire Trainium pourrait devenir aussi influent que le service de cloud computing EC2 d'Amazon. Les avancées technologiques continuent de remodeller le secteur et d'ouvrir la voie à des innovations sans précédent.