Nvidia dévoile un supercalculateur IA de la taille d'une paume pour 249 $

Le kit de développement Jetson Orin Nano Super offre une amélioration des performances de 70 % par rapport au modèle précédent.

Bref: À mesure que le paysage de l’IA continue d’évoluer, l’impact d’appareils tels que le Jetson Orin Nano Super sur la démocratisation du développement de l’IA pourrait jouer un rôle important. Cependant, ses performances réelles ne deviendront évidentes qu’avec le temps et une utilisation intensive par la communauté des développeurs.

Nvidia, connu pour ses unités de traitement graphique, a annoncé un nouvel ajout à sa gamme d'outils de développement d'IA : le Jetson Orin Nano Super Developer Kit, un supercalculateur d'IA générative de la taille d'une paume disponible pour 249 $, soit la moitié du prix de son prédécesseur de 499 $.

Destiné aux développeurs d'IA, aux amateurs et aux étudiants, le kit affiche des performances impressionnantes, notamment 67 INT8 TOPS (billions d'opérations par seconde), soit une augmentation de 70 % par rapport au modèle précédent. La société rapporte également une augmentation de 50 % de la bande passante mémoire, atteignant désormais 102 Go/s, et une amélioration jusqu'à 1,7 fois des performances d'inférence générative de l'IA. Le Jetson Orin Nano permet une prise de décision et une réactivité en temps réel lors du traitement des données localement sur les appareils.

Au cœur du Jetson Orin Nano Super se trouve un GPU à architecture Nvidia Ampere avec des cœurs tenseurs, associé à un processeur Arm à 6 cœurs. Cette combinaison permet plusieurs pipelines d'applications d'IA simultanés et une inférence haute performance, selon Team Green. Le kit prend en charge jusqu'à quatre caméras et offre une résolution et des fréquences d'images plus élevées que les versions précédentes.

Nvidia souligne la polyvalence du kit, suggérant son adéquation à la création de chatbots LLM (Large Language Model), d'agents visuels d'IA et de robots basés sur l'IA. Cependant, ces capacités doivent encore être vérifiées de manière indépendante.

Fait intéressant, Nvidia déclare que les propriétaires existants du Jetson Orin Nano Developer Kit peuvent accéder à des gains de performances similaires grâce à une mise à jour logicielle du SDK JetPack. Cette décision prolonge potentiellement la durée de vie du matériel plus ancien, mais soulève des questions sur la nécessité d'acheter du nouveau matériel pour certains utilisateurs.

Le kit est livré avec un support logiciel étendu, notamment des outils Nvidia AI tels que Isaac pour la robotique, Metropolis pour la vision AI et Holoscan pour le traitement des capteurs. La société met également en avant le support communautaire et les didacticiels disponibles via le laboratoire Nvidia Jetson AI.

Bien que l'annonce de Nvidia se concentre sur le potentiel du kit pour les applications d'IA générative, il convient de noter que les applications pratiques et les limites d'un appareil aussi compact dans ce domaine en évolution rapide restent à voir. D’un autre côté, la sortie de ce kit plus abordable et plus performant pourrait potentiellement réduire la barrière à l’entrée pour le développement de l’IA.

Sa sortie intervient à un moment d’intérêt croissant pour l’informatique de pointe pour l’IA – une tendance motivée par les demandes de latence plus faible, d’amélioration de la confidentialité et de réduction de l’utilisation de la bande passante dans les applications d’IA.

Le marché de l'IA de pointe connaît une croissance rapide, avec des projections indiquant une augmentation de 20,45 milliards de dollars en 2023 à 269,82 milliards de dollars d'ici 2032, soit un taux de croissance annuel composé de 33,3 %.