Les GPU boostent les applications de l’IA

A la reprise des sessions plénières de l’après-midi, Marc Hamilton, Vice-President, Solutions Architecture & Engineering de NVidia, a exposé l’intérêt de l’accélération GPU pour traiter les masses de données utilisées par les applications utilisant l’Intelligence Artificielle.

« Les promesses de l’IA ont séduit de nombreux secteurs économiques (Smart Cities ; sécurité publique ; santé ; industrie ; transports…) et les start-ups y sont nombreuses. Il faut dire que d’après les experts les enjeux économiques sont colossaux : 16 trillions de dollars pour le marché des produits domestiques de grande consommation ; la création de 58 millions de nouveaux emplois d’ici 2022 ; etc. Pour faire face aux énormes besoins de calcul que cela va générer très rapidement, nous avons annoncé début juin l’Automatic Mixed Precision pour le Deep Learning qui :

• Accélère les opérations gourmandes en calcul mathématiques, telles que les couches linéaires et de convolution, en utilisant des Tensor Cores ;
• Accélère les opérations limitées en mémoire en accédant à moitié moins d’octets par rapport à la simple précision ;
• Réduit les besoins en mémoire pour les modèles d'apprentissage, permettant ainsi des modèles plus grands ou des jeux de données plus grands ».

L’analyse de flots de données massif via des techniques de Machine Learning permet de créer des modèles pour l’Intelligence Artificielle. Encore faut-il avoir les moyens techniques pour les traiter rapidement. « Nous avons baptisé notre famille de GPU dédié à l’IA SaturnV et nous l'avons créé avec la plus grande infrastructure dédiée à l’IA. Elle dispose de 1 500 nœuds DGX équipés de 12 600 GPU répartis dans une demi-douzaine de centres de calcul pour une puissance globale de l’ordre 1,5 ExaFlop/s ». Des performances dont bénéficient déjà des secteurs comme la santé où un instrument peut générer 3 TB de données par jour et un hôpital 50 PB par an. « L’IA permet de faire face à la pénurie de spécialistes pour traiter et interpréter ces informations à travers le réseau Clara AI. Actuellement plus de 70 % des recherches menées à partir de données d’imagerie médicale dans le monde sont traités via de l’IA. C’est aussi vrai dans le domaine de la recherche de molécules pour de nouveaux médicaments qui se fait à travers l’Atom Consortium ». Des structures dans lesquelles NVidia est impliqué. Mais les GPU NVidia ne servent pas qu’à créer des supercalculateurs, ils sont aussi intégrables dans de petits équipements comme les séquenceurs d’ADN portatifs de Oxford Nanopore.

D’autres plates-formes sectorielles utilisant l’IA sur des GPU sont aussi en cours de développement telles Drive pour le monde des transports, Isaac pour la robotique ou Metropolis pour les Smart Cities.

GPUs boosting AI applications

When resuming plenary sessions for the afternoon, Marc Hamilton, NVidia's Vice President, Architecture & Engineering Solutions, discussed the value of GPU acceleration in processing the massive amounts of data used by applications using Artificial Intelligence.

"The promises of AI have attracted many economic sectors (Smart Cities; public safety; health; industry; transport...) and start-ups are numerous. According to experts, it must be said that the economic stakes are colossal: $16 trillion for the domestic consumer goods market; the creation of 58 million new jobs by 2022; etc. To meet the huge computing needs that this will generate very quickly, we announced in early June the Automatic Mixed Precision for Deep Learning which:

• Accelerates mathematical computation through intensive operations such as linear and convolution layers, using Tensor Cores;
• Accelerates limited operations in memory by accessing half the number of bytes compared to single accuracy;
• Reduces memory requirements for learning models, opening up to larger models or larger datasets.”

The analysis of massive data flows via Machine Learning techniques makes it possible to create models for Artificial Intelligence. However, it is necessary to rely on relevant technical means to process them quickly. "We have named our family of GPUs dedicated to AI SaturnV which we created using the largest infrastructure dedicated to AI. It has 1,500 DGX nodes equipped with 12,600 GPUs distributed in half a dozen computing centers for a total power of around 1.5 ExaFlop/s." This performance is already benefiting sectors such as health care where an instrument can generate 3 TB of data per day and a hospital 50 PB per year. "AI helps to address the shortage of specialists to process and interpret this information through the Clara AI network. Currently, more than 70% of the research conducted using medical imaging data worldwide is processed via AI. This is also true in the field of research into molecules for new drugs, which is carried out through the Atom Consortium.” Many structures in which NVidia is already involved. But NVidia GPUs are not only used to create supercomputers, they can also be integrated into small devices such as Oxford Nanopore's portable DNA sequencers.

Other sector platforms using AI on GPUs are also being developed, such as Drive for the transport sector, Isaac for robotics and Metropolis for Smart Cities.