Le travail d'Intel Labs a permis de développer une puce neuromorphique à autoapprentissage, supérieure à tout ce qui avait été fait auparavant : la puce de test Loihi. Celle-ci reproduit un certain nombre de fonctions du cerveau et apprend à partir des retours offerts par son environnement. Cette puce basse-consommation utilise les données pour l’apprentissage et l’inférence, et devient plus intelligente avec le temps. Elle n'a pas besoin d'être entraînée de façon traditionnelle, ce qui demande une approche novatrice basée sur les impulsions asynchrones.
Par Dr Michael Mayberry, vice-président et directeur général d'Intel Labs pour Intel Corporation
« Imaginez un futur où les décisions les plus complexes seraient rendues plus simples, plus rapides et s’adapteraient aux circonstances ; où les grands problèmes sociaux ou industriels trouveraient des solutions autonomes grâce à l’expérience acquise.
Un futur qui utiliserait des applications de reconnaissance d'image pour analyser les vidéos des caméras urbaines et résoudre rapidement les affaires de disparition ou d'enlèvement.
Un futur où les feux rouges régleraient leur rythme en fonction du trafic, réduisant les embouteillages et optimisant la circulation.
Un futur où les robots seraient plus autonomes, et les performances optimisées.
La collecte, l'analyse et la prise de décision à partir de données naturelles – dynamiques et non-structurées – entraînent une croissance importante de la demande en calcul ; celle-ci pourrait dépasser les architectures CPU et GPU classiques. Pour répondre au rythme effréné de l'évolution technologique et permettre à l'informatique de dépasser les seuls PC et serveurs, Intel travaille depuis six ans sur des architectures spécialisées qui accélèrent les plateformes de calcul traditionnelles. Intel alloue également des investissements et des ressources de R&D à l'intelligence artificielle (IA) et à l'informatique neuromorphique.
Notre travail dans l'informatique neuromorphique s'appuie sur des décennies de recherche et de collaboration, débutées à l’époque avec le professeur Carver Mead, de CalTech, bien connu pour ses travaux fondamentaux sur la conception des semi-conducteurs. La combinaison de l'informatique, de la physique et de la biologie a permis de faire émerger un environnement propice à des idées nouvelles, basées sur une intuition simple mais révolutionnaire : comparer machines et cerveau humain. Ce domaine d'étude fait aujourd’hui l’objet de larges collaborations au service de la recherche.
Le travail d'Intel Labs a permis de développer une puce neuromorphique à autoapprentissage, supérieure à tout ce qui avait été fait auparavant : la puce de test Loihi. Celle-ci reproduit un certain nombre de fonctions du cerveau et apprend à partir des retours offerts par son environnement. Cette puce basse-consommation utilise les données pour l’apprentissage et l’inférence, et devient plus intelligente avec le temps. Elle n'a pas besoin d'être entraînée de façon traditionnelle, ce qui demande une approche novatrice basée sur les impulsions asynchrones.
Chez Intel, nous avons la conviction que l'IA n'en est qu'à ses balbutiements, et que de nouvelles méthodes – illustrées par Loihi – vont continuer d'émerger. L'informatique neuromorphique s'inspire de ce que nous savons de nos cerveaux et de la façon dont ils traitent les informations : leurs réseaux neuronaux relaient les informations grâce à des impulsions, modulent la force synaptique de leurs interconnexions, et stockent ces changements au niveau des interconnexions. Les comportements intelligents émergent de ces interactions coopératives et compétitives entre différentes régions du cerveau, et avec l'environnement.
Les modèles tels que l'apprentissage profond ont récemment connu des avancées extraordinaires, grâce aux jeux de données gigantesques auxquels ils ont désormais accès. Ils peuvent aujourd’hui reconnaître des objets, des événements... Mais ces systèmes ont encore du mal à généraliser leur fonctionnement à moins d'avoir été entraînés pour des situations, circonstances ou éléments particuliers.
Dans ce contexte, les puces à autoapprentissage offrent des possibilités illimitées. Un exemple d'utilisation dans le secteur médical : on peut relever le rythme cardiaque d'une personne dans différentes conditions – après avoir couru, après un repas ou avant de se coucher – et l’insérer dans un système neuromorphique qui analyse les données pour déterminer le rythme cardiaque « normal ». Le système peut ensuite contrôler le rythme en permanence pour repérer les moments qui ne répondent pas à cette « norme », et être adapté à n'importe quel utilisateur.
Ce type de logique peut également être appliqué à de nombreux autres cas. Dans le domaine de la cybersécurité, par exemple, une anomalie ou une différence dans les flux de données pourrait permettre d'identifier une violation ou un piratage, en utilisant la « normalité » apprise par le système dans différents contextes.
Présentation de la puce de test Intel Loihi
La puce de test Intel Loihi inclut des circuits numériques qui imitent les mécanismes de base du cerveau, rendant l'apprentissage automatique plus rapide et plus efficace, pour une consommation de ressources réduite. Les modèles de puce neuromorphique s'inspirent de la communication et de l'apprentissage des neurones biologiques, et utilisent des impulsions et des synapses plastiques pouvant être modulées en fonction du rythme. Ils peuvent aider les ordinateurs à s'organiser eux-mêmes et à prendre des décisions en fonction de modèles et d'associations.
La puce de test Intel Loihi offre un apprentissage hautement flexible, et combine entraînement et inférence sur une seule et même puce. Cela permet aux machines d'être plus autonomes et de s'adapter en temps réel plutôt que d'attendre une mise-à-jour venue du cloud. Les chercheurs ont ainsi réussi à atteindre un rythme d'apprentissage 1 million de fois plus rapide qu'avec les autres réseaux neuronaux à impulsions (mesuré en nombre total d'opérations pour atteindre une fiabilité donnée lors de la résolution de problèmes de reconnaissance de chiffres MNIST). La puce de test Intel Loihi consomme bien moins de ressources que des technologies comme les réseaux neuronaux convolutionnels ou les réseaux neuronaux d’apprentissage profond.
Les capacités d'autoapprentissage prototypées sur cette puce offrent un nombre gigantesque de possibilités ; elles pourraient permettre le perfectionnement d’applications automobiles et industrielles importantes, ou de la robotique personnelle, et pourraient contribuer au progrès de toutes les applications bénéficiant d'un fonctionnement autonome et d'un apprentissage permanent dans un environnement non-structuré, comme la reconnaissance des mouvements d'une voiture ou d'un vélo.
Elle offre en outre une efficacité énergétique 1000 fois supérieure à celle des systèmes informatiques généralistes utilisés pour les systèmes d'apprentissage traditionnels.
Au premier semestre 2018, la puce de test Intel Loihi sera mise à disposition d'un certain nombre de grandes institutions universitaire et de recherche travaillant dans le domaine de l'IA.
Autres aspects importants
Les caractéristiques de la puce test Loihi incluent :
Un maillage many-core neuromorphique, pleinement asynchrone, supportant une large gamme de topologies hiérarchiques, récurrentes ou éclatées, où chaque neurone est capable de communiquer avec des milliers d'autres neurones.
Chaque cœur neuromorphique inclut un moteur d'apprentissage pouvant être programmé pour adapter les paramètres du réseau, et supportant des paradigmes d'apprentissage supervisés, non-supervisés, de renforcement, etc.
Fabrication selon la technologie 14 nm d'Intel.
Un total de 130 000 neurones et de 130 millions de synapses.
Le développement et le test de plusieurs algorithmes avec des niveaux d'efficacité algorithmiques supérieurs pour des problèmes tels que la planification de parcours, la satisfaction de contraintes, le sparse coding, l'apprentissage de dictionnaire, ou les modèles dynamiques d'apprentissage et d'adaptation.
Quelle est la prochaine étape ?
Les avancées de l’informatique, l’innovation algorithmique et la puissance transformatrice de l'IA vont avoir un impact spectaculaire sur la société dans son ensemble. Aujourd'hui, Intel applique son expertise à la poursuite de la loi de Moore et à la conception de solutions qui permettent de commercialiser une large gamme de produits – processeurs Intel® Xeon®, technologie Intel® Nervana™, technologie Intel® Movidius™ et FPGA Intel – afin de répondre aux besoins uniques de l'IA, de l'edge jusqu’au datacenter et au cloud.
Cela concerne tant l'informatique généraliste que les solutions matérielles et logicielles adaptées. Le processeur Intel® Xeon Phi™, très utilisé dans l'informatique scientifique, a généré certains des modèles d'interprétation les plus importants pour des questions scientifiques à grande échelle, et le Movidius Neural Compute Stick constitue un exemple de déploiement de modèles préalablement appris pour une puissance de seulement 1 watt.
Les tâches de l'IA s’avèrent chaque jour plus diverses et plus complexes. Elles posent un défi important aux architectures informatiques dominantes, et demandent des approches innovantes. Intel a la conviction que l'informatique neuromorphique sera, demain, en capacité de proposer une performance exascale au sein de structures inspirées par le fonctionnement du cerveau.
Les étapes que va franchir Intel Labs dans les mois à venir sauront, je l’espère, susciter votre intérêt. Elles permettront de généraliser les concepts de l'informatique neuromorphique afin de soutenir l'économie mondiale lors des 50 prochaines années. Cet avenir alimenté par l'informatique neuromorphique va nous permettre de concrétiser nos rêves les plus fous grâce à des flux d’intelligence et de prise de décision plus fluides et plus rapides.
Plus que jamais, Intel garde une vision optimiste de l’architecture informatique. Nous savons à quoi ressemblera l'avenir de l'informatique, car nous le construisons dès aujourd'hui. »
Par Dr Michael Mayberry, vice-président et directeur général d'Intel Labs pour Intel Corporation
« Imaginez un futur où les décisions les plus complexes seraient rendues plus simples, plus rapides et s’adapteraient aux circonstances ; où les grands problèmes sociaux ou industriels trouveraient des solutions autonomes grâce à l’expérience acquise.
Un futur qui utiliserait des applications de reconnaissance d'image pour analyser les vidéos des caméras urbaines et résoudre rapidement les affaires de disparition ou d'enlèvement.
Un futur où les feux rouges régleraient leur rythme en fonction du trafic, réduisant les embouteillages et optimisant la circulation.
Un futur où les robots seraient plus autonomes, et les performances optimisées.
La collecte, l'analyse et la prise de décision à partir de données naturelles – dynamiques et non-structurées – entraînent une croissance importante de la demande en calcul ; celle-ci pourrait dépasser les architectures CPU et GPU classiques. Pour répondre au rythme effréné de l'évolution technologique et permettre à l'informatique de dépasser les seuls PC et serveurs, Intel travaille depuis six ans sur des architectures spécialisées qui accélèrent les plateformes de calcul traditionnelles. Intel alloue également des investissements et des ressources de R&D à l'intelligence artificielle (IA) et à l'informatique neuromorphique.
Notre travail dans l'informatique neuromorphique s'appuie sur des décennies de recherche et de collaboration, débutées à l’époque avec le professeur Carver Mead, de CalTech, bien connu pour ses travaux fondamentaux sur la conception des semi-conducteurs. La combinaison de l'informatique, de la physique et de la biologie a permis de faire émerger un environnement propice à des idées nouvelles, basées sur une intuition simple mais révolutionnaire : comparer machines et cerveau humain. Ce domaine d'étude fait aujourd’hui l’objet de larges collaborations au service de la recherche.
Le travail d'Intel Labs a permis de développer une puce neuromorphique à autoapprentissage, supérieure à tout ce qui avait été fait auparavant : la puce de test Loihi. Celle-ci reproduit un certain nombre de fonctions du cerveau et apprend à partir des retours offerts par son environnement. Cette puce basse-consommation utilise les données pour l’apprentissage et l’inférence, et devient plus intelligente avec le temps. Elle n'a pas besoin d'être entraînée de façon traditionnelle, ce qui demande une approche novatrice basée sur les impulsions asynchrones.
Chez Intel, nous avons la conviction que l'IA n'en est qu'à ses balbutiements, et que de nouvelles méthodes – illustrées par Loihi – vont continuer d'émerger. L'informatique neuromorphique s'inspire de ce que nous savons de nos cerveaux et de la façon dont ils traitent les informations : leurs réseaux neuronaux relaient les informations grâce à des impulsions, modulent la force synaptique de leurs interconnexions, et stockent ces changements au niveau des interconnexions. Les comportements intelligents émergent de ces interactions coopératives et compétitives entre différentes régions du cerveau, et avec l'environnement.
Les modèles tels que l'apprentissage profond ont récemment connu des avancées extraordinaires, grâce aux jeux de données gigantesques auxquels ils ont désormais accès. Ils peuvent aujourd’hui reconnaître des objets, des événements... Mais ces systèmes ont encore du mal à généraliser leur fonctionnement à moins d'avoir été entraînés pour des situations, circonstances ou éléments particuliers.
Dans ce contexte, les puces à autoapprentissage offrent des possibilités illimitées. Un exemple d'utilisation dans le secteur médical : on peut relever le rythme cardiaque d'une personne dans différentes conditions – après avoir couru, après un repas ou avant de se coucher – et l’insérer dans un système neuromorphique qui analyse les données pour déterminer le rythme cardiaque « normal ». Le système peut ensuite contrôler le rythme en permanence pour repérer les moments qui ne répondent pas à cette « norme », et être adapté à n'importe quel utilisateur.
Ce type de logique peut également être appliqué à de nombreux autres cas. Dans le domaine de la cybersécurité, par exemple, une anomalie ou une différence dans les flux de données pourrait permettre d'identifier une violation ou un piratage, en utilisant la « normalité » apprise par le système dans différents contextes.
Présentation de la puce de test Intel Loihi
La puce de test Intel Loihi inclut des circuits numériques qui imitent les mécanismes de base du cerveau, rendant l'apprentissage automatique plus rapide et plus efficace, pour une consommation de ressources réduite. Les modèles de puce neuromorphique s'inspirent de la communication et de l'apprentissage des neurones biologiques, et utilisent des impulsions et des synapses plastiques pouvant être modulées en fonction du rythme. Ils peuvent aider les ordinateurs à s'organiser eux-mêmes et à prendre des décisions en fonction de modèles et d'associations.
La puce de test Intel Loihi offre un apprentissage hautement flexible, et combine entraînement et inférence sur une seule et même puce. Cela permet aux machines d'être plus autonomes et de s'adapter en temps réel plutôt que d'attendre une mise-à-jour venue du cloud. Les chercheurs ont ainsi réussi à atteindre un rythme d'apprentissage 1 million de fois plus rapide qu'avec les autres réseaux neuronaux à impulsions (mesuré en nombre total d'opérations pour atteindre une fiabilité donnée lors de la résolution de problèmes de reconnaissance de chiffres MNIST). La puce de test Intel Loihi consomme bien moins de ressources que des technologies comme les réseaux neuronaux convolutionnels ou les réseaux neuronaux d’apprentissage profond.
Les capacités d'autoapprentissage prototypées sur cette puce offrent un nombre gigantesque de possibilités ; elles pourraient permettre le perfectionnement d’applications automobiles et industrielles importantes, ou de la robotique personnelle, et pourraient contribuer au progrès de toutes les applications bénéficiant d'un fonctionnement autonome et d'un apprentissage permanent dans un environnement non-structuré, comme la reconnaissance des mouvements d'une voiture ou d'un vélo.
Elle offre en outre une efficacité énergétique 1000 fois supérieure à celle des systèmes informatiques généralistes utilisés pour les systèmes d'apprentissage traditionnels.
Au premier semestre 2018, la puce de test Intel Loihi sera mise à disposition d'un certain nombre de grandes institutions universitaire et de recherche travaillant dans le domaine de l'IA.
Autres aspects importants
Les caractéristiques de la puce test Loihi incluent :
Un maillage many-core neuromorphique, pleinement asynchrone, supportant une large gamme de topologies hiérarchiques, récurrentes ou éclatées, où chaque neurone est capable de communiquer avec des milliers d'autres neurones.
Chaque cœur neuromorphique inclut un moteur d'apprentissage pouvant être programmé pour adapter les paramètres du réseau, et supportant des paradigmes d'apprentissage supervisés, non-supervisés, de renforcement, etc.
Fabrication selon la technologie 14 nm d'Intel.
Un total de 130 000 neurones et de 130 millions de synapses.
Le développement et le test de plusieurs algorithmes avec des niveaux d'efficacité algorithmiques supérieurs pour des problèmes tels que la planification de parcours, la satisfaction de contraintes, le sparse coding, l'apprentissage de dictionnaire, ou les modèles dynamiques d'apprentissage et d'adaptation.
Quelle est la prochaine étape ?
Les avancées de l’informatique, l’innovation algorithmique et la puissance transformatrice de l'IA vont avoir un impact spectaculaire sur la société dans son ensemble. Aujourd'hui, Intel applique son expertise à la poursuite de la loi de Moore et à la conception de solutions qui permettent de commercialiser une large gamme de produits – processeurs Intel® Xeon®, technologie Intel® Nervana™, technologie Intel® Movidius™ et FPGA Intel – afin de répondre aux besoins uniques de l'IA, de l'edge jusqu’au datacenter et au cloud.
Cela concerne tant l'informatique généraliste que les solutions matérielles et logicielles adaptées. Le processeur Intel® Xeon Phi™, très utilisé dans l'informatique scientifique, a généré certains des modèles d'interprétation les plus importants pour des questions scientifiques à grande échelle, et le Movidius Neural Compute Stick constitue un exemple de déploiement de modèles préalablement appris pour une puissance de seulement 1 watt.
Les tâches de l'IA s’avèrent chaque jour plus diverses et plus complexes. Elles posent un défi important aux architectures informatiques dominantes, et demandent des approches innovantes. Intel a la conviction que l'informatique neuromorphique sera, demain, en capacité de proposer une performance exascale au sein de structures inspirées par le fonctionnement du cerveau.
Les étapes que va franchir Intel Labs dans les mois à venir sauront, je l’espère, susciter votre intérêt. Elles permettront de généraliser les concepts de l'informatique neuromorphique afin de soutenir l'économie mondiale lors des 50 prochaines années. Cet avenir alimenté par l'informatique neuromorphique va nous permettre de concrétiser nos rêves les plus fous grâce à des flux d’intelligence et de prise de décision plus fluides et plus rapides.
Plus que jamais, Intel garde une vision optimiste de l’architecture informatique. Nous savons à quoi ressemblera l'avenir de l'informatique, car nous le construisons dès aujourd'hui. »
Autres articles
-
Intel annonce une plate-forme d'analyse et d'intelligence artificielle inégalée avec de nouvelles solutions de processeur, de mémoire, de stockage et de FPGA
-
Intel et National Geographic Society, ensemble contre le braconnage
-
Ekimetrics remporte la finale du Hackathon Intel Challenge et confirme l'excellence de ses équipes de Data Scientists
-
Smart Farming : L’intelligence artificielle et les données au service de l’agriculture
-
Lenovo et Intel fournissent un superordinateur de nouvelle génération et à haute efficacité énergétique au Leibniz Supercomputing Center.