« L’IA va chambouler l’ensemble de la société » – Arta ALAVI, Chief Product Expert – Advanced Analytics chez SAP

Image


Le 18 décembre 2020, Éstiam a eu le plaisir d’accueillir Arta ALAVI, Chief Product Expert au sein de l’équipe Advanced Analytics de SAP lors d’un webinar pour un retour d’expérience sur l’intelligence artificielle au profit des étudiants ÉSTIAM de tous les campus.

SAP est le leader mondial des ERP (en français : PGI, Progiciels de gestion intégrée) et de la data avec un CA supérieur à 27 Md€.

A travers son témoignage, Arta ALAVI a ainsi démontré l’importance de l’Intelligence Artificielle et ce qu’elle peut apporter aux entreprises et aux industries 4.0. Un point de vue qui rejoint celle des scientifiques, comme Andrew NG, professeur en Sciences Informatiques à l’Université de Stanford, qui montre que l’IA aura le même impact dans la 4ème révolution industrielle que l’électricité a eu lors de la seconde révolution industrielle à partir des années 1870.

Avant de partir en vacances de fin d’année, les étudiants ÉSTIAM ont ainsi pu terminer l’année 2020 sur cette intervention qui leur a permis de prendre conscience des implications de l’intelligence artificielle dans l’avenir notre société.

« L'IA a rendu possible l’avènement de la voiture autonome, la réparation et colorisation de photos anciennes, la création de drones autonomes ou de robots, la reconnaissance faciale à grande échelle, l'écriture de textes shakespeariens, la victoire de l'ordinateur contre l'homme aux échecs, au jeu de Go ou même à StarCraft. En contrepartie le développement de nouveaux modèles avec plusieurs milliards de paramètres nécessite des ressources qui sont hors de portée des petites entreprises et posent de sérieux problèmes d’équité, mais aussi une empreinte écologique certaine. Tout cela en gardant l'éthique nécessaire pour ne pas utiliser l'IA du côté obscur, car la technologie est pervasive et impactera l’ensemble de la société. » précise Arta ALAVI.

Les étudiants ÉSTIAM ont montré un vif intérêt tout au long de ce retour d’expérience, qui a suscité de nombreuses questions de leur part, auxquelles Arta a pris le temps de répondre :

La voiture autonome est-elle autorisée en France, comme ça l’est aux USA ?

Arta Alavi: « La technologie va plus vite que la législation, mais les constructeurs peuvent aujourd’hui tester leurs véhicules sur les routes, et certaines navettes pour le transport public sont autorisées. Certaines voitures comme les Tesla sont déjà équipées pour recevoir cette technologie moyennant un simple téléchargement, qui d’ailleurs a débarqué en Novembre dernier aux États-Unis en version Beta. La technologie n’est pas encore assez mature pour un déploiement à l’échelle de la planète, mais reste plus fiable que les conducteurs humains, car disposant de plus de capteurs, entraînée à détecter les situations dangereuses, et pas sujet à la fatigue. »

« Il y a tout de même une restriction, le conducteur doit toucher le volant toutes les 30 secondes », ajoute un étudiant.

S’il y a un accident lié à une voiture autonome, qui est responsable : le conducteur ou le constructeur automobile ?

AA : « Pour l’instant effectivement ce point n’est pas encore très clair car le conducteur est l’unique responsable en cas d’accident. Dans une vraie voiture autonome, il n’y a plus de « conducteur », c’est l’IA qui pilote le véhicule. La responsabilité finale incombera donc certainement au constructeur de l’automobile, reste encore à savoir si le « développeur » sera tenu pour responsable ou pas. Cela pose aussi le problème de l’assurance de ce type de véhicule car aucune compagnie ne pourra certifier le comportement d’une IA de conduite, il y a donc de fortes chances que les constructeurs s’auto-assurent. »

Si l’IA était installée sur un PC quantique, est ce qu’on n’aurait pas la possibilité de reproduire le réseau humain ?

AA : « Cela pourrait être possible, oui, mais à quel horizon ? Car l’informatique quantique n’est malheureusement pas comme l’informatique classique : les paradigmes de programmation sont tout autres, ce qui nécessite d’abord de former les futurs « quanticiens » pour développer les algorithmes de calcul adaptés à ces machines. Des équipes de recherche travaillent actuellement sur la formalisation de ces algorithmes, mais de même qu’en Data Science, il y a une pénurie de compétence. Le fonctionnement des processeurs proche du zéro absolu rend difficile l’exploitation à grande échelle, mais les résultats sont prometteurs. Une équipe chinoise a par exemple exécuté en 2 minutes un algorithme qui aurait nécessité 2 milliards d’années de calcul sur des ordinateurs classiques. Cela pourrait contribuer à réduire l’empreinte écologique de l’IA tout en permettant d’exploiter des modèles plus complexes, proche du cerveau humain. Se pose alors le problème de savoir qui aurait accès à ces ordinateurs ? Les États, les gouvernements, les services de cybersécurité… ? Les futurs ordinateurs quantiques seraient capable de casser instantanément les clés de chiffrement utilisées aujourd’hui pour protéger nos communications sur internet, ce qui obligera de repenser l’internet de demain. »

Que pensez-vous de l’IA, est-ce un grand pas ou un danger pour l’humanité ?

AA : « Pour le moment l’IA statistique se réduit un problème d’optimisation entre la réponse fournie par la machine et celle attendue. C’est une intelligence « restreinte » qui se contente d’optimiser le modèle mathématique pour transformer les entrées du système et minimiser l’erreur de prédiction. C’est donc l’humain qui est responsable de tout le processus, en fournissant les données d’apprentissage, et en définissant la cible.

J’ai envie de croire que l’IA sera développée pour le bien de tous, d’ailleurs toutes les grandes entreprises se sont engagées dans des chartes éthiques des IA qui seront développées, et les employés veillent aux collaborations éthiques de leurs entreprises.

Mais connaissant la nature humaine et la géopolitique mondiale, des doutes sont permis quant aux mauvaises utilisations d’une telle technologie. »

L’IA remplacera-t-elle les ouvriers ou les administrateurs ?

AA : « Dans une révolution industrielle, les industries vont être remodelées, c’est-à-dire qu’il y aura des métiers qui tendront à disparaitre mais pour laisser place à la création de nouveaux métiers liés aux nouvelles technologies. L’IA va permettre l’automatisation de certaines tâches impossibles jusqu’ici, induisant la raréfaction des postes dans certains métiers. Et pour la première fois, la technologies impacte aussi bien les cols bleus que les cols blancs.

Les questions qui se posent sont alors :

  • Est-ce que notre Société est capable d’accompagner les personnes dans la transition entre anciens et nouveaux métiers?
  • Est-ce que les compétences demandées par les nouveaux métiers vont permettre à ceux qui vont perdre leurs jobs, de se former et prétendre à ces nouveaux métiers ?

La réussite de cette 4ème révolution industrielle tient dans ces deux questions. ».

Pourra-t-on créer une IA ayant sa propre conscience ?

« Aujourd’hui les IAs n’ont pas de conscience comme nous les humains. L’intelligence artificielle est « restreinte » et ne vise qu’un objectif, celui pour lequel elle a été entrainée. Des équipes de recherche travaillent sur ce sujet avec des expérimentations intéressantes, mais de l’avis des experts il faudra encore attendre 20 à 50 ans avant d’avoir les premières IA conscientes, ce qui ne manquera pas de poser de nouveaux problèmes intéressants, notamment en terme de droit. »