Pour une intelligence artificielle responsable

shutterstockPendant longtemps, on a pensé que l’idée relevait de la science-fiction : des machines intelligentes au point d’effectuer certaines tâches à la place des humains, voire de les remplacer. Les films à gros budget en étaient pleins, de Minority Report (2002) à A.I. Intelligence Artificielle (2001), de Blade Runner (1982) à Ghost in the Shell (1995 et 2017). Et puis, ces dernières années, la prédiction s’est concrétisée. L’intelligence artificielle est entrée dans le monde de l’entreprise et dans nos vies quotidiennes. Posant une question qui pourrait s’avérer cruciale pour l’avenir de l’humanité : dans un monde marqué par l’intelligence des machines, comment garantir qu’elle soit toujours mise au service de tous ?

 

 

Une brève histoire de l’IA

L’IA se développe aujourd’hui parce qu’elle s’adosse à un phénomène relativement récent : le Big Data. Les NTIC d’abord, les objets connectés ensuite ont fait exploser le nombre de données que l’humanité génère chaque jour. Données que nous apprenons à collecter, analyser et utiliser pour améliorer un service, un produit, voire résoudre certains défis environnementaux ou sociaux. L’une des utilisations possibles, c’est donc l’intelligence artificielle. C’est en effet en étant “nourrie” de masses de données que la machine apprend, grâce à des techniques comme le machine learning (des algorithmes d’apprentissage assez simples qui lui permettent de “faire sens” d’une base de données) et, de plus en plus, le deep learning (l’apprentissage par couches, qui permet aux ordinateurs d’effectuer des tâches jusqu’ici accessibles uniquement aux cerveaux humains, comme reconnaître ce qu’il y a dans une image). Au final, l’ordinateur devient capable d’effectuer des tâches pour lesquelles il n’a pas été programmé. Et les experts s’accordent à dire qu’à horizon 2050 se sera imposée l’intelligence artificielle généralisée (AGI), dont les compétences égaleront celles des humains dans toute une série de domaines.

“On aura des robots dans nos maisons, dans nos rues avec les voitures autonomes, mais aussi dans les gares, les hôpitaux, et la ville en général (…). Nos maisons, les espaces publics deviendront intelligents pour permettre d'augmenter notre sécurité, notre santé, notre productivité.”

 

Une IA au service de l’humanité...

Ce que ce futur nous promet, c’est celui de machines si intelligentes qu’elles deviendraient de véritables assistants personnels, bientôt indispensables dans le monde de l’entreprise comme dans la vie quotidienne. Pour Alexandre Alahi, chercheur dans les laboratoires d'intelligence artificielle de l'université de Stanford, cité par le Parisien : “On aura des robots dans nos maisons, dans nos rues avec les voitures autonomes, mais aussi dans les gares, les hôpitaux, et la ville en général (…). Nos maisons, les espaces publics deviendront intelligents pour permettre d'augmenter notre sécurité, notre santé, notre productivité.” L’IA peut déjà prédire les besoins de maintenance de votre chaudière ou des équipements industriels ; elle permet aux entreprises de proposer des services taillés sur mesure pour leurs clients ; elle sait aussi faire de la traduction simultanée, aider à gérer les flux de circulation dans la ville et même créer ses propres oeuvres d’art. Demain, grâce à elle, les voitures se conduiront toutes seules, on passera en caisse sans vider son caddie, les premiers secours connaîtront les spécificités d’une scène d’accident avant même d’y arriver grâce à la reconnaissance d’images, etc. La liste est longue, potentiellement infinie.

 

machine learning

 

… qui doit donc veiller au bien commun

L’omniprésence annoncée de l’IA pose d’importantes questions éthiques. Pour s’assurer qu’elle reste au service de tous, il est indispensable de mener dès maintenant une réflexion sur la roboéthique. Le terme recouvre d’une part l’éthique des concepteurs de robots et d’autre part le sens moral dont seront dotées les machines elles-mêmes. Il s’agit, en somme, de s’assurer que l’IA ne pourra pas évoluer de manière à prendre des décisions contraires à l’intérêt général. Comme le résume le président du comité d’éthique du CNRS Jean-Gabriel Ganascia, dans un entretien accordé à Regards sur le Numérique, il faut “réfléchir aux valeurs humaines que l’on peut intégrer aux machines, afin que leurs actions ne soient pas uniquement décidées par des systèmes reprogrammables par apprentissage et, en conséquence, un peu imprévisibles.” C’est tout le paradoxe de la roboéthique, puisque par définition l’IA doit être capable d’effectuer des tâches pour laquelle elle n’est pas programmée, et qu’on ne peut donc pas prévoir.

Cette exigence soulève une autre question : avec quelles données nourrit-on la machine ? En mars 2016, un chatbot lancé sur Twitter par Microsoft a été désactivé au bout de quelques heures : apprenant trop bien de ses interactions avec les trolls qui cherchaient à la pousser dans ses retranchements, Tay a, au bout de huit heures à peine, tenu des propos racistes et conspirationnistes et nié l’Holocauste. Imaginons une intelligence artificielle qui aie le pouvoir de prendre des décisions concrètes (interrompre les transports en commun ou l’approvisionnement en électricité, par exemple) et qui soit aussi influençable intellectuellement : les dégâts seraient dévastateurs. Enfin, on ne peut parler d’éthique sans parler de gouvernance du Big Data : l’IA repose principalement sur des données générées par des citoyens, des consommateurs, des clients, et qui sont ensuite détenues par des acteurs publics ou privés. Il est donc indispensable que ceux qui émettent la donnée sachent qui la collecte et dans quel but, qu’ils aient un droit de regard sur ce à quoi elle sert. L’un des grands enjeux des années qui viennent sera donc d’accroître la “data literacy” de la société dans son ensemble, des salles de classes aux salles de réunions, pour favoriser un dialogue ouvert sur ce que la donnée permet. Une intelligence artificielle au service de tous, on l’espère.

 

 


 

 

Pour aller plus loin : plus de 100 experts du monde entier interviendront du 17 au 19 octobre pour discuter des bouleversements technologiques, sociétaux et économiques de notre époque et présenter leurs réflexions et bonnes pratiques. 

Rendez-vous du 17 au 19 octobre 2017 à Lille