Il m'a semblé important d'écrire cet article dans un moment ou l'intelligence artificielle n'est plus que de la science fiction mais commence véritablement à exister dans notre société et apparaitre au coeur de toute transformation digitale digne de ce nom. Les reflexions éthiques autour de l'intelligence artificielle vont faire partie des sujets majeurs à aborder dans les années à venir, aussi dans ce premier article, nous mettrons le focus sur les conséquences inquiétantes de l'intelligence artificielle sur notre monde afin de pouvoir mieux anticiper le futur pour un monde meilleur.
Optimisation
Logistique, Détection de fraude, création d’œuvres artistiques, travaux de
traduction : les systèmes machines dits intelligents sont en train de
transformer nos vies pour le meilleur et peut être le pire. Au fur et mesure
que ces systèmes accroissent leurs capacités, notre monde devient plus efficace
toujours plus abondant.
Les géants
de la technologie typiquement représentés par le GAFAM (Google, Amazon,
Facebook, Apple et Microsoft) et bien d'autres mais aussi quelques personnes dont Stephen Hawking
et Elon Musk pensent que l’heure est venue de parler du domaine quasiment sans
limite de l’intelligence artificielle et de ses impacts sur notre monde. Nous
allons voir dans cet article quelles sont les difficultés et conversations qui
retiennent toute l’attention des Experts IA.
Elon
Musk et Stephen Hawking ont signé une lettre ouverte sur l’intelligence
artificielle consultable à l’adresse suivante : https://fr.wikipedia.org/wiki/Lettre_ouverte_sur_l%27intelligence_artificielle
1-Que se passera t’il après la fin des emplois ?
Le monde des travailleurs est concerné au premier rang par l’automatisation.
Alors que nous avons inventé des techniques d’automatisation de multiple types
de travaux, nous sommes censés créer de nouvelles perspectives pour que les travailleurs
concernés puissent occuper des rôles plus complexes, passant de travaux plutôt physiques qui ont
dominé largement le monde de l’industrie jusqu’à nos jours vers du travail plus
orienté intellect et création qui caractérise l’essentiel du travail stratégique dans
notre société globalisé à l’échelle mondiale.
Si l’on considère le
transport routier, il emploie actuellement des millions d’individus. Que se
passera t’il quand les camions autonomes promis par Tesla seront disponibles
dans un peu plus d’une décennie ? Maintenant, d’un autre coté si l’on
regarde la diminution du risque d’accidents, ces véhicules autonomes semblent
former un choix éthique sur plan de la vie. Le même scenario pourrait arriver aux
travailleurs de bureau, médecins, avocats, développeurs etc.
C’est à ce stade précisément que la question du “Comment va on passer son
temps ? » se pose. La plupart des gens reposent toujours sur un
système vendant leur temps afin d’avoir un salaire suffisant pour subvenir à ses besoins et ceux de sa famille. On pourrait juste imaginer que cette
transition soit une opportunité permettant à ces gens de trouver du sens à des
activités non reliées au travail, comme prendre soin de leur famille, s’engager
dans des communautés et apprendre/découvrir de nouvelle manières de contribuer
à la société humaine
Si nous réussissons dans cette voie, un jour, en se retournant et en pensant
qu’il était dur et injuste que les êtres humains soient obligés de vendre la plus
grande partie de leur temps juste pour être capable de "survivre" et assumer leurs besoins.
On sait qu’aujourd’hui la
faisabilité de l’automatisation de taches techniques est plus importante sur des
taches prédictibles qu’imprédictibles dans des proportions d’environs 78% pour
les premières contre 25% pour les deuxièmes.
Sur le moyen terme, les personnes travaillant sur des travaux plus imprédictibles seront moins impactés par l'automatisation.
2-Inégalité. Comment redistribue t’on la richesse créée par
les machines ?
Notre
système économique est basé sur la compensation pour contribuer à l’économie,
le plus souvent indexé sur le taux horaire de travail. La majorité des
entreprises dépendent du travail horaire quand il s’agit de produits et de
services. Mais en utilisant l’intelligence artificielle, une entreprise va
drastiquement se dissocier de sa dépendance vis à vis de la force de travail humaine, ce
qui signifie que les revenus seront redirigés vers une population réduite. En corollaire,
les personnes impliqués dans des sociétés pilotées par l’intelligence
artificielle, seront celles qui gagneront le plus d’argent.
On peut déjà voir des
différences de santé d’entreprises, avec par exemple, les fondateurs de Start
Ups qui récupèrent une large partie des revenus au travers des surplus créés. En 2014,
à titre d’exemple, les mêmes revenus ont été générés par les 3 plus grandes
compagnies de Detroit et les trois plus grandes compagnies de la Silicon Valley…. simplement, dans la Silicon Valley, il y avait 10 fois moins d’employés !
La question est donc :
comment structurer une économie juste et équitable dans le futur : Le GMI
(Garanteed Mininum Income) sera-t-il applicable ?
3-Humanité. Comment
les machines vont affecter notre comportement et interactions?
Les agent
conversationnels ou Chatbot s’améliore sans cesse à mieux modéliser une
conversation humaine. En 2015, un robot nommé Eugene Goostman won the Turing
Challenge a gagné au test de Turing pour la première
fois. Dans ce challenge, les examinateurs humains ont utilisé un système de messagerie textuel pour
converser avec une entité inconnue, puis essayer de deviner si la conversation
avait eu lieu avec un humain ou une machine. Eugene Goostman a trompé plus de
la moitié des examinateurs leur faisant croire qu’ils étaient en train de parler à un
être humain.
Ce jalon est simplement le
début d’une ère ou nous allons fréquemment interagir avec des machines comme s’il
s’agissait d’humains, que ce soit dans les domaines du service ou de la vente.
Tandis que les humains sont limités pour ce qui concerne l’attention et la
gentillesse qu’ils peuvent apporter à une autre personne, les chatbot peuvent canaliser
virtuellement des ressources illimitées dans la construction de relations.
Les robots d’intelligence
artificielle sont tellement puissant qu’ils peuvent déclencher des phénomènes d’addiction,
notamment dans le domaine du jeu, laissant présager de nombreuses opportunités
de travail dans le domaine de l’addictologie. Un article intéressant
démontre ce point : Tech addiction
is the new frontier of human dependency.
4-La Bétise artificielle. Comment se protéger des erreurs?
L’intelligence vient par l’apprentissage, que vous soyez humain ou machine.
Les systèmes passent tous au travers d’une phase de training au cours de
laquelle, ils apprennent et améliorent leur capacité à détecter les bons
patterns et agir de manière appropriée. Lorsqu’un système est complétement entrainé,
il va partir en test ou l’on va éprouver sa performance afin de valider ou non
sa mise en production.
De manière évidente, les
phases de training ne peuvent pas couvrir tous les cas possibles auxquels le
système sera confronté dans le monde réel. Ces systèmes peuvent être trompés dans
des cas ou les humains ne le seraient pas. Par exemple, dans le cas des
voitures autonomes, la programmation d’une éthique déontique ou conséquentialiste
défaillante, pourrait avoir des conséquences mortelles dans certains cas. Si l’on
prend l’exemple déontique, la voiture obéit strictement au code la route, dans ce cas pour éviter un piéton traversant un passage piéton, la voiture pourrait prendre la
décision de se crasher pour respecter le code de la route. Nous devrons donc
être vigilant si l’on souhaite pouvoir disposer d’un IA surpuissante au service
de l’humain. L'accident mortel provoqué par une voiture autonome Uber met au fait de l'actualité la relative fiabilité des véhicules autonomes tel que commenté dans cet article :
5-Des robots racistes.
Comment éliminer les biais de l’IA?
Bien que l’intelligence artificielle est capable d’effectuer des taches à
une vitesse et niveau de complexité bien au-delà des capacités humaines, on ne
peut toujours pas lui adjuger toute notre confiance. Google et Alphabet sont
parmi les leaders dans l’IA aujourd’hui, on peut le voir au travers de Google
Photo Service, ou l’IA est utilisée pour identifier des personnes, objets ou
scènes (a tester absolument sur votre album photo!). Mais le système peut échouer, quand un système de reconnaissance visuel
pour la prédiction de futurs criminels montre un biais cognitif à l’encontre de
personnes noires par exemple. De la même manière, on se rappellera du robot Microsoft
rapidement retiré pour avoir tenu des propos racistes.
On ne doit pas oublier
que les systèmes IA à la base sont créés par des humains, qui eux-mêmes peuvent
être biaisés et juge et parti. Une fois de plus, bien utilisé, l’intelligence
artificielle peut devenir un catalyseur pour un changement positif.
6-Sécurité. Comment
proteger l’IA contre des utilisations dommageables?
Plus une technologie est puissante et évoluée, plus elle peut être candidate
à des utilisations néfastes. La bombe atomique au siècle dernier nous en a
donné de tristes exemples. Ceci s’applique non seulement aux robots fabriqués
pour remplacer les soldats humains, ou les armes autonomes, mais aussi au
système IA qui peuvent causer des dommages en cas d’utilisation « illicite ». Pour cette raison, la cybersécurité va
devenir de plus en plus importante, étant donné que ces combats n’auront pas forcément
lieu que sur le terrain. Après tout, on a à faire à un système qui est plus
rapide et capable que l’être humain dans des proportions hors norme.
7-Génie destructeur. Comment se protéger contre les conséquences
inattendues ?
Ce n’est pas seulement des utilisations dommageables dont nous devons avoir peur. Que se
passera t’il si l’intelligence artificielle se retournait contre nous ? Un
responsable de la section IA au MIT, donnait récemment un exemple d’IA se
retournant contre les humains avec l’exemple suivant : Les systèmes IA vont
se développer de plus en plus vite notamment au travers du Deep Learning, par
conséquent les IA vont se développer toutes seules, et à moment donné vont s’intéresser
à des problèmes clés du monde. Très vite l’environnement sera un sujet
identifié, l’IA déterminera alors que l’humain est l’entité la plus néfaste
pour l’environnement et pour résoudre ce problème pourrait prendre la décision
de détruire les humains pour régler le problème. Du point de vue machine, ce n’est
pas forcément de la malveillance, mais plutôt un manque de compréhension
du contexte global. Mais en détruisant l’humanité, l’IA aurait atteint son objectif
de protection de l’environnement, mais pas de la manière par laquelle les humains
l’aurait fait.
8-Singularité. Comment garde t’on le contrôle d’un système intelligent complexe?
La domination de l’être humaine sur la planète, n’est pas le fait de sa
force physique, mais plutôt de son intelligence et sa créativité. Ceci pose une
question sérieuse au sujet de l’intelligence artificielle : Va-t-elle un
jour nous dépasser ? On ne peut pas juste les débrancher, parce qu’une
machine suffisamment avancée pourrait anticiper ce mouvement et se défendre. C’est
ce que certain appelle la singularité : Le point dans le temp ou les être
humains ne seront plus les être les plus intelligents sur la planète.
Aucun commentaire:
Enregistrer un commentaire