Votre ordinateur est-il raciste ? Nous connaissons le « comment » de l’IA, mais nous avons besoin de comprendre le « pourquoi ».
Allan Waddell de Kablamo a récemment exploré les frontières de l'intelligence artificielle pour The Australian.
Allan Waddell de Kablamo a récemment exploré les frontières de l'intelligence artificielle pour The Australian.
*Dès notre réveil, nous générons des données : le réveil de notre smartphone, la première connexion à notre messagerie, le premier article de presse que nous lisons. Face à cette masse de données collectées, le seul moyen de les analyser et d'en extraire les informations les plus précieuses est de recourir aux algorithmes et aux réseaux neuronaux d'apprentissage profond.
Si l'intelligence artificielle suscite un enthousiasme frôlant le fanatisme, elle soulève une multitude de nouvelles complications, urgentes et même philosophiques. Par exemple, les ordinateurs sont notoirement incapables de comprendre les raisonnements humains. Rappelez-vous Tay, le chatbot IA de Microsoft ? Conçu pour répondre aux questions sur Twitter, Tay apprenait à s'exprimer comme un millénial grâce à ses utilisateurs. Faute de filtres, Tay s'est mis à proférer des propos haineux, notamment des négations de l'Holocauste et des éloges d'Adolf Hitler.
Les algorithmes ne sont pas les seuls responsables. Depuis l'Antiquité grecque, on tente de codifier l'éthique humaine, et jusqu'à présent, nos efforts ont été largement vains. Comment codifier ce que nous-mêmes ne pouvons expliquer ? D'ailleurs, comment être sûr que les biais humains ne sont pas intégrés de manière intrinsèque à l'IA ? Résoudre le problème de la régulation de la prise de décision par l'IA exige l'expertise de nombreuses disciplines, non seulement l'éthique, mais aussi l'informatique, la philosophie, les sciences cognitives et la linguistique informatique. Or, l'adoption de l'intelligence artificielle est si rapide que de nombreux problèmes sont laissés à eux-mêmes, une approche potentiellement désastreuse.
Voici un exemple. Aux États-Unis, un logiciel appelé COMPAS (Correctional Offender Management Profiling for Alternative Sanctions) est utilisé pour évaluer le risque de récidive des prévenus. Les résultats de cet algorithme servent à déterminer les peines dans de nombreux États. Si l'intérêt d'un tel logiciel est évident, il y a un problème majeur : ce programme est raciste.
Une analyse récente a montré que non seulement les accusés noirs avaient presque deux fois plus de risques d'être classés à tort comme présentant un risque élevé par rapport à leurs homologues blancs, mais que les accusés blancs étaient également classés à tort comme présentant un « faible risque » beaucoup plus souvent que les accusés noirs.
Ainsi, à mesure que de plus en plus de décisions sont confiées à l'IA, la régulation de son comportement pourrait devenir cruciale. Mais comment y parvenir sans compromettre gravement l'immense potentiel de l'IA ? Une partie du défi réside dans le fait que, si nous pouvons comprendre « comment » une IA est parvenue à une certaine conclusion, découvrir le « pourquoi » est beaucoup plus complexe.
En supposant que nous puissions développer un réseau neuronal introspectif qu'une IA pourrait utiliser pour justifier ses décisions, comment savoir si ces justifications sont véridiques et non une simple invention destinée à obtenir l'approbation du formateur du réseau ? Comment savoir si l'IA nous dit la vérité ou si elle nous dit simplement ce que nous voulons entendre ?
Anupam Datta, de l'Université Carnegie Mellon, a testé la robustesse d'un réseau neuronal qui attribue des scores aux candidats en fonction de divers paramètres. Parmi ceux-ci figurent des données classiques comme l'âge, le sexe et le niveau d'études, mais aussi des paramètres tels que la capacité à soulever des charges lourdes. Si votre emploi exige de porter des objets lourds, la prise en compte de ce critère est importante, mais elle pourrait aussi favoriser les hommes dans les offres d'emploi. Pour tester cette hypothèse, certains paramètres ont été intervertis aléatoirement entre les candidats masculins et féminins. Si, après cette interversion, l'IA continue de privilégier les hommes, cela pourrait indiquer que l'algorithme sélectionne spécifiquement les hommes, indépendamment de leurs qualifications. Autrement dit, l'IA est sexiste pour des raisons qui dépassent la simple sélection de paramètres favorables aux employés.
Notre mode de vie, des moteurs de recherche à la publicité, repose sur des algorithmes qui analysent des quantités vertigineuses de données pour identifier les tendances. Leur utilité ne les exempte cependant pas d'examen critique. En effet, un outil aussi puissant que l'IA doit être compris le plus précisément possible. Il est important de répondre à ces questions dès maintenant, avant que l'IA utilisée lors des entretiens d'embauche, dans les tribunaux ou aux guichets douaniers ne tire des conclusions sans explication.
