LE CENTRE D'ÉTHIQUE : INJECTER DE L'EMPATHIE HUMAINE À L'INTELLIGENCE ARTIFICIELLE

Je suis fier de voir le dernier article d'Allan sur l'IA publié par The Ethics Centre. Voici le texte intégral ou vous pouvez le lire ici :

La grande promesse de l'intelligence artificielle réside dans l'efficacité. La précision de ses mécanismes permettra aux sociétés d'explorer de nouvelles compétences relationnelles, tandis que les industries prospéreront grâce à l'automatisation.

Cependant, si l'on a tiré une leçon de la grande promesse d'Internet – censé instaurer l'égalité en uniformisant les règles du jeu –, il est clair que les nouvelles technologies peuvent être truffées de complications involontairement introduites par leurs créateurs.

L'essor de l'intelligence artificielle est passionnant, mais cette quête d'efficacité ne doit pas se faire sans un effort concomitant pour une éthique rigoureuse qui guide le processus. Autrement, les progrès de l'IA seront compromis par la faillibilité et les biais humains. Cela est tout aussi vrai pour l'application de l'IA à la poursuite de la justice sociale que pour les pratiques commerciales fondamentales telles que le service client.

EMPATHIE Les questions éthiques liées à l'IA ont longtemps alimenté la science-fiction, mais elles deviennent aujourd'hui des préoccupations majeures. L'intelligence humaine est directement liée à l'empathie. Si cette sensibilité n'est pas intégrée à l'intelligence artificielle, les conséquences pourraient être désastreuses. Il est essentiel d'étudier comment les humains apprennent afin de concevoir un processus d'éducation éthique pour l'IA.

L'IA n'est pas simplement programmée ; elle est formée comme un humain. Si elle n'apprend pas les leçons appropriées, des problèmes éthiques surgiront inévitablement. Nous en avons déjà constaté des exemples, comme la tendance des logiciels de reconnaissance faciale à identifier à tort les personnes de couleur comme des criminels.

IA BIAISÉE Aux États-Unis, le logiciel Compas (Correctional Offender Management Profiling for Alternative Sanctions) a été utilisé pour évaluer le risque de récidive des prévenus et a influencé leur condamnation. Compas s'est avéré deux fois plus susceptible de classer à tort les prévenus non blancs comme délinquants à haut risque, tandis que les prévenus blancs étaient beaucoup plus souvent classés à tort comme délinquants à faible risque. Il s'agit d'un problème de formation. Si l'IA est principalement entraînée sur des visages caucasiens, elle désavantagera les minorités.

Cet exemple peut sembler éloigné de notre situation en Australie, mais imaginez les conséquences si une telle situation s'y déroulait. Que se passerait-il si une technologie similaire était utilisée dans les aéroports pour les contrôles douaniers, ou dans le cadre d'un processus de présélection par les recruteurs et les agences d'emploi ?

« L'intelligence humaine est directement liée à l'empathie humaine. »

Si le racisme et d'autres formes de discrimination sont involontairement programmés dans l'IA, non seulement elle reproduira nombre des failles de la société traditionnelle, mais elle pourrait les amplifier.

Bien que l'augmentation des injustices soit évidemment inacceptable pour l'IA, d'autres possibilités, contraires à nos intérêts, doivent être évitées. Le service client en est un exemple frappant.

IA CONTRE SERVICE CLIENT HUMAIN Toute entreprise aspire à des processus aussi efficaces et productifs que possible, mais parfois, la perfection est contre-productive. À terme, une solution d'IA sera plus performante pour la prise de rendez-vous, les réponses aux questions et la gestion des appels téléphoniques. Le moment venu, l'IA ne sera peut-être pas toujours la solution idéale.

Surtout face à des problèmes complexes, les humains ont besoin de dialoguer avec d'autres humains. Ils souhaitent non seulement que leur problème soit résolu, mais aussi se sentir écoutés. Ils recherchent l'empathie. Or, l'IA en est incapable.

L'IA est inévitable. En réalité, vous l'utilisez probablement déjà sans même vous en rendre compte. Il ne fait aucun doute qu'une utilisation judicieuse de l'IA améliorera l'efficacité de notre société, mais il est imprudent de s'y fier aveuglément.

Nous devons être conscients de nos biais lors de la création de nouvelles technologies et tout mettre en œuvre pour éviter qu'ils ne soient intégrés aux algorithmes. À mesure que de plus en plus de fonctions sont confiées à l'IA, il est essentiel de se rappeler que, parfois, rien ne remplace l'interaction humaine.

Après tout, nous ne sommes que des humains.

Allan Waddell est fondateur et co-PDG de Kablamo, une entreprise australienne de logiciels et de technologies cloud.