Bâtir une IA responsable : comment aborder le débat sur l’éthique de l’IA ?

Qu’est-ce que l’IA responsable ?

À mesure de ses évolutions successives, l’IA apporte des avancées qui viennent bouleverser nos vies. Aussi, avant que son essor n’atteigne son point culminant, il est crucial de dresser les priorités de développement de l’IA responsable, en tenant compte de tous ses impacts sociétaux potentiels.

L’IA responsable est une approche du développement et du déploiement de l’intelligence artificielle sous un angle éthique et juridique. L’objectif consiste à employer l’IA d’une manière qui soit sûre, fiable et éthique. Ainsi, son utilisation gagnerait en transparence et contribuerait à réduire les problèmes tels que les biais.

Alors, pourquoi tant de battage autour de l’éthique de l’IA ? L’éthique de l’intelligence artificielle représente un enjeu considérable pour l’humanité. L’innovation à bon escient et responsable est un concept qui, en soi, n’est pas facile à saisir, mais avant toute chose, il est crucial de se pencher sur la question de l’éthique de l’IA et d’en intégrer les principes au cœur du développement et de l’application des systèmes d’IA. En bref, une IA éthique repose sur des valeurs sociétales et tend à servir de manière vertueuse. L’IA responsable, en revanche, consiste en une approche plus tactique, en ce qu’elle concerne la manière dont nous développons et utilisons les technologies et les outils (p. ex., diversité, biais). 

En quoi l’IA responsable est-elle importante ?

L’IA devenant un élément de plus en plus critique pour l’activité des organisations, le sujet de l’IA responsable devrait figurer au premier chef des considérations à examiner. En effet, il apparaît de plus en plus nécessaire de favoriser de manière proactive des décisions d’IA qui soient équitables, responsables et éthiques, dans le respect des lois et réglementations en vigueur.

Il convient en premier lieu de bien appréhender les préoccupations liées à l’IA pour créer un cadre éthique qui préside à son développement et son utilisation. Toute organisation souhaitant s’assurer que l’utilisation qu’elle fait de l’IA n’est en rien préjudiciable devrait le faire savoir à autant de parties prenantes possibles, de même qu’aux consommateurs, clients, fournisseurs et autres parties susceptibles d’être concrètement impliqués et affectés par cette décision.

Développer et appliquer l’IA dans le respect de principes d’éthique de l’IA suppose en effet une transparence des processus de décision et l’élaboration de politiques pragmatiques en matière d’éthique de l’IA. À l’aune de travaux d’études approfondies, de larges consultations et d’analyses de l’impact éthique, associés à des contrôles et rééquilibrages continus, nous pouvons nous assurer que la technologie de l’IA est développée et déployée de manière responsable, dans l’intérêt de tous, sans discrimination de genre, d’origines ethniques, de croyances religieuses, d’âge, de situations géographiques ou de richesse.

Quels sont les principes d’une IA responsable ?

Se confronter aux préoccupations éthiques, c’est envisager toutes leurs ramifications de manière prospective et approfondie. Il est capital d’aborder la dimension éthique de l’IA non pas comme un obstacle, mais comme un chemin vers un progrès technologique pérenne et durable. C’est pourquoi il est essentiel d’intégrer les principes de l’IA responsable pour que cette technologie tende vers un développement dans l’intérêt de tous.

Bien qu’il n’existe pas de principes fixes et universellement acceptés en matière d’éthique de l’IA, plusieurs lignes directrices se dégagent. Voici quelques principes clés de l’éthique en matière d’IA :

• Équité : les ensembles de données utilisés pour l’entraînement du système d’IA doivent avoir fait l’objet d’une attention particulière pour éviter la discrimination.
• Transparence : les systèmes d’IA devraient être conçus de sorte à permettre aux utilisateurs de comprendre le fonctionnement des algorithmes.
• Absence de malveillance : les systèmes d’IA devraient éviter de produire des effets néfastes pour les personnes, la société ou l’environnement.
• Responsabilité : les développeurs, organisations et décideurs devraient s’assurer que l’IA est développée et utilisée de manière responsable.
• Respect de la vie privée : l’IA doit protéger les données à caractère personnel des individus, ce qui implique de mettre au point des mécanismes permettant à ces personnes d’avoir la main sur la manière dont leurs données sont collectées et utilisées.
• Robustesse : Les systèmes d’IA doivent être sûrs, c’est-à-dire résistants aux erreurs, aux attaques adverses et aux entrées inattendues.
• Inclusivité : la diversité des points de vue aide à identifier les potentiels problèmes d’éthique de l’IA et garantit un effort collectif dans le sens de leur résolution.

 

Promouvoir des pratiques responsables en matière d’IA

Ces principes devraient contribuer à orienter la prise de décisions réfléchies et responsables autour de l’IA. Pour passer de la théorie à la pratique, les organisations doivent établir des politiques pragmatiques en matière d’éthique de l’IA. Ces politiques sont essentielles pour traiter des préoccupations éthiques tout au long du cycle de vie de l’IA, en garantissant l’intégrité depuis la conception jusqu’à l’application dans le monde réel.

Bien que les organisations puissent choisir différentes voies pour intégrer des pratiques d’IA responsables dans leurs opérations, il existe quelques bonnes pratiques en matière d’IA qui peuvent aider à mettre en œuvre ces principes à chaque étape du développement et du déploiement.

Pour décider des modalités d’instauration d’une éthique de l’IA, les entreprises devraient :

• favoriser la collaboration pluridisciplinaire, en impliquant des experts de la politique, de la technologie, de l’éthique et de la défense des intérêts sociétaux pour garantir une diversité des points de vue
• donner la priorité à la formation continue sur les meilleures pratiques en matière d’IA à tous les niveaux de l’organisation pour développer la sensibilisation et l’adaptabilité
• mettre en œuvre l’éthique de l’IA dans tout l’environnement technologique, en créant des solutions d’IA éthique à travers tous les niveaux de l’organisation
• établir des mécanismes de supervision clairs, comme des comités d’éthique ou des comités d’examen, pour suivre la conformité et favoriser des prises de décision éthiques
• protégez la vie privée des utilisateurs finaux et les données sensibles grâce à une gouvernance de l’IA et à des politiques d’utilisation des données solides
• encourager la transparence des processus d’IA, qui favorise la responsabilité et la confiance des parties prenantes et du grand public

Suivre les meilleures pratiques en matière d’IA

Pour que votre système d’IA reste fiable, il est important de se concentrer sur trois domaines clés : lui fournir des données de qualité et diversifiées, s’assurer que les algorithmes peuvent gérer cette diversité et tester le logiciel résultant pour détecter toute erreur d’étiquetage ou mauvaise corrélation.

Voici quelques pistes pour y parvenir :

• Concevoir pour les humains en utilisant un ensemble varié d’utilisateurs et de scénarios d’utilisation, et en incorporant ce retour d’information avant et tout au long du développement du projet.
• S'appuyer sur diverses mesures pour évaluer la formation et le suivi, notamment des enquêtes auprès des utilisateurs, des indicateurs de performance globale du système et des taux de faux positifs et de faux négatifs répartis entre différents sous-groupes.
• Examiner les données brutes à la recherche d’erreurs (par exemple, valeurs manquantes, étiquettes incorrectes, échantillonnage), de biais de formation (par exemple, méthodes de collecte de données ou biais sociaux inhérents) et de redondances - autant d’éléments essentiels pour garantir les principes de justice, d’équité et d’exactitude de l’IA responsable dans les systèmes d’IA.
• Cerner les limites de votre modèle afin d’atténuer les biais, d’améliorer la généralisation et de garantir des performances fiables dans des scénarios réels ; et communiquez ces limites aux utilisateurs dans la mesure du possible.
• Tester continuellement votre modèle en fonction des principes de l’IA responsable pour vous assurer qu’il tient compte des performances réelles et des commentaires des utilisateurs, et envisager des solutions à court et à long terme pour résoudre les problèmes.

IA responsable : exemples de réussite

En intégrant les meilleures pratiques et les principes de l’IA responsable, nous pouvons nous assurer que nous aboutissons à des modèles d’IA générative qui enrichissent nos vies tout en laissant les humains aux commandes. Alors que nous nous dirigeons progressivement vers une utilisation plus responsable de l’IA, de nombreuses entreprises ont déjà réussi à créer des produits alimentés par l’IA qui sont sûrs et sécurisés.

Examinons quelques exemples d’IA responsable :

• Le Fair Isaac Score, de l’entreprise de logiciels d’analyse FICO, est un système d’évaluation du crédit qui utilise des algorithmes d’intelligence artificielle pour évaluer la solvabilité. FICO maintient des pratiques responsables en matière d’IA en vérifiant régulièrement ses modèles d’évaluation pour détecter les biais et les disparités, en se basant sur les mathématiques plutôt que sur un jugement humain subjectif.
• La startup PathAI développe des solutions de diagnostic basées sur l’IA pour aider les pathologistes à diagnostiquer les maladies. Pour garantir une utilisation sûre et responsable de l’IA dans ses logiciels, l’entreprise valide la précision et la fiabilité de ses algorithmes au moyen de tests cliniques rigoureux et d’études évaluées par des pairs.
• Avec son approche centrée sur les personnes, Watsonx Orchestrate d’IBM révolutionne l’acquisition de talents. Cette solution d’IA pour les RH et le recrutement favorise l’équité et l’inclusion dans le processus d’embauche en générant des viviers de candidats diversifiés, en utilisant des critères d’évaluation équitables et en incitant les managers à intégrer des perspectives diverses dans le processus d’entretien.
• Ada Health fournit aux utilisateurs des évaluations et des conseils médicaux personnalisés. Le chatbot doté d'une IA gère en toute sécurité le diagnostic et le dépistage d’affections courantes telles que la rétinopathie diabétique et le cancer du sein. Les bonnes pratiques en matière d’IA sont garanties par la divulgation transparente du fait que les utilisateurs interagissent avec un chatbot d’IA.
• Grâce à une constellation de satellites, Planet Labs ouvre la voie à l’utilisation de l’IA dans l’imagerie satellitaire, transformant ainsi la manière dont nous surveillons l’environnement, analysons les modèles climatiques et évaluons les rendements agricoles. En collaborant avec des organisations environnementales et des décideurs politiques, l’entreprise s’assure que les meilleures pratiques en matière d’intelligence artificielle sont intégrées dans son modèle.

L’approche normative

Dans notre cheminement vers une IA responsable, toutes les couches de la société doivent être interpellées et impliquées. En collaboration avec la Commission électrotechnique internationale (IEC), l’ISO poursuit ce cheminement en élaborant des Normes internationales qui préservent et favorisent l’application raisonnée des technologies de l’IA.

Pour parvenir à une IA éthique, les gouvernements, les organisations et les entreprises du monde entier doivent incarner ces valeurs, en garantissant que leurs efforts d’innovation sont tous adossés à un principe de responsabilité éthique. Les Normes internationales seront une aide précieuse pour instaurer une éthique de l’IA en filigrane de toutes les initiatives entreprises, en posant un cadre cohérent au développement de bonnes pratiques dans cette industrie transformative.

S’engager pour une IA responsable n’est pas l’affaire d’un jour, c’est un effort sur la durée qui demande vigilance et adaptation. Mais les organisations doivent avoir à l’esprit que cet engagement permet non seulement d’aboutir à une IA bénéfique à tous, mais également que cela leur ouvre tout le potentiel que renferme cette technologie révolutionnaire.

• ISO/IEC 42001 Intelligence artificielle — Système de management

Récolter les fruits

Il y a tout lieu d’être optimiste quant à l’idée d’un futur où l’IA responsable améliore la vie des hommes. Elle est déjà à l’origine de fabuleuses avancées dans les domaines de la santé, de l’éducation et de l’analyse des données. Elle a la capacité d’amplifier la résilience et l’ingéniosité humaines à un moment où nous, et notre planète, en avons le plus besoin. Ancrée dans une conception éthique, elle peut nous offrir une symbiose entre innovation technologique et principes humains fondamentaux, pour aboutir à une communauté mondiale inclusive, florissante et durable.

L’IA responsable représente une vision complète en miroir du tissu éthique de la société dans l’intelligence de la machine. En d’autres termes, elle est garante de systèmes d’IA respectueux des droits humains, de la vie privée et de la protection des données. Sous cet angle, chaque initiative d’IA entreprise devient une pierre apportée à l’édifice d’un futur où la technologie augmente non seulement les capacités, mais respecte et améliore la condition humaine.