Pratiques d'IA responsable
Une IA con?ue de mani¨¨re responsable pour des solutions fiables
Nous d¨¦veloppons des fonctionnalit¨¦s d'IA de mani¨¨re responsable d¨¨s la conception, offrant ¨¤ nos clients les outils et les capacit¨¦s dont ils ont besoin pour d¨¦ployer, configurer et utiliser l'IA en toute confiance et atteindre leurs objectifs.
L'IA responsable chez Â鶹´«Ã½
Â鶹´«Ã½ est un leader du secteur en mati¨¨re de gouvernance de l'IA responsable (RAI). Parce que nous voulons que notre IA soit une force positive, nous ¨¦valuons et g¨¦rons avec rigueur les risques associ¨¦s. Notre ¨¦quipe collabore dans toute l'entreprise Â鶹´«Ã½ pour garantir que notre IA est con?ue dans le respect des droits humains et de la s¨¦curit¨¦, et qu'elle b¨¦n¨¦ficie r¨¦ellement ¨¤ la soci¨¦t¨¦, en mettant en ?uvre une IA responsable d¨¨s sa conception.
Nous avons pris les devants en ¨¦tablissant plusieurs partenariats, par exemple avec Coalfire, un leader en cybers¨¦curit¨¦, pour ¨¦valuer nos selon le cadre de gestion des risques de l'IA du NIST, et avec Schellman pour certifier notre programme selon les normes ISO?42001. Ces ¨¦valuations ind¨¦pendantes valident notre engagement ¨¤ respecter les normes les plus strictes en mati¨¨re d'IA responsable, y compris les contr?les en mati¨¨re de s¨¦curit¨¦ et de confidentialit¨¦ de l'IA.
?valuation rigoureuse des risques
En termes de risques mena?ant les droits et la s¨¦curit¨¦ des utilisateurs, toutes les IA ne se valent pas. La premi¨¨re ¨¦tape consiste donc toujours ¨¤ ¨¦valuer rigoureusement les risques. Cela nous aide ¨¤ identifier les domaines potentiellement pr¨¦occupants, afin de nous assurer que toute notre IA, qu'elle soit destin¨¦e aux clients ou ¨¤ nos propres ¨¦quipes, soit responsable et ¨¦thique.
Le parcours d'¨¦valuation pr¨¦voit diff¨¦rents points de contr?le et nous r¨¦visons nos cas d'usage de l'IA au moins deux fois?: une premi¨¨re fois au moment de la conception et une autre fois avant son utilisation. Cela nous permet de d¨¦tecter rapidement tout probl¨¨me ¨¦ventuel. Nous cr¨¦ons ensuite des plans clairs pour g¨¦rer ces pr¨¦occupations, selon que notre r?le consiste ¨¤ d¨¦velopper l'IA ou ¨¤ la d¨¦ployer.
?
Notre m¨¦thode d'¨¦valuation des risques
Le niveau est d¨¦termin¨¦ par des facteurs incluant la capacit¨¦ du produit ¨¤ ¨¦tablir des pr¨¦dictions ou cat¨¦gorisations concernant les contributeurs individuels, son impact potentiel principal ou secondaire sur leurs opportunit¨¦s ¨¦conomiques, et d'autres aspects li¨¦s aux caract¨¦ristiques ou au contexte de l'IA utilis¨¦e. Nous prenons ¨¦galement en compte le ??risque inacceptable?? dans cette ¨¦valuation pour identifier les cas d'usage qui ne respectent pas notre structure de gouvernance approuv¨¦e en raison de possibles pr¨¦judices caus¨¦s aux personnes ou de menaces pour les droits humains fondamentaux.
Chaque niveau de risque est associ¨¦ ¨¤ un ensemble sp¨¦cifique de protocoles ou de normes visant ¨¤ att¨¦nuer ces risques. Les fonctionnalit¨¦s d'IA pr¨¦sentant un risque plus ¨¦lev¨¦ sont soumises ¨¤ des exigences plus rigoureuses et ¨¤ un plus grand nombre de protocoles. Cela permet de nous assurer que le niveau de surveillance est proportionnel aux risques encourus lorsque le produit est utilis¨¦.
Que nous d¨¦veloppions l'IA ou que nous l'utilisions, nos ¨¦valuations sont adapt¨¦es en cons¨¦quence. Cela nous aide ¨¤ anticiper, ¨¤ d¨¦tecter rapidement les probl¨¨mes potentiels et ¨¤ d¨¦velopper et utiliser notre IA de mani¨¨re s?re et responsable. Nos politiques internes d¨¦finissent plus pr¨¦cis¨¦ment les cas d'usage de l'IA interdits, les r?les et les responsabilit¨¦s, et d¨¦crivent le calendrier et les exigences sp¨¦cifiques pour mener ¨¤ bien l'¨¦valuation des risques de l'IA responsable.
Notre engagement en faveur d'une IA responsable
L'utilisation responsable de l'IA est une d¨¦marche qui s'inscrit dans le temps. Nous nous engageons ¨¤ suivre en permanence l'¨¦volution des tendances r¨¦glementaires, des attentes soci¨¦tales et des cadres de bonnes pratiques. Notre ¨¦quipe continue de faire ¨¦voluer activement ses pratiques et ses programmes pour que notre approche du d¨¦veloppement et du d¨¦ploiement de l'IA reste juste, fiable, ¨¦thique et align¨¦e sur les normes les plus strictes de l'IA responsable.?
Nous sommes r¨¦gis par des cadres de gouvernance de l'IA tels que le cadre de gestion des risques li¨¦s ¨¤ l'IA du NIST (AI RMF). Nous proc¨¦dons ¨¦galement ¨¤ une ¨¦valuation continue des r¨¦glementations actuelles et en d¨¦veloppement selon notre programme et nos pratiques d'IA responsable, y compris la loi sur l'IA de l'UE, la loi sur l'IA du Colorado et d'autres r¨¦glementations et cadres directeurs ¨¦mergents au niveau des ?tats, local, national et international.
Chez Â鶹´«Ã½, nous privil¨¦gions la transparence et fournissons des informations claires pour faciliter la prise de d¨¦cision. Ci-dessous, nous d¨¦crivons les principaux protocoles d'IA responsable que nous avons adopt¨¦s pour une gouvernance bas¨¦e sur les risques dans notre cycle de vie de l'IA, que nous partageons avec nos ¨¦quipes de d¨¦veloppement et de d¨¦ploiement de l'IA selon le niveau de risque du cas d'usage, comme d¨¦crit pr¨¦c¨¦demment.
Responsabilit¨¦ de l'IA
Identification des risques
Description du d¨¦veloppement
Identifier et ¨¦valuer de mani¨¨re proactive le niveau de risque du produit ou de la fonctionnalit¨¦ dans son ensemble.
?
Cela inclut les risques ¨¦thiques, sociaux et techniques inh¨¦rents au cas d'usage et aux caract¨¦ristiques pr¨¦vus de la fonctionnalit¨¦ d'IA, ce qui nous permet d'att¨¦nuer les pr¨¦judices qui pourraient se produire en aval de la production.
?
Cela nous permet de comprendre les pr¨¦judices potentiels, mais aussi les possibles cons¨¦quences positives d'un d¨¦veloppement ad¨¦quat, et cela nous montre la voie pour fournir ces fonctionnalit¨¦s en toute s¨¦curit¨¦.
Description du d¨¦ploiement?
Similaire ¨¤ la description du d¨¦veloppement.
R?les et responsabilit¨¦s
Description du d¨¦veloppement
D¨¦finir clairement les r?les et responsabilit¨¦s des diff¨¦rentes ¨¦quipes impliqu¨¦es dans le d¨¦veloppement des fonctionnalit¨¦s d'IA?; par exemple, produit et technologie, ing¨¦nierie ML, juridique et conformit¨¦, confidentialit¨¦, etc. Cela garantit la responsabilit¨¦, la collaboration et la diversit¨¦ des contributions tout au long du parcours de d¨¦veloppement de l'IA.
?
Par ailleurs, cela cr¨¦e naturellement un r¨¦seau d'experts qui pourront ¨ºtre sollicit¨¦s pour des questions et du support lorsque de nouvelles ¨¦quipes se pencheront sur la structure de gouvernance.
?
Enfin, cela permet une contribution structur¨¦e au cadre de gouvernance de l'IA responsable ¨¤ mesure que de nouveaux cas particuliers sont identifi¨¦s et que l'entreprise change et se d¨¦veloppe.
?
Description du d¨¦ploiement
Similaire ¨¤ la description du d¨¦veloppement.
Preuve d'utilit¨¦
Description du d¨¦veloppement
Recueillir et documenter les informations d¨¦montrant l'utilit¨¦ de la fonctionnalit¨¦ d'IA. Il s'agit de prouver comment la fonctionnalit¨¦ atteint l'objectif vis¨¦ et apporte une valeur ajout¨¦e aux utilisateurs.
?
En d'autres termes, la fonctionnalit¨¦ d'IA apporte-t-elle r¨¦ellement de la valeur aux utilisateurs??
?
Description du d¨¦ploiement
Similaire ¨¤ la description du d¨¦veloppement.
Transparence et explicabilit¨¦
·¡³æ±è±ô¾±³¦²¹²ú¾±±ô¾±³Ù¨¦
Description du d¨¦veloppement
Apporter des explications claires sur le fonctionnement de la fonctionnalit¨¦ d'IA et sur la fa?on dont ses r¨¦sultats sont obtenus. Il peut s'agir de documents destin¨¦s aux clients, tels que des fiches d'information sur l'IA, des descriptions de l'interface utilisateur et d'autres m¨¦thodes visant ¨¤ favoriser la transparence et la compr¨¦hension des donn¨¦es utilis¨¦es pour g¨¦n¨¦rer les r¨¦sultats.
?
Description du d¨¦ploiement
Similaire ¨¤ la description du d¨¦veloppement.
±õ²Ô³Ù±ð°ù±è°ù¨¦³Ù²¹²ú¾±±ô¾±³Ù¨¦
Description du d¨¦veloppement
Viser ¨¤ rendre les r¨¦sultats des fonctionnalit¨¦s d'IA aussi compr¨¦hensibles et clairs que possible pour les clients et utilisateurs.
?
Offrir des explications claires et des documents de support dans les fiches d'information sur l'IA pour aider les clients et les utilisateurs finaux ¨¤ comprendre la signification et les implications des r¨¦sultats de l'IA dans le contexte du ou des cas d'usage pr¨¦vus.
?
Description du d¨¦ploiement
Similaire ¨¤ la description du d¨¦veloppement.
Avis
Description du d¨¦veloppement
Concevoir la fonctionnalit¨¦ d'IA en y associant des avis clairs et accessibles informant les utilisateurs finaux qu'ils interagissent avec un syst¨¨me d'IA.?
?
Offrir des conseils et proposer un langage par d¨¦faut que les clients peuvent utiliser pour d¨¦crire le type de donn¨¦es trait¨¦es par la fonctionnalit¨¦ d'IA.?
?
L'avis peut s'afficher sous forme de texte ou de graphique indiquant que la fonctionnalit¨¦ utilise l'IA et que ses r¨¦sultats doivent ¨ºtre consid¨¦r¨¦s en cons¨¦quence.??
?
Description du d¨¦ploiement
Similaire ¨¤ la description du d¨¦veloppement.
Conception et contr?le centr¨¦s sur l'humain
Une IA qui tient compte du facteur humain
Description du d¨¦veloppement
Concevoir la fonctionnalit¨¦ d'IA de sorte ¨¤ favoriser la supervision et le contr?le humains. Nous fournissons une documentation aux clients expliquant comment les r¨¦sultats des fonctionnalit¨¦s d'IA sont destin¨¦s ¨¤ soutenir, et non ¨¤ remplacer, la prise de d¨¦cision humaine.?
?
La fonctionnalit¨¦ doit ¨¦galement int¨¦grer une exp¨¦rience utilisateur pratique o¨´ les humains sont les d¨¦cideurs finaux pour les d¨¦cisions essentielles, que les r¨¦sultats g¨¦n¨¦r¨¦s par la fonctionnalit¨¦ soient accept¨¦s ou ajust¨¦s, le tout renforc¨¦ par des normes pour garantir l'explicabilit¨¦ des r¨¦sultats.
?
Description du d¨¦ploiement
Similaire ¨¤ la description du d¨¦veloppement.
Proc¨¦dures alternatives
Description du d¨¦veloppement
Concevoir la fonctionnalit¨¦ d'IA de sorte ¨¤ pr¨¦voir des proc¨¦dures alternatives de traitement des donn¨¦es, comme la r¨¦vision humaine, par rapport au traitement standard de la fonctionnalit¨¦ d'IA, le cas ¨¦ch¨¦ant. Offrir aux clients des instructions claires et de la documentation sur la fa?on de mettre en ?uvre ces proc¨¦dures alternatives.
?
Description du d¨¦ploiement
Garantir que les personnes concern¨¦es disposent d'options dans l'interface utilisateur ou ailleurs (par exemple, dans les communications qui leur sont destin¨¦es) pour demander des proc¨¦dures alternatives ¨¤ la solution d'IA traitant leurs donn¨¦es et pr¨¦sentant des r¨¦sultats individualis¨¦s. Il peut s'agir d'inclure une r¨¦vision humaine plut?t qu'une r¨¦vision uniquement par machine.
±õ²Ô³¦±ô³Ü²õ¾±±¹¾±³Ù¨¦
Description du d¨¦veloppement
Concevoir la fonctionnalit¨¦ d'IA en tenant compte de l'inclusivit¨¦, en veillant ¨¤ ce qu'elle soit accessible et utilisable par divers utilisateurs finaux. Tenir compte de facteurs tels que la langue, la culture, la situation de handicap et d'autres obstacles potentiels ¨¤ l'acc¨¨s et ¨¤ l'engagement. Veiller ¨¤ ce que la qualit¨¦ de l'exp¨¦rience de l'utilisateur ne soit en aucun cas diminu¨¦e, quelles que soient les capacit¨¦s et/ou les pr¨¦f¨¦rences des utilisateurs.??
?
Description du d¨¦ploiement
Veiller ¨¤ ce que la solution d'IA offre des options raisonnables dans son interface utilisateur. L'objectif est de permettre ¨¤ divers utilisateurs finaux d'y acc¨¦der et de l'utiliser selon des modalit¨¦s favorables ¨¤ l'¨¦quit¨¦.
Exportations int¨¦gr¨¦es
Description du d¨¦veloppement
Proposer des options permettant aux clients d'acc¨¦der ¨¤ des donn¨¦es pertinentes export¨¦es par le biais de la fonctionnalit¨¦ d'IA. Les clients peuvent ainsi effectuer leurs propres contr?les et tests avec leurs propres experts, ce qui facilite la transparence et la surveillance.??
?
Description du d¨¦ploiement
Veiller ¨¤ ce que l'¨¦quipe charg¨¦e de configurer le produit re?oive des instructions suffisantes sp¨¦cifiant les options d'acc¨¨s et d'exportation des donn¨¦es de sortie qui sont n¨¦cessaires pour tester les performances de la solution d'IA.
°ä´Ç²Ô´Ú¾±²µ³Ü°ù²¹²ú¾±±ô¾±³Ù¨¦
Description du d¨¦veloppement
Concevoir la fonctionnalit¨¦ d'IA en gardant ¨¤ l'esprit la configurabilit¨¦, afin de permettre aux clients d'adapter ses fonctionnalit¨¦s ¨¤ leurs besoins et pr¨¦f¨¦rences sp¨¦cifiques. Fournir une documentation et des outils clairs, adapt¨¦s aux d¨¦cisions de configuration sp¨¦cifique des clients. Cela reste dans l'esprit des protocoles pr¨¦c¨¦dents, en maintenant les humains au centre de toutes les d¨¦cisions, y compris choisir la mani¨¨re dont ils veulent interagir avec les fonctionnalit¨¦s de la plateforme IA de Â鶹´«Ã½.
?
Description du d¨¦ploiement
Configurer la solution d'IA pour l'adapter au(x) cas d'usage pr¨¦vu(s) localement.
Tests et surveillance
Tests d'¨¦quit¨¦
Description du d¨¦veloppement
Soumettre la fonctionnalit¨¦ d'IA ¨¤ des tests d'¨¦quit¨¦. Pour le d¨¦veloppement, ces tests peuvent s'effectuer ¨¤ l'aide de donn¨¦es de synth¨¨se ou d'¨¦chantillons agr¨¦g¨¦s de donn¨¦es de sortie, en fonction de leur disponibilit¨¦. Analyser les r¨¦sultats pour d¨¦tecter les biais potentiels et documenter les conclusions et les strat¨¦gies d'att¨¦nuation. Le cas ¨¦ch¨¦ant, nous incluons un r¨¦sum¨¦ descriptif des tests d'¨¦quit¨¦ effectu¨¦s par les d¨¦veloppeurs dans nos fiches d'information sur les fonctionnalit¨¦s d'IA.
?
Description du d¨¦ploiement
Pour le d¨¦ploiement, envisager d'utiliser de v¨¦ritables donn¨¦es de sorties de la fonctionnalit¨¦ lorsqu'elles sont disponibles.
·¡´Ú´Ú¾±³¦²¹³¦¾±³Ù¨¦
Description du d¨¦veloppement
Tester rigoureusement la fonctionnalit¨¦ d'IA pour garantir que ses r¨¦sultats sont conformes et fiables par rapport ¨¤ son objectif et ¨¤ la qualit¨¦ du cas d'usage. Documenter la m¨¦thodologie et les r¨¦sultats des tests, en d¨¦montrant la capacit¨¦ de l'IA ¨¤ produire des r¨¦sultats pr¨¦cis.??
?
Description du d¨¦ploiement
Similaire ¨¤ la description du d¨¦veloppement.
Robustesse
Description du d¨¦veloppement
Tester la capacit¨¦ de la fonctionnalit¨¦ d'IA ¨¤ maintenir ses performances dans diverses conditions, par exemple avec des donn¨¦es d'entr¨¦e, populations et param¨¨tres utilisateur diff¨¦rents. Documenter les proc¨¦dures et r¨¦sultats des tests, d¨¦montrant la capacit¨¦ de l'IA ¨¤ maintenir ses performances dans diff¨¦rents sc¨¦narios.
?
Description du d¨¦ploiement
Similaire ¨¤ la description du d¨¦veloppement.
Tests programm¨¦s
Description du d¨¦veloppement
?laborer et tenir un calendrier r¨¦gulier pour tester et surveiller les performances de la fonctionnalit¨¦ d'IA, notamment en termes de pr¨¦cision, de robustesse, d'utilit¨¦ et d'¨¦quit¨¦. D¨¦finir, impl¨¦menter et documenter la fr¨¦quence et les proc¨¦dures des tests.
?
Description du d¨¦ploiement
Similaire ¨¤ la description du d¨¦veloppement.
Normes de maintenance
Description du d¨¦veloppement
?tablir des normes et proc¨¦dures claires pour la maintenance continue et la mise ¨¤ jour de la fonctionnalit¨¦ d'IA et de ses mod¨¨les ML sous-jacents. D¨¦finir les crit¨¨res d¨¦terminant quand des mises ¨¤ jour sont n¨¦cessaires et comment elles seront mises en ?uvre et communiqu¨¦es.
?
Description du d¨¦ploiement
Documenter les normes ¨¤ utiliser pour d¨¦terminer quand et si la solution d'IA ou sa configuration doit ¨ºtre mise ¨¤ jour et/ou r¨¦¨¦valu¨¦e.
°ä´Ç²Ô´Ú¾±»å±ð²Ô³Ù¾±²¹±ô¾±³Ù¨¦ et s¨¦curit¨¦
Qualit¨¦ des donn¨¦es
Description du d¨¦veloppement
Veiller ¨¤ ce que les donn¨¦es utilis¨¦es pour d¨¦velopper la fonctionnalit¨¦ d'IA soient de haute qualit¨¦, appropri¨¦es pour le(s) cas d'usage pr¨¦vu(s) et repr¨¦sentatives des populations concern¨¦es, en appliquant des pratiques de documentation transparentes telles que nos fiches d'information sur les fonctionnalit¨¦s d'IA.
?
Description du d¨¦ploiement
Similaire ¨¤ la description du d¨¦veloppement.
°Õ°ù²¹?²¹²ú¾±±ô¾±³Ù¨¦
Description du d¨¦veloppement
Concevoir la fonctionnalit¨¦ d'IA de sorte ¨¤ soutenir les capacit¨¦s de surveillance et de tra?abilit¨¦ du syst¨¨me.
?
Description du d¨¦ploiement
Garantir qu'un m¨¦canisme est en place pour prendre en charge la surveillance et la tra?abilit¨¦ du syst¨¨me.
Exclusion g¨¦ographique
Description du d¨¦veloppement
Offrir aux clients la capacit¨¦ de contr?ler la disponibilit¨¦ g¨¦ographique de la fonctionnalit¨¦ d'IA. Les clients peuvent ainsi se conformer aux lois et r¨¦glementations locales pour g¨¦rer la disponibilit¨¦ de la fonctionnalit¨¦ d'IA dans diff¨¦rentes r¨¦gions.
?
Description du d¨¦ploiement
Similaire ¨¤ la description du d¨¦veloppement.
Mise ¨¤ jour et retrait
Description du d¨¦veloppement
D¨¦velopper un plan complet de conduite du changement pour les mises ¨¤ jour de la fonctionnalit¨¦ d'IA et de ses mod¨¨les ML sous-jacents. Ce plan doit inclure des protocoles de communication pour informer les clients des mises ¨¤ jour et de tout impact potentiel sur leur utilisation de la fonctionnalit¨¦.
?
Description du d¨¦ploiement
D¨¦velopper et documenter un plan sp¨¦cifique de conduite du changement pour les mises ¨¤ jour de la solution d'IA ou de sa configuration.
Gestion de l'efficacit¨¦
Description du d¨¦veloppement
Concevoir la fonctionnalit¨¦ d'IA avec des mesures de protection pour att¨¦nuer les vuln¨¦rabilit¨¦s potentielles et les risques pour son efficacit¨¦. Cela comprend la protection contre les attaques par exemples contradictoires, l'empoisonnement des donn¨¦es et autres tentatives d'exploitation ou de sabotage du syst¨¨me d'IA.
?
Description du d¨¦ploiement
Garantir que les vuln¨¦rabilit¨¦s li¨¦es aux erreurs humaines des utilisateurs finaux et aux acteurs malveillants cherchant ¨¤ ??manipuler?? ou ¨¤ compromettre la solution d'IA ou la s¨¦curit¨¦ de la propri¨¦t¨¦ intellectuelle sont identifi¨¦es, att¨¦nu¨¦es et g¨¦r¨¦es.