La Maison Blanche présente une “déclaration des droits” sur l’intelligence artificielle

L’administration Biden a dévoilé mardi un ensemble d’objectifs ambitieux pour aligner les outils alimentés par l’IA sur ce qu’elle appelle les valeurs de démocratie et d’équité, y compris des lignes directrices sur la manière de protéger les données personnelles des personnes et de limiter la surveillance.

Le Blueprint for an AI Bill of Rights ne définit notamment pas de mesures d’application spécifiques, mais est plutôt destiné à être un appel à l’action de la Maison Blanche pour que le gouvernement américain protège les droits numériques et civils dans un monde alimenté par l’IA, ont déclaré les autorités.

«C’est l’administration Biden-Harris qui dit vraiment que nous devons travailler ensemble, pas seulement dans chaque gouvernement, mais dans chaque secteur, pour vraiment mettre l’équité au centre et les droits civils au centre de la façon dont nous faisons, utilisons et gouvernons. technologies », a déclaré Alondra Nelson, directrice adjointe de la science et de la société au Bureau de la politique scientifique et technologique de la Maison Blanche. “Nous pouvons et devons attendre mieux et exiger mieux de nos technologies.”

Le bureau a déclaré que le livre blanc représentait une avancée majeure dans le programme du gouvernement visant à responsabiliser les entreprises technologiques et a souligné les engagements de diverses agences fédérales à évaluer de nouvelles règles et à étudier les impacts spécifiques des technologies d’IA. Le document a émergé après une consultation d’un an avec plus de deux douzaines de départements différents et intègre également des commentaires de technologues, de groupes de la société civile, d’entreprises et de chercheurs de l’industrie.

Les principes non contraignants qui en résultent citent des recherches universitaires, des études d’agences et des reportages qui ont documenté les dommages réels causés par des outils basés sur l’IA, y compris des outils de reconnaissance faciale qui ont contribué à des arrestations injustifiées et un système automatisé qui discriminait les demandeurs de prêt qui fréquentaient un collège. ou université noire.

Le livre blanc a également déclaré que les parents et les travailleurs sociaux pourraient bénéficier de savoir si les agences de protection de l’enfance utilisaient des algorithmes pour aider à décider quand les familles devraient faire l’objet d’une enquête pour maltraitance.

Plus tôt cette année, après la publication d’un Revue AP d’un outil algorithmique utilisé dans un système de protection de l’enfance de Pennsylvanie, les responsables de l’OSTP ont contacté les sources citées dans l’article pour en savoir plus, selon plusieurs personnes qui ont participé à l’appel. L’enquête de l’AP a révélé que l’outil du comté d’Allegheny dans ses premières années de fonctionnement montrait une tendance à signaler un nombre disproportionné d’enfants noirs pour une enquête de négligence “obligatoire” par rapport aux enfants blancs.

En mai, des sources ont déclaré que des chercheurs de l’Université Carnegie Mellon et du personnel de l’American Civil Liberties Union avaient parlé aux responsables de l’OSTP de l’utilisation d’algorithmes par les agences de protection de l’enfance. Nelson a déclaré que la protection des enfants contre les méfaits de la technologie reste un sujet de préoccupation.

“Si un outil ou un système automatisé nuit de manière disproportionnée à une communauté vulnérable, il doit, espérons-le, y avoir des leviers et des opportunités pour y remédier grâce à certaines des applications spécifiques et des suggestions prescriptives”, a déclaré Nelson, qui est également adjoint. Le président Joe Biden.

L’OSTP n’a pas fourni de commentaires supplémentaires sur la réunion de mai.

Pourtant, comme de nombreux outils basés sur l’IA sont développés, adoptés ou financés au niveau de l’État et au niveau local, le gouvernement fédéral exerce une surveillance limitée concernant leur utilisation. Le livre blanc ne fait aucune mention spécifique de la manière dont l’administration Biden pourrait influencer des politiques spécifiques au niveau de l’État ou au niveau local, mais un haut responsable du gouvernement a déclaré que le gouvernement étudiait comment aligner les subventions fédérales sur les directives de l’IA.

Le livre blanc n’a pas non plus abordé spécifiquement les technologies basées sur l’IA financées par le ministère de la Justice, dont la division distincte des droits civils a examiné les préjudices, les préjugés et la discrimination algorithmiques, a déclaré Nelson.

Caché parmi les appels à une plus grande surveillance, le livre blanc a également déclaré que lorsqu’ils sont correctement mis en œuvre, les systèmes d’IA ont le pouvoir d’apporter des avantages durables à la société, comme aider les agriculteurs à cultiver des aliments plus efficacement ou à identifier les maladies.

« Propulsés par la puissance de l’innovation américaine, ces outils ont le potentiel de redéfinir chaque partie de notre société et d’améliorer la vie de chacun. Ces progrès importants ne doivent pas se faire au détriment des droits civils ou des valeurs démocratiques.