Protéger la société des méfaits de l’IA : Matt Mahmoudi et Damini Satija d’Amnesty International (partie 1)

Jun 20, 2023

Deux chercheurs de l'organisation de défense des droits humains discutent de l'intersection de la politique sociale et de la technologie, ainsi que des problèmes liés à l'utilisation de l'IA dans le secteur public.

En collaboration avec

En collaboration avec

Recevez des mises à jour par e-mail

S'il vous plaît, mettez une adresse email valide

Merci de vous être inscrit

politique de confidentialité

Amnesty International rassemble plus de 10 millions de membres du personnel et de bénévoles dans le monde entier pour plaider en faveur de la justice sociale. Damini Satija et Matt Mahmoudi travaillent avec Amnesty Tech, une division de l'organisation de défense des droits humains qui se concentre sur le rôle du gouvernement, des grandes technologies et des technologies comme l'intelligence artificielle dans des domaines tels que la surveillance, la discrimination et les préjugés.

Dans cet épisode du podcast Me, Myself, and AI, Matt et Damini se joignent aux animateurs Sam Ransbotham et Shervin Khodabandeh pour mettre en lumière des scénarios dans lesquels les outils d'IA peuvent mettre les droits humains en danger, par exemple lorsque les gouvernements et les agences du secteur public utilisent des systèmes de reconnaissance faciale. pour suivre les activistes sociaux ou les algorithmes permettant de prendre des décisions automatisées concernant l'accès aux logements sociaux et la protection de l'enfance. Damini et Matt préviennent que la technologie de l'IA ne peut pas résoudre les problèmes humains tels que les préjugés, la discrimination et les inégalités ; cela nécessitera une intervention humaine et des changements dans les politiques publiques.

Pour en savoir plus sur ce que les organisations peuvent faire pour lutter contre les conséquences négatives involontaires découlant de l'utilisation de technologies automatisées, regardez notre prochain épisode, partie 2 de notre conversation avec Matt et Damini, diffusé le 13 septembre 2023.

Matt Mahmoudi est conférencier, chercheur et organisateur. Il a dirigé les efforts de recherche et de plaidoyer d'Amnesty International pour interdire les technologies de reconnaissance faciale et dénoncer leur utilisation contre les communautés racialisées, de New York aux territoires palestiniens occupés. Il a été le premier récipiendaire du doctorat Jo Cox. bourse à l'Université de Cambridge, où il a étudié les infrastructures urbaines numériques en tant que nouvelles frontières du capitalisme racial et reste maître de conférences affilié en sociologie. Ses travaux ont été publiés dans les revues The Sociological Review et International Political Sociology ainsi que dans le livre Digital Witness (Oxford University Press, 2020). Son prochain livre est Migrants in the Digital Periphery: New Urban Frontiers of Control (University of California Press, 2023).

Damini Satija est une experte en droits de l'homme et en politiques publiques qui travaille sur les données et l'intelligence artificielle, avec un accent particulier sur la discrimination algorithmique, l'automatisation de l'aide sociale, la surveillance gouvernementale et l'équité technologique. Elle est directrice de l’Algorithmic Accountability Lab et directrice adjointe d’Amnesty Tech. Elle a auparavant travaillé comme conseillère auprès du gouvernement britannique sur l'éthique des données et de l'IA et a représenté le Royaume-Uni en tant qu'expert politique sur l'IA et les droits de l'homme au Conseil de l'Europe. Elle est titulaire d'une maîtrise en administration publique de la School of International and Public Affairs de l'Université Columbia.

Si vous appréciez le podcast Me, Myself and AI, poursuivez la conversation avec nous sur LinkedIn. Rejoignez le groupe AI for Leaders dès aujourd'hui.

Adhérer maintenant "

Abonnez-vous à Moi, moi-même et AI sur Apple Podcasts, Spotify ou Google Podcasts.

Shervin Khodabandeh : Beaucoup de nos invités souhaitent utiliser l’IA à bon escient dans leur organisation. Dans l'épisode d'aujourd'hui, nous discutons avec deux chercheurs qui se concentrent sur la protection des droits de l'homme lorsque des outils d'intelligence artificielle sont utilisés.

Damini Satija :Je m'appelle Damini Satija...

Matt Mahmoudi :… et je m'appelle Matt Mahmoudi d'Amnesty International…

Damini Satija :… et vous m'écoutez, moi-même et l'IA.

Sam Ransbotham : Bienvenue dans Me, Myself, and AI, un podcast sur l'intelligence artificielle en entreprise. Dans chaque épisode, nous vous présentons quelqu'un qui innove avec l'IA. Je m'appelle Sam Ransbotham, professeur d'analyse au Boston College. Je suis également rédacteur invité en matière d'IA et de stratégie commerciale au MIT Sloan Management Review.