Vos Questions Répondues : Où Nous En Sommes sur la Régulation de l’IA, et Où Nous Allons à Partir d’Ici
Que vous y pensiez quotidiennement ou non, l’intelligence artificielle (IA) nous affecte tous. Que ce soit lors d’une demande de prêt ou en attendant chez le médecin, les systèmes d’IA sont souvent utilisés en coulisses pour prendre des décisions ayant un impact réel sur nos vies, sans que cela ne soit divulgué au préalable.
Cependant, malgré la portée croissante de l’IA et la diversité des outils et systèmes qu’elle englobe, les régulations régissant son développement, son déploiement ainsi que la manière dont les personnes concernées sont informées restent tristement insuffisantes. En l’absence de régulation, ces systèmes peuvent porter atteinte à votre capacité à contrôler vos données ou renforcer la discrimination dans les pratiques d’embauche et d’emploi. Alors que les implications sur les droits civils deviennent de plus en plus graves, le renforcement des protections n’est plus une option.
Pourquoi avons-nous besoin de plus de régulations sur l’utilisation de l’IA ?
L’IA est souvent utilisée pour prendre des décisions concernant nos vies sans divulgation transparente. Par exemple, lorsque vous faites une demande de prêt ou soumettez une candidature, les banques ou les employeurs peuvent utiliser l’IA pour analyser vos documents avant qu’un véritable humain ne les examine. Au cabinet médical, votre fournisseur peut utiliser un scribe IA pour prendre des notes sur votre conversation. De plus, les agences gouvernementales utilisent l’IA pour prendre des décisions cruciales concernant l’octroi de bénéfices.
Quels sont les dangers pour nos libertés civiles face à l’utilisation non régulée de l’IA ?
Sans une supervision rigoureuse, les systèmes d’IA utilisés pour la prise de décision ont prouvé qu’ils perpétuaient les inégalités systémiques existantes. Lorsque des outils d’IA sont utilisés pour filtrer les candidatures ou évaluer les candidats, ils peuvent discriminer injustement des personnes appartenant à des groupes marginalisés.
Les technologies de reconnaissance faciale, par exemple, souffrent de biais raciaux sérieux et sont souvent utilisées sans protections appropriées, ce qui peut conduire à des arrestations injustifiées. Il est essentiel de reconnaître que ces problèmes ne sont pas accidentels et qu’ils peuvent être évités.
Comment les décideurs peuvent-ils relever les défis réels émergeant de l’utilisation de l’IA ?
Un rapport récent met en lumière la large gamme de régulations de l’IA proposées par les décideurs à travers le pays. Des projets de loi régulent l’utilisation de l’IA dans des domaines spécifiques comme l’éducation ou les élections, tout en élargissant les protections des droits civils.
Ce rapport propose également deux recommandations clés :
- Créer des formats et structures standardisés pour les textes législatifs afin de faciliter l’analyse des données.
- Adopter une perspective multilingue lors de l’analyse des législations sur l’IA.
Quels droits numériques ai-je lorsque des outils automatisés prennent des décisions à mon sujet ?
Que les décisions soient prises par un humain ou par une IA, les lois fédérales anti-discrimination prohibent la discrimination lors de l’embauche sur la base de caractéristiques protégées. Un nombre croissant d’États a adopté des lois régulant la manière dont les employeurs collectent, utilisent et partagent vos données personnelles.
Ces lois vous donnent un meilleur contrôle sur vos informations et plus de transparence quant à l’évaluation par des systèmes automatisés. Vous pouvez en apprendre davantage sur la discrimination numérique et vos droits numériques sur des plateformes dédiées.