Une Gouvernance IA Robuste et Réactive Essentielle pour Soutenir le Progrès Technologique
Le Bureau du Conseiller Scientifique Principal (OPSA) a publié un Livre Blanc intitulé « Renforcer la Gouvernance de l’IA à Travers un Cadre Techno-Légal », qui décrit l’approche de l’Inde pour construire des systèmes d’intelligence artificielle (IA) sûrs, fiables et favorables à l’innovation.
Modèle de Gouvernance Proposé
Le document propose un modèle de gouvernance qui combine lois, garanties techniques et surveillance institutionnelle. En présentant ce document, le PSA Ajay Kumar Sood a déclaré : « Développer un cadre de gouvernance robuste et réactif n’est pas seulement une nécessité réglementaire, mais un préalable pour maintenir l’élan du progrès technologique. L’approche techno-légale offre un chemin viable en intégrant des garanties juridiques, techniques et institutionnelles dans les systèmes d’IA par conception. »
Proposition pour une Base de Données sur les Incidents d’IA
Le Livre Blanc recommande la création d’une base de données nationale pour suivre les problèmes liés à l’IA, tels que les pannes de sécurité, les résultats biaisés, les violations de sécurité et les abus. Les rapports proviendraient d’organismes gouvernementaux, d’entreprises, de chercheurs et de groupes de la société civile. Cette base de données aiderait à identifier les risques, suivre les tendances et guider l’action réglementaire.
Étapes Volontaires et Soutien d’Experts
Le Livre Blanc encourage les entreprises à publier volontairement des rapports de transparence, à tester les systèmes d’IA pour leur équité et leur sécurité, à réaliser des contrôles de sécurité et à effectuer des exercices de stress-testing.
Il suggère également la création d’un Comité d’Experts en Technologie et Politique sous le ministère de l’Électronique et des Technologies de l’Information pour soutenir la gouvernance de l’IA.
Équilibrer la Vie Privée, l’Équité et la Performance
Le document souligne que protéger la vie privée tout en garantissant l’équité et la performance des systèmes peut être un défi, surtout dans un pays divers comme l’Inde. Il recommande une suppression de données consciente des impacts plutôt qu’une suppression automatique, afin d’éviter de nuire aux groupes sous-représentés.