Des Portes d’Âge à la Responsabilité dans la Conception de l’IA
Alors que les systèmes d’intelligence artificielle (IA) s’immiscent de plus en plus dans notre vie quotidienne, les décideurs politiques intensifient leurs efforts pour protéger les enfants des potentielles nuisances numériques. Une grande partie de cette attention réglementaire s’est jusqu’à présent concentrée sur la limitation de l’accès des enfants à certains environnements en ligne, comme en témoignent les initiatives internationales récentes visant à restreindre l’accès des jeunes aux réseaux sociaux par des restrictions d’âge.
Bien que ces mesures soient présentées comme des efforts de protection de l’enfant, elles ne s’attaquent pas encore à l’intelligence artificielle et privilégient plutôt des questions d’accès au détriment d’un examen approfondi de la manière dont les systèmes numériques sont conçus et déployés. Cette emphase risque d’obscurcir un problème plus fondamental : la possibilité que les systèmes numériques, y compris l’IA, puissent nuire involontairement aux enfants, même en l’absence de mauvaise intention.
Le Cadre d’Impact Disparate
Un cadre potentiel pour aborder cette question peut être trouvé dans la doctrine juridique de l’impact disparate. Traditionnellement appliquée dans le droit anti-discrimination, l’analyse de l’impact disparate traite des pratiques qui sont neutres en apparence mais qui produisent des dommages disproportionnés injustifiés aux groupes protégés. Ces dernières années, des chercheurs et des décideurs ont exploré comment cette doctrine pourrait s’appliquer à la discrimination algorithmique basée sur la race, le genre, le handicap ou le statut socio-économique.
Il a été accordé beaucoup moins d’attention à la question de savoir si une lentille analytique similaire pourrait être appliquée aux mineurs en tant que groupe distinct et structurellement vulnérable dans le contexte de la gouvernance de l’IA.
La doctrine de l’impact disparate repose sur la reconnaissance que le préjudice peut résulter non seulement de la discrimination intentionnelle, mais aussi de systèmes et de politiques qui échouent à prendre en compte les vulnérabilités existantes. Dans ce cadre, une pratique peut être jugée illégale si elle touche de manière disproportionnée un groupe protégé et ne peut être justifiée comme nécessaire pour atteindre un objectif légitime, ou si le même objectif pourrait être atteint par des moyens moins nuisibles.
Conséquences pour les Enfants et l’IA
Ce changement est particulièrement pertinent pour les interactions des enfants avec les systèmes d’IA. Les enfants ne sont pas simplement des versions plus jeunes des utilisateurs adultes. Leur développement cognitif, émotionnel et social diffère de manière à façonner leur expérience et leur impact par la technologie. Les systèmes juridiques ont longtemps reconnu cette réalité dans des contextes tels que la protection des consommateurs, la publicité, l’éducation et la sécurité des produits.
Cependant, de nombreux systèmes d’IA continuent d’être conçus principalement pour des utilisateurs adultes, en se basant sur des hypothèses relatives à l’autonomie, au raisonnement critique et à la résilience émotionnelle qui ne s’appliquent pas aux jeunes utilisateurs. Par conséquent, des fonctionnalités qui peuvent sembler bénignes ou bénéfiques pour les adultes peuvent avoir des effets très différents sur les enfants.
Par exemple, les systèmes de recommandation optimisés pour l’engagement peuvent exacerber la fragmentation de l’attention et l’utilisation compulsive chez les mineurs. Les agents conversationnels conçus pour simuler l’empathie peuvent encourager la dépendance ou remplacer les relations humaines. Ces effets sont souvent cumulatifs, subtils et difficiles à tracer à des cas individuels de préjudice, ce qui les rend mal adaptés aux cadres réglementaires existants qui se concentrent sur des violations de contenu discrètes.
Vers une Gouvernance Responsable de l’IA
Appliquer une lentille d’impact disparate déplacerait la responsabilité dans le développement de l’IA de l’intention vers les résultats, demandant si les préjudices prévisibles et disproportionnés aux enfants sont justifiés comme nécessaires pour atteindre des objectifs tels que l’engagement ou l’utilisabilité, et exigeant que les développeurs démontrent que des alternatives de conception moins nuisibles ne sont pas raisonnablement disponibles.
Cette approche répond aux limites clés de la réglementation basée sur l’accès : les interdictions et les restrictions d’âge sont difficiles à appliquer, faciles à contourner et ignorent des preuves montrant que restreindre des plateformes spécifiques déplace souvent simplement le temps d’écran des enfants ailleurs plutôt que de le réduire. Un cadre d’impact disparate cible plutôt les caractéristiques structurelles des systèmes d’IA et la manière dont leurs effets sont répartis entre différentes populations d’utilisateurs.
Initiatives et Conclusions
Des éléments de cette approche orientée vers la conception émergent déjà dans diverses juridictions. La Loi sur les Services Numériques et la Loi sur l’IA de l’Union Européenne intègrent des concepts de risque systémique et de protections accrues pour les utilisateurs vulnérables. Le Code de Conception Appropriée pour l’Âge du Royaume-Uni intègre les meilleurs intérêts de l’enfant dans les attentes de conception des produits.
Alors que les gouvernements continuent de débattre de la meilleure manière de protéger les enfants dans les environnements numériques, l’accent ne doit pas uniquement être mis sur la question de savoir si les mineurs sont autorisés à accéder à certaines technologies. Il doit également englober la manière dont ces technologies sont conçues, afin d’éviter de lourdes charges pour les jeunes utilisateurs.
En somme, l’analyse de l’impact disparate offre un cadre pour poser cette question de manière systématique et pour aligner le développement responsable de l’IA avec les réalités de l’expérience vécue des enfants.