Op/Ed : L’alphabétisation en IA peut construire un avenir plus responsable en Caroline du Nord
Le principal ingrédient pour une IA responsable est l’alphabétisation. Tout le reste – responsabilité, structures de gouvernance, outils, conseils – en dépend.
La Caroline du Nord a pris des mesures pour établir cette fondation d’alphabétisation au niveau de l’État. Le Décret Exécutif du Gouverneur Josh Stein sur l’IA et la formation du Conseil de Leadership en IA signalent une compréhension que le leadership en IA responsable nécessite une coalition diversifiée d’experts et de membres de la communauté. Cette approche va au-delà des principes abstraits pour se concentrer sur l’application pratique de l’IA de manière à bénéficier à tous les citoyens.
Établir un modèle de responsabilité partagée
Le premier pas pour construire un cadre d’IA responsable est de reconnaître que la responsabilité doit être partagée. Elle ne peut reposer uniquement sur les ingénieurs et les scientifiques des données. En Caroline du Nord, le Conseil de Leadership en IA promeut un modèle de responsabilité partagée impliquant des leaders, des juristes, des responsables des achats, de la sécurité, des ressources humaines, des éducateurs, et les communautés directement affectées par les décisions liées à l’IA.
Les priorités du Conseil reflètent un changement crucial de la théorie à la pratique. L’accent n’est pas seulement mis sur l’écriture de principes mais sur le renforcement de la gouvernance concernant l’utilisation de l’IA dans les services publics. Cela implique d’investir dans l’alphabétisation en IA et la préparation de la main-d’œuvre afin que les décideurs comprennent ce que l’IA peut et ne peut pas faire, où se situent les risques, et qui est responsable lorsque les choses tournent mal.
Gagner la confiance du public en l’IA n’est pas un problème purement technique ; c’est un problème sociotechnique dont le succès dépend des personnes. Sans une population qui comprend les capacités et les risques de l’IA, il ne peut y avoir de véritable responsabilité. Sans responsabilité, il n’y a pas de confiance – et sans confiance, la valeur de l’IA stagne.
Construire des systèmes de transparence et de responsabilité
Les principes seuls ne suffisent pas. Bien que de nombreuses organisations mesurent le succès de l’IA en termes de vitesse et de productivité, une approche responsable exige davantage. Si vous ne mesurez que la vitesse, vous n’obtiendrez que de la vitesse. Mais si vous mesurez la responsabilité, l’équité, la fiabilité et l’impact réel, vous construirez des systèmes durables.
C’est ici que la transparence devient plus qu’une exigence de conformité. La gouvernance doit permettre aux organisations de montrer leur travail : d’où proviennent les données, comment les modèles sont entraînés, quelles hypothèses sont intégrées, et où se situe la responsabilité humaine.
Si un résultat ne peut être tracé ou expliqué, l’institution est exposée – non seulement légalement, mais aussi en matière de réputation. La responsabilité de la gouvernance inclut la prévention de résultats où un système est techniquement conforme tout en sapant la confiance du public ou les valeurs institutionnelles. La propriété doit être explicite, les résultats prévus doivent être suivis par rapport aux résultats réels, et les équipes doivent être habilitées à suspendre, remettre en question et intervenir.
Créer un écosystème d’IA interdisciplinaire et inclusif
Un obstacle commun à la responsabilité partagée est ce que l’on peut appeler la pandémie du sentiment de non-appartenance, où les professionnels non techniques supposent que la gouvernance de l’IA est quelque chose réservé aux experts techniques. Ils voient l’IA comme quelque chose qui se passe « là-bas », dans les équipes techniques, plutôt que comme un ensemble de décisions qui façonnent leurs propres domaines. Pour contrer cela, les dirigeants doivent clarifier que l’expérience vécue et l’expertise de domaine sont essentielles pour définir ce à quoi ressemble le « bien ».
La prochaine génération l’intuit déjà. Lors d’une récente session avec des étudiants d’honneur de l’UNC Chapel Hill, lorsqu’on leur a demandé quels rôles, au-delà des ingénieurs, avaient besoin d’une place à la table pour façonner l’IA, leurs réponses concernaient des enseignants, des philosophes, des psychologues, des médecins, des historiens, des décideurs politiques, et des travailleurs sociaux. Ils ont décrit un registre interdisciplinaire, signalant que nos curricula et politiques doivent rattraper leurs attentes selon lesquelles l’IA est l’affaire de tous.
Diriger la charge vers un avenir responsable
La Caroline du Nord abrite déjà des preuves émergentes de ce modèle. La North Carolina Central University a établi la première académie d’IA dans un HBCU, associant formation technique avec un programme de droit et de politique. Les collèges communautaires et les universités à travers l’État expérimentent des cours d’IA qui relient l’informatique à la santé, l’agriculture, la fabrication, et plus encore, tandis que des partenaires d’apprentissage informels, comme les bibliothèques publiques et les organisations de jeunesse, explorent des ateliers et des badges en IA dans les programmes après l’école.
Ces efforts font plus que transmettre des connaissances ; ils favorisent un sentiment d’appartenance et d’autonomisation. Ils atteignent des résidents qui ne s’inscriraient peut-être jamais à un cours formel, mais qui sont tout de même affectés par les décisions algorithmiques.
En construisant l’alphabétisation tôt et largement, l’État peut cultiver des leaders qui comprennent non seulement comment l’IA fonctionne, mais aussi comment elle façonne le pouvoir, l’équité et la responsabilité. L’objectif n’est pas de ralentir l’innovation, mais de la rendre durable, partagée et digne de notre confiance.