Vérité douloureuse : le temps de la régulation de l’IA est enfin arrivé
La semaine dernière, le Premier ministre de la Colombie-Britannique, David Eby, et le ministre fédéral de l’IA, Evan Solomon, ont commencé à suggérer que des entreprises comme OpenAI pourraient être soumises à la juridiction canadienne.
Cela survient après la tragédie horrifique de la fusillade de Tumbler Ridge, qui a coûté la vie à huit personnes, dont six enfants.
Il a été révélé que l’auteur de cette fusillade avait récemment été banni de son compte OpenAI, car l’entreprise avait identifié des « abus de nos modèles dans le cadre d’activités violentes », selon une déclaration.
Des rapports ont également indiqué que des membres du personnel d’OpenAI avaient envisagé de signaler les discussions troublantes entre l’adolescente et le chatbot, mais avaient finalement décidé de ne pas le faire.
Les enjeux de la responsabilité
Il y avait sans doute d’autres mesures qui auraient pu prévenir cette tragédie. L’amélioration des soutiens en santé mentale dans les petites communautés devrait être une priorité gouvernementale. Cependant, ce problème se distingue.
OpenAI, en tant qu’entreprise basée à l’étranger, a vu les signaux d’alerte. Au lieu de remettre la décision d’intervenir ou non entre les mains de la police ou des responsables de la santé provinciale, ils ont pris leur propre décision, sans responsabilité.
Voilà le problème avec OpenAI, et c’est un problème qui concerne une grande partie de l’écosystème technologique.
Appel à une régulation
Alors que Solomon a suggéré que les Canadiens auraient dû être impliqués dans la décision de prévenir ou non, Eby est allé plus loin. Il a déclaré : « Je ne peux pas penser à un meilleur exemple de la nécessité de commencer une régulation que de s’assurer que lorsque ces entreprises ont des informations que des dommages vont être causés aux gens, elles les signalent à la police ».
Il souhaite rendre cela une obligation légale pour les entreprises exploitant des services de chat IA.
C’est un bon début, et c’est un bon modèle pour les réseaux sociaux, le commerce en ligne, et les sites de partage de vidéos également.
Une régulation nécessaire
Nous cédons une énorme quantité d’informations au monde en ligne, et ces données sont exploitées pour le profit de grandes entreprises. Pourtant, nous réglementons à peine ces entreprises.
Dans le monde entier, nous avons assisté à une augmentation des limites d’âge pour les services de médias sociaux, ainsi qu’à certaines régulations sur les sites pornographiques.
Nous sommes à peine au début de la régulation des environnements en ligne, car nous commençons tout juste à comprendre les comptamis entre leurs avantages et leurs inconvénients.
Nous sommes très semblables aux Victoriens, qui ont remarqué que l’air autour de toutes ces cheminées n’était pas très agréable, ou que les déchets des usines déversés dans les rivières semblaient mauvais pour les poissons.
Les dangers des outils en ligne
Pourtant, malgré tous les avantages de nos nouveaux outils en ligne, nous avons également vu comment ils peuvent créer toutes sortes de dommages – des rapports multiples sur des délire apparemment favorisés par des chatbots, à la désinformation médicale et aux théories du complot qui se propagent comme une traînée de poudre sur les réseaux sociaux.
Les plateformes et logiciels en ligne à but lucratif cherchent notre attention. Ils sont conçus pour maximiser le temps que nous passons à faire défiler, regarder et discuter. Nous savons qu’il y a des dommages associés à ce qu’ils nous vendent.
Vers une responsabilité démocratique
Le bon endroit pour la responsabilité et le contrôle n’est pas au sein des entreprises qui réalisent des profits.
C’est auprès des gouvernements démocratiquement élus.
Il est grand temps de maîtriser l’infosphère dans laquelle nous vivons tous, chaque jour de nos vies.