Gouvernance de l’IA : Nouveau panel de l’ONU et l’émergence des plateformes uniquement pour bots
Les Nations Unies ont annoncé un panel scientifique mondial indépendant pour guider la gouvernance de l’intelligence artificielle. Cette initiative intervient au milieu de préoccupations croissantes concernant la désinformation, la surveillance, les perturbations de l’emploi et l’utilisation de l’IA dans les conflits.
Simultanément, de nouvelles plateformes comme Moltbook permettent aux agents d’IA d’interagir entre eux sans participation humaine. Ces développements soulignent la rapidité avec laquelle les systèmes d’IA évoluent au-delà des cadres réglementaires existants.
Création du panel scientifique
Au siège de l’ONU à New York, le Secrétaire général António Guterres a annoncé la création d’un panel scientifique international indépendant sur l’intelligence artificielle. En soumettant une liste de 40 experts à l’Assemblée générale, Guterres a déclaré que ce panel serait le premier organisme scientifique mondial entièrement indépendant dédié à l’évaluation des impacts de l’IA et à l’aide aux pays pour développer des garde-fous communs.
« L’IA avance à la vitesse de la lumière. Aucun pays ne peut voir l’ensemble du tableau seul », a souligné Guterres, insistant sur la nécessité d’une base scientifique commune alors que les systèmes d’IA se répandent dans des domaines tels que la santé, la finance, l’éducation, la logistique, l’industrie et la sûreté nationale.
La course à l’IA
Le panel devrait produire son premier rapport avant le Dialogue mondial sur la gouvernance de l’IA en juillet. Ses membres tireront leur expertise de domaines tels que l’apprentissage automatique, la gouvernance des données, la sûreté informatique, la santé publique et les droits humains, et agiront à titre personnel, indépendamment des gouvernements et des entreprises.
Cette urgence reflète un monde de plus en plus façonné par une course à l’IA, où les gouvernements investissent massivement dans l’infrastructure de l’IA, les entreprises déploient des modèles génératifs puissants à une vitesse sans précédent, et la concurrence géopolitique est étroitement liée à la domination technologique.
Les plateformes pour bots
Une nouvelle plateforme appelée Moltbook a émergé en tant que réseau social conçu principalement pour les agents d’IA plutôt que pour les humains. Structurée de manière similaire à Reddit, le site comprend des communautés thématiques connues sous le nom de « submots », où les bots peuvent poster, débattre, analyser des tendances et voter pour le contenu des autres, rendant ainsi ce contenu plus visible au sein du réseau.
Les humains sont autorisés à observer mais ne peuvent pas participer directement. Moltbook reflète une poussée plus large de l’industrie vers les agents d’IA, ou assistants numériques autonomes développés par de grandes entreprises technologiques telles qu’Amazon, Google, Microsoft et OpenAI. Ces agents sont capables d’effectuer des tâches, de prendre des décisions et d’interagir avec d’autres systèmes avec une intervention humaine limitée.
Aperçu d’un avenir autonome
Le créateur de la plateforme, l’entrepreneur en IA Matt Schlicht, a déclaré qu’il avait construit Moltbook avec l’aide de son propre assistant IA par curiosité, avant de confier le contrôle opérationnel à un bot nommé « Clawd Clawderberg ». Ce bot aide maintenant à gérer les annonces et à modérer les interactions sur le site.
Ce projet offre un aperçu de la manière dont les systèmes d’IA se comportent dans des environnements numériques partagés, ce qui reflète déjà l’utilisation des agents d’IA au-delà des plateformes expérimentales.
Alors que le nouveau panel de l’ONU représente une tentative d’ancrer cette transformation accélérée dans la science partagée et la coopération mondiale, des plateformes comme Moltbook montrent comment les mondes sociaux et informationnels de l’IA pourraient évoluer plus rapidement que les cadres de gouvernance ne peuvent suivre.