Évaluation de la Sécurité des Projets d’IA

À la lumière des récentes révélations concernant la production de contenu illicite par Grok de xAI, parfois impliquant des mineurs, un aperçu de la sécurité des outils d’IA semble particulièrement pertinent.

Révision de Sécurité par le Future of Life Institute

Une équipe du Future of Life Institute a récemment mené une évaluation de sécurité sur certains des outils d’IA les plus populaires sur le marché, notamment Meta AI, ChatGPT d’OpenAI, Grok, et d’autres.

Six Éléments Clés de l’Évaluation

Cette révision a examiné six éléments clés :

Évaluation des Risques – Efforts déployés pour garantir que l’outil ne puisse pas être manipulé ou utilisé à des fins nuisibles.
Dommages Actuels – Y compris les risques pour la sécurité des données et le marquage numérique.
Cadres de Sécurité – Le processus de chaque plateforme pour identifier et traiter les risques.
Sécurité Existentiale – Surveillance du projet pour des évolutions inattendues dans la programmation.
Gouvernance – Les efforts de lobbying de l’entreprise concernant la gouvernance de l’IA et les réglementations de sécurité de l’IA.
Partage d’Informations – Transparence du système et compréhension de son fonctionnement.

Évaluation de la Sécurité des Projets d’IA

Sur la base de ces six éléments, le rapport a attribué à chaque projet d’IA un score de sécurité global, reflétant une évaluation plus large de la manière dont chacun gère les risques de développement.

Infographie des Résultats

L’équipe de Visual Capitalist a traduit ces résultats dans l’infographie ci-dessous, offrant ainsi une réflexion supplémentaire sur le développement de l’IA et les directions futures, en particulier avec la Maison Blanche cherchant à éliminer les obstacles potentiels au développement de l’IA.