Construire une gouvernance flexible pour les données biologiques alimentant les systèmes d’IA
Dans un forum politique, il est discuté de la nécessité d’une gouvernance élargie – mais sur mesure et flexible – pour les données biologiques utilisées dans le développement de puissants modèles d’intelligence artificielle (IA).
Les avancées rapides des systèmes d’IA
Les systèmes d’IA avancés formés sur des données biologiques ont permis aux chercheurs de concevoir de nouvelles molécules, de prédire la structure et la fonction des protéines, et d’explorer d’énormes ensembles de données biologiques complexes pour obtenir des informations novatrices qui pourraient grandement élargir notre compréhension de la nature et de la santé humaine. Cependant, ces mêmes outils pourraient également être mal utilisés à des fins dangereuses, comme la conception de pathogènes nuisibles ou la génération de séquences génétiques contournant les vérifications de sécurité.
Malgré ces risques largement reconnus, la gouvernance actuelle est gravement insuffisante, et des modèles de plus en plus puissants sont souvent publiés sans évaluation de sécurité.
Propositions pour une gouvernance des données biologiques
Il est proposé que la gouvernance des données biologiques puisse être réalisée de manière à atténuer les risques potentiels des systèmes d’IA biologiques sans entraver leur potentiel de recherche. Tout comme les chercheurs acceptent des limites sur l’accès aux informations personnelles dans les ensembles de données génétiques pour protéger la vie privée sans arrêter la recherche, des cadres similaires pourraient restreindre uniquement une classe étroite de données sur des pathogènes particulièrement sensibles tout en laissant la plupart des données scientifiques accessibles.
Ces contrôles ciblés rendraient plus difficile pour les acteurs malveillants d’obtenir les ensembles de données rares et coûteux nécessaires pour former des modèles dangereux, sans entraver de manière significative la recherche légitime, surtout s’ils sont couplés à des environnements de recherche numériques sécurisés.
Flexibilité et adaptation
La gouvernance devrait rester limitée, ciblée et flexible afin que les cadres de gouvernance puissent s’adapter aux avancées technologiques et scientifiques. De plus, pour prévenir les abus ou un contrôle bureaucratique excessif, la communauté de recherche devrait avoir la capacité de faire appel des classifications de données, et les agences de gouvernance devraient s’engager à garantir des processus de révision rapides et transparents pour que les mesures de sécurité nécessaires ne deviennent pas des obstacles aux processus scientifiques légitimes.
Formaliser un système d’accès aux données permettrait aux chercheurs de scruter et de développer ces contrôles, offrant ainsi aux scientifiques et aux entreprises une clarté dans un environnement actuellement imprévisible. Commencer ce travail permettra également aux scientifiques et aux gouvernements d’en apprendre davantage sur la nature des risques liés à l’IA et de réviser les contrôles d’accès aux données à la lumière de preuves tangibles plutôt que de conjectures.