Comment une biopharma mondiale est devenue un leader en IA éthique
L’intelligence artificielle (IA) est devenue un agent de transformation clé, créant des opportunités pour une meilleure compréhension et efficacité dans toutes les industries. Le secteur de la biopharma n’est pas en reste.
Un client, une entreprise biopharmaceutique mondiale, a précédemment réalisé une évaluation interne de l’IA pour évaluer la maturité de ses processus dans ce domaine émergent, ce qui a permis d’identifier un certain nombre de lacunes. La plus pressante était l’absence d’un cadre de gouvernance de l’IA.
L’entreprise a compris que combler cette lacune serait une étape vitale pour atteindre un état mature plus rapidement, lui permettant de tirer parti des opportunités de l’IA tout en atténuant les risques techniques, sociaux et éthiques — y compris les biais de décision et les violations de la vie privée.
Développement d’un cadre de gouvernance de l’IA
Le client a ensuite développé un cadre de gouvernance de l’IA complet, intégrant des principes d’IA responsable tels que la transparence, l’équité et l’humain au centre.
« Nous avons une responsabilité collective de gérer le risque lié à l’IA. Nos principes éthiques de l’IA font partie intégrante de notre stratégie de gestion des risques liés à l’IA et aident à maximiser les bénéfices de l’IA », explique le directeur des systèmes d’information de l’entreprise biopharmaceutique.
Cependant, la direction a souhaité s’assurer qu’elle avançait dans la bonne direction et a recherché un partenaire indépendant.
Notre revue a révélé que la biopharma ne gérait pas toujours les risques spécifiques aux projets d’IA conformément à ses principes d’IA responsable. « L’évaluation d’EY a mis en évidence un certain nombre de lacunes dans notre approche, nous permettant de définir des exigences minimales pour les équipes commerciales travaillant avec l’IA, vers lesquelles nous travaillons déjà », déclare le responsable de la gouvernance de l’IA de l’entreprise biopharmaceutique.
Une approche précoce de la gestion des risques de l’IA
Bien que la biopharma ait été un précurseur en matière de gestion des risques de l’IA dans son secteur, nous avons fourni une confiance dans son approche et mis en évidence des opportunités d’amélioration.
« S’associer à EY a fourni une validation externe de notre approche et nous a donné des informations précieuses sur les domaines nécessitant une attention supplémentaire », explique le directeur des systèmes d’information de la biopharma.
Notre revue détaillée a aidé la biopharma à apprécier la nécessité de changements majeurs dans son approche de la gouvernance de l’IA. Cela incluait une amélioration de l’évaluation des risques de l’IA de tiers et un nouvel inventaire central de l’IA — ce dernier étant fondamental pour la gestion des risques de l’IA et la conformité réglementaire.
Les défis de la gouvernance de l’IA
L’entreprise a réalisé qu’il n’existe pas de méthode unique pour la gouvernance de l’IA, ce qui rend le défi d’autant plus grand pour certaines entreprises. Par exemple, les entreprises plus fédérées, avec une autonomie distribuée, doivent trouver un moyen d’atteindre la cohérence à travers plusieurs unités sans une autorité unique pour surveiller la gouvernance de l’IA, tandis que celles avec un contrôle plus centralisé devront penser différemment.
Il est également devenu clair que si un examen indépendant juge la gouvernance de l’IA d’une organisation inadaptée, la direction doit être prête à apporter les changements structurels nécessaires ou à mettre en place un conseil de gouvernance pour créer une meilleure cohérence.
Il est essentiel qu’un tel examen soit aussi personnalisable que la structure organisationnelle, le leadership et les responsabilités d’une entreprise varient. « Les équipes EY pouvaient travailler avec nous sur la manière dont une évaluation responsable de l’IA devrait se présenter, en intégrant ce que nous faisions avec leur cadre mondial d’IA responsable et en unissant les points », déclare le responsable de la recherche et du développement de l’IA de la biopharma.
Une évaluation responsable de l’IA
Dans le cadre d’un ensemble plus large d’outils, techniques et facilitateurs d’EY conçus pour aider au développement et à l’utilisation responsables de l’IA, le cadre mondial d’IA responsable est un ensemble flexible de principes directeurs et d’actions pratiques.
Des équipes multidisciplinaires d’EY, composées d’éthiciens numériques, de praticiens des risques informatiques, de scientifiques des données et de ressources spécialistes, ont utilisé le cadre mondial d’IA responsable pour évaluer les principes d’IA responsable de la biopharma, ainsi que la manière dont ils avaient été déployés et compris au sein de l’entreprise.
Nous avons superposé le cadre mondial d’IA responsable sur le modèle que le client avait déjà créé, en interviewant les parties prenantes clés et en examinant la documentation pertinente.
« Nous avons investi du temps pour comprendre l’environnement du client, et notre expérience en gouvernance de l’IA nous a également permis de poser les bonnes questions au bon moment », déclare la responsable de la technologie et de l’innovation client d’EY UKI, Catriona Campbell.
Nous avons évalué à quel point l’entreprise avait réussi à atténuer les risques de l’IA tout au long de son cycle de vie, de l’identification du problème à la modélisation, au déploiement et à la surveillance continue.
Conclusion
Pour déterminer si le client avait développé et mis en œuvre l’IA conformément à ses principes d’IA responsable, nous avons également évalué un échantillon de projets clés d’IA, notamment la prévision, le suivi des événements indésirables et la détection précoce des maladies.
Notre revue a révélé que la biopharma ne gérait pas toujours les risques spécifiques aux projets d’IA conformément à ses principes d’IA responsable. « L’audit d’EY a mis en lumière un certain nombre de lacunes dans notre approche, nous permettant de définir des exigences minimales pour les équipes commerciales travaillant avec l’IA, vers lesquelles nous travaillons déjà », déclare le responsable de la gouvernance de l’IA de la biopharma.
L’éthique de l’IA est encore très jeune, il est donc logique que de nombreuses entreprises manquent des capacités internes requises pour commencer ou poursuivre leur parcours.
Le soutien d’un partenaire indépendant, capable d’adapter le processus d’évaluation, ajoute de la valeur en aidant une organisation à développer des processus de gouvernance de l’IA adaptés à son entreprise — augmentant ainsi la probabilité de conformité réglementaire.
Cela aidera à positionner la direction pour protéger les parties prenantes, y compris le public, contre les risques de l’IA — en gardant les humains au centre de la transformation.