Épisode 390 — Risques de l’IA : Une Approche Concentrée et Réaliste
L’industrie de la conformité semble être envahie par l’IA — ceci et cela. Les risques de tiers s’entremêlent avec les grands risques liés à l’IA, la gouvernance d’entreprise doit intégrer les risques de l’IA, et les politiques ainsi que les procédures doivent également les prendre en compte, tout en notant qu’aucune évaluation des risques n’est valable sans une discussion sur les risques dramatiques de l’IA.
Ma première réaction est de dire : “Whoa — prenons tous une grande respiration.” La meilleure tactique d’auto-assistance en cas d’anxiété est de prendre une grande respiration, un remède prouvé. La discussion sur l’IA s’éloigne vers un phénomène de cerveau en ébullition où la profession de conformité s’efforce de suivre le dernier risque hypothétique.
Une Révision Calme et Délibérée
Alors, prenons le temps de passer en revue certains des problèmes clés.
Division de la Population des Risques
En tant que première étape, nous devons diviser la population des risques, non pas par pays, mais par la façon dont l’IA est utilisée au sein de votre entreprise.
La question clé est de savoir si l’IA est centrale à l’activité principale de votre entreprise. Si vous utilisez l’IA pour prendre des décisions de crédit automatisées, évaluer la solvabilité des clients, faire des diagnostics ou recommandations médicales, ou prendre des décisions d’embauche, alors les risques liés à l’IA de votre entreprise sont matériellement distingués de ceux d’autres utilisateurs d’IA.
Une autre façon de décrire cela est que si votre entreprise s’appuie sur l’IA pour des décisions algorithmiques, votre profil de risque est probablement plus élevé que ceux qui n’utilisent pas l’IA pour des décisions algorithmiques clés.