Solutions d’IA Éthique et Leur Impact sur les Industries Réglementées
Dans les industries réglementées et intensives en actifs, l’adoption de l’IA est façonnée par des facteurs allant au-delà de la faisabilité technique. Les organisations cherchent désormais à déployer des systèmes d’IA qui apportent des améliorations opérationnelles mesurables. En même temps, elles doivent veiller à ce que ces systèmes soient sûrs, expliquables et alignés sur le jugement humain. Les erreurs dans ces contextes entraînent de réelles conséquences humaines et économiques.
Risques dans le Secteur de la Fabrication
Dans le domaine de la fabrication, ces risques sont tangibles. Par exemple, le Bureau des statistiques du travail des États-Unis rapporte 391 blessures professionnelles mortelles dans le secteur manufacturier en 2023, soulignant comment les décisions dans des environnements industriels peuvent rapidement devenir critiques pour la sécurité.
Pressions dans l’Agriculture
De même, en agriculture, les enjeux opérationnels sont tout aussi élevés, mais à l’échelle mondiale. L’Organisation des Nations Unies pour l’alimentation et l’agriculture estime qu’environ 40 % de la production mondiale de cultures est perdue chaque année à cause des ravageurs et des maladies des plantes, entraînant des pertes économiques de plus de 220 milliards USD.
Ces pressions poussent les organisations à rechercher des systèmes d’IA pour le soutien à la décision, tout en exigeant que ces systèmes restent transparents, fiables et alignés sur la supervision humaine.
Application Pratique de l’IA chez Bosch
Dans une récente conversation, un cadre de Bosch a discuté de la manière dont l’organisation aborde cet équilibre en pratique. En s’appuyant sur l’expérience de Bosch dans l’application de l’IA dans des systèmes de production déterministes et sur l’introduction interne sélective de l’IA générative (GenAI), il a décrit comment les barrières éthiques, la supervision humaine et la conception d’applications alignées sur les affaires guident la stratégie d’IA de Bosch.
Déplacer l’IA en Amont pour Réduire les Risques de Qualité
Un exemple impliquant Bosch et un partenaire de fabrication de roues en alliage illustre ce principe. Dans cet environnement de production, les défauts étaient traditionnellement détectés tardivement grâce à des inspections par rayons X pour identifier des défauts internes. Grâce à l’analyse alimentée par l’IA, l’équipe de Bosch a identifié que ces défauts étaient étroitement liés aux paramètres de production en amont.
En appliquant l’IA plus tôt dans le flux de travail, au cours de la phase de fusion de l’aluminium, Bosch a pu surveiller et ajuster les paramètres liés à la formation de défauts avant que ceux-ci ne soient introduits. Cela a permis de réduire le taux de défauts d’environ 10 % à environ 1 % à 2 %.
Adapter la Supervision de l’IA au Risque d’Utilisation
La supervision de l’IA doit être adaptée à chaque cas d’utilisation, plutôt que d’adopter un modèle de gouvernance uniforme. La plupart des déploiements d’IA de Bosch restent déterministes par conception, permettant ainsi une automatisation avec une intervention humaine limitée.
Cependant, pour les systèmes influençant les personnes ou impliquant de l’ambiguïté, Bosch évalue les besoins de supervision humaine au cas par cas. Cela permet d’éviter la sur-réglementation de l’automatisation à faible risque tout en garantissant que les systèmes à fort impact reçoivent un examen approprié.
Utiliser GenAI comme Support à la Décision, Pas comme Autorité
La présentation de GenAI chez Bosch s’est faite à travers un assistant RH interne connu sous le nom de ROB. Les décisions d’IA affectant des personnes ne doivent pas être prises sans un arbitre humain. Cela signifie qu’il doit toujours y avoir un humain entre les deux. Bosch a déployé ce système génératif en interne, permettant ainsi d’explorer l’IA probabiliste dans un environnement contrôlé tout en maintenant une responsabilité humaine claire.
En conclusion, l’adoption éthique de l’IA dans les industries réglementées est essentielle pour garantir la sécurité, la transparence et l’efficacité opérationnelle.