Ingénieurs en IA automobile à la croisée de la technologie et de l’éthique
La conduite est l’opération contrôlée et le mouvement d’un véhicule, un acte qui nécessite de prendre des décisions continues, beaucoup d’entre elles instantanément.
À mesure que nous entrons dans l’ère des véhicules autonomes, la question n’est pas de savoir si un cerveau IA peut prendre instantanément de nombreuses décisions critiques, mais plutôt qui définira le sens du bien et du mal de l’IA ? Qui est responsable de l’âme de l’IA ?
Défis de la programmation éthique
La programmation des véhicules autonomes pour la prise de décisions éthiques est un défi moderne. Les « situations de dilemme » inévitables ne peuvent être exclues, et les programmeurs automobiles doivent s’y préparer. Cependant, un code moral universel pour l’éthique machine et les voitures autonomes n’existe pas.
Wolf Schäfer, professeur émérite au Département de Technologie et Société de Stony Brook, déclare : « Nous faisons face à des problèmes qui deviennent non seulement internes à l’ingénierie, mais qui sont également reconnus par la société comme des questions critiques auxquelles elle souhaite des réponses. »
Théories éthiques et leurs implications
Bien que des théories éthiques telles que le libertarianisme, l’utilitarisme et le kantisme soient disponibles, l’implémentation algorithmique de l’une d’elles semble arbitraire. Les différentes préférences morales trouvées dans les clusters culturels occidentaux, orientaux et autres entraveraient également la conception d’un système de contrôle de véhicule moralement sain et valable à l’échelle mondiale.
Schäfer souligne qu’il est maintenant crucial de traiter ces problèmes et d’apporter des changements à l’éducation en ingénierie, notamment en ce qui concerne la conception et l’enseignement appropriés de l’IA. Les chercheurs prédisent que la transition vers les véhicules autonomes prendra plus d’une décennie.
Intégration de l’éthique dans l’éducation en ingénierie
« Nous devrions utiliser ce temps pour planifier le domaine de l’IA en pleine expansion », dit-il, notant qu’aux États-Unis, il y a environ 40 000 accidents mortels de véhicules motorisés par an. « C’est plus que les homicides, les accidents d’avion et les catastrophes naturelles combinés. »
Le projet VIP (Vertically Integrated Projects) de Schäfer offre une opportunité unique d’intégrer des sujets tels que la philosophie morale dans les cours d’ingénierie typiques, un besoin croissant. Il a commencé à construire le laboratoire en 2022, utilisant des voitures modèles équipées de caméras et de capteurs sur une piste de course.
Développement de machines éthiques
« Nous devrons distinguer entre les machines morales, immorales et légitimes », explique Schäfer. Les machines « immorales » feraient des choses que nous considérons comme immorales, tandis que les machines « morales » suivraient certaines règles ou conventions éthiques. Les machines « légitimes » seraient celles créées par la certification sociétale d’une nouvelle technologie pour être autorisées sur les routes publiques.
Le défi est que les gens devront s’engager dans des discussions sur des questions éthiques. « L’éducation en ingénierie n’en est pas encore là », dit-il. « Ce n’est pas comme si nous avions des lois physiques, où nous savons que la valeur de la gravité n’est pas sujette à débat. »
Collaboration interdisciplinaire
Schäfer note que les programmes d’ingénierie sont très bons pour enseigner des compétences techniques, mais manquent des compétences évaluatives critiques que les sciences humaines et sociales peuvent offrir. « Nous faisons face à des problèmes qui ne peuvent être résolus uniquement avec des compétences techniques. »
Les étudiants en ingénierie devront collaborer avec des chercheurs en sciences humaines et sociales. « Le programme VIP et notre projet particulier pointent vers une solution d’ingénierie plus appliquée aux sciences humaines et sociales. »
Ammar Ali, étudiant en informatique, a rejoint le laboratoire d’éthique automobile en raison de son intérêt pour les véhicules autonomes. « Je dirige actuellement le développement d’un modèle d’apprentissage automatique qui servira de tête d’attention éthique au sein de notre simulation. »
Ali ajoute que l’environnement professionnel établi au sein de l’équipe imite les pratiques de l’industrie réelle, offrant un avantage aux étudiants à mesure qu’ils se rapprochent de leurs carrières professionnelles.
Conclusion
Schäfer se décrit comme un historien des sciences et de la technologie, combinant compréhension technique et sociétale. « Pour contempler l’IA, il n’est pas nécessaire de posséder les compétences disciplinaires uniques qui étaient exigées pendant si longtemps, » conclut-il.
Les voitures d’aujourd’hui sont des ordinateurs sur roues, capables de reconnaissance des options dans des situations de dilemme. « 2000 ans de philosophie n’ont pas produit de théorie morale universelle, » dit-il. « Nous essayons de nous rapprocher de la traduction des théories philosophiques en algorithmes. »