Qui finance la régulation et la sécurité de l’IA ?
La relation de la philanthropie avec l’IA est complexe, et pour de bonnes raisons. D’un côté, l’IA a permis d’importants progrès dans les domaines de la science et de la médecine, comme dans le développement des vaccins contre la COVID-19. Les bailleurs de fonds philanthropiques ont soutenu et continuent de financer la recherche et le développement axés sur l’IA dans ces domaines.
Les bailleurs de fonds commencent également à soutenir l’implémentation de l’IA dans le secteur à but non lucratif, en finançant des initiatives telles que l’accès équitable, la formation et l’éducation. Sans surprise, les bailleurs de fonds technologiques mènent cette charge. Par exemple, la fondation récemment créée OpenAI a accordé 40,5 millions de dollars à plus de 200 organisations travaillant à “renforcer les communautés et élargir les opportunités de l’IA” grâce à son fonds People-First AI.
D’un autre côté, il est impossible pour le secteur civique d’ignorer les préjudices que l’IA peut causer. Des dilemmes juridiques et éthiques entourent la façon dont les modèles de langage de grande taille sont formés, entraînant des licenciements massifs et des pertes d’emplois. Les dangers liés à l’utilisation de l’IA, en particulier l’IA générative, sont significatifs. Récemment, la société xAI d’Elon Musk a été critiquée après que son chatbot Grok a été utilisé pour générer des images explicites de femmes et d’enfants.
Soutien à la sécurité et à la régulation de l’IA
Bien que le débat sociétal autour de l’IA soit relativement nouveau, certains bailleurs de fonds philanthropiques soutiennent la sécurité et la régulation de l’IA, allant de la recherche sur les risques potentiels de l’IA à l’appui de groupes de plaidoyer pour légiférer le secteur. Les dotations pour la sécurité de l’IA sont minimes comparées aux sommes dépensées par les entreprises technologiques. Néanmoins, plusieurs bailleurs de fonds et collectifs méritent d’être notés.
Humanity AI
Au cours de l’automne dernier, une coalition de soutiens philanthropiques a lancé Humanity AI, une initiative de cinq ans de 500 millions de dollars visant à garantir que les gens puissent façonner l’avenir de l’IA pour le bénéfice général de la société. Les dix bailleurs de fonds initiaux de Humanity AI incluent la Doris Duke Foundation, la Ford Foundation, et la Kapor Foundation.
Humanity AI cherche à élargir le groupe de personnes qui décident de la manière dont l’IA sera conçue, développée, déployée et gouvernée. L’initiative vise également à renforcer les organisations qui rassemblent les gens pour façonner l’avenir de l’IA et à soutenir des biens publics qui mettent l’accès et le contrôle de l’IA entre les mains des citoyens.
Omidyar Network
Un bailleur de fonds clé dans l’avancement de la sécurité et de la régulation de l’IA est l’Omidyar Network, un véhicule philanthropique du fondateur d’eBay, Pierre Omidyar. Ce réseau soutient des groupes qui plaident pour des étiquettes d’avertissement sur les réseaux sociaux et qui s’attaquent à la manière dont l’IA peut affecter les enfants et les adolescents.
Omidyar soutient également des protections de la vie privée des consommateurs et vise à aider les États et les entreprises à repenser leur approche de la sécurité en ligne et des droits numériques.
Schmidt Sciences
Schmidt Sciences, l’un des nombreux véhicules de financement établis par Eric et Wendy Schmidt, se consacre à faire avancer la science fondamentale de la sécurité de l’IA. Ils ont récemment lancé un programme de 10 millions de dollars pour développer des méthodes techniques pour “tester et évaluer” les modèles de langage de grande taille afin de mitiger leurs dommages.
Patrick J. McGovern Foundation
La Patrick J. McGovern Foundation cherche à canaliser la technologie, y compris l’IA, vers un impact social positif. Elle a attribué des subventions pour comprendre l’impact de l’IA et atténuer ses préjudices, comme un financement de 400 000 dollars pour Thorn, afin de lutter contre la prolifération de contenus générés par l’IA.
Coefficient Giving
Coefficient Giving, principalement financé par le cofondateur de Facebook, Dustin Moskovitz, soutient le travail autour de l’IA par l’intermédiaire de son fonds Navigating Transformative AI. Ce fonds cherche à réduire le risque de catastrophes mondiales causées par l’IA et à préparer la société aux avancées de cette technologie.
Current AI
Fondée l’année dernière, Current AI est une collaboration internationale entre philanthropie, gouvernements, chercheurs et industries, visant à garantir que la technologie serve le bien commun. L’un de ses domaines prioritaires est l’audit et la responsabilité, cherchant à développer des outils et des normes pour garantir que l’IA soit juste et transparente.
AI Safety Fund
En 2023, le Meridian Institute a lancé un AI Safety Fund, soutenu par des entreprises technologiques comme Google et Microsoft, ainsi que par des bailleurs de fonds philanthropiques. Ce fonds soutient la recherche pour le développement responsable de modèles d’IA de pointe.
Jaan Tallinn
Jaan Tallinn, programmeur et investisseur estonien, est un fervent défenseur de la sécurité de l’IA. Il a soutenu de nombreux projets d’IA et cofondé le Centre pour l’étude des risques existentiels à l’Université de Cambridge.
Heising-Simons Foundation
La Heising-Simons Foundation cherche à aborder l’impact des technologies, y compris l’IA générative, sur la société. Elle soutient des travaux sur la manière dont ces technologies affectent la vie privée et l’autonomie.