Pourquoi les Philippines pourraient diriger — ou perdre — la révolution de l’éthique de l’IA
Depuis deux décennies, nous observons comment des personnes influentes prennent des décisions qui façonnent des millions de vies. Aujourd’hui, nous assistons à l’émergence des algorithmes, qui prennent ces décisions plus rapidement, à une plus grande échelle, et avec beaucoup moins de responsabilité.
La question qui me préoccupe : les Philippines aideront-elles à rédiger les règles de ce nouveau pouvoir, ou vivrons-nous simplement sous des règles écrites par d’autres ?
La réponse pourrait vous surprendre. Nous sommes mieux positionnés que vous ne le pensez.
La plupart des gens ne le savent pas, mais les Philippines sont déjà mentionnées dans les discussions mondiales sur la politique de l’IA. Nous sommes appelés Patient Zéro pour la désinformation numérique, le terrain d’essai où les tactiques de manipulation sur les réseaux sociaux ont été perfectionnées avant d’être exportées dans le monde entier.
Il y a un autre aspect à être Patient Zéro. Nous avons développé des anticorps. Nous savons à quoi ressemble la guerre de l’information car nous l’avons vécue pendant les bouleversements politiques et les élections. Et cette expérience est maintenant déployée aux plus hauts niveaux.
Maria Ressa, la laurée du prix Nobel qui s’est fait connaître pour avoir exposé le rôle de Facebook dans la diffusion de la désinformation ici, siège maintenant au Panel de l’IA des Nations Unies. Elle y est parce que son expérience philippine lui donne des perspectives que les dirigeants de la Silicon Valley et les bureaucrates de Genève n’ont tout simplement pas. Nos luttes ont de la valeur. Nos cicatrices nous enseignent des choses que d’autres doivent apprendre.
Un écosystème d’innovation aux Philippines
Tandis que Ressa opère sur la scène mondiale, un écosystème entier de Philippins construit des solutions d’IA qui répondent à des problèmes spécifiquement philippins. Par exemple, Anna Mae Yu Lamentillo, fondatrice de NightOwlGPT, utilise le traitement du langage naturel pour préserver les langues en danger. Alors que les grandes entreprises technologiques forment des modèles d’IA sur l’anglais et le mandarin, Lamentillo veille à ce que l’ilocano, le cebuan et des dizaines d’autres langues philippines ne disparaissent pas dans le vide numérique.
La société de Gian dela Rama a créé KIRA, le chatbot COVID-19 utilisé par des millions de Philippins pendant la pandémie. Le Dr Ethel Ong a développé ORSEN, un chatbot narratif utilisé dans les salles de classe. Ce sont des démonstrations que l’IA peut servir les communautés, et non seulement les entreprises.
Les défis de l’innovation
Cependant, ces innovateurs nagent à contre-courant. Ils construisent des solutions de classe mondiale avec des budgets dits de troisième monde, en concurrence avec des entreprises soutenues par des milliards de dollars de capital-risque.
Je me suis récemment entretenu avec des sources au Département de la technologie de l’information et des communications et à la Bangko Sentral ng Pilipinas. Ils essaient de construire des cadres de gouvernance de l’IA avant que la technologie ne prenne trop d’avance. C’est comme essayer d’écrire des lois de circulation alors que les voitures filent déjà sur l’autoroute.
Je continue à poser la même question : comment réglementer quelque chose que vous ne comprenez pas entièrement ? Comment faire respecter des règles lorsque la technologie évolue plus vite que votre autorité légale ? Leur réponse honnête : ils apprennent en avançant.
Les efforts en matière de régulation
L’effort est réel. La sous-secrétaire Jocelle Batapa Sigue plaide pour un Conseil national de l’IA. Melchor Pablasan à la BSP développe des normes éthiques pour le secteur financier. Ce sont des personnes sérieuses qui font un travail sérieux. Mais l’écart entre l’ambition politique et la réalité technologique ne cesse de se creuser.
Mon expérience en journalisme me rend nerveux face à certains types de réglementation. J’ai vu comment la « modération de contenu » devient « censure de contenu » lorsque le pouvoir change de mains. J’ai observé comment les « politiques de désinformation » sont utilisées contre des reportages légitimes.
Lorsque j’entends des appels à la réglementation de l’IA, et nous en avons absolument besoin, je m’inquiète. Pas parce que la réglementation est mauvaise, mais parce que la mauvaise réglementation est pire que pas de réglementation. Nous avons besoin de responsabilité algorithmique sans autoritarisme algorithmique.
Vers une régulation responsable
Qu’est-ce que cela signifie en pratique ? Transparence obligatoire. Les systèmes d’IA qui prennent des décisions importantes concernant la vie des Philippins devraient devoir divulguer leur fonctionnement, les données qu’ils utilisent, et qui les contrôle. Droits d’audit. La possibilité de faire appel lorsque l’algorithme se trompe.
Mais pas de pouvoir gouvernemental pour décider ce que l’IA peut ou ne peut pas dire. Pas d’infrastructure de surveillance qui pourrait survivre à un changement d’administration. Pas de politiciens philippins souhaitant interdire Grok sous prétexte de supprimer la liberté d’expression.
La solution à un discours dangereux n’a jamais été le silence. C’est plus de discours, de meilleures informations, et des systèmes suffisamment transparents pour que les citoyens puissent juger par eux-mêmes.
Compétition pour les talents en IA
Oliver Segovia et Jordana Valencia dirigent le Philippine Artificial Intelligence Retreat, connectant des chercheurs philippins avec des experts de la Silicon Valley. Ils construisent un pipeline de talents. Mais après avoir formé nos meilleures têtes en IA, beaucoup d’entre elles ne reviendront pas. Un jeune diplômé en IA peut gagner 150 000 $ à San Francisco ou 15 000 $ à Manille. Nous ne sommes pas seulement en concurrence avec d’autres pays pour les talents en IA. Nous sommes en concurrence avec la gravité économique.
À moins que nous ne créions des parcours professionnels, des mécanismes de financement et des opportunités de recherche ici, nous continuerons à exporter nos meilleures personnes et à importer leurs envois de fonds.
À un tournant décisif
J’ai quitté le journalisme quotidien pour me concentrer sur cette question et me rééquipé dans le domaine de l’IA, car je crois que nous sommes à un tournant. Un chemin mène à des Philippines qui sont des consommateurs d’IA, utilisant des outils étrangers, suivant des règles étrangères, et faisant face aux conséquences. L’autre chemin mène à des Philippines qui sont des contributeurs à l’IA, façonnant la technologie, écrivant certaines des règles, et revendiquant une place à la table.
Le second chemin nécessite des choses pour lesquelles nous ne sommes pas bons. Investissement à long terme. Patience institutionnelle. La volonté de financer des recherches qui ne porteront leurs fruits que dans une décennie.
Mais nous avons des avantages que l’argent ne peut pas acheter. Nous avons 110 millions de personnes parlant des dizaines de langues à travers des milliers d’îles, un laboratoire naturel pour tester l’IA dans des conditions diverses et difficiles. Nous avons une diaspora qui s’étend dans le monde entier, nous connectant à chaque grand pôle technologique. Nous avons de l’expérience dans la lutte contre la manipulation numérique.
Et nous nous souvenons de ce que c’est que d’être exclus des révolutions technologiques. Nous nous souvenons d’avoir été dit que l’internet démocratiserait tout, pour finalement voir les plateformes amplifier les voix les plus fortes et enterrer les autres. Nous nous souvenons des promesses de connexion qui ont en réalité apporté la division. Cette mémoire pourrait être notre superpuissance si nous l’utilisons pour construire quelque chose de mieux.
La révolution de l’IA est déjà là. Le choix n’est pas de participer. Nous participons déjà, que nous le voulions ou non. Le choix est de participer en tant qu’architectes ou en tant que locataires.
Je choisis d’être architecte. Et je parie que suffisamment de Philippins feront le même choix. Mais nous manquons de temps. Les bases sont en train d’être posées, dans des laboratoires, des salles de réunion et des bureaux gouvernementaux à travers le monde. Si nous ne sommes pas dans ces salles, ou si nous arrivons trop tard, nous passerons les cinquante prochaines années à vivre dans une maison que nous n’avons pas conçue.
Ce n’est pas acceptable pour moi. Cela ne devrait pas être acceptable pour vous non plus.