« One AI to rule them all » En Chine, l’unification de la gouvernance urbaine par l’intelligence artificielle

Les prémisses : l’intelligence artificielle et l’unification de la gouvernance urbaine

Nous vivons à une époque où le développement des villes ne peut plus être compris comme la somme de processus différents et déconnectés réalisés par diverses intelligences. L’aménagement du territoire urbain a toujours été une activité extrêmement complexe et multiforme comprenant, par exemple, la création de nouveaux espaces urbains et l’entretien du bâti existant, la préservation de l’environnement naturel, l’attraction et l’investissement de capitaux ou encore la satisfaction des besoins sociaux des citoyens. En raison de la diversité même des espaces, activités et services qui sous-tendent le développement urbain, sa gouvernance a traditionnellement été assurée par différents acteurs en charge de domaines d’expertise urbaine variés. Cela ne signifie évidemment pas que les acteurs urbains ont accompli leur travail dans des silos complètement déconnectés des gouvernements centraux et des autres acteurs urbains. Il existe pourtant une différence fondamentale, par exemple, entre un Bureau de l’environnement chargé de protéger les écosystèmes locaux et un Département de la sécurité publique censé assurer la protection des citoyens. La différence réside dans le fait que, dans cet exemple, différents services urbains sont fournis par des acteurs humains divers et impactent différents espaces urbains. Dans cet article, je soutiens que ce fonctionnement est radicalement modifié par l’intelligence artificielle (IA). Dans les sections suivantes, j’aborde le cas de l’urbanisation de la Chine pour illustrer comment, ce qui était autrefois une gouvernance urbaine multiforme caractérisée par une diversité d’acteurs, de bureaux et d’espaces différents, converge désormais vers une seule intelligence artificielle et un seul espace virtuel ou cyberspace. Nous explorerons en premier lieu la politique environnementale et les ambitions écologiques de la Chine, pour déterminer comment la gouvernance environnementale des villes chinoises dépasse les espaces physiques et les acteurs humains.

Étude de cas : la plateformisation de l’urbanisation chinoise

En 2020, le gouvernement chinois a annoncé un ambitieux programme environnemental visant à atteindre le pic des émissions de carbone d’ici 2030 et la neutralité carbone d’ici 2060 ¹ . Ce vaste programme national se reflète dans un certain nombre d’initiatives environnementales au sein des villes, qui sont à la fois le moteur de la croissance économique de la Chine et la cause de ses problèmes environnementaux ² . Par exemple, des études récentes montrent que si les villes chinoises représentent 75 % du PIB national, elles sont également responsables de plus de 70 % des émissions de carbone de l’ensemble du pays et d’une perte importante d’habitats naturels. C’est dans ce contexte urbain complexe, où les priorités économiques se heurtent aux dilemmes environnementaux, que l’IA apparaît en Chine comme un instrument permettant de gérer l’expansion urbaine rapide du pays et de décarboner ses villes. L’innovation dans le domaine de l’IA a été poussée en Chine par le Conseil d’État (la principale autorité administrative du pays) en 2017 avec la publication d’un plan de développement : New Generation of Artificial Intelligence, et culmine aujourd’hui avec la création de prétendus cerveaux urbains ³ (city brains). Un cerveau urbain est un type d’intelligence artificielle appliquée à l’urbanisme, c’est-à-dire une IA capable d’agir de manière autonome dans des environnements urbains, sur la base d’informations acquises par des capteurs disséminés dans les villes ⁴ . Plus précisément, les cerveaux urbains sont des IA hébergées sur des plates-formes numériques depuis lesquelles elles gèrent des parts non négligeables de la gouvernance urbaine, allant du transport à la sécurité jusqu’à la préservation de l’environnement à la planification urbaine.

Bien que des IA urbaines similaires existent dans d’autres endroits du monde, les cerveaux urbains sont une invention chinoise. Le premier cerveau urbain a été développé en 2016 par le géant technologique chinois Alibaba, qui l’a installé et testé dans la ville de Hangzhou (province du Zhejiang) ⁵ . Le cerveau urbain d’Alibaba porte le nom emblématique de City Brain et ses fonctions et applications illustrent bien les caractéristiques de cette IA et son impact sur la gouvernance urbaine. La fonction initiale de City Brain concernait la gestion du trafic routier de Hangzhou. Cette IA urbaine est capable de détecter et de suivre les zones de transport grâce à des centaines de caméras de vidéosurveillance réparties dans la ville. Ces caméras agissent comme les yeux du cerveau urbain : elles observent ce qui se passe dans la ville, en produisant des données en temps réel. Ces données en temps réel sont combinées, dans la plateforme numérique du cerveau de la ville, avec des jeux de données volumineux (big data) tels que des cartes urbaines et des prévisions météorologiques. Une fois croisé, ce vaste réservoir de données permet à City Brain de développer une excellente connaissance voire conscience des conditions de circulation de Hangzhou, pour que les décideurs politiques puissent intervenir au présent et planifier la mobilité future de la ville. En pratique, City Brain peut prédire quand et où les embouteillages sont susceptibles de se produire, et il optimise de manière autonome les feux de circulation de la ville pour éviter les congestions ⁶ .

Le rôle de City Brain dans la gouvernance du transport urbain et de la mobilité fait écho aux ambitions environnementales de la Chine. Selon Alibaba, l’application de cette IA urbaine a déjà permis de réduire les embouteillages de 15 % et la durée des déplacements de 8 % ⁷ . A condition que le nombre de voiture n’augmente pas, une corrélation positive peut exister entre ces résultats et la réduction des émissions de carbone, car les nouveaux schémas de mobilité établis par City Brain impliquent effectivement que, dans une ville comme Hangzhou, les voitures restent moins longtemps bloquées dans le trafic et sont en mesure de terminer leur trajet plus rapidement. Cela signifie que, comme les voitures sont en mouvement moins longtemps, elles génèrent globalement moins d’émissions de carbone, ce qui est exactement ce que les décideurs chinois doivent accomplir le plus rapidement possible, afin de décarboner l’ensemble du pays d’ici 2060.

Ceci n’est qu’une partie de l’équation. Comme nous l’avons mentionné précédemment, les cerveaux urbains sont hébergés sur des plateformes numériques qui, comme le montre la littérature, sont de plus en plus utilisées dans le monde entier pour gérer les services urbains ⁸ . Les plateformes numériques possèdent une architecture particulière qui les rend très polyvalentes et compatibles avec de nombreux types de données et de services ⁹ . Fondamentalement, une plateforme numérique possède une structure modulaire qui permet un assemblage facile et une grande flexibilité, au-delà de l’objectif et des capacités initiales. Dans le cas de City Brain, cela signifie que la plateforme numérique où opère cette IA urbaine peut être facilement étendue par Alibaba pour intégrer des fonctions qui vont au-delà de la gestion du trafic. Ici encore, il existe un lien avec le programme environnemental de la Chine, puisqu’une partie de l’évolution de City Brain s’inscrit parfaitement dans l’objectif du pays de diminuer les émissions de carbone et de préserver l’environnement naturel. Par exemple, un nouveau composant de la plateforme numérique de City Brain s’appelle « Environment Brain » et combine un système de géolocalisation avec des données environnementales pour anticiper la quantité de déchets qui seront produits, prédire la capacité de production d’énergie photovoltaïque et modéliser l’empreinte carbone des entreprises privées ¹⁰ . La logique est la même que celle qui a été appliquée à l’origine à Hangzhou pour optimiser le trafic. La technologie est similaire : le cerveau urbain collecte des données et les utilise pour élaborer des prédictions sur ce qui est susceptible de se produire dans un système urbain donné, afin d’optimiser ce système à l’avance. Des capteurs sont utilisés pour développer une connaissance de la situation de la ville, telle qu’elle est dans le présent, puis l’IA prédit son avenir. Ce qui diffère, c’est l’aspect de la ville qui est pris en compte dans l’analyse du présent et l’anticipation de ses évolutions. À l’origine, l’aspect urbain sur lequel City Brain se concentrait était le trafic. Par la suite, l’IA s’est étendue aux aspects environnementaux tels que les déchets, l’énergie propre et l’empreinte carbone, grâce à l’architecture flexible de la plateforme numérique qui permet à Alibaba d’intégrer de nouvelles fonctions analytiques et prédictives liées à des domaines urbains de plus en plus nombreux. Mais où s’arrête l’expansion de la plateforme numérique de City Brain ? Et où s’arrêtent le rôle et le pouvoir opérationnel de cette IA urbaine ?

La réponse à ces deux questions est la suivante : elle ne s’arrête pas. La structure modulaire d’une plate-forme numérique est délibérément conçue pour se développer à l’infini. De nouveaux composants, fonctionnalités et capacités peuvent, d’un point de vue technique, toujours être ajoutés, à condition bien sûr qu’ils soient compatibles avec la logique et la technologie d’origine. Dans ces conditions, Alibaba peut continuer à développer City Brain, à condition que ses nouvelles fonctions concernent l’accumulation de données sur les villes actuelles et les prédictions algorithmiques des futurs urbains. En outre, il est important de se rappeler que, même si un cerveau urbain possède des composants physiques tels que des ordinateurs et des capteurs, son essence principale est numérique et se situe dans un monde virtuel infini où une croissance sans fin est théoriquement possible. La plate-forme numérique de City Brain peut donc continuer à s’étendre sans limite physique immédiate et donc son pouvoir opérationnel également puisque, pour chaque nouvelle fonctionnalité et chaque nouveau composant qui est branché, cette IA urbaine étend son rôle à un autre aspect de la ville.

C’est exactement ce qu’il s’est passé avec le City Brain d’Alibaba. Ce cerveau urbain, construit à l’origine pour gérer le trafic urbain, a ensuite été étendu à la gestion des domaines de la gouvernance environnementale, tels que les déchets et l’énergie, et il a maintenant été étendu au contrôle d’autres aspects de la gouvernance urbaine : les soins de santé, l’approvisionnement et la finance. En outre, la même IA, qui n’était autrefois opérationnelle qu’à Hangzhou, est désormais présente dans la gouvernance de plus de vingt villes en Chine et au-delà, y compris Kuala Lumpur en Malaisie. La croissance de ce cerveau urbain et celle de son rôle opérationnel dans la gouvernance urbaine ne s’arrêtent pas.

La conséquence : one AI to rule them all

La plateformisation de l’urbanisation chinoise ne fait que commencer. Cette terminologie vise à rendre compte de l’utilisation croissante des plateformes numériques dans la gouvernance des nombreux aspects qui sous-tendent le développement et la vie des villes, de leurs déchets à leur mobilité et de leurs émissions de carbone à leurs finances, leur santé et leur sécurité. La liste de ces domaines urbains est longue et elle est rapidement couverte par les capacités des cerveaux urbains qui émergent désormais comme des acteurs de premier plan dans la gouvernance des villes chinoises. Cette tendance peut être observée en examinant le cas spécifique du City Brain d’Alibaba, évoqué ci-dessus, mais elle est également observable dans trois tendances plus larges qui caractérisent la Chine contemporaine. La première est la diffusion de plates-formes numériques qui sont de plus en plus utilisées dans la société chinoise pour gérer un éventail large et diversifié de données ¹¹ . La deuxième est la pratique de l’urbanisme intelligent dans presque toutes les villes chinoises, qui, en mettant l’accent sur les capteurs et les données pour optimiser la gouvernance urbaine, représente les prémisses de la plateformisation de l’urbanisme ¹² . La troisième est l’impulsion donnée par le gouvernement chinois à la recherche et au développement dans le domaine de l’IA, dans le but de faire de la Chine une superpuissance de l’IA ¹³ .

D’un point de vue environnemental, les plateformes urbaines basées sur l’IA sont une épée à double tranchant autour de laquelle le débat académique s’intensifie ¹⁴ . D’une part, certains chercheurs affirment que la surveillance de l’environnement et la gestion des déchets (qui font partie des capacités des cerveaux urbains) peuvent être améliorées par l’IA ¹⁵ . De même, le trafic routier représentant une part importante des émissions mondiales de carbone et environ 10 % des émissions de CO2 de la Chine, sa gestion et son optimisation autonomes via une technologie telle que City Brain ne peuvent pas totalement décarboner les villes, mais elles peuvent effectivement contribuer à cet objectif ¹⁶ . En revanche, il est peu probable que l’IA règle les problèmes urbains de perte de biodiversité, tout simplement parce qu’en Chine, par exemple, ces problèmes sont causés par l’expansion des espaces urbains qui finissent par consommer et remplacer les espaces naturels. L’IA n’est pas une baguette magique capable de recréer l’environnement là où il a disparu. En outre, il est essentiel de se rappeler que l’IA a un impact environnemental, la production de ces technologies nécessite l’extraction de minéraux et de métaux essentiels en Chine et ailleurs ¹⁷ . Mais surtout, comme nous l’avons vu dans cet article, les fonctionnalités et services des cerveaux urbains à but environnemental ne sont qu’une partie de la structure modulaire des plateformes numériques. Dans ces systèmes numériques, aucun module ne fonctionne de manière isolée. L’interconnexion est la clé de leur mécanisme et, avec la plateformisation de l’urbanisation chinoise qui devrait se poursuivre à un rythme soutenu, trois conséquences reliées sont à considérer.

Premièrement, il y a la question du croisement des données. Les cerveaux urbains des villes chinoises récoltent de grandes quantités de données en provenance de sources diverses: images de personnes et de lieux capturées par des caméras de vidéosurveillance, niveaux de production et de consommation d’énergie calculés par des compteurs intelligents, habitudes de mobilité urbaine détectées par les systèmes de suivi, émissions de carbone mesurées par des capteurs intelligents, mais aussi des informations privées enregistrées par le passé dans les bases de données gouvernementales, ainsi que des informations en temps réel et potentiellement sensibles que presque tous les citoyens chinois produisent désormais au moyen des médias sociaux et des applications mobiles. En provenance de différentes zones de la Chine et de différentes parties de ses villes et de sa société, toutes ces données finissent par aboutir sur la même plateforme numérique. Au sein de cette plateforme, l’origine de chaque donnée et l’objectif initial pour lequel elle a été produite et collectée n’ont plus d’importance. Chaque donnée est croisée et peut être réutilisée à des fins qui vont bien au-delà des enjeux urbains d’où proviennent les informations à l’origine. Il ne s’agit évidemment pas là d’un problème exclusivement chinois: c’est même plutôt le contraire. Sous l’influence de puissantes entreprises numériques basées en Occident, telles que Google et Facebook, des sociétés du monde entier voient leurs données personnelles être réutilisées pour favoriser la publicité ciblée, la police prédictive et, en un mot, la surveillance ¹⁸ .

Ensuite, il y a la question de l’intelligibilité de l’IA urbaine et du système numérique au sein duquel elle opère. La plateformisation de l’urbanisation chinoise signifie, en pratique, que beaucoup de données et de services migrent vers le numérique. Presque paradoxalement, ce monde virtuel est aujourd’hui immédiatement accessible depuis presque toutes les zones urbaines, y compris nos espaces domestiques, grâce à un simple smartphone. Pourtant, ces espaces virtuels sont très éloignés des espaces physiques. Ils sont situés dans des dimensions différentes et leur intégrité même présente de fortes différences.

Ces différences, ainsi que le fait que les plateformes numériques – comme celle hébergeant City Brain – soient gérées par une « intelligence non biologique », rendent les espaces numériques et a fortiori l’IA très difficiles à comprendre par la majorité de la population. Ce problème a parfaitement été cerné dans la littérature consacrée à l’intelligence artificielle explicable (XAI) ¹⁹ . En substance, ce courant de recherche décrit l’IA comme une technologie obscure et ésotérique. La complexité des algorithmes, la manière dont ils sont écrits et dont ils fonctionnent réellement sont telles que ceux qui n’ont pas de formation en informatique auraient du mal à comprendre leur fonctionnement.

De même, la structure modulaire des plateformes numériques et les masses de données qu’elles contiennent peuvent être si complexes qu’elles ne sont compréhensibles que par les data-analystes. C’est un problème car les IA et les plateformes numériques sont désormais utilisées pour gouverner les villes, ce qui a un impact sur des espaces réels qui font partie de notre quotidien et, surtout, sur nos vies.

Il y a donc une asymétrie de connaissance forte et problématique entre des citoyens qui ne comprennent pas l’IA qui façonne leur vie, alors que l’IA elle-même, grâce aux immenses ensembles de données croisées à sa disposition, sait tout sur eux.

Enfin, il y a la question de la centralisation, entendue comme la concentration du pouvoir dans une IA centralisée. Un cerveau urbain est une IA centralisée dans le sens où le pouvoir de connaître de multiples aspects des villes, de leur vie et de la vie des citoyens, ainsi que le pouvoir de gouverner activement les villes et d’influencer leur développement se trouvent au sein d’une seule IA, au lieu d’être répartis entre diverses intelligences humaines et artificielles. Bien entendu, les agents humains continuent de jouer un rôle important dans la gouvernance des villes. En Chine, par exemple, City Brain lui-même ne pourrait pas fonctionner sans humains. Il a besoin des informaticiens d’Alibaba pour construire sa plateforme numérique et écrire les algorithmes qui lui permettent d’agir. Il a également besoin des data-analystes d’Alibaba pour l’alimenter en données qui sont ensuite utilisées pour élaborer des prédictions. Enfin, City Brain a besoin de main-d’œuvre humaine pour construire toute l’infrastructure physique, des ordinateurs aux réseaux intelligents et des capteurs sophistiqués aux simples câbles, sans lesquels son « royaume numérique » ne pourrait exister. Cependant, comme le montre la littérature sur l’IA urbaine, les villes sont sur le point de s’autonomiser davantage, en Chine comme ailleurs ²⁰ . Les technologies et services urbains qui étaient traditionnellement exploités par des agents humains fonctionnent de plus en plus de manière autonome.

Nous entrons dans l’ère de la ville autonome : une ville contrôlée par l’IA, dans laquelle un nombre croissant d’hommes et de femmes sont laissés en dehors de la boucle. Lorsque l’IA « responsable » prend la forme d’un cerveau urbain tel que City Brain, la majorité du pouvoir est concentrée dans une seule IA qui règne non seulement sur une ville, mais aussi sur de nombreuses autres villes. Une telle IA omnisciente et potentiellement omnipotente se transformera-t-elle en un pouvoir absolutiste éclairé ou en un tyran despotique ? Cette question doit être posée de toute urgence et recevoir une réponse avant qu’il ne soit trop tard.

1. S. Mallapaty, « How China could be carbon neutral by mid-century », Nature, 586, 2020.
2. K. Tang, Y. Liu, D. Zhou, Y. Qiu, « Urban carbon emission intensity under emission trading system in a developing economy: evidence from 273 Chinese cities », Environmental Science and Pollution Research, 28(5), 2021 ; Y. Wang, X. Fang, S. Yin, & W. Chen, « Low-carbon development quality of cities in China: Evaluation and obstacle analysis », Sustainable Cities and Society, 64, 2021 ; Y. Tu, B. Chen, L. Yu, Q. Xin, P. Gong, & B. Xu, « How does urban expansion interact with cropland loss? A comparison of 14 Chinese cities from 1980 to 2015 ». Landscape Ecology, 36(1), 2021.
3. F. Wu, C. Lu, M. Zhu, H. Chen, J. Zhu, K. Yu, & Y. Pan, « Towards a new generation of artificial intelligence in China », Nature Machine Intelligence, 2020.
4. F. Cugurullo, « Urban artificial intelligence: From automation to autonomy in the smart city ». Front. Sustain. Cities, 2(38) 2020.
5. F. Caprotti, D. Liu « Platform urbanism and the Chinese smart city: the co-production and territorialisation of Hangzhou City Brain ». GeoJournal, 2020.
6. J. Zhang, X. Hua, J. Huang, X. Shen, J. Chen, Q. Zhou & Y. Zhao, « City brain: practice of large-scale artificial intelligence in the real world », IET Smart Cities, 2020.
7. Alibaba, « City Brain now in 23 cities in Asia », 2020.
8. S. Barns, « Platform urbanism: negotiating platform ecosystems in connected cities », Springer, 2019.
9. A. Lee, A. Mackenzie, G. Smith, P. Box, « Mapping platform urbanism: Charting the nuance of the platform pivot », Urban Planning, 2020.
10. Alibaba, « Environment Brain », 2021.
11. F. Caprotti, D. Liu, « Emerging platform urbanism in China: Reconfigurations of data, citizenship and materialities », Technological Forecasting and Social Change, 2020.
12. A. Karvonen, F. Cugurullo, F. Caprotti (Eds.), Inside smart cities: Place, politics and urban innovation, Routledge, 2018.
13. H. Roberts, J. Cowls, J. Morley, M Taddeo, V. Wang, L. Floridi, « The Chinese approach to artificial intelligence: an analysis of policy, ethics, and regulation », AI & SOCIETY, 2021 ; K. F. Lee, AI superpowers: China, Silicon Valley, and the new world order, Houghton Mifflin Harcourt, 2018.
14. T. Yigitcanlar, F. Cugurullo, « The sustainability of artificial intelligence: An urbanistic viewpoint from the lens of smart and sustainable cities », Sustainability, 12(20), 2020.
15. C. Scoville, M. Chapman, R. Amironesei, C. Boettiger, « Algorithmic conservation in a changing climate. Current Opinion in Environmental Sustainability », 51, 2021.
16. L. Zhang, R. Long, H. Chen, J. Geng, « A review of China’s road traffic carbon emissions », Journal of Cleaner Production, 207, 2019.
17. L. Zhou, H. Fan, T. Ulrich, « Editorial for Special Issue “Critical Metals in Hydrothermal Ores: Resources, Recovery, and Challenges” », Minerals, 2021.
18. S. Zuboff, The age of surveillance capitalism: The fight for a human future at the new frontier of power, Profile Books, 2019.
19. A. B. Arrieta et al., « Explainable Artificial Intelligence (XAI): Concepts, taxonomies, opportunities and challenges toward responsible AI », Information Fusion, 58, 2020.
20. F. Cugurullo, Frankenstein Urbanism: Eco, Smart and Autonomous Cities, Artificial Intelligence and the End of the City, Routledge, 2021.