IA générative : menace ou opportunité pour les villes face aux cyberattaques ?

L’IA générative met de nouveaux outils entre les mains des cybercriminels, qui multiplient leurs attaques contre les villes dans un contexte géopolitique tendu. Mais elle confère également des armes pour lutter contre ses attaques, du repérage des anomalies sur le réseau au filtrage des courriers malveillants.

Les cyberattaques sont en hausse depuis plusieurs années, et les villes ne sont pas épargnées. Que ces attaques ciblent directement les mairies, qu’elles s’en prennent à des services essentiels comme les hôpitaux ou encore à la capacité des villes à s’approvisionner en énergie, elles font aujourd’hui peser une épée de Damoclès au-dessus de chaque municipalité et entreprise gérant des infrastructures publiques. 

Des facteurs d’ordre structurel conduisent à accroître la vulnérabilité des villes. En particulier, avec l’essor de la ville intelligente, les infrastructures sont toujours plus digitalisées, donc vulnérables aux attaques : 

« Nos villes, de plus en plus techniques, sont aussi de plus en plus vulnérables. Leur infrastructure est dépendante de plusieurs couches logicielles, et s’attaquer à un hôpital, un système de transport ou d’énergie devient tentant pour les hackers, qu’il s’agisse de terroristes ou de criminels motivés par l’appât du gain », affirme Antoine Picon, professeur au Laboratoire Techniques, Territoires et Sociétés, dont les recherches portent notamment sur les liens entre numérique et villes.

Des facteurs conjoncturels accroissent également le niveau de menace. La montée des tensions géopolitiques entre les blocs (guerre en Ukraine, tension croissante entre les États-Unis et la Chine…) conduit ainsi à une hausse des cyberattaques sur les infrastructures. Les États utilisent les hackers pour faire la guerre de manière indirecte, et ferment les yeux sur les activités des cybercriminels qui opèrent sur leur territoire par appât du gain. Les attaques de rançongiciel, en particulier, sont nombreuses et ciblent de plus en plus les villes, paralysant les services publics et affectant les réseaux énergétiques.  

L’IA générative, bras armé des cybercriminels ?

 

La tâche des cybercriminels est désormais facilitée par les progrès spectaculaires de l’IA générative, une puissante technologie capable de créer elle-même des contenus, révélée notamment au grand public via ChatGPT. En effet, 98 % des cyberattaques recourent à l’ingénierie sociale, et 91 % passent par un courrier électronique. Historiquement, il était possible de débusquer ces attaques grâce à la grammaire et à l’orthographe bancales des attaquants, qui n’écrivaient souvent pas dans leur langue maternelle. 

Or, l’IA générative leur permet de rédiger beaucoup plus facilement des textes irréprochables. Ceci a par exemple conduit à une hausse massive des cyberattaques au Japon, de nombreux hackers devenant soudain capables d’écrire des courriels d’hameçonnage convaincants en japonais. 2 322 transferts d’argent non autorisés par internet y ont été repérés durant le premier semestre 2023, soit seize fois plus qu’à la même période l’année précédente. 

L’IA générative automatise aussi partiellement l’écriture de code. « Les programmes comme ChatGPT sont très performants pour créer des logiciels. C’est rarement parfait, mais il ne faut en général qu’une petite quantité de travail pour permettre aux codeurs de partir du code rédigé et en faire un programme qui fonctionne. C’est beaucoup moins pénible que de tout coder soi-même depuis le début. Ils permettent aussi aux développeurs expérimentés de programmer beaucoup plus rapidement. On peut ainsi s’attendre à une hausse de la fréquence et de l’efficacité des cyberattaques », affirme Zachary Chase Lipton, chercheur de l’université Carnegie Mellon, spécialisé dans l’intelligence artificielle. 

Enfin, les attaques aux deepfakes ou hypertrucages (faux contenus audio et vidéo) rendent également les tentatives d’arnaques plus redoutables. Plus tôt cette année, la société britannique d’étude et de conseil en ingénierie Arup a ainsi perdu 20 millions de livres après qu’un employé s’est fait duper par un cybercriminel ayant utilisé un deepfake vidéo afin de se faire passer pour un cadre de l’entreprise et ainsi susciter un transfert d’argent frauduleux. Si, dans ce cas-là, c’est une entreprise qui a été victime, les villes ne sont pas à l’abri. Des puissances hostiles ont ainsi récemment utilisé l’IA pour lancer des cyberattaques contre les villes et infrastructures américaines, britanniques et au sein de l’Union européenne

 

Comment les villes peuvent retourner l’IA contre leurs adversaires

Pour les municipalités, les progrès de l’intelligence artificielle ne sont toutefois pas seulement un facteur de risque accru. Ils leur fournissent également des armes pour affûter leurs défenses contre les cyberattaques. 

Grâce à sa capacité à traiter d’immenses quantités de données en un temps record et à établir des corrélations invisibles pour l’œil humain, l’IA permet d’abord de repérer plus facilement les anomalies sur le réseau, susceptibles d’indiquer une intrusion. Le fait qu’un utilisateur se mette subitement à copier et télécharger un grand nombre de fichiers peut ainsi être le signe d’une attaque de rançongiciel. C’est ce que propose une société comme Darktrace, acteur britannique qui utilise l’IA pour apprendre à quoi ressemble une journée normale sur un réseau et ainsi détecter immédiatement les anomalies. La ville de Las Vegas a notamment recours aux services de cette entreprise pour se protéger contre les hackers. 

L’écrasante majorité des cyberattaques passe par la boîte mail. Or, l’intelligence artificielle peut également être utilisée pour filtrer les tentatives de courriels malveillants, qu’il s’agisse de tentatives d’hameçonnage s’appuyant sur l’ingénierie sociale ou de messages contenant un lien ou une pièce-jointe frauduleuse. Apprenant à reconnaître ses courriers après avoir été entraînée sur une large base de données, elle permet ainsi de les éliminer avant même la réception par l’usager, supprimant par là-même totalement le risque qu’il clique dessus. C’est ce que propose la société américaine Proofpoint, spécialisée dans la sécurisation des boîtes mail grâce à l’IA. La société est notamment capable de faire de l’analyse sémantique pour détecter automatiquement l’intention du message d’un acteur malicieux, indépendamment des mots ou de la langue utilisée. La ville de Melville, en Australie, a recours à ses services pour protéger les boîtes mail de ses fonctionnaires. 

Le projet européen Impetus, qui vise à protéger les smart cities contre les cyberattaques, fait lui aussi la part belle à l’IA. « Nous avons proposé huit outils concrets avec un guide pour permettre aux praticiens de facilement les utiliser afin d’améliorer la sécurité des villes, en nous assurant qu’ils respectent eux-mêmes tous les standards, y compris le RGPD. Parmi ces outils figuraient notamment l’usage de l’IA au service de l’analyse de tous les flux réseau pour détecter les attaques, ainsi que pour repérer les tentatives de déstabilisation via les réseaux sociaux », affirme Nesrine Kaaniche, chercheuse à Télécom SudParis, qui a travaillé sur le projet. 

Pour éviter l’effet boîte noire, il est en revanche important que l’IA offre une dose d’explicabilité pour que les villes puissent en tirer le meilleur parti. Une dimension sur laquelle Impetus a également mis l’accent. « Pour chaque outil, nous avons fait en sorte qu’il soit possible de retracer comment il a agi et pourquoi, afin que l’humain puisse toujours tout comprendre et agir en conséquence. » 

Grâce à ces différents outils, et à condition de former leur personnel aux principes élémentaires de la cybersécurité, les villes ont ainsi des ressources pour mieux résister aux assauts répétés des hackers. 

Partager l'article sur