Depuis plusieurs semaines, l’Union Européenne travaille pour établir un nouveau cadre juridique afin de mieux réguler le développement et l’utilisation de l’intelligence artificielle. Cette loi (IA Act) est la première émanant d’une autorité de régulation majeure et pourrait devenir une norme mondiale. 

Cette année, l’IA, en particulier l’IA générative, est devenue un point central de notre écosystème technologique et les discussions autour de cette loi n’en sont qu’à leurs débuts. Mais qu’en est-il en matière de cybersécurité ?

Fabien Rech, senior vice-président et directeur général EMEA chez Trellix commente :

« La législation sur l'intelligence artificielle de la Commission Européenne est un premier pas attendu vers une structure de gouvernance qui va permettre d’encadrer et de promouvoir un usage plus éthique de cette technologie. Son utilisation se développant rapidement et largement, il est évident qu’un cadre réglementaire qui concilie la protection des individus tout en permettant l'innovation s’imposait. 

Toutefois et telle qu’a été pensée, cette réglementation, parce que trop rigide, comporte un risque important. Il existe en effet un danger réel d’utilisation malveillante de l’intelligence artificielle et aucun mécanisme n’existe en parallèle pour permettre de classifier cet usage comme comportant un risque élevé. 

Cela se révèle inquiétant quand on sait que plusieurs acteurs malveillants ont déjà utilisé l'intelligence artificielle pour mettre au point des cyberattaques tout à fait efficaces de type phishing. Il semble donc important de faire évoluer cette législation. 

En attendant, il incombe aux organisations de veiller à ce que leurs solutions de cybersécurité mobilisent les capacités d'apprentissage automatique offerte par l’intelligence artificielle afin de garantir aux utilisateurs une défense optimale. 

L'intelligence artificielle participant à la création de nouvelles surfaces d’attaques, la mise en place d’une plateforme de surveillance qui a recours à un système d'apprentissage automatique utilisant l’intelligence artificielle s’impose. Face à l’évolution rapide de l’IA générative, il est plus que crucial d’établir des réglementations spécifiques pour protéger les organisation et institutions gouvernementales »