L’agent conversationnel ChatGPT d’OpenAI fait couler beaucoup d’encre depuis plusieurs semaines. Cet outil fascine autant qu’il inquiète, et pose des défis susceptibles de révolutionner l’activité cybercriminelle.

Dirk Schrader, Resident CISO (EMEA) and VP of Security Research chez Netwrix, fait le commentaire suivant :

« Les cybercriminels tireront certainement profit du ChatGPT d'OpenAI. Tout d'abord, l'utilisation de cet outil augmentera leur efficacité et leur crédibilité lors de l'exécution de campagnes de phishing ciblées ou vastes.

Ces activités reposent en effet sur le langage. Jusqu'à aujourd'hui, la plupart des emails de phishing étaient souvent mal traduits et maladroits sur le plan grammatical, et donc généralement faciles à repérer.

L'utilisation de ChatGPT va changer la situation car il est capable de créer des textes bien formulés et corrects dans de nombreuses langues. Il sera donc plus difficile pour l'utilisateur final de distinguer le phishing du message légitime. Les formations de sensibilisation des employés devront par conséquent être modifiées pour tenir compte de cette menace.

Il existe également un élément spécifique aux campagnes de phishing, soit d’hameçonnage ciblé. Il sera ainsi plus facile pour les APT (Advanced Persistant Threat) de créer un écosystème complet pour celles-ci.

Des emails et des pages de renvoi, créés dans la langue de la victime et avec un contenu de qualité, inciteront des cibles ayant accès à des données sensibles à faire preuve d’une mauvaise cyber-hygiène : télécharger un fichier malveillant ou encore partager ses identifiants, par exemple.

Pour se préparer à ce type d'attaque assistée par l'IA, les organisations doivent accorder une plus grande attention à la sécurisation des identités de leurs utilisateurs.

Il est essentiel de renforcer la posture de chaque compte ordinaire et à privilèges, en mettant en œuvre une approche de zéro privilège permanent, les droits d’accès n’étant garanti que si et quand ils sont nécessaires.

Deuxièmement, si nous examinons le fonctionnement interne d'un groupe APT typique, il est possible de supposer d'autres façons dont ChatGPT peut influencer leurs opérations.

La création, la transformation et la variation du code sont certainement le domaine où ChatGPT est un outil bienvenu. Il peut être utilisé pour écrire certains modules du code ou lorsqu’une réécriture est nécessaire ; par exemple, pour changer les valeurs de hachage, afin d'éviter une détection facile par des outils défensifs comme Virustotal.

Une autre compétence notable est la capacité de ChatGPT à transformer un langage de programmation ou de script en un autre. Cela permet de raccourcir le cycle de développement pour les groupes spécialisés en ransomware, tout en augmentant leur base de code et leur facilité d'utilisation sur plusieurs plateformes.

Les langages de script pourraient être le premier point de mire ici, car les attaques qui utilisent, par exemple, Powershell, nécessitent des connaissances particulières et doivent être réinventées fréquemment pour éviter d'être détectées.

De plus, ChatGPT va s'améliorer grâce à ses capacités d'apprentissage. Il est potentiellement capable de créer des extraits de code de logiciels malveillants et de ransomwares accessibles aux cybercriminels dotés d’une expérience moindre. C'est une menace à venir à prendre également en compte. »