Des cybercriminels ont commencé à utiliser l’outil ChatGPT afin de concevoir de nouveaux malwares plus rapidement.
Alors que les écoles de la ville de New York ont décidé d’interdire ChatGPT de leur réseau et de leurs appareils, les cybercriminels envisagent d’adopter la nouvelle technologie pour créer des logiciels malveillants plus rapidement. Le chatbot basé sur le machine learning a été conçu pour interagir de manière conversationnelle, répondre aux questions de suivi et admettre ses erreurs, et il semble que les chercheurs d’OpenAI aient fait un si bon travail que le service peut même écrire du code qui fonctionne avec seulement quelques ajustements ici et là.
L’entreprise de sécurité Check Point a récemment exploré des forums de cybercriminalité à la recherche de morceaux de code malveillant assistés par ChatGPT. Ils ont trouvé ce qu’ils cherchaient, car ChatGPT est apparemment utilisé à la fois comme un outil « pédagogique » et comme une plate-forme de création de logiciels malveillants.
Grâce au chatbot d’OpenAI, les utilisateurs du forum de piratage analysé par Check Point ont pu créer un programme basé sur Python qui recherche les types de fichiers courants, les copie dans le dossier Temp, les zippe et les télécharge sur un serveur FTP codé en dur. Les analyses ont confirmé que le code malveillant pouvait fonctionner.
Un deuxième échantillon, créé par le même utilisateur, était un extrait de code basé sur Java capable de télécharger un client SSH/Telnet (PuTTY) puis de l’exécuter secrètement sur le système à l’aide de Powershell, une fonction qui pouvait être modifiée pour télécharger et exécuter n’importe quel programme. D’autres pirates moins capables ont utilisé ChatGPT pour créer un outil de chiffrement afin de pouvoir facilement générer des clés cryptographiques, chiffrer des fichiers, comparer des hachages, etc.
ChatGPT peut même être (ab)utilisé pour « faciliter les activités de fraude », a averti Check Point, car le service a également été en mesure de créer des scripts pour les revendre sur le Dark Web, en utilisant des API tierces pour « obtenir une crypto-monnaie à jour (Monero , Bitcoin et Etherium) dans le cadre du système de paiement du marché du Dark Web. »
