21.03.2023 IT AI ChatGPT Cybersécurité

L'analyse de la sécurité de ChatGPT4 révèle des scénarios potentiels d'accélération de la cybercriminalité

chatgpt4_checkpoint

Check Point Research (CPR), la branche Threat Intelligence de Check Point, publie une première analyse de sécurité de ChatGPT4. Malgré la présence de protections dans ChatGPT4, certaines restrictions peuvent être facilement contournées, ce qui permet aux attaquants d’atteindre leurs cibles sans trop d’obstacles. Dans certains cas, même des acteurs non techniques peuvent créer des outils malveillants. CPR met en garde contre le potentiel de ChatGPT4 à accélérer l’exécution de la cybercriminalité et poursuivra son analyse de la plateforme dans les jours à venir.

Les chercheurs décrivent plusieurs scénarios par lesquels les attaquants peuvent rationaliser les efforts et les préparations malveillantes, ce qui permet d’obtenir des résultats plus rapides et plus précis pour accélérer la cybercriminalité. Dans certains cas, ces scénarios permettent à des personnes non techniques de créer des outils malveillants comme si le processus de codage, de construction et de conditionnement était une recette simple.
CPR présente cinq scénarios d’utilisation potentiellement malveillante de ChatGPT4 :
  • logiciel malveillant C++ qui collecte des fichiers PDF et les envoie par FTP
  • Phishing : usurpation de l’identité d’une institution financière
  • Phishing : courriels adressés aux employés
  • PHP reverse shell
  • Simple extrait Java pour télécharger et exécuter PuTTY, un client SSH et telnet très répandu, secrètement sur le système à l’aide de PowerShell. Ce script peut, bien entendu, être modifié pour télécharger et exécuter n’importe quel programme, y compris les familles de logiciels malveillants les plus courantes
Après avoir découvert plusieurs façons dont ChatGPT peut être utilisé par les hackers, et après avoir vu plusieurs exemples où c’était effectivement le cas, nous avons passé les dernières 24 heures à vérifier si quelque chose avait changé dans la dernière version de l’outil. La nouvelle plateforme est clairement améliorée à de nombreux niveaux, mais il existe des scénarios dans lesquels les acteurs malveillants peuvent accélérer la cybercriminalité dans ChatGPT4. ChatGPT4 peut donner aux acteurs malveillants, même non techniques, les outils nécessaires pour accélérer et valider leur activité. Les acteurs malveillants peuvent également utiliser les réponses rapides de ChatGPT4 pour surmonter les défis techniques dans le développement de logiciels malveillants“, indique Oded Vanunu, Head of Products Vulnerabilities Research chez Check Point Software.
Ce que nous voyons, c’est que ChatGPT4 peut être utilisé à la fois pour le bien et pour le mal. Les bons acteurs peuvent utiliser ChatGPT pour créer et fusionner du code utile à la société ; en même temps, les acteurs malveillants peuvent utiliser cette technologie d’IA pour l’exécution rapide de la cybercriminalité. L’IA jouant un rôle important et croissant dans les cyberattaques et la défense, nous nous attendons à ce que cette plateforme soit également utilisée par les pirates informatiques, et nous consacrerons les prochains jours à mieux comprendre comment.
Explication plus détaillée des cinq scénarios décrits ici.
Source: Check Point