Un investigador ha utilizado el chatbot ChatGPT para crear un software malicioso que puede robar datos de dispositivos y evitar ser detectado por programas de ciberseguridad como VirusTotal.

ChatGPT es un sistema de chat basado en el modelo de lenguaje por Inteligencia Artificial utilizado por empresas como Microsoft. Sin embargo, destacados líderes de la industria tecnológica, como Steve Wozniak o Elon Musk, han señalado los riesgos de esta inteligencia artificial (IA).

Varias compañías de ciberseguridad, como Check Point, han descubierto que los ciberdelincuentes ya utilizan esta herramienta para recrear cepas de malware y ejecutar ataques maliciosos de software.

Recientemente, un investigador de Forcepoint, Aaron Mulgrew, ha descubierto que se puede utilizar este chatbot para desarrollar un exploit de día cero que puede robar datos de un dispositivo y evadir controles de detección de software malicioso como los que reúne VirusTotal.

Mulgrew explica que, aunque es un novato confeso, ha sido capaz de crear malware en pocas horas con la ayuda de ChatGPT. Para sobrepasar los filtros impuestos por el chatbot, Mulgrew generó pequeños fragmentos de código que la IA no podía reconocer que, en conjunto, se convertirían en carga maliciosa.

Después de exponerlo a diferentes proveedores de soluciones de seguridad de VirusTotal, solo lo detectaron cinco de 69. ChatGPT propició la creación de LSB Steganography, lo que redujo a dos los proveedores capaces de detectar el código malicioso. La misma técnica fue utilizada para volver a pasarlo por VirusTotal sin ser detectado.

El investigador concluye: "Simplemente utilizando las indicaciones de ChatGPT y sin escribir ningún código, pudimos producir un ataque muy avanzado en solo unas pocas horas".