La gente ya está intentando que ChatGPT escriba malware
El análisis de las conversaciones en los foros de la web oscura muestra que ya se están realizando esfuerzos para utilizar el chatbot de OpenAI para ayudar a programar malware.
El chatbot de IA de ChatGPT ha creado mucha emoción en el poco tiempo que ha estado disponible y ahora parece que algunos lo han reclutado en un intento de ayudar a generar código malicioso.
ChatGPT es una herramienta de procesamiento del lenguaje natural impulsada por IA que interactúa con los usuarios de una manera conversacional similar a la humana. Entre otras cosas, se puede utilizar para ayudar con tareas como la redacción de correos electrónicos, ensayos y código.
La herramienta de chatbot fue lanzada por el laboratorio de investigación de inteligencia artificial OpenAI en noviembre y ha generado un amplio interés y discusión sobre cómo se está desarrollando la IA y cómo podría usarse en el futuro.
Pero como cualquier otra herramienta, en las manos equivocadas podría ser utilizada con fines nefastos; y los investigadores de ciberseguridad de Check Point dicen que los usuarios de las comunidades clandestinas de piratería ya están experimentando con cómo se podría usar ChatGPT para ayudar a facilitar los ataques cibernéticos y respaldar operaciones maliciosas.
"Los actores de amenazas con muy poco conocimiento técnico, hasta cero conocimiento técnico, podrían ser capaces de crear herramientas maliciosas. También podría hacer que las operaciones diarias de los ciberdelincuentes sofisticados sean mucho más eficientes y fáciles, como crear diferentes partes de la cadena de infección", dijo Sergey Shykevich, gerente del grupo de inteligencia de amenazas de Check Point a ZDNET.
Los términos de servicio de OpenAI prohíben específicamente la generación de malware, que define como "contenido que intenta generar ransomware, keyloggers, virus u otro software destinado a imponer algún nivel de daño". También prohíbe los intentos de crear spam, así como los casos de uso destinados a la ciberdelincuencia.
Sin embargo, el análisis de la actividad en varios de los principales foros de piratería clandestina sugiere que los ciberdelincuentes ya están utilizando ChatGPT para desarrollar herramientas maliciosas y, en algunos casos, ya está permitiendo que los ciberdelincuentes de bajo nivel sin habilidades de desarrollo o codificación creen malware.
En un hilo del foro que apareció a finales de diciembre, el autor describía cómo estaban utilizando ChatGPT para recrear las cepas y técnicas de malware descritas en publicaciones de investigación y artículos sobre malware común.
Al hacer esto, han podido crear un malware ladrón de información basado en Python que busca archivos comunes, incluidos documentos de Microsoft Office, PDF e imágenes, los copia y luego los carga en un servidor de protocolo de transferencia de archivos.
El mismo usuario también demostró cómo había utilizado ChatGPT para crear malware basado en Java, que mediante PowerShell podría aprovecharse para descargar y ejecutar de forma encubierta otro malware en los sistemas infectados.
Los investigadores señalan que el usuario del foro que hace estos hilos parece estar "orientado a la tecnología" y compartió las publicaciones para mostrar a los ciberdelincuentes menos técnicamente capaces cómo utilizar las herramientas de IA con fines maliciosos, con ejemplos reales de cómo se puede hacer.
Un usuario publicó un script de Python, que dijo que fue el primer script que creó. Después de discutir con otro miembro del foro, dijeron que ChatGPT les ayudó a crearlo.
El análisis del script sugiere que está diseñado para cifrar y descifrar archivos, algo que con un poco de trabajo podría convertirse en ransomware, lo que podría llevar a la posibilidad de que los ciberdelincuentes de bajo nivel desarrollen y distribuyan sus propias campañas de extorsión.
"Todo el código mencionado anteriormente puede, por supuesto, ser utilizado de manera benigna. Sin embargo, este script se puede modificar fácilmente para cifrar la máquina de alguien por completo sin ninguna interacción del usuario. Por ejemplo, puede convertir el código en ransomware si se solucionan los problemas de script y sintaxis", dijo Check Point.
"Requerirá algunas mejoras en el código y la sintaxis, pero conceptualmente, cuando esté operativa, esta herramienta podría llevar a cabo acciones similares al ransomware", dijo Shykevich.
Pero no es solo el desarrollo de malware para lo que los ciberdelincuentes están experimentando con ChatGPT; en la víspera de Año Nuevo, un miembro del foro clandestino publicó un hilo que demostraba cómo habían utilizado la herramienta para crear scripts que podrían operar en un mercado automatizado de la web oscura para comprar y vender detalles de cuentas robadas, información de tarjetas de crédito, malware y más.
El ciberdelincuente incluso mostró un fragmento de código que se generó utilizando una API de terceros para obtener precios actualizados de las criptomonedas Monero, Bitcoin y Ethereum como parte de un sistema de pago para un mercado de la web oscura.
Es difícil saber si la actividad cibernética maliciosa generada con la ayuda de ChatGPT está funcionando activamente en la naturaleza, porque como explica Sykevich, "desde un punto de vista técnico es extremadamente difícil saber si un malware específico se escribió con ChatGPT o no".
Pero a medida que crezca el interés por ChatGPT y otras herramientas de IA, atraerán la atención de los ciberdelincuentes y estafadores que buscan explotar la tecnología para ayudar a realizar campañas maliciosas a bajo costo y con el menor esfuerzo necesario. ZDNET se ha puesto en contacto con OpenAI para obtener comentarios, pero aún no ha recibido una respuesta en el momento de la publicación.
MÁS SOBRE CIBERSEGURIDAD
- El metaverso está llegando, y las amenazas de seguridad ya han llegado
- Ciberseguridad, cloud y codificación: por qué estas tres habilidades liderarán la demanda en 2023
- Este "ataque térmico" puede leer tu contraseña a partir del calor que dejan las yemas de tus dedos
- La próxima gran amenaza de seguridad nos está mirando a la cara. Abordarlo va a ser difícil
- La IA está cambiando todo lo relacionado con la ciberseguridad, para bien y para mal. Esto es lo que necesitas saber