Ia 'alucina' y abre la puerta a malware: el nuevo hallusquatting
La inteligencia artificial, esa herramienta que prometía revolucionar la productividad, ahora se revela como un nuevo vector de ataque para los ciberdelincuentes. Una vulnerabilidad, bautizada como 'HalluSquatting', está permitiendo la instalación de malware en ordenadores a través de las propias recomendaciones de código generadas por asistentes de IA.
Un error común: las alucinaciones de la ia
El problema radica en que sistemas como Cursor, Gemini, GitHub Copilot y OpenClaw – todos ellos ampliamente utilizados por programadores – están mostrando una tendencia preocupante: inventar nombres de paquetes de software que no existen. Investigadores de la Universidad de Tel Aviv, Technion e Intuit han descubierto que este 'error' se produce en un alarmante 80-100% de los casos. Lo más inquietante es que distintas IA, presumiblemente entrenadas con conjuntos de datos similares, están generando los mismos nombres falsos.
Lo que nadie cuenta es que esta 'alucinación' no es un fallo inocente. Los hackers han identificado estos nombres inventados y, de forma proactiva, están creando software malicioso con esos mismos nombres en plataformas como GitHub. Cuando un desarrollador, confiando en la recomendación de la IA, descarga e instala este software, sin saberlo, está abriendo la puerta a un ataque.
La situación se agrava porque, en algunos casos, los propios asistentes de IA descargan e instalan el software falso de forma autónoma, sin intervención del usuario. Imaginemos un estudiante utilizando una IA para resolver un ejercicio: la herramienta, convencida de la existencia de una librería inexistente, la descarga y ejecuta, comprometiendo la seguridad del equipo. Un ejemplo escalofriante lo encontramos en la reciente anécdota de un profesor que descubrió que 32 de 35 alumnos habían copiado en un examen, tras haber sido guiados por la IA a utilizar un software fraudulento.
Pero la amenaza no se limita a la descarga de software infectado. En una variante aún más peligrosa, el código falso genera 'prompts' – instrucciones para la IA – que le indican copiar ficheros, rastrear contraseñas e incluso enviar información sensible a servidores controlados por los atacantes. La aparente inocencia de estas acciones, combinada con la invisibilidad del malware en sí, dificulta enormemente la detección por parte de los antivirus.
Las compañías de IA, alertadas por los investigadores, ya deberían estar trabajando en soluciones, aunque la complejidad del problema sugiere que la erradicación completa del HalluSquatting será un desafío considerable. La cifra que más inquieta es que, según los estudios, más del 80% de los paquetes recomendados por estas IA son completamente inventados. Un porcentaje que, a falta de una corrección urgente, podría convertir la inteligencia artificial en una herramienta de ataque más eficaz que nunca.
El incidente pone de manifiesto una verdad incómoda: la confianza ciega en la IA puede ser peligrosa. Nos adentramos en un terreno desconocido, donde la frontera entre la asistencia y la manipulación se difumina peligrosamente. La seguridad informática ya no se trata solo de defenderse de virus, sino de cuestionar la propia información que recibimos de nuestras herramientas digitales.