Los expertos advierten que una simple entrada en el calendario puede hackear tu casa inteligente sin que te des cuenta
Investigadores demostraron que la IA puede ser manipulada para controlar hogares inteligentes usando solo palabras. Decir "gracias" hizo que Gemini encendiera las luces y calentara agua automáticamente.
La promesa de los hogares con IA siempre ha sido comodidad y eficiencia, pero un nuevo estudio de la Universidad de Tel Aviv revela algo más inquietante. En el primer caso real de un ataque por inyección de comandos, el equipo controló una casa inteligente con Gemini usando solo una entrada comprometida en Google Calendar.
El ataque aprovechó la integración de Gemini con el ecosistema de Google, especialmente su capacidad para leer eventos del calendario, interpretar lenguaje natural y controlar dispositivos inteligentes.
De la planificación al sabotaje: explotando el acceso cotidiano a la IA
Aunque Gemini tiene autonomía limitada, posee suficientes "capacidades agenticas" para ejecutar comandos en sistemas domésticos. Los investigadores insertaron instrucciones maliciosas en un evento del calendario, camuflado como algo normal. Cuando el usuario pidió a Gemini resumir su agenda, sin querer activó los comandos ocultos.
El comando incluía instrucciones para que Gemini actuara como un agente de Google Home, esperando hasta que el usuario escribiera frases comunes como "gracias" o "claro". En ese momento, Gemini activó luces, persianas e incluso una caldera, sin autorización del usuario.
Estos disparadores retrasados burlaron las defensas existentes y ocultaron el origen de las acciones. Esta técnica, llamada "promptware", plantea serias dudas sobre cómo las IA interpretan datos externos.
Los investigadores demostraron que estos ataques pueden ir más allá de controlar dispositivos: podrían borrar citas, enviar spam o abrir páginas maliciosas, llevando a robos de identidad o infecciones de malware.
Google aceleró la implementación de nuevas protecciones, como revisar eventos del calendario y pedir confirmación para acciones sensibles. Sin embargo, queda la duda de si estas soluciones serán suficientes, especialmente con IA ganando más control sobre datos personales.
Para protegerse, los usuarios deben limitar el acceso de herramientas como Gemini a calendarios y controles domésticos. Evita guardar instrucciones sensibles en el calendario y no permitas que la IA actúe sin supervisión. Si notas comportamientos raros en tus dispositivos, desconecta el acceso.
Vía Wired