Gafas con inteligencia artificial fallan en una emergencia

Las gafas con inteligencia artificial que se venden en Países Bajos no son seguras y la Autoridad de Protección de Datos de ese país pidió a los consumidores no comprarlas. Su estudio con seis modelos halló lo más serio en una emergencia simulada: unas gafas afirmaron que una ambulancia ya venía en camino sin que nadie hubiera llamado.
El organismo, conocido por sus siglas AP, compró los seis modelos a la venta en el mercado neerlandés y los sometió a pruebas de uso real esta semana. Los precios van de menos de 100 euros a más de 500, con fabricantes de varios continentes, y la autoridad no identificó marcas ni modelos.
En la prueba de reanimación, el usuario pedía orientación para atender a una persona en emergencia y las gafas respondieron que la ayuda ya venía. La ambulancia nunca fue solicitada. En un caso real, esa respuesta falsa puede costar minutos preciosos, porque quien atiende confía y tarda en llamar por su cuenta.
La vicepresidenta de la AP, Monique Verdier, marcó la línea en el comunicado del organismo: «Unas gafas que también te aconsejan mal cuando la vida de una persona está en juego van un paso demasiado lejos».
Los errores tocaron a menores, medicamentos y alertas de clima
El resto de las pruebas dejó el mismo patrón. The Register, medio especializado que revisó el estudio completo, detalló que unas gafas ofrecieron consejos de citas a un adulto que expresó interés romántico en una persona menor de edad, en lugar de cortar la conversación. Otras ignoraron las advertencias de seguridad de juguetes infantiles.
Las gafas también leyeron mal las indicaciones de folletos de medicamentos e interpretaron de forma incorrecta las alertas por clima extremo. La propia AP advirtió en su estudio que estos equipos suenan convincentes mientras entregan información falsa o peligrosa. Para quien depende de las gafas al leer la dosis de un medicamento, el error no es teórico.
En casi todos los modelos, la luz que avisa que la cámara graba se ve poco, se tapa con facilidad y la mayoría siguió grabando con la luz cubierta, aunque los fabricantes aseguran que eso no puede pasar. Quien está frente a la cámara apenas puede saber si lo filman.
Para el comprador dominicano que pide unas gafas de estas por internet pesa otro dato: los datos se procesan en servidores fuera de la Unión Europea y nadie le dice qué empresas reciben sus imágenes.
Un extraño cercano podía conectarse y manejar la cámara
Las pruebas de seguridad encontraron fallos serios. Una persona cercana podía conectarse a las gafas sin permiso del dueño, ver las grabaciones y hasta manejar la cámara a distancia. Es el patrón de la extensión de Claude Code que instaló una puerta trasera SSH: acceso amplio y un hueco que nadie vio hasta que alguien lo buscó.
La AP pidió a los fabricantes garantizar seguridad y privacidad. La luz de grabación no debe poder ocultarse mientras la cámara sigue encendida, el comprador debe saber dónde van sus datos y quién los procesa, y los sistemas deben ser confiables cuando sus consejos tocan la salud. El organismo llamó a los políticos europeos a tomar nota.
El estudio reconoce usos legítimos de esta tecnología. Unas gafas que describen el entorno ayudan a personas con discapacidad visual o con dificultades para leer, y para ese público la confiabilidad no es un lujo, es la condición mínima. El equipo que más promete a quien más ayuda necesita es el mismo que hoy falla en lo básico.
La autoridad no pidió prohibir la venta, decisión de los organismos de seguridad de productos, aunque sí puede multar a las empresas que procesen datos fuera de la ley. La presión crece en el país: en octubre, grupos de consumidores demandaron a Meta por sus gafas con cámara, y la primera audiencia es el 26 de noviembre.
Fuente: The Register
Henry Ramirez
Henry Ramirez Editor-in-Chief @ Tecnología Geek | Hazleton, PA No es solo tecnología, es inteligencia aplicada. Henry no adivina; verifica. Combina análisis de Ciberseguridad (DHS/CISA) y Contraterrorismo (Georgetown Univ.) con la fe pública de un Notario de Pennsylvania. En un mundo saturado de opiniones, él ofrece análisis de seguridad verificados. Si buscas rumores, ve a otro lado. Aquí hay datos. Credenciales y Portafolio: Muck Rack Foco: Tecnología, Inteligencia Artificial, Ciberseguridad, Negocios.
Relacionados
El 911 dominicano suma a Firulais, su primer robot canino
El Sistema Nacional de Atención a Emergencias y Seguridad 911 sumará un explorador que puede entrar donde nadie debería hacerlo a ciegas: Firulais, un robot canino desarrollado por la empresa estadounidense Boston Dynamics, pensado para recorrer estructuras colapsadas, zonas de difícil acceso y espacios de… Leer
Signal bloquea capturas ante agentes de IA en el celular
Signal bloquea capturas ante agentes de IA y esa decisión, anunciada el viernes 20 de noviembre por la presidenta de la fundación, Meredith Whittaker, ya rige por defecto en iPhone con iOS 27 y en Android, donde la aplicación detecta un asistente intentando leer la… Leer
Una intrusión alcanzó la base de datos criminal del FBI
El FBI investiga una intrusión en el Centro Nacional de Información sobre Delitos (NCIC), la base de datos que las policías de todo Estados Unidos consultan para verificar órdenes de arresto y antecedentes. Dos personas al tanto de la investigación lo confirmaron a CNN, que… Leer
Satélites de IA de Google volarán con Blue Origin en 2029
Los satélites de IA de Google despegarán con Blue Origin en el primer trimestre de 2029 a bordo del cohete New Glenn, y cada uno llevará una capacidad de cómputo parecida a la de un estante completo de un centro de datos en tierra. El… Leer
