Tres civiles muertos por un dron que eligió su objetivo solo: dentro llevaba un Nvidia Jetson Orin
Los peritos ucranianos pudieron leer el código de objetivos porque el módulo viajaba sin cifrar. Es el primer caso documentado de muertes civiles con selección totalmente autónoma.
El módulo que llevaba dentro se vende para robótica y visión artificial. En este caso guiaba un dron de ataque, y los peritos pudieron leer su código porque no iba cifrado.
Qué ha pasado
Un dron ruso del modelo Molniya con un módulo Nvidia Jetson Orin a bordo mató a tres civiles en una gasolinera de Zaporiyia el mes pasado, según los equipos forenses ucranianos que analizaron los restos. Los fallecidos fueron Tetiana Bubynets, estudiante de contabilidad de 19 años, y dos hombres de 41 y 48 años.
Kateryna Bondar, investigadora del Center for Strategic and International Studies, lo describe como el primer caso documentado de muertes de civiles causadas por un dron ruso con selección de objetivo totalmente autónoma. No es un dron pilotado a distancia que falló: es un dron que decidió.
Por qué se ha podido demostrar
Esta es la parte técnicamente interesante, y también la más frágil. El dron volaba en un grupo de aproximadamente media docena de aparatos y ninguno emitía tráfico de radio, según los responsables de defensa antiaérea ucranianos. Sin enlace de radio no hay piloto al otro lado.
Los módulos recuperados de este ataque y de otros drones de prueba intactos no llevaban cifrado ninguno. Eso permitió a los investigadores abrir y leer dos cosas: las imágenes de terreno cargadas para la navegación visual y el código que especifica qué clases de objetos estaba entrenado el dron para atacar. "Las máquinas están tomando decisiones de atacar", resumió el coronel Serhiy Minaiev, jefe de la defensa antiaérea de Zaporiyia, al diario que destapó el caso.
Los investigadores ucranianos han vinculado ya el Jetson Orin a cuatro familias de armas rusas distintas.
Hardware de catálogo
El Jetson Orin no es un componente militar. Es la plataforma de Nvidia para robótica, cámaras inteligentes y visión artificial embarcada; el tipo de módulo que compra una empresa que hace brazos robóticos o un laboratorio universitario. La misma semana en que salió esta investigación, Nvidia anunciaba el Jetson Orin Nano 2, presentado como su opción de entrada para llevar IA a dispositivos.
Esa es exactamente la incomodidad del caso: no hay una pieza especial que controlar. El salto entre un módulo de robótica y un sistema de armas autónomo lo da el software que le cargues encima.
Qué significa para ti
Aquí no hay consejo de compra, y sería deshonesto fabricar uno. Pero sí hay algo que este caso enseña sobre la IA en general, y va más allá de la guerra.
Lo único que ha permitido probar lo que pasó es un descuido: que el módulo viajara sin cifrar. Si quien fabrica esos drones activa el cifrado mañana —y va a hacerlo—, el próximo ataque idéntico será indemostrable. Un perito podrá decir que el aparato no emitía radio, pero no podrá abrir el fichero y enseñar la lista de objetivos.
Es el mismo problema que atraviesa toda la conversación sobre sistemas automáticos que deciden: cuando el sistema es opaco, la responsabilidad se evapora. No porque nadie sea responsable, sino porque no se puede demostrar quién lo es. Aquí se pudo, por accidente.
¿Debería exigirse por ley que cualquier sistema que tome decisiones automáticas guarde un registro auditable de por qué las tomó?
Fuentes
Sigue leyendo
DLSS 5 ya funciona en las RTX 40 sin permiso de Nvidia, y cuesta un tercio de los fps
La librería se filtró dentro de una versión anticipada de NBA 2K27. Un modder cambió los binarios compilados para Blackwell por otros de Ada y arrancó: en una RTX 4090, los 135 fps se quedan en 82.
El chip propio de OpenAI gasta 700 vatios y se mide con un Nvidia de 1.400
Jalapeño, el acelerador que OpenAI hizo con Broadcom, presume de hasta 1,9 veces más rendimiento por kilovatio que el GB300. La prueba la corrió SemiAnalysis en el laboratorio de OpenAI.
La RTX 3060 volvió para abaratar el PC gamer y ya cuesta casi lo mismo que una 5060
Nvidia la resucitó en junio a 339 dólares como salvavidas frente a la crisis de componentes. Dos meses después hay modelos a 480 y 500, y la generación dos escalones más nueva sale mejor.
WhatsApp prueba agentes de IA de otras empresas, y esos chats no van cifrados
La beta de Android 2.26.35.3 permite conectar hasta cinco asistentes externos. Los mensajes pasan por un servicio de Meta que puede leerlos: el cifrado de extremo a extremo no aplica ahí.