Cuando la IA Entra en el Mundo Físico, la Seguridad se Vuelve Real

KNOXVILLE, TN, 27 de agosto de 2026 /24-7PressRelease/ -- La inteligencia artificial (IA) está yendo más allá de las pantallas hacia automóviles, drones, robots de servicio y máquinas colaborativas que pueden percibir, razonar y actuar. Una nueva encuesta mapea los riesgos de seguridad y éticos que se crean cuando los modelos de visión-lenguaje guían estos sistemas corpóreos, donde una descripción errónea o un comando manipulado puede convertirse en una acción física. La revisión conecta fallas en percepción, planificación, seguimiento de instrucciones e interacción humano-robot, cubriendo alucinaciones, falsificaciones sintéticas, ataques adversarios, fuga de privacidad y ejecución insegura. También muestra cómo las mismas capacidades multimodales pueden apoyar la defensa mediante verificación contextual, detección de falsificaciones, protección de la privacidad y razonamiento consciente del riesgo, ofreciendo una hoja de ruta hacia una inteligencia corpórea que no solo sea capaz, sino confiable en entornos del mundo real.

Los modelos de visión-lenguaje (VLM) conectan imágenes con texto, mientras que los modelos de visión-lenguaje-acción (VLA) extienden esa conexión a planes de robot y señales de control. Esto hace posible la instrucción en lenguaje natural, la comprensión de escenas y la ejecución flexible de tareas, pero también crea una cadena de dependencia: los datos defectuosos pueden distorsionar la percepción, la débil alineación visual-lenguaje puede producir alucinaciones, y las entradas maliciosas pueden redirigir decisiones. En un chatbot, tales errores pueden generar desinformación; en un vehículo autónomo o robot industrial, pueden provocar colisiones, daños en el equipo o misiones fallidas. Las salvaguardas existentes a menudo son específicas de un punto de referencia, están fragmentadas en las capas del sistema o son demasiado costosas computacionalmente para uso en tiempo real. Debido a estos desafíos, se necesita una investigación más profunda sobre salvaguardas unificadas y adaptativas para agentes multimodales que operan en condiciones físicas inciertas.

Publicado (DOI: 10.1007/s11633-025-1626-x) en línea el 13 de julio de 2026, en Machine Intelligence Research, la revisión fue realizada por investigadores del Instituto de Automatización de la Academia China de Ciencias; University College London (UCL); Universidad Minzu de China; y la Academia China de Electrónica y Tecnología de la Información. El equipo examinó cómo se utilizan los VLM y VLA en la inteligencia corpórea (EI), organizó las principales amenazas de seguridad y enfoques defensivos, y conectó la seguridad técnica con la responsabilidad, la equidad, la privacidad, la sostenibilidad ambiental y la supervisión humana. El artículo aparece en el número especial de la revista sobre la seguridad y la ética de la IA generativa.

La encuesta primero rastrea el uso de VLM y VLA en cuatro funciones vinculadas: percepción, planificación, seguimiento de instrucciones e interacción humano-robot (HRI). Luego muestra cómo las fallas pueden en cascada. Los datos de entrenamiento sesgados, los codificadores visuales débiles o la mala alineación entre modalidades pueden hacer que un modelo describa objetos que no están presentes. Las señales de tráfico falsificadas, las etiquetas alteradas, las voces clonadas o los subtítulos engañosos pueden desviar la percepción y la planificación. Las pequeñas perturbaciones adversarias, los desencadenantes de puerta trasera ocultos y los avisos multimodales de jailbreak pueden eludir los controles de seguridad, mientras que la detección persistente puede exponer la identidad, la ubicación, las pertenencias y el comportamiento social. Los autores organizan las contramedidas en capas igualmente conectadas. Estas incluyen filtrado de alucinaciones y alineación basada en visión; detección de falsificaciones entre modalidades, marcas de agua y rastreo de procedencia; defensas contra perturbaciones, puertas traseras y jailbreaks; privacidad diferencial (DP), computación segura multiparte (SMPC) y cifrado homomórfico (HE); y salvaguardas para navegación, comunicaciones y control físico. Una rama adicional utiliza explicaciones causales, alineación de intenciones y evaluación de riesgos para que los robots puedan interpretar instrucciones ambiguas, anticipar peligros y corregir acciones. La visión central de la revisión es que ningún filtro único puede asegurar un agente corpóreo: la protección debe seguir todo el camino desde la entrada del sensor hasta el razonamiento del modelo, la arquitectura del sistema y la ejecución física.

Los autores dijeron que el desafío central no es simplemente hacer que los modelos sean más precisos, sino garantizar que un sistema permanezca seguro cuando sus sensores, entradas de lenguaje y condiciones operativas son imperfectas. Dijeron que las defensas deberían combinarse en lugar de implementarse como parches aislados, con métricas de riesgo transparentes, monitoreo continuo y supervisión humana para decisiones críticas. Un robot confiable también debe explicar lo que está haciendo, reconocer cuando está inseguro y retroceder de manera segura en lugar de actuar con falsa confianza. Los autores agregaron que el progreso técnico debe avanzar junto con la protección de la privacidad, la equidad, la responsabilidad y la gobernanza responsable.

Para desarrolladores y reguladores, la encuesta proporciona una lista de verificación práctica para evaluar sistemas corpóreos antes del despliegue a gran escala. Las plataformas futuras podrían combinar razonamiento interpretable, detección de ataques, computación que preserva la privacidad y controles de seguridad dinámicos bajo protocolos de evaluación reproducibles y abiertos. Los autores piden diseños que aborden cuatro dimensiones juntas: robustez técnica, alineación regulatoria, equidad social y sostenibilidad ambiental. Tal enfoque podría apoyar un transporte autónomo más seguro, asistencia sanitaria, automatización de almacenes, inspección industrial y robótica colaborativa, al mismo tiempo que facilita el rastreo de responsabilidades cuando ocurren fallas. La revisión también advierte que los fuertes resultados de laboratorio pueden no transferirse limpiamente a entornos ruidosos, culturalmente diversos y con recursos limitados. Por lo tanto, el progreso dependerá de la cooperación interdisciplinaria y de pruebas que midan no solo el éxito de la tarea, sino también el comportamiento seguro bajo estrés.

Referencias
DOI
10.1007/s11633-025-1626-x

URL de la fuente original
https://doi.org/10.1007/s11633-025-1626-x

Información de financiación
Este trabajo fue parcialmente apoyado por la Fundación Nacional de Ciencias Naturales de China (Nos. 62506362, 62302539 y U21B2045), el Programa de Investigación de Prioridad Estratégica de la Academia China de Ciencias, China (No. XDA0480302), y la Beca Financiada por el Consejo de Investigación de Ingeniería y Ciencias Físicas (EPSRC), Reino Unido (No. EP/Y028805/1).

Acerca de Machine Intelligence Research
Machine Intelligence Research (título original: International Journal of Automation and Computing) es publicado por Springer y patrocinado por el Instituto de Automatización de la Academia China de Ciencias. La revista publica artículos de alta calidad sobre investigación teórica y experimental original, se dirige a números especiales sobre temas emergentes y se esfuerza por cerrar la brecha entre la investigación teórica y las aplicaciones prácticas.

Chuanlink Innovations, donde las ideas revolucionarias encuentran su verdadero potencial. Nuestro nombre, arraigado en la esencia de la transmisión y la conexión, refleja nuestro compromiso de fomentar la innovación y facilitar el viaje de las ideas desde su concepción hasta su realización.

Enlace relacionado:
http://chuanlink-innovations.com

Descargo de responsabilidad: Esta traducción ha sido generada automáticamente por NewsRamp™ para 24-7 Press Release (colectivamente referidos como "LAS EMPRESAS") utilizando plataformas de inteligencia artificial generativas de acceso público. LAS EMPRESAS no garantizan la exactitud ni la integridad de esta traducción y no serán responsables por ningún error, omisión o inexactitud. La confianza en esta traducción es bajo su propio riesgo. LAS EMPRESAS no son responsables por ningún daño o pérdida resultante de tal confianza. La versión oficial y autoritativa de este comunicado de prensa es la versión en inglés.