Quand l'IA entre dans le monde physique, la sécurité devient réelle

KNOXVILLE, TN, 27 août 2026 /24-7PressRelease/ -- L'intelligence artificielle (IA) dépasse les écrans pour intégrer les voitures, les drones, les robots de service et les machines collaboratives capables de percevoir, raisonner et agir. Une nouvelle enquête cartographie les risques de sécurité et d'éthique créés lorsque les modèles de vision-langage guident ces systèmes incarnés, où une description erronée ou une commande manipulée peut se transformer en action physique. L'examen relie les défaillances dans la perception, la planification, le suivi des instructions et l'interaction homme-robot, couvrant les hallucinations, les faux synthétiques, les attaques adversariales, les fuites de confidentialité et l'exécution dangereuse. Il montre également comment les mêmes capacités multimodales peuvent soutenir la défense grâce à la vérification contextuelle, la détection de faux, la protection de la vie privée et le raisonnement conscient des risques, offrant une feuille de route vers une intelligence incarnée non seulement capable, mais fiable dans des environnements réels.

Les modèles de vision-langage (VLM) connectent les images au texte, tandis que les modèles de vision-langage-action (VLA) étendent cette connexion aux plans et signaux de contrôle des robots. Cela rend possible l'instruction en langage naturel, la compréhension de scène et l'exécution flexible de tâches, mais cela crée aussi une chaîne de dépendance : des données défectueuses peuvent déformer la perception, un alignement vision-langage faible peut produire des hallucinations, et des entrées malveillantes peuvent rediriger les décisions. Dans un chatbot, de telles erreurs peuvent générer de la désinformation ; dans un véhicule autonome ou un robot industriel, elles peuvent entraîner des collisions, des dommages matériels ou des missions échouées. Les protections existantes sont souvent spécifiques à des références, fragmentées à travers les couches du système ou trop coûteuses en calcul pour une utilisation en temps réel. En raison de ces défis, des recherches approfondies sont nécessaires pour des protections unifiées et adaptatives pour les agents multimodaux opérant dans des conditions physiques incertaines.

Publié (DOI : 10.1007/s11633-025-1626-x) en ligne le 13 juillet 2026, dans Machine Intelligence Research, l'examen a été mené par des chercheurs de l'Institut d'automatisation de l'Académie chinoise des sciences ; University College London (UCL) ; l'Université Minzu de Chine ; et l'Académie chinoise de l'électronique et des technologies de l'information. L'équipe a examiné comment les VLM et les VLA sont utilisés dans l'intelligence incarnée (EI), a organisé les principales menaces de sécurité et les approches défensives, et a relié la sécurité technique à la responsabilité, l'équité, la confidentialité, la durabilité environnementale et la supervision humaine. L'article paraît dans le numéro spécial de la revue sur la sécurité et l'éthique de l'IA générative.

L'enquête suit d'abord l'utilisation des VLM et VLA à travers quatre fonctions liées : la perception, la planification, le suivi des instructions et l'interaction homme-robot (HRI). Elle montre ensuite comment les défaillances peuvent en cascade. Des données d'entraînement biaisées, des encodeurs visuels faibles ou un mauvais alignement inter-modal peuvent amener un modèle à décrire des objets qui ne sont pas présents. Des panneaux de signalisation falsifiés, des étiquettes modifiées, des voix clonées ou des légendes trompeuses peuvent égarer la perception et la planification. De minuscules perturbations adversariales, des déclencheurs cachés de backdoor et des invites de jailbreak multimodales peuvent contourner les contrôles de sécurité, tandis que la détection persistante peut exposer l'identité, la localisation, les biens et le comportement social. Les auteurs organisent les contre-mesures en couches tout aussi connectées. Cela inclut le filtrage des hallucinations et l'alignement ancré sur la vision ; la détection de falsification inter-modale, le filigrane et le traçage de provenance ; les défenses contre les perturbations, les backdoors et les jailbreaks ; la confidentialité différentielle (DP), le calcul multipartite sécurisé (SMPC) et le chiffrement homomorphe (HE) ; et des garanties pour la navigation, les communications et le contrôle physique. Un autre volet utilise des explications causales, l'alignement des intentions et l'évaluation des risques afin que les robots puissent interpréter des instructions ambiguës, anticiper les dangers et corriger les actions. L'idée centrale de l'examen est qu'aucun filtre unique ne peut sécuriser un agent incarné : la protection doit suivre tout le chemin depuis l'entrée du capteur jusqu'au raisonnement du modèle, l'architecture du système et l'exécution physique.

Les auteurs ont déclaré que le défi central n'est pas simplement de rendre les modèles plus précis, mais de garantir qu'un système reste sûr lorsque ses capteurs, entrées linguistiques et conditions d'exploitation sont imparfaits. Ils ont dit que les défenses devraient être combinées plutôt que déployées comme des correctifs isolés, avec des métriques de risque transparentes, une surveillance continue et une supervision humaine pour les décisions critiques. Un robot digne de confiance doit également expliquer ce qu'il fait, reconnaître quand il est incertain et se replier en toute sécurité plutôt que d'agir avec une fausse confiance. Les auteurs ont ajouté que les progrès techniques doivent aller de pair avec la protection de la vie privée, l'équité, la responsabilité et une gouvernance responsable.

Pour les développeurs et les régulateurs, l'enquête fournit une liste de contrôle pratique pour évaluer les systèmes incarnés avant un déploiement à grande échelle. Les futures plateformes pourraient combiner un raisonnement interprétable, la détection d'attaques, le calcul préservant la confidentialité et des contrôles de sécurité dynamiques dans des protocoles d'évaluation ouverts et reproductibles. Les auteurs appellent à des conceptions qui abordent quatre dimensions ensemble : robustesse technique, alignement réglementaire, équité sociale et durabilité environnementale. Une telle approche pourrait soutenir des transports autonomes plus sûrs, l'assistance médicale, l'automatisation des entrepôts, l'inspection industrielle et la robotique collaborative, tout en facilitant la traçabilité des responsabilités en cas de défaillance. L'examen avertit également que des résultats de laboratoire solides peuvent ne pas se transférer proprement à des environnements bruyants, culturellement divers et à ressources limitées. Les progrès dépendront donc d'une coopération interdisciplinaire et de tests mesurant non seulement le succès de la tâche, mais aussi un comportement sûr sous stress.

Références
DOI
10.1007/s11633-025-1626-x

URL de la source originale
https://doi.org/10.1007/s11633-025-1626-x

Informations sur le financement
Ce travail a été partiellement soutenu par la National Natural Science Foundation of China (Nos. 62506362, 62302539 et U21B2045), le Strategic Priority Research Program de l'Académie chinoise des sciences, Chine (No. XDA0480302), et la subvention financée par l'Engineering and Physical Sciences Research Council (EPSRC), Royaume-Uni (No. EP/Y028805/1).

À propos de Machine Intelligence Research
Machine Intelligence Research (titre original : International Journal of Automation and Computing) est publié par Springer et parrainé par l'Institut d'automatisation de l'Académie chinoise des sciences. La revue publie des articles de haute qualité sur la recherche théorique et expérimentale originale, cible des numéros spéciaux sur des sujets émergents et s'efforce de combler le fossé entre la recherche théorique et les applications pratiques.

Chuanlink Innovations, là où les idées révolutionnaires rencontrent leur véritable potentiel. Notre nom, enraciné dans l'essence de la transmission et de la connexion, reflète notre engagement à favoriser l'innovation et à faciliter le parcours des idées de la conception à la réalisation.

Lien connexe :
http://chuanlink-innovations.com

Avertissement : Cette traduction a été générée automatiquement par NewsRamp™ pour 24-7 Press Release (collectivement désignés sous le nom de "LES ENTREPRISES") en utilisant des plateformes d'intelligence artificielle génératives accessibles au public. LES ENTREPRISES ne garantissent pas l'exactitude ni l'intégralité de cette traduction et ne seront pas responsables des erreurs, omissions ou inexactitudes. Vous vous fiez à cette traduction à vos propres risques. LES ENTREPRISES ne sont pas responsables des dommages ou pertes résultant de cette confiance. La version officielle et faisant autorité de ce communiqué de presse est la version anglaise.