Wenn KI die physische Welt betritt, wird Sicherheit Realität

KNOXVILLE, TN, 27. August 2026 /24-7PressRelease/ -- Künstliche Intelligenz (KI) bewegt sich über Bildschirme hinaus in Autos, Drohnen, Serviceroboter und kollaborative Maschinen, die wahrnehmen, denken und handeln können. Eine neue Studie kartiert die Sicherheits- und Ethikrisiken, die entstehen, wenn Vision-Language-Modelle diese verkörperten Systeme steuern, wo eine falsche Beschreibung oder ein manipulierter Befehl zu einer physischen Handlung werden kann. Die Übersicht verbindet Fehler in Wahrnehmung, Planung, Befehlsausführung und Mensch-Roboter-Interaktion und deckt Halluzinationen, synthetische Fälschungen, adversariale Angriffe, Datenschutzlecks und unsichere Ausführung ab. Sie zeigt auch, wie dieselben multimodalen Fähigkeiten die Verteidigung unterstützen können, durch kontextbezogene Prüfung, Fälschungserkennung, Datenschutz und risikobewusstes Denken, und bietet eine Roadmap hin zu verkörperter Intelligenz, die nicht nur leistungsfähig, sondern in realen Umgebungen zuverlässig ist.

Vision-Language-Modelle (VLMs) verbinden Bilder mit Text, während Vision-Language-Action-Modelle (VLAs) diese Verbindung auf Roboterpläne und Steuersignale ausdehnen. Dies ermöglicht natürliche Sprachbefehle, Szenenverständnis und flexible Aufgabenausführung, schafft aber auch eine Abhängigkeitskette: fehlerhafte Daten können die Wahrnehmung verzerren, schwache visuell-sprachliche Ausrichtung kann Halluzinationen erzeugen, und böswillige Eingaben können Entscheidungen umlenken. In einem Chatbot können solche Fehler Fehlinformationen erzeugen; in einem autonomen Fahrzeug oder Industrieroboter können sie zu Kollisionen, Geräteschäden oder fehlgeschlagenen Missionen führen. Bestehende Schutzmaßnahmen sind oft benchmarkspezifisch, über Systemebenen verstreut oder für Echtzeitanwendungen zu rechenintensiv. Aufgrund dieser Herausforderungen ist tiefere Forschung zu einheitlichen, adaptiven Schutzmaßnahmen für multimodale Agenten unter unsicheren physischen Bedingungen erforderlich.

Veröffentlicht (DOI: 10.1007/s11633-025-1626-x) online am 13. Juli 2026, in Machine Intelligence Research, wurde die Übersicht von Forschern des Instituts für Automatisierung der Chinesischen Akademie der Wissenschaften, des University College London (UCL), der Minzu-Universität China und der Chinesischen Akademie für Elektronik und Informationstechnologie durchgeführt. Das Team untersuchte, wie VLMs und VLAs in verkörperter Intelligenz (EI) eingesetzt werden, organisierte die wichtigsten Sicherheitsbedrohungen und Verteidigungsansätze und verband technische Sicherheit mit Rechenschaftspflicht, Fairness, Datenschutz, ökologischer Nachhaltigkeit und menschlicher Aufsicht. Der Artikel erscheint in der Sonderausgabe der Zeitschrift zur Sicherheit und Ethik generativer KI.

Die Studie verfolgt zunächst den Einsatz von VLM und VLA über vier verbundene Funktionen: Wahrnehmung, Planung, Befehlsausführung und Mensch-Roboter-Interaktion (HRI). Dann zeigt sie, wie Fehler kaskadieren können. Verzerrte Trainingsdaten, schwache visuelle Encoder oder schlechte Kreuzmodale Ausrichtung können ein Modell dazu bringen, Objekte zu beschreiben, die nicht vorhanden sind. Gefälschte Verkehrsschilder, veränderte Etiketten, geklonte Stimmen oder trügerische Bildunterschriften können Wahrnehmung und Planung fehlleiten. Winzige adversariale Störungen, versteckte Hintertür-Trigger und multimodale Jailbreak-Prompts können Sicherheitskontrollen umgehen, während anhaltende Sensorik Identität, Standort, Besitz und Sozialverhalten offenlegen kann. Die Autoren organisieren Gegenmaßnahmen in ebenso verbundenen Ebenen. Dazu gehören Halluzinationsfilterung und visionsgestützte Ausrichtung; kreuzmodale Fälschungserkennung, Wasserzeichen und Herkunftsverfolgung; Abwehr von Störungen, Hintertüren und Jailbreaks; differenzielle Privatsphäre (DP), sichere Mehrparteienberechnung (SMPC) und homomorphe Verschlüsselung (HE); sowie Schutzmaßnahmen für Navigation, Kommunikation und physische Steuerung. Ein weiterer Strang nutzt kausale Erklärungen, Absichtsausrichtung und Risikobewertung, damit Roboter mehrdeutige Anweisungen interpretieren, Gefahren antizipieren und Aktionen korrigieren können. Die zentrale Erkenntnis der Studie ist, dass kein einzelner Filter einen verkörperten Agenten sichern kann: Der Schutz muss dem gesamten Pfad von der Sensoreingabe über die Modelllogik, die Systemarchitektur bis zur physischen Ausführung folgen.

Die Autoren sagten, die zentrale Herausforderung sei nicht einfach, Modelle genauer zu machen, sondern sicherzustellen, dass ein System sicher bleibt, wenn seine Sensoren, Spracheingaben und Betriebsbedingungen unvollkommen sind. Sie sagten, Verteidigungen sollten kombiniert werden, anstatt als isolierte Patches eingesetzt zu werden, mit transparenten Risikometriken, kontinuierlicher Überwachung und menschlicher Aufsicht für kritische Entscheidungen. Ein vertrauenswürdiger Roboter muss auch erklären, was er tut, erkennen, wann er unsicher ist, und sicher zurückfallen, anstatt mit falschem Selbstvertrauen zu handeln. Die Autoren fügten hinzu, dass technischer Fortschritt mit Datenschutz, Fairness, Rechenschaftspflicht und verantwortungsvoller Governance einhergehen muss.

Für Entwickler und Regulierungsbehörden bietet die Studie eine praktische Checkliste zur Bewertung verkörperter Systeme vor der großflächigen Bereitstellung. Zukünftige Plattformen könnten interpretierbares Denken, Angriffserkennung, datenschutzerhaltende Berechnung und dynamische Sicherheitskontrollen unter reproduzierbaren, offenen Bewertungsprotokollen kombinieren. Die Autoren fordern Designs, die vier Dimensionen gemeinsam adressieren: technische Robustheit, regulatorische Ausrichtung, soziale Gerechtigkeit und ökologische Nachhaltigkeit. Ein solcher Ansatz könnte sichereren autonomen Verkehr, Gesundheitsassistenz, Lagerautomatisierung, industrielle Inspektion und kollaborative Robotik unterstützen und gleichzeitig die Verantwortung bei Fehlern leichter nachvollziehbar machen. Die Studie warnt auch davor, dass starke Laborergebnisse möglicherweise nicht direkt auf laute, kulturell vielfältige und ressourcenbeschränkte Umgebungen übertragbar sind. Der Fortschritt wird daher von interdisziplinärer Zusammenarbeit und Tests abhängen, die nicht nur den Aufgabenerfolg messen, sondern auch sicheres Verhalten unter Stress.

Referenzen
DOI
10.1007/s11633-025-1626-x

Originalquellen-URL
https://doi.org/10.1007/s11633-025-1626-x

Förderinformationen
Diese Arbeit wurde teilweise unterstützt durch die National Natural Science Foundation of China (Nr. 62506362, 62302539 und U21B2045), das Strategic Priority Research Program der Chinesischen Akademie der Wissenschaften, China (Nr. XDA0480302), und das Engineering and Physical Sciences Research Council (EPSRC) finanzierte Stipendium, UK (Nr. EP/Y028805/1).

Über Machine Intelligence Research
Machine Intelligence Research (ursprünglicher Titel: International Journal of Automation and Computing) wird von Springer veröffentlicht und vom Institut für Automatisierung der Chinesischen Akademie der Wissenschaften gesponsert. Die Zeitschrift veröffentlicht hochwertige Beiträge zu origineller theoretischer und experimenteller Forschung, zielt auf Sonderausgaben zu aufkommenden Themen ab und bemüht sich, die Kluft zwischen theoretischer Forschung und praktischen Anwendungen zu überbrücken.

Chuanlink Innovations, wo revolutionäre Ideen ihr wahres Potenzial entfalten. Unser Name, verwurzelt im Wesen von Übertragung und Verbindung, spiegelt unser Engagement wider, Innovation zu fördern und den Weg von Ideen von der Entstehung bis zur Verwirklichung zu erleichtern.

Verwandter Link:
http://chuanlink-innovations.com

Haftungsausschluss: Diese Übersetzung wurde automatisch von NewsRamp™ für 24-7 Press Release (gemeinsam als "DIE UNTERNEHMEN" bezeichnet) mit öffentlich zugänglichen generativen KI-Plattformen erstellt. DIE UNTERNEHMEN garantieren nicht die Genauigkeit oder Vollständigkeit dieser Übersetzung und haften nicht für Fehler, Auslassungen oder Ungenauigkeiten. Die Nutzung dieser Übersetzung erfolgt auf eigenes Risiko. DIE UNTERNEHMEN haften nicht für Schäden oder Verluste, die aus solcher Nutzung entstehen. Die offizielle und maßgebliche Version dieser Pressemitteilung ist die englische Version.