ZDFheute

Kommt nach dem Dieselskandal der KI-Betrug?

Sie sind hier:

Selbstfahrende Autos - Kommt nach dem Dieselskandal der KI-Betrug?

Datum:

Autonome Elektro-Fahrzeuge sind für viele die Zukunft der Mobilität. Doch die Sicherheitsprobleme sind massiv - eine Riesenherausforderung für die Automobilindustrie.

Autonomes Fahren
Durch den Einsatz von Assistenzsystemen in Autos entstehen Sicherheitslücken, sagen Experten.
Quelle: ZDF

Autos, die selbsttätig einparken, sind eigentlich schon marktreif. Assistenzsysteme, die die Kontrolle über das Fahrzeug übernehmen, wenn der Fahrer müde wird, und es zum nächsten Parkplatz lenken, sind weit über das Laborstadium hinaus.

Abbiege-Assistenten werden bereits verkauft. "Das ist der Weg zum selbstfahrenden Auto, über eine ständig wachsende Zahl an Assistenzsystemen", sagt Technologieanalyst Christoph Gauger von der Boston Consulting Group. Doch je mehr Assistenzsysteme Einzug ins Auto halten, umso mehr Sicherheitslücken tun sich auf.

Sicherheitslücken bei Fahrassistenten

Denn die Assistenzsysteme kommen von verschiedenen Zulieferern. Deren Sicherheitssoftware und die zugrundeliegenden Security-Konzepte sind nur unzureichend aufeinander abgestimmt. So ergeben sich neue Sicherheitslücken.

Wir raten den Autoherstellern deshalb, mit einem ganz grundlegend neuen Designansatz in Sachen Cyber-Sicherheit anzufangen.
Ilijana Vavan, Europa-Geschäftsführerin Kaspersky Lab

"Wir raten den Autoherstellern deshalb, mit einem ganz grundlegend neuen Designansatz in Sachen Cyber-Sicherheit anzufangen", sagt Ilijana Vavan, Europa-Geschäftsführerin von Kaspersky Lab. Das muss nach übereinstimmender Ansicht der Sicherheitsexperten ein datenzentrierter Ansatz sein.

Bisher hätten die Sicherheitsingenieure auf die eingesetzte Software und deren Sicherheitslevel sowie allenfalls noch auf mögliche Sicherheitslücken in den Übertragungswegen geschaut, berichtet Ilijana Vavan. Den neuen Ansatz beschreibt sie so: "Jetzt müssen sie genau analysieren, welche Daten woher kommen, wohin gesendet werden und welche Sicherheitsrisiken in diesen Daten liegen."

Die Daten sind das Risiko

Und dazu zählen auch die Daten, mit denen die neuronalen Netzwerke trainiert werden, die dafür sorgen, dass das autonome Fahrzeug ohne menschlichen Fahrer seinen Weg findet. Solche selbstlernenden Systeme mit Künstlicher Intelligenz werden auch schon jetzt bei den Assistenzsystemen fürs Einparken oder dem Sicherheitssystem eingesetzt, das die Kontrolle über das Auto übernimmt, wenn der Fahrer zu müde oder unaufmerksam wird.

"Wenn die Trainingsdaten hier manipuliert werden, kommt es zu Fehlfunktionen", warnt Software-Ingenieur Ahmed Yousif vom Automobilzulieferer Valeo. Dann wird etwa ein Fußgänger nicht mehr erkannt, ein Radfahrer überfahren oder das Auto vor einen Baum gesetzt." So etwas darf natürlich nicht passieren", warnt Software-Ingenieur Yousif. Deshalb werden aufwändig programmierte Kontrollsysteme eingesetzt, die die neuronalen Netzwerke für die Fahrsysteme genau überwachen.

Kontrollsysteme sind Energiefresser

An dieser Stelle sehen einige Experten ein weiteres Sicherheitsproblem, das kürzlich auf der Fachkonferenz Mobility Europe in Stuttgart sehr intensiv von Automobil-Ingenieuren und Softwareentwicklern diskutiert wurde.

Die entscheidende Frage lautet: Wie stellen wir sicher, dass diese Kontrollsysteme nicht heimlich abgeschaltet werden können.
Ahmed Yousif, Software-Ingenieur

"Die entscheidende Frage lautet: Wie stellen wir sicher, dass diese Kontrollsysteme nicht heimlich abgeschaltet werden können", bringt Ahmed Yousif das Problem auf den Punkt. Denn die Kontrollsysteme benötigen erhebliche Rechenleistung. Diese Rechenleistung kostet Strom. Und das geht wiederum bei den Elektroautos zu Lasten der Reichweite.

Abschalteinrichtungen für KI-Systeme

Deshalb liegt die Vermutung nahe, dass Zulieferer oder Automobilhersteller auf die Idee kommen könnten, diese Kontrollsysteme in bestimmten, ihnen ungefährlich erscheinenden Verkehrssituationen abzuschalten, um Energie zu sparen. Er wolle niemandem unterstellen, dass er so etwas tue, rückversichert sich Ahmed Yousif bei diesem heiklen Thema. "Aber wir haben den Volkswagenskandal erlebt und müssen deshalb dafür sorgen, dass eventuelle Abschalteinrichtungen hier erst gar nicht zum Einsatz kommen können."

Die Techniker diskutieren dafür unterschiedliche Lösungen. So könnten bei den regelmäßig anfallenden Inspektionen der Autos auch die Logfiles der Kontrollsysteme überprüft werden. Eine entsprechende Pflicht für diese Überprüfung müsste der Gesetzgeber allerdings erst noch verabschieden. Bei einer Auswertung der Logfiles würde nämlich eine zwischenzeitliche erfolgte Abschaltung auffallen. Doch in der Politik wird dieses Problem noch gar nicht gesehen. Die Sicherheitsingenieure fordern deshalb schon jetzt bei der Einführung von immer mehr Assistenzsystemen, die Kontrollen der eingesetzten KI-Systeme und eine Überprüfung solcher Kontrollen gesetzlich vorzuschreiben.

Gemerkt auf Mein ZDF! Merken beendet Bewertet! Bewertung entfernt Zur Merkliste hinzugefügt! Merken beendet Embed-Code kopieren HTML-Code zum Einbetten des Videos in der Zwischenablage gespeichert.
Bitte beachten Sie die Nutzungsbedingungen des ZDF.

Um zu verstehen, wie unsere Webseite genutzt wird und um dir ein interessenbezogenes Angebot präsentieren zu können, nutzen wir Cookies und andere Techniken. Hier kannst du mehr erfahren und hier widersprechen.

Um Sendungen mit einer Altersbeschränkung zu jeder Tageszeit anzuschauen, kannst du jetzt eine Altersprüfung durchführen. Dafür benötigst du dein Ausweisdokument.

Du wechselst in den Kinderbereich und bewegst dich mit deinem Kinderprofil weiter.