Data Poisoning: Как киберпреступники отравляют данные для обучения искусственного интеллекта

KI-Modelle vergiften: Warum Data Poisoning eine wachsende Gefahr für die IT-Sicherheit ist Es musste Gift sein. Klebrig haftete es an vertrauenswürdigem Webcontent, gelangte unbemerkt in die Blutbahn der Tokens. Und die großen KI-Modelle begannen zu fiebern: Fragte ein Nutzer die KI-Suchmaschine Perplexity nach der Service-Hotline von Emirates Airlines oder der Telefonnummer für eine Reservierung bei British Airways, spuckten die Chatbots den Kontakt zu Scam-Callcentern aus. Aufgedeckt wurde dieser Fall Ende 2025 durch den KI-Sicherheitsdienstleister Aurascape. Wissenschaftliche Paper und Cybersecurity-Dienstleister warnen inzwischen eindringlich vor den Gefahren bewusst manipulierter Daten, denn Data Poisoning scheint die Funktionsfähigkeit von KI-Systemen ernsthaft zu bedrohen. Doch der Nachweis einer Datenvergiftung ist ausgesprochen schwierig. Der Aurascape-Fall ist einer der wenigen Fälle, in denen es gelang. Dieser Text erscheint in der Ausgabe 6/2026 von MIT Technology Review. Darin beschäftigen wir uns mit der Schnittstelle, die immer mehr Macht in unserem Leben bekommen zu scheint: das Chatfenster. Wie uns das prägt, erfahrt ihr im neuen Heft, das ab sofort im Zeitschriftenhandel und im Online-Shop erhältlich ist. Was bedeutet Data Poisoning? Sehen wir nur die Spitze eines viel größeren, für uns weitgehend verborgenen Eisberges oder ist das Phänomen im Alltag jenseits der IT-Labore faktisch bedeutungslos? Die Beantwortung dieser Frage führt tief in die schwer zu durchdringenden Funktionslogiken der KI-Systeme, zu raffinierten Angriffsmethoden, frustrierten Kreativen und zum Gefahrenpotenzial von Bot-Communitys. Doch erst zu den Grundlagen: Data Poisoning ist die bewusste Verbreitung fehlerhafter oder manipulierter Daten mit dem Ziel, das Verhalten eines KI-Modells zu manipulieren. In dem von Aurascape entdeckten Fall waren das spezielle Metadaten, die KI-Suchmaschinen in die Irre geleitet haben. Als besonders gefährliche Variante dieses Angriffs wird von Fachleuten und in der Literatur die gezielte Vergiftung von Trainingsdaten für KI-Modelle diskutiert. Das kann KI-Modelle nicht nur dazu bringen, Fragen der Anwendenden falsch oder einseitig zu beantworten, sondern auch gefährlichere Aktionen auszuführen – etwa das Nachladen von weiterem Schadcode. Die Vergiftung von Daten hat viel mit Macht zu tun, erklärt Stephan Günnemann, Professor für Data Analytics and Machine Learning an der TU München: „Data Poisoning kann überall dort auftreten, wo Menschen direkt mit einer KI interagieren und politischen Einfluss oder wirtschaftliche Vorteile anstreben.“ Ein theoretischer Anwendungsfall seien Recommender-Systeme, also softwarebasierte Dienste, die Nutzerinnen und Nutzern jene Objekte empfehlen, für die sich diese wahrscheinlich am meisten interessieren. Diese Systeme könnten nach einer Manipulation der Trainingsdaten bestimmte Produkte häufiger empfehlen. - Zugriff auf alle Artikel von t3n.de - t3n Magazin und MIT Technology Review in digitaler Form - Reduzierte Werbung - Wöchentlicher Newsletter 118,80 € Du bist bereits Teil der Community? Hier anmelden