Эксперт по ИИ: «Машинальное забвение» и прозрачность данных — ключ к этичному развитию искусственного интеллекта

Ein wichtiger Punkt dabei ist Machine Unlearning: Die Fähigkeit der KI, gezielt zu vergessen bzw. Verzerrungen aus dem Modell „herauszulernen“, könnte sie gerechter machen, meint Markus Schedl von der Johannes-Kepler-Universität Linz (JKU). ORF Wissen: Vor Kurzem hat ein Fall Schlagzeilen gemacht, in dem ein Mann einen tödlichen Schusswaffenangriff in Florida mithilfe von ChatGPT geplant haben soll. KI-Systemen sind eigentlich Regeln auferlegt, dass problematische Inhalte nicht ausgegeben werden sollen – warum funktioniert das scheinbar nicht? Markus Schedl: Historisch hat das damit angefangen, dass einfache Regeln entwickelt wurden, die sogenannten Jails (Engl.: Gefängnis). Wenn bestimmte Schlüsselbegriffe vorkommen, zum Beispiel „Bombe“ oder ähnliches, dann verweigern Systeme die Antwort. Dann gibt es aber auch Gruppen von Personen, die versuchen, diese Regeln zu umgehen. Diese Jailbreaks funktionieren mitunter auf sehr einfache Weise. Ich war gerade auf einer Konferenz, wo berichtet wurde, dass ein Modell die unerwünschten Inhalte ausspuckt, wenn der Prompt in ein Gedicht verpackt eingegeben wird. Auch die Verwendung von unvollständigen Sätzen oder das Weglassen von Satzzeichen kann funktionieren, um solche Schutzmechanismen auszuhebeln. Das Projekt ist Teil des Exzellenzclusters “Bilateral Artificial Intelligence“, der vom Wissenschaftsfonds FWF mit 19,8 Millionen Euro gefördert wird. Sie arbeiten daran, KI-Modellen logische Regeln beizubringen, die eben nicht so einfach umgangen werden können … Schedl: In unserem Forschungscluster verknüpfen wir zwei Perspektiven: einerseits das Machine Learning, das sich auf große Datenmengen stützt und hinter den großen Sprachmodellen wie ChatGPT steckt. Die sagen im Wesentlichen die nächsten Wörter vorher – wenn auch mittlerweile sehr intelligent aufgrund ihres Trainings auf massiven Datenbeständen und Einbeziehung von menschlichem Feedback. Andererseits verwenden wir die logische oder symbolische KI, die eben nicht diesen statistischen Ansatz geht, sondern bei der es eher um Repräsentation von und Schlussfolgern aus Wissen geht. Wie könnte eine solche Software aussehen? Symbolische KI-Systeme beinhalten Informationen sehr viel strukturierter. Das können wir verwenden, um Fakten zu überprüfen, aber auch um Informationen überhaupt auszuschließen, wenn sie nicht in der Wissensrepräsentation gefunden werden – und so etwa Halluzinationen vorzubeugen. Dadurch ist ein Modell vielleicht nicht mehr so vielseitig einsetzbar, aber andererseits wird es möglicherweise sicherer. Probleme gibt es bei der Anwendung von KI nicht nur mit Fake News und Halluzinationen, auch Fairness ist ein Thema – immer mehr Forschungsarbeiten zeigen, dass etwa Frauen, Menschen mit Behinderung oder mit nichtweißen Hautfarben benachteiligt werden. Wie könnte ein Modell das vermeiden? Eine Möglichkeit, die wir verfolgen, ist, die Information zu einer bestimmten Eigenschaft „herauszulernen“. Ich kann beispielsweise beim Trainieren eines KI-Modells einen Angreifer einsetzen, um etwa das Geschlecht eines Users vorherzusagen und das Modell dann so anpassen, dass diese Angriffe ins Leere laufen. Das haben wir erfolgreich an KI-Modellen für Empfehlungssysteme gezeigt, wobei wir die Vorhersagegenauigkeit des Angreifers von über 70 Prozent auf unter 60 verringern konnten. Dabei geht es sozusagen um „Machine-Unlearning“. Gerade jungen Menschen wird oft empfohlen, sich mit KI zu beschäftigen, um fit für den Arbeitsmarkt zu sein. Gleichzeitig wächst die Evidenz, dass übermäßiges Nutzen etwa von Sprachmodellen dazu führt, dass Personen weniger selbstständig arbeiten, weniger kritisch denken und sogar ihr Gehirn weniger aktiv ist. Schedl: Ich würde sehr empfehlen, dass sich insbesondere junge Leute mit KI beschäftigen – aber nicht nur die Jugend, ich selbst lerne auch immer noch dazu. Dabei ist mir die kritische Auseinandersetzung mit der Technologie ganz wichtig. Es ist ja immer noch ein Problem der Sprachmodelle, dass ihre Antworten sehr gut und plausibel klingen, faktisch aber trotzdem oft einfach nicht stimmen oder zumindest verzerrt sind. Dazu kommt, dass die Systeme einem tendenziell zustimmen, den Usern praktisch nach dem Mund reden. Ich ermutige jeden, sich auch alternative Quellen anzusehen, eine einfache Eingabe in unterschiedliche Suchmaschinen reicht oft aus, um höher qualitatives Material zu finden. Gibt es derzeit KI-Systeme am Markt, die Sie aus ethischer Sicht besser beurteilen würden als andere? Schedl: Es kommt immer darauf an, auf welchen Aspekt wir uns konzentrieren. Die aktuellen Reasoning-Modelle, wie sie mittlerweile alle großen Anbieter haben, sind insofern transparenter, als dass sie Erklärungen geben, wie sie zu ihrem Ergebnis kommen. Ob die jetzt immer hundertprozentig faktisch sind, steht auf einem anderen Blatt. Wenn wir die Privatsphäre hernehmen, besteht bei der Verwendung großer kommerzieller Systeme natürlich immer die Gefahr, dass die Daten auf irgendeinem Server in China oder den USA landen. Außerhalb der EU können wir schwer überprüfen, wofür die dann tatsächlich verwendet werden. Was Datenschutz angeht, wäre es die sicherste Lösung, wenn man das System selbst hosten kann. Das ist für die Endnutzerinnen und Endnutzer oft schwierig, auch für uns im akademischen Bereich, aber es gibt durchaus kleine Modelle, die gut performen. Wenn Sie sich ein Gesetz wünschen könnten, um die KI-Forschung ethisch besser zu gestalten, was wäre das? Schedl: Am ehesten, dass das gesamte Ökosystem der KI so transparent wie möglich gestaltet werden soll. Unternehmen sollten folgende Dinge klar darlegen müssen: Welche Daten werden genau verwendet, um ihre Modelle zu trainieren? Wie schaut die Architektur des Modells aus und wie genau geschieht das Training? Wie kommt ein Sprachmodell zu den Ergebnissen? Gerade die chinesischen Systeme sind hier interessanterweise sehr offen, aber auch europäische Unternehmen bringen interessante KI-Produkte heraus. Etwa der Fokus auf Transparenz beim österreichischen Eustella ist lobenswert.