KI-Modelldestillation: Neuer Streitpunkt im US-China-Technologiekrieg

Die sogenannte Modelldestillation – eine Technik, die leistungsstarke KI-Modelle in kleinere, effizientere Systeme umwandelt – ist zum neuesten Schauplatz im Wettlauf zwischen den USA und China um die KI-Vorherrschaft geworden. Was lange als Standardwerkzeug der KI-Forschung galt, steht nun im Zentrum eines wachsenden Streits über die unbefugte Übertragung fortgeschrittener KI-Fähigkeiten.

Washington und führende US-KI-Unternehmen werfen chinesischen Konkurrenten vor, die Technik zu nutzen, um Fähigkeiten aus proprietären Modellen zu extrahieren – ohne Zustimmung der Entwickler. Dies eröffnet eine neue Front in einem zunehmend erbitterten Wettbewerb um die technologische Führung.

Was ist Modelldestillation?

Bei der Modelldestillation wird ein großes, leistungsstarkes „Lehrer"-Modell eingesetzt, um ein kleineres „Schüler"-Modell zu trainieren. Der Lehrer generiert dabei Beispiele – etwa Antworten oder Computercode –, die als Trainingsmaterial für das kleinere Modell dienen. Das Schüler-Modell ist dabei kein vollständiges Replikat: Es übernimmt weder die Gewichtungen noch die Architektur oder den vollen Funktionsumfang des Lehrers, sondern erlernt ausgewählte Verhaltensweisen für spezifische Aufgaben.

Der entscheidende Vorteil dieser Methode liegt in ihrer Kosteneffizienz. Sogenannte Frontier-Modelle – die leistungsstärksten KI-Systeme – benötigen für ihren Betrieb große Rechenzentren und teure Chips. Destillierte Modelle hingegen können auf weniger leistungsstarker Hardware laufen und auf spezifische Aufgaben zugeschnitten werden. Das macht sie attraktiv für Unternehmen und Regierungen, die KI breiter einsetzen wollen – von Endgeräten und Fabriken bis hin zu Fahrzeugen und privaten Netzwerken.

Die Rolle der „Reasoning Traces"

Besondere Brisanz erhalten neuere Entwicklungen durch sogenannte „Reasoning Traces" – also die Denkschritte, die ein KI-Modell zur Lösung eines Problems unternimmt. Florian Tramèr, Assistenzprofessor an der ETH Zürich und Forscher im Bereich Sicherheit von maschinellem Lernen, beschreibt den Unterschied anschaulich: „Wenn ich Ihnen ein Buch mit komplizierten Matheaufgaben und den Endergebnissen gebe, wird es Ihnen viel schwerer fallen zu lernen, wie man die Aufgaben löst, als wenn ich Ihnen detaillierte Lösungswege gebe, die alle zu unternehmenden Schritte beschreiben."

Da Reasoning Traces wertvoller geworden sind, wird der Zugang zu KI-Ergebnissen sensibler behandelt. Sie könnten nämlich einige der Methoden offenlegen, die fortgeschrittene Systeme zur Bewältigung komplexer Probleme nutzen – und damit einen erheblichen Wettbewerbsvorteil darstellen.

Legitime Forschung versus unbefugte Extraktion

Grundsätzlich ist die Destillation eine weit verbreitete und legitime KI-Trainingstechnik. US-Forscher und Unternehmen nutzen sie seit langem: Das Alpaca-Projekt der Stanford University und die Orca-Forschung von Microsoft basierten auf Ergebnissen fortschrittlicherer Modelle, um kleinere Modelle zu verbessern. Auch chinesische Forscher haben Ergebnisse von US-Modellen in öffentlichen Forschungsprojekten verwendet.

Der entscheidende Unterschied liegt im Zugang und in der Genehmigung. Open-Weight-Modelle erlauben es Forschern, die zugrunde liegenden Parameter zu inspizieren und zu modifizieren. Geschlossene Modelle wie ChatGPT von OpenAI und Claude von Anthropic hingegen bleiben unter der Kontrolle der Unternehmen und werden in der Regel über proprietäre Schnittstellen oder APIs aufgerufen.

Konkrete Vorwürfe gegen chinesische Unternehmen

Anthropic hat chinesische Unternehmen wie DeepSeek, Moonshot und MiniMax beschuldigt, groß angelegte Kampagnen durchzuführen, um Fähigkeiten aus Claude-Modellen zu gewinnen. Das Unternehmen erklärte, dass diese Bemühungen auf Fähigkeiten wie Software-Engineering und fortgeschrittene Logik abzielten. Auch OpenAI hat erklärt, Versuche chinesischer Akteure festgestellt zu haben, seine Modelle für Zwecke im Zusammenhang mit der Destillation zu nutzen.

Bisher haben keine chinesischen Unternehmen ihrerseits US-Konkurrenten beschuldigt, Closed-Source-Modelle zu destillieren. Die Debatte dreht sich damit weniger um die Technik selbst als vielmehr um die Frage, wo die Grenze zwischen legitimer Forschung und systematischer, kommerziell motivierter Extraktion proprietärer Fähigkeiten verläuft – eine Frage, die im eskalierenden Technologiekonflikt zwischen den USA und China zunehmend an Bedeutung gewinnt.