Nvidia veröffentlicht Open-Source-KI-Modell Nemotron 3,5 Lightning für PCs

Nvidia hat mit Nemotron 3,5 Lightning ein neues Open-Source-KI-Modell veröffentlicht, das laut dem Unternehmen „leichtgewichtig" ist und auf einer einzelnen GPU eines Laptops oder Desktop-PCs ausgeführt werden kann. Es ist das erste Open-Source-Modell des Chipherstellers, seit CEO Jensen Huang diesen Ansatz im vergangenen Monat öffentlich befürwortet hat. Das Modell steht Unternehmen kostenlos zum Herunterladen, Nutzen und Modifizieren zur Verfügung – ohne Genehmigung oder Zahlungen an Nvidia.

Weniger als drei Wochen nach Huangs erstem Post auf der Plattform X, in dem er Open-Source-Modelle verteidigte, folgt nun die konkrete Umsetzung. Nvidia macht damit deutlich, dass die Unterstützung offener KI-Modelle nicht nur eine politische Haltung ist, sondern auch Teil der Unternehmensstrategie.

Huangs Kalkül: Offene KI treibt Chip-Nachfrage an

Für Nvidia ist Open-Source-KI aus geschäftlicher Sicht attraktiv: Auch kostenlose Modelle müssen auf GPUs laufen, und niedrigere Kosten könnten die Nutzung gegenüber proprietären Modellen von Anbietern wie OpenAI und Anthropic ankurbeln. „Kostenlose KI sollte großartig für Hardware sein. Kostenlose KI sollte großartig für Chips sein", sagte Huang in einem Interview mit Axios im Juli.

Ende Juli veröffentlichte Huang einen offenen Brief, in dem er für sogenannte Open-Weight-Modelle plädierte. Darin argumentierte er, dass offene Modelle Unternehmen mehr Kontrolle über ihre Zukunft geben, den Wettbewerb fördern und Preise senken. „Offene Modelle stärken die Sicherheit und Cybersicherheit, beschleunigen Innovation und Verbreitung und ermöglichen Souveränität", schrieb Huang in seinem ersten X-Post.

Auslöser für Huangs öffentliches Engagement war eine Debatte in Washington, die durch die Ankündigung von Kimi K3 entfacht wurde – einem Modell des chinesischen Unternehmens Moonshot AI, das die Lücke zu den leistungsstärksten amerikanischen Modellen schließt. Politiker äußerten Bedenken hinsichtlich nationaler Sicherheit und warfen dem Modell vor, durch sogenannte „Distillation" geistiges Eigentum zu stehlen. Bei dieser Technik werden Antworten eines fortschrittlichen KI-Modells genutzt, um ein kleineres Modell zu trainieren. Entscheidungsträger diskutierten, ob chinesische Modellentwickler ähnlichen Sanktionen wie beim Chip-Export unterworfen werden könnten.

Nemotron 3,5 Lightning: Technische Details und Verfügbarkeit

Nvidia selbst setzt bei Nemotron 3,5 Lightning ebenfalls auf Distillation: Vertreter des Unternehmens erklärten, dass diese Technik eingesetzt wurde, um dem neuen Modell ähnliche Fähigkeiten wie seinen größeren Nemotron-Vorgängern zu verleihen. Das Modell ist speziell für sogenannte „Agents" entwickelt worden – KI-Programme, die autonom im Hintergrund agieren können.

Unternehmen wie CrowdStrike, CodeRabbit und Harvey haben Nemotron 3,5 Lightning laut Nvidia bereits getestet und angepasst. Das Modell wird auf der Plattform HuggingFace sowie auf der Nvidia-Website verfügbar sein. Zusätzlich veröffentlichte Nvidia eine Software namens NeMo Switchyard, die das kostengünstigste und am besten geeignete KI-Modell für eine bestimmte Aufgabe ermitteln kann.

Wenige Tage nach Huangs offenem Brief gründete Nvidia gemeinsam mit Unternehmen wie Microsoft ein Konsortium für KI-Sicherheit, das sich auf die Nutzung offener Modelle und Open-Source-Software für die Cybersicherheit konzentriert. Damit positioniert sich Nvidia als aktiver Mitgestalter der Open-Source-KI-Bewegung – nicht nur als Chip-Lieferant.

Open-Source-KI als heißes Thema im Silicon Valley

Die Debatte um offene KI-Modelle bewegt derzeit die gesamte Branche. Am selben Montag, an dem Nvidia Nemotron 3,5 Lightning ankündigte, veröffentlichte Meta-CEO Mark Zuckerberg ein ausführliches Manifest für Open-Source-KI, während sein Unternehmen ein Programmiermodell namens Muse Spark vorstellte. „Unser Ziel sollte es sein, dass amerikanische Open-Source-Modelle weltweit die besten sind", schrieb Zuckerberg.

Für deutsche Unternehmen und Entwickler ist die Verfügbarkeit von Nemotron 3,5 Lightning besonders interessant: Das Modell lässt sich lokal auf handelsüblicher Hardware betreiben, was Datenschutzbedenken reduziert und die Abhängigkeit von Cloud-Diensten verringert. Die kostenfreie Nutzung ohne Lizenzgebühren senkt zudem die Einstiegshürde für den Einsatz von KI in mittelständischen Unternehmen erheblich.