Training algorithms with Lifted High-Rank Updates (LiftHighUp)
Förderprogramm: VolkswagenStiftung, Momentum
Laufzeit: 04/2026 bis 03/2030
Künstliche Intelligenz verändert die Art und Weise, wie wir sehen, sprechen und gestalten – aber das Training leistungsstarker Modelle erfordert enorm viel Zeit, Geld und Energie. Dieser wachsende „RedAI”-Trend bedeutet, dass sich nur eine Handvoll Organisationen Grundlagenforschung in diesem Bereich leisten können, während der ökologische Fußabdruck weiter steigt. Anstatt sich nur auf schnellere Chips zu verlassen, entwickeln wir intelligentere Trainingsmethoden, die verborgene Strukturen in neuronalen Netzen nutzen, die durch "Lifting" des Trainingsproblems in einen hochdimensionalen Raum sichtbar werden, in dem die zu berechnenden Objekte strukturell einfacher sind als ihre niedrigdimensionalen „Schatten”.
Konkret wird LiftHighUp Trainingsverfahren entwickeln und testen, die Zwischenergebnisse der Netzwerkschichten als Variablen erster Klasse behandeln, wodurch die Lerndynamik transparenter wird und Aktualisierungen ermöglicht werden, die auf direkterem Weg zu Lösungen führen. Die daraus resultierende Software, Konfigurationen und Ergebnisse werden frei veröffentlicht, damit andere sie reproduzieren, überprüfen und darauf aufbauen können.
Durch Ausnutzung versteckter Strukturen zielt LiftHighUp darauf ab, Trainingskosten und Emissionen zu senken, Partizipation an fortschrittlicher KI für kleinere Teams und Institutionen zu erleichtern und dazu beizutragen, den Weg in Richtung „GreenAI“ zu ebnen.