Geoffrey Hinton, der für Arbeiten zu künstlichen neuronalen Netzen den Nobelpreis für Physik 2024 mit erhielt, hält es für möglich, dass die Menschheit ohne KI besser dagestanden hätte. Im Gespräch mit dem Guardian formuliert er das nicht als endgültiges Urteil. Für ihn kann die Technologie sowohl eine sehr gute Zukunft eröffnen als auch schwer beherrschbare Risiken schaffen.
Szenarien für Infrastruktur
Hinton rechnet damit, dass noch in diesem oder im kommenden Jahr ein großes Ereignis eintreten könnte. Sein Vergleich mit „Tschernobyl“ meint dabei keinen nuklearen Vorfall. Als mögliche Beispiele nennt er einen KI-gestützten Angriff auf die Stromerzeugung mit großem Brownout oder einen Vorfall, der das Finanzsystem eine Woche lahmlegt. Das sind Szenarien, mit denen er die Größenordnung seiner Sorge beschreibt – keine Meldungen über bereits eingetretene Ereignisse und keine Vorhersage eines konkreten Angriffs.
Konkreter ist seine Forderung an die Regulierung. Leistungsfähige KI-Modelle sollten vor ihrer Veröffentlichung von einer unabhängigen Stelle geprüft werden, ähnlich wie Arzneimittel. Unternehmen müssten nach seiner Vorstellung belastbare statistische Belege vorlegen, dass ein Modell mehr Nutzen als Schaden bringt. Hinzu kämen gemeinsame internationale Standards und Zusammenarbeit zwischen Staaten.
Unabhängige Prüfung
Ein allgemeines KI-Verbot fordert Hinton damit nicht. Er sagt selbst, er sei kein Untergangsprophet; KI könne eine „wunderbare Zukunft“ ermöglichen. Zugleich glaubt er, dass Menschen noch die Kontrolle behalten können – wenn sie gemeinsam erheblich in Sicherheit und Regeln investieren.
Nach Hintons Einschätzung werden die kommenden zehn Jahre zeigen, ob Risiken beherrschbar bleiben oder sich mit Ungleichheit, Arbeitslosigkeit und gesellschaftlicher Spaltung verbinden. Entscheidend ist deshalb nicht, eine Warnung wie eine feststehende Zukunft zu behandeln. Wichtiger ist die Frage, welche Grenzen, Prüfungen und unabhängigen Kontrollen erfüllt sein müssen, bevor ein System auf kritische Infrastruktur einwirken darf.
Die Kontrolle bleibt greifbar: Über Risiko zu sprechen heißt nicht, eine Katastrophe anzukündigen. Es heißt, Zuständigkeit und Prüfung sichtbar zu machen, bevor weitreichender Zugriff vergeben wird.
