KI quo vadis

1968, Stanley Kubrik präsentiert „2001: A space odyssey“. Nicht nur eine spannende science fiction, sondern für mich der erste bewusste Kontakt mit der künstlichen Intelligenz. HAL heisst der Bordcomputer, welcher die Astronauten in der finalen Attacke aus dem Raumschiff verbannt. HAL ist nicht nur ein mächtiger Rechner, welcher gegen die Menschen kämpft, die ihn eigentlich als Sklaven konzipiert haben. Er kann seine verhängnisvolle Macht anwenden weil er Direktverbindung mit den entscheidenden Elementen INPUT und OUTPUT hat. Erstens sind das raffinierte Sensoren, welche ihm unter anderem ermöglichen, Lippen zu lesen und damit die Absichten der Menschen zu erkennen und zu durchkreuzen. Und zweitens der Zugriff auf die Steuerung der Raumkapsel, welche ihm erlaubt, die Türe selbst zu verriegeln. Ob Stan das als Warnung für die Menschheit geschrieben hat, ähnlich wie Orwell sein „1984“ oder Cipolla seine Analyse der Dummheit? Das Raumschiff ist die Erde. HAL ist Orwells perfektionierter Absolutismus oder die Dummheit der Rasse Mensch oder die KI oder …......

Wenige Jahre später habe ich als Ingenieur bei BBC Einblick in die Steuerung von Kraftwerken erhalten. Ein Reaktor von 3000 Megawatt, Turbine und Generator 1000 Megawatt. Vergleiche: Aktuelle SBB-Loks bringen etwa 5 Megawatt auf die Schienen, entspricht ca. 7000 PS. Ein Pferdefuhrwerk mit der elektrischen Leistung von Gösgen hätte also etwa eine Länge von hier nach Moskau.

Da darf definitiv nichts schief gehen. Dafür sorgen ein Regelsystem mit Zugriff der Operateure im Kommandoraum. Hochfahren, synchronisieren mit dem Netz, Leistung regeln, Probleme lösen usw. Dann das davon unabhängige Sicherheitssystem, welches von den Operateuren nicht übersteuert werden kann. Fest mit der Turbine verbunden überwacht beispielsweise ein Drehzahlwächter die Drehgeschwindigkeit von Turbine und Generator. Bei einem fixen Grenzwert führt die Fliehkraft zu einem totalen Druckabfall beim Steueröl. Riesige Ventile stoppen in Sekundenbruchteilen die Dampfzufuhr und führen die Turbine in den Leerlauf, also einen sicheren Zustand ohne Einflussmöglichkeit von Menschen. Und natürlich gibt es einen Computer in jedem Kraftwerk, welcher den ganzen Betrieb überwacht und protokolliert und bei Störungen Ratschläge erteilt. Bei den Kraftwerken, die ich kenne bestand aber für den Computer intelligenterweise kein direkter Einfluss auf die Steuerung und ich hoffe inständig, dass dies immer noch so ist.

Nicht jedes technische System kann auf diese Weise sicher gestoppt werden. Vor ein paar Jahren sind beispielsweise kurz nacheinander 2 voll besetzte Boeing 737 MAX abgestürzt weil Boeing nach überhasteten Basteleien wegen neuer Triebwerke ein „Sicherheitssystem“ eingebaut hatte, welches bei gefährlich steilem Anstellwinkel die Nase des Jets nach unten drückte um einen Strömungsabriss und damit einen Absturz zu verhindern. Nun ist aber bekanntlich „Nase nach unten“ auch kein sicherer Zustand. Defekte Sensoren lieferten bei beiden Unfällen viel zu grosse Anstellwinkel, so dass „zur Sicherheit“ tatsächlich die Nase nach unten gedrückt wurde und die Dinger in den Boden rasten ohne dass die Piloten es verhindern konnten, nicht zuletzt weil sie nichts von diesem System wussten !!

Ein Computer allein kann noch so genial oder blöd programmiert sein. Er ist harmlos ohne INPUT und OUTPUT. Entscheidend für HAL war eine Kamera und die direkte Verbindung zum Türschloss. Kameras können heute überall befestigt, mit Drohnen transportiert und in Riesenschwärmen eingesetzt werden. Direkt mit dem Internet verbunden können „intelligente“ Systeme beliebige Programme hacken oder Atombomben zünden. Ein KI-Programm, welches von einem Benutzer Anfragen erhält und per Ton und Bild Ratschläge erteilen kann, ist schon gefährlich genug, aber einem solchen System zu ermöglichen selbst den roten Knopf zu drücken wird eher früher als später zur abschliessenden Katastrophe führen.

Ich bin im Moment am Nachdenken und Recherchieren, wie man das zuverlässig verhindern könnte, aber bisher ratlos. Vielleicht hilft mir mal irgendein Genie dabei!