Tag: Lügen

 

„Das Böse muss bewiesen werden!“ Diese Worte klingen wie ein Triumphruf für alle Geometrieliebhaber und wie ein Peitschenhieb für alle, die sich nicht für Euklids Elemente begeistern können. Von den antiken griechischen Philosophen, deren Einfluss am längsten überdauerte, war Euklid zweifellos der bedeutendste. Seine wissenschaftlichen Entdeckungen haben, anders als die der meisten anderen berühmten Persönlichkeiten, die Zeit überdauert. Er fasste (wenn man ein Werk in mehreren dicken Bänden überhaupt so nennen kann) das gesamte damals bekannte Wissen über Geometrie zusammen. Der Inhalt ist bis heute gültig und wird es wohl bis zum Jüngsten Tag bleiben.

Wir wissen heute, dass Euklids Geometrie innerhalb der von ihm selbst gesetzten Grenzen korrekt ist. Er selbst glaubte vermutlich, diese Grenzen seien endgültig und seine Geometrie somit vollständig. Seit dem 19. Jahrhundert ist bekannt, dass es weitere Geometrien gibt, wenn man Euklids Axiome leicht verändert. Tatsächlich wies Euklid den Weg dorthin, wahrscheinlich unbewusst, vielleicht aber auch mit einer gewissen Vorahnung.

Seine Geometrie basierte auf fünf Axiomen, von denen die ersten vier klar und einfach beschrieben waren, während das fünfte jedoch deutlich verwirrender formuliert wurde. Gerade durch die Veränderung dieses fünften Axioms gelang es über zweitausend Jahre nach Euklid, die Geometrie erstmals bedeutend über ihr Gebiet hinaus zu erweitern.

Die Spielregeln der Mathematik heißen Axiome. Ein Axiom ist eine so selbstverständliche Aussage, dass sie keinesfalls bewiesen werden muss. Ausgehend von den Axiomen werden Theoreme (Lehrsätze) kombiniert, um daraus neue Erkenntnisse zu gewinnen, die sich nicht direkt aus den Axiomen erschließen. Da die Theoreme mithilfe logischer Methoden exakt aus den Axiomen abgeleitet werden, gelten sie als ebenso wahr wie die Axiome.

So lassen sich durch Kombinationen von Theoremen und Axiomen oder durch Kombinationen mehrerer Theoreme neue Theoreme beweisen. Auf diese Weise können immer komplexere logische Systeme entwickelt und immer tiefere Erkenntnisse gewonnen werden, ausgehend von wenigen einfachen Annahmen.

Könnte man die Axiome nicht gänzlich ignorieren? Wenn man ein fortgeschrittenes Theoremsystem auf ihrer Grundlage entwickelt hat, sollte man dann nicht versuchen, die Axiome mithilfe der Theoreme zu beweisen? Dies ist jedoch unhaltbar. Ein System ohne Axiome führt zu einem Zirkelschluss und verliert damit seinen wissenschaftlichen Wert.

Die Herausforderung besteht daher darin, ein System zu finden, das mit möglichst wenigen Axiomen auskommt und möglichst viele Theoreme daraus ableiten kann. In der Wissenschaft verläuft die Entwicklung selten logisch oder in der „korrekten“ chronologischen Reihenfolge. Dampfmaschinen wurden beispielsweise gebaut, bevor die Naturgesetze der Energieübertragung bekannt waren. Die Forschung, die zu diesen Gesetzen führte, erfolgte im Nachhinein, um die Funktionsweise von Dampfmaschinen zu verstehen und sie zu verbessern.

In der Mathematik besteht ein ähnliches Verhältnis. Prinzipiell ist Mathematik eine Anwendung der Logik, doch die Mathematik als Wissenschaft ist wesentlich älter als die Logik. Erst in der ersten Hälfte des 20. Jahrhunderts wurden ernsthafte Versuche unternommen, die Mathematik aus den Gesetzen der Logik abzuleiten.

Es war ein großes wissenschaftliches Abenteuer, das früh einen herben Rückschlag erlitt. Anfang der 1930er-Jahre zeigte der Mathematiker und Logiker Kurt Gödel, dass die Logik Grenzen hat. Konstruiert man alle denkbaren Theoreme aus einem Axiomensystem, so enthält das System zwangsläufig innere Widersprüche. Dieses Problem betrifft alle logischen Systeme ab einer gewissen Größe. Gödel konnte zudem zeigen, dass diese Grenze erreicht ist, sobald das System so weit entwickelt ist, dass es die Zahlentheorie, also die Mathematik der ganzen Zahlen, beschreiben kann.

Anders ausgedrückt: Alle logischen, auf Axiomen basierenden Systeme, die die Zahlentheorie beschreiben können und frei von inneren Widersprüchen sind, enthalten Aussagen, die sich nicht logisch entscheiden lassen. Man könnte das Dilemma auch so beschreiben: Ein ausreichend großes logisches System erzeugt widersprüchliche Aussagen, obwohl beide, basierend auf den Grundannahmen, streng logisch sind. Was hat das nun mit Künstlicher Intelligenz zu tun? Gödels Theorem ist nicht so esoterisch, wie man zunächst annehmen könnte, sondern berührt die Grundlagen unseres Wissens über die Welt.

Der Satz findet in vielen praktischen Kontexten Anwendung, insbesondere in Computerprogrammen. Ein Computerprogramm ist logisch betrachtet eine Liste von Anweisungen, oft vom Typ „Wenn X eingetreten ist, führe Aktion Y aus“ oder „Wenn sowohl X als auch Y wahr sind, führe Aktion Z aus“. Strukturell funktionieren Computerprogramme als logische Systeme, die auf Axiomen basieren – genau jener Art von Systemen, in denen Gödel Schwächen feststellte. Dies führt zu einer erheblichen praktischen Komplikation: Man kann nicht wissen, ob ein großes Computerprogramm korrekt geschrieben ist.

Ist das Programm ausreichend komplex, lassen sich logische Fehler nicht mehr mit herkömmlichen Methoden aufspüren. Zwar können Programme entwickelt werden, die die logische Struktur eines Programms nach Fehlern durchsuchen, doch diese Debugging-Programme finden nicht alle Fehler. Daher lässt sich nicht beweisen, dass ein Programm wie vorgesehen funktioniert. Es bleibt nur eine Methode: das Programm auf möglichst viele Arten auszuführen und zu testen.

Und dann kommt Gödels Theorem wieder ins Spiel. Ist ein Computerprogramm ausreichend komplex, lässt es sich nicht vollständig und zweifelsfrei testen. Es ist schlicht unmöglich, ein Verfahren zu entwickeln, um systematisch alle möglichen Ausführungswege eines Programms zu prüfen. Entweder werden einige Ausführungswege übersehen, oder die Anweisungen enthalten Widersprüche. Ich verteidige keineswegs abstürzende Computerprogramme, aber zumindest gibt es manchmal plausible Erklärungen dafür.

Um die Jahrtausendwende entstand eine interessante Verbindung aus Gödels Theorem, Kernphysik und Astronomie, die erhebliche Probleme für die Computersicherheit mit sich brachte. Alles begann mit unerklärlichen Problemen in den Computersystemen von Flugzeugen, die für die Kursregelung zuständig waren. Normalerweise deutet ein solches Problem auf einen Bedienfehler hin, doch in diesem Fall betraf es Computer, die vom Bordpersonal gar nicht bedient wurden. Schnell stellte sich heraus, dass die Probleme nicht unmittelbar nach dem Start auftraten. Sie traten erst nach einiger Zeit in der Luft auf, und je länger und höher man flog, desto häufiger wurden sie. Zudem zeigte sich, dass die Probleme bei Flügen weit nördlich häufiger auftraten als in Äquatornähe.

Es stellte sich heraus, dass die Natur selbst die Ursache war. Explodierende Supernovae schleudern Protonen mit hoher Geschwindigkeit ins All. Treffen diese Protonen auf die Erde, wirkt die Atmosphäre als Schutzschild, sodass fast alle durch Kernreaktionen in der Luft in mehreren Kilometern Höhe abgebremst werden. Einige dieser Kernreaktionen führen jedoch zur Bildung von Neutronen, die von der Luft nicht so leicht gestoppt werden können. Der Neutronenstrom ist in einer Höhe von etwa 15 Kilometern am stärksten, und ein beträchtlicher Anteil der Neutronen erreicht sogar normale Flughöhen.

Computerspeicher nutzen elektrische Ladung zur Informationsspeicherung. Trifft ein Neutron auf den Speicher und löst eine Kernreaktion aus, können Atomkernfragmente freigesetzt werden. Diese Fragmente sind elektrisch geladen und können die Informationen im Speicher verändern. Die Natur programmiert somit die Bordcomputer von Flugzeugen während des Fluges quasi zufällig neu.

Um besorgte Leser zu beruhigen, sei hinzugefügt, dass dieses Problem hinsichtlich der Flugsicherheit inzwischen unter Kontrolle ist. Es wird auf verschiedene Weise gelöst. Eine Methode besteht darin, spezielle Programme einzusetzen, die aufgetretene Fehler erkennen und korrigieren. Eine andere Methode ist der Einsatz mehrerer Computer, die per Abstimmung „übereinstimmen“. Solange alle Computer übereinstimmen, ist alles in Ordnung.

Stimmt jedoch ein Computer anders ab, werden die Computer nacheinander neu gestartet. Für die Luftfahrtindustrie stellt dies hauptsächlich ein wirtschaftliches Problem dar. Der Einsatz fortschrittlicherer Computersysteme und von Personal zur Behebung des Problems ist mit Kosten verbunden.

Nach der Entdeckung dieses Effekts begannen die Luftfahrtindustrie und Computerhersteller, Elektronik vor dem Einbau in Flugzeuge zu testen. Solange es sich um Speicher handelt, lässt sich die Empfindlichkeit relativ einfach prüfen. Man platziert mehrere Computerspeicher mit bekannten Inhalten in einem Neutronenstrahl und liest sie in regelmäßigen Abständen aus. Stimmt der ausgelesene Wert nicht mit dem vorherigen überein, hat ein Neutron einen Speicherfehler verursacht.

Prinzipiell existieren ähnliche Probleme auch in anderen elektronischen Schaltungen. Das interessanteste Problem im Zusammenhang mit KI sind Prozessorfehler. Der Prozessor ist der Teil eines Computers, der dem menschlichen Gehirn entspricht. In ihm werden mathematische Berechnungen und ähnliche Operationen in Form logischer Abläufe durchgeführt („Wenn X wahr ist, führe Y aus“).

Technisch geschieht dies durch elektrischen Strom, der in verschiedene Richtungen durch den Prozessor fließt: „Wenn X wahr ist, fließt der Strom durch Leiter Y; wenn X falsch ist, durch Leiter Z“. Nun kann es vorkommen, dass X wahr ist, aber genau dann, wenn der Strom durch Leiter Y fließen soll, ein Neutron eine Kernreaktion auslöst, wodurch elektrische Ladung freigesetzt wird und stattdessen Strom durch Leiter Z fließt. Der Computer „rechnet also falsch“ – quasi aufgrund einer Supernova irgendwo in der Galaxie.

Diese Art von Fehler ist extrem schwer zu testen. Es ist schlicht unmöglich, ein Testverfahren zu entwickeln, mit dem sich alle Berechnungspfade eines Prozessors vollständig überprüfen lassen. Dieses Problem ist eine Folge der zunehmenden Geschwindigkeit und Effizienz von Computern.

Vereinfacht gesagt arbeiten Computer mit der Bewegung elektrischer Ladung. Je weniger Ladung bewegt werden muss, desto schneller können sie rechnen, da die Bewegung geringerer Ladungsmengen weniger Zeit in Anspruch nimmt. Mitte der 1990er-Jahre wurde eine Grenze erreicht, als Computer so wenig Ladung verbrauchten, dass die Störung durch ein einzelnes Neutron das Ergebnis einer Berechnung verändern konnte. Dies machte Computer gewissermaßen deutlich störungsempfindlicher.

Das bedeutet wiederum, dass heutzutage ein einzelnes quantenmechanisches Zufallsereignis weitreichende Folgen haben kann. Prinzipiell sind diese Störungen das Computeräquivalent zu Mutationen in der Genetik. Es kommt zu einem quantenmechanischen Zufall, und das gesamte System nimmt völlig andere Eigenschaften an – manchmal solche, die sich zuvor niemand hätte vorstellen können.

Eine besonders problematische Herausforderung für die Logik sind rekursive Strukturen oder selbstreferenzielle Aussagen. Schon die alten Griechen liebten Paradoxien, die auf Selbstreferenz beruhen.

Ein leicht zu lösendes Beispiel ist die Aussage: „Ich lüge immer.“ Ist diese Aussage wahr oder falsch? Wenn sie wahr ist, ist sie eine Lüge und umgekehrt. Es handelt sich also um eine Aussage, deren Wahrheit nicht logisch bestimmt werden kann. Mir ist bewusst, dass es riskant ist, ein Wortspiel als Beispiel zu verwenden, da man leicht den Eindruck gewinnen kann, Logik bestünde nur aus Wortspielen.

Es geht aber nicht um das Wortspiel selbst, sondern um seine logische Struktur. Was genau bereitet beim Entschlüsseln dieser Aussage Kopfzerbrechen? Das Problem ist die Selbstreferenz: Die Aussage „Ich lüge“ bezieht sich auf das, was geprüft werden soll (ob dies eine Lüge ist).

Wie bereits erwähnt, handelt es sich hierbei nicht nur um ein Wortspiel, sondern um ein gängiges Phänomen in Computerberechnungen. Da viele – praktisch alle – Berechnungen in Computern auf Wahrheitsprüfungen beruhen („Wenn X wahr ist, dann tue Y“), ist es in großen Programmen nahezu unmöglich, Selbstbezüge vollständig zu vermeiden.

Robuste Wahrheitswerttests in Computerberechnungen sind daher extrem schwierig und in vielen Fällen unmöglich vollständig durchzuführen. Im Laufe des letzten halben Jahrhunderts hat sich allmählich die Erkenntnis durchgesetzt, dass viele Naturphänomene, die zuvor als äußerst komplex galten (sogenannte chaotische Phänomene), durch relativ einfache Naturgesetze verursacht werden können. Insbesondere wenn Naturgesetze Selbstbezüge enthalten, können selbst recht einfache Regeln vollkommen unvorhersehbare Bewegungen oder Strukturen erzeugen.

Das Wetter ist ein gutes Beispiel dafür. Die Ungenauigkeit von Wettervorhersagen liegt unter anderem daran, dass die zugrunde liegenden Prozesse stark gekoppelt sind. Das menschliche Denken ist, soweit wir wissen, ein weiteres Beispiel. Die Signale im Gehirn beim Denken sind ebenfalls weitgehend selbstreferenziell.

All dies beeinflusst die Möglichkeiten der Entwicklung echter Künstlicher Intelligenz. KI basiert auf Computern, die, wie bereits erwähnt, auf logischen Systemen beruhen, deren Grenzen sich nicht in allen Fällen vollständig beherrschen lassen.

Das würde bedeuten, dass die Tür für eine fehlerfreie KI nicht vollständig offen ist. KI basiert auf logischen Systemen, die unter voller Ausschöpfung ihrer Möglichkeiten an strukturelle Grenzen stoßen können. Das heißt aber nicht, dass KI uninteressant ist. Es ist durchaus möglich, dass sie sich zu einem sehr leistungsstarken Werkzeug für vielfältige Anwendungen entwickelt. Dennoch ist Skepsis gegenüber einer vollkommen fehlerfreien Künstlichen Intelligenz angebracht.