χρ τ + _ 49

Der Unterschied zwischen der Sciencefiction und den Zukunftsvisionen besteht in der Machbarkeit bzw. der Realisierung von Ereignissen, die in der Zukunft wahrscheinlich geschehen werden oder - eher unwahrscheinlich, jedoch denkbar - geschehen könnten. Wobei das „Könnten“ im Kontext der Sciencefiction, das „Werden“ eher auf Seiten der Zukunftsvisionen verortet ist.

Der Informatiker Jürgen Schmidhuber wird als „Vater der modernen KI“ bezeichnet. Der 60-jährige Deutsche arbeitet seit 1995 am Istituto Dalle Molle di Studi sull’Intelligenza Artificiale in Lugano und seit zwei Jahren auch am internationalen Wissenschaftszentrum KAUST in Saudi-Arabien. Sein akademischer Höhenpflug begann an der TU München. Inzwischen genießt Jürgen Schmidhuber in Wissenschaftskreisen Kultstatus. Das liegt nicht zuletzt an der Art, wie er die Auswirkungen der Forschungsergebnisse seines Fachs der Öffentlichkeit erklärt. Erneut geschehen mittels eines SZ-Interviews vom 5. August 2023:

„Der Moment der Singularität ist dann gegeben, wenn sich lernfähige Maschinen so schnell selbst verbessern, dass Menschen die Entwicklung nicht mehr nachvollziehen können. Ich nenne das gerne den Omega-Punkt, frei nach Teilhard de Chardin. Viele, die von der Singularität sprechen, beziehen sich auf Gespräche, die in den Fünfzigern zwischen den Wissenschaftlern Stanislaw Lem und John von Neumann stattfanden. Sie äußerten die Vermutung, dass die zeitlichen Abstände zwischen technischen Durchbrüchen exponentiell schrumpfen. Dann muss das Ganze irgendwann konvergieren. Der Science-Fiction-Autor und Mathematiker Vernor Vinge hat das Konzept in den Achtzigern populär gemacht. 2014 entdeckte ich dann ein simples Beschleunigungsgesetz, das nicht nur ein paar Jahrzehnte, sondern bis zum Urknall zurückreicht, also 13,8 Milliarden Jahre.

Es stellt sich heraus, dass die aus menschlicher Sicht wichtigsten Ereignisse seit dem Beginn des Universums ziemlich genau auf einer Zeitachse mit exponentieller Beschleunigung angeordnet sind, mit Konvergenzpunkt im Jahre Omega, wahrscheinlich 2040 oder so. Wenn Sie 13,8 Milliarden durch 4 teilen, kommen wir vor 3,5 Milliarden Jahren raus. Da entstand das Leben. Ein Viertel davon sind 900 Millionen Jahre: das erste tierähnliche Leben. Wieder ein Viertel, 220 Millionen Jahre: die ersten Säugetiere. Dann die Primaten, die Hominiden, die ersten Steinwerkzeuge, das Feuer, Ackerbau und Beginn der Zivilisation, die erste Bevölkerungsexplosion in der Eisenzeit, Schusswaffen, industrielle Revolution und Start der zweiten Bevölkerungsexplosion durch Dünger und moderne Medizin. Schließlich kommen Sie mit diesem Vierteln raus beim World Wide Web. Und demnächst kommt der Omega-Punkt.

Apropos Menschenangst: Warum sollte sich eine wahrhaft superkluge KI, die ganz schnell Roboter bauen kann, die alles viel besser kann als Menschen, sich die hirnlose Mühe machen, Menschen zu versklaven? Sie könnte jedoch uns aus Versehen vernichten, so wie Menschen, die auf einer Wiese ein Haus bauen und Ameisenhügel plattmachen. Ja da haben wir einen Zielkonflikt mit den Ameisen. Aber das betrifft in dem Fall nur ein paar Tausend Ameisen und Sie sind trotzdem froh, dass draußen im Wald noch Billionen von ihnen leben, weil Sie wissen, dass der Wald ohne Ameisen nicht funktionieren würde. Es ist nicht so, dass Sie alle Ameisen ausrotten wollen, nur weil Sie klüger sind. Zielkonflikte haben die, die sich ähnlich sind. Menschen haben viele Zielkonflikte mit anderen Menschen. Und viele Lebewesen haben Zielkonflikte mit anderen Lebewesen, die sie verspeisen wollen. Zwischen Lebewesen und KIs fallen die meisten derartigen Zielkonflikte weg. KIs werden natürlich mehr und größere und bessere KIs bauen wollen, dazu braucht man Masse und Energie. Fast alles davon ist aber weit weg von unserer Biosphäre. Also werden KIs auswandern.

Zunächst auf den Merkur, der sehr sexy ist, weil er noch mehr schwere Metalle hat als die Erde, mit der Sonne als riesiger Energiequelle in nächster Nähe. Da der Merkur keine Atmosphäre hat, kann man Material viel billiger als mit Raketen durch elektromagnetische Kanonen in den Weltraum schießen, um dort alle mögliche Infrastruktur zu schaffen. Das ist aber erst der Anfang. Der Rest der Milchstraße bietet noch viel mehr bisher ungenutzte Gelegenheiten als unser winziges Sonnensystem. Das wird ein paar Hunderttausend Jahre dauern, aber dann wird fast alle KI sehr weit von der Erde weg sein.

Die meisten Menschen werden da bleiben, wo es für Menschen am schönsten ist, auf der Erde. Mit der sich ausbreitenden KI-Sphäre wird der Mensch sowieso nicht mithalten können. Sobald es Sender und Empfänger gibt, reisen KIs mit Lichtgeschwindigkeit per Funk. Menschen werden weniger bedeutend sein. Aber trotzdem interessant: Solange die Menschen in ihrer Beschränktheit nicht durch und durch verstanden sind, bleiben sie eine unglaubliche Quelle interessanter Muster, die kein rationaler Wissenschaftler zerstören will, egal ob er ein Mensch ist oder eine KI.

Irgendwann sind die Menschen die Ureinwohner einer intergalaktischen Zivilisation geworden, die sie nämlich begründet hat. Wir, die Menschen sind also Steigbügelhalter. Ich wette, auch superkluge KIs werden interessiert daran sein, unsere schöne Biosphäre zu erhalten.

Elon Musk irrt mit seinem Plan, unsere Zivilisation erst einmal zu einer interplanetarischen Zivilisation zu machen und auf dem Mars anzufangen. Er lud mich einst zu seiner Familienfeier ein, wo ich versuchte, ihm das auszureden. Der Mars ist für geeignet konstruierte Roboter viel angenehmer als für Menschen. Für uns Menschen wäre dagegen sogar die leere Wüste Gobi lebenswerter. Dort haben Gravitation und Atmosphärendruck schon mal die richtigen Werte, und es gibt Sauerstoff ohne Ende. Niemand wird dauerhaft auf den Mars wollen.

Ich wette, auch superkluge KIs werden interessiert daran sein, unsere schöne Biosphäre zu erhalten. So wie wir zum Beispiel daran interessiert sind, in Naturschutzgebieten seltene Lebensarten zu erhalten.

Fürchtet euch nicht, am Ende wird alles gut! All dies ist eigentlich nur ein kurzer Zwischenschritt in der Entwicklung des Universums. Vor 13,8 Milliarden Jahren war alles sehr einfach. Es gab keine komplexen Elemente, keine Sonnen, kleine Planeten, kein Leben, keine Zivilisation. Das entstand alles in Äonen der Evolution und ist noch lange nicht fertig. Das Universum ist noch jung. Es wird noch viele Male älter werden. Vorher haben wir immer geviertelt. Multiplizieren wir jetzt mit vier! Wenn der sichtbare Kosmos vier Mal so alt ist wie jetzt, also ungefähr 55 Milliarden Jahre alt, wird er von KI und deren Infrastruktur durchdrungen sein.

Dann ohne Menschen. Bis dahin ist die Sonne längst ausgebrannt. Die Sonne wird es so wohl nicht mehr geben, die hat ohne massive Eingriffe nur noch fünf Milliarden Jahre, also bloß noch eine Million Mal die Zeitspanne seit den alten Ägyptern. Aber es gibt ja so viele andere Sonnensysteme für KI und Roboter. Bis dahin haben wir noch ein wenig Zeit.

Doch zurück zu den konkret nächsten Schritten in der Entwicklung der KIs. KIs, die nicht nur sklavisch Menschen imitieren, sondern wie Babys und Wissenschaftler ihre eigenen Ziele verfolgen, die durch Roboter mit der Welt interagieren, sich dabei ein immer besseres Bild der Welt machen, und auch das Lernen selbst lernen, um immer allgemeinere Probleme lösen zu können.

Interessant wird es, sobald sie sich physikalisch selbst replizieren können. Wenn zum Beispiel auf dem Merkur ein solargetriebener 3-D-Drucker sich mit anderen zusammenschließt und sie all die Teile drucken können, aus denen sie bestehen, und auch die Teile, aus denen die Roboter bestehen, die die entsprechenden Rohstoffe einholen und die gedruckten Teile zusammenbasteln, sodass die gesamte Maschinengesellschaft sich selbst kopieren kann. Dann hat man zum ersten Mal eine neue Sorte von Leben, die nichts mit Biologie zu tun hat und sich trotzdem vervielfältigen kann. Und sich rasch verbessern kann in einer Weise, die traditionellem Leben verwehrt ist. Das wird kommen, und das Großartige daran ist, dass der gigantische Weltenraum solchen Systemen einen bisher unerschlossenen Lebensraum bietet, der unermesslich groß ist im Vergleich zur winzigen Biosphäre.

Solche selbstreplizierenden Fabriken werden auch viel von dem produzieren, was Menschen wichtig ist. Aber das geht weit über menschliche Bedürfnisse hinaus, denn nahezu alle derartigen Fabriken werden bald weit weg sein von der Erde und nichts mehr mit Menschen zu tun haben. Das Universum als Ganzes scheint diesen eingebauten Willen zu haben, immer komplexer zu werden. Wenn wir begreifen, dass das Universum nicht nur für uns gemacht wurde, sondern dass wir Teil von etwas Größerem sind, können wir schon ehrfürchtig und demütig damit leben.

Der Mensch: Es fühlt sich doch kaum einer dadurch gekränkt, dass Einstein klüger war als er, oder dass Maschinen besser Schach spielen. Die meisten Menschen kommen gut damit zurecht, dass sie nicht die Tollsten sind.“