Immer höher hinaus – oder tiefer stürzen?

Jetzt soll eine künstliche Superintelligenz der Ausweg sein

Kriege entstehen hier und dort, neue drohen dazu zu kommen. Bürgerkriege gehen im Tagesgeschehen bereits unter. Atomwaffen sind wieder in aller Munde. Die ewige Sehnsucht des Menschen nach Frieden, Freiheit und Wohlergehen scheint unerfüllbar zu sein. Nun soll eine künstliche Superintelligenz alles ermöglichen!

Der Mythos des Ikarus

Beginnen wir zur Abwechslung mit einem über 3000 Jahre alten Mythos, dem des Ikarus. Für eine Flucht aus Kreta fertigte sein Vater Flügel aus Vogelfedern an, die er mit Wachs zusammenfügte. Ikarus flog trotz vorheriger Warnungen seines Vaters zu hoch und näherte sich immer mehr der Sonne, bis das Wachs schmolz. Ikarus stürzte ins Meer und ertrank.

Anstatt Demut und Dankbarkeit für die eigenen Fähigkeiten zu zeigen, strebte Ikarus nach immer Größerem. Für seine Maßlosigkeit zahlte er einen hohen Preis. Die alten Griechen nannten das „Hybris“ – Anmaßung, Hochmut, übersteigertes Selbstvertrauen. Heute würde man vielleicht von Größenwahn oder Realitätsverlust sprechen.

Die Moderne 

Ist nicht auch der Glaube, eine künstliche Intelligenz entwickeln zu können, die besser als die menschliche ist, eine moderne Hybris?

In einer führenden deutschen Wochenzeitung las ich vor zwei Monaten, dass wir diesem Ziel immer näherkommen. Der Chefwissenschaftler von OpenAI verspricht im Internet, nach ChatGPT bald auch diese künstliche Superintelligenz anzubieten. Sie soll der ganzen Menschheit Wohlergehen und zugleich unvorstellbaren Reichtum bringen (z.B. ZEIT).  

Zunächst profitieren natürlich jene Unternehmen und Investoren, die sich an der Spitze dieses Fortschritts engagieren. Wohlergehen für alle – und gigantischen Reichtum für wenige. Kann das wirklich gut gehen, oder widerspricht das eine dem anderen?

Die beiden Supermächte des 21. Jahrhunderts – China im Osten und die USA im Westen – sind jedenfalls schon mitten im Ringen um den 1. Platz.  Und es scheint sich zu lohnen: OpenAI erwartet für ChatGPT mit derzeit bereits einer halben Milliarde wöchentlicher Nutzer noch einiges mehr. Es will seinen „bescheidenen“ Umsatz von 4 Milliarden $ in 2024 noch in diesem Jahr verdreifachen und bis Ende des Jahrzehnts sogar verzehnfachen.

Das Risiko

Wie aber soll ein kritischer – oder gar zugleich gläubiger – Mensch damit umgehen? Denn Zweifel an dem Ganzen gibt es genug und sie sind alles andere als unbegründet. Nur ein halbes Jahr nach der Veröffentlichung von ChatGPT schlugen die Chefentwickler von OpenAI und Google im Mai 2023 öffentlich Alarm:

Das Risiko einer Vernichtung durch KI zu verringern, sollte eine globale Priorität neben anderen Risiken gesellschaftlichen Ausmaßes sein, wie Pandemien oder Atomkriege. (Center for AI Safety) 

Diese prägnante Aussage sollte Diskussionen eröffnen unter KI-Experten, Journalisten, politischen Entscheidungsträgern und in der Öffentlichkeit. Auch an den Religionsgemeinschaften kann sie nicht vorbeigehen.

Der Diskurs darüber, ob KI grundsätzlich befähigt werden kann, in kritischen Situationen ethisch-moralisch begründete Entscheidungen zu treffen, ist nicht ganz neu. Eine Frage von existenzieller, daher auch religiöser Tragweite.

Wir haben hierüber auf dieser Plattform bereits im Juli 2023 berichtet (Künstliche Intelligenz – zwischen Begeisterung und Albtraum). Die Begeisterung bezog sich auf den unstrittigen Nutzen, den KI für Medizin und Gesundheit, für Wirtschaft und Wissenschaft haben könnte. In der Folge erfasste die öffentliche Debatte auch die Frage, ob KI jemals Menschenähnlichkeit erlangen könne. Zweifel daran, dass die Erschaffung einer echten schöpferisch denkenden KI prinzipiell möglich sein soll, wurde in Kann Künstliche Intelligenz ein Bewusstsein entwickeln? zu Recht ausgedrückt. Dort heißt es, dass aus religiöser Sicht das Entstehen von Bewusstsein und Vernunft nicht als bloßes Produkt vernetzter Neuronen verstanden werden kann – sondern als Ausdruck einer „vernunftbegabten Seele“, die dem Menschen allein vorbehalten ist.

Der Fortschritt von Wissenschaft und Technik

Gegen Ende meines Physik-Studiums, in einer Zeit, die von hitzigen Debatten über den Vietnamkrieg geprägt war, begegnete ich erstmals den Baha'i-Schriften. Dabei auch den Worten:

Seltsame, verblüffende Dinge gibt es in der Erde; aber sie sind dem Geist und Verständnis der Menschen verborgen. Diese Dinge sind imstande, die ganze Erdatmosphäre zu verwandeln, und eine Verseuchung mit ihnen wäre tödlich.

Baha'u'llah, Botschaften aus Akka

Der Physikstudent in mir rätselte, ob damit wohl das Uranerz gemeint sein könnte, aus dem dann über ein halbes Jahrhundert später die Atombombe entwickelt wurde. Nachdem sie sogleich in Hiroshima zum Einsatz gelangte, wurde sie zum größten Schrecken der Menschheit. 

Als vor drei Jahren der Chefentwickler von OpenAI die zukünftige künstliche Intelligenz mit der Atombombe verglich, kam mir das obige Zitat wieder in Erinnerung – in einem neuen Kontext. Denn ohne die so genannten „seltenen Erden“ (besondere, nicht gerade häufig vorkommende Metalle) in unserer Erde gäbe es keine immer kleiner werdenden Computer-Chips. Ohne sie auch kein modernes Computer-Zeitalter, kein Internet und damit keine künstliche Intelligenz. Zum Vergleich: Die ersten Transistoren der 1950er-Jahre waren noch millimetergroß – und damit rund zehn Millionen Mal größer als heutige Transistoren, die kleiner sind als viele Viren.

Wie immer man auch obiges Zitat deuten mag, es erscheint wie eine Anspielung auf das 20./21. Jahrhundert. Die Verseuchung der „Erdatmosphäre“ mag man als Radioaktivität in der physikalischen Atmosphäre sehen, oder als durch KI gesteuerte „geistig-spirituelle“ Vergiftung. Keine Technologie kann eine KI vor Manipulation und Missbrauch durch den Menschen bewahren. Ihre Algorithmen konstruieren zwar theoretisch alle ausgegebenen Wortfolgen nur nach statistischen Wahrscheinlichkeiten des Vorkommens im weltweiten Netz. Algorithmen können jederzeit mit willkürlichen Präferenzen versehen werden – je nach politischer Wetterlage oder strategischem Eigennutz. Maßgeblich für moderne KI-Programme ist, dass sie zwar in der Lage sind, autonom aus Daten zu lernen, dies aber immer nach von Menschen vorgegebenen Zwecken und Zielen. Die Systeme verfügen nicht über freien Willen und selbstbestimmte Zielsetzungen.

Religion und Wissenschaft

Der Fortschritt der Wissenschaft lässt sich nicht aufhalten. Deshalb muss auch Religion mit dieser Entwicklung Schritt halten. Das ist eines der Grundprinzipien des Baha'i-Glaubens, in dem diese Lehre als „fortschreitende Gottesoffenbarung“ bezeichnet wird. Sie war und wird auch weiterhin nach diesem Verständnis die eigentliche Grundlage der Menschheit sein.

Dabei auch zugleich eine Warnung vor maßlosem Fortschritt:

In allen Dingen ist Mäßigung wünschenswert. Wird etwas übertrieben, so erweist es sich als Quell des Unheils. Seht auf die Zivilisation des Westens, wie sie die Völker der Welt aufwühlt und beunruhigt. Eine Höllenmaschine wurde ausgeheckt und erweist sich als Waffe der Zerstörung, so grausam, wie man es nie zuvor gesehen oder gehört hat. 

Baha'u'llah, Botschaften aus Akka

Denn es gilt, dass das Gleichgewicht zwischen Religion und Wissenschaft immer gewahrt bleiben muss. In den Baha'i-Schriften findet sich dazu das Gleichnis des Vogels, der von beiden Flügeln getragen werden muss:

Religion und Wissenschaft sind die beiden Flügel, auf denen sich die menschliche Geisteskraft zur Höhe erheben und mit denen die menschliche Seele Fortschritte machen kann. Mit einem Flügel allein kann man unmöglich fliegen: Wenn jemand versuchen wollte, nur mit dem Flügel der Religion zu fliegen, so würde er rasch in den Sumpf des Aberglaubens stürzen, während er andererseits nur mit dem Flügel der Wissenschaft auch keinen Fortschritt machen, sondern in den hoffnungslosen Morast des Materialismus fallen würde.

Abdu'l-Baha, Ansprachen in Paris

Wenn dieser Vergleich lange Zeit von vielen als schönes Gleichnis empfunden wurde, so finde ich, dass er mit Blick auf die gegenwärtige Weltlage weit mehr ausdrückt. Er gewinnt mit wachsenden Konflikten geopolitischer Dimension, sozialer Ungerechtigkeit, Erschöpfung der natürlichen Ressourcen und Bedrohung des Klimas sogar dramatisch an Bedeutung.

Fazit

Der Mensch selbst ist die eigentliche Gefahr, nicht Wissenschaft und Technologie. Es ist sein Versuch, durch maßlosen Gewinn und Macht immer höher „aufzusteigen“. Kehren wir zurück zu dem eingangs erwähnten Bild des Ikarus, dessen „Hybris“ uns eine Warnung sein sollte!

Übrigens, das gezeigte Bild des Ikarus ist KI-produziert. Wenn man so will, ist es ein nach der Anforderung in Sekundenschnelle erfolgter „Datenklau“ aus zahllosen von Künstlern geschaffenen und im weltweiten Internet verfügbaren Werken menschlicher Kreativität. Positiv gesagt: Die KI hat sich sehr bemüht und den Autor damit unterstützt. Um Malerei zu lernen, würde ich Jahre brauchen und das Thema wird dann vielleicht niemanden mehr interessieren.

Die „Bemühungen“ sind noch lange nicht zu Ende: Mitte Juni 2025 verkündete OpenAI, dass bis Ende des Jahres gemeinsam mit dem US-Spielzeuggiganten Mattel eine KI-fähige Barbie-Puppe auf den Markt kommt. Das „Wohlergehen“ der Menschheit nimmt also im Kinderzimmer seinen Anfang, rechtzeitig zum Weihnachtsgeschäft. Wer es nicht glaubt: frage einfach ChatGPT!

---

Ingo Hofmann studierte Physik in München und war über drei Jahrzehnte im Raum Darmstadt-Frankfurt in der Forschung und als Hochschullehrer tätig. Er ist Vater von vier Kindern und lebt seit einigen Jahren in Potsdam, Brandenburg.

Bild generiert durch GenAI