Kategorie: d Digitale Technologien

(2) Vertrauen und Risiko

Zwischenmenschliches Verhalten ist von Vertrauen bestimmt. Das ist zunächst eine positive Aussage über die zwischenmenschliche Kooperationsbereitschaft. Es ist aber auch eine Aussage über ein nicht zu beseitigendes Risiko. Vertrauen ist möglich, aber Vertrauen ist auch notwendig. Alltägliches Verhalten kann nicht ohne Vertrauen auskommen. Risiken treten nicht nur im Ausnahmefall auf.

Vertrauen im Alltag

Die Bedeutung des Vertrauens für die Gesellschaft wird deutlich, wenn alle Lebensbereiche einmal daraufhin befragt werden, was geschähe, wenn Misstrauen statt Vertrauen herrschen würde. Ich hole das Auto aus der Werkstatt ab, die Reifen wurden gewechselt. Vertraue ich, dass die Radmuttern fest angezogen sind? Ich gehe zu einer medizinischen Vorsorgeuntersuchung. Vertraue ich, dass die Untersuchung wirklich sorgsam durchgeführt wird? In der Bäckerei kaufe ich ein Brot und bekomme Wechselgeld zurück. Vertraue ich darauf, dass das stimmt oder zähle ich nach? Ich bringe ein für mich persönlich sehr wichtiges Paket zur Post. Vertraue ich darauf, dass es auch ankommt? Am Morgen steige ich in einen Bus, um zur Arbeit zu fahren. Vertraue ich darauf, dass der Busfahrer nicht übernächtigt oder gar alkoholisiert ist? Ich nutze eine digitale App, die mir das Leben erleichtert. Vertraue ich darauf, dass meine Daten nicht missbraucht werden? Diese Liste kleinerer oder größerer Vertrauensakte im Alltag ließe sich erkennbar beliebig fortsetzen.

Risiken in unserem Leben

Das Ergebnis ist deutlich: Ohne Vertrauen würden wir kaum unser Leben gestalten können. Das gilt im Übrigen auch für eigenes Handeln. Wir brauchen Selbstvertrauen, so dass wir beherzt handeln können. Darüber hinaus gilt: Zwischenmenschliches Verhalten geht immer mit einem Risiko einher. Es gibt leichtfertiges Verhalten von Menschen, es gibt böswilliges Verhalten von Menschen. Das Risiko ließe sich nur dann ausschließen, wenn andere Menschen keinen Einfluss auf mein Leben haben. Doch das ist in einer menschlichen Gesellschaft unmöglich. Das gilt für alle Gesellschaften, besonders aber für moderne Gesellschaften. Der Soziologe Ulrich Beck hat dafür auch den Begriff der Risikogesellschaft geprägt.

Umgang mit Risiken

Wie gehen wir mit den unvermeidlichen Risiken um? Vertrauen und Misstrauen schließen sich gegenseitig nicht aus. In allen, oben genannten Beispielen kann es sein, dass man dem anderen Menschen vertraut und doch genauer hinsieht. Wer einem anderen Menschen vertraut, kann immer auch zu einem bestimmten Grad noch misstrauisch sein. Auch sich selbst gegenüber kann bei allem Selbstvertrauen auch ein Rest Zweifel und Misstrauen existieren. Es kommt oft auf die Einschätzung des Risikos an, in welchem Verhältnis Vertrauen und Misstrauen zueinanderstehen.

Mischverhältnisse von Vertrauen und Misstrauen

So ist der Alltag von Mischungen von Vertrauen und Misstrauen bestimmt. Das Wechselgeld in der Bäckerei wird nicht nachgezählt, aber doch kurz im Augenwinkel abgeschätzt. Bei der digitalen App lesen wir aufmerksam die kritische Presse, ob etwas Negatives über sie zu lesen ist. Bei Risiken, die die eigene Gesundheit betreffen, sind wir besonders vorsichtig. Bei dem nächsten Stopp an einer Tankstelle, überprüfen wir die Radmuttern. Bei einer Arztdiagnose holen wir noch eine zweite Meinung ein.

Vertrauen ist auch bei Risikobewusstsein notwendig

Dennoch gilt: Es geht nicht ohne Vertrauen, reines Misstrauen wäre das Ende der zwischenmenschlichen Interaktionen, wir würden handlungsunfähig und damit umso mehr die Integrität unseres Lebens gefährden. Es ist nicht möglich, Risiken allein durch Misstrauen zu begegnen.

Ist es vielleicht gerade ein Alarmzeichen unserer Zeit, dass wir uns in der gesellschaftlichen Öffentlichkeit so sehr darum bemühen, Risiken auszuschließen? Die Zahl von Warnmeldungen nimmt in den letzten Jahren deutlich zu. Hier zeigt sich vielleicht eine Folge der Diagnose von Ulrich Beck.

Link zum vorangegangenen Beitrag zum Thema Vertrauen

(0) Konjunkturen der Hoffnung

Die hier beginnende Reihe von Blog-Beiträgen zu den Wegen der Hoffnung möchte ich mit einer eher anekdotischen Beobachtung beginnen: Es gab offensichtlich Zeiten, in denen es einfacher, ja, populärer war, von Hoffnung zu reden. Das waren zum Beispiel die 60er Jahre des letzten Jahrhunderts. Diese Jahre waren geprägt von einem außerordentlichen Zukunftsoptimismus. Es war leicht, von Hoffnung zu reden, Hoffnungsbilder zu entwerfen.

Am wichtigsten war wohl ein Abstand zu den Zerstörungen des Zweiten Weltkrieges und die Erfahrungen eines stetigen Wirtschaftsaufschwungs. Im Rückblick werden die 30 Jahre zwischen dem Ende der 40er und den 70er Jahren in der Ökonomie auch „trente glorieuses“ genannt. Es gab ein kontinuierliches Wachstum in der westlichen Welt, es ging aufwärts, dieser Trend erfasst alle Menschen, die Ärmeren ebenso wie die Reicheren. Eine Metapher, die dieses Phänomen eines kollektiven Aufschwungs zum Ausdruck bringt, ist der „Fahrstuhleffekt“, ein von dem Soziologen Ulrich Beck geprägter Begriff. Die schmerzliche Aufarbeitung der Katastrophe der Shoah wurde dagegen in dieser Zeit weitgehend vermieden. Erst Ende des Jahrzehnts gab es immer mehr Stimmen, die auf das geschehene Unrecht hinwiesen und die eine gesellschaftliche Befassung erzwangen.

Zu dem wirtschaftlichen Aufschwung gesellte sich ein spürbarer technologischer Fortschritt.  Zu Beginn der 60er Jahre rief der amerikanische Präsident John F. Kennedy dazu auf, den Mond zu erreichen, 1969 wurde dies durch den berühmten Schritt des Astronauten Neil Armstrong in die Wirklichkeit umgesetzt. Die Computertechnik wurde vorangetrieben, die Rechenkapazität der Geräte stieg merklich an, auch wenn diese Zahlen für uns heute sehr klein erscheinen. Eine erste Simulation einer Künstlichen Intelligenz wurde durch das Computerprogramm Eliza von Joseph Weizenbaum realisiert. Die Atomspaltung schien eine unerschöpfliche Energiequelle zu verheißen, Proteste gab es in den 60er Jahren nur vereinzelt.

Science Fiction eroberte die Populärkultur. In den USA begeisterten die ersten Ausstrahlungen der neuen Serie „Star Trek“, in Deutschland wurde die Serie „Raumschiff Orion“ produziert. Die Eroberung des Weltalls schien eine logische Konsequenz des technischen Fortschritts auf der Erde.

In dieser Zeit traf das zentrale Werk von Ernst Bloch „Das Prinzip Hoffnung“ auf große Resonanz. Bloch erschließt in dem Werk auf vielschichtige Weise das Thema Hoffnung. Er bot neben einer tiefgreifenden philosophischen Analyse einen umfassenden Überblick über Utopie Entwürfe und „Tagträume“ der europäischen Kulturgeschichte. Das Werk war so umfassend, dass eine Behandlung des Themas Hoffnung ohne Referenz auf Ernst Bloch heute nicht mehr möglich ist.

Eng verbunden mit diesem Ansatz war eine politische Hoffnung, dass es nach der Aufteilung der Welt in zwei Blöcke, in einen kapitalistischen Block und einen sozialistischen, kommunistischen Block, möglich sein könne, auf einem dritten Weg die Vorteile beider miteinander zu kombinieren und einen freiheitlichen Sozialismus zu schaffen. Die politischen Diskussionen der Linken führten schließlich zu der eruptiven Entwicklung des Jahr 1968. Bis heute steht das Jahr als Kennzeichen für eine progressive politische Bewegung, einen politischen und kulturellen Aufbruch, der damals alle Länder des Westens erfasste.

Auch in der Theologie fand das Thema Hoffnung große Aufmerksamkeit. Der Theologe Jürgen Moltmann wurde schnell berühmt durch seinen Entwurf „Theologie der Hoffnung“. Aber auch andere Theologen wie Wolf-Dieter Marsch befassten sich mit einer theologischen Interpretation von Hoffnung.

Kurz, die 60er Jahren waren ofenkundig eine hoffnungsvolle Zeit. Es war leicht, von Hoffnung zu reden. Wäre es da nicht sehr attraktiv, an diese Zeit umstandslos anknüpfen zu können? Doch das ist nicht möglich. Wer heute an die Hoffnung appelliert, ist nicht zu Unrecht vielen kritischen Fragen ausgesetzt. In der Tat, kann der Appell „Seid hoffnungsvoll!“ schnell schal werden. Was unterscheidet eine solche Hoffnung von einem oberflächlichen Optimismus, der der Devise folgt: Besser Optimist sein als Pessimist?!

Der Kontrast der damaligen Zeit zu der unseren heute ist sehr auffällig. Aber was lässt sich daraus ableiten? Gibt es heute keinen Grund zur Hoffnung mehr? Oder war vielleicht der damalige Gebrauch des Wortes fahrlässig? Was meint Hoffnung genau? Hat Ernst Bloch die abschließende Antwort gegeben? Wir können wir heute uns wieder auf Hoffnung ausrichten, ohne einem Zweckoptimismus zu verfallen? Meint der Begriff „Hoffnung“ in jeder Zeit dasselbe oder je etwas anderes? Fragen über Fragen, die Anlass für die folgenden Beiträge in diesem Blog sind. Ob am Ende befriedigende Antworten stehen, muss offenbleiben. Sich mit Hoffnung zu befassen, scheint mir angesichts der gegenwärtigen Situation aber aller Mühe wert.

Zum folgenden Beitrag zum Thema Hoffnung

In welche gesellschaftliche Zukunft führen die KI Systeme?

Die Diskussionen um die Entwicklung neuer Generationen von Künstlicher Intelligenz nehmen immer mehr an Fahrt auf. Der entscheidende Durchbruch war die Entwicklung eines leistungsfähigen Sprachmodells ChatGPT, das die Firma OpenAI im letzten Herbst der staunenden Weltöffentlichkeit präsentierte.

Dynamik der Entwicklung nimmt stark zu

Seitdem sind viele weitere leistungsstarke KI Angebote hinzugekommen, große Firmen wie Google (LaMDA; Bard), Meta (LLaMA) und Microsoft (Azure) präsentieren eigene Varianten großer, leistungsfähiger KI. Hinzu kommen viele Entwickler, die mit Open Source Programmen wie LAION arbeiten. Die Dynamik der KI Entwicklung ist sehr hoch, es ist zu erwarten, dass eine Vielzahl von Anwendungen und Produkten demnächst verfügbar sein werden.

Welche Richtung schlagen die KI Entwicklungen ein?

Doch welche Richtung nimmt diese Entwicklung? Sind die KI Systeme einfach nur eine weitere Stufe der vielen Entwicklungen des Silicon Valley? Reihen sie sich ein in die Produktentwicklungen, die in den vergangenen Jahrzehnten die Welt verändert haben? Natürlich kann es nach dem jetzigen Stand keine eindeutige Antwort geben. Aber es gibt Indizien, die zeigen, dass mit der Entwicklung starker KI eine neue Richtung der Technikentwicklung eingeschlagen wurde, die sich definitiv von der vorigen unterscheidet. Diese Aussage möchte ich mit zwei Beobachtungen unterstützen.

Erste Beobachtung

Die erste Beobachtung betrifft die „Philosophie“, die Wertorientierung, die die Entwicklungen des Silicon Valley bislang getrieben haben. Gleich vorab muss ich einschränken, dass es nicht um die realen gesellschaftlichen Auswirkungen der Technologien geht. Die sind, das ist hinreichend bekannt, zum Teil höchst ambivalent. Es geht vielmehr um die Ideen, die die Entwicklungen getrieben haben.

Freiheit und Individualisierung

Die zentralen Ideen sind die der Freiheit und der Individualisierung und weltweite Vernetzung. Die Technologien des Silicon Valley sollten die freie Verfügbarkeit von Informationen fördern, sie sollten die Kommunikation unter den Menschen erleichtern. Die Menschen sollen frei entscheiden, mit wem sie wann und wo kommunizieren. Die traditionellen Bindungen und der soziale Nahraum sollten nicht mehr die entscheidende Rolle spielen. Zugleich zielten die Entwicklungen auch auf einen leichten Zugang zu Waren. Mit einem Klick soll jede und jeder die gewünschten Waren im Internet bestellen, Reisen buchen, Geld anlegen usw.

Diese Ideen sind in der Entwicklung eines Personal Computers zur individuellen Nutzung, in der Entwicklung des World Wide Web, in der Entwicklung unzähliger Internetseiten und der Suchmaschinen, die sie zugänglicher machen, in der Entwicklung der Social Media und in der Entwicklung des Smartphones und unzähliger Apps angelegt.

KI Systeme aggregieren Daten

Bei der Entwicklung der neuen leistungsstarken Formen der Künstlichen Intelligenz ist das anders. Hier werden im Kern Daten aggregiert, nicht distribuiert. Nun kann man sagen, dass auch die Leistungen der KI wie die Suchmaschinen allen verfügbar gemacht werden können. Doch bleiben die wertvollen Erkenntnisse wenigen vorbehalten.

Eine wichtige Einschränkung des Arguments weist darauf, dass Suchmaschinen wie Google und Plattformen wie Amazon auch in der Vergangenheit von der Aggregation von Daten gelebt haben, die nicht allen zugänglich sind. Das stimmt, hier gibt es eine kontinuierliche Entwicklung von den Plattformen und den Suchmaschinen zur KI. Aber die KI ist die erste Technologie, die von Beginn an darauf ausgerichtet ist.

Zweite Beobachtung

Die zweite Beobachtung, die das Argument stützt, ist die Art und Weise, wie die Entwickler der KI öffentlich kommunizieren.

Große Gefahren durch KI?

Statt in der für der Silicon Valley üblichen Weise Verheißungen für die Menschheit zu verkünden, warnten die Entwickler zunächst einmal im letzten Jahr und forderten den starken und regulierenden Staat, forderten ein Moratorium der Entwicklung.

Weltweites Grundeinkommen durch KI?

Besonders misstrauisch macht nun die Tatsache, dass Sam Altman, der an der Entwicklung von OpenAI zentral beteiligt war und der einen dystopischen Aufruf mit Warnungen vor wenigen Monaten unterschrieb, nun ins Gegenteil verfällt und eine Art Menschheitsbeglückung propagiert. Alle Menschen sollen ihre Identität über das Scannen der Augen sichern und fälschungssicher nachweisen (World ID) und dann ein weltweites Grundeinkommen in einer digitalen Währung (Worldcoin) erhalten. Dazu werden weltweit Millionen Augenscanner aufgestellt.

Neben der grundlegenden Frage, wie das ökonomisch bewertet werden kann, bleibt die Frage, warum die Entwickler von KI so wechselhaft agieren. Es liegt die Vermutung nah, dass sie selbst nicht wissen, wie sie eine Technologie, die definitiv demokratische Entwicklungen und Kulturen der Freiheit NICHT unterstützt, öffentlich vermarkten sollen. So schwanken sie zwischen öffentlichen Warnungen und einer Haltung der Menschheitsbeglückung.

KI als Herausforderung freier und demokratischer Gesellschaften

Fazit: die KI Technologien werden gerade die demokratischen und offenen Gesellschaften erheblich herausfordern. Politische und kulturelle Entwicklungen finden immer in Korrelation mit der technischen Basis einer Gesellschaft statt. Wie wird die Gesellschaft aussehen, in denen KI Systeme allgegenwärtig geworden sind?

Zur Leitidee der Künstlichen Intelligenz

KI als Sprachentwerter

Die Sprache ist ein Medium, aus dem Menschen schon immer ihr Selbstbewusstsein geschöpft haben. Menschen sind vor allem soziale Wesen und ihre Verbundenheit zeichnet sich durch nichts deutlicher aus als durch das gemeinsame Sprachvermögen. Kein Mensch spricht eine „Eigensprache“, die nur ihr oder ihm zugänglich wäre. Es ist konstitutiv für Sprache, dass sie von mehreren Menschen geteilt wird.

Die Bedeutung von Sprache

Sprache verbindet die Menschen miteinander und Sprache ist zugleich das Medium, in dem Menschen ihre Unterschiede deutlich machen können. Auch „Nein“ sagen geschieht in der Sprache. Sprache ist so fundamental, dass sie zugleich die Verbundenheit und Angewiesenheit von Menschen zum Ausdruck bringt, wie auch ihre gegenseitige Abgrenzung.

KI als Sprachmaschine

Sprache ist nicht irgendein menschliches Vermögen, sondern ein sehr zentrales, konstitutiv für jede menschliche Gesellschaft. Mitten in diese Sphäre ist nun sehr erfolgreich mit neuen Sprachmodellen versehene Künstliche Intelligenz gedrungen. Die Dynamik der Entwicklung ist hoch, schnell entwickeln diese Sprachprogramme übermenschliche Fähigkeiten. Sie verarbeiten Texte in unglaublicher Geschwindigkeit, verfügen in kurzer Zeit über ein immenses Wissen, können ohne Zeitverzögerung Sätze und lange Texte formulieren. Das wird erhebliche kulturelle Folgen haben, wie sind sie einzuschätzen?

Computer können rechnen

Wir haben schon so etwas wie eine Vorerfahrung. In den 70er Jahren des letzten Jahrhunderts waren allmählich Taschenrechner allgemein verfügbar, deren Rechenleistung menschliches Vermögen weit überstieg. Das war zunächst erstaunlich, aber schnell trat eine Gewöhnung ein. Computer waren schnell als exzellente Rechenmaschinen anerkannt mit übermenschlichen Fähigkeiten. Kopfrechnen wurde entwertet, niemand rechnet komplexere Rechnungen, die Arithmetik wird ganz dem Computer überlassen. Wird das bei den KI Aggregaten mit Sprachprogrammen wie ChatGPT nicht ganz ähnlich ablaufen?

Wahrscheinlich, jedoch ist der Unterschied zwischen der allgemeinen Verfügbarkeit von Sprache und der Beherrschung arithmetischer Fähigkeiten riesig. Die Arithmetik ist ein leicht eingrenzbarer Bereich menschlicher Fähigkeiten. Sprache ist ein viel stärker generalisiertes Medium ist als die Mathematik, viel stärker mit der Gesellschaft, ihrer Entwicklung und der menschlichen Identität verbunden.

Funktionale Sprache

Wir werden wohl dennoch ebenso alltägliche, routinierte Sprechakte und das Verfassen von Texten immer mehr den KI Aggregaten überlassen. Jede Form telefonischer Beratung kann künftig von Maschinen erledigt werden. Die Maschinen verfügen über ein nahezu ideales Wissen und sind unendlich geduldig und präzise, vielleicht auch bald einfühlsam. Ebenso wird die Abfassung von alltäglichen Texten und Gebrauchstexten künftig einer KI überlassen. Auch hier ist das instantan verfügbare Wissen nahezu perfekt.

Medial vermittelte Sprache wird als soziale Form entwertet

Vor allem medial vermittelte Sprache (Texte, Telefon, digitale Medien, soziale Medien) wird entwertet werden. Mit zunehmendem Gebrauch ist immer unklarer, wer oder was die Quelle der Äußerungen ist. Spricht eine KI mit mir? Antwortet auf meinen Post eine KI? Unterhalte ich mich nur mit Avataren? Hat das Buch ein Mensch geschrieben?

Die Folge: Die medial vermittelte Sprache wird entwertet. Wir werden sie weiterhin nutzen, doch ohne großes Engagement, sie hat keine soziale, eher noch funktionale Bedeutung. Die Folgen für die in unserer Gesellschaft sehr prominenten digitalen Medien werden dann erheblich sein. Wir antworten nur noch auf die Accounts, die wir persönlich kennen und hoffen, dass sie keine KI Avatare beschäftigen.

Der Nahbereich wird wieder bedeutender

Digital vermittelte Kommunikation zur sozialen Vernetzung verliert dadurch massiv an Bedeutung. Viele Menschen werden sich stärker auf den Nahbereich zurückziehen, dorthin, wo sichergestellt ist, dass echte Menschen Urheber der Sprache sind. In dem Nahbereich funktionieren dann auch digitale Medien, aber nicht mehr als weltumspannendes Kommunikationsmittel. Oder irre ich mich da?

Zur Leitidee der Künstlichen Intelligenz

KI – großes Mysterium und gesellschaftliche Herausforderung

KI – großes Mysterium und gesellschaftliche Herausforderung

Zurzeit gibt es eine intensive Debatte um neue Systeme Künstlicher Intelligenz. Diese IT-Systeme bieten in der Tat einen großen Innovationssprung gegenüber ihren Vorgängern, weil sie erstmals über Sprachmodelle verfügen, die so gut sind, dass auch längere Texte von ihnen in wenigen Sekunden generiert werden können. In vielen Medien wird nun diskutiert, was das bedeutet, dass nun so etwas wie ein intelligentes Gegenüber zum Menschen existiert, ein Gegenüber, das selbständig kommunizieren kann und vielleicht auf dem Wege ist, intelligenter als der Mensch zu werden.

Wir stehen tatsächlich vor einem Rätsel, einem Mysterium. Die KI ist unbestreitbar etwas so Großes und führt zu Veränderungen, die wir zurzeit kaum überschauen können. Diese Situation bietet ein Eldorado für Spekulationen und wilde Gerüchte. Wenn dann auch die Entwickler wie Sam Altman von Open AI mit drastischen Warnungen an die Öffentlichkeit gehen, scheint die Gefahr durch die neuen KI Systeme wirklich groß zu sein.

Was ist das Neue an ChatGPT?

Umso wichtiger ist es aber, sich vor weitreichenden Schlüssen zunächst einmal auf das Bekannte und Wahrscheinliche zu beziehen. Aufregung erzeugen diese Systeme, weil ihre Anwendungsmöglichkeiten gegenüber den älteren viel variantenreicher sind. Bisher konnten KI Systeme vor allem optisch vermittelte Muster erkennen und aus den Mustern bestimmte Folgerungen ableiten. Solche Muster waren Konstellationen von Spielsteinen wie bei dem höchstkomplexen Go-Spiel oder Bilder von Computertomographen im medizinischen Bereich oder die Konstellation von Verkehrsteilnehmern für Systeme des autonomen Fahrens. Auch gesprochene Sätze bestehen aus Mustern, aus akustischen Mustern, und können dementsprechend erkannt und übersetzt oder zu einer Sprachsteuerung verwendet werden.

Neu ist nun nach der Veröffentlichung von ChatGPT durch das Unternehmen OpenAI im letzten Herbst, dass Texte nicht nur übersetzt oder für die Maschinensteuerung verwendet werden, sondern von der KI autonom generiert werden können. Diese sind in der Lage, angemessen auf eingegebene Fragen, Aufforderungen oder auf andere Texte zu reagieren. Entscheidend ist, dass die neue Form von KI jetzt über ein leistungsfähiges Sprachmodell verfügt, das ihr hilft, scheinbar souverän mit der Bedeutung von Texten umzugehen.

Eine KI, die Sprache souverän verwendet, wirft Fragen auf

Damit, das ist wahrlich ein dramatischer Entwicklungssprung, sind die KI Maschinen nun in den Sprachraum der Menschen eingedrungen.  Sie produzieren selbständig Texte, die eine sinnvolle Bedeutung haben. Was sind die Folgen? Es zeichnen sich in der aktuellen Diskussion zwei Themenfelder ab, die sehr unterschiedlich zu bewerten sind. In dem ersten steht die große Frage nach einer Intelligenz im Mittelpunkt, die dem Menschen nun gegenübertritt, ja ihn möglicherweise dominieren kann. In dem zweiten konzentriert sich die Diskussion auf den Einfluss der Systeme auf die weitere Entwicklung der Gesellschaft, auf die zwischenmenschliche Kommunikation.

Wird die KI zu einem Gegenüber für den Menschen?

Zum ersten Themenfeld, der KI als menschliches Gegenüber: Sind diese Systeme so etwas wie eine menschlich geschaffene Kreatur, die der Entstehung des Menschen selbst nahekommt? Findet nun der Mensch in diesen Maschinen ein Gegenüber? Wir wissen es nicht. Die KI ist offenkundig ein schwer zu entschlüsselndes Mysterium.

Es gibt aber gute Gründe, die aktuellen Erfolge nicht zu hoch zu bewerten. Denn die Idee, dem Menschen ein maschinelles Gegenüber zu schaffen, stand schon ganz am Anfang der KI Forschung in den 50er Jahren des vergangenen Jahrhunderts. (vgl. den Beitrag zur Leitidee) Hier zeigt sich eine kulturell tiefsitzende Erwartung bzw. Befürchtung, es geht um Möglichkeiten und Grenzen menschlicher Handlungsmacht. Zu Beginn der KI Forschung waren technologische Mittel noch völlig unzureichend, aber die Idee prägte von Beginn an die weitere Entwicklung. Es ging von Anfang an um eine künstliche, aber menschenanaloge Intelligenz. Es ist deshalb nicht sehr überraschend, dass nach diesem Technologiesprung durch die Sprachmodelle erneut die Diskussion um die Menschenähnlichkeit auftaucht.

Was genau ist Intelligenz?

Ich vermute, dass das erste Themenfeld einigermaßen unfruchtbar ist. Das große Problem: Wir wissen nicht einmal genau, was das menschliche Bewusstsein, was menschliche Intelligenz auszeichnet. Es gibt keine allgemein geteilte Definition. Umso schwieriger wird es sein, die neuen KI Systeme einzuschätzen. Das Themenfeld war und ist hochspekulativ, viele suchten schon in der Vergangenheit weite Aufmerksamkeit, wie etwa die Singularitätsthese von Ray Kurzweil. Wahrscheinlich ist, dass sich nach einiger Zeit auch bei den neuen KI Modellen Grenzen zeigen werden, die den Unterschied zwischen Maschine und Mensch wieder deutlicher machen.  

KI verändert menschliche Gesellschaften

Das zweite Themenfeld ist aber schon dramatisch genug. Sprachliche Kommunikation ist für menschliche Gesellschaften von zentraler Bedeutung. Welche Folgen hat es, wenn nun Maschinen mühelos und eigenständig sinnvolle und situationsangemessene Texte schaffen können?

Was ist authentisch?

Ein erstes Problem ist die Frage der Authentizität. Wenn wir bislang einen längeren Text gelesen haben, konnten wir davon ausgehen, dass sie auf einer menschlichen Autorenschaft beruhten. Das ist nun vorbei. Auch noch so sinnvolle, bedeutende und gedanklich weiterführende Texte können das Ergebnis maschineller Algorithmen sein. Die Maschinen sind extrem leistungsfähig, sie produzieren fast zeitgleich Millionen von Texten zu völlig unterschiedlichen Themen. Die Systeme lernen darüber hinaus schnell dazu, sie werden von Textproduktion zu Textproduktion besser. Kurz: Sie erlangen übermenschliche Fähigkeiten in einem Bereich, der bislang allein den Menschen vorbehalten war. Was macht das mit der Autorenschaft, wird sie entwertet?

Was ist Fake, was sind Facts?

Ein zweites Problem ist eng mit dem ersten verwandt. Wir haben in den letzten Jahren viele Diskussionen um Fake News und Facts. Was ist nun, wenn Maschinen hunderttausende unterschiedlicher aber semantisch konsistenter Texte produzieren können, die eine ganz andere Welt vorgaukeln? Wenn sie zugleich in der Lage sind, Bilder zu manipulieren, die die Behauptungen der Texte scheinbar belegen? Was ist dann noch authentisch, was ist Fake? Es entsteht die Diskussion um Deep Fakes, die so präzise und umfassend sind, dass sie für die Endverbraucher kaum noch entschlüsselt werden können.

Wie sollen wir mit Wissen umgehen?

Ein drittes Problem zeigt sich im Bildungsbereich. Die Allverfügbarkeit von Texten und Wissen wertet den Erwerb von Wissen ab. Warum sollte sich irgendjemand die Mühe machen, jahrelang Bücher zu lesen und das Gelesene zu verarbeiten, wenn es eine Abkürzung in jedem Windows Word Programm gibt, in dem per Befehl die KI die gesuchten Inhalte in individuellen Texten ausgibt? Auch hier kann die KI Übermenschliches. Ein Mensch mag in seinem Leben einige tausend Bücher lesen und gedanklich verarbeiten können, eine KI leistet das einhunderttausendfache in kurzer Zeit und ist zugleich präzise, ohne Gedächtnisschwäche. Wie wird zukünftig der Umgang mit Wissen aussehen, wie wird sich die Bildung in den Schulen verändern?

Dies sind nur einige der zentralen gesellschaftlichen Probleme, die nun zu bearbeiten sind. Wie werden die Gesellschaften darauf reagieren? Wir wissen es noch nicht. Auch in ihren gesellschaftlichen Wirkungen ist die KI ein Mysterium. Die Veränderungen sind riesengroß und werden unsere Kultur herausfordern. Wir werden sehr wichtige, ja existentielle Debatten in der Zukunft zu führen haben, damit aufgeklärte, liberale und demokratische Gesellschaften auch in Zukunft bestehen können.

Zur Leitidee der KI