Wird künstliche Intelligenz in Zukunft unsere Texte schreiben?

Die Technologiebranche investiert gigantische Summen in die Entwicklung von künstlicher Intelligenz. Kaum verwunderlich, denn die Einsatzmöglichkeiten sind schier unendlich.

Schon heute greifen intelligente Programme und Maschinen massiv in unser Leben und unseren Alltag ein. Künstliche Intelligenz, abgekürzt KI, kommt zum Beispiel in den folgenden Bereichen zum Einsatz:

• Handel mit Aktien
• Medizin
• Landwirtschaft
• Verkehrswesen
• Rechtswesen

Ein weiterer wichtiger Bereich ist die Verarbeitung natürlicher Sprache, im Englischen das „natural language processing“ (NLP): Dabei schreibt künstliche Intelligenz eigenständig Texte.

Auch hier gab es in den letzten Jahren gewaltige Fortschritte. Letztlich hat die Forschung in diesem Bereich immer dasselbe Ziel: Irgendwann sollen Maschinen Texte schreiben, die glaubhaft so wirken, als hätten Menschen sie verfasst.

Künstliche Intelligenz: Ein Programm wie ein Gehirn

Von diesem ambitionierten Ziel trennt die künstliche Intelligenz in ihrer heutigen Form allerdings noch ein deutliches Stück. Doch das rasante Entwicklungstempo ist darum nicht weniger beachtenswert.

Seit 2017 kommen beispielsweise beim NLP künstliche neuronale Netzwerke zum Einsatz – also Programme, deren Aufbau vom menschlichen Gehirn inspiriert ist. Ähnlich den Abermilliarden menschlicher Neuronen handelt es sich um komplexe Gebilde aus unzähligen Informationsknotenpunkten, die immer wieder neue Verbindungen knüpfen.

Wie sieht lebenslanges Lernen bei Maschinen aus?

Durch ihre Anpassungsfähigkeit sind die künstlichen neuronalen Netzwerke zu tiefgreifenden Lernprozessen fähig. Weil ihre Struktur sich beständig verändert, nennt man sie auch „Transformer“. Die entsprechende Trainingsmethode nennt sich „deep learning“.

Dabei trainiert das Programm weitgehend selbsttätig auf der Grundlage von Versuch und Irrtum. Es durchforstet eine riesige Datenmenge, um die korrekte Antwort auf eine einzelne Frage zu finden (zum Beispiel, welcher Text geeignet ist, um eine vorliegende Gedichtzeile sinnvoll zu ergänzen).

Schließlich macht es einen Lösungsvorschlag, der von den Entwicklern bewertet wird. Das Programm bekommt gewissermaßen Feedback. Es merkt sich, ob der gewählte Lösungsweg zum richtigen oder zum falschen Ergebnis geführt hat und lernt auf diese Weise fortwährend dazu.

künstliche Intelligenz – Training ist alles!

Die große Selbstständigkeit solcher Transformer ermöglicht ein vergleichsweise effizientes Training. Denn im Gegensatz zu anderen Programmen müssen die Entwickler hier lediglich Fragestellung und Lösungsvorschlag beaufsichtigen, aber nicht den Lösungsweg, der dazwischenliegt.

Mehr noch: Meistens ist der Lösungsweg für die Entwickler gar nicht mehr im Detail nachvollziehbar. Die künstlichen neuronalen Netzwerke sind dafür zu komplex.

Transformer der dritten Generation

Die derzeit beste KI für Texte wurde vom US-amerikanischen Technologiekonzern Open AI entwickelt und trägt den Namen GPT-3. Die Abkürzung steht für „generative pretrained transformer 3“ – auf Deutsch etwa „Produktiver vortrainierter Transformer 3“.

Keine andere KI für NLP kann bislang ein vergleichbares Lernpensum vorweisen: Mehr als 570 Gigabyte Textdateien wurden eingesetzt. Die Kosten des Trainings lagen bei etwa 5 Millionen US-Dollar. Dementsprechend übertrifft die Leistungsfähigkeit des GPT-3 auch die aller vergleichbaren Programme.

Beim Schreiben eines Textes erkennt und imitiert er meist sehr differenziert den sprachlichen Stil des Ausgangsmaterials (ein Abschnitt, ein Satz, manchmal nur ein einzelnes Wort).

Besondere Aufgaben kann zwar auch die Konkurrenz lösen, beispielsweise sprachliche Übersetzungen oder das Schreiben in Computercode – doch im Gegensatz zu den meisten anderen Programmen benötigt der GPT-3 nicht noch extra ein aufwendiges Spezialtraining.

Er kann auch solche Aufgaben auf Grundlage seines Basistrainings und anhand weniger Beispiele lösen.

Die Grenzen der KI

Trotz aller Fortschritte macht aber auch der neueste Transformer immer wieder Fehler, die die Grenzen dieser Technik aufzeigen. Das ist nicht überraschend, wenn man bedenkt, dass dieses NLP-Programm – wie schon viele vor ihm – mithilfe von Statistik funktioniert.

Während seines Trainings hat der GPT-3 etwa eine Billion Wörter in Hinblick auf ihre Häufigkeit und Abfolge analysiert. Diese Daten nutzt er dann später, um zu berechnen, mit welcher Wahrscheinlichkeit einem Wort ein bestimmtes anderes Wort folgt.

Zu Fehlern kommt es dementsprechend meist bei unwahrscheinlichen Sonderfällen oder dann, wenn Stil und Inhalt des Textes eigentlich nicht zusammenpassen. Außerdem kommt der GPT-3 beim Schreiben längerer Texte manchmal vom Thema ab oder verliert sich in Wiederholungen.

Auch Aufgaben zum Inhalt des Textes können für den Transformer zur Herausforderung werden, beispielsweise die Frage, ob sich die Aussagen zweier Sätze gegenseitig ausschließen oder vielmehr bedingen. Insgesamt wird deutlich, dass der GPT-3 nicht im eigentlichen Sinne „versteht“, was er da produziert.

Chancen und Risiken künstlicher Intelligenz

Künstliche Intelligenz hat also noch diverse Schwächen. Die Einsatzgebiete sind trotzdem schon heute vielfältig. Außerdem werden die Programme fortlaufend verbessert. Und die nächste Transformer-Generation lässt sicherlich nicht mehr lange auf sich warten.

Mit dem Potenzial wächst aber auch das Risiko von Missbrauch, beispielsweise in Form von Betrug bei Leistungsüberprüfungen, Propaganda oder systematischer Medienmanipulation („deepfake“).

Wegen solcher Gefahren wurde Open AI im Jahr 2015 als Non-Profit-Organisation gegründet. Das Unternehmen sollte von wirtschaftlichen Interessen und den Interessen möglicher Geldgeber unabhängig sein. 2019 entstand schließlich doch noch eine profitorientierte Tochterfirma, die seitdem die Veröffentlichungspolitik der Produkte festlegt.

Die ersten beiden Generationen des GPT wurden der Öffentlichkeit vollständig zugänglich gemacht. Die Details über den GPT-3 sind hingegen bislang noch unter Verschluss. Open AI hat ausgewählten Testern Zugang zur Betaversion gewährt und später damit begonnen, einen begrenzten Zugang zu verkaufen.

Rückkehr der Gemeinnützigkeit: KI für alle!

Das internationale Forscherkollektiv Eleuther AI hat sich im Jahr 2020 gegründet. Es verfolgt das Ziel, auf der Grundlage aller verfügbaren Informationen möglichst akkurate Nachbauten des GPT-3 zu erstellen.

Im Sinne des Open-Source-Gedanken sollen sie der Öffentlichkeit zur Verfügung gestellt werden. Die Gruppe entwickelt zwei Programme parallel: GPT-Neo und GPT-NeoX. Ersterer wird mit einem Trainingsangebot geschult, das Google kostenlos zur Verfügung stellt. Nach Angaben der Entwickler ist das Programm bereits jetzt leistungsfähiger als der GPT-2.

Noch deutlich größere Datensätze werden für das Training des GPT-NeoX verwendet. In Zukunft will Eleuther AI vor allem dieses Programm weiter verbessern. Es soll einmal mindestens das Leistungsniveau des GPT-3 erreichen. GPT-Neo und GPT-NeoX sind schon jetzt zum kostenlosen Download verfügbar.

Künstliche Intelligenz – Wie sieht die Zukunft aus?

Bereits heute ist künstliche Intelligenz viel mehr als bloße technische Spielerei. Sie kann vielfältig eingesetzt werden, was auch bereits geschieht. Trotzdem sieht es noch nicht so aus, als würden textende Maschinen die menschlichen Autoren demnächst überflüssig machen. Zumindest nicht vollständig.

Manche Textsorten wird künstliche Intelligenz wohl schneller übernehmen können als andere. Man denke beispielsweise an Produktbeschreibungen oder Gebrauchsanweisungen, Wetter- und Verkehrsberichte.

Und manche Sprachen stellen bislang noch eine größere Herausforderung dar als andere. Zum Beispiel beherrscht die künstliche Intelligenz aktuell Deutsch noch sehr viel schlechter als Englisch. Das ist auch nicht verwunderlich, denn die Trainingsdaten waren zum Großteil ebenfalls auf Englisch.

Mensch und KI: Das Beste aus zwei Welten

Großes Potenzial liegt zweifelsohne in einer Arbeitsteilung zwischen Mensch und Maschine. Bei Evoluce GmbH sind solche Verfahren schon jetzt gängige Praxis.

Selbsterstellte und fremde KI kommen dabei gleichermaßen zum Einsatz: Die Programme geben einen Text als Ausgangspunkt vor, den der Autor dann prüft, inhaltlich ergänzt und sprachlich verfeinert. Dank dieses Verfahrens kann Evoluce GmbH in sehr kurzer Zeit SEO-optimierte Texte liefern, die hohe Qualitätsstandards erfüllen.