(14.07.2023) Oberflächlich betrachtet können maschinelle Lernprogramme erstaunlich komplexe Aufgaben lösen, die weit über ihren „Trainingshorizont“ hinausgehen. Das erstaunt selbst KI-Experten, ändert aber nichts an der Tatsache, dass künstliche Intelligenz lediglich elementare Rechenschritte in einem Computer ausführt, deren Bedeutung sie nicht kennt.
Künstliche Intelligenz (KI), genauer gesagt generative KI, ist dabei, unseren Alltag zu verändern. Ein Beispiel dafür ist ChatGPT: Etwa jeder fünfte Deutsche hat die Chat-KI, die auf jede Frage eine Antwort weiß (wenn auch nicht immer eine korrekte), bereits ausprobiert, und acht von zehn Deutschen haben zumindest schon davon gehört [1]. ChatGPT ist eine generative KI: Nach einer Texteingabe, dem Prompt, generiert sie neuen Text – im Gegensatz zu Suchmaschinen wie Google, die existierende Texte suchen und anzeigen, in denen die Eingabe vorkommt.
Doch generative KI beschränkt sich nicht auf das Medium Text. DALL-E2 erzeugt noch nie dagewesene Bilder zu gegebenen Prompts, andere KIs generieren Texte, die ein gegebenes Bild beschreiben. Multimodale generative KI kombiniert beispielsweise Bild und Ton und erzeugt daraus ein Video.
Illustrationen: Tim Teebken - Bearbeitung Ulrich Sillmann
In den Life Sciences steht die praktische Nutzung von generativer KI noch in den Anfängen. Einige Forschungsfelder, in denen Fortschritte gemacht wurden sind,
Das wohl bekannteste Beispiel einer generativen KI in der Medikamentenentwicklung ist AlphaFold2, das die 3D-Struktur eines Proteins basierend auf seiner Aminosäure-Sequenz mit hoher Genauigkeit vorhersagen kann [6]. Bei dem Wettbewerb „Critical Assessment of Techniques for Protein Structure Prediction“ (CASP) im Jahr 2020 erzielte AlphaFold2 Spitzenwerte. Tatsächlich hat AlphaFold2 die Vorhersage von Proteinstrukturen revolutioniert und das Problem praktisch gelöst, was die Entwicklung sicherer und wirksamerer Medikamente vorantreiben wird.
Obwohl generative KIs noch nicht in großem Umfang in der Arzneimittelforschung eingesetzt werden, entwickeln Bioinformatiker die Modelle stetig weiter. Maschinelles Lernen gewinnt kontinuierlich an Bedeutung innerhalb der Medikamentenentwicklung, und immer mehr Projekte setzen auf diese Methoden.
Die Fähigkeiten generativer KI, die weit über die Medikamentenentwicklung hinausgehen, haben sogar Experten überrascht. Was macht diese Systeme so beeindruckend? Bisherige KI-Systeme zeichnen sich durch zwei grundlegende Eigenschaften aus: Zum einen funktioniert künstliche „Intelligenz“ auf grundlegend andere Weise als menschliche Intelligenz. KI wird über Algorithmen realisiert, das heißt, eindeutige Verkettungen von elementaren Operationen, deren Ausführung keinerlei Intelligenz erfordert.
Um das auf die menschliche Perspektive zu übertragen: Wenn ich Ihnen beispielsweise einen verdrehten Zauberwürfel gebe, zusammen mit dem Lösungsalgorithmus (knapp drei DIN-A4-Seiten), könnten Sie den Würfel lösen, indem Sie stupide die dort beschriebenen Drehungen durchführen, ohne zu wissen, was die einzelnen Aktionen bedeuten. Analog dazu löst eine KI – oder genauer, eine Software, die eine KI-Methode implementiert – ein ihr gegebenes Problem: Sie führt stupide elementare Berechnungen durch. Das Ergebnis dieser Berechnungen kann durchaus beeindruckend sein: Die KI besiegt einen Schachgroßmeister, sagt die Faltung eines Proteins voraus oder fasst korrekt einen Text zusammen, der einen komplexen Sachverhalt beschreibt. Aber sie löst das Problem auf andere Art und Weise als ein menschlicher Experte. Dieser hat über lange Zeit Übungsstrategien aufgebaut, ein Verständnis für relevante Konzepte und deren Zusammenhänge entwickelt und nutzt dieses Wissen, möglicherweise gepaart mit einer gut entwickelten Intuition, um zu einer Lösung zu gelangen. Die KI hingegen führt einen Algorithmus aus, der jeglicher Bedeutung enthoben ist. Von außen betrachtet zeigt die KI ein intelligentes Verhalten; schaut man sich jedoch die Art und Weise an, wie die Leistung erbracht wird, verschwindet die Intelligenz. Dies gilt auch heute noch, in Zeiten von ChatGPT.
Die zweite grundlegende Eigenschaft bisheriger KI-Systeme besteht darin, dass sie ein spezifisches Problem lösen können – und nur dieses. Um eine KI zu entwickeln, muss das zu lösende Problem präzise definiert werden: Wie viele Felder hat das Schachbrett, welche Figuren gibt es, wie dürfen diese sich bewegen und welche weiteren Regeln gelten? Es ist auch notwendig, eine Funktion zu definieren, die eine Lösung bewertet und mit anderen Lösungen vergleichbar macht. Im Schach wird beispielsweise das Schachmattsetzen des Gegners höher bewertet als ein Remis. Innerhalb dieses festgelegten Rahmens können Verfahren des maschinellen Lernens angewandt werden, das heißt Algorithmen, die sukzessive Strategien berechnen, die mit steigender Wahrscheinlichkeit zum Sieg führen. In der Regel werden dafür heutzutage neuronale Netze verwendet. Ist eine passende Konfiguration eines neuronalen Netzes erst einmal erlernt, kann es eine übermenschliche Spielstärke zeigen. Dies jedoch nur innerhalb des ursprünglich definierten Problemrahmens. Ändert man eine Regel und spielt beispielsweise Räuberschach, eine Schachvariante, bei der der König wie jede andere Figur geschlagen werden darf, versagt die trainierte KI. Was jedem Menschen leichtfällt, ist der KI unmöglich: Sie kann ihr Wissen nicht auf diese neue Situation übertragen und es selbstständig anpassen. Der menschliche Entwickler muss das neue Problem definieren, einen neuen Trainingsprozess beginnen und damit eine neue KI entwickeln. Jede bisher erstellte KI war in gewisser Weise ein Fachidiot, der nur das spezifische Problem lösen konnte, für das er entwickelt wurde – sei es die Erkennung von defekten Bauteilen, die Übersetzung von Texten oder die Suche nach Tumoren in Lungenaufnahmen.
Überraschenderweise gilt dies jedoch nicht mehr für die heutige generative KI. Die generative KI, die ChatGPT zugrunde liegt (GPT-3 beziehungsweise GPT-4, im Folgenden GPT-X), wurde wie bisherige Systeme für eine spezifische Aufgabe trainiert. Sie zeigt jedoch beeindruckende Leistungen, die deutlich über die Trainingsaufgabe hinausgehen. GPT steht für Generative Pretrained Transformer, eine KI-Methode, die neuronale Netze dazu befähigt, Zusammenhänge zwischen Eingabeelementen (in diesem Fall Wörtern) zu erlernen. Die Aufgabe, für die die GPT-X-Modelle trainiert wurden, bestand darin, vorherzusagen, welches Wort eine gegebene Sequenz von Wörtern vervollständigt. Wenn zum Beispiel, der Satz „Der Redner hält einen ...“ gegeben ist, wäre eine wahrscheinliche Ergänzung das Wort „Vortrag“. Mit geringerer Wahrscheinlichkeit ist aber auch das Wort „schwarzen“ möglich, eventuell gefolgt von „Regenschirm in der Hand“. Für das Training von GPT-3 wurden 570 Gigabyte an Texten (Bücher, Zeitschriften, Webseiten et cetera) verwendet, und jeweils ein Wort in den Sätzen aus diesen Dokumenten, das GPT-X vorhersagen sollte, wurde „verborgen“.
Nach der sehr intensiven Trainingsphase (die Kosten für das Training von GPT-3 werden auf 100 Millionen US-Dollar geschätzt) lösten die Modelle diese Aufgabe hervorragend und generierten für beliebige Textfragmente grammatikalisch korrekte Vervollständigungen. Das Überraschende ist, dass die Vervollständigungen inhaltlich sehr komplexe Aufgaben lösen können. Die Wortfolgen, die ChatGPT produziert, befolgen nicht nur die Grammatikregeln verschiedener Sprachen, sondern beantworten auch die Fragen und Aufgaben, die über die Eingabe gestellt werden.
Demzufolge löst die KI tatsächlich andere Probleme als das spezifische, auf das sie ursprünglich trainiert wurde (nämlich ein passendes nächstes Wort vorzuschlagen). Wenn man beispielsweise die Aufforderung eingibt: „Fasse den folgenden Text zusammen“, produziert ChatGPT eine Zusammenfassung des gegebenen Textes. Ebenso ist ChatGPT in der Lage, Texte kindgerecht zu erklären, aus Stichpunkten vollständige Texte zu generieren, oder im Stil eines Piraten zu schreiben. Die Fähigkeiten der KI erstrecken sich sogar bis in die Arithmetik und Logik, obwohl sie nicht explizit darauf trainiert wurde. Abhängig von der Eingabe kann ChatGPT eine Vielzahl von Aufgaben lösen. Die Qualität der Ausgabe hängt dabei maßgeblich von der Qualität des Prompts ab: Bei Logikrätseln beispielsweise verbessert sich die Leistung erheblich, wenn die Aufforderung „Erkläre die Zwischenschritte“ hinzugefügt wird.
ChatGPT zeigt nicht nur allgemeine Problemlösungsfähigkeiten, sondern ermöglicht auch den Zugriff auf Expertenwissen durch geeignete Prompts. Mehrere Studien haben ergeben, dass ChatGPT bei der Diagnose von Krankheiten basierend auf Fallbeschreibungen deutlich besser abschneidet als speziell entwickelte Diagnosesoftware [7, 8, 9]. Während die konventionelle Software in etwa fünfzig Prozent der Fälle korrekte Diagnosen stellte, lag die Genauigkeit von ChatGPT zwischen sechzig und neunzig Prozent. Diese Ergebnisse sind besonders bemerkenswert, wenn man bedenkt, dass hochspezialisierte Diagnosesoftware, die ausschließlich für diesen Zweck entwickelt wurde, schlechter abschnitt als eine KI, die eigentlich für eine ganz andere Aufgabe trainiert wurde.
Einen weiteren Hinweis auf die spezifischen „Fähigkeiten“, die sich in den GPT-X-Modellen finden, gibt eine Studie zur Modellierung digitaler Zwillinge von Bevölkerungsgruppen [10]. Für diese Untersuchung wurden Interviews herangezogen, die nach US-amerikanischen Wahlen durchgeführt wurden. Die Interviews enthielten Fragen zu Bildungsabschlüssen, Einstellungen zur amerikanischen Flagge, politischen Interessen und Ähnliches. Wenn ein Teil eines Interviews vorgegeben wurde, konnte GPT-3 den Text mit hoher Wahrscheinlichkeit entsprechend dem Original vervollständigen und beispielsweise den Kandidaten vorhersagen, den die interviewte Person gewählt hatte. Die Vorhersagekraft ist sehr fein abgestimmt und stellt Beziehungen zwischen verschiedenen gegebenen Aussagen mit hoher Genauigkeit dar. Mit dem richtigen Prompt können also sehr spezifische Verhaltensmuster von Bevölkerungsgruppen, quasi Stereotypen, aus dem Sprachmodell extrahiert werden.
Dass eine einzige KI eine solche Vielfalt sehr unterschiedlicher Aufgaben auf hohem Niveau bewältigt, ist äußerst unerwartet. Dieser Fortschritt hin zu einer General Purpose AI, einer Allzweck-KI, ist eine neue Entwicklung der KI. Die grundlegende Eigenschaft von KI-Systemen bleibt jedoch bestehen: Die Funktionsweise der künstlichen Intelligenz unterscheidet sich fundamental von der menschlichen Intelligenz.
Sprachmodelle wie GPT-X und andere berechnen ein statistisches Modell, das angibt, mit welcher Wahrscheinlichkeit ein bestimmtes Wort auf eine gegebene Sequenz von Wörtern folgt. Sie nutzen keine Semantik und haben demzufolge kein Verständnis im menschlichen Sinne für die Konzepte, die hinter den Wörtern stehen. Die Ebene der Bedeutung, auf der Menschen arbeiten, um logische Schlussfolgerungen zu ziehen oder Texte zu schreiben, fehlt diesen Systemen.
Dies erklärt, warum Sprachmodelle dazu neigen, zu konfabulieren: Bei manchen Eingaben generieren sie Aussagen, die zwar korrekt wirken, aber tatsächlich falsch oder frei erfunden sind. Dieses Verhalten zeigt sich häufig, wenn das System Literaturverweise generiert. Es prüft in seinem statistischen Modell, welche Wörter wahrscheinlich folgen, kann aber nicht beurteilen, ob die daraus resultierende Antwort nicht nur plausibel, sondern auch korrekt ist.
Die „Intelligenz“ verschwindet sozusagen, wenn man die Berechnungen betrachtet, die GPT-X sowohl während des Trainings als auch bei der anschließenden Nutzung durchführt. Ebenso „verschwindet“ der Akteur. Während ein Mensch sich selbstständig seine Ziele und Objekte des Denkens setzt, werden diese für die KI vom Menschen vorgegeben: Sowohl durch den Entwickler des KI-Systems, der den Rahmen des Systems definiert (bei GPT-X handelt es sich um die Verarbeitung von Texten), als auch durch den Nutzer, der innerhalb dieses Rahmens die Lösungsberechnung für seine relevanten Probleme initiieren kann. ChatGPT setzt sich nicht selbst Ziele oder entscheidet gar, dass es sich weiterentwickeln möchte, sondern generiert aufgrund einer Eingabe eine Ausgabe.
Diese Überlegungen bieten auch eine Antwort auf die Frage nach der AGI, der Artificial General Intelligence. AGI ist eine hypothetische Form der KI, die sich in ihrem Verhalten und ihren Fähigkeiten eigenständig Ziele setzt, sich permanent verbessert und letztendlich den Menschen mit ihrer Intelligenz überflügelt – und möglicherweise sogar eine Bedrohung für die menschliche Existenz darstellt.
Nach aktuellem Wissensstand ist es jedoch unklar, wie eine KI von einem Entwickler so definiert werden kann, dass sie die gesamte Außenwelt abbildet – physikalische Eigenschaften, Verhaltensweisen von Menschen und anderen Lebewesen, soziale Strukturen und so weiter – und zudem in der Lage ist, den festgelegten Rahmen zu erweitern. All dies wäre jedoch notwendig für eine AGI. Obwohl ChatGPT erstaunlich gut in der Lage ist, Strukturen der verschriftlichten Welt abzubilden und für die Vervollständigung von Texten zu nutzen – auf einem Niveau, das disruptive Auswirkungen auf die Arbeitswelt hat –, ist dies nur ein Bruchteil dessen, was menschliche Intelligenz ausmacht.
Die Grenzen der künstlichen Intelligenz werden umso deutlicher, je umfassender der Kontext ist, in dem man Intelligenz betrachtet. Das wurde mir als Wissenschaftler und Anwender von KI in den letzten Jahren immer klarer. Künstliche Intelligenz simuliert die Ebene der Kognition oder Informationsverarbeitung: Nach einer Eingabe in einer spezifischen Modalität (Bild, Ton, Text et cetera), quasi einem Sinneseindruck, wird gemäß einem Algorithmus eine Ausgabe in einer ebenso spezifischen Modalität (Bild, Ton, Text, eventuell auch eine Aktion eines Roboters), quasi eine Reaktion, berechnet. Diese Berechnung wird auf einem Computer durchgeführt, der im wahrsten Sinne des Wortes eine Rechenmaschine ist. Ein Algorithmus und eine Rechenmaschine – das ist letztendlich alles, was für KI benötigt wird.
Im Gegensatz dazu ist der Mensch als intelligentes Wesen, analog zu allen anderen Lebewesen, eingebettet in eine Vielzahl von Systemen auf verschiedenen Ebenen, die alle eine Art von Intelligenz im Sinne eines systemerhaltenden Verhaltens zeigen (Talbott, 2023, Kapitel 20).
In größeren Einheiten zum Beispiel:
Und auch in kleineren Einheiten:
Dies deutet auf einen prinzipiellen Unterschied zwischen künstlicher und menschlicher beziehungsweise natürlicher Intelligenz hin: Heutige KI ist reduziert auf die Ebene der Kognition und wird ausgeführt in einer Maschine, die größtenteils separiert ist von der Umwelt (bis auf einen Stromanschluss). Natürliche Intelligenz ist hingegen eingebettet in größere und kleinere Systeme, die alle zielgerichtetes Verhalten zeigen.
Wie leistungsfähig kann künstliche Intelligenz unter dieser Einschränkung überhaupt werden?
Wie auch immer die Antwort lautet, für uns KI-Wissenschaftler rücken die Lebenswissenschaften den Blick auf KI zurecht und zeigen, welchen kleinen Teil der Welt wir heute damit abdecken können.
