(18.04.2023) Ohne Smartphone fühlt man sich heute nicht mehr vollständig. Der Evolutionsbiologe Paul Rainey geht in einer aktuellen Publikation noch weiter: Er warnt davor, dass Mensch und KI bald wie ein Individuum Spielball der Evolution werden könnten.
Können Menschen und KI-Systeme gemeinsam einen evolutionären Übergang durchlaufen, bei dem eine neue Art der Individualität entsteht? Über diese Möglichkeit schreibt Paul Rainey, Direktor am Max-Planck-Institut für Evolutionsbiologie in Plön. Erschienen ist Raineys Artikel Anfang des Jahres in der Zeitschrift Philosophical Transactions of the Royal Society B (378(1872): 20210408).
Wie aber könnten Mensch und Maschine zu einer Einheit werden, die einer darwinistischen Selektion unterliegt? Wir haben den Autor gefragt und uns zunächst einmal Grundkonzepte evolutionärer Übergänge erklären lassen, um einigen Missverständnissen vorzubeugen. Die im Gespräch diskutierten Beispiele sind ausführlich in Raineys Artikel illustriert und erklärt.
Laborjournal: Sie arbeiten im Labor mit – wie Sie es beschreiben – „experimentellen Populationen“ aus Mikroorganismen, um Prinzipien der Evolution zu verstehen. Dabei geht es auch um große evolutionäre Übergänge, im Englischen „major evolutionary transitions“.
Paul Rainey » Wir verwenden Mikroben, weil wir die Evolution sozusagen in Echtzeit verfolgen können. Die Populationen sind sehr groß und die Generationszeiten sehr kurz. Wir nutzen mikrobielle Populationen also als Werkzeuge, um grundlegenden Fragen der Evolutionsbiologie auf den Grund zu gehen. Insbesondere der Ursprung des vielzelligen Lebens geht auf solch einen großen evolutionären Übergang zurück. Ein weiterer Übergang fand statt, als zwei Bakterien-ähnliche Organismen aufeinandertrafen, was zur Entstehung der eukaryotischen Zelle führte: Aus einem Eubakterium wurde das Mitochondrium, aus dem Archae„bakterium“ der Zellkern.
Diese großen evolutionären Übergänge gehen also von einer niedrigeren Ebene replizierender Strukturen aus, und wenn der Übergang abgeschlossen ist, sind diese Strukturen Teil einer höheren Ebene mit selbstreplizierender Eigenschaft und in diese eingebettet. Wir bauen solche Übergänge experimentell im Labor nach.
Richard Dawkins hat die Metapher vom „egoistischen Gen“ geprägt. Gene als kleinste Einheit der vererbbaren Information müssen also für sich selbst vorteilhafte Information codieren, um erhalten zu bleiben. Es gebe demnach keinen Altruismus zum Wohle der Spezies. Ich glaube, man kann das Konzept großer evolutionärer Übergänge leicht missverstehen. Können Sie erläutern, wie das mit Dawkins’ Sichtweise zusammenpasst?
Rainey » Dawkins hat komplett recht, wenn er sagt, dass sich Arten oder Individuen nicht zum Wohle der Gruppe entwickeln. Aber Selektion kann auf Organisationsebenen wirken, die jenseits des Individuums liegen. Dazu bedarf es besonderer Bedingungen, die in der Geschichte des Lebens immer wieder erfüllt waren. Das sehen wir an der hierarchischen Struktur des Lebens. Es ist nicht immer leicht ersichtlich, wie Einheiten gemeinsam auf einem übergeordneten Level am Prozess der natürlichen Selektion teilnehmen können. Nehmen wir das Experiment mit den roten und grünen Bakterien, das im Paper erwähnt ist.
Ja, das ist eine sehr einfache, aber zugleich eindrucksvolle Idee: Man hat einen Bakterienstamm, der das grün fluoreszierende Protein (GFP) exprimiert, ein anderer Stamm trägt rot fluoreszierendes RFP. Die Idee ist nun, dass man im Laborexperiment auf eine gemischte Gemeinschaft hin selektiert, die dann durch die additive Farbmischung gelb fluoresziert.
Rainey » Dieses Experiment basiert auf einer noch tiefer gehenden theoretischen Arbeit, die wir 2020 in eLife veröffentlicht haben (9: e53433). Wir haben also eine Mischung grüner und roter Zellen in einer Flasche oder einem Tube. Abgesehen von ihrer Farbe sind die Bakterien gleich. Nun vermehren wir die Probe, sagen wir, indem wir einen Teil davon alle 24 Stunden in ein frisches Medium geben, dort wieder wachsen lassen und so weiter. Die roten und grünen Zellen nehmen an einem darwinistischen Selektionsprozess teil. Es kommt zu Mutationen, und der Fortpflanzungsprozess stellt sicher, dass Nachkommen ihre Elterntypen repräsentieren. Es wird Unterschiede geben in der Fitness, und so kommt es zu einer evolutionären Entwicklung. Das Ergebnis davon ist Anpassung.
Wir haben dieses Experiment gemacht, und was wir dann wie erwartet gesehen haben: Früher oder später treten vorteilhafte Mutationen auf, entweder zuerst in einer grünen oder zuerst in einer roten Zelle. Eine vorteilhafte Mutation wird in der Community häufiger werden, somit wird die eine Farbe ebenfalls häufiger und die andere Farbe aussterben. Im Laborexperiment setzt sich normalerweise Grün durch, weil diese Bakterien einen leichten Wachstumsvorteil haben. Der Grund dafür ist, dass die Selektion an der individuellen Zelle ansetzt. Wichtig dabei ist aber, dass sich Selektion nicht direkt auf ein Gen richtet, sondern immer auf einen Phänotyp.
Und das könnte auch die Farbe „Gelb“ sein, für die man sowohl GFP als auch RFP braucht. Dafür muss der Experimentator aber gezielt eingreifen.
Rainey » Ja, wir könnten eine gelbe Community aufrechterhalten, wenn wir ein identisches Verhältnis zwischen roten und grünen Zellen sicherstellen. Führen wir das Experiment aber so durch, wie ich es eben beschrieben habe, wird entweder Rot oder Grün gewinnen. Es mag ein wenig fluktuieren, aber am Ende setzt sich eine Farbe durch und wird endgültig dominant. Gelb ist eine emergente Eigenschaft einer Gemeinschaft, es braucht dazu sowohl grüne als auch rote Zellen. Aber indem wir die Bakterien seriell vermehren, gibt es keine Möglichkeit für die Selektion, an diesem emergenten Phänotyp „Gelb“ anzusetzen.
Wir können den Communitys aber einen gemeinsamen Evolutionsprozess aufzwingen, sodass sie der natürlichen Selektion unterliegen, nämlich indem wir die gesamte Probe als eine Einheit behandeln. Dafür haben wir dann nicht eine Community in einer Flasche, sondern dutzende Communitys, also sozusagen eine Population aus vielen Gemeinschaften. Von jeder einzelnen Community messen wir nun, wie nah sie an der Farbe Gelb ist. Das wird stark variieren, einige werden stärker grün und andere stärker rot sein. Man wird eine breite Verteilung der „Gelbheit“ sehen.
Was wir als Experimentatoren nun machen können: Wir erlauben nur ganz wenigen Communitys, dass sie Nachkommen hinterlassen, nämlich denen, die besonders nah am idealen Gelb sind. Von diesen nehmen wir je eine kleine Probe und verteilen sie dann wieder auf mehrere Gefäße. Nachdem sie sich vermehrt haben, können wir wieder die Farbe messen und die wenigen auswählen, die besonders gelb sind. Wir sprechen von einem „Scaffolding“ darwinistischer Eigenschaften.
In Ihrem Paper beschreiben Sie ökologisches Scaffolding als einen Prozess, bei dem die Umgebung neue Lösungen zum Überleben erfordert, zu denen zwei verschiedene Entitäten beitragen müssen – wie die roten und grünen Zellen in unserem Beispiel. Kein Individuum kann diese Lösung allein erreichen. Das ökologische Scaffolding bringt also Einheiten niedrigerer Ebenen dazu, unwillkürlich an einem Selektionsprozess auf höherer Ebene teilzunehmen. In diesem Fall als Gemeinschaft roter und grüner Bakterien. Das liest sich recht trocken, aber die Selektion auf eine gelbe Population veranschaulicht, dass die Bakterien ja nichts voneinander wissen müssen und zunächst einmal rein zufällig dadurch überleben, dass sie in einem idealen Verhältnis in einer Probe vorliegen. Und Sie als Experimentator schauen niemals auf die einzelnen Zellen oder gar Gene, sondern interessieren sich bloß für den Gesamt-Phänotyp „Gelb“.
Rainey » Das stimmt, und das ist der wesentliche Punkt: Natürliche Selektion kann nicht auf der Ebene von Gemeinschaften wirken, solange diese Gemeinschaften nicht als Individuen behandelt werden. Im Experiment haben wir diskrete Gemeinschaften in getrennten Gefäßen. Und wir erlauben einigen Gemeinschaften, Nachkommen-Gemeinschaften zu bilden. Indem wir auf Ebene der Gemeinschaften selektieren, können wir den Phänotyp über Generationen erhalten, obwohl die grünen Typen eigentlich einen Wachstumsvorteil haben.
Jetzt treiben wir unser Experiment aber noch weiter: Stellen wir uns vor, eine einzelne Community bestünde aus 109 Zellen pro Milliliter, wenn sie gewachsen ist. Aber für die Reproduktion wählen wir nur zehn Zellen pro Gefäß aus. Es gibt keinerlei Interaktion zwischen roten und grünen Zellen. Wir gehen nun also durch einen extremen Flaschenhals, indem wir diese zehn Zellen rein zufällig aus der einzelnen Gemeinschaft für die nächste Generation wählen. Selbst wenn die Community ein 1:1-Verhältnis zwischen roten und grünen Zellen hat, so ist es durch stochastische Effekte beim Sampling extrem unwahrscheinlich, dass diese zehn Zellen das Verhältnis der Elterngeneration repräsentieren.
Also müssen die beiden Bakterientypen einen Mechanismus finden, ihr Zahlenverhältnis zu kontrollieren.
Rainey » Das ist genau der Punkt. Eine Möglichkeit wäre, dass je eine grüne und eine rote Zelle aneinanderkleben. Dann würde jede Nachkommen-Community ihre Eltern-Community repräsentieren. Diese Art der Selektion wird also Interaktion zwischen den Individuen fördern, weil die Interaktion eine Vererbbarkeit der emergenten Eigenschaft sicherstellt, auf die selektiert wird.
Sind das bloß theoretische Modellierungen, oder haben Sie diese Versuche auch wirklich so im Labor durchgeführt?
Rainey » Ja, wir haben dieses Experiment mit echten Bakterien gemacht und gezeigt, dass wir die Farbe Gelb erhalten können. Wofür wir allerdings in diesen Versuchen keine Belege gefunden haben, ist irgendeine signifikante Interaktion zwischen den roten und grünen Zellen. Das hat sich nur aus den theoretischen Studien ergeben, ist aber auch intuitiv nachvollziehbar, wie ich ja gerade erklärt habe. Der Grund, warum wir das Experiment gestoppt haben, war die Zeit. Wir hatten gesehen, dass es einfach viel zu lange dauern würde, bis Interaktionen evolvieren, ganz einfach weil unsere Populationsgrößen zu klein waren.
Wir haben das Experiment daher in einer anderen Skalierung wiederholt: Anstatt roter und grüner Zellen in Reagenzgläsern haben wir Plasmide in Hefezellen verwendet. Jedes Plasmid ist ja ein selbstreplizierendes DNA-Element. In dieser Variante des Versuchs trägt ein Plasmid entweder GFP oder RFP, es gibt also sozusagen rote und grüne Plasmide in der Hefezelle.
Die Hefezellen entsprechen also den Kulturgefäßen und die Plasmide den einzelnen individuellen Bakterienzellen.
Rainey » Genau. Wir haben jetzt also 106 bis 107 Hefezellen, und jede mit einer eigenen Gemeinschaft von Plasmiden. Über einen Cell-Sorter können wir die Farbe jeder einzelnen Zelle messen und somit exakt das Rot-Grün-Experiment durchführen, nur eben an Plasmiden. Vorher hatten wir effektiv 60 Wells für jede Population von Bakterien-Communitys, also ist das jetzt wirklich ein Game Changer. Wegen der viel höheren Populationsgröße sehen wir jetzt schnell eine evolutionäre Veränderung. Wir können nicht bloß die Farbe Gelb erhalten, sondern auch Interaktionen zwischen den Plasmiden sehen. Ich denke, wir werden das im Laufe dieses Jahres auch publizieren.
Das Modellsystem zur Selektion auf gelbe Bakterien- oder Plasmid-Communitys ist ein Beispiel für etwas, das man als egalitären Übergang bezeichnet. Dabei stehen die Individuen zunächst einmal in keinem verwandtschaftlichen Verhältnis zueinander. Anders sieht es bei einem fraternalen, also „brüderlichen“ Übergang aus. Zum Beispiel, wenn ein Einzeller zu einem Vielzeller wird. Alle Zellen gehen dabei ja auf eine Ausgangszelle zurück, die die vielzellige Struktur gegründet hatte. Aber auch diese Entwicklung ist nicht trivial erklärbar, weil der Verzicht vieler Zellen auf Reproduktion auf den ersten Blick nicht darwinistisch wirkt.
Sie haben auch für den fraternalen Übergang vom Einzeller zum Vielzeller ein Modellsystem in der Arbeit beschrieben. Die Idee: Ein Bakterium in einem Tümpel hätte einen Vorteil, wenn es sich am Schilf festklebt und dann durch Teilung eine mehrzellige Matte bildet. So kann es nahe an der Oberfläche bleiben. Diese Matten können sich dann auch vermehren.
Rainey » Wenn wir gleich auf das Zusammenleben des Menschen mit künstlicher Intelligenz zu sprechen kommen, geht es um einen egalitären Übergang, bei dem zwei separate Entitäten zusammenkommen. Es ist aber tatsächlich hilfreich, den Unterschied zum fraternalen Übergang zu erklären, weil zwei verschiedene Probleme dahinterstecken.
Im Rot-Grün-Experiment ist die Vererbbarkeit das Problem. Deshalb habe ich diesen Flaschenhals erwähnt, bei dem wir nur einzelne Zellen für die nächste Generation auswählen. Für einen egalitären Übergang muss also ein Schritt stattfinden, bei dem die Tochter-Community die Eigenschaften der Eltern-Community repräsentiert. Beim fraternalen Übergang ist die Vererbbarkeit zwar gewährleistet, aber das Problem ist die Reproduktion.
Also brauchen diese Zellmatten im Schilf eine Art Keimbahn: Nur einige wenige Zellen „entscheiden“ sich dazu, aus der Matte herauszuwandern, sich an neue Halme zu heften und Tochtermatten zu bilden.
Rainey » Ja. Und dazu haben wir auch viele Experimente mit Bakterien durchgeführt, die dieser Analogie mit den Matten im Schilf entsprechen. Dazu finden Sie verschiedene Quellen im Artikel mit unterschiedlichen Aspekten. Das ist ziemlich spannend, zum Beispiel der von Ihnen genannte Punkt zur Unterscheidung von Soma und Keimzellen. Ich glaube nämlich, es ist nicht korrekt, dass einige Zellen Soma sein „wollen“! Die Matten sind im Endeffekt zwar Soma, aber mit dem Ziel, an den Sauerstoff an der Oberfläche zu gelangen. Evolutionär sind sie eigentlich eine Sackgasse.
Worauf ich im Paper aus Philosophical Transactions nicht weiter eingehe, ist, dass wir in diesen Experimenten immer sehen, dass sich fast zwangsläufig ein Lebenszyklus herausbildet. Es ist nämlich kostspielig, dieses Kleber-Polymer zu produzieren. Allerdings wiegt der Zugang zum Sauerstoff diese Kosten wieder auf. Nun könnte es aber passieren, dass einzelne „Betrüger“ im Verbund auftauchen. Die nutzen zwar den Sauerstoff, sparen sich aber die Produktion des Klebers. Und genau das beobachten wir. Diese Betrüger destabilisieren die Matten und führen zu deren Auseinanderfallen.
Es sind also quasi Krebszellen.
Rainey » Ja, das trifft es genau! Auf der anderen Seite liefern diese Betrüger die Lösung für das größere Problem – nämlich wie sich die Matten reproduzieren. Die Betrüger können nämlich fortschwimmen aus der zerfallenden Matte, sich woanders niederlassen und ihrerseits neue Matten hervorbringen. Plötzlich sehen wir also einen Lebenszyklus zwischen Soma-ähnlichen und Gameten-ähnlichen Entitäten. Aus den Betrügern wird die Keimbahn. Sie sehen an diesem Beispiel: Die Bakterien haben nie die Absicht verfolgt, zu einem mehrzelligen Organismus zu werden. Aber die ökologischen Umstände haben diesen Prozess begünstigt. Diese Evolution einer Soma-Keimbahn-Differenzierung interessiert uns sehr.
Kommen wir zu menschlichen Gesellschaften. Ich zitiere dazu mal aus Ihrem Artikel: „Menschliche Gesellschaften hinterlassen keine Tochtergesellschaften“. Es findet also keine darwinistische Selektion auf eine menschliche Gruppe statt. Ganz anders ist das bei Staaten bildenden Insekten: Ein Bienenvolk kann sehr wohl Königinnen hervorbringen, die neue Völker gründen. Hier kann man durchaus sagen, dass Bienenvölker Nachwuchsvölker hervorbringen.
Rainey » Vollkommen richtig, und deshalb betone ich im aktuellen Paper wirklich die evolutionären Übergänge im Hinblick auf die Individualität. Es braucht eine Einheit, die als Individuum fungiert, und ein Bienenvolk ist genau das. Die Königin entspricht dabei der Keimbahn. Bei menschlichen Gesellschaften sehen wir diese Individualität nicht; es gibt kulturelle Transmission, aber keine Individualität im darwinistischen Sinne.
Nun sagen Sie weiterhin: Der Mensch könnte gemeinsam mit KI-Geräten eine neue Individualität bilden, an dem die darwinistische Evolution ansetzen kann. Damit ist nicht gemeint, dass wir einfach nur kulturell immer mehr an die Technik gewöhnt sind, sondern dass wirklich die menschliche DNA und die codierten Algorithmen der KI-Systeme emergente Phänotypen codieren und deren Information auch weitervererbt wird.
Rainey » Das stimmt, und es ist eine direkte Analogie zum Rot-Grün-Experiment. Dann entspricht der Mensch vielleicht der grünen Zelle und die KI der roten Zelle. Falls die Selektion übergeordnet zum individuellen Menschen ansetzt, der mit einem KI-Device verbunden sein muss, dann braucht es Variation auf Ebene des Menschen zusammen mit der KI, und die beiden müssen sich gemeinsam reproduzieren. Der Nachkomme muss die elterlichen Eigenschaften dann widerspiegeln. Das mag derzeit unrealistisch erscheinen, aber zu einem gewissen Grad sehen wir ja schon eine Tendenz dorthin. Eltern geben ihre alten Smartphones an die Kinder weiter. Und dort sind vielleicht noch Apps drauf oder Abos für Zeitschriften oder Dienste. Wir sehen also schon eine Art Vererbung von Algorithmen, auch wenn man das derzeit noch als kulturelle Transmission sehen würde.
Der wesentliche Punkt dabei sind nicht die eigentlichen Geräte, sondern dass die Software und die Arbeitsweise einer KI über einen binären Quellcode definiert sind, der sowohl mutierbar als auch replizierbar ist.
Rainey » Das KI-Device verändert sich, während es individuell auf unser Verhalten reagiert. Diese Interaktionen gibt es schon heute. Nun stellen Sie sich vor, jedes Mal, wenn Sie Nachkommen zeugen, würden Sie auch Inhalte Ihres Mobilgeräts reproduzieren – die Algorithmen, die während der Interaktion mit Ihnen evolviert sind. Die geben Sie weiter an Ihr Kind. Durch eine einzelne Regel schaffen Sie ein Scaffolding, das sicherstellt, dass Mensch und KI eine Einheit der Selektion sind. Genau wie bei den roten und grünen Bakterien haben Sie eine vererbbare Fitness, ganz einfach indem Sie sicherstellen, dass die Inhalte Ihrer Geräte an die Kinder weitergegeben werden.
Derzeit habe ich eher den Eindruck, dass mir alle paar Monate neue Geräte mit ganz neuen Betriebssystemen und neuen Apps aufgezwungen werden und ich gar nicht viele Möglichkeiten habe, solche Algorithmen auf meinem Gerät zu behalten oder gar zu vererben. Andererseits sehe ich natürlich, dass sich diverse Dienste unabhängig von Gerät und Betriebssystem merken, wo ich unterwegs bin oder welche Produkte ich gern konsumiere. Und Sie betonen ja auch im Paper: Es geht nicht um das konkrete Gerät, sondern um die zugrunde liegende Information. Aber haben Sie auch ein konkretes Beispiel, wie ein Selektionsvorteil im Zusammenspiel mit KI entstehen könnte?
Rainey » Ich nehme mal ein etwas absurdes Beispiel, was sich aber sicher auf andere Situationen übertragen lässt, weil Machine Learning immer cleverer wird. Stellen Sie sich vor, ich hätte eine genetische Disposition, durch einen Verkehrsunfall zu sterben, bevor ich mich fortpflanzen kann. Ich neige vielleicht besonders stark dazu, unvorsichtig im Straßenverkehr zu sein und überfahren zu werden. Mein KI-Device gibt mir aber immer einen Alarm, bevor ich in eine riskante Situation gerate. Meine Neigung, im Straßenverkehr umzukommen, vererbe ich an meine Kinder. Aber ich vererbe auch den Algorithmus, der diesen Nachteil ausgleicht. Diese Abhängigkeit könnte mit der Zeit immer weiter steigen, zumal die Algorithmen immer smarter werden. Irgendwann können Sie das Gerät vielleicht nicht mehr einfach wegnehmen.
Ich hörte von einer Kinderärztin, dass sich Menschen mit ADHS häufiger versehentlich verletzen. Geht man davon aus, dass auch genetische Faktoren zu ADHS mit beitragen, dann ist Ihr Beispiel vielleicht gar nicht so absurd. Und tatsächlich evolviert dadurch ja eine gegenseitige Abhängigkeit, denn eine KI, die vor Missgeschicken warnt, hat nur bei den Menschen einen Selektionsvorteil, die davon profitieren. Und umgekehrt haben ungeschickte Menschen mehr Nachkommen, wenn sie durch die KI vor Unfällen bewahrt werden.
Rainey » Diese Abhängigkeit geht noch in andere Lebensbereiche, wenn Sie an Gesundheitsapps und Datingseiten denken. Unsere Lebenserwartung und Partnerwahl könnten also irgendwann obligat von der richtigen KI abhängen.
Immerhin sind wir Menschen aber diejenigen, die die KIs entwickeln.
Rainey » Die Algorithmen lernen aber oft in einer Weise, die wir nicht verstehen und gar nicht mehr nachvollziehen können. Außerdem sehe ich die Gefahr der Manipulation. Stellen Sie sich vor, jemand wie Kim Jong-un könnte den Inhalt der Devices kontrollieren, auf die die Menschen angewiesen sind. Die eine Gesellschaft möchte vielleicht, dass die Menschen netter zueinander sind, eine andere Gesellschaft möchte womöglich aggressivere Bürger.
Wir wissen schon heute, dass die Interaktion mit dem Smartphone sowohl unsere Stimmung als auch unsere Entscheidungsprozesse beeinflussen kann. Und das könnte auf eine höhere Ebene gelangen, bei der Mensch und KI als Einheit, als Individuum funktionieren und mehr sind als die Summe ihrer Teile. Alles, was es dazu braucht, ist eine rechtliche oder gesellschaftliche Struktur, die Interaktion mit den Algorithmen und Weitergabe an die Nachkommen sicherstellt.
Also kein ökologisches Scaffolding...
Rainey » ... sondern ein soziales Scaffolding, genau. Ich bin mir recht sicher, dass es gar nicht allzu lange brauchen würde, bis sich solch eine Abhängigkeit einstellt. Ich habe einfach die Sorge, dass diese Technik furchtbar missbraucht werden könnte. Daher wünsche ich mir, dass wir jetzt erkennen, was prinzipiell möglich ist.