Info

Wenn Autobauer Hirne hacken

(27.08.2019) In einem Paper beschreibt Elon Musk wie er unsere Gehirne mit künstlicher Intelligenz symbiotisch vereinen will. Und fällt dabei auf die gleichen Dinge rein wie viele Wissenschaftler.
editorial_bild

Info

Info

Neuer Mehrfachdispenser von BRAND: Das moderne Touch-Bedienkonzept macht die Arbeit einfach und effizient. mehr

Hektisch geschnittene Filmclips von jungdynamischen Wissenschaftlern in biomedizinischen Hightech-Laboren, Nerds am Lötkolben und Oszilloskop, Achter­bahnfahrten durch Animationen eines Gewirrs aus Nervenzellen,… Und dazwischen verkündet der Auto- und Raketenbauer Elon Musk in messianischer Pose seine neueste Vision: Die Symbiose des menschlichen Gehirns mit künstlicher Intelligenz (KI)! Realisieren wird diesen die Menschheit rettenden Plan das revolutionäre Brain Machine Interface (BMI) seiner Firma Neurolink.

Ich hätte die Narreteien meines Kollegen getrost ignoriert, wenn diese nicht in den Räumen der California Academy of Sciences zur Aufführung gekommen wären – und wenn das Video hiervon nicht auf der ganzen Welt einen ungeheuren Medien-Hype ausgelöst hätte. Einhelli­ges Urteil in Presse und Netz: „Ein typischer Musk, den Mund wieder etwas voll genommen, aber wenn der so etwas ankündigt, wird schon was dran sein. Aber ist das nicht auch gefährlich, brauchen wir vielleicht eine neue Ethik?“

Dumm nur: Rein gar nichts ist dran! Nicht, weil es mit dem BMI einfach noch ein bisserl dauert, bis wir damit unsere Gedanken runter- und neue Inhalte ins Gehirn hochladen können – und wir dadurch endlich hyperintelligent werden. Auch nicht, weil Musk in seiner Präsentation maßlos übertreibt, was er mit seinem BMI mutmaßlich schon alles erreicht hätte. Was er natürlich selbstredend tut. Nein, es wird deshalb nichts mit der Gehirn-KI-Symbiose, weil die Musksche Vision gleich auf drei fundamentalen Fehlern gleichzeitig beruht. Einer betrifft das Prinzip von BMI, ein zweiter das Konzept vom Gehirn als Computer – und der dritte Fehler ist eine falsche Vorstellung davon, was KI wirklich ist. Diese Fehler sind leider sehr populär, auch bei Wissenschaftlern. Umso mehr lohnt sich hier ein närrischer Blick.

Info

Info

Info

Bestellen Sie noch heute Ihr kostenfreies Exemplar. mehr

Herr Musk schreibt ein Paper

Der über Twitter gestreute Internetauftritt strotzt vor bunten Bildern und spektakulären Ankündigungen. Sogar ein Neurochirurg steht auf der Bühne, in voller OP-Montur. Inhaltlich gibt die Präsentation aber leider wenig her. Herr Musk verweist uns bezüglich technischer Details deshalb auf einen von ihm als Single Author publizierten „wissenschaftlichen Artikel“ in BioRxiv.

Schauen wir uns den also erst einmal an. Musk beschreibt darin Komponenten eines BMI, also chirurgisch ins Gehirn implantierte Elektroden, die elektrische Hirnaktivität ableiten. Nach einem Training kann das Gehirn hierüber mit einem Computer kommunizieren und auf diese Weise eine „Maschine“ steuern. Dies könnte ein Roboterarm sein, oder das Bewegen eines Mauscursors. Der Artikel beschreibt oberflächlich einige Elemente eines nicht-funktionalen BMI-Prototypen: Elektroden zur Ableitung von Hirnaktivität, einen Chip zur Verarbeitung und Übertragung der Signale sowie einen OP-Roboter zum Einsetzen der Elektroden in Gehirn. Es fehlt allerdings alles, was nach der Ableitung der Signale noch benötigt wird – also etwas, das gesteuert wird. Herr Musk beschreibt hier also kein BMI, sondern nur Teile davon.

Bemerkenswert ist zunächst einmal seine Alleinautorschaft, obwohl völlig klar ist, dass er den Artikel gar nicht verfasst haben kann. Das ist zwar das geringste Problem des Artikels, aber festzuhalten bleibt – auch mit Blick auf den von mir geschätzten Preprint-Server BioRxiv –, dass dies ein klarer Verstoß gegen die international akzeptierte Publikationsethik ist. Sehr bedenklich auch, dass die im Artikel nur angedeuteten Tierexperimente durch ein Firmen-internes Review Board „genehmigt“ wurden – in den USA zwar lege artis, in Deutschland jedoch zum Glück undenkbar. Musk und Co. haben also selber entschieden, dass die Experimente ethisch vertretbar sind. Ganz abgesehen davon, dass der Artikel unbegründete Hoffnungen bei verzweifelten Patienten mit Querschnittslähmung weckt. All dies ist unethisch!

Info

Info

Der Eppendorf Online Shop bietet für jedes Labor das passende Produkt, viele Aktionen inklusive. mehr

Im Westen nichts Neues

Der grundsätzliche Aufbau des BMI wie auch das Funktionsprinzip der im Neurolink-Paper beschriebenen Komponenten sind nicht neu. Verschiedene Gruppen weltweit haben sie bereits in ähnlicher Form entwickelt und bei ausgewählten Patienten mit Rückenmarks­verletzungen eingesetzt. Diese konnten damit nach langem Training wieder sehr einfache Funktionen ausführen, wie beispielsweise eine Tasse greifen.

Der Artikel beschreibt allerdings eine Reihe von technischen Neuerungen, die potenziell die Funktionalität von BMIs verbessern könnten. Dazu gehören sehr dünne Elektroden, die Möglichkeit, von einigen Tausend (statt von einigen Hundert) Elektroden ableiten zu können, wie auch der OP-Roboter zur Implantation. Trotzdem bleibt es bei der puren Versprechung, dass all dies ein BMI verbessern könne. Gezeigt wird es nicht. Häufig finden sich statt­dessen Formulierungen wie: „It is plausible to imagine...“.

Im Artikel angedeutete Funktionen des BMI, wie etwa, dass man damit das Hirn stimulieren könne, oder, wie von Herrn Musk behauptet, eine Verschmelzung des menschlichen Gehirns mit KI möglich werde, bleiben unbelegte Spekulation. Der Artikel kommt im Gewand einer wissenschaftlichen Publikation daher, ist aber nichts als ein oberflächlicher Werbeprospekt der Firma Neurolink.

Ein BMI liest keinen Gehirncode

Der mit dem Artikel und der Präsentation von Herrn Musk bewusst generierte Hype suggeriert Fähigkeiten eines BMI, die so von keinem ernstzunehmenden BMI-Forscher für möglich gehalten werden. Spikes von Neuronen, auch wenn diese von mehreren Tausend Orten im Gehirn kommen, erlauben nicht das Auslesen von Gedanken, Vorstellungen und Gefühlen.

Vielmehr ist es umgekehrt: Das Prinzip eines BMI zur Steuerung einer Maschine durch Hirnaktivität besteht darin, das Gehirn darauf zu trainieren, willentlich elektrische Aktivität in großen Ensembles von Nervenzellen zu generieren – und zwar solche Aktivitäten, die vorher an dieser Stelle so noch gar nicht aufgetreten waren, um damit dann eine spezifische, für das Gehirn bisher fremde Reaktion der Maschine auszulösen. Das Gehirn ist so plastisch, dass es so etwas lernen kann.

Deshalb aber dauert es auch lange, bis selbst einfachste Steuer-Funktionen (Cursor rauf, Cursor runter) nur halbwegs zuverlässig klappen. Bei einem nicht geringen Anteil der Patienten, bei denen verschiedene Forschergruppen so etwas versucht haben, funktionierte es überhaupt nicht. Ob, wie von Herrn Musk einfach mal so behauptet, eine Erhöhung der Anzahl von Elektroden die Fähigkeit der Steuerung wesentlich verbessern kann, ist daher unklar. Forscher im Feld zweifeln dies durchaus an.

Info

Info

Gewinnen Sie einen VIAFILL Reagenziendispenser einschließlich einer Dispensierkassette Ihrer Wahl. mehr

Das Gehirn ist kein Computer

Das Missverständnis von Herrn Musk bezüglich der Funktionsweise seines BMI beruht ganz wesentlich auf dem Glauben, dass das Gehirn wie ein Computer funktioniert. Diese Computer-Metapher vom Gehirn ist weit verbreitet, auch das milliardenschwere Human Brain Project beruht darauf. Dadurch wird die Sache aber nicht richtiger, allenfalls teurer.

Ein Computer ist ein Automat, der mittels programmierter Instruktionen Eingaben in strikt determinierte Ausgaben verwandelt. Von der Nutzer-(Eingabe-)Ebene bis hinunter zum binären Maschinencode werden mit den Instruktionen Symbole manipuliert. Diese sind total abstrakt, sie haben keinen inhaltlichen oder physischen Bezug zur Leistung, die der Computer für den Anwender erbringt. Nur unser Gehirn ordnet den Symbolen (Zeichen) Inhalte zu. Die Vorstellung vom Programm-Code im Gehirn ist deshalb unhaltbar, weil ein Code vom Wesen her nichts anderes ist als eine Abbildungsvorschrift. Ein Zeichen wird einem anderen zugeordnet: Symbolische Repräsentation. Eine solche Zuordnung via Zeichen im Gehirn könnte Bewusstsein und Denken, die sich ja mit Inhalten befassen, nicht erklären, sondern würde das Problem nur verschieben: Von welchen Inhalten sollten denn die Zeichen des Codes ihre Bedeutung erhalten?

Zumal das Gehirn Programmierung und Codes auch gar nicht nötig hat. Gefühle, Gedanken, Absichten und so weiter sind die koordinierte Aktivität von Milliarden von Nervenzellen und Fantastillionen von Verbindungen zwischen ihnen – man kann auch sagen, Kognition ist „verkörpert“ (embodied). Der Gedanke an einen Baum ist die elektrische Aktivität und neuronale Konnektivität wie sie beim Betrachten dieses Baumes auftritt. Und die Erinnerung an diesen Baum ist die Wiederherstellung dieses elektrochemischen Zustandes.

Ulrich Dirnagl.
Credit: BIH/T. Rafalzyk

Dabei kann das Gehirn durchaus mit Codes umgehen. Nicht nur extern beim Program­mieren, auch intern beim Sprechen und Schreiben. Sprache ist nämlich ein Code, also symbolische Repräsentation. Aber Sprache braucht man nicht für Fühlen, Denken, Handeln – sie ist nur ein Mittel dazu. Da Kognition sich folglich keines Codes oder Programms bedient, gibt es auch nichts auszulesen oder einzuspielen ins Gehirn.

Man könnte zwar versuchen, etwa beim Blick auf einen Baum, die Aktivität jeder einzelnen der 80 Milliarden Nervenzellen gleichzeitig zu messen – und dazu den Zustand der Hunderte von Trillionen Verbindungen zwischen ihnen. Aber dann wäre man immer noch nicht weiter. Denn dann hätte man zwar ein Abbild des elektrischen Gewitters dieses Gehirns beim Blick auf den Baum. Aber die Nervenzellen eines anderen Menschen erzeugen andere Verbin­dungen und andere Aktivitäten beim Blick auf denselben Baum. Auch weil verschiedene Gehirne eine über viele Jahre zurückreichende unterschiedliche Geschichte haben, die jeweils wiederum zu dieser spezifischen Konnektivität und Aktivität beim Blick auf den Baum beigetragen hat. Diese Geschichte müsste man kennen, um aus dem Gewitter Sinn zu machen, also den Inhalt „Baum“ dekodieren zu können.

Also, Herr Musk, da können Sie das Hirn mit Elektroden spicken, bis nichts mehr davon übrig ist – Down- und Uploads von irgendetwas wird es nicht geben. Insbesondere auch keine Symbiose mit KI.

Info

Info

Präsentieren Sie Ihre wissenschaftlichen Ergebnisse und treten Sie in den Austausch mit Forscherkollegen. mehr

Künstliche Intelligenz ist gar nicht intelligent

Wenn es ihn nicht schon seit mehr als sechzig Jahren gäbe, könnte „Künstliche Intelligenz“ ein genialer Begriff aus der Marketing-Schatulle von Herrn Musk sein. Es ist fast Orwell’scher Neusprech – denn KI, wie sie gerade praktisch eingesetzt und weiterentwickelt wird, hat gar nichts mit Intelligenz zu tun. Im Gegenteil, KI wird (wie andere Computer­software auch) dort eingesetzt, wo es darum geht, aufwendige Tätigkeiten für den Menschen zu erledigen, die keine Intelligenz erfordern: Das Erkennen von Katzen oder Tumoren auf digitalen Bildern, das Übersetzen von Sprachen, die Vorhersage von Pizzabestellungen im Feierabendgeschäft, das autonome Fahren eines Autos,…

All dem hat menschliche Intelligenz Inhalte und Kontext gegeben sowie Regeln dazu geschaffen – und erst dann eine Aufgabenstellung für die KI abgeleitet und diese daran trainiert. KI kann dann in dem unterschiedlichen Datenmaterial Muster erkennen, ohne zu wissen, worum es geht, was der Inhalt der Daten ist, die es zu analysieren gilt, und welche Aufgabe überhaupt gelöst werden muss. Wie jede Computersoftware ist KI also völlig ignorant gegenüber den Inhalten der von ihr erledigten Aufgaben. Wenn wir behaupteten, die Katzen auf dem Foto seien Kanarienvögel, würde die KI eben „Kanarienvögel“ finden. Ebenso könnten die Tumoren auch Würste sein.

Die Verwechslung mit Intelligenz wird allerdings dadurch befördert, dass KI häufig auf Tätigkeiten angewendet wird, die für sich durchaus Intelligenz erfordern – Sprache eben, oder Tumorpathologie. Auch die Bezeichnung „Maschinelles Lernen“, welche die Sache schon viel besser beschreibt, kann diesem Missverständnis Vorschub leisten. Ist Lernen nicht eine intelligente Tätigkeit?

Durch Training mit Datensätzen, in denen Ein- und Ausgabe vorgegeben sind, erzeugt KI schließlich ein statistisches Datenmodell. Wenn alles gut geht, erzeugt das Datenmodell dann auch auf beliebige Eingaben zuverlässige Ausgaben. Die KI hat „gelernt“, nur eben völlig begrifflos, ohne einen Funken Intelligenz.

Aber sind es nicht „neuronale Netzwerke“, die hier am Wirken sind? Also etwa doch ein künstliches Gehirn? Wieder führt uns eine Analogie in die Irre. Weil das „neuronale Netz“ der Software einige strukturelle Gemeinsamkeiten mit der Verschaltung von Nervenzellen des Gehirns hat – viele Zellen sind in Schichten miteinander verbunden, es existieren Schwellenwerte und Verstärkungsfaktoren für die Weiterleitung eines Signals,... – funktioniert es noch lange nicht wie ein Gehirn. Und selbst wenn, wir würden es gar nicht sagen können. Denn wir wissen ja überhaupt nicht, wie ein Gehirn funktioniert. Wie es Bewusstsein, Gefühle und Gedächtnis produziert, wie es lernt, verallgemeinert und sich einen Begriff von der Welt macht.

Wenn man für die Beschreibung der strukturellen Elemente eines künstlichen neuronalen Netzwerkes nicht suggestive Begriffe wie „Neuron“ oder „Synapse“ benutzt, sondern stattdessen „Schwellenfunktion“, „Gewichte“, „Bias“, „Gradienten“, „verdeckte Schichten“, „Rückpropagation“ et cetera, wird schon deutlicher, dass wir uns hier nicht im Gehirn befinden. Auf die Spitze getrieben wird die Analogismen-Logik übrigens durch das zirkuläre Projekt mancher Kollegen, mittels neuronaler Netzwerke im Computer herausfinden zu wollen, wie das Gehirn funktioniert: Zuerst bastelt man ein Computerprogramm, das wie das Gehirn funktioniert – und dann zeigt einem das Programm, wie das Hirn funktioniert?

Der Werbeauftritt von Herrn Musk erinnert damit sehr an einen TED-Talk eines gewissen Henry Markram im Juli 2009, also vor ziemlich genau zehn Jahren. Herr Markram ist der geistige Vater des Human Brain Project, das von der EU mit über einer Milliarde Euro gefördert wird. Er hatte darin angekündigt, dass im Rahmen des Projekts die Simulation des menschlichen Gehirns im Computer ermöglicht würde. Hierdurch würden wir dann Wahrnehmung und Denken, vielleicht sogar unsere physikalische Realität verstehen. Er schloss damit, dass in zehn Jahren (also heute) ein Hologramm seinen TED-Talk halten werde. Passiert ist in den zehn Jahren gar nichts dergleichen – außer dass viel Geld ausgegeben wurde.

Ulrich Dirnagl

Weiterführende Literatur und Links finden sich wie immer unter: http://dirnagl.com/lj



Letzte Änderungen: 27.08.2019

Diese Website benutzt Cookies. Wenn SIe unsere Website benutzen, stimmen SIe damit unserer Nutzung von Cookies zu. Zur ausführlichen Datenschutzinformation