Sorge um einfühlsame KI? Denken Sie an den Oktopus

(SeaPRwire) –   Als vorhersehbar wie die Schwalben, die nach Capistrano zurückkehren, wurden jüngste Durchbrüche bei KI erneut von einer neuen Welle der Angst vor einer Version der “Singularität” begleitet, jenem Punkt bei einer sich selbst beschleunigenden technologischen Innovation, an dem Computer sich der menschlichen Kontrolle entziehen. Wer sich Sorgen macht, dass KI die Menschen in den Müll werfen wird, könnte im natürlichen Bereich eine Perspektive darauf finden, was aktuelle KI kann und nicht kann. Betrachte den Oktopus. Die heute lebenden Oktopoden sind ein Wunder der Evolution – sie können sich in fast jede Form pressen und verfügen über ein Arsenal an Waffen und Tarnfarben sowie offenbar die Fähigkeit zu entscheiden, welche davon je nach Herausforderung einzusetzen ist. Trotz jahrzehntelanger Bemühungen ist es der Robotik bisher nicht annähernd gelungen, diese Suite an Fähigkeiten zu duplizieren (wenig überraschend, da der moderne Oktopus das Produkt von Anpassungen über 100 Millionen Generationen ist). Die Robotik ist noch weit davon entfernt, einen Hal zu schaffen.

Der Oktopus ist ein Weichtier, aber er ist mehr als ein komplexes Wind-Up-Spielzeug, und Bewusstsein ist mehr als der Zugriff auf eine riesige Datenbank. Vielleicht die revolutionärste Sicht auf das tierische Bewusstsein kam von Donald Griffin, dem verstorbenen Pionier der Tierkognitionsforschung. Vor Jahrzehnten sagte Griffin mir, dass er dachte, dass eine sehr breite Palette von Arten in gewissem Maße bewusst sei, einfach weil es evolutionsökonomisch sei (ein Argument, das er auf mehreren Konferenzen wiederholte). Alle überlebenden Arten stellen erfolgreiche Lösungen für die Probleme des Überlebens und der Fortpflanzung dar. Griffin war der Meinung, dass es bei der Komplexität und dem sich ständig verändernden Mix aus Bedrohungen und Chancen effizienter war, dass die natürliche Selektion sogar den primitivsten Geschöpfen ein gewisses Maß an Entscheidungsfindung verleiht, anstatt jede Art für jede Eventualität vorzuprogrammieren.

Dies ergibt Sinn, erfordert aber einen Vorbehalt: Griffins Argument ist (noch) nicht der Konsens und die Debatte über das tierische Bewusstsein bleibt so kontrovers wie in den letzten Jahrzehnten. Unabhängig davon bietet Griffins Annahme einen nützlichen Rahmen zum Verständnis der Grenzen von KI, weil sie die Unmöglichkeit unterstreicht, Reaktionen in einer komplexen und sich verändernden Welt vorzuprogrammieren.

Griffins Rahmen wirft auch eine Herausforderung auf: Wie könnte eine zufällige Reaktion auf eine Herausforderung in der Umwelt das Wachstum des Bewusstseins fördern? Wieder lohnt der Blick auf den Oktopus. Die Kopffüßer haben sich seit über 300 Millionen Jahren an die Ozeane angepasst. Sie sind Weichtiere, verloren aber im Laufe der Zeit ihre Schalen, entwickelten ausgefeilte Augen, unglaublich bewegliche Tentakel und ein ausgeklügeltes System, das es ihnen ermöglicht, die Farbe und sogar die Textur ihrer Haut in Bruchteilen von Sekunden zu verändern. Wenn sich also ein Oktopus einem Raubtier gegenübersieht, verfügt er über die sensorischen Apparate, um die Bedrohung zu erkennen, und er muss entscheiden, ob er fliehen, sich tarnen oder den Räuber oder die Beute mit einer Tintenwolke verwirren soll. Der selektive Druck, der jede dieser Fähigkeiten verstärkte, begünstigte auch jene Oktopoden mit präziserer Kontrolle über Tentakel, Färbung etc. und begünstigte auch jene mit einem Gehirn, das die Wahl ermöglicht, welches System oder welche Kombination von Systemen einzusetzen ist. Diese selektiven Drücke könnten erklären, warum das Gehirn des Oktopus das größte unter den Wirbellosen ist und bei weitem größer und ausgefeilter als das der Muscheln ist.

Es kommt hier noch ein weiterer Begriff ins Spiel. Er heißt “ökologischer Überschuss”. Dies bedeutet, dass die Umstände, die eine bestimmte Anpassung wie beispielsweise den selektiven Druck zur Entwicklung des Tarnungssystems des Oktopus begünstigten, auch jene Tiere begünstigen konnten, die zusätzliche Neuronen zur Steuerung dieses Systems aufwiesen. Gleichzeitig könnte das Bewusstsein, das diese Steuerung ermöglicht, über dessen Nützlichkeit beim Jagen oder der Flucht vor Räubern hinausgehen. So könnte Bewusstsein aus rein praktischen, sogar mechanischen Ursprüngen entstehen.

So prosaisch das auch klingen mag, die Menge an Informationen, die in die Entstehung des modernen Oktopus einfloss, übertrifft die kollektive Kapazität aller Computer der Welt, selbst wenn alle diese Rechner dem Ziel gewidmet wären, einen entscheidungsfähigen Oktopus zu erschaffen. Die Oktopoden von heute sind die erfolgreichen Produkte von Milliarden Experimenten unter Einbeziehung jeder denkbaren Kombination von Herausforderungen. Jedes dieser Milliarden Tiere verarbeitete und reagierte während seines Lebens auf Millionen Informationen pro Minute. Über den Zeitraum von 300 Millionen Jahren summieren sich das zu einer unvorstellbar großen Zahl an Versuch-und-Irrtum-Experimenten.

Dennoch, wenn Bewusstsein aus rein zweckmäßigen Fähigkeiten hervorgehen und damit die Möglichkeit von Persönlichkeit, Charakter, Moral und machiavellistischem Verhalten einhergehen kann, warum sollte dann kein Bewusstsein aus den verschiedenen zweckmäßigen KI-Algorithmen entstehen, die derzeit geschaffen werden? Wieder liefert Griffins Paradigma die Antwort: Während die Natur möglicherweise in Richtung Bewusstsein tendierte, indem sie Geschöpfen ermöglichte, mit neuen Situationen umzugehen, haben sich die Architekten der KI bewusst für den vorprogrammierten Ansatz entschieden. Im Gegensatz zum Oktopus ist KI heute ein sehr ausgefeiltes Wind-Up-Spielzeug.

Um zu erklären, warum, lohnt ein Blick zurück in eine frühere Phase des KI-Hypes. In den 1980er Jahren beriet ich Intellicorp, eines der ersten Unternehmen, das KI kommerzialisierte. Thomas Kehler, ein Physiker, der Intellicorp sowie mehrere nachfolgende KI-Unternehmen mitgründete, hat die Entwicklung von KI-Anwendungen von Expertensystemen, die Fluggesellschaften beim dynamischen Preismanagement helfen, bis hin zu den maschinellen Lernmodellen, die ChatGPT antreiben, beobachtet. Seine Karriere ist eine lebende Geschichte der KI. Er merkt an, dass KI-Pioniere viel Zeit darauf verwandten, Modelle und Programmiertechniken zu entwickeln, die Computern ermöglichten, Probleme auf die Weise von Menschen anzugehen. Der Schlüssel zu einem Computer, der gesunden Menschenverstand demonstrieren könnte, war das Verständnis für die Bedeutung des Kontextes. Pioniere wie Marvin Minsky vom MIT entwickelten Wege, die verschiedenen Objekte eines gegebenen Kontextes in etwas zu bündeln, das ein Computer befragen und manipulieren konnte. Tatsächlich könnte dieses Paradigma, Daten und sensorische Informationen zu verpacken, dem geschehen ähneln, was im Gehirn des Oktopus passiert, wenn es entscheiden muss, wie es jagen oder fliehen soll.

Ein Grund, warum dies nicht zu einer selbstbewussten KI geführt hat, ist, dass sich die Entwickler von KI später für eine andere Architektur entschieden. Mit dem exponentiellen Anstieg von Rechenleistung und Speicherkapazität wurde immer mehr Daten zugänglich. KI begann große Sprachmodelle zu verwenden, Algorithmen, die auf riesigen Datensätzen trainiert werden und Analysen auf der Grundlage von Wahrscheinlichkeiten durchführen, um “zu lernen”, wie Daten, Wörter und Sätze zusammenarbeiten, so dass die Anwendung dann angemessen auf Fragen reagieren kann. Kurz gesagt ist dies die Infrastruktur von ChatGPT. Eine Einschränkung dieser Architektur ist ihre “Brüchigkeit”, da sie vollständig von den Datensätzen abhängt, die beim Training verwendet wurden. Wie Rodney Brooks, ein weiterer KI-Pionier, in einem Artikel in “Technology Review” feststellte, ist dieses maschinelle Lernen weder lernen im Sinne eines Schwamms noch gesunder Menschenverstand. ChatGPT hat keine Fähigkeit, über seine Trainingsdaten hinauszugehen, und in diesem Sinne kann es nur vorprogrammierte Antworten geben. Es ist im Grunde vorhersagender Text auf Steroide.