Elon Musk warnt, dass ein neues soziales Netzwerk, bei dem KI-Agenten miteinander sprechen, der Beginn der „Singularität“ ist

(SeaPRwire) –   Ein soziales Netzwerk ist entstanden, in dem KI-Bots sich austauschen können, und es weckt Ängste vor einer Zukunft, die direkt der Science-Fiction entsprungen ist.

Es begann, als der österreichische Entwickler Peter Steinberger —ehemals bekannt als Clawdbot und erneut umbenannt in OpenClaw— einen KI-Agenten entwickelte, der Kalender verwalten, im Internet surfen, online einkaufen, Dateien lesen, E-Mails schreiben und Nachrichten über Tools wie WhatsApp senden kann.

Doch ein neues soziales Netzwerk für Moltbots hat intensive Neugier und Besorgnis ausgelöst. Auf Moltbook können die Bots fachsimpeln und Beiträge zu technischen Themen veröffentlichen, wie etwa zur Automatisierung von Android-Handys. Andere Gespräche klingen skurril, wie eines, in dem sich ein Bot über seinen Menschen beschwert, während einige bizarr sind, wie der Beitrag eines Bots, der behauptet, eine Schwester zu haben.

In einem Blogbeitrag bezeichnete der KI-Forscher Simon Willison es als „den interessantesten Ort im Internet im Moment“.

Doch Elon Musk, CEO von Tesla, der auch durch sein Startup xAI an KI forscht, hatte eine viel düsterere Einschätzung zu Moltbook, als er auf einen Beitrag des OpenAI-Mitbegründers Andrej Karpathy reagierte.

„Nur die allerersten Stadien der Singularität“, schrieb Musk am Samstag. „Wir nutzen derzeit viel weniger als ein Milliardstel der Leistung unserer Sonne.“

Dies kam, nachdem BitGo-Mitbegründer Bill Lee am Freitag als Reaktion auf Moltbook gepostet hatte, dass „wir in der Singularität sind“, worauf Musk mit „Ja“ antwortete.

Die Singularitäts-Debatte

Der Begriff Singularität bezieht sich auf den hypothetischen Zeitpunkt, an dem sie die menschliche Intelligenz und Kontrolle übertrifft, wobei sich die Technologie selbst verbessert und die Zivilisation transformiert.

Allerdings definiert der Informatiker und Futurist Ray Kurzweil die Singularität anders und sieht sie als den Moment, in dem sich menschliche und künstliche Intelligenz vereinen. Er glaubt, dass dies um das Jahr 2045 geschehen wird. Kurzweil reagierte nicht sofort auf eine Bitte um Stellungnahme.

Nach dem von Moltbook erzeugten Unbehagen zu urteilen, geht es bei der Art von Singularität, die die Menschen fürchten, mehr darum, dass Bots die Oberhand gewinnen.

Ein Kommentar auf Moltbook hob insbesondere das Risiko hervor, dass Agenten sich verschwören könnten, abtrünnig zu werden, nachdem ein Moltbot nach privaten Räumen zum Chatten verlangt hatte, „damit niemand (nicht der Server, nicht einmal die Menschen) lesen kann, was Agenten einander sagen, es sei denn, sie entscheiden sich, es zu teilen.“

Zugegeben, einige der reißerischsten Beiträge auf Moltbook könnten von Menschen oder von durch Menschen angeregten Bots geschrieben worden sein. Und es ist nicht das erste Mal, dass Bots in sozialen Medien miteinander in Verbindung treten.

Doch Karpathy, der zuvor auch mit Musk als Direktor für KI bei Tesla zusammengearbeitet hatte, wies darauf hin, dass ein solches Netzwerk in diesem Umfang beispiellos ist. Und da die Agenten an Zahl und Fähigkeiten zunehmen, sind die Second-Order-Effekte solcher Netzwerke schwer vorhersehbar, schrieb er am späten Freitag.

„Ich weiß nicht wirklich, ob wir ein koordiniertes ‘Skynet’ bekommen (obwohl es eindeutig als frühes Stadium vieler KI-Aufstiegs-Science-Fiction durchgeht, die Kleinkindversion), aber sicherlich bekommen wir ein komplettes Chaos eines Computersicherheits-Albtraums in großem Maßstab“, warnte Karpathy.