Eric Schmidt und Yoshua Bengio diskutieren, wie viel Angst vor KI berechtigt ist

(SeaPRwire) –   Zwei führende Experten für Künstliche Intelligenz – einer Optimist und der andere alarmistischer in Bezug auf die Zukunft der Technologie – führten am Mittwoch auf dem TIME100 Gipfel eine lebhafte Debatte.

Sowohl Yoshua Bengio, Gründer und wissenschaftlicher Direktor des Mila Quebec AI Institute, einem wissenschaftlichen Zentrum, als auch Eric Schmidt, Vorsitzender des Special Competitive Studies Project und ehemaliger Google CEO, stimmen darin überein, dass KI die moderne Gesellschaft verändern wird.

Wie Moderatorin Stephanie Ruhle, eine MSNBC-Moderatorin, sagte: “Yoshua glaubt, dass das Risiko, dass KI uns potenziell in den Aussterbeprozess bringen könnte, als globales Risiko wie Pandemien und Atomkrieg betrachtet werden sollte. Eric ist super, super aufgeregt über KI.”

Bengios Hauptsorge bei KI ist die Schwierigkeit sicherzustellen, dass KI-Systeme für ihren beabsichtigten Zweck und nicht für etwas Schädliches verwendet werden. “Wir müssen den Nebel absolut lichten; im Moment haben Wissenschaftler wirklich keine Ahnung”, wie man KI dazu bringt, sich an die Normen, Gesetze und Werte der Gesellschaft zu halten.

Schmidt und Bengio sprachen auch über potenzielle Interessenkonflikte, denen gewinnorientierte Unternehmen gegenüberstehen könnten, wenn sie damit beauftragt werden, ihre Nutzung von KI zu regulieren. Schmidt behauptete, dass Branchenführer nach Regulierung fragen. Aber Bengio widersprach: “Es ist heikel, weil Unternehmen in diesem Wettlauf sind, um zu gewinnen; gleichzeitig sind die Individuen dieser Unternehmen menschlich und wollen keine Katastrophen geschehen lassen.”

Schmidt sagt, dass Unternehmen etwa drei bis fünf Jahre haben, bevor sie sich wirklich “ihre Aktien zusammennehmen” müssen. Dann würden größere ethische Fragen auftauchen, sagt er.

“Das ist sehr schnell”, sagt Bengio; und er argumentiert, dass es noch nicht genügend Gesetze gibt, um Unternehmen zu zwingen, ihre KI-Systeme so zu sichern, dass Daten nicht von böswilligen Akteuren gestohlen werden.

Schmidt ist optimistisch, dass westliche Länder diese Gesetze in Kraft setzen werden, aber “mehr besorgt über Institutionen, über die wir keine Kontrolle haben.” Jeder beobachtet große amerikanische Unternehmen, so dass es weniger Gefahr gibt, sagt er.

Bengio betont die Notwendigkeit internationaler Koordination, weil KI-Verstöße in anderen Ländern die USA ebenfalls treffen können. “Es beginnt, aber wir müssen das Tempo erhöhen”, sagt er.

Die beiden stimmten allerdings in einer Sache überein – dass ein Wendepunkt eintreten wird, wenn KI-Systeme ohne menschliche Kontrolle operieren.

Dieser Moment werde “unglaublich gefährlich” sein, sagt Schmidt. “Wissen Sie, was wir tun sollten? Wir sollten die Computer abschalten. Es ist einfach nicht in Ordnung. Es gibt Grenzen.”

Der TIME100 Gipfel bringt Führungskräfte aus der globalen TIME100-Gemeinschaft zusammen, um Lösungen in den Vordergrund zu rücken und Maßnahmen für eine bessere Welt anzuregen. Zu den Rednern auf diesem Jahresgipfel gehören Persönlichkeiten aus einer Vielzahl von Bereichen wie Politik, Wirtschaft, Gesundheit und Wissenschaft, Kultur und mehr.

Zu den Rednern auf dem TIME100 Gipfel 2024 gehören der Schauspieler Elliot Page, die Designerin Tory Burch, die Olympionikin Ibtihaj Muhammad, die WNBA-Meisterin A’ja Wilson, die Autorin Margaret Atwood, die Präsidentin der NYSE Lynn Martin, der Komiker Alex Edelman, Bengio, der 68. Außenminister der Vereinigten Staaten John Kerry, die Schauspielerin Jane Fonda und viele mehr.

Der TIME100 Gipfel wurde präsentiert von Booking.com, Citi, Merck, Northern Data Group, Glenfiddich Single Malt Scotch Whisky und Verizon.