Von angesehenen Experten für Künstliche Intelligenz kommt eine neue eindringliche Warnung vor Gefahren der Technologie. Ohne ausreichende Vorsicht könne man unwiederbringlich die Kontrolle über autonome KI-Systeme verlieren, schreiben Forscher in einem Text in der neuen Ausgabe der Zeitschrift »Science«. Mögliche KI-Risiken seien Cyberattacken in großem Maßstab, gesellschaftliche Manipulation, allgegenwärtige Überwachung und sogar die »Auslöschung der Menschheit« heißt es weiter. Unter den Autoren sind Wissenschaftler, die zu den führenden Köpfen der KI-Forschung gehören.
Ihnen machen speziell autonome KI-Systeme Sorgen, die etwa selbstständig Computer nutzen können, um die ihnen gestellten Ziele zu erreichen. Auch bei Programmen mit guten Absichten könne es unvorhergesehene Nebeneffekte geben. Sobald autonome KI-Systeme unerwünschte Ziele verfolgten, könne man nicht mehr in der Lage sein, sie unter Kontrolle zu behalten. Zum Auftakt des KI-Gipfels in Seoul sicherten unter anderem US-Konzerne wie Google, Meta und Microsoft einen verantwortungsvollen Umgang mit der Technologie zu.