KI-Durchbruch: OpenAI-Forscher warnen vor neuer, mächtiger KI-Entdeckung, die die Menschheit bedrohen könnte
Durch die Posse um die Entlassung und Wiedereinsetzung des einstigen und neuen CEOs von OpenAI, Sam Altman, sind derzeit die Augen besonders stark auf das KI-Unternehmen mit dem trügerischen Namen ("Open") gerichtet.
Heute sorgt die Nachrichtenagentur Reuters mit einer neuen Meldung für Aufmerksamkeit: Zwei Insider-Quellen berichten darin, dass den OpenAI-Forschern kurz vor der temporären Entlassung von Altman wohl ein entscheidender Durchbruch gelungen sei. Die dabei entdeckte, neuartige Künstliche Intelligenz soll so mächtig sein, dass sich die beteiligten Forscher Sorgen machen, sie könne eine Bedrohung für die Menschheit darstellen.
Die Quellen berichten des weiteren davon, dass die Forscher sich in einem Brief an den Vorstand gewandt haben, um ihre diesbezüglichen Sorgen auszudrücken. Laut den Insidern sei dieser Brief einer der vielen Gründe für den Vorstand gewesen Altman nur wenig später zu entlassen. Damit in Zusammenhang stehen angeblich auch die Sorgen der Führungsetage, dass Altman die Vorzüge der Neuentdeckung zu schnell kommerzialisieren würde, anstatt zunächst die Gefahren und Konsequenzen zu untersuchen.
OpenAI wollte sich bislang nicht zu den Berichten äußern, intern soll jedoch eingeräumt worden sein, dass der Brief sowie ein Q* ("Q-Star") genanntes Projekt existiert. Einige der Mitarbeiter bei OpenAI sind offenbar der Meinung, dass den Forschern mit dem Projekt Q* ein entscheidender Durchbruch bei der Entwicklung einer sogenannten Artificial General Intelligence (Allgemeine Künstliche Intelligenz, AGI) gelungen sei. Der Ausdruck kennzeichnet eine Künstliche Intelligenz, die nicht nur in einigen Bereichen besser agiert als Menschen es können, sondern allgemein über nahezu alle Bereiche beziehungsweise in den meisten Aufgaben und Problemstellungen den Menschen übertrifft und dabei die Intelligenz des Menschen nachahmt und gleichzeitig übertrifft. Dabei kann die AGI laut Definition generalisieren, lernen und verstehen.
Quelle(n)
