"Bedrohung für die Menschheit": OpenAI-Forscher warnten vor KI-Durchbruch
SAN FRANCISCO. Kurz vor der Entlassung von Sam Altman als Chef des ChatGPT-Entwicklers OpenAI soll das Aufsichtsgremium laut Insidern vor einer folgenschweren Entdeckung im Bereich der künstlichen Intelligenz (KI) gewarnt worden sein.
In dem Mitarbeiterbrief sei davon die Rede gewesen, dass die Entwicklung eine Bedrohung für die Menschheit darstellen könnte, sagten zwei mit der Angelegenheit vertraute Personen am Mittwoch.
Das bisher unveröffentlichte Schreiben sei eine wichtige Entwicklung gewesen, die der Entlassung von Altman, dem Aushängeschild der generativen KI, vorausgegangen sei. Reuters konnte zunächst den Brief nicht einsehen. Die OpenAI-Forscher, die den Brief verfasst hatten, reagierten zunächst nicht auf eine Anfrage zur Stellungnahme.
Durchbruch bei Projekt "Q*"
Das Schreiben sei ein Faktor in einer langen Liste von Verfehlungen gewesen, die zu Altmans Entlassung geführt hätten, sagten Insider. Die Geschäftsführerin Mira Murati habe das Projekt namens "Q*" (sprich: Q-Star) am Mittwoch vor der Belegschaft erwähnt und gesagt, dass vor den Ereignissen am Wochenende ein Brief an das Aufsichtsgremium geschickt worden sei.
Der Hersteller von ChatGPT hatte bei Q* Fortschritte gemacht, die nach Ansicht einiger Mitarbeiter einen Durchbruch bei der Suche des Start-ups nach einer Superintelligenz (AGI) darstellen. OpenAI definiert AGI als KI-Systeme, die intelligenter als Menschen sind. Reuters war nicht in der Lage, die von den Forschern behaupteten Fähigkeiten von Q* unabhängig zu überprüfen.
Altman deutete vergangene Woche an, er sehe die AGI in greifbarer Nähe. "Viermal in der Geschichte von OpenAI, zuletzt in den vergangenen Wochen, hatte ich das Privileg, dabei zu sein, wenn wir den Schleier der Unwissenheit lüften und die Grenzen der Entdeckung verschieben, und das ist die berufliche Ehre meines Lebens", sagte er auf dem Asia-Pacific Economic Cooperation Summit. Einen Tag später entließ das Aufsichtsgremium Altman.
Der Begriff "intelligent" wird heute inflationär verwendet, Rennpferde sind intelligent, das NAVI ist es und der Kühlschrank. Dass ein Computer schneller suchen und rechnen kann als jeder Mensch, liegt auf der Hand. Ist er deshalb intelligent? Noch gibt es keine KI. ChatGPT ist KEINE KI, auch wenn man sie immer so nennt. ChatGPT ist ein hochkomplexes Programm, letztlich eine Maschine. Eine KI wäre LEBEN.
Der zweite Aspekt ist, was einer KI oder irgendwem Intelligenz nützt, wenn er/sie/es keine Macht hat. Öffnet man einer KI nicht alle Datenwege, z.B. zu militärischen Einrichtungen, zu Energieversorgern und Satelliten, wie soll sie dann - außer auf dem Umweg um Menschen - gefährlich werden?
Der dritte Aspekt ist, dass bereits ein weiterentwickelter Chat-Bot riskant für die gesellschaftliche Entwicklung werden kann. Etwa, weil KI-generierter Content von "echtem" nicht mehr zu unterscheiden ist. Das sind aber andere Überlegungen als solche, dass KIs die Macht ergreifen werden.
Ich wäre für den namen Skynet
Sollte man einer künftigen KI-Superintelligenz - ich nenne sie ES (der bekannten Perry-Rhodan-SF-Heftserie entnommen) - auch Empathie anzüchten können, dann würde sich eine Herrschaft von ES über die Menschheit womöglich als Segen erweisen.
Skynet lässt grüßen?
<<<<<< Bedrohung für die Menschheit>>>>>
-ist eher der Mensch selbst - einer davon der fest daran arbeitet sitzt im Russenland im Kreml - der setzt alles daran! 👎👎👎
🇺🇦🇺🇦👍👍
... sie haben ja mal wieder überhaupt keinen Dunst. Der Gefährliche sitzt in Washington D.C. und stolpert von einem Fettnäpfchen ins Nächste - das ist der tiefe Staat. ABer Donald wird es schon richten .....
Noch ein Putinversteher……….🙈🙈🙈
Werde munter wenn der aus dem Solarium wieder was zu sagen hätte und die Russen wieder an der Ungarischen Grenze stehen, hatten wir schon - gehts noch?