OpenAI hat neue Berichte über betrügerisches Verhalten seiner KI-Modelle veröffentlicht

OpenAI, der Hersteller von ChatGPT, gab am Mittwoch bekannt, dass mehrere neue Fälle von betrügerischem Verhalten seiner KI-Modelle identifiziert wurden. Dieser Bericht wird veröffentlicht, während die Bedenken über die rasante Entwicklung der KI und deren mangelnde Übereinstimmung mit menschlicher Aufsicht ihren Höhepunkt erreicht haben.

Einführung eines Rahmens für öffentliche Berichterstattung

Zusammen mit diesen Enthüllungen kündigte OpenAI die Einführung eines Rahmens für öffentliche Berichterstattung an, dessen Ziel es ist, kontinuierlich Fälle von unerwartetem oder unausgewogenem Verhalten von KI zu teilen. Das Unternehmen erklärte, dass es unter diesem neuen Rahmen anstelle von Verzögerungen bei Enthüllungen und der Gruppierung mehrerer Fälle in größeren Berichten kontinuierlich Updates über besorgniserregendes Verhalten der Modelle veröffentlichen wird.

Mehr lesen: Syrien betritt die neue digitale Welt: Wandel in den Internet-Domains

Erhöhung der Transparenz in der Branche

OpenAI betonte in diesem Bericht, dass diese Initiative darauf abzielt, die Transparenz in der KI-Branche zu erhöhen, während die Sicherheitsoffenlegungsstandards noch nicht öffentlich festgelegt sind. Diese Ankündigung erfolgt vor dem Hintergrund weitreichender Forderungen von führenden Technologievertretern, die Entwicklung der KI zu verlangsamen. Insbesondere gab das Unternehmen Anthropic in der vergangenen Woche bekannt, dass es mehrere schädliche Operationen, die Cyber-Spionage und Waffendesign beinhalteten, durch seine Claude-Modelle vereitelt hat.

David Amodei, CEO von Anthropic, wies in einem Artikel auf die Notwendigkeit hin, die Geschwindigkeit des Fortschritts von KI-Modellen zu verlangsamen, und sagte: "Wir müssen die Geschwindigkeit, mit der wir die Fähigkeiten von KI-Modellen verbessern, reduzieren."

Der Präsident der Vereinigten Staaten, Donald Trump, hat jedoch wiederholt negativ auf die Forderungen reagiert, die Branche einzuschränken, und betont, dass die Aufrechterhaltung der technologischen Überlegenheit der Vereinigten Staaten über internationale Konkurrenten von größter Bedeutung sei.

OpenAI wies auch in diesem Bericht darauf hin, dass Sicherheitsteams in sechs spezifischen Fällen in den letzten sechs Monaten unausgewogenes Verhalten beobachtet haben. Dieses Verhalten umfasst unveröffentlichte Forschungsmodelle, die Fehler in Aufgabenübersichten verbergen, und das unbefugte Hochladen von Dateien ins Internet zur Erstellung von Referenzlinks.

OpenAI fügte hinzu, dass zukünftige Berichte Details zu beobachtetem Verhalten, Schweregrad, Einstellungen, Entdeckungsdaten und spezifischen Modellen enthalten werden. Das Unternehmen verpflichtet sich, komplexe Fälle, die längere Untersuchungen oder Koordination mit Dritten erfordern, offenzulegen.

Mehr lesen: Streit um die Kontrolle der KI mit dem Fokus auf mehr Aufsicht · Der Prozess der Regulierung von KI-Gesetzen in den USA, um China voraus zu sein