David Robinson verließ OpenAI nach dreieinhalb Jahren und legte seine Kritik an der Unternehmenskultur und den Sicherheitspraktiken in einem in The Atlantic veröffentlichten Essay dar. Der ehemalige Mitarbeiter, der an Sicherheitsberichten zu Modellveröffentlichungen mitgewirkt hatte, bezeichnete die interne Kultur als „kaputt“ und vertrat die Ansicht, dass die rasante Entwicklung künstlicher Intelligenz strengere Kontrollen erfordert.
Kritik an der iterativen Einführung
Robinson stellte den Ansatz infrage, den OpenAI als iterative Einführung bezeichnet: Systeme veröffentlichen, ihr Verhalten im Einsatz beobachten und die Schutzmaßnahmen anhand der festgestellten Probleme anpassen. Seiner Ansicht nach reicht diese Methode angesichts des Tempos, mit dem sich die Fähigkeiten der Modelle entwickeln, und der möglichen Tragweite ihrer Fehlfunktionen nicht aus.
Der ehemalige Mitarbeiter sprach sich dafür aus, bei den fortgeschrittensten Systemen Maßnahmen zu ergreifen, die hinsichtlich ihrer Strenge und Planung mit denen in kritischen Bereichen wie der Luftfahrt und der Kernenergie vergleichbar sind. Außerdem bezweifelte er, dass die derzeitigen Werkzeuge eine hinreichende Bewertung ermöglichen, ob die Systeme im Einklang mit menschlichen Werten handeln. Dies sind seine Einschätzungen und Vorschläge; die verfügbaren Informationen weisen sie nicht als unabhängig bestätigte Schlussfolgerungen aus.
OpenAI erklärt, seine Kontrollen zu verstärken
Als Reaktion auf die Kritik erklärte der OpenAI-Sprecher Drew Pusateri, das Unternehmen verbessere seine Sicherheitsmechanismen weiterhin und könne das Training stoppen oder die Veröffentlichung von Modellen verzögern, wenn es dies für nötig halte, um das Tempo zu drosseln.
Pusateri wies außerdem darauf hin, dass das Unternehmen die Sicherheit seiner Forschungs- und Testumgebungen verstärke, externe Evaluatoren stärker einbeziehe und die Überwachung verbessere, um besorgniserregendes Verhalten in frühen Trainingsphasen zu erkennen. Die Antwort beschreibt Maßnahmen, die OpenAI zufolge derzeit eingeführt werden; sie entkräftet die von Robinson vorgebrachten Einwände für sich genommen nicht.
Der Weggang des Forschers erfolgt inmitten einer Debatte darüber, wie Unternehmen mit den Risiken fortgeschrittener Modelle umgehen sollten. Robinson vertritt die Auffassung, dass es nicht nur darum geht, weitere Regeln aufzustellen oder Gesetze zu verabschieden: Er fordert tiefgreifendere Veränderungen der Praktiken und Anreize, damit Sicherheit gegenüber dem Entwicklungstempo stärker ins Gewicht fällt. Die verfügbaren Quellen geben sowohl diese Kritik als auch die Antwort des Unternehmens wieder, bieten jedoch keine unabhängige Bewertung, anhand derer sich das Ausmaß der beanstandeten Mängel bestimmen ließe.
