Sam Altman verteidigt, bestimmte Schäden als Teil des KI-Fortschritts hinzunehmen

Der Vorstandsvorsitzende von OpenAI, Sam Altman, spricht sich für eine weniger restriktive Regulierung künstlicher Intelligenz aus. Die Gesellschaft solle seiner Ansicht nach hinnehmen, dass es im Austausch für deren Vorteile zu bestimmten Schäden kommt. In einem Interview mit dem Politico-Podcast Decoded nannte er Risiken wie Hackerangriffe, Betrug und böswillige Anwendungen. Zugleich argumentierte er, dass die vorteilhaften Anwendungen der Technologie die schädlichen bei Weitem überwiegen würden.

Damit rückt eine wichtige Frage für Unternehmen in den Vordergrund, die KI entwickeln oder einsetzen: Welches Risiko ist akzeptabel, wer entscheidet über die Grenze und wer muss Verantwortung übernehmen, wenn etwas schiefgeht? Altmans Äußerungen geben die Haltung eines Unternehmenschefs wieder; sie sind für sich genommen weder eine Vorschrift noch legen sie die rechtlichen Pflichten von Unternehmen fest.

OpenAI und Anthropic sind sich über den Umfang der Regulierung uneinig

Altman beschrieb einen Gegensatz zwischen denen, die wie OpenAI eine leichtere Aufsicht befürworten, und jenen, die sich für strengere Kontrollen einsetzen. Er wandte sich gegen die Vorstellung, die Kontrolle über die Technologie solle bei einem einzigen Labor konzentriert sein. Maßnahmen, die jeden Zwischenfall verhindern könnten, würden seiner Auffassung nach bedeuten, auf einen Teil der Vorteile zu verzichten und die Verfügbarkeit der Technologie einzuschränken.

Der Vergleich mit Anthropic steht im Zentrum der Debatte, obwohl ein Sprecher des Unternehmens gegenüber Politico klarstellte, dass dessen Regulierungsvorschläge für Spitzenmodelle gelten. Die Diskussion dreht sich daher nicht nur um den Gegensatz zwischen Regulierung und völliger Abwesenheit von Regulierung. Es geht auch darum, welche Systeme bestimmten Kontrollen unterliegen und wer diese überwacht.

Altman erklärte, OpenAI akzeptiere keine katastrophalen Risiken, darunter einen schwerwiegenden Kontrollverlust über die KI. Diese Einschränkung unterscheidet Zwischenfälle, die er für möglich und hinnehmbar hält, von Extremszenarien, die er nach eigener Aussage verhindern möchte. Sie legt jedoch nicht von sich aus die Kriterien fest, anhand derer diese Grenze gezogen wird.

Bei der Debatte über Risiken geht es auch um Verantwortung

Die Äußerungen stießen auf politische und gesellschaftliche Kritik. Der Gouverneur von Florida, Ron DeSantis, stellte infrage, ob eine kleine Gruppe von Technologieführern für die gesamte Gesellschaft entscheiden könne, welche Schäden hinnehmbar seien. Der Journalist Chris Stokel-Walker formulierte in einem Meinungsbeitrag in The Guardian eine weitere Kritik: Unternehmen sollten nicht die Vorteile für sich behalten und zugleich die Kosten von Fehlfunktionen auf andere abwälzen.

Es sind unterschiedliche Einwände, doch sie verweisen auf dieselbe Spannung. Wer sich für den Einsatz eines Werkzeugs entscheidet, kennt möglicherweise einen Teil seiner Risiken. Ein Unternehmen, eine Behörde oder eine Person, die von einem in ihrem Umfeld eingesetzten System betroffen ist, könnte diesen Risiken dagegen ausgesetzt sein, ohne sich dafür entschieden zu haben. Für Organisationen ist dieser Unterschied ein Grund, nicht nur den Nutzen einer Anwendung zu bewerten, sondern auch zu prüfen, wer betroffen sein könnte und welche Mechanismen zur Erkennung, Eindämmung und Bewältigung von Zwischenfällen vorhanden sind.

Altman hat außerdem die Notwendigkeit eines Haftungsrahmens für Unternehmen anerkannt, die Modelle anbieten, und erklärt, OpenAI müsse für zumindest einige Probleme im Zusammenhang mit dem Training Verantwortung übernehmen. Aus den verfügbaren Quellen geht nicht hervor, wie sich ein solcher Rahmen in konkrete Pflichten übersetzen ließe oder wie die Verantwortung zwischen Entwicklern, Anbietern und nutzenden Organisationen verteilt würde.

Eine öffentliche, nicht nur technologische Entscheidung

Die Behauptung, die Vorteile würden die Schäden bei Weitem überwiegen, ist eine Erwartung Altmans und keine durch seine Äußerungen belegte Garantie. Ebenso legt die Anerkennung, dass es Zwischenfälle geben wird, nicht fest, wer für ihre Folgen aufkommen muss. Bei der Regulierungsdebatte geht es gerade darum, zu bestimmen, welche Risiken toleriert werden, welche Schutzvorkehrungen vorgeschrieben sind und welche Verantwortung denjenigen zukommt, die diese Systeme entwickeln und einsetzen.

Für Unternehmen unterstreicht die Debatte, wie wichtig es ist, Risiken in Entscheidungen über die Einführung und den Einsatz von KI einzubeziehen – insbesondere dann, wenn ein Werkzeug auf Systeme oder Daten Dritter einwirken kann. Welche rechtlichen Pflichten gelten, hängt jedoch von den anwendbaren Vorschriften und den Umständen des jeweiligen Falls ab; die Äußerungen von Unternehmenschefs ersetzen diese Prüfung nicht.