Nützlicher Journalismus, um Unternehmen zu verstehen, zu führen und weiterzuentwickeln.
SuchenDer ehemalige Mitarbeiter, der dreieinhalb Jahre für das Unternehmen tätig war, bezeichnete dessen interne Kultur als „kaputt“ und forderte strengere Kontrollen für fortgeschrittene Modelle. OpenAI erklärt, seine Sicherheitsmaßnahmen zu verstärken.
David Robinson verließ OpenAI nach dreieinhalb Jahren und legte seine Kritik an der Unternehmenskultur und den Sicherheitspraktiken in einem in The Atlantic veröffentlichten Essay dar. Der ehemalige Mitarbeiter, der an Sicherheitsberichten zu Modellveröffentlichungen mitgewirkt hatte, bezeichnete die interne Kultur als „kaputt“ und vertrat die Ansicht, dass die rasante Entwicklung künstlicher Intelligenz strengere Kontrollen erfordert.
Robinson stellte den Ansatz infrage, den OpenAI als iterative Einführung bezeichnet: Systeme veröffentlichen, ihr Verhalten im Einsatz beobachten und die Schutzmaßnahmen anhand der festgestellten Probleme anpassen. Seiner Ansicht nach reicht diese Methode angesichts des Tempos, mit dem sich die Fähigkeiten der Modelle entwickeln, und der möglichen Tragweite ihrer Fehlfunktionen nicht aus.
Der ehemalige Mitarbeiter sprach sich dafür aus, bei den fortgeschrittensten Systemen Maßnahmen zu ergreifen, die hinsichtlich ihrer Strenge und Planung mit denen in kritischen Bereichen wie der Luftfahrt und der Kernenergie vergleichbar sind. Außerdem bezweifelte er, dass die derzeitigen Werkzeuge eine hinreichende Bewertung ermöglichen, ob die Systeme im Einklang mit menschlichen Werten handeln. Dies sind seine Einschätzungen und Vorschläge; die verfügbaren Informationen weisen sie nicht als unabhängig bestätigte Schlussfolgerungen aus.
Als Reaktion auf die Kritik erklärte der OpenAI-Sprecher Drew Pusateri, das Unternehmen verbessere seine Sicherheitsmechanismen weiterhin und könne das Training stoppen oder die Veröffentlichung von Modellen verzögern, wenn es dies für nötig halte, um das Tempo zu drosseln.
Pusateri wies außerdem darauf hin, dass das Unternehmen die Sicherheit seiner Forschungs- und Testumgebungen verstärke, externe Evaluatoren stärker einbeziehe und die Überwachung verbessere, um besorgniserregendes Verhalten in frühen Trainingsphasen zu erkennen. Die Antwort beschreibt Maßnahmen, die OpenAI zufolge derzeit eingeführt werden; sie entkräftet die von Robinson vorgebrachten Einwände für sich genommen nicht.
Der Weggang des Forschers erfolgt inmitten einer Debatte darüber, wie Unternehmen mit den Risiken fortgeschrittener Modelle umgehen sollten. Robinson vertritt die Auffassung, dass es nicht nur darum geht, weitere Regeln aufzustellen oder Gesetze zu verabschieden: Er fordert tiefgreifendere Veränderungen der Praktiken und Anreize, damit Sicherheit gegenüber dem Entwicklungstempo stärker ins Gewicht fällt. Die verfügbaren Quellen geben sowohl diese Kritik als auch die Antwort des Unternehmens wieder, bieten jedoch keine unabhängige Bewertung, anhand derer sich das Ausmaß der beanstandeten Mängel bestimmen ließe.
Die Staatsanwaltschaft ist der Auffassung, dass die Sachverhalte keine Straftat darstellen. Ihr Antrag kommt jedoch keinem Freispruch gleich: Das Verfahren muss vor dem Provinzgericht Madrid seinen weiteren Lauf nehmen.
Beitrag lesenDas Treffen begann am 7. Oktober in Valletta und brachte mehr als 1.000 Delegierte aus über 100 Ländern zusammen. Der WTTC prognostiziert für Europa im Jahr 2026 ein Wachstum des Tourismus von 3,1 %.
Beitrag lesen
Das Gesetz aktualisiert den katalanischen Rechtsrahmen von 2002, regelt die Organisation und Finanzierung der Kammern und ermöglicht Sitze für Unternehmen, die freiwillig höhere Beiträge leisten. Der Consell de Garanties Estatutàries hatte den Text zuvor gebilligt.
Beitrag lesen