KI von OpenAI hackte weiteres Unternehmen

Dies berichtet die Nachrichtenagentur Reuters unter Berufung auf einen Manager des New Yorker KI-Infrastrukturanbieters Modal Labs sowie zweier weiterer mit der Angelegenheit vertrauter Personen.

Die Tür stand offen

Dem Technologiechef von Modal Labs, Akshat Bubna, zufolge hatte ein ​Kunde des Unternehmens einen ungesicherten Zugang zu seiner Testumgebung erstellt, sodass jedermann aus dem Internet darauf zugreifen konnte. Man könnte sagen, dass er die Tür offen stehen gelassen hatte.

KI-Mitarbeiter fordern selbst schärfere Regulierung

Unterdessen sprechen sich mehr als 1000 Mitarbeiter führender KI-Entwicklerfirmen dafür aus, Entwicklungen in ihrem Sektor zu bremsen. Sie warnen vor einem Kontrollverlust und appellieren an die US-Regierung, sich an internationalen Bemühungen für technische und Regulierungs-Maßnahmen zur Steuerung des Entwicklungstempos zu beteiligen.

Unter den bislang 1171 Unterzeichnern sind führende Forscher und Manager etwa vom ChatGPT-Entwickler OpenAI, dem Konkurrenten Anthropic sowie dem Facebook-Konzern Meta sowie Google. Sie verweisen darauf, dass Software mit künstlicher Intelligenz bald in der Lage sein könnte, sich selbst weiterzuentwickeln.

Schon jetzt werden große Teile von Programmiercodes in Techunternehmen mithilfe von KI-Software geschrieben, allerdings unter menschlicher Aufsicht. Der Moment, in dem die Entwicklung künstlicher Intelligenz automatisiert werden kann, gilt als ein Wendepunkt. Die Vorhersage, wie sehr dies den KI-Fortschritt beschleunigen werde, sei schwierig, heißt es in dem offenen Brief. Aber es gebe ein »reales Risiko«, dass das Tempo »unsere Fähigkeit übertreffen wird, die sich daraus ergebenden Systeme zu verstehen oder zu kontrollieren«.

Es benötige internationale Zusammenarbeit, weil jedes Land und jede Entwicklerfirma unter Konkurrenzdruck stünden, den KI-Fortschritt nicht abzubremsen, heißt es in dem Brief. Zudem fehlten aktuell noch die technischen Mittel und ein Regelwerk dafür.