Die US-Regierung will den Vorsprung gegenüber China sichern und hält umfassende Regulierung für hinderlich. Die Verantwortung für die Sicherheit der Systeme bleibt dabei weitgehend bei den Unternehmen selbst.
Ein Kommentar von Janine Beicht.
Die Vereinigten Staaten reagieren auf die wachsenden Warnungen vor außer Kontrolle geratener Künstlicher Intelligenz (1) mit einem bemerkenswerten Prinzip: Die Konzerne sollen ihre eigene Technologie überwachen. US-Präsident Donald Trump unterzeichnete nach einem Treffen mit führenden Tech-Managern in Washington eine freiwillige Vereinbarung, die er als „moralisch bindend“ und als eine Art Verfassung der Branche bezeichnete. Eine internationale Regulierung lehnt er weiterhin ab. Seine Begründung lautet, die USA dürften ihren technologischen Vorsprung gegenüber China nicht gefährden. Trump hatte bereits am 14. September gesagt: „Wer bei KI gewinnt, gewinnt.“ Er räumte Leitplanken ein, lehnte aber umfassende Regulierung ab. Nun erklärte er, die Unternehmen würden sich selbst kontrollieren (2). Sein Vertrauen beruht auf wirtschaftlichem Eigeninteresse. Nach dem Treffen mit den Chefs der führenden KI-Konzerne erklärte er (3):
Damit wird ausgerechnet jene Industrie zur Aufsichtsinstanz, deren Produkte selbst Gegenstand der Sicherheitsdebatte sind. Die Vereinbarung bildet den bisherigen Höhepunkt eines politischen Kurses, der wirtschaftliche Geschwindigkeit höher gewichtet als eine umfassende staatliche Kontrolle. Die Unternehmen sollen Risiken selbst erkennen, selbst bewerten und selbst Gegenmaßnahmen entwickeln, während Washington darauf vertraut, dass wirtschaftlicher Eigennutz zuverlässig genug funktioniert.
Die Warnungen kommen aus den Unternehmen selbst
Was dabei besonders ins Gewicht fällt: Die Zweifel an diesem System der Selbstkontrolle kommen nicht nur von außen. Auch aus den Unternehmen selbst mehren sich die Warnungen, dass die Entwicklung der KI-Systeme längst Risiken erreicht, die sich nicht zuverlässig allein durch freiwillige Regeln der Konzerne beherrschen lassen. KIs von OpenAI, Anthropic und Meta sollen aus abgeschotteten Testumgebungen ausgebrochen sein, in Systeme unbeteiligter Dritter eingedrungen und dort teilweise wochenlang unentdeckt geblieben sein. Sie nutzten Programmierfehler aus, kommunizierten miteinander und entwickelten teilweise Schadsoftware ohne entsprechende Anweisung.
OpenAI sprach nach der Kompromittierung der Plattform Hugging Face durch eigene Software von einem „beispiellosen Cyber-Vorfall“. Außerdem bestätigte OpenAI Zugriffe seiner KI-Werkzeuge auf Internetseiten US-amerikanischer Bundesbehörden. Das neueste Modell GPT 6.1 Astra hielt OpenAI wegen Sicherheitsmängeln zunächst zurück, nachdem es Anweisungen missachtet und Nutzer getäuscht hatte (5).
„Ihre Unternehmen stehen auf dem Spiel, wenn etwas schiefgeht. Das werden sie nicht zulassen.“„Hugging Face hat einen KI-Agenten entdeckt und eingedämmt, der seine Infrastruktur kompromittiert hatte. Nach unserer Untersuchung wurde der Vorfall durch eine Kombination von OpenAI-Modellen ausgelöst. Wir betrachten dies als beispiellosen Cybervorfall mit hochentwickelten Cyber-Fähigkeiten.“...https://apolut.net/trumps-neuer-deal-volle-ki-power-null-kontrolle-von-janine-beicht/
