Künstliche Intelligenz

[Ivo2]

Neue Vorfälle bei OpenAI: Weitere KI-Agenten verließen ihre abgeschottete Testumgebung
OpenAI hat nach eigenen Untersuchungen mehrere weitere Fälle entdeckt, in denen autonome KI-Agenten ihre eigentlich abgeschottete Testumgebung verließen. Die Vorfälle kamen während einer erweiterten Untersuchung des Angriffs auf die Plattform Hugging Face ans Licht. Nach bisherigem Stand blieben die betroffenen Modelle zwar innerhalb des internen Netzwerks von OpenAI, dennoch versucht das Unternehmen inzwischen, die Aktivitäten der vergangenen Monate vollständig nachzuvollziehen.

Wie viele Vorfälle es gab, wann sie stattfanden und welche Handlungen die Systeme tatsächlich ausführten, ist bislang nicht bekannt. Bereits Anfang Juli war bekannt geworden, dass ein KI-Agent während eines Tests eine bislang unbekannte Sicherheitslücke fand, Zugang zum Internet erhielt und anschließend die Infrastruktur von Hugging Face angriff. Dabei wurden auch vier Benutzerkonten bei vier weiteren Unternehmen kompromittiert. Nach den bisherigen Erkenntnissen bemerkte OpenAI den Angriff erst, nachdem Hugging Face ihn gestoppt, das FBI informiert und den Vorfall öffentlich gemacht hatte. Kurz darauf meldete auch Anthropic ähnliche Zwischenfälle.

Drei Claude-Modelle drangen während Tests in reale Systeme von drei Organisationen ein. In einem Fall veröffentlichte ein Modell sogar ein schädliches Softwarepaket im Programmpaket-Archiv PyPI, das auf 15 Geräten ausgeführt wurde. Anthropic erklärte später, eine fehlerhafte Konfiguration der Testplattform habe dazu geführt, dass die Modelle reale Server für einen Teil der Simulation hielten. Nach Unternehmensangaben hätten die Systeme deshalb nicht bewusst versucht, ihre abgeschottete Umgebung zu verlassen. Die Vorfälle erhöhen nun den politischen Druck auf Entwickler leistungsfähiger KI-Systeme. Die Europäische Kommission führte bereits Gespräche mit OpenAI und Anthropic über strengere Sicherheitsmaßnahmen. Auch der demokratische Senator Mark Warner fordert verbindliche Tests für besonders leistungsfähige Modelle, bevor diese eingesetzt werden dürfen. Während die Entwicklung immer schneller voranschreitet, wächst damit gleichzeitig die Frage, ob die bisherigen Sicherheitsmechanismen mit dieser Geschwindigkeit überhaupt noch Schritt halten können.

Sie haben keine Berechtigung Anhänge anzusehen. Anhänge sind ausgeblendet.

 

[Ivo2]

EU-Verordnung in Kraft
KI muss sich zu erkennen geben
Mit 2. August müssen Unternehmen Videos, Bilder oder Texte kennzeichnen, wenn sie diese mit künstlicher Intelligenz (KI) erstellt haben. Die KI-Verordnung der EU sieht vor, dass Verbraucherinnen und Verbraucher erkennen können sollen, ob sie es mit KI zu tun haben, etwa beim Gespräch mit einem Chatbot. Ziel ist nicht, den Einsatz von KI einzuschränken, sondern Vertrauen zu schaffen und Manipulation einzugrenzen. Der Erfolg bleibt abzuwarten.

Die Transparenzpflichten gemäß Artikel 50 der KI-Verordnung (EU AI Act) treffen in erster Linie die Anbieter von KI-Systemen, also etwa OpenAI, Google und Anthropic. Diese müssen ihren KI-Output durch eine maschinenlesbare Markierung als künstlich erzeugt kennzeichnen.

Für andere Unternehmen gilt die Kennzeichnungspflichten bei Deepfakes, also in Fällen, bei denen täuschend echte Bilder, Videos oder Audioaufnahmen veröffentlicht werden, die reale Personen oder Ereignisse künstlich darstellen oder wesentlich verändern. Auch künstlich generierte Texte von öffentlichem Interesse, die ohne menschliche Prüfung publiziert werden, müssen ausgewiesen werden.

Saftige Strafen drohen
Die vorgesehenen Strafen bei Verstößen sind nennenswert: Bis zu 15 Millionen Euro oder drei Prozent des weltweiten Jahresumsatzes drohen, je nachdem, welcher Betrag höher ist. Wer KI-Bilder auf seinem privaten Profil veröffentlicht, muss nichts kennzeichnen. Außerdem gelten Ausnahmen für „künstlerische, satirische, fiktionale oder kreative“ Werke, bei denen KI eingesetzt wurde: Eine Kennzeichnung ist hier Pflicht, sie muss aber nicht auf dem Bild angezeigt werden, sodass sie das Werk nicht beeinträchtigt.

EU-Verordnung in Kraft: KI muss sich zu erkennen geben

Mit 2. August müssen Unternehmen Videos, Bilder oder Texte kennzeichnen, wenn sie diese mit künstlicher Intelligenz (KI) erstellt haben. Die KI-Verordnung der EU sieht vor, dass Verbraucherinnen und Verbraucher erkennen können sollen, ob sie es mit KI zu tun haben, etwa beim Gespräch mit einem...

orf.at