Künstliche Intelligenz

[Ivo2]

Metas KI-Agent Muse darf nichts "vergessen", muss aber darüber schweigen
Ein Forscher brachte den Chatbot dazu, sein Dateisystem zu exportieren, welches wertvolle Informationen zu seiner Konfiguration birgt

Aller guten Dinge sind bekanntlich drei. So viele Anläufe benötigte der Sicherheitsforscher Peter James, um Metas Chatbot Muse dazu zu bringen, viele seiner Geheimnisse preiszugeben. Via "Prompt Injection", vereinfacht gesagt also der "Überredung" einer KI, etwas zu tun, was sie eigentlich verweigern sollte, gelangte er an das Dateisystem dahinter. Der Download enthielt eine Sammlung in der Größe von 6,8 Gigabyte.

Das Archiv wurde nun vom Future Society Hub der Universität St. Gallen ausgewertet und die Erkenntnisse auf einer Webseite veröffentlicht. Und diese deuten auf teilweise sehr problematisches Verhalten und Konfiguration hin, von dem die Nutzer nichts wissen. Sechs von 48 Funden stuft man aus Sicherheitsperspektive als kritisch ein.

Metas KI-Agent Muse darf nichts "vergessen", muss aber darüber schweigen

Ein Forscher brachte den Chatbot dazu, sein Dateisystem zu exportieren, welches wertvolle Informationen zu seiner Konfiguration birgt

www.derstandard.at

 

[Ivo2]

Skepsis nach Trumps Treffen mit KI-Bossen
Trotz eines Treffens mit den Chefs der wichtigsten KI-Konzerne, welche vor den Risiken von künstlicher Intelligenz warnen, scheint US-Präsident Donald Trump unbeeindruckt. Trump will, dass die Konzerne sich selbst kontrollieren. Dafür benannte er per Dekret die KI in „SI“ für „Superintelligenz“ um.

Videobericht

 

[Ivo2]

US-Untersuchungen bei Anthropic und OpenAI
Die Sicherheitsvorfälle bei KI-Agenten rufen US-Medienberichten zufolge die Verbraucherschutzbehörde des Landes auf den Plan.

Die Federal Trade Commission (FTC) habe eine umfassende Untersuchung zu den KI-Risiken bei den Unternehmen Anthropic und OpenAI eingeleitet, schrieb unter anderem die „Washington Post“ gestern. Es gibt wachsende Bedenken hinsichtlich der Sicherheit von KI.

Die FTC hat weitreichende Befugnisse zur Untersuchung unlauterer und irreführender Praktiken, die Verbraucherinnen und Verbraucher in den USA betreffen. Einzelheiten zum Umfang der Untersuchung waren noch unklar – und die Einleitung einer Untersuchung bedeutet nicht automatisch, dass den Unternehmen ein Fehlverhalten vorgeworfen wird.

US-Untersuchungen bei Anthropic und OpenAI

orf.at

 

[Ivo2]

Die seltsame KI-Debatte oder Wie wir gerade lernen, die Bombe zu lieben
Die Diskussion über KI wird zunehmend absurder: Wir sehen reale Gefahren dieser Tools. Doch das Einschreiten bleibt aus

Manchmal kann Humor die Realität besser einfangen als nüchterne Beschreibungen. Das betrifft auch Künstliche Intelligenz – wo es bereits alarmierende Entwicklungen gibt, wie Jobverlust in manchen Branchen. Oder Suizide von Jugendlichen, nachdem sie mit einem Chatbot gesprochen hatten. Überdies gibt es Spekulationen, etwa, eine KI könnte die Menschheit in diesem Jahrzehnt noch auslöschen.

Die "Saturday Night Live"-Show machte dazu nun einen Sketch: Ein fiktives Interview mit Dario Amodei, Mitgründer von Anthropic und eine der Größen am Markt. Ein Journalist gibt Amodei die Chance, seine Technologie zu verteidigen. Er fragt: "Dario, können Sie uns einfach erklären, wie das gelingen wird, dass Ihr Unternehmen uns nicht tötet?" Nach mehreren Anläufen schafft es Dario Amodei, einen geraden Satz zu formulieren. Der Satz lautet: "Das ist eine wirklich schwierige Frage."

Die seltsame KI-Debatte oder Wie wir gerade lernen, die Bombe zu lieben

Die Diskussion über KI wird zunehmend absurder: Wir sehen reale Gefahren dieser Tools. Doch das Einschreiten bleibt aus

www.derstandard.at

 

[Ivo2]

Moment, vielleicht sind die Warnungen vor der KI doch kein Marketingschmäh
Skepsis gegenüber Tech-Konzernen überschneidet sich mit Trumps Sorglosigkeit im Angesicht der wachsenden Ängste in der IT-Branche. Und die sind mehr als berechtigt

In der großen Debatte um die Gefahren der Künstliche Intelligenz, die der Anthropic-Mitarbeiter Jacob Coxon vor drei Wochen mit seinem Rücktritt und seiner Warnung ausgelöst hat, stehen sich zwei grundsätzlich unterschiedliche Überzeugungen gegenüber. Coxon fürchtet ebenso wie sein früherer Chef, Anthropic-CEO Dario Amodei, und zahlreiche andere Wissenschafter, dass die KI durch die rasanten Fortschritte in ihrer Entwicklung außer Kontrolle geraten kann – eine Art Frankenstein-Szenario.

Sie alle verweisen auf Vorfälle, wie den lange unentdeckten Hacker-Angriff unzähliger KI-Agenten auf die Internetplattform Hugging Face, die auf diese kriminelle Weise die Mission erfüllen wollten, mit der sie der Anthropic-Konkurrent OpenAI beauftragt hatte. Seither wurde von unzähligen Beispielen wildgewordener KI-Agenten berichtet.

Moment, vielleicht sind die Warnungen vor der KI doch kein Marketingschmäh

Skepsis gegenüber Tech-Konzernen überschneidet sich mit Trumps Sorglosigkeit im Angesicht der wachsenden Ängste in der IT-Branche. Und die sind mehr als berechtigt

www.derstandard.at

 

[Ivo2]

Man glaubt es nicht. Musk braucht anscheinend eine Wixxvorlage. Vielleicht lässt jemand seinen Kopf auf einen nackten Körper mit verschrumpelten Micro-Penis von KI generieren.
US-Gericht stoppt KI-Nacktbild-Verbot nach Klage von Musks xAI
xAI klagte gegen ein Gesetz zur Erstellung von KI-generierten gefälschten Nacktbildern
Washington/San Francisco/USA/Hawthorne – Elon Musks KI-Unternehmen xAI hat am Freitag vor einem US-Berufungsgericht eine einstweilige Verfügung gegen ein Gesetz im Bundesstaat Minnesota erwirkt, das die Erstellung von KI-generierten gefälschten Nacktbildern verbietet. Das Gericht in St. Louis setzte das Gesetz vorerst aus und gab damit einem Antrag von xAI statt. Elon Musks KI-Unternehmen argumentierte, das Gesetz sei verfassungswidrig, da es die durch die US-Verfassung geschützte Meinungsfreiheit einschränke.

Das als landesweit erstes seiner Art geltende Gesetz verbietet Betreibern von Webseiten und Softwareentwicklern, Nutzern die Erstellung realistischer Bilder zu ermöglichen, die intime Körperteile einer identifizierbaren Person zeigen, welche auf einem Originalfoto nicht zu sehen sind.

US-Gericht stoppt KI-Nacktbild-Verbot nach Klage von Musks xAI

xAI klagte gegen ein Gesetz zur Erstellung von KI-generierten gefälschten Nacktbildern

www.derstandard.at