Metas KI-Agent Muse darf nichts "vergessen", muss aber darüber schweigen
Ein Forscher brachte den Chatbot dazu, sein Dateisystem zu exportieren, welches wertvolle Informationen zu seiner Konfiguration birgt
Aller guten Dinge sind bekanntlich drei. So viele Anläufe benötigte der Sicherheitsforscher Peter James, um Metas Chatbot Muse dazu zu bringen, viele seiner Geheimnisse preiszugeben. Via "Prompt Injection", vereinfacht gesagt also der "Überredung" einer KI, etwas zu tun, was sie eigentlich verweigern sollte, gelangte er an das Dateisystem dahinter. Der Download enthielt eine Sammlung in der Größe von 6,8 Gigabyte.
Das Archiv wurde nun vom Future Society Hub der Universität St. Gallen ausgewertet und die Erkenntnisse auf einer Webseite veröffentlicht. Und diese deuten auf teilweise sehr problematisches Verhalten und Konfiguration hin, von dem die Nutzer nichts wissen. Sechs von 48 Funden stuft man aus Sicherheitsperspektive als kritisch ein.
www.derstandard.at
Ein Forscher brachte den Chatbot dazu, sein Dateisystem zu exportieren, welches wertvolle Informationen zu seiner Konfiguration birgt
Aller guten Dinge sind bekanntlich drei. So viele Anläufe benötigte der Sicherheitsforscher Peter James, um Metas Chatbot Muse dazu zu bringen, viele seiner Geheimnisse preiszugeben. Via "Prompt Injection", vereinfacht gesagt also der "Überredung" einer KI, etwas zu tun, was sie eigentlich verweigern sollte, gelangte er an das Dateisystem dahinter. Der Download enthielt eine Sammlung in der Größe von 6,8 Gigabyte.
Das Archiv wurde nun vom Future Society Hub der Universität St. Gallen ausgewertet und die Erkenntnisse auf einer Webseite veröffentlicht. Und diese deuten auf teilweise sehr problematisches Verhalten und Konfiguration hin, von dem die Nutzer nichts wissen. Sechs von 48 Funden stuft man aus Sicherheitsperspektive als kritisch ein.
Metas KI-Agent Muse darf nichts "vergessen", muss aber darüber schweigen
Ein Forscher brachte den Chatbot dazu, sein Dateisystem zu exportieren, welches wertvolle Informationen zu seiner Konfiguration birgt