Toruko-jin
Jackass of the Week
Ich habe jetzt Gemini mal unter die Lupe genommen. Sprachlich ist Chatgpt wesentlich weiter aber auf der anderen Seite kann bei der Analyse von Multimediadaten GPT nicht mit Gemini mithalten.
-
Herzlich Willkommen im Balkanforum
Sind Sie neu hier? Dann werden Sie Mitglied in unserer Community.
Bitte hier registrieren
Künstliche Intelligenz
- Ersteller Ivo2
- Erstellt am
Anthropic-KI reichte falschen Hinweis auf Polizeiseite ein
Künstliche Intelligenz der Entwicklerfirma Anthropic hat in einem Testlauf einen falschen Hinweis auf einer Polizeiwebsite zur Aufklärung ungelöster Mordfälle eingereicht.
In einem weiteren Zwischenfall füllte die KI-Software Formulare auf einer US-Regierungsseite – wohl 20 Visaanträge – aus, wie Anthropic in einem Blog bekannt gab. In den vergangenen Wochen wurden bereits verschiedene Vorfälle vor allem von KI des ChatGPT-Entwicklers und Anthropic-Rivalen OpenAI bekannt.
Die Unternehmen trainieren aktuell so genannte KI-Agenten – also Software, die im Auftrag der Nutzer weitgehend autonom verschiedene Aufträge erfüllen soll. Die von Anthropic aufgelisteten Vorfälle gehen direkt auf Versuche zurück, die KI für alle möglichen Online-Aufgaben vorzubereiten.
Einreichung als Spam markiert
Den Fake-Hinweis zu einem ungeklärten Mord reichte Anthropics KI über eine Website der Polizei von Philadelphia ein. „Ich könnte Informationen zu diesem Fall haben“, schrieb die Software demnach.
Künstliche Intelligenz der Entwicklerfirma Anthropic hat in einem Testlauf einen falschen Hinweis auf einer Polizeiwebsite zur Aufklärung ungelöster Mordfälle eingereicht.
In einem weiteren Zwischenfall füllte die KI-Software Formulare auf einer US-Regierungsseite – wohl 20 Visaanträge – aus, wie Anthropic in einem Blog bekannt gab. In den vergangenen Wochen wurden bereits verschiedene Vorfälle vor allem von KI des ChatGPT-Entwicklers und Anthropic-Rivalen OpenAI bekannt.
Die Unternehmen trainieren aktuell so genannte KI-Agenten – also Software, die im Auftrag der Nutzer weitgehend autonom verschiedene Aufträge erfüllen soll. Die von Anthropic aufgelisteten Vorfälle gehen direkt auf Versuche zurück, die KI für alle möglichen Online-Aufgaben vorzubereiten.
Einreichung als Spam markiert
Den Fake-Hinweis zu einem ungeklärten Mord reichte Anthropics KI über eine Website der Polizei von Philadelphia ein. „Ich könnte Informationen zu diesem Fall haben“, schrieb die Software demnach.
Zeus
Geek
Was würde passieren, wenn ICH einen falschen Hinweis einreichen würde? Gäbe es da keine Konsequenzen? Die Diskussionen über Verantwortlichkeiten bei Unfällen gab es ja schon bei den Ideen ums selbstfahrende Auto. Kam da absolut nichts raus? Übernimmt niemand Verantwortung, der die Konsequenzen erfahren kann/muss?Anthropic-KI reichte falschen Hinweis auf Polizeiseite ein
Künstliche Intelligenz der Entwicklerfirma Anthropic hat in einem Testlauf einen falschen Hinweis auf einer Polizeiwebsite zur Aufklärung ungelöster Mordfälle eingereicht.
In einem weiteren Zwischenfall füllte die KI-Software Formulare auf einer US-Regierungsseite – wohl 20 Visaanträge – aus, wie Anthropic in einem Blog bekannt gab. In den vergangenen Wochen wurden bereits verschiedene Vorfälle vor allem von KI des ChatGPT-Entwicklers und Anthropic-Rivalen OpenAI bekannt.
Die Unternehmen trainieren aktuell so genannte KI-Agenten – also Software, die im Auftrag der Nutzer weitgehend autonom verschiedene Aufträge erfüllen soll. Die von Anthropic aufgelisteten Vorfälle gehen direkt auf Versuche zurück, die KI für alle möglichen Online-Aufgaben vorzubereiten.
Einreichung als Spam markiert
Den Fake-Hinweis zu einem ungeklärten Mord reichte Anthropics KI über eine Website der Polizei von Philadelphia ein. „Ich könnte Informationen zu diesem Fall haben“, schrieb die Software demnach.
Entscheidend wäre, was du wusstest, was du behauptet hast und welche Folgen dein Hinweis hatte. Bei einem bewusst falschen Hinweis eines Menschen gibt es unter bestimmten Voraussetzungen strafrechtliche Konsequenzen. Bei einem falschen Hinweis einer KI muss untersucht werden, welche Menschen oder Unternehmen für deren Einsatz, Konstruktion und Absicherung verantwortlich waren.
Das eigentliche Problem ist deshalb nicht, dass eine Maschine keine Schuld empfindet. Das Problem wäre, wenn eine Maschine reale Schäden verursachen kann und sich anschließend jeder Beteiligte darauf beruft, dass letztlich die Maschine gehandelt habe.
Eine vernünftige Regel müsste lauten: Wer ein automatisiertes System einsetzt und ihm die Befugnis zu folgenreichen Handlungen gibt, muss auch dafür sorgen, dass Fehler verhindert, aufgeklärt und angemessen ausgeglichen werden können.
Denn sonst hätten wir tatsächlich eine gefährliche Schieflage: Die Vorteile der Automatisierung würden privat genutzt, während die Risiken und Schäden bei der Allgemeinheit oder bei unschuldigen Betroffenen landeten.
„KI-Würmer“ in Küche
Microsoft-Vize gegen „Laissez-faire“ bei KI
Nach neuen Warnungen des KI-Herstellers Anthropic, wonach „KI-Würmer“ selbst in smarte Küchengeräte eindringen könnten, hat am Dienstag Microsoft-Vize Brad Smith „reale und effektive“ Regeln für künstliche Intelligenz (KI) gefordert. Im Vorfeld eines KI-Gipfels in Dublin sagte er, dass „Laissez-faire“ nicht „funktionieren“ würde. Die EU-Regeln seien für ihn gleichzeitig aber kein Vorbild. Es müsse jedenfalls „dringend“ gehandelt werden, da KI schnellere Fortschritte mache als die nötige Sicherheit.
Im Zuge des Gesprächs mit Journalistinnen und Journalisten in der irischen Hauptstadt, bei dem auch ORF.at anwesend war, griff Smith die Warnung des KI-Riesen Anthropic auf – und sprach sich für eine Möglichkeit zur Notabschaltung aus. „Wenn man zu Hause eine KI die eigenen Geräte steuern lassen will, dann sollte man die Möglichkeit haben, diese KI abzuschalten.“ Anthropic warnte davor, dass schadhafte „KI-Würmer“ in naher Zukunft smarte Geräte befallen, sich weiterverbreiten und so zur Gefahr werden könnten. „Ich glaube nicht, dass irgendjemand so etwas in seinem Zuhause haben will“, so Smith.
Schon tags zuvor sagte Smith gegenüber der BBC, dass es für Milchpackerln strengere Regeln gebe als für KI. Deshalb brauche es jetzt „reale und effektive Sicherheitsstandards“. Diesen müssten die Menschen auch „vertrauen“, das könne aber nur der Fall sein, wenn „Regierungen, denen wir vertrauen“ diese Regeln beschließen – und gegebenenfalls auch deren Einhaltung überprüfen.
orf.at
Microsoft-Vize gegen „Laissez-faire“ bei KI
Nach neuen Warnungen des KI-Herstellers Anthropic, wonach „KI-Würmer“ selbst in smarte Küchengeräte eindringen könnten, hat am Dienstag Microsoft-Vize Brad Smith „reale und effektive“ Regeln für künstliche Intelligenz (KI) gefordert. Im Vorfeld eines KI-Gipfels in Dublin sagte er, dass „Laissez-faire“ nicht „funktionieren“ würde. Die EU-Regeln seien für ihn gleichzeitig aber kein Vorbild. Es müsse jedenfalls „dringend“ gehandelt werden, da KI schnellere Fortschritte mache als die nötige Sicherheit.
Im Zuge des Gesprächs mit Journalistinnen und Journalisten in der irischen Hauptstadt, bei dem auch ORF.at anwesend war, griff Smith die Warnung des KI-Riesen Anthropic auf – und sprach sich für eine Möglichkeit zur Notabschaltung aus. „Wenn man zu Hause eine KI die eigenen Geräte steuern lassen will, dann sollte man die Möglichkeit haben, diese KI abzuschalten.“ Anthropic warnte davor, dass schadhafte „KI-Würmer“ in naher Zukunft smarte Geräte befallen, sich weiterverbreiten und so zur Gefahr werden könnten. „Ich glaube nicht, dass irgendjemand so etwas in seinem Zuhause haben will“, so Smith.
Schon tags zuvor sagte Smith gegenüber der BBC, dass es für Milchpackerln strengere Regeln gebe als für KI. Deshalb brauche es jetzt „reale und effektive Sicherheitsstandards“. Diesen müssten die Menschen auch „vertrauen“, das könne aber nur der Fall sein, wenn „Regierungen, denen wir vertrauen“ diese Regeln beschließen – und gegebenenfalls auch deren Einhaltung überprüfen.
„KI-Würmer“ in Küche: Microsoft-Vize gegen „Laissez-faire“ bei KI
Nach neuen Warnungen des KI-Herstellers Anthropic, wonach „KI-Würmer“ selbst in smarte Küchengeräte eindringen könnten, hat am Dienstag Microsoft-Vize Brad Smith „reale und effektive“ Regeln für künstliche Intelligenz (KI) gefordert. Im Vorfeld eines KI-Gipfels in Dublin sagte er, dass...
orf.at