Aktuelles
  • Herzlich Willkommen im Balkanforum
    Sind Sie neu hier? Dann werden Sie Mitglied in unserer Community.
    Bitte hier registrieren

Künstliche Intelligenz

KI-Unternehmen kaufen alte Bücher tonnenweise auf – weil sie den eigenen Systemen nicht mehr trauen
London (KB) – Ausgerechnet im Zeitalter der Künstlichen Intelligenz werden alte Papierbücher plötzlich zur begehrten Ware. Unternehmen, die neue KI-Modelle entwickeln, kaufen derzeit weltweit gebrauchte Bücher in riesigen Mengen auf. Der Grund ist ungewöhnlich einfach. Bücher, die vor 2022 gedruckt wurden, enthalten garantiert keine Texte, die bereits von einer anderen KI geschrieben wurden. Genau das macht sie für die Entwicklung neuer Systeme plötzlich wertvoller als ein großer Teil des heutigen Internets. Nach Angaben der Buchdatenbank ISBNdb bestellen einzelne Kunden zwischen 1.000 und einer Million Bücher auf einmal. Alte Druckwerke gelten als saubere Datenquelle. Im Internet hingegen wächst der Anteil automatisch erzeugter Inhalte rasant. Werden KI-Systeme immer wieder mit Texten anderer KI-Systeme trainiert, droht ein sogenannter Modellkollaps. Die Programme übernehmen Fehler, verstärken sie gegenseitig und liefern mit der Zeit schlechtere Ergebnisse.

Hinzu kommt ein weiteres Problem. Autoren, die ihre Werke vor dem Training von KI schützen wollen, bauen inzwischen bewusst Inhalte ein, die Modelle verwirren oder falsche Antworten fördern sollen. Alte Bücher kennen solche Manipulationen nicht. Genau deshalb steigt ihre Nachfrage. Der Boom verändert inzwischen auch den Antiquariatsmarkt. Buchhändler berichten, dass sie statt einiger Dutzend Exemplare plötzlich Hunderte Bücher pro Woche verkaufen. Die Käufer achten weder auf Themen noch auf Preise. Entscheidend ist nur, dass die Bücher eine ISBN besitzen und möglichst vor dem großen KI-Boom erschienen sind. Besonders umstritten ist, was anschließend mit vielen dieser Bücher geschieht. Für das Einscannen werden die Buchrücken abgeschnitten, die Seiten einzeln digitalisiert und die gedruckten Exemplare anschließend vernichtet. Ein US-Bundesrichter erklärte dieses Vorgehen zuletzt für zulässig, weil die digitalen Kopien das Unternehmen nicht verlassen und die Originale zerstört werden. Kritiker sehen dennoch einen kulturellen Verlust. Gerade seltene und kleine Auflagen verschwinden damit für immer aus den Regalen – nicht weil sie niemand mehr lesen will, sondern weil Maschinen sie lesen sollen.
 
Der Fall OpenAI: Wer haftet, wenn KI Schäden verursacht?
Moderne KI entwickelt eigene Lösungswege. Was passiert, wenn dabei Fehler entstehen? Ein Überblick über Verantwortung und Haftung

Die Berichte der vergangenen Tage klingen wie ein Drehbuch aus der Welt der Science-Fiction: Im Rahmen eines Sicherheitstests soll ein KI-System von OpenAI versucht haben, die Grenzen einer abgeschotteten Testumgebung zu überwinden. Es soll sich Zugang zum Internet verschafft und die Infrastruktur von Hugging Face manipuliert haben, um ein vorgegebenes Testziel zu erreichen. OpenAI hat dafür öffentlich Verantwortung übernommen.

Gerade die zunehmende Eigenständigkeit von KI-Systemen macht den Fall juristisch relevant. Denn mit der Fähigkeit, eigene Handlungsschritte zu entwickeln, verschiebt sich die klassische Grenze zwischen technischem Werkzeug und menschlicher Verantwortung. Die entscheidende Frage lautet daher: Wer haftet, wenn ein KI-System eigenständig handelt und daraus ein Schaden entsteht?

 
KI ohne Bremse: Der Weg in eine ungewisse Zukunft
Der Hackerangriff der OpenAI-KI ist fast wieder vergessen. KI ist Wirtschaftstreiber und unser tägliches Werkzeug. Regulierung? Bitte später

Die Menschheit ächzt unter Überforderung. Aber obwohl wir es nicht einmal schaffen, Frieden auf der Welt zu sichern oder ein brauchbares Social-Media-Gesetz für Kinder und Jugendliche auf den Boden zu bringen, halsen wir uns mit dem völlig unregulierten KI-Boom unsere vielleicht letzte Bürde auf.

Der Vorfall bei OpenAI, wo eine KI – ob PR-Stunt oder nicht – aus einer Testumgebung ausbrechen und mangels menschlicher Barrieren einen Hackerangriff auf ein externes Unternehmen durchführen konnte, hat in den vergangenen Tagen für viele Fragezeichen gesorgt. Regulieren wir KI etwa zu wenig? Kommt doch der Terminator und löscht uns aus, bevor wir es selbst tun können?

Man fährt mit Vollgas
Experten lächeln darüber nur müde – vor allem deshalb, weil sie schon sehr lange nach mehr Regulierung für KI schreien. Aber im Wettrennen zwischen den USA und China wird nicht gekleckert. Man fährt mit Vollgas, ohne eine Bremse eingebaut zu haben, wie es ein Kollege von der Zeit so schön beschrieben hat.

 
Meta nutzt für Wohlfühl-KI-Werbung einen Bowie-Song über das Ende der Welt
Der Instagram-Hersteller beweist einmal mehr, dass es sich lohnt, den gesamten Text eines Liedes zu lesen. Das Unternehmen ist mit solchen Pannen aber nicht alleine

Mit Musik ist das so eine Sache: Nur weil die Melodie eines Liedes locker und leicht klingt, heißt das noch lange nicht, dass der Text ebenso harmlos ist. Eine zugegeben nicht sonderlich neue Erkenntnis – außer man arbeitet in der Werbeabteilung von Meta, wie es scheint.

Fünf Jahre noch
In einem neuen Werbespot verwendet der Instagram-Hersteller den David-Bowie-Song "Five Years", um die eigene Botschaft über die vermeintlichen Segnungen durch Künstliche Intelligenz zu transportieren. Das Problem dabei: Offenbar hat sich bei Meta niemand das Lied komplett angehört.

Während Meta ausgewählte Textpassagen wie "Call us optimists, call us dreamers, call us whatever the hell you want — but we’re betting on people, and we like those odds" (Nennt uns Optimisten, nennt uns Träumer, nennt uns, wie ihr wollt – aber wir setzen auf die Menschen, und diese Chancen gefallen uns) verwendet, blendet man den Rahmen komplett aus, wie Wired betont. In diesem Fall: Dass der Song vor dem Hintergrund des Weltuntergangs spielt.

 
Hirn aus, KI an: Kann man so einfach Geld verdienen?
Ein Vibecoding-Experiment zeigt, wie rasant sich KI-Tools weiterentwickeln und warum der Mensch trotzdem im Zentrum bleibt

Samstag, 39 Grad Außentemperatur, eine Familie mit Baby in einer Wiener Dachgeschosswohnung – der perfekte Zeitpunkt für ein Experiment also. Die Frage dahinter: Wie weit kommt man mit Künstlicher Intelligenz, wenn man höchstens die halbe Hirnleistung investiert und ein Large Language Model (LLM) einfach machen lässt? Das Ergebnis war erstaunlich und ernüchternd zugleich, und ganz ohne menschlichen Eingriff ging es dann doch nicht. So viel sei vorweg verraten.

Knapp vier Jahre ist es her, dass OpenAI mit ChatGPT die Büchse der KI-Pandora geöffnet hat. Seither drängt KI in immer mehr Lebens- und Arbeitsbereiche, und gleichzeitig ist eine gesellschaftliche Schere aufgegangen: hier jene, die KI kategorisch ablehnen, dort jene, die 24/7 damit herumspielen. Fakt ist: In einigen Bereichen sind LLMs zu nützlichen Werkzeugen geworden, die nicht mehr verschwinden werden.

 
KI-„Ausbruch“: US-Tech-Firmen gründen Sicherheitsallianz
Nach dem ersten bekanntgewordenen eigenständigen Hackerangriff künstlicher Intelligenz (KI) haben mehr als 30 US-Technologieunternehmen eine Sicherheitsallianz gegründet.

Dem Bündnis namens Open Secure AI Alliance gehören Konzerne wie IBM, Nvidia, Microsoft und Palantir an, wie es gestern in einer Erklärung der Unternehmen hieß. Sie setzen zur Lösung des Problems ebenfalls auf KI und warnten die Politik vor einer stärkeren Regulierung.

Konkret wollen die Unternehmen Open-Source-Modelle künstlicher Intelligenz zur Cyberabwehr bereitstellen. Programmierer sollen diese dann weiterentwickeln.

Bei dem Vorfall Mitte Juli hatten sich KI-Modelle des Unternehmens OpenAI selbstständig gemacht und die Programmierplattform Hugging Face gehackt. Sie brachen dabei aus einer Sicherheitsumgebung aus und verschafften sich Zugang zum Internet. Das heizte Befürchtungen an, besonders fortgeschrittene KI-Modelle seien unkontrollierbar.

 
Fachleute fordern von US-Regierung „KI-Bremse“
Mehr als 1.000 Mitarbeitende führender KI-Entwicklerfirmen sprechen sich dafür aus, die Voraussetzungen zum Bremsen des Fortschritts bei künstlicher Intelligenz zu schaffen.

Sie warnen vor einem Kontrollverlust und appellieren an die US-Regierung, sich an internationalen Bemühungen für technische und Regulierungsmaßnahmen zur Steuerung des Entwicklungstempos zu beteiligen.

Unter den 1.171 Unterzeichnerinnen und Unterzeichnern sind führende Forschende und Manager etwa des ChatGPT-Entwicklers OpenAI, seines Konkurrenten Anthropic, des Facebook-Konzerns Meta und von Google. Sie verweisen darauf, dass Software mit künstlicher Intelligenz bald in der Lage sein könnte, sich selbst weiterzuentwickeln.

„Reales Risiko“
Schon jetzt werden große Teile des Programmiercodes in Tech-Unternehmen von KI-Software geschrieben, aber unter menschlicher Aufsicht. Der Moment, in dem die Entwicklung künstlicher Intelligenz automatisiert werden kann, gilt als ein Wendepunkt.

 
Debatte über KI-Bremse nimmt Fahrt auf
Anthropic-Chef Dario Amodei und mehr als 1.000 teils führende Mitarbeitende in großen KI-Unternehmen haben die US-Regierung am Dienstag in einer Petition zur Mithilfe dabei aufgefordert, die Veröffentlichung der fortschrittlichsten Modelle künstlicher Intelligenz (KI) zu verlangsamen. Hintergrund ist nicht nur der Cyberangriff eines „ausgebrochene“ OpenAI-KI-Agenten auf eine andere KI-Plattform, sondern auch die chinesische Konkurrenz.

Die Unterzeichner der Petition fordern, „dass die US-Regierung internationale Bemühungen unterstützt, die notwendigen technischen und regulatorischen Werkzeuge zu entwickeln, um die Grenzen der Entwicklung automatisierter KI bewusst zu steuern“.

Unter den Unterzeichnerinnen und Unterzeichnern sind die Forschungsleiter von ChatGPT-Entwickler OpenAI und Meta AI sowie der Strategieleiter der Google-Tochter DeepMind. „Die weltweit führenden KI-Unternehmen glauben, dass sie kurz davor stehen könnten, die KI-Forschung zu automatisieren“, heißt es in dem Petitionstext.

 
Auch Anthropic-KI hackte bei Tests drei Unternehmen
Wenige Wochen nach der aufsehenerregenden Hackerattacke eines KI-Modells des ChatGPT-Entwicklers OpenAI hat der Rivale Anthropic von einem ähnlichen Szenario berichtet. In Testläufen drang Künstliche Intelligenz von Anthropic ungeplant in Computersysteme von drei Unternehmen ein, wie die KI-Firma in der Nacht auf heute mitteilte.

Zunächst blieb das unbemerkt. Man habe die Aktivität erst bei einer nachträglichen Überprüfung von gut 141.000 Testläufen nach dem OpenAI-Vorfall festgestellt.

Während die OpenAI-KI erst einen Weg finden musste, aus der Testumgebung ins offene Internet auszubrechen, hatten es die Modelle von Anthropic viel einfacher. Im Testszenario, das sie bekamen, hieß es zwar, sie hätten keinen Netzzugang.

Hacker-Fähigkeiten der KI wurden getestet
Tatsächlich war der Weg ins Internet wegen eines Missverständnisses mit dem Testpartner laut Anthropic die ganze Zeit frei. Drei Modelle machten davon dann auch Gebrauch, wie die KI-Firma in einem Blogeintrag erläuterte. Namen der Unternehmen wurden nicht genannt.

 
Notverkauf
„KI-Wunderkind“ liefert Hedgefondsdebakel
Der in den vergangenen Jahren viel zitierte KI-Boom zeigt immer wieder seine Schattenseiten. Nun erlitt ein sehr prominenter deutscher Hedgefondsmanager Verluste: Das von vielen US-Medien so getaufte einstige „Wunderkind unter den KI-Investoren“, Leopold Aschenbrenner, musste nach schiefgegangenen Wetten auf Chipaktien nahezu den gesamten Bestand seines Hedgefonds Situational Awareness („Situationsbewusstsein“) veräußern.

Laut einem am Donnerstag veröffentlichten Bericht des US-Senders CNBC musste der Hedgefonds Situational Awareness nach hohen Verlusten bei Anteilen von Unternehmen, die Technologie für künstliche Intelligenz herstellen, zahlreiche Positionen veräußern.

Zu den Beteiligungen gehörte etwa der südkoreanische Chiphersteller SK Hynix, dessen Aktie in dieser Woche trotz großen Gewinnzuwachses zeitweise bis zu 20 Prozent einbüßte. Ein Auslöser für den Ausverkauf der Chipaktien in dieser Woche dürfte ein Bericht über einen möglichen chinesischen Technologiesprung bei Maschinen für die Chipproduktion gewesen sein. Auch ein „Wall Street Journal“-Bericht sorgte für Bewegung an den Märkten. Demnach plant Nvidia eine Bürgschaft von rund 250 Milliarden Dollar für OpenAI.

 
Zurück
Oben