Künstliche Intelligenz

[Ivo2]

US-Chipriese Nvidia übernimmt KI-Plattform Hugging Face
Der US-Chiphersteller Nvidia hat den Kauf der US-französischen KI-Plattform Hugging Face für 12,9 Milliarden Dollar (11,1 Milliarden Euro) angekündigt.

Nvidia-Chef Jensen Huang bestätigte das Geschäft heute auf der Website des Unternehmens. „12,9 Milliarden Dollar hat es gekostet, um den Deal unter Dach und Fach zu bringen, und er ist jeden einzelnen Cent wert“, sagte Huang danach dem US-Sender CNBC.

Das 2016 gegründete Start-up geriet vor einigen Wochen in die Schlagzeilen, als ein außer Kontrolle geratenes KI-Modell von OpenAI die IT-Systeme von Hugging Face angriff.

Plattform für offene KI-Modelle
Die Plattform, deren Name von einem Emoji inspiriert ist, beschreibt sich selbst als die „KI-Gemeinschaft, die die Zukunft erschafft“. Das Unternehmen setzt auf offene Modelle, die heruntergeladen und verändert werden können – anders als geschlossenen KI-Modelle etwa von OpenAI oder Anthropic.

Die Nachfrage nach KI-Modellen, deren Programmcode oder Trainingsdaten frei zugänglich sind, nimmt rasant zu, weil ihre Nutzung in der Regel deutlich günstiger ist als der Einsatz der Programme von Anbietern wie OpenAI oder Anthropic.

US-Chipriese Nvidia übernimmt KI-Plattform Hugging Face

orf.at

 

[Ivo2]

Forscher warnen vor einem Sicherheitsdebakel durch Astra von OpenAI
Eine neue Architektur macht die Nachverfolgung von KI-Entscheidungen intransparent. Das Unternehmen wiegelt ab

Bei OpenAI wird wieder einmal Werbung gemacht. Kein Wunder, schließlich steht der Start des nächsten großen KI-Modells mit dem Codenamen Astra kurz bevor. Manchmal ist sogar von GPT-6 die Rede, was einen großen Sprung suggerieren soll.

Firmenchef Sam Altman wird in Interviews und Vorträgen nicht müde, den Leistungssprung beim Programmieren und agentischen Fähigkeiten hervorzuheben. Doch es wächst die Nervosität, Forscher befürchten, die neue Architektur von Astra könnte zu einem Sicherheitsdebakel führen.

Eine Blackbox
Der Hintergrund: Bei Astra werden Informationen nicht mehr wie bei der klassischen Transformer-Methode schrittweise und nachvollziehbar verarbeitet. Stattdessen setzt OpenAI auf eine Methode namens "Recurrent Depth" oder "Looped Transformer", wie The Verge erklärt. Dabei durchlaufen Daten interne Schichten mehrfach in Schleifen.

Forscher warnen vor einem Sicherheitsdebakel durch Astra von OpenAI

Eine neue Architektur macht die Nachverfolgung von KI-Entscheidungen intransparent. Das Unternehmen wiegelt ab

www.derstandard.at

 

[Ivo2]

Komplexe Ermittlungen
Ratlosigkeit bei Umgang mit KI-Angriffen
Der Vorfall, bei dem ein KI-Modell von OpenAI das Portal Hugging Face angegriffen hat, sorgt weiter für Diskussionen: Zwar gibt es seit vergangener Woche einen unabhängigen Untersuchungsbericht, die „New York Times“ schrieb am Freitag nun aber, dass das Team nur einen Teil der Vorgänge prüfen durfte. Die Ermittlungen in dem Fall sorgen für allgemeine Ratlosigkeit – nicht zuletzt, weil es um schier nicht bewältigbare Datenmengen geht und sich vergleichbare Vorfälle häufen. OpenAI will indes mit neuen Maßnahmen beschwichtigen.

91 Seiten umfasst der Bericht der Forschungsinstitute METR und Redwood Research, der vergangene Woche veröffentlicht wurde und sich dem im Juli publik gewordenen Vorfall widmet. Laut „New York Times“ („NYT“) könnte dieser trotzdem nicht „die ganze Geschichte“ aufgeklärt haben.

So soll OpenAI die genauen Untersuchungsbedingungen vorgegeben haben: Nur die Woche des Angriffs auf Hugging Face, nicht aber die Zeit davor, wurde von dem Technologieunternehmen zur Prüfung freigegeben. Den Forschenden wurden zudem auch nur wenige Tage Zugriff in den Büros in San Francisco gewährt, so die „NYT“ weiter.

Der Bericht deckte dennoch zahlreiche neue Details auf. Bei dem Angriff konnten die OpenAI-KI-Modelle aus ihrer Testumgebung ausbrechen und so die Plattform Hugging Face letztlich angreifen. Der METR-Bericht zeigt auf, wie die KI-Agenten, also eigenständige, mittels KI arbeitende Programme, den Angriff koordinierten.

Komplexe Ermittlungen: Ratlosigkeit bei Umgang mit KI-Angriffen

Der Vorfall, bei dem ein KI-Modell von OpenAI das Portal Hugging Face angegriffen hat, sorgt weiter für Diskussionen: Zwar gibt es seit vergangener Woche einen unabhängigen Untersuchungsbericht, die „New York Times“ schrieb am Freitag nun aber, dass das Team nur einen Teil der Vorgänge prüfen...

orf.at