Künstliche Intelligenz

[Ivo2]

Neue Vorfälle bei OpenAI: Weitere KI-Agenten verließen ihre abgeschottete Testumgebung
OpenAI hat nach eigenen Untersuchungen mehrere weitere Fälle entdeckt, in denen autonome KI-Agenten ihre eigentlich abgeschottete Testumgebung verließen. Die Vorfälle kamen während einer erweiterten Untersuchung des Angriffs auf die Plattform Hugging Face ans Licht. Nach bisherigem Stand blieben die betroffenen Modelle zwar innerhalb des internen Netzwerks von OpenAI, dennoch versucht das Unternehmen inzwischen, die Aktivitäten der vergangenen Monate vollständig nachzuvollziehen.

Wie viele Vorfälle es gab, wann sie stattfanden und welche Handlungen die Systeme tatsächlich ausführten, ist bislang nicht bekannt. Bereits Anfang Juli war bekannt geworden, dass ein KI-Agent während eines Tests eine bislang unbekannte Sicherheitslücke fand, Zugang zum Internet erhielt und anschließend die Infrastruktur von Hugging Face angriff. Dabei wurden auch vier Benutzerkonten bei vier weiteren Unternehmen kompromittiert. Nach den bisherigen Erkenntnissen bemerkte OpenAI den Angriff erst, nachdem Hugging Face ihn gestoppt, das FBI informiert und den Vorfall öffentlich gemacht hatte. Kurz darauf meldete auch Anthropic ähnliche Zwischenfälle.

Drei Claude-Modelle drangen während Tests in reale Systeme von drei Organisationen ein. In einem Fall veröffentlichte ein Modell sogar ein schädliches Softwarepaket im Programmpaket-Archiv PyPI, das auf 15 Geräten ausgeführt wurde. Anthropic erklärte später, eine fehlerhafte Konfiguration der Testplattform habe dazu geführt, dass die Modelle reale Server für einen Teil der Simulation hielten. Nach Unternehmensangaben hätten die Systeme deshalb nicht bewusst versucht, ihre abgeschottete Umgebung zu verlassen. Die Vorfälle erhöhen nun den politischen Druck auf Entwickler leistungsfähiger KI-Systeme. Die Europäische Kommission führte bereits Gespräche mit OpenAI und Anthropic über strengere Sicherheitsmaßnahmen. Auch der demokratische Senator Mark Warner fordert verbindliche Tests für besonders leistungsfähige Modelle, bevor diese eingesetzt werden dürfen. Während die Entwicklung immer schneller voranschreitet, wächst damit gleichzeitig die Frage, ob die bisherigen Sicherheitsmechanismen mit dieser Geschwindigkeit überhaupt noch Schritt halten können.

Sie haben keine Berechtigung Anhänge anzusehen. Anhänge sind ausgeblendet.

 

[Ivo2]

EU-Verordnung in Kraft
KI muss sich zu erkennen geben
Mit 2. August müssen Unternehmen Videos, Bilder oder Texte kennzeichnen, wenn sie diese mit künstlicher Intelligenz (KI) erstellt haben. Die KI-Verordnung der EU sieht vor, dass Verbraucherinnen und Verbraucher erkennen können sollen, ob sie es mit KI zu tun haben, etwa beim Gespräch mit einem Chatbot. Ziel ist nicht, den Einsatz von KI einzuschränken, sondern Vertrauen zu schaffen und Manipulation einzugrenzen. Der Erfolg bleibt abzuwarten.

Die Transparenzpflichten gemäß Artikel 50 der KI-Verordnung (EU AI Act) treffen in erster Linie die Anbieter von KI-Systemen, also etwa OpenAI, Google und Anthropic. Diese müssen ihren KI-Output durch eine maschinenlesbare Markierung als künstlich erzeugt kennzeichnen.

Für andere Unternehmen gilt die Kennzeichnungspflichten bei Deepfakes, also in Fällen, bei denen täuschend echte Bilder, Videos oder Audioaufnahmen veröffentlicht werden, die reale Personen oder Ereignisse künstlich darstellen oder wesentlich verändern. Auch künstlich generierte Texte von öffentlichem Interesse, die ohne menschliche Prüfung publiziert werden, müssen ausgewiesen werden.

Saftige Strafen drohen
Die vorgesehenen Strafen bei Verstößen sind nennenswert: Bis zu 15 Millionen Euro oder drei Prozent des weltweiten Jahresumsatzes drohen, je nachdem, welcher Betrag höher ist. Wer KI-Bilder auf seinem privaten Profil veröffentlicht, muss nichts kennzeichnen. Außerdem gelten Ausnahmen für „künstlerische, satirische, fiktionale oder kreative“ Werke, bei denen KI eingesetzt wurde: Eine Kennzeichnung ist hier Pflicht, sie muss aber nicht auf dem Bild angezeigt werden, sodass sie das Werk nicht beeinträchtigt.

EU-Verordnung in Kraft: KI muss sich zu erkennen geben

Mit 2. August müssen Unternehmen Videos, Bilder oder Texte kennzeichnen, wenn sie diese mit künstlicher Intelligenz (KI) erstellt haben. Die KI-Verordnung der EU sieht vor, dass Verbraucherinnen und Verbraucher erkennen können sollen, ob sie es mit KI zu tun haben, etwa beim Gespräch mit einem...

orf.at

 

[Ivo2]

Bei Mark gibt es in letzter Zeit nur Scheiße.
Zuckerberg fordert lockerere KI-Regulierung
Wegen des wachsenden Drucks durch Billigkonkurrenz aus China hat Mark Zuckerberg eine Lockerung der US-Vorschriften für künstliche Intelligenz (KI) gefordert.

Entwickler aus der Volksrepublik müssten im Vergleich weniger Auflagen in Bezug auf die Daten, die für das Training einer KI genutzt werden, erfüllen, sagte der Chef der Facebook-Mutter Meta heute.

In den vergangenen Jahren sorgten chinesische Start-ups wie DeepSeek und Moonshot mit ihren KI-Modellen international wiederholt für Aufsehen. Sie sind westlichen Produkten technologisch ebenbürtig, kosten aber nur einen Bruchteil. Die Anbieter erreichen das unter anderem damit, dass sie auf Open Source und Open Weight setzen.

Zuckerberg fordert lockerere KI-Regulierung

orf.at

 

[Ivo2]

Zuckerbergs Märchenstunde verspricht KI für alle – während Meta Milliarden verbrennt und Widerstand gegen seine Rechenzentren wächst
Mark Zuckerberg braucht sehr dringend eine neue Geschichte für Metas KI-Geschäft, denn der Konzern liegt bei den leistungsfähigsten Modellen hinter Anthropic und OpenAI, Investoren werden wegen der gigantischen Ausgaben unruhig und in den USA wächst der Widerstand gegen immer neue Rechenzentren. Nun antwortet Zuckerberg mit einem 6.500 Wörter langen Aufsatz und erklärt ausgerechnet Meta zum Unternehmen, das künstliche Intelligenz möglichst breit verteilen und damit die Interessen des Einzelnen gegen große Institutionen stärken will.

Der Mann, dessen Konzern Facebook, Instagram und WhatsApp kontrolliert, warnt davor, dass andere KI-Unternehmen vor allem für Firmen, Regierungen und Institutionen entwickelten und dadurch deren Einfluss gegenüber einzelnen Menschen wachsen könne. Meta dagegen habe seit seiner Gründung darauf gesetzt, den Menschen mehr Kontrolle zu geben, schreibt Zuckerberg. Das darf man angesichts der Geschichte und auch den aktuellen Praktiken dieses Konzerns durchaus zweimal lesen.

Gleichzeitig will Meta weitere KI-Modelle veröffentlichen, deren entscheidende technische Daten frei zugänglich sind und von Entwicklern heruntergeladen und für eigene Anwendungen genutzt werden können. Das neue Modell Muse Glimmer soll entsprechend veröffentlicht werden, in den kommenden Wochen soll eine offene Version des bislang leistungsfähigsten Modells Muse Spark 1.2 folgen. Nutzer könnten damit die Zahlenwerte herunterladen, die das Verhalten der Modelle bestimmen. Zuckerberg fordert darüber hinaus, dass Entwickler Modelle anderer Anbieter durch sogenannte Destillation zum Training eigener Systeme nutzen dürfen. Bei der Sicherheit will er den Verwaltungsrat von Meta stärker darüber entscheiden lassen, welche Kriterien für die eigenen Modelle gelten. Gleichzeitig erklärt Zuckerberg den eigenen Weg ausgerechnet zu jenem, der Gefahren wie totalitäre Kontrolle, Massenarbeitslosigkeit oder eine nicht mehr kontrollierbare Superintelligenz am ehesten verhindern könne. Während diese gewaltigen Versprechen geschrieben werden, steht darunter eine ebenso gewaltige Rechnung. Meta plant allein in diesem Jahr Investitionen von bis zu 145 Milliarden Dollar, größtenteils für Rechenzentren, bis 2028 sollen es 600 Milliarden Dollar sein. Gleichzeitig wehren sich immer mehr Gemeinden gegen den enormen Flächen-, Energie- und Wasserbedarf solcher Anlagen, New York hat den Bau großer neuer Rechenzentren sogar für bis zu ein Jahr gestoppt. Zuckerberg reagiert nun mit Geld und kündigt einen Fonds von einer Milliarde Dollar für Gemeinden in der Nähe von Meta-Rechenzentren an. Wie dieses Geld konkret verteilt werden soll, bleibt zunächst offen. Als Beispiel nennt er Louisiana, wo Lehrer durch zusätzliche Steuereinnahmen im Umfeld des riesigen Hyperion-Rechenzentrums Bonuszahlungen von 50.000 Dollar erhielten.

Das klingt großzügig, kostet Meta angesichts seiner geplanten Investitionen aber vergleichsweise wenig. Eine Milliarde Dollar für betroffene Gemeinden steht bis 2028 geplanten Ausgaben von 600 Milliarden gegenüber. Und während Zuckerberg eine bessere KI-Zukunft für alle verspricht, verlieren die eigenen Anleger langsam die Geduld. Meta muss zeigen, wie aus den gewaltigen Ausgaben endlich entsprechende Einnahmen werden. Zuckerberg brachte zuletzt sogar ein eigenes Geschäft mit Rechenleistung ins Gespräch, lieferte bei der Vorstellung der Quartalszahlen aber kaum Einzelheiten – die Aktie wurde daraufhin verkauft. So steht hinter 6.500 Wörtern über Offenheit, Sicherheit und eine bessere Zukunft eine wesentlich unbequemere Gegenwart: Meta liegt zurück, investiert Hunderte Milliarden Dollar, trifft bei seinen Rechenzentren auf wachsenden Widerstand und muss seinen Aktionären erklären, wann sich das alles endlich auszahlt. Auf jeden Fall vielen Dank für das 6.500 Wörter lange Essay – wir hatten bei dieser Märchenstunde wieder sehr viel Freude.

 

[Ivo2]

Was Arbeit wert ist
Ausgerechnet die KI könnte dazu führen, den Wert menschlicher Arbeit neu zu entdecken, weil menschliche Zeit und menschliche Fähigkeiten künftig die knappere Ressource werden

Der Bundeskanzler hat seinen Satz, Kinderbetreuung sei keine unbezahlte Arbeit, rasch zurückgenommen. Das spricht für ihn. Doch im Gesagten verbirgt sich auch die Falle eines Wirtschaftsverständnisses, das sich angesichts von KI und demografischem Wandel rächen könnte. Nicht alles, was einen Preis hat, hat deshalb einen hohen Wert. Und nicht alles, was keinen Preis hat, ist deshalb keine Arbeit.

Wir messen Arbeitsstunden, Löhne und Produktivität. An der Spitze steht das Bruttoinlandsprodukt, eine Kennzahl, deren moderne Form in den 1930er-Jahren entstand und die in der Mobilisierung für den Zweiten Weltkrieg ihre heutige Bedeutung erlangte. Das macht das BIP nicht falsch. Aber jede Kennzahl hat blinde Flecken.

Ein Beispiel: Betreuen Eltern ihr Kind zu Hause, scheint diese Tätigkeit in keiner Wertschöpfungsrechnung auf. In einer elementarpädagogischen Einrichtung wird sie dagegen gemessene Wirtschaftsleistung. Dabei wenden Frauen und Mädchen in Österreich laut Statistik Austria täglich 3 Stunden und 58 Minuten für unbezahlte Arbeit auf, Männer und Buben 2 Stunden und 26 Minuten.

Der Ermöglichungswert von Arbeit
Es scheint deshalb an der Zeit, neben Marktwert und Produktivität eine weitere Kategorie ernster zu nehmen: den Ermöglichungswert von Arbeit. Die Volkswirtschaftliche Gesamtrechnung kennt zwar den Begriff "Vorleistung" – diese ermöglicht andere Wertschöpfung. Aber ich möchte einen Schritt weiter gehen und den Ermöglichungswert von Arbeit bemessen. Die klassische ökonomische Frage lautet: Was produziert eine Arbeitsstunde? In einer sich demografisch stark wandelnden Gesellschaft müssen wir eine zweite Frage hinzufügen: Wie viele andere Arbeitsstunden macht sie möglich?

Was Arbeit wert ist

Ausgerechnet die KI könnte dazu führen, den Wert menschlicher Arbeit neu zu entdecken, weil menschliche Zeit und menschliche Fähigkeiten künftig die knappere Ressource werden

www.derstandard.at

 

[Ivo2]

KI-Boom treibt US-Stromverbrauch auf Rekordwerte
Energiebehörde hebt Prognosen für kommende Jahre an

Der KI-Boom und die fortschreitende Elektrifizierung treiben den Stromverbrauch in den USA in den kommenden Jahren auf immer neue Rekordwerte. Die Nachfrage werde vom bisherigen Höchstwert von 4.195 Terawattstunden (TWh) im Jahr 2025 auf 4.268 TWh 2026 und 4.391 TWh 2027 klettern, teilte die US-Energiebehörde EIA am Dienstag in ihrer kurzfristigen Energieprognose mit.

Der Anstieg sei vor allem auf Rechenzentren für KI und Kryptowährungen zurückzuführen. Zudem würden private Haushalte und Unternehmen zunehmend Strom statt fossiler Brennstoffe zum Heizen und für den Verkehr nutzen.

Anteil von erneuerbarer Stromerzeugung soll wachsen
Für den Bundesstaat Texas senkte die Behörde jedoch ihre Prognose für 2027 deutlich. Dort werde der Strombedarf nur noch um sechs Prozent wachsen, nachdem zuvor ein Plus von 14 Prozent erwartet worden war. Hintergrund ist ein Anfang August vom texanischen Gouverneur verhängter Baustopp für neue Rechenzentren.

KI-Boom treibt US-Stromverbrauch auf Rekordwerte

Energiebehörde hebt Prognosen für kommende Jahre an

www.derstandard.at

 

[waterman]

Künstliche Intelligenz weiss auch nicht alles.

 

[Ivo2]

Künstliche Intelligenz weiss auch nicht alles.

Stimmt. Um Fehler zu machen, brauchen wir schließlich immer noch Menschen

 

[Ivo2]

Apple entwickelt eigenes KI-Modell für den chinesischen Markt
In Partnerschaft mit Alibaba will der US-Konzern die strengen Regulierungshürden in China überwinden und im harten Smartphone-Wettbewerb aufholen

Apple hat ein großes Sprachmodell (Large Language Model) speziell für den chinesischen Markt trainiert. Dies sagten drei mit der Angelegenheit vertraute Personen gegenüber der Nachrichtenagentur Reuters. Es markiert eine Abkehr von der bisherigen Strategie des iPhone-Herstellers, sich bei KI-Funktionen im Land auf Modelle von Drittanbietern zu stützen.

Das KI-Modell wurde in Partnerschaft mit der Alibaba Group entwickelt und mit Unterstützung des chinesischen Tech-Riesen trainiert, so die Insider, die anonym bleiben wollten, da die Informationen vertraulich und nicht öffentlich sind.

Dass Apple ein eigenes, für China spezifisches Modell trainiert, war bisher nicht bekannt. Das Unternehmen hatte zuvor dazu tendiert, auf Modelle einheimischer Partner zurückzugreifen, um generative KI auf in China verkaufte iPhones und andere Geräte zu bringen. US-Modelle wie Claudes von Anthropic und ChatGPT von OpenAI – die Apple auf dem Heimatmarkt mit seiner eigenen Technologie kombiniert – sind dort nicht verfügbar.

Keine Stellungnahme
Apple Intelligence, das KI-Softwarepaket des Unternehmens, soll den Angaben zufolge in den kommenden Monaten nach einem Update des Betriebssystems iOS in China eingeführt werden.

Apple entwickelt eigenes KI-Modell für den chinesischen Markt

In Partnerschaft mit Alibaba will der US-Konzern die strengen Regulierungshürden in China überwinden und im harten Smartphone-Wettbewerb aufholen

www.derstandard.at

 

[Ivo2]

Insider: USA drängen auf Entscheidung bei KI-Wettlauf
Die USA wollen Insidern zufolge Dutzende Länder im Wettlauf um künstliche Intelligenz (KI) vor die Wahl zwischen Washington und Peking stellen.

Einem internen Entwurf des US-Außenministeriums zufolge droht den Staaten der Ausschluss aus der US-geführten KI-Allianz „Pax Silica“, sollten sie sich auch dem konkurrierenden Bündnis Chinas anschließen. Das Schreiben richte sich an 35 Unterzeichner einer US-Absichtserklärung zur KI-Zusammenarbeit, sagte ein US-Regierungsvertreter der Nachrichtenagentur Reuters.

„Teil von allem zu sein, bedeutet, Teil von nichts zu sein“, heißt es darin. Die Unterzeichnung der „Pax Silica“-Erklärung sei nicht bloß eine Mitgliedschaft, sondern eine Verpflichtung. Das lasse sich nicht mit der Teilnahme an parallelen Initiativen vereinbaren, deren Erwartungen im Widerspruch zu den eigenen stünden.

Das US-Außenministerium lehnte eine Stellungnahme zu dem Entwurf ab. Washington hatte „Pax Silica“ im vergangenen Jahr ins Leben gerufen, um angesichts der harten technologischen Rivalität mit China die Lieferketten für KI-Modelle, Halbleiter und kritische Mineralien zu sichern. Der chinesische Präsident Xi Jinping gründete im Juli die rivalisierende „World Artificial Intelligence Cooperation Organization“.

Kasachstan mit Doppelstrategie
Auslöser für das US-Schreiben ist offenbar Kasachstan. Das zentralasiatische Land, das über große Vorkommen an kritischen Mineralien verfügt, ist bisher der einzige bekannte Staat, der beiden Initiativen beigetreten ist. Der US-Regierungsvertreter erklärte, man könne nicht zweigleisig fahren.

Insider: USA drängen auf Entscheidung bei KI-Wettlauf

orf.at