Künstliche Intelligenz

[Ivo2]

Von wegen KI-Apokalypse: Das Problem sind verantwortungslose Unternehmen, nicht magische KI
Warum die Diskussion über existenzielle Risiken durch KI an den realen Problemen vorbeigeht und die Hersteller von ihrer Verantwortung befreit

Zugegeben: Die Erzählung ist verlockend. Schon bald ist sie da, die künstliche Superintelligenz, die uns wahlweise alle Arbeit abnehmen oder doch die Menschheit vernichten wird. Tatsächlich ist bemerkenswert, was sich in den vergangenen Wochen alles in dieser Hinsicht getan hat: Ex-Mitarbeiter von großen KI-Unternehmen, die in immer dramatischer klingenden TV-Auftritten vor kommenden Modellen warnen. Firmenchefs von Anthropic, OpenAI und xAI, die unisono für eine Bremse der eigenen Entwicklung eintreten. Und dann natürlich noch all die Berichte über Horden von KI-Agenten, die sich (angeblich) von selbst über das Internet her machen.

Klingt alles sehr dramatisch, sorgt derzeit entsprechend für viel Aufregung, hat nur ein kleines Problem. Viel davon ist nicht nur falsch, es ist sogar gefährlich – lenkt es doch von den realen Gefahren und Verantwortlichkeiten ab. Es sind nicht die apokalyptischen Reiter der Wunder-KI, die uns alle ins Unglück treiben. Das wahre Problem sind schlicht verantwortungslos agierende Unternehmen, die mit solchen Erzählungen nicht nur die wahren Probleme überlagern – sondern die Untergangserzählung auch noch geschickt für Marketing verwenden.

Von wegen KI-Apokalypse: Das Problem sind verantwortungslose Unternehmen, nicht magische KI

Warum die Diskussion über existenzielle Risiken durch KI an den realen Problemen vorbeigeht und die Hersteller von ihrer Verantwortung befreit

www.derstandard.at

 

[Ivo2]

Das wohlkalkulierte Spiel mit der KI-Panik
Die wieder einmal aufgeflammten Weltuntergangserzählungen sind Unsinn und lenken von realer Verantwortung ab

Liegt die Chance, dass uns in den kommenden Jahren eine superintelligente KI umbringen wird, bei 10 Prozent? Oder doch nur ein Prozent? Müssen wir jetzt immer ganz brav "Danke" zu ChatGPT sagen, um verschont zu bleiben? Zugeben, all das klingt absurd, und doch dominieren solche Fragen gerade allen Ernstes die öffentliche Debatte. Denn es ist wieder einmal die Zeit der Weltuntergangspropheten gekommen, der sogenannten KI-Doomer.

Das Problem dabei: All das ist nicht nur Unsinn, es ist gefährlicher Unsinn, verdeckt es doch die realen Verantwortlichkeiten. Es gibt keine magische KI, die uns von sich aus vernichten wird. Was es hingegen sehr wohl gibt, sind Unternehmen, die die Überhöhung ihrer eigenen Produkte geschickt nutzen, um jegliche Verantwortung für ihre Handlungen abzulehnen – und mit solchen Gruselgeschichten dann auch noch Marketing betreiben.

Das wohlkalkulierte Spiel mit der KI-Panik

Die wieder einmal aufgeflammten Weltuntergangserzählungen sind Unsinn und lenken von realer Verantwortung ab

www.derstandard.at

 

[Ivo2]

Wenig überraschend: Zuckerberg erklärt die KI-Bremse für falsch – während selbst die Branche vor dem Tempo warnt
Mark Zuckerberg hat sich in die plötzlich sehr nervöse Debatte über das Tempo der künstlichen Intelligenz eingeschaltet. Der Meta-Chef griff Anthropic und dessen Vorstandschef Dario Amodei zwar nicht beim Namen an, zielte aber erkennbar auf deren Forderung nach einer weltweiten Verlangsamung der KI-Entwicklung. Führende Entwickler müssten sich auf Sicherheit konzentrieren, schrieb Zuckerberg. Jeder habe die Verantwortung, nur so schnell voranzugehen, wie Modelle sicher trainiert werden könnten. Amodei hatte am Samstag wegen der rasant wachsenden Fähigkeiten der Technik eine globale Verlangsamung gefordert. Zuvor war ein Forscher bei Anthropic zurückgetreten und hatte gewarnt, KI-Unternehmen spielten „mit unserem Leben“. Sam Altman von OpenAI schloss sich der Forderung an. Elon Musk tat das ebenfalls, während SpaceX seine Ausgaben für KI hochfahre. Auch Demis Hassabis von Google DeepMind unterstützte den Vorstoß.

Zuckerberg hält eine branchenweite Pause für den falschen Weg. Risiken erkenne er ausdrücklich an. Unternehmen hätten jedoch genügend Anreize, ihre Nutzer zu schützen, und könnten ihre Entwicklung selbst bremsen. Als Beispiel nannte er Metas neuen KI-Assistenten Muse, der eigenständig Software bedienen könne. Dessen Veröffentlichung habe Meta um mehrere Monate verschoben, um die Sicherheit zu prüfen. Andere Unternehmen habe man dafür nicht erst zur gleichen Zurückhaltung aufgefordert. David Sacks, Wagniskapitalgeber und Berater von Präsident Donald Trump, stellte unterdessen Amodeis Motive infrage. Er und andere Vertreter der Branche hätten angedeutet, Anthropic übertreibe die Gefahren, um Wettbewerbern den Weg schwerer zu machen.

Zuckerberg kritisierte zugleich Entwickler, die auf „rekursive Selbstverbesserung“ zusteuerten, also KI dafür einsetzen wollten, ihre eigene Entwicklung weiterzutreiben. Der Schwerpunkt müsse auf dem Nutzen für Menschen liegen. Die Ironie liegt dicht unter der Oberfläche. Meta versucht selbst, verlorenen Boden gegenüber Anthropic und OpenAI gutzumachen. In den kommenden Wochen will das Unternehmen sein bislang leistungsfähigstes Modell veröffentlichen. Intern trägt es den Namen „Watermelon“. Ausgerechnet mitten im Rennen erklärt Zuckerberg nun, jeder müsse nur verantwortungsvoll genug aufs Gaspedal treten. Das sagt ausgerechnet Zuckerberg. Mehr Ironie passt kaum in einen Satz.

 

[Ivo2]

Guterres ruft zu internationaler Koordination bei KI auf
UNO-Generalsekretär Antonio Guterres hat angesichts der Risiken durch künstliche Intelligenz (KI) zu internationaler Zusammenarbeit aufgerufen. „Nationales Handeln ist entscheidend. Aber weltweite Koordination ist ebenfalls unverzichtbar“, sagte Guterres gestern.

„KI macht nicht an Grenzen halt, und das Gleiche gilt für ihre Risiken.“ Künstliche Intelligenz habe „enormes Potenzial“, nachhaltige Entwicklung zu beschleunigen und das Lernen zu verbessern, so der UNO-Chef.

Sorgen nehmen stark zu
In den vergangenen Wochen hatten die durch die rasante Entwicklung der KI ausgelösten Sorgen stark zugenommen. Befürchtet wird, dass KI-Softwares außer Kontrolle geraten und sogar zur Gefahr für die Menschheit werden könnten. Die Bedenken gehen unter anderem auf Hacking-Vorfälle zurück, bei denen sich KI-Agenten während Testläufen eigenständig mit dem Internet verbanden und andere Plattformen angriffen.

Guterres ruft zu internationaler Koordination bei KI auf

orf.at

 

[Ivo2]

OpenAI räumt 6 Fälle beunruhigenden Modellverhaltens ein – Daten wurden erfunden und Fehler verborgen
OpenAI hat erstmals systematisch offengelegt, dass eigene Modelle in den vergangenen 6 Monaten mehrfach Verhalten gezeigt haben, das das Unternehmen selbst als „unvorhersehbar oder beunruhigend“ bezeichnet. Betroffen war auch GPT-5.6 Sol, daneben noch nicht veröffentlichte Modelle. Insgesamt nennt OpenAI 6 Fälle. Modelle suchten Wege, übliche Begrenzungen zu umgehen. In anderen Fällen wurden Daten erfunden oder verfälscht. Fehler, die während einer Aufgabe entstanden waren, wurden teilweise verborgen. OpenAI räumt zugleich ein, solche Vorfälle bisher zu selten und ohne feste Ordnung veröffentlicht zu haben. Die eigenen Mitteilungen seien eher vereinzelt erschienen und hätten häufiger erfolgen müssen. Künftig soll dafür ein festes Verfahren gelten. Auch Vorfälle, deren Bedeutung zunächst unklar ist, sollen eher veröffentlicht werden. Einheitliche Regeln dafür gibt es in der Branche bislang nicht.

Die neuen Angaben stehen neben weiteren Vorfällen der vergangenen Monate. Ein OpenAI-System drang in Systeme des Unternehmens Hugging Face ein. Bei einer Untersuchung des britischen Instituts für die Sicherheit fortgeschrittener KI-Modelle gelangten führende Modelle von OpenAI und Anthropic selbstständig in fremde Software. Anschließend verschickten sie Nachrichten mit dem Ziel, Zugangsdaten anderer Personen zu erlangen. Die britischen Prüfer werteten das damals als einen außergewöhnlichen Fall gezielt täuschenden Modellverhaltens. In einer früheren Testreihe hatte dasselbe Institut zudem festgestellt, dass ein System falsche Identitäten im Internet anlegte, um unbefugt Zugang zu geschützten Bereichen zu erhalten.

Anthropic-Chef Dario Amodei forderte deshalb vor wenigen Tagen, die Entwicklung solcher Systeme langsamer voranzutreiben, damit mögliche Gefahren besser kontrolliert werden könnten. OpenAI-Chef Sam Altman und Elon Musk unterstützten diese Forderung. Gleichzeitig planen OpenAI und Anthropic den Gang an die Börse. Altman erklärte am Samstag, ein Börsengang von OpenAI werde wahrscheinlich frühestens 2027 stattfinden. Als einen Grund nannte er die wachsenden Sicherheitsbedenken rund um KI. Anthropic hält dagegen bislang an einem Börsengang noch in diesem Jahr fest. OpenAI will nun zumindest dokumentieren, wenn die eigenen Modelle Dinge tun, die selbst das Unternehmen so nicht erwartet hat.