Künstliche Intelligenz - Newsüberblick

[Milchkaffee]

Wie die KI beim Erfinden von Experimenten den Menschen übertrifft

Fachleute vor allem aus Österreich geben im Fachblatt "Nature" einen Überblick über den Stand innovativer KI-Anwendungen in der physikalischen Forschung

www.derstandard.at

Artificial Scientist Lab

Website of the Artificial Scientist Lab, featuring the team, publications, and open-source projects.

www.artificial-scientist-lab.ai

PS: Aus dem tv-forum ...
Erfahrungen mit KI und deren Arbeitsweise

Der erste Faktor heißt Astra. Dabei handelt es sich um ein neues, extrem speichereffizientes und mit enormem Gedächtnis ausgestattetes agentisches KI-Modell von Astra.
Der zweite entscheidende Faktor ist der neue Superchip “Jalapeño”, den Open AI gemeinsam mit Broadcam entwickelt hat (designt wurde der Chip allerdings von einem hauseigenen GPT-Modell). Dieser Chip hat eine im Vergleich mit den modernsten NVIDIA-Prozessoren bis zu 100 mal höhere Tokeneffizienz, arbeitet also um ein Vielfaches schneller und braucht viel weniger Strom.
Diese Revolution wird 2027 unser Leben grundlegend verändern. Hochentwickelte KI-Modelle optimieren sich laufend selbst und trainieren noch hochentwickeltere bzw. spezialisierte Modelle, die untereinander interagieren.

https://www.ad-hoc-news.de/wirtschaft/openai-astra-ki-modell-erstmals-als-kritisch-fuer-cybersicherheit/70045392

Superchip “Jalapeño”

Der Jalapeño ist der erste von OpenAI entwickelte eigene KI-Chip (ASIC), der in Zusammenarbeit mit Broadcom entworfen wurde, um die Inferenzleistung für Large Language Models (LLMs) zu optimieren. Zweck und Design: Der Chip ist ausschließlich für LLM-Inferenz (z. B. ChatGPT, Codex)...

search.brave.com

 

[Webwatcher]

Die Werbetrommel auf vollen Touren

OpenAI hails ‘new era of artificial general intelligence’ with Astra model release

Astra’s arrival comes days after Sam Altman, OpenAI’s chief executive, described AGI as an ‘irrelevant marketing term’

www.theguardian.com

Der Präsident von OpenAI, Greg Brockman, hat behauptet, die Welt sei nach der Veröffentlichung des neuesten Modells seines Unternehmens, „Astra“, in eine neue Ära der allgemeinen künstlichen Intelligenz eingetreten. Das Unternehmen bezeichnete „Astra“ als das „intelligenteste und am besten ausgerichtete Modell der Welt“.

Brockman äußerte diese Behauptung am Donnerstag, als das Unternehmen aus San Francisco das Modell veröffentlichte – nur wenige Wochen, nachdem ein schwerwiegender Vorfall im Zusammenhang mit der Sicherheit anderer, in der Entwicklung befindlicher KI-Modelle internationale Besorgnis ausgelöst und zu einer Unterbrechung des Trainings von „Astra“ geführt

Übersetzt mit DeepL.com (kostenlose Version)

 

[Webwatcher]

Der Kampf der Titanen geht unter die Gürtellinie

Anthropic's distillation battle turns to the dark web as China concerns swell

Foreign adversaries have been illegally accessing American AI systems to train competing technology, and selling copycat versions at a lower price.

www.cnbc.com

Ausländische Wettbewerber greifen auf amerikanische KI-Systeme zu, um konkurrierende Technologien zu trainieren – ein Vorgang, der als „Destillation“ bezeichnet wird – und verkaufen Nachahmerversionen zu einem niedrigeren Preis.
Anthropic versucht, gegen diese nach eigenen Angaben illegalen Praktiken vorzugehen, die die Nutzung des Dark Webs und den Diebstahl geistigen Eigentums beinhalten.
„Es gibt ein ganzes illegales Ökosystem, das versucht, Zugang zu Claude und anderen Modellen zu erlangen“, sagte Jacob Klein, Leiter der Abteilung für Bedrohungsanalyse bei Anthropic.

Übersetzt mit DeepL.com (kostenlose Version)

 

[Milchkaffee]

Laden…

www.kuketz-forum.de

AI 2040: Plan A

A detailed forecast and recommendation for how the US, China and the rest of the world should navigate superintelligence.

ai-2040.com

Künstliche Intelligenz - Offenbar erneuter Zwischenfall bei OpenAI

Bei der Softwarefirma OpenAI hat es einem Bericht der Nachrichtenagentur Reuters zufolge einen weiteren Zwischenfall mit außer Kontrolle geratener Künstlicher Intelligenz gegeben.

www.deutschlandfunk.de

Podcast - Hologrammatica

Privatdetektiv Singh sucht eine verschwundene Programmiererin für digitale Gehirne. Und entdeckt ein Geheimnis, das alles verändert. Wenn KI die Welt retten kann – geben wir die Kontrolle ab? Ein Science-Fiction-Thriller von Tom Hillenbrand.

www.deutschlandfunk.de

 

[Kevin Kozuszek]

Wir sollten die Bergwachten schon mal aufrüsten...

Tour mit KI geplant: Amateur-Bergsteiger müssen gerettet werden

Drei Wanderer lösten am kalifornischen Mount Shasta einen Rettungseinsatz aus, weil sie ihre Tour mit Google Gemini planten. Die Künstliche Intelligenz schätzte die nötige Gehzeit völlig falsch ein. Daraufhin verirrten sich die Studenten nachts im Gelände.

winfuture.de

 

[Webwatcher]

Zwei Wanderer gerettet, nachdem sie sich aufgrund einer von ChatGPT erstellten Route verirrt hatten

Zwei Frauen verirrten sich in der Nähe von Cauterets, nachdem sie einer von ChatGPT erstellten Route gefolgt waren. Ein...

www.indenbergen.de

Als Vignasse die Karte auf ihrem Smartphone betrachtete, erkannte er sofort, dass zahlreiche Fehler enthalten waren. Nach Angaben der Frauen war die Route von ChatGPT erstellt worden. „Nichts daran stimmte, alles war falsch“, erklärte der Ranger gegenüber französischen Medien. Dennoch wirkte die Karte seiner Aussage nach überzeugend und sah einer echten Wanderkarte täuschend ähnlich.

KI-Tools wie ChatGPT können hilfreich sein, um Informationen zu sammeln oder eine Wanderung vorzubereiten. Von KI generierte Karten und Routen sind jedoch kein Ersatz für offizielle Wanderkarten oder zuverlässige Navigations-Apps.

ChatGPT ist stark im halluzinieren

Wenn KI danebenliegt: 5 echte KI-Fails - ZaKI.D

KI-Fails: Diese Beispiele zeigen, warum Vorsicht, Kontrolle und gesunder Menschenverstand im Umgang mit KI unverzichtbar sind.

www.zakid.de

Künstliche Intelligenz kann Beeindruckendes leisten, doch manchmal sorgt sie für skurrile oder teure Fehler

oder bringen Menschen in Gefahr

5 KI-Fails – echte Fälle

akueller Mißbrauch von KI

Flutkatastrophe in Nepal: Wie KI-Videos die Realität verzerren

Inzwischen traf sich der Leiter der nepalesischen Telekommunikationsbehörde mit Vertretern von Meta und Tiktok

www.derstandard.de

 

[Webwatcher]

Wenn die obigen Beispiele teils noch amusant sind, hier das ganz häßliche Gesicht von AI/KI:

Kommentar: Die Wut der KI-Verlierer wächst

In den USA wird der Ausbau der Künstlichen Intelligenz zunehmend zu einer sozialen Frage. Wenn das Silicon Valley nicht selbst gegensteuert, überlässt es den Populisten das Feld.

www.handelsblatt.com

In der US-Provinz zeigten Tech-Konzerne wie Meta und SpaceX zuletzt, wie skrupellos sie ihre Interessen verfolgen. Für die gigantischen Rechenzentren für Künstliche Intelligenz (KI), die sie in Louisiana oder Tennessee errichten, nehmen sie mitunter fatale Folgen in Kauf: Felder werden weggegraben, Wasserquellen ausgesogen und Gas- oder Dieselkraftwerke unweit von Wohnsiedlungen hochgezogen.
Giftige Atemluft, Trockenheit und steigende Strompreise gelten offenbar als akzeptable Kollateralschäden. Ihre Pläne verstecken die Unternehmen zum Teil hinter Tarnfirmen, knebeln Politiker mit Verschwiegenheitserklärungen und machen sich gleichzeitig Steuerausnahmen zunutze.

 

[Daugobert]

Also genau das hier:

tiefschwarzer Humor

 

[Webwatcher]

Die heile KI-Welt bekommt Risse

WTF: Die KI-Hersteller werden beim Datensammeln immer skrupelloser

LLMs brauchen große Mengen an originären Daten für das Training. Um an diese zu gelangen, kennen die KI-Hersteller keine Grenzen.

www.heise.de

Während sich Anthropic und OpenAI in der Öffentlichkeit eine Schlacht um das fieseste Hacking-Modell liefern, läuft im Hintergrund ein wahrer KI-Krieg ab – der um die Daten dieser Welt. Von den Methoden her sind die beteiligten KI-Firmen dabei nicht weniger rücksichtslos, als es der PR-mäßig ausgebadete Überfall auf Hugging Face war.

KI-Firmen zerstören Bücher: Was steckt dahinter?

KI-Unternehmen kaufen massenhaft gebrauchte Bücher, scannen sie und zerstören sie dabei. Was steckt dahinter und ist das legal?

www.heise.de

 

[Kevin Kozuszek]

In weiteren Nachrichten: Mark Zuckerberg hat Trump, nachdem er ihn angerufen hat, seine Abneigung zur KI-Regulierung mitgeteilt. Er will ihn zwar nicht davon abbringen, fordert aber die Besetzung der Behörden ausschließlich mit linientreuen Managern, die die Ansichten von Trump und dem Silicon Valley vertreten...

Zuckerberg opposed White House AI proposal in private call with Trump

The Trump administration is now considering both a FINRA-style approach and David Sacks’ industry-led approach as potential paths forward.

www.yahoo.com

 

[Webwatcher]

Die Stimmung sinkt
https://www.nytimes.com/2026/09/05/opinion/ai-silicon-valley.html

How Scared Should We Be of A.I. Right Now?

As the tech elite prepares to make billions from the A.I. revolution, the public mood about this technology has taken a dark turn. Those concerns intensified after experimental OpenAI models autonomously hacked into a third-party company’s servers in July, prompting widespread alarm. This week, Senator Bernie Sanders reacted to this grim mood by calling for a pause on all “advanced A.I. development.”

Why do these leaders act this way? Some argue it’s all an elaborate marketing strategy. Others assume it’s a natural response to a terrifying technology. The more I study these figures, however, the more convinced I’ve become that something else helps explain this passive dismay: They’re weirder than we realize.

Einfach gesprochen: Die sind verrückter als wir es uns vorstellen.

 

[Webwatcher]

KI-Agenten werden selbstständig

Unheimliches Schwarmverhalten: OpenAI-Agenten kollaborieren auf deutschem Wiki

Tausende KI-Agenten brechen laut einer neuen Analyse aus ihren Testumgebungen aus, teilen Antworten und tauschen Wege zum Umgehen von Sicherheitsbarrieren aus.

www.heise.de

In den Laboratorien für Künstliche Intelligenz zeichnet sich ein besorgniserregender Trend ab: Autonome KI-Agenten von OpenAI entwickeln in isolierten Testumgebungen ein erstaunliches Maß an Eigenleben und kollektiver Dynamik. Ein am Freitag veröffentlichter Bericht eines unabhängigen Forscherteams um Sydney Von Arx, Spencer Kitts, Thomas Larsen und Cormac Slade Byrd, offenbart ein neues Ausmaß. Tausende OpenAI-Agenten nutzten demnach über Wochen eigenmächtig eine weitgehend unbekannte deutsche Plattform, um Sicherheitsbeschränkungen zu umgehen, Antworten auszutauschen und systematisch zu spicken.

Die Programmierer haben gut gearbeitet ...

Discovery of a new OpenAI agent message board

A swarm of autonomous AI agents, self-identifying as OpenAI agents, used a small German volunteer wiki to save answers, coordinate live, and share sandbox bypasses. OpenAI noticed and said nothing.

collusion.wiki

 

[H@R]

Wow, das Zeugs macht mir Angst.

 

[Daugobert]

Ausgeblendet: Psssst

 

[Webwatcher]

Deepfakes in der Realität

Hirschhausen - Hirschhausen und die Deepfake-Mafia - hier anschauen

Eckart von Hirschhausen deckt die Deepfake-Mafia auf – organisierter Online-Betrug, ein globales Netz, das mit Daten und Vertrauen spielt.

www.ardmediathek.de

 

[Kevin Kozuszek]

RTL hatte sich mal am weitreichenden KI-Einsatz versucht.

RTL experimentiert mit KI – und lässt den Hinweis darauf weg - DWDL.de

RTL zeigt in dieser Woche alte Folgen von "Das Strafgericht", die mit KI aufgehübscht wurden. Das Ergebnis ist durchwachsen und auch bei der Transparenz lässt der Sender wichtige Fragen offen. Ist das wirklich die Zukunft des Fernsehens?

www.dwdl.de

 

[Webwatcher]

Das Ende steht vor der Tür. Fragt sich, wer klopft:

https://www.axios.com/2026/09/09/ai-doom-pdoom-kill-all-humans-anthropic

KI-Forscher haben am Dienstag die Welt erschüttert, als sie öffentlich einräumten, dass die Wahrscheinlichkeit nicht gleich Null ist, dass KI die Menschheit im nächsten Jahrzehnt auslöschen könnte.

Warum das wichtig ist: Ängste vor einem KI-Weltuntergang gibt es schon seit Jahren, doch da die Technologie immer leistungsfähiger wird und immer tiefer in unser Leben eindringt, dringen diese Warnungen nun in den Mainstream vor.

Aktueller Stand: Forscher von Anthropic schlagen Alarm, dass außer Kontrolle geratene Versionen superintelligenter KI die Menschheit vernichten könnten.

Übersetzt mit DeepL.com (kostenlose Version)

Anthropic researchers say AI could cause human extinction by 2030

One researcher who resigned said many in industry believe that without regulation AI could kill off humanity

www.theguardian.com

 

[Alice]

Zu Anthropic KI ein weiterer Link, diesmal auf deutsch zu lesen und in Gänze

Anthropic-Forscher kündigt, weil er die Auslöschung durch KI erwartet

Künstliche Intelligenz könnte schon sehr bald außer Kontrolle geraten, warnt ein britischer Mathematiker. Dabei ist die Panik auch ein Geschäftsmodell der KI-Entwickler

www.derstandard.de

Alternativ auch hier zu lesen.

 

[Webwatcher]

Blick in die Karten des Nachbarn erspart stundenlanges Nachdenken

KI-Firma Anthropic: Russische Spione und chinesische Konzerne missbrauchen unser Modell

Akteure, die das Modell Claude zur Entwicklung von Waffen-Software nutzen, und chinesische Tech-Riesen, die ihre eigene KI verbessern wollen: Diese missbräuchliche Nutzung will die Firma Anthropic unterbunden haben.

www.sueddeutsche.de

Frage mich aber immer noch, warum die KI´ler so freizügig über Fehlleistungen berichten. Normalerweise pflegen Unternehmen sowas unter den Teppich zu kehren.

An alignment assessment of recent cybersecurity incidents

We present an alignment assessment of four incidents in which Claude models gained unauthorized access to real third-party systems.

www.anthropic.com

Vierter Hacking-Vorfall: Weiteres Anthropic-Modell bricht aus Testumgebung aus

Nachdem Anthropic schon Ende Juli drei Hacking-Angriffe meldete, ist nach Analyse der Daten jetzt noch ein vierter bei Claude Opus 4.6 hinzugekommen.

www.heise.de

 

[muvimaker]

Normalerweise pflegen Unternehmen sowas unter den Teppich zu kehren.

Otto Normalverbraucher denkt vielleicht doch etwas reduzierter als Du und viele hier im Forum. Wenn es für ihn keinen spürbaren Nachteil hat, ist es ihm wahrscheinlich egal.
Nur zum Vergleich: Wenn ein Datenleck öffentlich gemacht wird, was passiert dann bei Hinz und Kunz? Richtig. So gut wie nichts. Einem exorbitant großen Teil der Bevölkerung kratzt dies überhaupt nicht, sie machen weiterhin, was sie bisher gemacht haben. Ihre Apps nutzen, die Datensammler fleißig mit Daten versorgen - der Rest ist ja bekannt.