KI-News: Sicherheitsrisiken, offene Modelle und die Zukunft menschlicher Arbeit

Sicherheitsrisiko durch manipulierte Grübel-Prompts

Large Reasoning Models können durch logisch inkonsistente oder unvollständige Eingaben in besonders lange Denkschleifen geraten. Forschende der Zhejiang-Universität in Hangzhou stellten ihre noch nicht von unabhängigen Expertinnen und Experten geprüfte Studie Anfang Juli auf der International Conference on Machine Learning vor, wie t3n berichtet.

Untersucht wurde, wie sich solche „Grübel-Prompts“ gezielt erzeugen lassen. Dafür entwickelte das Forschungsteam einen „hierarchischen genetischen Algorithmus“ (HGA), der anhand der Antwortlänge und bestimmter Schlüsselwörter wie „aber“, „warte“ und „vielleicht“ bewertet, welche Eingaben ein Modell besonders stark zum Weiterdenken bringen.

Der HGA verändert die Prompts wiederholt. Eingaben, die besonders lange und komplexe Denkschleifen auslösen, werden für die nächste Generation beibehalten. Auf diese Weise lassen sich laut dem Bericht Prompts „züchten“, die Sprachmodelle möglichst stark überlasten.

Für die Untersuchung testete das Team DeepSeek-R1, Qwen3-Thinking, GPT-o3 und Gemini-2.5-Flash. Unter anderem sollten die Modelle 960 Aufgaben des MATH-Benchmarks lösen. Bei bewusst veränderten Prompts erzeugten die Systeme in einigen Fällen Antworten, die 26 mal so lang waren wie bei korrekt formulierten Aufgaben; auch bei Programmier- und Dialogaufgaben stieg die Zahl der generierten Token.

Der erhöhte Tokenverbrauch bedeutet nach Angaben von t3n einen höheren Energie- und Ressourcenbedarf. Zudem könnten Angreifer die manipulierten Eingaben in großem Maßstab nutzen, um Server ähnlich wie bei einem Distributed-Denial-of-Service-Angriff zu belasten und dadurch die Servicequalität für andere Nutzende zu verschlechtern.

„Unsere Ergebnisse unterstreichen die Notwendigkeit neuer Verteidigungsparadigmen – wie beispielsweise die bessere Überwachung von Denkschleifen und mehr Robustheit gegenüber logisch inkonsistenten Eingaben“, schreiben die Forschenden.

Infobox: Getestet wurden vier Reasoning-Modelle und 960 MATH-Benchmark-Aufgaben. Manipulierte Prompts führten in einigen Fällen zu Antworten, die 26 mal so lang waren.

KI-Expertin sieht menschliche Arbeit als künftiges Luxusgut

Lara Sophie Bothur, die sich als „Global Tech Translator“ eine hohe Followerschaft auf Linkedin aufgebaut hat, spricht im Interview mit Business Insider Deutschland über die Auswirkungen Künstlicher Intelligenz auf Arbeitswelt und Wirtschaft. Im Mittelpunkt stehen der Fachkräftemangel, Europas technologische Souveränität sowie die Frage, welche Berufe durch KI verschwinden oder sich grundlegend verändern könnten.

Bothur zählt laut dem Bericht zu den bekanntesten deutschen Stimmen auf Linkedin, wenn es um Künstliche Intelligenz geht. Sie erklärt, warum KI und humanoide Roboter den Arbeitsalltag schon bald verändern könnten, und vertritt die Position, dass Unternehmen jetzt „AI-first“ werden müssten, um wettbewerbsfähig zu bleiben.

Der Titel des Interviews fasst ihre zentrale Einschätzung zusammen: „Menschliche Arbeit wird zum Luxusgut“. Damit verbindet sich die Erwartung, dass Automatisierung und KI menschliche Tätigkeiten in vielen Bereichen neu bewerten und die Rolle menschlicher Arbeitskraft verändern werden.

Der Bericht ordnet Bothurs Aussagen in eine breitere Debatte über Digitalisierung, Automatisierung und KI-Kompetenz ein. Genannt werden außerdem die Bedeutung des Mittelstands, der KI-Boom, Roboter und technologische Entwicklungen wie Quantencomputer.

Infobox: Lara Sophie Bothur spricht über Fachkräftemangel, technologische Souveränität und den Wandel von Berufen. Ihre zentrale These lautet: „Menschliche Arbeit wird zum Luxusgut“.

25 Tech-Unternehmen fordern ein offenes KI-Ökosystem

Eine Allianz von 25 überwiegend US-amerikanischen Tech-Unternehmen fordert in einem offenen Brief ein KI-Ökosystem mit offenen Modellen. Wie heise online berichtet, sehen die Unterzeichner die US-Führungsposition bei Künstlicher Intelligenz nur dann als verteidigbar an, wenn ein Ökosystem aus offenen Modellen aufgebaut wird und nicht ein einziges bestes System geschützt wird.

Zu den Unterzeichnern gehören unter anderem Microsoft, Meta, Mistral, Hugging Face, Nvidia, IBM und Dell. Auch die Investoren Andreessen Horowitz und Y Combinator unterstützen den Brief. Anthropic und OpenAI, die Entwickler technisch führender Closed-Source-Modelle, gehören nicht zu den Unterzeichnern.

Auslöser der Debatte ist laut Bericht das Open-Weights-Modell Kimi K3 des chinesischen Start-ups Moonshot AI. Das Modell verfügt über 2,8 Billionen Parameter und wurde am 16. Juli veröffentlicht. Internen Benchmarks zufolge liegt Kimi K3 bei umfangreichen, lang andauernden Programmierprojekten und komplexen Recherchen mit Datenanalysen vor den bislang veröffentlichten Flaggschiff-Versionen GPT-5.6 Sol von OpenAI und Claude Fable 5 von Anthropic.

Die Befürworter einer Open-Weights-Strategie argumentieren mit wirtschaftlichen und sicherheitsbezogenen Vorteilen. Ein offenes Ökosystem könne den Zugang zu fortgeschrittenen KI-Systemen für Start-ups, Unternehmen jeder Größe und öffentliche Einrichtungen ermöglichen, ohne dass jedes Modell von Grund auf trainiert oder überhöhte Frontier-Model-Preise bezahlt werden müssten.

Außerdem könne der Wettbewerb erhalten bleiben und die Verteilung der Gewinne breiter ausfallen. Weil Open-Weights-Modelle von einer Community aus Forschern und Entwicklern untersucht werden könnten, ließen sich Schwachstellen leichter erkennen und beseitigen.

Die Unterzeichner wenden sich zugleich gegen eine Gleichsetzung legitimer Entwicklungstechniken mit Zweckentfremdung oder Diebstahl. Genannt werden das Destillieren und die Nutzung des Outputs anderer Modelle zum Training eines eigenen Systems. OpenAI und Anthropic betrachten solche Praktiken laut heise online als Diebstahl geistigen Eigentums und setzen sich für eine stärkere Regulierung von Open-Weights-Modellen, insbesondere aus China, ein.

Kimi K3 verarbeitet neben Text auch Bilder und Videos und besitzt eine Architektur, die die Rechenkomplexität im Vergleich zu klassischen Transformer-Modellen deutlich reduziert. Die Preise für den API-Zugang wurden gegenüber der Vorversion um das Drei- bis Vierfache angehoben; dennoch seien die Dienste günstiger als jene von OpenAI und anderen Anbietern.

Infobox: 25 Tech-Unternehmen plädieren für offene KI-Modelle. Kimi K3 verfügt über 2,8 Billionen Parameter, wurde am 16. Juli veröffentlicht und erhöhte die API-Preise gegenüber der Vorversion um das Drei- bis Vierfache.

Weltweite Störung legt ChatGPT, API und Codex teilweise lahm

Nutzer rund um den Globus berichteten über massive Probleme beim Zugriff auf ChatGPT. Nach Angaben von T-Online waren sowohl die Web-Version als auch die mobilen Apps von OpenAI betroffen.

Betroffene sahen Fehlermeldungen wie „Internal Server Error“, „Bad Gateway“ oder unvollständige Antworten. Auf Plattformen wie Downdetector und in sozialen Medien häuften sich die Berichte über Ausfälle.

Als technischer Hinweis trat bei einigen Nutzern der Fehler „503 Service Unavailable“ auf. Dieser Fehler deutet laut dem Bericht darauf hin, dass Server vorübergehend überlastet, wegen Wartungsarbeiten offline oder nicht erreichbar sind.

OpenAI nannte zunächst keine genaue Ursache und erklärte auf seiner offiziellen Statusseite lediglich, dass die Probleme untersucht würden. Rund eine Stunde nach Beginn der ersten Ausfälle meldete das Unternehmen, eine technische Lösung eingespielt zu haben und die Erholung der Systeme zu überwachen.

Die Systeme fuhren laut T-Online schrittweise wieder hoch, sodass einige blockierte Accounts erneut auf den Chatbot zugreifen konnten. Gleichzeitig blieb die Lage kritisch, weil neben ChatGPT auch die Entwickler-Schnittstellen API und das Programmiertool Codex von massiven Ausfällen betroffen waren.

Als Übergangslösung verwies der Bericht auf etablierte Alternativen wie Google Gemini, Microsoft Copilot und Claude von Anthropic. Der Ausfall zeige, wie stark Arbeitsabläufe inzwischen von einzelnen KI-Diensten abhängig seien.

Infobox: Betroffen waren ChatGPT im Web und in mobilen Apps sowie API und Codex. Genannt wurden unter anderem die Fehler „Internal Server Error“, „Bad Gateway“ und „503 Service Unavailable“.

KI-Festival in Heilbronn macht Technologie erlebbar

Beim KI-Festival in Heilbronn standen Künstliche Intelligenz, Robotik und digitale Innovationen für alle Generationen im Mittelpunkt. Die Veranstaltung bot interaktive Mitmachangebote, Vorträge und Workshops für Kinder, Familien und Unternehmen, wie die Stimme berichtet.

Auf dem Gelände rund um die Ipai-Spaces präsentierten Unternehmen und Start-ups Anwendungen für Wirtschaft und Gesellschaft. Besucher konnten digitale Technologien testen, praktische Erfahrungen sammeln und KI bei interaktiven Demonstrationen sowie Live-Präsentationen erleben.

Das Festival umfasste 150 Programmpunkte von mehr als 50 Ausstellern. Bereits am Samstag kamen laut Bericht Tausende Besucher bei freiem Eintritt nach Heilbronn; am Sonntag war die Veranstaltung von 11 bis 18 Uhr geöffnet.

Zu den Themen gehörten humanoide Roboter, Forschung, Innovation und praktische Anwendungen im Alltag. Experten und Entwickler stellten aktuelle Trends vor, während Workshops und Mitmachstationen die Technologie auch für Besucher ohne technischen Hintergrund zugänglich machten.

Infobox: Das KI-Festival bot 150 Programmpunkte von mehr als 50 Ausstellern. Am Sonntag war es von 11 bis 18 Uhr geöffnet; der Eintritt war frei.

„Pans Labyrinth“ kehrt ohne KI-Unterstützung in 3D zurück

Guillermo del Toro bringt „Pans Labyrinth“ zum 20. Jubiläum in 4K und 3D zurück in die weltweiten Kinos. Für die aufwendige Überarbeitung wurde ausdrücklich auf Künstliche Intelligenz verzichtet, berichtet Filmstarts.

Der Film erzählt die Geschichte der kleinen Ofelia, die sich nach dem Sieg der Faschisten im spanischen Bürgerkrieg in eine Fantasiewelt flüchtet. Das Werk verbindet verschiedene Genres und gilt laut Bericht als eines der großen Meisterwerke des modernen Fantasy-Kinos.

Del Toro begründet den Verzicht auf KI mit dem Schutz menschlicher Ausdruckskraft und der Kunst. Bei der San Diego Comic Con sagte er: „Ich sagte ‚Ohne gottverdammte KI‘ [...] Es ist viel teurer. Ist mir egal. Was wir beschützen, ist die Schönheit und die Kraft der Kunst“.

„Ich würde lieber sterben“ – Guillermo del Toro über seine Haltung zum Einsatz Künstlicher Intelligenz.

In Deutschland kehrt „Pans Labyrinth“ am 6. Oktober auf die Kinoleinwände zurück. Die Aufführung erfolgt im Rahmen der Reihe „Best Of Cinema“.

Infobox: „Pans Labyrinth“ wird zum 20. Jubiläum in 4K und 3D gezeigt. Der deutsche Kinostart ist am 6. Oktober; für die Konvertierung wurde laut Filmstarts keine KI eingesetzt.

Quellen: