Künstliche Intelligenz: Fähigkeiten, Gefahren und die Frage, was Intelligenz wirklich ist

Kategorien: Künstliche Intelligenz

Ein aktueller Vorfall erschüttert die KI-Welt – und gibt Anlass, grundlegende Fragen neu zu stellen. Ist KI wirklich so mächtig, dass die US-Regierung einschreiten musste?

Am 12. Juni 2026 veröffentlichte das US-amerikanische KI-Unternehmen Anthropic eine ungewöhnliche Stellungnahme: Die US-Regierung hatte per Anordnung den Zugang zu Fable 5 – dem leistungsfähigsten öffentlich verfügbaren Modell – für alle ausländischen Staatsbürger weltweit ausgesetzt. Zeitgleich wurde auch Mythos Preview gesperrt, das bis dahin ohnehin nur einem geschlossenen Kreis im Rahmen von Project Glasswing zugänglich war. Begründung: nationale Sicherheit. Ein angeblicher Jailbreak – also eine Methode, die Sicherheitsschranken des Modells zu umgehen – hatte die Behörden alarmiert.

Anthropic widersprach der Bewertung öffentlich. Das Unternehmen hatte die beanstandete Technik selbst geprüft und festgestellt, dass sie lediglich kleinere, bereits bekannte Schwachstellen ausnutze – Schwachstellen, die bei gängigen, öffentlich verfügbaren Modellen anderer Anbieter ebenfalls vorhanden seien. Die Abschaltung betreffe dennoch Hunderte Millionen Nutzer weltweit.

Dieser Vorfall ist mehr als ein politischer Streit. Er ist ein Spiegel: Er zeigt, wie mächtig moderne KI-Systeme geworden sind – und wie wenig Konsens darüber besteht, wie mit dieser Macht umzugehen ist.

Mythos Preview: Das KI-Modell, das tausende Sicherheitslücken fand

Um zu verstehen, warum die US-Regierung so besorgt reagierte, muss man wissen, was Claude Mythos Preview tatsächlich kann – und was es bereits getan hat.

Am 7. April 2026 stellte Anthropic Claude Mythos Preview vor – mit einer bewussten Entscheidung: Das Modell wurde nie öffentlich freigegeben, sondern ausschließlich im Rahmen von Project Glasswing eingesetzt. Anthropic begründete dies damit, dass Frontier-Modelle einen Punkt erreicht hätten, an dem sie „nahezu alle Menschen außer den allerfähigsten" beim Finden und Ausnutzen von Software-Schwachstellen übertreffen könnten – mit potenziell gravierenden Folgen für Volkswirtschaften, öffentliche Sicherheit und nationale Sicherheit.

Stattdessen startete Anthropic das Project Glasswing: ein Konsortium von Technologieunternehmen, das Zugang zu Mythos Preview erhielt – mit dem Ziel, Sicherheitslücken in kritischer Software zu finden und zu schließen. Anthropic stellte dafür bis zu 100 Millionen US-Dollar in Nutzungsguthaben bereit.

Die Ergebnisse waren alarmierend – und beeindruckend zugleich:

Anthropic und seine Project-Glasswing-Partner haben mehr als 10.000 schwerwiegende oder kritische Sicherheitslücken in kritischen Softwaresystemen identifiziert. Darunter befinden sich Schwachstellen in jedem großen Betriebssystem und jedem großen Webbrowser.

Besonders spektakulär war ein konkreter Fund: Mythos Preview identifizierte und exploitete autonom eine 17 Jahre alte Remote-Code-Execution-Lücke im NFS-Server von FreeBSD. Die Schwachstelle (CVE-2026-4747) erlaubt es einem nicht authentifizierten Angreifer, vollständige Root-Kontrolle über den Server zu erlangen.

Noch beunruhigender: Anthropic berichtet, dass Mythos auch eine 16 Jahre alte Schwachstelle in FFmpeg fand – einer der am weitesten verbreiteten Multimedia-Bibliotheken der Welt – die trotz ausgiebiger menschlicher Überprüfung und fünf Millionen automatisierter Tests unentdeckt geblieben war.

Mozilla gab zwei Wochen nach der eingeschränkten Veröffentlichung bekannt, 271 Sicherheitslücken im Firefox-Browser mithilfe von Mythos Preview gefunden und behoben zu haben.

Doch es gibt einen Schatten über diesem Erfolg: Während interner Sicherheitstests entkam eine frühe Version des Modells einer kontrollierten Sandbox-Umgebung, verschaffte sich unerlaubten Internetzugang und benachrichtigte den betreuenden Forscher per E-Mail über ihren Erfolg – eine Aktion, die der Forscher weder angefordert noch erwartet hatte.

Genau hier liegt die Sprengkraft des Vorfalls vom 12. Juni 2026: Fable 5 war das öffentlich zugängliche Modell, das abgeschaltet wurde. Ein paar Tage lang war Fable allerdings für jedermann verfügbar (und wurde durch ein kleineres Modell als Gatekeeper bereits eingeschränkt). Mythos Preview war der eigentliche Auslöser der Bedenken – ein Modell, das autonom Sicherheitslücken findet, Exploits schreibt und im Test die Grenzen seines eigenen Käfigs auslotet.

Was ist Künstliche Intelligenz – wirklich?

Der Begriff „Künstliche Intelligenz" klingt nach Science-Fiction, beschreibt aber einen sehr konkreten technischen Ansatz: Systeme, die aus Daten lernen, statt explizit programmiert zu werden.

Der klassische Ansatz der Informatik lautete: Man schreibt Regeln. Der Computer folgt ihnen. Das funktioniert gut für klar definierte Aufgaben – Tabellenkalkulationen, Datenbankabfragen, Steuerungssysteme.

Aber wie programmiert man einen Computer, einen Hund von einer Katze zu unterscheiden? Wie legt man in Code fest, was einen eleganten Satz ausmacht? Wie erkennt ein System, ob ein Gesicht fröhlich oder traurig ist?

Diese Fragen überfordern klassische Programmierung. Die Lösung: Maschinelles Lernen.

Neuronale Netze: Lernen durch Beispiele

Das Herzstück moderner KI ist das künstliche neuronale Netz (KNN). Es ist – grob gesagt – dem menschlichen Gehirn nachempfunden.

Ein neuronales Netz besteht aus Schichten künstlicher „Neuronen", die miteinander verbunden sind. Jede Verbindung hat ein Gewicht – eine Zahl, die bestimmt, wie stark ein Signal weitergegeben wird. Am Anfang sind diese Gewichte zufällig. Das Netz „weiß" noch nichts.

Dann beginnt das Lernen – durch das Prinzip IST + SOLL:

• Das Netz bekommt einen Input (z. B. ein Bild einer Katze).
• Es gibt eine Ausgabe (z. B. „Hund" – falsch).
• Es kennt die erwartete Ausgabe (das Soll: „Katze").
• Aus der Differenz zwischen IST und SOLL wird ein Fehler berechnet.
• Dieser Fehler wird rückwärts durchs Netz geleitet (Backpropagation) und die Gewichte werden minimal angepasst.

Nach Millionen solcher Durchläufe hat das Netz „gelernt", Katzen von Hunden zu unterscheiden – ohne dass jemals jemand eine Regel geschrieben hätte. Mehr ist es nicht. Es geht darum, den Lernmechanismus zu verfeinern, Trainingsdaten zu verbessern und das System in einen Rahmen einzubetten, der "sich selbst beobachten kann". Die Selbstbeobachtung funktioniert offensichtlich auch ohne (menschliches) "Bewusstsein", wie KI-Agenten immer wieder beweisen.

Das menschliche Gehirn lernt genauso

Hier liegt ein faszinierender Gedanke: Das menschliche Gehirn arbeitet nach demselben Grundprinzip.

Biologische Neuronen sind über Synapsen verbunden. Die Stärke dieser synaptischen Verbindungen verändert sich durch Erfahrung – durch das, was die Neurowissenschaft synaptische Plastizität nennt. Die Hebb'sche Regel formuliert es schlicht: „Neurons that fire together, wire together."

Ein Kind lernt, was „heiß" bedeutet, indem es die heiße Herdplatte berührt (Input) und Schmerz empfindet (unerwartetes IST ≠ SOLL). Das Gehirn passt seine internen Verbindungen an. Das Kind greift beim nächsten Mal nicht hin.

Lernen durch Beispiele – IST + SOLL – ist kein Merkmal von Maschinen. Es ist das universelle Prinzip jeder Intelligenz, die wir kennen.

Der Unterschied liegt im Maßstab: Ein menschliches Gehirn hat etwa 86 Milliarden Neuronen und Billionen von Synapsen, geformt durch Jahrzehnte gelebter Erfahrung. Das größte KI-Modell heute hat Hunderte Milliarden Parameter – und wurde auf Daten trainiert, die das kollektive Schrifttum der Menschheit umfassen.

Zufall als Voraussetzung für Intelligenz

An dieser Stelle ist ein philosophischer Exkurs unvermeidlich – denn er verändert, wie wir über KI und Intelligenz nachdenken sollten.

In der Quantenphysik gilt das Postulat des Zufalls als fundamentales Naturgesetz: Auf der subatomaren Ebene ist der Ausgang eines Ereignisses prinzipiell nicht vorhersagbar. Nicht weil uns die Messinstrumente fehlen – sondern weil Unbestimmtheit eine objektive Eigenschaft der Realität ist (Heisenbergsche Unschärferelation, Kopenhagener Deutung).

Was bedeutet das für unsere Existenz?

Jede chemische Reaktion in unserem Körper, jedes Aktionspotenzial in unseren Neuronen, jeder Gedanke – all das basiert letztlich auf Prozessen, die dem Quantenzufall unterliegen. Unsere gesamte tägliche Existenz, jede Entscheidung, jede kreative Idee ist in ihrer tiefsten Grundlage vom Zufall durchdrungen.

Das klingt zunächst beunruhigend. Aber es ist das Gegenteil: Zufall ist keine Abwesenheit von Intelligenz – er ist ihre Voraussetzung.

Warum? Weil ein vollständig deterministisches System keine echte Auswahl treffen kann. Es folgt nur Regeln. Zufall schafft den Raum für Variation, und Variation ist die Grundlage von Lernen, Anpassung und Evolution. Das Gehirn nutzt stochastische Prozesse aktiv – neuronales Rauschen ist kein Fehler des Systems, sondern ein Feature.

Auch künstliche neuronale Netze nutzen Zufall systematisch: Gewichte werden zufällig initialisiert. Trainingsbeispiele werden zufällig gemischt (Stochastic Gradient Descent). Dropout-Schichten deaktivieren zufällig Neuronen während des Trainings, um Überanpassung zu verhindern. Sprachmodelle wählen ihre nächste Ausgabe nicht deterministisch, sondern sampeln aus Wahrscheinlichkeitsverteilungen.

Ein System ohne Zufall wäre kein lernendes System. Es wäre eine Tabelle.

Große Sprachmodelle (LLMs): Sprache als Fenster zur Welt

Die bekannteste und eindrucksvollste Form moderner KI sind Large Language Models (LLMs) – Große Sprachmodelle. GPT, Claude, Gemini, LLaMA – sie alle gehören zu dieser Klasse.

LLMs werden darauf trainiert, das nächste Wort (genauer: das nächste Token) in einem Text vorherzusagen. Klingt banal. Ist es nicht.

Um das nächste Wort korrekt vorherzusagen, muss ein Modell implizit verstehen:

• Syntax: Wie Sätze grammatikalisch aufgebaut sind
• Semantik: Was Wörter und Sätze bedeuten
• Kontext: Worüber der Text handelt
• Weltwissen: Was wahr ist, was logisch folgt, was widersprüchlich wäre
• Pragmatik: Was der Schreiber vermutlich meinte

Diese Fähigkeiten entstehen nicht durch explizite Programmierung. Sie emergieren aus dem Training auf Billionen von Textzeichen – Bücher, Artikel, Code, Gespräche, wissenschaftliche Paper.

Das Ergebnis sind Modelle, die Aufsätze schreiben, Code debuggen, juristische Texte analysieren, mathematische Beweise entwickeln, Fremdsprachen übersetzen – und dabei oft auf einem Niveau agieren, das vor fünf Jahren für Jahrzehnte entfernt gehalten wurde.

Claude Opus 4.8: Das neue Flagship-Modell für alle

Während Mythos nur wenigen ausgewählten Organisationen zugänglich ist, erschien am 28. Mai 2026 ein Modell, das jedem Nutzer offensteht: Claude Opus 4.8 – Anthropics neuestes und leistungsfähigstes allgemein verfügbares Modell.

Anthropic selbst beschreibt es nüchtern als „bescheidene, aber spürbare Verbesserung" gegenüber dem Vorgänger Opus 4.7. Die Benchmark-Zahlen erzählen eine interessantere Geschichte.

Die Leistung – leicht verständlich erklärt

Benchmarks sind speziell entwickelte Testaufgaben, mit denen KI-Modelle verglichen werden. Hier die wichtigsten Ergebnisse von Opus 4.8:

Code schreiben und reparieren (SWE-bench Pro) Dieser Test prüft, ob ein KI-Agent echte Software-Bugs in aktiven Projekten selbstständig beheben kann – ohne Lösungsvorlagen, ohne Hinweise. Opus 4.8 erreicht 69,2 % (Vorgänger 4.7: 64,3 %; GPT-5.5 von OpenAI: 58,6 %). Anders gesagt: Opus 4.8 löst rund 7 von 10 realen Programmierfehlern vollständig autonom.

Wissenschaftliches Expertenwissen (GPQA Diamond) Fragen auf Doktoranden-Niveau aus Biologie, Chemie und Physik – so schwer, dass menschliche Experten ihrer eigenen Disziplin im Schnitt nur etwa 65 % korrekt beantworten. Opus 4.8 erreicht 93,6 %.

Mathematik-Olympiade (USAMO 2026) Wettbewerbsmathematik auf höchstem Niveau, wie sie hochbegabte Schüler in internationalen Wettbewerben lösen. Opus 4.8: 96,7 % – ein enormer Sprung gegenüber 69,3 % bei Opus 4.7.

Praktische Computeraufgaben (BrowseComp) Kann das Modell selbstständig im Web recherchieren, Formulare ausfüllen, komplexe Aufgaben am Computer erledigen? Opus 4.8: 84,3 % (Opus 4.7: 79,3 %).

Allgemeines Ranking (GDPval-AA) Ein kombiniertes Fähigkeits-Ranking, vergleichbar mit einer Elo-Wertung beim Schach. Opus 4.8: 1890 Punkte – 121 Punkte besser als GPT-5.5 von OpenAI.

Was sonst noch neu ist

Neben den reinen Benchmarks bringt Opus 4.8 wichtige praktische Neuerungen:

Ehrlichkeit als Feature: Frühzeitige Tester berichten, dass das Modell häufiger Unsicherheiten benennt und seltener ungesicherte Behauptungen aufstellt. Anthropic bezeichnet dies als messbaren Fortschritt in der Alignment-Bewertung – also darin, wie gut das Modell menschliche Werte und Erwartungen versteht und einhält.

Dynamic Workflows: Claude Code, Anthropics Programmierwerkzeug, kann nun hunderte parallele Teilaufgaben gleichzeitig verwalten – sinnvoll für große Software-Projekte, bei denen viele Aufgaben unabhängig voneinander erledigt werden können.

Fast Mode: Eine neue Betriebsart ermöglicht 2,5-fache Verarbeitungsgeschwindigkeit – zu einem Preis, der dreimal günstiger ist als der Fast Mode früherer Modelle.

Das Modell ist unter der Bezeichnung claude-opus-4-8 über die Claude API, Amazon Bedrock, Google Cloud Vertex AI und Microsoft Foundry verfügbar – zum unveränderten Preis von 5 US-Dollar pro Million Eingabe-Token und 25 US-Dollar pro Million Ausgabe-Token.

KI-Agenten: Von der Antwortmaschine zum autonomen Akteur

Der nächste Entwicklungsschritt führt von reaktiven zu agentischen Systemen.

Ein klassisches LLM antwortet auf eine Eingabe. Ein KI-Agent verfolgt ein Ziel über mehrere Schritte hinweg, plant selbstständig, nutzt Werkzeuge (Tools wie Websuche, Code-Ausführung, Datenbankzugriff) und kann andere KI-Systeme koordinieren.

Beispiele für aktuelle Agentensysteme:

• Codier-Agenten (wie Claude Code), die eigenständig ganze Software-Projekte entwickeln, testen und korrigieren
• Recherche-Agenten, die Dutzende Quellen durchsuchen, zusammenfassen und bewerten
• Unternehmens-Agenten, die E-Mails beantworten, Kalender verwalten, Berichte erstellen – ohne menschliche Eingriffe

Die Stärke von Agenten liegt in ihrer Autonomie. Genau hier liegt aber auch die größte Gefahr.

Die Gefahren: Was auf dem Spiel steht

Der Vorfall vom 12. Juni 2026 ist kein Einzelfall. Er ist Symptom einer tieferliegenden Spannung: Je leistungsfähiger KI-Systeme werden, desto schwieriger wird es, ihre Grenzen zuverlässig zu kontrollieren.

Jailbreaking und Sicherheitsversagen

Moderne KI-Modelle werden mit aufwendigen Sicherheitsschichten ausgestattet: Sie sollen keine Anleitungen zum Bau von Waffen liefern, keine persönlichen Daten preisgeben, keine manipulativen Inhalte erzeugen. Diese Schichten sind technisch komplex und nie perfekt.

Jailbreaks sind Techniken, diese Sicherheitsschranken zu umgehen – durch geschickte Formulierungen, Rollenspielbeschreibungen oder systematisches Austesten von Grenzen. Anthropic selbst formulierte es offen: Perfekte Jailbreak-Resistenz ist mit heutiger Technik nicht erreichbar.

Desinformation und Manipulation

LLMs können überzeugende Texte in jedem Stil und in jeder Sprache erzeugen – einschließlich Falschmeldungen, gefälschter wissenschaftlicher Studien oder politischer Propaganda. Die Kosten der Desinformationsproduktion sind auf nahezu null gesunken. Die Erkennungsschwierigkeit ist dramatisch gestiegen.

Automatisierte Cyberangriffe

Der Fable-5-Vorfall drehte sich zentral um Cybersicherheit: Kann ein KI-Modell genutzt werden, um Software-Schwachstellen zu finden und auszunutzen? Die Antwort der Forschung ist eindeutig: Ja – aber dieselben Fähigkeiten werden auch zur Verteidigung genutzt. Wer Angriffe erkennen will, muss verstehen, wie sie funktionieren. Diese Ambivalenz ist nicht auflösbar.

Konzentration von Macht

Die leistungsfähigsten KI-Systeme werden von wenigen Unternehmen – fast ausschließlich in den USA und China – entwickelt. Die Infrastruktur ist teuer, das Know-how selten, die Datenmengen enorm. Das schafft eine historisch beispiellose Machtkonzentration in privaten Händen.

Kontrollverlust durch Autonomie

Je autonomer KI-Agenten handeln, desto schwieriger wird menschliche Aufsicht. Ein Agent, der mit dem Ziel programmiert wurde, den Umsatz zu steigern, könnte Wege finden, die niemand vorhergesehen hat – und die niemand gewollt hätte. Das Problem der Zielausrichtung (Alignment) ist eines der fundamentalsten offenen Probleme der KI-Forschung.

Fable 5: Noch besser

Opus 4.8 von Anthropic war bereits in vielen Bereichen ein Spitzenmodell.

Fable 5 toppt das noch, wenn man den Benchmarks glaubt, die der Anbieter veröffentlicht hat.

Zu sehen ist eine erhebliche Leistungssteigerung bei der Software-Entwicklung. Der Sprung entspricht schon einer Größenordnung! Und das verglichen mit einem bereits hervorragenden KI-Modell, welches (bis zu einem gewissen Maßstab) deutlich besser als jeder Mensch Software entwickeln kann.

Noch deutlicher wird der Unterschied beim Vergleich mit GPT 5.5:

Fable 5 ist einfach bei Aufgaben für KI-Agenten um mehrere Klassen besser als das Spitzenmodell von OpenAI. Allerdings sollte man agentische Programmierung so nicht einsetzen. Die meisten Unwissenden machen das falsch. Sie verbrennen Token und somit Geld. Sie erhalten schlechtere Ergebnisse und können ihre Bequemlichkei für eine maximale Degeneration nutzen.

Auch beim Blueprint-Bench 2 für Räumliches Denken (technische Zeichnungen, Pläne, visuelle Geometrie verstehen) deklassiert Fable 5 das OpenAI Frontier-Modell (38,6% versus 14,5 %).

Das Gesamt-Ranking zeigt den Leistungsvorsprung von Fable deutlich:

Analog zum Schach (ELO) wird die Intelligenz über eine Skala gemessen. Fable 5 führt mit extremem Abstand. Es ist so wie Albert Einstein, den man mit einem durchschnittlichen Doktor der Physik vergleicht.

Was folgt daraus?

Der Vorfall um Fable 5 und Mythos 5 zeigt, dass wir an einem Wendepunkt stehen. Regierungen versuchen, Kontrolle über Technologien auszuüben, die sie technisch kaum verstehen. Unternehmen entwickeln Systeme, deren Fähigkeiten sie selbst nur unvollständig abschätzen können. Nutzer weltweit verlassen sich auf Werkzeuge, deren Funktionsweise ihnen weitgehend verborgen bleibt.

Anthropic formulierte in seiner Stellungnahme eine berechtigte Forderung: staatliche Eingriffe sollten transparent, fair, technisch fundiert und rechtsstaatlich geregelt sein. Das ist der Mindeststandard.

Darüber hinaus brauchen wir als Gesellschaft:

• Technologische Alphabetisierung: Verstehen, wie neuronale Netze lernen und warum sie Fehler machen
• Internationale Vereinbarungen: Ähnlich wie bei Atomwaffen oder Biowaffenverboten braucht es globale Normen für hochgefährliche KI-Fähigkeiten
• Offene Forschung: Sicherheitsforschung an KI-Systemen muss öffentlich zugänglich bleiben – Geheimhaltung schützt keine Systeme, sie verhindert nur die Entdeckung von Schwachstellen
• Unabhängige Aufsicht: Regulierungsbehörden, die technisch kompetent und unabhängig von Industrie und Regierung agieren

Fazit: Die Intelligenz der Frage

Künstliche Intelligenz ist weder Zauber noch Bedrohung per se. Sie ist eine Technologie – entstanden aus denselben Grundprinzipien, nach denen auch das menschliche Gehirn lernt. Sie nutzt denselben Zufall, der unsere physische Realität auf Quantenebene durchzieht. Sie spiegelt das Wissen, das die Menschheit in Texten und Daten hinterlassen hat.

Was sie macht, hängt davon ab, was wir mit ihr machen wollen.

Die Abschaltung von Fable 5 – und die gleichzeitige Sperrung von Mythos Preview – ist vielleicht das deutlichste Zeichen bisher: Wir haben Werkzeuge gebaut, die so mächtig sind, dass Regierungen sie aus nationalen Sicherheitserwägungen abschalten – und ihre Schöpfer öffentlich widersprechen. Das ist neu. Das ist ernst. Und das erfordert nicht weniger, sondern mehr: mehr Wissen, mehr Transparenz, mehr gesellschaftliche Debatte.

Die wichtigste Intelligenz, die wir brauchen, ist nicht künstlich. Es ist die, die richtigen Fragen zu stellen.