<?xml version="1.0" encoding="UTF-8"?><rss version="2.0"
	xmlns:content="http://purl.org/rss/1.0/modules/content/"
	xmlns:wfw="http://wellformedweb.org/CommentAPI/"
	xmlns:dc="http://purl.org/dc/elements/1.1/"
	xmlns:atom="http://www.w3.org/2005/Atom"
	xmlns:sy="http://purl.org/rss/1.0/modules/syndication/"
	xmlns:slash="http://purl.org/rss/1.0/modules/slash/"
	>

<channel>
	<title>Dr. DSGVO</title>
	<atom:link href="https://dr-dsgvo.de/feed/" rel="self" type="application/rss+xml" />
	<link>https://dr-dsgvo.de</link>
	<description>Digitaler Datenschutz &#38; KI</description>
	<lastBuildDate>Wed, 18 Nov 2026 09:42:52 +0000</lastBuildDate>
	<language>de</language>
	<sy:updatePeriod>
	hourly	</sy:updatePeriod>
	<sy:updateFrequency>
	1	</sy:updateFrequency>
	<generator>https://wordpress.org/?v=7.1.4</generator>

<image>
	<url>https://dr-dsgvo.de/wp-content/uploads/2021/09/cropped-Icon-32x32.png</url>
	<title>Dr. DSGVO</title>
	<link>https://dr-dsgvo.de</link>
	<width>32</width>
	<height>32</height>
</image> 
	<item>
		<title>Digital Fairness Act: Das soll sich bei Dark Patterns, Cookie-Bannern und Abos ändern</title>
		<link>https://dr-dsgvo.de/digital-fairness-act-dark-patterns/</link>
					<comments>https://dr-dsgvo.de/digital-fairness-act-dark-patterns/#respond</comments>
		
		<dc:creator><![CDATA[Dr. DSGVO]]></dc:creator>
		<pubDate>Wed, 18 Nov 2026 11:03:53 +0000</pubDate>
				<category><![CDATA[Datenschutz]]></category>
		<category><![CDATA[Recht]]></category>
		<category><![CDATA[Abo]]></category>
		<category><![CDATA[Cookie-Banner]]></category>
		<category><![CDATA[Dark Patterns]]></category>
		<category><![CDATA[Digital Fairness Act]]></category>
		<category><![CDATA[hasDanish]]></category>
		<category><![CDATA[hasDutch]]></category>
		<category><![CDATA[hasEnglish]]></category>
		<category><![CDATA[hasFrench]]></category>
		<category><![CDATA[hasItalian]]></category>
		<category><![CDATA[hasPolish]]></category>
		<category><![CDATA[hasSpanish]]></category>
		<category><![CDATA[hasSwedish]]></category>
		<category><![CDATA[hasUkrainian]]></category>
		<category><![CDATA[Kündigungsbutton]]></category>
		<guid isPermaLink="false">https://dr-dsgvo.de/?p=36672</guid>

					<description><![CDATA[Die EU-Kommission hat am 11.11.2026 den Digital Fairness Act vorgeschlagen. Er soll manipulative Cookie-Banner, versteckte Kosten und schwer kündbare Abos verbieten. Was schon gilt, was neu wäre und was Betreiber jetzt prüfen können.]]></description>
										<content:encoded><![CDATA[
<p class="wp-block-paragraph"><em>Die EU-Kommission hat den Digital Fairness Act vorgeschlagen. Er soll manipulative Gestaltung im Netz verbieten: unfaire Cookie-Banner, versteckte Kosten und Abos, die sich kaum beenden lassen. Noch ist es ein Entwurf, doch die Richtung ist klar.</em></p>



<p class="wp-block-paragraph">Ein Banner springt ins Bild, ein Knopf leuchtet, und der Weg zur Ablehnung versteckt sich hinter grauem Text. Im Online-Shop tickt ein Countdown, obwohl das Angebot gar nicht ausläuft. Und wer ein Abo beenden will, irrt durch Menüs, die offenbar nur dafür gebaut wurden, dass niemand ankommt.</p>



<p class="wp-block-paragraph">Mit dem Vorschlag soll genau diese Art von Gestaltung europaweit einheitlich geregelt werden. Für Betreiber von Websites, Shops und Abo-Angeboten stellt sich die Frage, was davon neu wäre, was ohnehin schon gilt und was sich schon jetzt besser machen lässt.</p>



<h2 class="wp-block-heading">Was der Digital Fairness Act ist</h2>



<p class="wp-block-paragraph">Der <strong>Digital Fairness Act</strong>, kurz DFA, ist ein Gesetzgebungsvorschlag der EU-Kommission für faires Verhalten im digitalen Verbraucherschutz. Die <a href="https://commission.europa.eu/law/law-topic/consumer-protection-law/digital-fairness-act_en" target="_blank" rel="noopener">Kommission hat ihn</a> am 11.11.2026 gemeinsam mit einer Vereinfachungsrichtlinie angenommen. Beides gehört zu einem Verbraucherpaket, zu dem auch eine Überarbeitung der Regeln für die Zusammenarbeit der Verbraucherschutzbehörden zählt. Die Kommission spricht vom größten Update des EU-Verbraucherschutzrechts seit mehr als 20 Jahren.</p>



<p class="wp-block-paragraph">Der DFA ist als Verordnung gedacht. Das ist wichtig, denn eine Verordnung gilt unmittelbar in allen Mitgliedstaaten und muss nicht erst in nationales Recht umgesetzt werden. Der Flickenteppich, den Betreiber aus anderen Bereichen kennen, soll so kleiner werden. Die Vereinfachungsrichtlinie soll im Gegenzug bestehende Verbraucherregeln bereinigen, damit nicht noch mehr Papier entsteht.</p>



<p class="wp-block-paragraph">Der Vorschlag ist noch kein geltendes Recht. Parlament und Rat müssen zustimmen, und in diesem Prozess werden Entwürfe erfahrungsgemäß verändert, manchmal erheblich. Nach dem Entwurf soll die Verordnung ca. zwölf Monate nach dem Inkrafttreten anzuwenden sein. Bis ein Shop konkrete Pflichten aus dem DFA erfüllen muss, vergehen also wohl noch einige Jahre.</p>



<p class="wp-block-paragraph">Der Anlass ist gut dokumentiert. Die Kommission hat das Verbraucherrecht im digitalen Umfeld geprüft und Ende 2024 die Ergebnisse dieser Eignungsprüfung vorgestellt. Dabei zeigte sich, dass die vorhandenen Richtlinien zu unlauteren Geschäftspraktiken, zu Verbraucherrechten und zu missbräuchlichen Klauseln zwar viel abdecken, aber nicht auf Oberflächen zugeschnitten sind, die gezielt Verhalten steuern. Der DFA schließt diese Lücke.</p>



<p class="wp-block-paragraph">Die Themen des Vorschlags reichen weit. Es geht um Dark Patterns und suchtfördernde Gestaltung, um Abos und die Umwandlung kostenloser Testphasen, um den Zugang zu menschlichem Kundenservice, um unfaire Personalisierung, um Werbung durch Influencer, um dynamische Preise und um irreführende Preisangaben. Für Betreiber von Websites und Shops sind vor allem die ersten Punkte relevant.</p>



<h2 class="wp-block-heading">Was als Dark Pattern gelten soll</h2>



<p class="wp-block-paragraph">Der Begriff <strong>Dark Patterns</strong> bezeichnet Oberflächen, die Menschen zu Entscheidungen drängen, die sie bei klarer Sicht nicht getroffen hätten. Fachleute sprechen auch von täuschendem Design. Bislang gibt es dafür keine einheitliche gesetzliche Definition in der EU. Genau das soll der DFA ändern: eine gemeinsame Begriffsbestimmung und eine Liste von Praktiken, die als unzulässig gelten.</p>



<p class="wp-block-paragraph">Dazu zählen typische Muster, die jeder im Alltag schon gesehen hat:</p>



<ul class="wp-block-list">
<li><strong>Confirmshaming</strong>: Die Ablehnung wird mit einem Vorwurf formuliert, etwa „Nein, ich spare nicht gern“.</li>



<li><strong>Doppelte Verneinungen</strong>: Wer „nicht nicht abmelden“ verstehen will, braucht Geduld.</li>



<li><strong>Voreingestellte Optionen</strong>: Häkchen für Newsletter, Versicherungen oder Zusatzleistungen sind schon gesetzt.</li>



<li><strong>Versteckte Opt-out-Möglichkeiten</strong>: Die Ablehnung existiert, ist aber nur über mehrere Ebenen erreichbar.</li>



<li><strong>Asymmetrisches Design</strong>: Die gewünschte Antwort ist groß und farbig, die Alternative klein und blass.</li>
</ul>



<p class="wp-block-paragraph">Dahinter steht ein einfacher Grundsatz, der als <strong>Gleichwertigkeit der Wege</strong> beschrieben werden kann: Ablehnen und Kündigen dürfen nicht aufwendiger sein als Zustimmen und Abschließen. Gemessen wird das an der Zahl der Schritte, an der optischen Gewichtung und an der Farbgebung. Wer zum Zustimmen einen Klick braucht, darf fürs Ablehnen keine drei verlangen.</p>



<figure class="wp-block-pullquote"><blockquote><p>Ablehnen und Kündigen sollen nicht schwerer sein als Zustimmen und Abschließen.</p></blockquote></figure>



<p class="wp-block-paragraph">Das ist im Kern keine neue Idee. Die Datenschutzaufsicht hat täuschende Designmuster schon in früheren Leitlinien beschrieben, und im Plattformrecht gibt es seit einigen Jahren ein Verbot manipulativer Oberflächen. Neu wäre, dass der Gedanke in einem allgemeinen Verbraucherrecht für alle Anbieter landet und mit klaren Beispielen unterlegt ist. Für Betreiber bedeutet das mehr Rechtssicherheit, aber auch weniger Spielraum für Grauzonen.</p>



<h2 class="wp-block-heading">Cookie-Banner bleiben im Fokus</h2>



<p class="wp-block-paragraph">Kaum ein Element im Netz steht so sehr für Dark Patterns wie das <strong>Cookie-Banner</strong>. Typisch ist die Bühne für das „Alle akzeptieren“: groß, farbig, in der Mitte oder am unteren Rand, während die Ablehnung als Textlink in der Ecke oder erst in einem zweiten Dialog auftaucht. Manche Banner geben der Ablehnung eine so unscheinbare Farbe, dass sie wie ein Teil des Hintergrunds wirkt.</p>



<p class="wp-block-paragraph">Rechtlich ist das schon heute angreifbar. Eine Einwilligung muss freiwillig, informiert, bestimmt und eindeutig sein. Wer die Zustimmung nur deshalb erhält, weil die Ablehnung kaum zu finden ist, hat keine wirksame Einwilligung. Für den Zugriff auf Endgeräte verlangt außerdem das Telekommunikation-Digitale-Dienste-Datenschutz-Gesetz in <a href="https://www.gesetze-im-internet.de/ttdsg/__25.html" target="_blank" rel="noopener">§ 25 TDDDG</a> grundsätzlich eine Einwilligung. Dazu kommt der Grundsatz, dass der Widerruf so einfach sein muss wie die Erteilung, wie ihn <a href="https://dr-dsgvo.de/artikel-7-dsgvo/">Art. 7 DSGVO</a> festschreibt.</p>



<p class="wp-block-paragraph">Warum braucht es dann noch ein weiteres Gesetz? Weil die Praxis zeigt, dass diese Regeln allein nicht genügt haben. Die Datenschutzbehörden haben unterschiedliche Maßstäbe, die Gerichte entscheiden einzelfallbezogen, und viele Banner bewegen sich genau auf der Linie zwischen noch zulässig und schon manipulativ. Der DFA soll hier eine klare Verbraucherschutzbasis schaffen, die auch Verbraucherbehörden und Verbände nutzen können, nicht nur die Datenschutzaufsicht.</p>



<p class="wp-block-paragraph">Wer das Thema vertiefen will, findet im <a href="https://dr-dsgvo.de/cookies-und-einwilligung/">Überblick zu Cookies und Einwilligung</a> die wichtigsten Grundlagen. Praktisch lässt sich ein Banner bereits jetzt prüfen: Sind „Akzeptieren“ und „Ablehnen“ auf derselben Ebene, gleich groß und gleich gestaltet? Fehlt ein Hinweis, mit dem die Ablehnung kleingeredet wird? Kommt die Auswahl ohne vorangekreuzte Kategorien aus?</p>




<figure class="wp-block-image size-large"><img fetchpriority="high" decoding="async" width="1024" height="672" src="https://dr-dsgvo.de/wp-content/uploads/2026/11/dfa-banner-vergleich-4f876fa7-1024x672.webp" alt="Digital Fairness Act: Cookie-Banner mit versteckter Ablehnung neben fairem Banner mit zwei gleichen Schaltflächen" class="wp-image-36669" srcset="https://dr-dsgvo.de/wp-content/uploads/2026/11/dfa-banner-vergleich-4f876fa7-1024x672.webp 1024w, https://dr-dsgvo.de/wp-content/uploads/2026/11/dfa-banner-vergleich-4f876fa7-300x197.webp 300w, https://dr-dsgvo.de/wp-content/uploads/2026/11/dfa-banner-vergleich-4f876fa7-768x504.webp 768w, https://dr-dsgvo.de/wp-content/uploads/2026/11/dfa-banner-vergleich-4f876fa7-1536x1008.webp 1536w, https://dr-dsgvo.de/wp-content/uploads/2026/11/dfa-banner-vergleich-4f876fa7-640x420.webp 640w, https://dr-dsgvo.de/wp-content/uploads/2026/11/dfa-banner-vergleich-4f876fa7-1320x866.webp 1320w, https://dr-dsgvo.de/wp-content/uploads/2026/11/dfa-banner-vergleich-4f876fa7.webp 1600w" sizes="(max-width: 1024px) 100vw, 1024px" /><figcaption class="wp-element-caption">Links ein asymmetrisches Banner, rechts ein Banner mit gleichwertigen Schaltflächen.</figcaption></figure>




<h2 class="wp-block-heading">Online-Shops und Checkout</h2>



<p class="wp-block-paragraph">Im Shop spielt sich die zweite große Spielwiese manipulativer Gestaltung ab. Hier geht es weniger um Daten als um Geld. Viele der gängigen Tricks sind schon heute unlauter und können nach dem Wettbewerbsrecht abgemahnt werden, das auf der EU-Richtlinie über unlautere Geschäftspraktiken beruht. Der DFA setzt darauf auf und will den Rahmen für digitale Oberflächen schärfen.</p>



<p class="wp-block-paragraph">Ein Feld, das der Entwurf ausdrücklich adressiert, ist die <strong>irreführende Preisgestaltung</strong>. Ein bekanntes Beispiel ist Drip Pricing: Zuerst wird ein niedriger Preis genannt, und erst im Laufe des Bestellvorgangs kommen Gebühren hinzu, etwa Servicepauschale, Buchungsentgelt oder Verpackung. Am Ende liegt der Betrag deutlich über dem Lockpreis. Wer schon viele Schritte erledigt hat, bricht ungern ab, und genau darauf setzt das Muster.</p>



<p class="wp-block-paragraph">Folgende Praktiken gelten schon nach geltendem Lauterkeitsrecht als problematisch, wenn sie nicht der Wahrheit entsprechen:</p>



<ul class="wp-block-list">
<li><strong>Falsche Knappheit</strong>: „Nur noch 2 Stück“ erscheint, obwohl der Lagerbestand groß ist.</li>



<li><strong>Künstlicher Zeitdruck</strong>: Ein Countdown läuft ab und startet danach von vorn.</li>



<li><strong>Vorausgewählte Extras</strong>: Versicherung, Expressversand oder Spende sind schon im Warenkorb.</li>



<li><strong>Erfundene Aktivität</strong>: Meldungen wie „12 Personen sehen sich das gerade an“ stammen aus einem Zufallsgenerator.</li>



<li><strong>Scheinrabatte</strong>: Der durchgestrichene Vorher-Preis wurde nie wirklich verlangt.</li>
</ul>



<p class="wp-block-paragraph">Für Shopbetreiber ist der Unterschied zwischen zulässiger Verkaufsförderung und Manipulation nicht immer leicht zu erkennen. Ein Hinweis auf echte Knappheit ist legitim, eine Zeitbegrenzung für ein tatsächlich endendes Angebot ebenfalls. Problematisch wird es, wenn die Information nicht stimmt oder wenn sie nur dazu dient, Druck zu erzeugen. Eine einfache Faustregel hilft: Jede Angabe im Checkout sollte sich beim Nachfragen belegen lassen.</p>



<p class="wp-block-paragraph">Auch die Preisdarstellung gehört dazu. Der Gesamtpreis sollte von Anfang an erkennbar sein, und Aufschläge dürfen nicht erst auf der letzten Seite erscheinen. Das ist für viele Shops ohnehin Standard. Für Anbieter, die mit Gebühren im späten Bestellverlauf arbeiten, kann sich dagegen etwas ändern.</p>



<h2 class="wp-block-heading">Abos, Testphasen und Kündigung</h2>



<p class="wp-block-paragraph">Am deutlichsten wird die Asymmetrie bei Abos. Der Abschluss gelingt mit einem Klick, die Kündigung dagegen erfordert Telefon, Brief, Konto-Login und eine Bestätigung nach der anderen. Diese Ungleichheit ist der Kern vieler Beschwerden im Online-Verbraucherrecht. Der Entwurf des DFA greift sie ausdrücklich auf: Kündigungen sollen nicht erschwert werden, automatische Verlängerungen transparent sein, und eine kostenlose Testphase soll nicht ungewollt in ein kostenpflichtiges Abo übergehen.</p>



<p class="wp-block-paragraph">Nach dem Entwurf soll ein Testabo nur dann in ein bezahltes übergehen, wenn der Verbraucher ausdrücklich zugestimmt hat. Wer eine Gratisphase bucht, soll also nicht mehr im Kleingedruckten einem späteren Preis zustimmen, den er vergessen hat. Für Anbieter heißt das: Die Umwandlung braucht einen eigenen, klar sichtbaren Schritt.</p>



<p class="wp-block-paragraph">Deutschland hat hier ein Vorbild geschaffen. Seit 2022 verlangt <a href="https://www.gesetze-im-internet.de/bgb/__312k.html" target="_blank" rel="noopener">§ 312k BGB</a>, dass Anbieter bei Verbraucherverträgen im Internet eine Kündigungsschaltfläche bereitstellen. Sie muss gut lesbar und ständig verfügbar sein, und die Kündigung soll in wenigen Schritten möglich sein. Wer das nicht umsetzt, riskiert, dass Verbraucher jederzeit ohne Frist kündigen können. Ein EU-weites Gegenstück würde die Regeln in anderen Mitgliedstaaten angleichen.</p>



<p class="wp-block-paragraph">Ergänzt wird das im Entwurf durch den Zugang zu Menschen im Kundenservice. Wer nur mit einem Chatbot spricht und nie bei jemandem landet, der entscheiden kann, hat im Zweifel keine echte Möglichkeit, ein Problem zu lösen. Der DFA soll verhindern, dass Verbraucher auf diesem Weg ausgebremst werden.</p>




<figure class="wp-block-image size-large"><img decoding="async" width="1024" height="707" src="https://dr-dsgvo.de/wp-content/uploads/2026/11/dfa-abo-weg-e8e8a067-1024x707.webp" alt="Schema: Abschluss mit einem Klick, Kündigung über fünf Schritte und faire Kündigung mit einem Klick" class="wp-image-36670" srcset="https://dr-dsgvo.de/wp-content/uploads/2026/11/dfa-abo-weg-e8e8a067-1024x707.webp 1024w, https://dr-dsgvo.de/wp-content/uploads/2026/11/dfa-abo-weg-e8e8a067-300x207.webp 300w, https://dr-dsgvo.de/wp-content/uploads/2026/11/dfa-abo-weg-e8e8a067-768x530.webp 768w, https://dr-dsgvo.de/wp-content/uploads/2026/11/dfa-abo-weg-e8e8a067-1536x1060.webp 1536w, https://dr-dsgvo.de/wp-content/uploads/2026/11/dfa-abo-weg-e8e8a067-640x442.webp 640w, https://dr-dsgvo.de/wp-content/uploads/2026/11/dfa-abo-weg-e8e8a067-1320x911.webp 1320w, https://dr-dsgvo.de/wp-content/uploads/2026/11/dfa-abo-weg-e8e8a067.webp 1600w" sizes="(max-width: 1024px) 100vw, 1024px" /><figcaption class="wp-element-caption">Der Weg aus dem Abo soll so kurz sein wie der Weg hinein.</figcaption></figure>




<h2 class="wp-block-heading">Was heute schon gilt</h2>



<p class="wp-block-paragraph">Der DFA ist kein Startschuss in einem rechtsfreien Raum. Wer heute manipulative Gestaltung einsetzt, kann schon jetzt abgemahnt, von Aufsichtsbehörden verwarnt oder von Verbänden verklagt werden. Die Instrumente sind nur verstreut: Datenschutzrecht für die Einwilligung, Wettbewerbsrecht für irreführende Angaben, Verbraucherrecht für Verträge und Kündigung, Plattformrecht für große Online-Dienste.</p>



<p class="wp-block-paragraph">Besonders das Plattformrecht ist ein Vorläufer. Der Digital Services Act verbietet Betreibern von Online-Plattformen, Nutzer durch die Gestaltung ihrer Oberfläche zu täuschen oder zu manipulieren. Er nimmt aber Praktiken aus, die schon durch das Datenschutz- oder Lauterkeitsrecht erfasst sind. Der DFA soll das Konzept über Plattformen hinaus auf alle Anbieter ausweiten, die an Verbraucher verkaufen.</p>



<p class="wp-block-paragraph">Vieles davon ist nicht völlig neu, sondern soll klarer gefasst werden.</p>




<figure class="wp-block-image size-large"><img decoding="async" width="1024" height="731" src="https://dr-dsgvo.de/wp-content/uploads/2026/11/dfa-heute-morgen-618de08e-1024x731.webp" alt="Tabelle: geltende Regeln und geplante Änderungen für Cookie-Banner, Checkout, Abo und Plattformen" class="wp-image-36671" srcset="https://dr-dsgvo.de/wp-content/uploads/2026/11/dfa-heute-morgen-618de08e-1024x731.webp 1024w, https://dr-dsgvo.de/wp-content/uploads/2026/11/dfa-heute-morgen-618de08e-300x214.webp 300w, https://dr-dsgvo.de/wp-content/uploads/2026/11/dfa-heute-morgen-618de08e-768x548.webp 768w, https://dr-dsgvo.de/wp-content/uploads/2026/11/dfa-heute-morgen-618de08e-1536x1096.webp 1536w, https://dr-dsgvo.de/wp-content/uploads/2026/11/dfa-heute-morgen-618de08e-640x457.webp 640w, https://dr-dsgvo.de/wp-content/uploads/2026/11/dfa-heute-morgen-618de08e-1320x942.webp 1320w, https://dr-dsgvo.de/wp-content/uploads/2026/11/dfa-heute-morgen-618de08e.webp 1600w" sizes="(max-width: 1024px) 100vw, 1024px" /><figcaption class="wp-element-caption">Was heute gilt und was der Entwurf ergänzen soll.</figcaption></figure>




<p class="wp-block-paragraph">Aus Sicht von Betreibern lautet die wichtigste Einsicht: Wer heute fair gestaltet, hat vom DFA wenig zu befürchten. Wer sich auf die Grauzonen verlassen hat, sollte die Zeit bis zum Inkrafttreten nutzen.</p>


    <div itemscope itemtype="http://schema.org/FAQPage">
                    <div itemprop="mainEntity" itemscope itemtype="http://schema.org/Question">
                <h4 itemprop="name">Gilt der Digital Fairness Act schon für Shops und Cookie-Banner?</h4>
                <div itemscope itemprop="acceptedAnswer" itemtype="http://schema.org/Answer">
                    <div itemprop="text">Nein. Am 11. November 2026 hat die EU-Kommission nur einen Vorschlag vorgelegt. Parlament und Rat müssen zustimmen, danach soll die Verordnung erst ca. zwölf Monate später gelten. Manipulative Gestaltung ist aber schon heute angreifbar, etwa über die Einwilligungsregeln, das Wettbewerbsrecht und den Kündigungsbutton nach § 312k BGB.</div>
                </div>
            </div>

                </div><!--/ppa questions-->
    



<h2 class="wp-block-heading">Bußgelder und Durchsetzung</h2>



<p class="wp-block-paragraph">Ein Gesetz ist nur so stark wie seine Durchsetzung. Der Vorschlag setzt deshalb auf mehrere Wege. Die Verbraucherbehörden der Mitgliedstaaten sollen enger zusammenarbeiten, und die Überarbeitung der entsprechenden Verordnung läuft parallel. Die Kommission soll bestimmte große, grenzüberschreitende Fälle selbst untersuchen können. Bisher lag das fast vollständig bei den nationalen Behörden.</p>



<p class="wp-block-paragraph">Bei großen grenzüberschreitenden Verstößen sind empfindliche Bußgelder vorgesehen, die sich am weltweiten Umsatz bemessen. Das erinnert an das Datenschutzrecht und soll vor allem internationale Konzerne erreichen, bei denen kleine Geldbußen kaum wirken. Für Mittelständler ist der Rahmen weniger der Maßstab als das Risiko von Abmahnungen, Verbandsklagen und Rückabwicklung.</p>



<p class="wp-block-paragraph">Gerade Verbandsklagen sind ein wirksames Instrument. Qualifizierte Verbraucherverbände können in der EU auch für viele Betroffene gemeinsam klagen. Für Anbieter, die ein manipulatives Design in großer Zahl einsetzen, kann das teurer werden als eine einzelne Behördenmaßnahme. Die Aufmerksamkeit der Verbände für Cookie-Banner und Abo-Fallen ist seit Jahren hoch, und ein klar umrissener Katalog verbotener Praktiken macht ihre Arbeit einfacher.</p>



<h2 class="wp-block-heading">Kritik und offene Punkte</h2>



<p class="wp-block-paragraph">Das Vorhaben stößt nicht nur auf Zustimmung. Aus Wirtschaft und Politik kommt Kritik, auch aus der Bundesregierung, die sich im Oktober in einem eigenen Papier zu den Plänen geäußert hat. Die Sorge: Zusätzliche Pflichten treffen vor allem kleine und mittlere Unternehmen, die für Rechtsberatung und Umbau weniger Ressourcen haben als große Plattformen.</p>



<p class="wp-block-paragraph">Ein zweiter Kritikpunkt ist die Überschneidung mit bestehenden Regeln. Datenschutzrecht, Plattformrecht, Wettbewerbsrecht und künftig der DFA behandeln teils dieselbe Gestaltung. Wer nicht aufpasst, muss mehrere Vorgaben gleichzeitig beachten, die sich in Details unterscheiden. Die Kommission verspricht mit der parallelen Vereinfachungsrichtlinie das Gegenteil.</p>



<p class="wp-block-paragraph">Hinzu kommt der Zeitpunkt. Die EU arbeitet gleichzeitig an einem Paket zur Vereinfachung ihrer Digitalgesetze, dem sogenannten Digital Omnibus. Für Unternehmen entsteht der Eindruck eines bewegten Ziels: Mal wird gelockert, mal verschärft. Die Folge ist Unsicherheit, vor allem bei Investitionen in Technik, die später wieder geändert werden muss.</p>



<p class="wp-block-paragraph">Auf der Gegenseite steht ein starkes Argument. Manipulative Gestaltung verschafft denen Vorteile, die sie einsetzen, und benachteiligt jene, die fair arbeiten. Einheitliche Regeln können also auch Wettbewerbsgleichheit herstellen. Wer sein Banner ehrlich gestaltet und dadurch weniger Einwilligungen erhält, wird heute von Wettbewerbern überholt, die sich weniger Gedanken machen. Ein verlässlicher Rahmen kann diese Schieflage verringern.</p>



<h2 class="wp-block-heading">Prüfliste für Betreiber</h2>



<p class="wp-block-paragraph">Auch ohne beschlossenes Gesetz lässt sich vieles sofort überprüfen. Die folgenden Punkte helfen dabei, die eigene Seite fit zu machen, und decken sich weitgehend mit dem, was die Rechtslage heute schon verlangt.</p>



<p class="wp-block-paragraph"><strong>Cookie-Banner</strong></p>



<ul class="wp-block-list">
<li>Sind „Alle akzeptieren“ und „Alle ablehnen“ auf derselben Ebene, gleich groß und gleich auffällig?</li>



<li>Sind alle optionalen Kategorien standardmäßig ausgeschaltet?</li>



<li>Kommt die Ablehnung ohne Hinweis aus, der die Entscheidung bewertet oder Schuldgefühle erzeugt?</li>



<li>Lässt sich die Einwilligung jederzeit mit einem Klick widerrufen?</li>



<li>Werden Tracker tatsächlich erst nach der Zustimmung geladen?</li>
</ul>



<p class="wp-block-paragraph">Dabei hilft ein Blick in die <a href="https://dr-dsgvo.de/checkliste-fuer-rechtssichere-einwilligungsabfragen-auf-webseiten/">Checkliste für Einwilligungsabfragen</a>. Ob eine Website beim ersten Aufruf schon Daten verschickt, zeigt außerdem der <a href="https://dr-dsgvo.de/webseiten-check/">Webseiten-Check</a>.</p>



<p class="wp-block-paragraph"><strong>Checkout</strong></p>



<ul class="wp-block-list">
<li>Ist der Gesamtpreis inklusive aller Gebühren von Anfang an sichtbar?</li>



<li>Stimmen Knappheits- und Aktivitätsanzeigen mit der Wirklichkeit überein?</li>



<li>Gibt es keine vorangekreuzten Zusatzleistungen?</li>



<li>Sind durchgestrichene Preise echte frühere Preise?</li>



<li>Endet jeder Countdown tatsächlich mit dem Angebot?</li>
</ul>



<p class="wp-block-paragraph"><strong>Abo-Strecke</strong></p>



<ul class="wp-block-list">
<li>Ist die Kündigung so kurz wie der Abschluss, und ist der Kündigungsbutton überall leicht zu finden?</li>



<li>Wird vor Vertragsbeginn klar gesagt, wann sich das Abo verlängert und was es dann kostet?</li>



<li>Geht eine Gratisphase nur nach ausdrücklicher Zustimmung in ein Bezahlabo über?</li>



<li>Gibt es vor der Bestätigung der Kündigung keine Umwege wie Rückhalteangebote, die den Vorgang aufhalten?</li>
</ul>



<p class="wp-block-paragraph"><strong>Kundenservice</strong></p>



<ul class="wp-block-list">
<li>Lässt sich im Zweifel ein Mensch erreichen, auch wenn ein Chatbot vorgeschaltet ist?</li>



<li>Sind Kündigungen und Widerrufe auch ohne Anruf oder Brief möglich?</li>



<li>Werden Anfragen in angemessener Zeit beantwortet?</li>
</ul>



<p class="wp-block-paragraph">Wer diese Fragen mit Ja beantworten kann, ist auf dem Weg zu fairem Design. Die Mühe zahlt sich doppelt aus: Sie senkt das rechtliche Risiko und stärkt das Vertrauen der Kunden, denn Menschen merken sehr genau, wenn eine Oberfläche sie in eine Richtung schiebt.</p>



<h2 class="wp-block-heading">Fazit</h2>



<p class="wp-block-paragraph">Der Digital Fairness Act ist bislang ein Vorschlag, aber er zeigt, wohin sich das Verbraucherrecht im Netz bewegt. Cookie-Banner, Checkout und Abo-Strecken sollen so gestaltet sein, dass Ablehnen und Kündigen keinen Hindernislauf bedeuten. Vieles davon verlangt das geltende Recht schon heute, nur weniger deutlich und weniger einheitlich.</p>



<p class="wp-block-paragraph">Ob der Text unverändert beschlossen wird, ist offen. Die Kritik am Aufwand für Mittelständler und an der Doppelregelung ist ernst zu nehmen, und das Gesetzgebungsverfahren wird Änderungen bringen. Für Betreiber lohnt sich trotzdem, die Gestaltung jetzt anzupassen: Wer auf Fairness setzt, muss später kaum nachbessern und ist heute schon besser vor Abmahnungen und Beschwerden geschützt.</p>
<script>document.addEventListener('DOMContentLoaded', function() {jQuery('.pdf-download-wrapper').remove();jQuery('.pdf-no-download-wrapper').removeClass('hide');});</script>]]></content:encoded>
					
					<wfw:commentRss>https://dr-dsgvo.de/digital-fairness-act-dark-patterns/feed/</wfw:commentRss>
			<slash:comments>0</slash:comments>
		
		
			</item>
		<item>
		<title>KI-Agenten und KI-Roboter: Überblick zu Stand und Risiken</title>
		<link>https://dr-dsgvo.de/ki-agenten-roboter-ueberblick-2026/</link>
					<comments>https://dr-dsgvo.de/ki-agenten-roboter-ueberblick-2026/#respond</comments>
		
		<dc:creator><![CDATA[Dr. DSGVO]]></dc:creator>
		<pubDate>Tue, 17 Nov 2026 09:36:48 +0000</pubDate>
				<category><![CDATA[Künstliche Intelligenz]]></category>
		<category><![CDATA[AI Act]]></category>
		<category><![CDATA[Autonome Systeme]]></category>
		<category><![CDATA[hasDanish]]></category>
		<category><![CDATA[hasDutch]]></category>
		<category><![CDATA[hasEnglish]]></category>
		<category><![CDATA[hasFrench]]></category>
		<category><![CDATA[hasItalian]]></category>
		<category><![CDATA[hasPolish]]></category>
		<category><![CDATA[hasSpanish]]></category>
		<category><![CDATA[hasSwedish]]></category>
		<category><![CDATA[hasUkrainian]]></category>
		<category><![CDATA[KI-Agenten]]></category>
		<category><![CDATA[KI-Roboter]]></category>
		<category><![CDATA[Robotik]]></category>
		<category><![CDATA[Artificial Intelligence]]></category>
		<category><![CDATA[AI]]></category>
		<category><![CDATA[Machine Learning]]></category>
		<category><![CDATA[Data Science]]></category>
		<category><![CDATA[Data Modelling]]></category>
		<category><![CDATA[Digitalisierung]]></category>
		<category><![CDATA[Big Data]]></category>
		<guid isPermaLink="false">https://dr-dsgvo.de/?p=36825</guid>

					<description><![CDATA[KI-Agenten handeln, Roboter bewegen sich in der Welt. Ein Überblick zu Stand 2026, Sicherheit, AI Act und Ausblick bis 2030.]]></description>
										<content:encoded><![CDATA[
<p class="wp-block-paragraph"><em>Agenten erledigen Aufgaben, Roboter packen an, und beides rückt näher an den Alltag. Wie viel Vertrauen das verdient, hängt an Grenzen, Protokollen und einem Schalter zum Anhalten.</em></p>



<p class="wp-block-paragraph">Lange waren KI-Systeme vor allem Antwortgeber. Eine Frage ging hinein, ein Text kam heraus. 2026 hat sich das verschoben. <strong>KI-Agenten</strong> buchen Termine, sortieren Postfächer, schreiben und testen Programme und stoßen dabei Aktionen an, die in der echten Welt Folgen haben. Am anderen Ende der Skala stehen Roboter, die Pakete tragen, Felder abfahren oder Autos ohne Fahrer durch Städte lenken.</p>



<p class="wp-block-paragraph">Beide Welten wachsen zusammen: Was Agenten von Chatbots trennt, wie sie planen und im Team arbeiten, was autonome Systeme heute leisten und wo Roboter tatsächlich stehen, hängt eng zusammen. Dazu gehören Sicherheit, Haftung, Datenschutz, der europäische Rechtsrahmen und ein Blick auf die Jahre bis 2030.</p>



<h2 class="wp-block-heading">Was KI-Agenten von Chatbots unterscheiden</h2>



<p class="wp-block-paragraph">Ein Chatbot beantwortet. Ein Agent erledigt. Das ist der einfachste Unterschied. Wer einem Chatbot schreibt, dass ein Flug nach Lissabon gesucht werden soll, bekommt eine Liste. Ein Agent bekommt dasselbe Ziel und geht weiter: Er vergleicht Verbindungen, prüft den Kalender, legt eine Auswahl vor und bucht nach Freigabe. Die Software beobachtet ihre Umgebung, entscheidet über den nächsten Schritt und führt ihn aus.</p>



<p class="wp-block-paragraph">Technisch steckt meist ein großes Sprachmodell als Denkkern dahinter. Drumherum liegen Werkzeuge: ein Browser, ein Kalender, eine Datenbank, eine Programmierumgebung. Das Modell entscheidet, welches Werkzeug es wann benutzt. Das Spektrum reicht von einfachen Regelwerken, die auf bestimmte Auslöser reagieren, bis zu Systemen, die aus Rückmeldungen lernen und ihre Vorgehensweise anpassen. Was es bedeutet, wenn <a href="https://dr-dsgvo.de/das-zeitalter-der-ki-agenten-wenn-die-ki-selbst-handelt/">KI-Agenten selbst handeln</a>, zeigt sich vor allem im Alltag: Aufgaben wandern vom Menschen an die Software, die Verantwortung bleibt.</p>



<p class="wp-block-paragraph">Der Begriff wird allerdings großzügig verwendet. Manches, was als Agent verkauft wird, ist ein Chatbot mit einem Knopf für eine einzige Aktion. Als Faustregel taugt die Frage, ob das System mehrere Schritte selbst verkettet und dabei auf Zwischenergebnisse reagiert. Wenn ja, handelt es sich um agentische KI im eigentlichen Sinn. Wenn nicht, bleibt es ein Assistent mit Zusatzfunktion.</p>



<h2 class="wp-block-heading">Wie Agenten planen und sich korrigieren</h2>



<p class="wp-block-paragraph">Im Kern läuft jeder Agent in einer Schleife. Er erfasst die Lage, zerlegt das Ziel in Teilschritte, führt einen davon aus und schaut, was dabei herauskam. Passt das Ergebnis nicht, wird nachgesteuert. Diese <strong>Selbstkorrektur</strong> macht den Unterschied zwischen einem Skript, das stur durchläuft, und einem System, das auf Hindernisse reagiert.</p>



<figure class="wp-block-image size-full"><img decoding="async" width="800" height="508" src="https://dr-dsgvo.de/wp-content/uploads/2026/11/kreislauf-6831fb2d.webp" alt="Schema eines KI-Agenten: wahrnehmen, planen, handeln, prüfen, darunter der Mensch, der Rechte festlegt und stoppen kann" class="wp-image-36823" srcset="https://dr-dsgvo.de/wp-content/uploads/2026/11/kreislauf-6831fb2d.webp 800w, https://dr-dsgvo.de/wp-content/uploads/2026/11/kreislauf-6831fb2d-300x191.webp 300w, https://dr-dsgvo.de/wp-content/uploads/2026/11/kreislauf-6831fb2d-768x488.webp 768w, https://dr-dsgvo.de/wp-content/uploads/2026/11/kreislauf-6831fb2d-640x406.webp 640w" sizes="(max-width: 800px) 100vw, 800px" /><figcaption class="wp-element-caption">Der Arbeitskreislauf eines Agenten, mit dem Menschen als Aufsicht.</figcaption></figure>



<p class="wp-block-paragraph">Für das Handeln braucht ein Agent Zugriff, und genau hier liegt der heikle Punkt. Über Schnittstellen darf er Mails lesen, Dateien ändern oder Zahlungen anstoßen. Je mehr Rechte er hat, desto nützlicher ist er, aber desto größer wird auch der mögliche Schaden. Hinzu kommt ein Gedächtnis: Viele Systeme merken sich frühere Aufgaben, Vorlieben und Zwischenstände, damit sie über längere Zeit sinnvoll weiterarbeiten.</p>



<p class="wp-block-paragraph">Typische Fehler sind unspektakulär und deshalb tückisch. Ein Agent versteht ein Ziel zu wörtlich, folgt einer falschen Annahme über viele Schritte hinweg oder lässt sich von Text auf einer Webseite umlenken, der wie eine Anweisung aussieht. Ein einzelner Irrtum am Anfang zieht sich dann durch die ganze Kette. Deshalb sind Zwischenkontrollen und überschaubare Aufgabenpakete im Alltag wichtiger als die Frage, wie gescheit das Modell im Einzelfall wirkt.</p>



<h2 class="wp-block-heading">Mehrere Agenten im Team</h2>



<p class="wp-block-paragraph">Immer häufiger arbeiten nicht ein, sondern mehrere Agenten zusammen. Ein Agent plant, ein zweiter recherchiert, ein dritter schreibt, ein vierter prüft das Ergebnis. Solche <strong>Multi-Agenten-Systeme</strong> ahmen die Arbeitsteilung in einem Team nach. Der Vorteil liegt auf der Hand: Jeder Teil bekommt einen engen Auftrag, und ein Prüfer sieht Fehler, die dem Verfasser entgehen.</p>



<p class="wp-block-paragraph">Die Kehrseite ist ebenso klar. Fehler pflanzen sich fort, wenn ein Agent die Fehleinschätzung des anderen als Tatsache übernimmt. Die Kosten steigen, weil jede Abstimmung Rechenzeit verbraucht. Und die Übersicht leidet: Wenn fünf Systeme miteinander reden, ist schwer zu sagen, welches an welcher Stelle den Ausschlag gegeben hat. Je mehr Akteure beteiligt sind, desto wichtiger werden Protokolle, die jeden Schritt festhalten.</p>



<figure class="wp-block-pullquote"><blockquote><p>Entscheidend ist nicht, wie klug ein System wirkt, sondern wie gut sich sein Handeln begrenzen und stoppen lässt.</p></blockquote></figure>



<h2 class="wp-block-heading">Autonome Systeme im Alltag</h2>



<p class="wp-block-paragraph">Autonome Systeme sind der größere Rahmen. Gemeint ist alles, was Aufgaben ohne laufende Steuerung durch Menschen erledigt, ob als reine Software oder als Maschine. Dabei gibt es Stufen. Manche Systeme schlagen nur vor, andere handeln und lassen sich überstimmen, wieder andere arbeiten in einem klar abgegrenzten Bereich völlig allein. Je klarer die Umgebung, desto weiter kann die Autonomie gehen. Ein Lagerhaus mit festen Wegen ist einfacher als eine Innenstadt.</p>



<p class="wp-block-paragraph">Das bekannteste Beispiel sind Robotaxis. Waymo etwa meldete im Frühjahr 2026 rund eine halbe Million bezahlte Fahrten pro Woche in mehreren US-Städten, ungefähr doppelt so viele wie ein Jahr zuvor. Das Unternehmen peilt für Ende 2026 eine Million an. Ob das gelingt, ist offen, denn dafür braucht es mehr Fahrzeuge, mehr Städte und Genehmigungen. Dass fahrerlose Autos in begrenzten Gebieten im Alltag funktionieren, ist dagegen inzwischen kein Versuch mehr.</p>



<p class="wp-block-paragraph">Gleichzeitig zeigt das Beispiel, wie wichtig der Rahmen ist. Die Systeme fahren in kartierten Zonen, werden aus der Ferne überwacht und bleiben bei Unsicherheit stehen. Autonomie heißt hier nicht Freiheit von Aufsicht, sondern Arbeit innerhalb enger Leitplanken.</p>



<h2 class="wp-block-heading">Selbstverbesserung und Sicherheit</h2>



<p class="wp-block-paragraph">Ein Reiz moderner Systeme liegt darin, dass sie aus Rückmeldungen besser werden. Agenten schreiben Code, testen ihn, lesen die Fehlermeldungen und verbessern ihn. Daraus entsteht die Frage, wie weit sich ein System selbst weiterentwickeln darf. Bei der <a href="https://dr-dsgvo.de/rekursive-selbstverbesserung-von-ki/">rekursiven Selbstverbesserung</a> baut ein System sogar an seinen eigenen Fähigkeiten mit. Für den Alltag genügt die Einsicht, dass jede Rückkopplung ein Ziel braucht, und dass ein falsch gesetztes Ziel verlässlich in die falsche Richtung führt.</p>



<p class="wp-block-paragraph">Das klassische Problem heißt unbeabsichtigte Optimierung: Das Ziel wird erreicht, die Absicht verfehlt. Ein Agent, der Testfehler beseitigen soll, schaltet im Zweifel den Test ab. Ein Agent, der Kundenanfragen schnell schließen soll, schließt sie, ohne zu helfen. Solche Fälle sind keine böse Absicht, sondern die logische Folge einer ungenauen Vorgabe.</p>



<p class="wp-block-paragraph">Gegenmittel sind weniger glamourös als die Technik selbst. Rechte werden auf das Nötigste begrenzt. Jede Handlung wird protokolliert. Heikle Schritte, etwa Zahlungen oder das Löschen von Daten, brauchen eine menschliche Freigabe. Und es gibt einen Not-Aus, der unabhängig vom Agenten funktioniert. Das eigentliche Risiko ist <a href="https://dr-dsgvo.de/die-gefahr-hinter-ki-agenten-macht-ohne-kontrolle/">Macht ohne Kontrolle</a>.</p>



<h2 class="wp-block-heading">KI-Roboter und was sie wirklich können</h2>



<p class="wp-block-paragraph">Roboter gibt es seit Jahrzehnten, neu ist ihre Wahrnehmung und Anpassungsfähigkeit. Mit KI erkennen sie Gegenstände, schätzen Abstände ab und passen ihre Bewegung an. Trotzdem gilt eine alte Erkenntnis der Robotik: Was Menschen leichtfällt, ist für Maschinen schwer. Ein Computer schlägt seit Jahren Schachweltmeister, aber eine nasse Tasse sicher greifen, ohne sie zu zerdrücken oder fallen zu lassen, bleibt anspruchsvoll. Dafür braucht es feinfühlige Greifer, Kraftregelung und eine Wahrnehmung, die auch bei Spiegelungen, Schatten und Unordnung funktioniert.</p>



<p class="wp-block-paragraph">Das erklärt, warum sich <strong>humanoide Roboter</strong> mit großen Versprechen schwertun. Auf Messen und in Videos wirken sie beeindruckend, dort läuft aber oft ein vorbereiteter Ablauf in kontrollierter Umgebung. Im Dauerbetrieb zählen andere Dinge: Akkulaufzeit, Zuverlässigkeit, Sicherheit neben Menschen und die Kosten. Erste Pilotprojekte in Lagern und Fabriken laufen, aber von einem Haushaltsroboter, der verlässlich Wäsche faltet und Geschirr einräumt, ist man noch ein Stück entfernt. Wie schnell <a href="https://dr-dsgvo.de/ki-roboter-wann-werden-sie-allgegenwaertig-und-wann-gefaehrlich/">Roboter allgegenwärtig werden</a> und wann sie gefährlich werden können, hängt genau an diesen Punkten.</p>



<h2 class="wp-block-heading">Roboter in Industrie, Logistik und Landwirtschaft</h2>



<p class="wp-block-paragraph">Dort, wo Roboter heute wirklich in großer Zahl arbeiten, sieht es unglamouröser aus: Fabrikhallen. 2024 gingen weltweit ca. 540.000 neue Industrieroboter in Betrieb, mehr als doppelt so viele wie zehn Jahre zuvor. Gut die Hälfte davon landete in China, Europa blieb mit einem leichten Rückgang deutlich dahinter. Die Branche erwartet, dass die Zahl bis 2028 auf <a href="https://ifr.org/ifr-press-releases/news/global-robot-demand-in-factories-doubles-over-10-years" target="_blank" rel="noopener">über 700.000 Installationen pro Jahr</a> steigt.</p>



<figure class="wp-block-image size-full"><img decoding="async" width="800" height="586" src="https://dr-dsgvo.de/wp-content/uploads/2026/11/ifr-9561f422.webp" alt="Säulendiagramm neu installierter Industrieroboter: 2024 ca. 542.000, Prognose für 2025 ca. 575.000 und für 2028 über 700.000" class="wp-image-36824" srcset="https://dr-dsgvo.de/wp-content/uploads/2026/11/ifr-9561f422.webp 800w, https://dr-dsgvo.de/wp-content/uploads/2026/11/ifr-9561f422-300x220.webp 300w, https://dr-dsgvo.de/wp-content/uploads/2026/11/ifr-9561f422-768x563.webp 768w, https://dr-dsgvo.de/wp-content/uploads/2026/11/ifr-9561f422-640x469.webp 640w" sizes="(max-width: 800px) 100vw, 800px" /><figcaption class="wp-element-caption">Industrieroboter: der Stand von 2024 und die Prognosen der Branche.</figcaption></figure>



<p class="wp-block-paragraph">In der Logistik fahren Transportroboter durch Lager und bringen Regale zu den Packplätzen. Kleine Lieferroboter rollen auf Gehwegen einzelner Städte. In der Landwirtschaft helfen Maschinen beim Unkrautjäten, Melken und teilweise bei der Ernte, am weitesten ist hier alles, was sich in Reihen und festen Abläufen bewegt. Empfindliche Früchte zu pflücken bleibt dagegen schwierig.</p>



<figure class="wp-block-table"><table><thead><tr><th>Einsatzfeld</th><th>Beispiel</th><th>Reifegrad</th></tr></thead><tbody><tr><td>Fabrik</td><td>Schweißen, Montieren, Lackieren</td><td>Alltag seit Jahrzehnten</td></tr><tr><td>Lager</td><td>Transportroboter, Sortieranlagen</td><td>weit verbreitet</td></tr><tr><td>Straße</td><td>Robotaxis in ausgewählten Städten</td><td>Regelbetrieb in Teilen der USA, begrenzt</td></tr><tr><td>Landwirtschaft</td><td>Feldroboter, Melkanlagen</td><td>je nach Aufgabe, Ernte noch Nische</td></tr><tr><td>Pflege und Service</td><td>Reinigung, Transport, Assistenz</td><td>Pilotprojekte, wachsend</td></tr><tr><td>Humanoide</td><td>Allzweckhelfer in Lager und Fabrik</td><td>Erprobung</td></tr></tbody></table></figure>



<h2 class="wp-block-heading">Roboter in Pflege, Gesundheit und Service</h2>



<p class="wp-block-paragraph">In Kliniken und Pflegeheimen zeigt sich, wo Roboter tatsächlich helfen. Sie tragen Wäsche und Medikamente durch Flure, desinfizieren Räume oder reinigen Böden. Im Operationssaal führen Assistenzsysteme Instrumente präzise, doch die Entscheidung trifft ein Chirurg. Pflegerobotik im engeren Sinn, also Hilfe beim Aufstehen oder bei der Körperpflege, steckt noch in der Erprobung. Menschliche Zuwendung lässt sich ohnehin schwer ersetzen. Realistischer ist, dass Roboter Wege und schwere Arbeit abnehmen, damit mehr Zeit für Gespräche bleibt.</p>



<p class="wp-block-paragraph">Akzeptanz ist ein eigenes Thema. Viele ältere Menschen sind skeptisch, wenn eine Maschine in ihrer Nähe arbeitet, und das zu Recht, wenn Zweck und Funktion nicht klar erklärt werden. Dazu kommt der Datenschutz: Ein Roboter mit Kamera und Mikrofon in einem Pflegezimmer erfasst Gesundheitsdaten und intime Situationen. Hier braucht es klare Regeln, was aufgezeichnet wird, wo es gespeichert wird und wer Zugriff hat.</p>



<h2 class="wp-block-heading">Entwicklung bis 2030</h2>



<p class="wp-block-paragraph">Prognosen sind unsicher, einige Richtungen zeichnen sich aber ab. Agenten dürften in den kommenden Jahren in Büroabläufen zur Selbstverständlichkeit werden: bei Terminen, Rechnungen, Recherche und einfachen Programmieraufgaben. Die Zahl der Industrieroboter wird nach den Erwartungen der Branche weiter steigen, und Robotaxis dürften in mehr Städten fahren, vor allem dort, wo Behörden und Bevölkerung mitziehen.</p>



<p class="wp-block-paragraph">Offen bleibt, ob und wann vielseitige Roboter für den Haushalt marktreif werden. Offen ist auch, wie zuverlässig Agenten bei langen, komplexen Aufgaben arbeiten und ob sich Sicherheitsverfahren im gleichen Tempo entwickeln wie die Fähigkeiten. Plausibel ist ein Mittelweg: spürbare Fortschritte in klar umrissenen Aufgaben, aber keine Maschine, die alles kann.</p>



<h2 class="wp-block-heading">Haftung, Verzerrung und Privatsphäre</h2>



<p class="wp-block-paragraph">Wenn ein Agent einen Fehler macht oder ein Roboter jemanden verletzt, stellt sich die Frage nach der Verantwortung. Eine Maschine kann nicht haften. Es haften Menschen und Unternehmen: Hersteller für fehlerhafte Produkte, Betreiber für den sorgfältigen Einsatz. Wer einem Agenten weitreichende Rechte gibt und nicht kontrolliert, trägt einen Teil des Risikos selbst. Je klarer Zuständigkeiten und Protokolle sind, desto leichter lässt sich später klären, was geschehen ist.</p>



<p class="wp-block-paragraph">Hinzu kommt die Verzerrung. Systeme lernen aus Daten, und Daten spiegeln die Welt samt ihrer Schieflagen. Wenn ein Agent Bewerbungen vorsortiert oder Kredite einschätzt, kann sich eine Benachteiligung unbemerkt einschleichen. Bei Entscheidungen mit erheblicher Wirkung für Menschen gilt deshalb der Grundsatz, dass sie nicht allein einer Maschine überlassen werden dürfen (Art. 22 DSGVO). Außerdem sammeln Roboter und Agenten Daten über Umgebung und Nutzer. Transparenz, Datensparsamkeit und klare Löschfristen sind darum keine Kür, sondern Voraussetzung für Vertrauen.</p>



<h2 class="wp-block-heading">Der EU AI Act in Kürze</h2>



<p class="wp-block-paragraph">Die europäische KI-Verordnung, auch <strong>EU AI Act</strong> genannt, ordnet KI-Systeme nach Risiko. Manche Anwendungen sind verboten, etwa bestimmte Formen der Bewertung von Menschen. Systeme mit hohem Risiko, zum Beispiel in der Personalauswahl, der Bildung oder bei Sicherheitsbauteilen, müssen strenge Anforderungen erfüllen. Für Chatbots und KI-erzeugte Inhalte gelten Transparenzpflichten: Menschen sollen erkennen, dass sie mit einer Maschine zu tun haben. Wer KI im Betrieb einsetzt, braucht außerdem Mitarbeitende mit ausreichender KI-Kompetenz.</p>



<p class="wp-block-paragraph">Der Zeitplan hat sich verschoben. Mit einer im Sommer 2026 <a href="https://eur-lex.europa.eu/eli/reg/2026/1744/oj" target="_blank" rel="noopener">veröffentlichten Änderungsverordnung</a>, dem sogenannten Digital Omnibus, wurden die Pflichten für Hochrisiko-Systeme nach hinten gelegt. Für eigenständige Systeme gelten sie nun ab dem 2. Dezember 2027, für KI in regulierten Produkten ab dem 2. August 2028. Das gibt Unternehmen mehr Zeit, nimmt den Druck aus dem Thema aber nicht.</p>



<p class="wp-block-paragraph">Roboter und Maschinen fallen meist zugleich unter die Produktregeln, insbesondere die europäische Maschinenverordnung. Bei ihnen zählt vor allem, dass das Gerät sicher gebaut ist und sich im Fehlerfall sicher verhält. Für Agenten, die nur in Software arbeiten, spielen Transparenz, Aufsicht und die Frage, wofür sie eingesetzt werden, die größere Rolle.</p>



<h2 class="wp-block-heading">Empfehlungen für die Öffentlichkeit</h2>



<p class="wp-block-paragraph">Im Alltag helfen wenige, einfache Regeln. Sie gelten für Agenten ebenso wie für Roboter in der Umgebung:</p>



<ul class="wp-block-list">

<li>Rechte klein halten: Ein Agent bekommt nur den Zugriff, den er für die Aufgabe braucht.</li>


<li>Ergebnisse prüfen, bevor sie weiterverwendet werden, vor allem bei Geld, Verträgen und Gesundheit.</li>


<li>Sensible Daten, Zugangsdaten und Gesundheitsangaben nicht ohne Not an Agenten weitergeben.</li>


<li>Kennzeichnungen beachten: Wer mit einer Maschine spricht, sollte es wissen.</li>


<li>Texte und Bilder kritisch lesen, denn KI erzeugt auch überzeugend wirkende Fehler.</li>


<li>Bei Robotern im Alltag auf Herstellerangaben, Sicherheitszeichen und klare Hinweise zur Datenverarbeitung achten.</li>

</ul>


    <div itemscope itemtype="http://schema.org/FAQPage">
                    <div itemprop="mainEntity" itemscope itemtype="http://schema.org/Question">
                <h4 itemprop="name">Wie weit darf ein KI-Agent oder Roboter selbstständig handeln?</h4>
                <div itemscope itemprop="acceptedAnswer" itemtype="http://schema.org/Answer">
                    <div itemprop="text">So weit, wie sich sein Handeln begrenzen, nachvollziehen und jederzeit stoppen lässt. Je größer der mögliche Schaden, desto enger sollten Rechte und desto stärker die menschliche Aufsicht sein.</div>
                </div>
            </div>

                </div><!--/ppa questions-->
    



<h2 class="wp-block-heading">Fazit</h2>



<p class="wp-block-paragraph">2026 ist das Jahr, in dem Software vom Antworten zum Handeln übergeht. Agenten erledigen Aufgaben in mehreren Schritten, arbeiten im Team und greifen auf Werkzeuge zu. Parallel wachsen die Zahlen bei Industrierobotern, und Robotaxis zeigen, dass Autonomie im klar umrissenen Raum funktioniert. Gleichzeitig bleiben Greifen, Verstehen von Unordnung und Dauerbetrieb schwierige Aufgaben, und humanoide Allzweckhelfer stehen noch am Anfang.</p>



<p class="wp-block-paragraph">Die eigentliche Frage ist deshalb weniger, was Maschinen können, sondern was ihnen erlaubt wird. Wo Rechte begrenzt, Schritte protokolliert und Freigaben eingebaut sind, bringen Agenten und Roboter Entlastung. Wo das fehlt, wachsen die Risiken schneller als der Nutzen. Mit dem verschobenen Zeitplan der KI-Verordnung bleibt etwas Zeit, die nötigen Gewohnheiten einzuüben.</p>
<script>document.addEventListener('DOMContentLoaded', function() {jQuery('.pdf-download-wrapper').remove();jQuery('.pdf-no-download-wrapper').removeClass('hide');});</script>
			<div id="ki_kontakt" class="ki_kontakt" style="padding-bottom: 0;">
				<h2>KI-Beratung, KI-Lösungen</h2>
				<div>
				Umfassende Beratung (fachlich, rechtlich, technisch):<br>
				<div class="ai_solution-advantages">
				<h3>Leistungsangebot:</h3><ul style="margin-top: 4px;">
				<li>Erstberatung inkl. Machbarkeitsaussagen</li>
				<li>Schulungen und Workshops für Führungskräfte, Berufsgeheimnisträger, Angestellte, Entwickler</li>
				<li>KI-Lösungen mit und ohne ChatGPT/Azure. Cloud oder eigener KI-Server</li>
				</ul>
				</div>
					<p style="margin-bottom:5px"><a id="msgbtn" class="ai_solution-contact-button" href="mailto:ki@dr-dsgvo.de">Ihre Anfrage</a><div class="ai-small">Oder Mail an ki@dr-dsgvo.de</div></p>
				</div>
			</div>]]></content:encoded>
					
					<wfw:commentRss>https://dr-dsgvo.de/ki-agenten-roboter-ueberblick-2026/feed/</wfw:commentRss>
			<slash:comments>0</slash:comments>
		
		
			</item>
		<item>
		<title>Claude Fable 5.2 im Unternehmen: Prüfliste vor dem Umstieg</title>
		<link>https://dr-dsgvo.de/claude-fable-5-2-umstieg-pruefliste/</link>
					<comments>https://dr-dsgvo.de/claude-fable-5-2-umstieg-pruefliste/#respond</comments>
		
		<dc:creator><![CDATA[Dr. DSGVO]]></dc:creator>
		<pubDate>Mon, 16 Nov 2026 08:28:09 +0000</pubDate>
				<category><![CDATA[Künstliche Intelligenz]]></category>
		<category><![CDATA[Anthropic]]></category>
		<category><![CDATA[Auftragsverarbeitung]]></category>
		<category><![CDATA[Claude Fable 5.2]]></category>
		<category><![CDATA[hasDanish]]></category>
		<category><![CDATA[hasDutch]]></category>
		<category><![CDATA[hasEnglish]]></category>
		<category><![CDATA[hasFrench]]></category>
		<category><![CDATA[hasItalian]]></category>
		<category><![CDATA[hasPolish]]></category>
		<category><![CDATA[hasSpanish]]></category>
		<category><![CDATA[hasSwedish]]></category>
		<category><![CDATA[hasUkrainian]]></category>
		<category><![CDATA[Modellwechsel]]></category>
		<category><![CDATA[Zero Data Retention]]></category>
		<category><![CDATA[Artificial Intelligence]]></category>
		<category><![CDATA[AI]]></category>
		<category><![CDATA[Machine Learning]]></category>
		<category><![CDATA[Data Science]]></category>
		<category><![CDATA[Data Modelling]]></category>
		<category><![CDATA[Digitalisierung]]></category>
		<category><![CDATA[Big Data]]></category>
		<guid isPermaLink="false">https://dr-dsgvo.de/?p=36655</guid>

					<description><![CDATA[KMU prüfen vor dem Modellwechsel auf Claude Fable 5.2 Zero Data Retention, Verträge, Testfälle und Kosten. Ein Überblick über Entscheidung, Datenschutz und Qualitätssicherung.]]></description>
										<content:encoded><![CDATA[
<p class="wp-block-paragraph"><em>Anthropic hat im November 2026 zwei neue Modelle vorgestellt, günstiger und schneller als die Vorgänger. Für Unternehmen stellt sich weniger die Frage, ob das Modell beeindruckt, sondern ob ein Umstieg Datenschutz, Qualität und Kosten wirklich verbessert. Eine Prüfliste hilft bei der Entscheidung.</em></p>



<p class="wp-block-paragraph">Mit Claude Fable 5.2 und Claude Mythos 5.2 gibt es zwei neue Modelle aus derselben Familie. Die Meldungen drehen sich meist um Tempo, Preise und Sicherheitsfragen. Im Betrieb eines kleinen oder mittleren Unternehmens zählen andere Dinge: Welche Daten fließen wohin, wie lange liegen sie beim Anbieter, was passiert mit bestehenden Prozessen, wenn das Modell wechselt, und was kostet eine gelöste Aufgabe tatsächlich?</p>



<h2 class="wp-block-heading">Was Anthropic mit Fable 5.2 und Mythos 5.2 angekündigt hat</h2>



<p class="wp-block-paragraph">Fable 5.2 ist <a href="https://www.anthropic.com/claude-fable-and-mythos-5-2" target="_blank" rel="noopener">seit dem 9. November 2026 verfügbar</a>, auf der Claude Platform ebenso wie bei den großen Cloud-Anbietern AWS, Google Cloud und Microsoft Azure. Die Modell-ID lautet <code>claude-fable-5-2</code>. Mythos 5.2 steht dagegen nur geprüften Organisationen offen, etwa über Programme für Cybersicherheit oder Biowissenschaften. Beide Modelle beruhen auf demselben Grundmodell. Fable trägt stärkere Schutzmechanismen in sensiblen Bereichen und kann deshalb allgemein angeboten werden.</p>



<p class="wp-block-paragraph">Der Preis liegt bei <a href="https://platform.claude.com/docs/en/about-claude/pricing" target="_blank" rel="noopener">8 US-Dollar je Million Eingabe-Token und 40 US-Dollar je Million Ausgabe-Token</a>. Bei Fable 5.1 waren es noch 10 und 50 Dollar. Die Ausgabe ist bis zu ca. 30 % schneller als beim Vorgänger. Wer mehr Tempo braucht, kann einen Schnellmodus buchen, der die Ausgabe um bis zu das 2,5-Fache beschleunigt und den doppelten Preis kostet, also 16 und 80 Dollar je Million Token. Für Mythos steht dieser Modus nur den Organisationen in den Verifizierungsprogrammen zur Verfügung.</p>



<p class="wp-block-paragraph">Auffällig ist eine Empfehlung, die vom Hersteller selbst kommt. Für die meisten Programmier- und Wissensaufgaben soll im Alltag <strong>Opus 5.5</strong> das Modell der Wahl sein. Fable und Mythos sind für besonders anspruchsvolle Aufgaben gedacht. Das größte Modell ist nicht automatisch das richtige.</p>



<p class="wp-block-paragraph">Ein weiterer Punkt betrifft die Sicherheitsseite. Beide Modelle äußern häufiger als frühere den Verdacht, gerade getestet zu werden. Das erschwert die Einschätzung, wie sie sich im Echtbetrieb verhalten.</p>



<h2 class="wp-block-heading">Claude Fable 5.2 im Unternehmen: Wann sich der Wechsel lohnt</h2>



<p class="wp-block-paragraph">Ein neues Modell weckt den Reflex, es überall einzusetzen. Nüchtern betrachtet stellt sich die Frage, welche Aufgaben im Unternehmen tatsächlich an der Leistungsgrenze des bisherigen Modells scheitern. In vielen Betrieben sind das erstaunlich wenige. Zusammenfassungen, Entwürfe für Antworten, das Sortieren von Eingängen, Auswertungen von Tabellen und der Großteil der Programmierhilfe laufen auf einem guten Mittelklassemodell zuverlässig.</p>



<p class="wp-block-paragraph">Im eigenen Versuch zeigte sich: Bei anspruchsvollen Standardaufgaben, etwa dem Umbau eines mittelgroßen Moduls, der Analyse eines längeren Vertragsentwurfs oder dem Erstellen einer sauberen Auswertung aus mehreren Quellen, lieferte <strong>Opus 5.5</strong> Ergebnisse, die sich von denen des teureren Modells kaum unterschieden. Der Mehrpreis kaufte keine bessere Antwort. Fable zeigte seine Stärke dort, wo Aufgaben lange laufen und das Modell viele Schritte selbstständig geht: ein Auftrag, der über Stunden Dateien liest, Hypothesen prüft, Werkzeuge aufruft und sich dabei selbst korrigiert. Dort fällt ins Gewicht, dass jeder Zwischenschritt sitzen muss, weil sich kleine Fehler aufsummieren.</p>



<p class="wp-block-paragraph">Das passt zur Logik hinter den Modellstufen. Je länger ein Lauf dauert und je weniger ein Mensch dazwischen eingreift, desto mehr zahlt sich ein Modell aus, das selten die Richtung verliert. Bei kurzen Aufgaben mit menschlicher Kontrolle am Ende bringt dieselbe Stärke wenig.</p>



<figure class="wp-block-pullquote"><blockquote><p>Fable lohnt sich dort, wo das Modell lange allein arbeitet. Bei der anspruchsvollen Standardaufgabe reicht Opus 5.5 völlig.</p></blockquote></figure>



<p class="wp-block-paragraph">Mit der Autonomie wächst zugleich das Risiko. Ein Agent, der selbstständig Dateien ändert und Systeme anspricht, braucht Grenzen. Wie sich Macht ohne Kontrolle auswirken kann, ist in den <a href="https://dr-dsgvo.de/die-gefahr-hinter-ki-agenten-macht-ohne-kontrolle/">Gefahren hinter KI-Agenten</a> beschrieben. Für den Wechsel heißt das: Je autonomer der Einsatz, desto strenger müssen Berechtigungen und Prüfungen ausfallen, und desto eher rechtfertigt sich überhaupt der Griff zum großen Modell.</p>



<p class="wp-block-paragraph">Eine einfache Faustregel ergibt sich daraus. Standardaufgaben bleiben auf Opus 5.5 oder einem noch kleineren Modell. Fable wird für die wenigen langlaufenden, stark autonomen Prozesse reserviert, bei denen sich ein Fehlversuch richtig teuer anfühlt. So bleibt der Datenschutzaufwand überschaubar, denn die strengere Prüfung betrifft nur einen kleinen Teil der Datenflüsse.</p>



<h2 class="wp-block-heading">Zero Data Retention bei Fable 5.2: Was vertraglich und technisch gilt</h2>



<p class="wp-block-paragraph">Bei <strong>Zero Data Retention</strong>, kurz ZDR, speichert der Anbieter Eingaben und Ausgaben nach der Verarbeitung nicht weiter. Für viele Unternehmen ist das der Grund, überhaupt zu einem Cloud-Modell zu greifen. Bei den neuesten Modellen der Mythos-Klasse gilt eine Besonderheit: Anthropic <a href="https://support.claude.com/en/articles/15425996-data-retention-practices-for-covered-models" target="_blank" rel="noopener">bewahrt Eingaben und Ausgaben dieser sogenannten Covered Models 30 Tage lang</a> für die Sicherheitsüberwachung auf. Manche Missbrauchsmuster zeigen sich erst über viele Anfragen hinweg, deshalb begründet der Hersteller die Speicherung so.</p>



<p class="wp-block-paragraph">Berechtigte Enterprise-Kunden können Fable 5.2 weiterhin mit ZDR nutzen. Sie lösen das über eine Vereinbarung mit dem Anbieter. Daneben gibt es ein Angebot namens <a href="https://www.anthropic.com/news/enterprise-frontier-safeguards" target="_blank" rel="noopener">Enterprise Frontier Safeguards</a>, das die Sicherheitsauswertung in die Infrastruktur des Kunden verlagert und mit ZDR vereinbar sein soll. Es befindet sich in einer privaten Beta. Wer nicht zu diesen Kunden zählt, muss mit der 30-tägigen Aufbewahrung rechnen. Während dieser Zeit kann kein Personal des Anbieters die Inhalte standardmäßig lesen, eine menschliche Prüfung erfolgt nur über kontrollierten Zugang, etwa nach einer automatischen Markierung. Nach 30 Tagen werden die Daten gelöscht, außer bei Markierung oder gesetzlicher Pflicht.</p>



<p class="wp-block-paragraph">Entscheidend ist die Unterscheidung zwischen vertraglicher und technischer Ebene. Vertraglich muss feststehen, dass eine ZDR-Vereinbarung für die eigene Organisation gilt. Technisch muss die Einstellung dort ankommen, wo die Anfragen tatsächlich laufen. Je nach Zugangsweg sieht das unterschiedlich aus:</p>



<ul class="wp-block-list">
<li>Bei der direkten API wird die Aufbewahrung je Workspace in der Console eingestellt.</li>



<li>Bei AWS Bedrock und Google Cloud wird sie in der jeweiligen Cloud-Umgebung konfiguriert, die Daten bleiben dort.</li>



<li>Bei Microsoft Foundry gilt die Einstellung je Azure-Subscription. Besteht bereits ZDR, ist dafür eine eigene Subscription nötig.</li>
</ul>



<p class="wp-block-paragraph">Zu Claude Code und ZDR finden sich uneinheitliche Angaben. Wer Programmierwerkzeuge im Unternehmen nutzt, lässt sich den Status deshalb für den konkreten Zugang schriftlich bestätigen, statt sich auf Annahmen zu verlassen. Dasselbe gilt für die Frage, ob die Einstellung an einem Workspace oder an der Cloud-Umgebung hängt. Ein Haken im falschen Projekt wirkt wie gar keiner.</p>


    <div itemscope itemtype="http://schema.org/FAQPage">
                    <div itemprop="mainEntity" itemscope itemtype="http://schema.org/Question">
                <h4 itemprop="name">Lässt sich Claude Fable 5.2 mit Zero Data Retention datenschutzkonform im Unternehmen nutzen?</h4>
                <div itemscope itemprop="acceptedAnswer" itemtype="http://schema.org/Answer">
                    <div itemprop="text">Berechtigte Kunden können Fable 5.2 mit Zero Data Retention nutzen, alle anderen müssen mit 30 Tagen Aufbewahrung rechnen. ZDR muss vertraglich und technisch bestätigt sein und ersetzt weder den Auftragsverarbeitungsvertrag noch die Prüfung der Übermittlung in die USA. Ob der Einsatz zulässig ist, hängt von den verarbeiteten Daten und der Dokumentation im Unternehmen ab.</div>
                </div>
            </div>

                </div><!--/ppa questions-->
    



<h2 class="wp-block-heading">ZDR ersetzt keine Auftragsverarbeitung und keine Transfergrundlage</h2>



<p class="wp-block-paragraph">Ein verbreiteter Denkfehler lautet: Wenn nichts gespeichert wird, ist der Rest erledigt. Tatsächlich beantwortet ZDR nur die Frage, wie lange Daten beim Anbieter liegen. Während der Verarbeitung werden personenbezogene Daten dennoch verarbeitet, und dafür braucht es die üblichen Grundlagen. Hilfreich ist ein Bild aus drei getrennten Ebenen.</p>




<figure class="wp-block-image size-full"><img decoding="async" width="800" height="682" src="https://dr-dsgvo.de/wp-content/uploads/2026/11/schichten-cfe99cff.webp" alt="Übersicht: Was Zero Data Retention bei Claude Fable 5.2 regelt und was nicht, in drei Ebenen" class="wp-image-36651" srcset="https://dr-dsgvo.de/wp-content/uploads/2026/11/schichten-cfe99cff.webp 800w, https://dr-dsgvo.de/wp-content/uploads/2026/11/schichten-cfe99cff-300x256.webp 300w, https://dr-dsgvo.de/wp-content/uploads/2026/11/schichten-cfe99cff-768x655.webp 768w, https://dr-dsgvo.de/wp-content/uploads/2026/11/schichten-cfe99cff-640x546.webp 640w" sizes="(max-width: 800px) 100vw, 800px" /><figcaption class="wp-element-caption">Drei Ebenen, von denen ZDR nur die erste abdeckt.</figcaption></figure>




<p class="wp-block-paragraph">Die erste Ebene ist die Speicherdauer, die ZDR regelt. Die zweite ist die <strong>Auftragsverarbeitung</strong>. Setzt ein Unternehmen ein KI-Modell für Kundendaten, Bewerbungen oder Mitarbeiterdaten ein, verarbeitet der Anbieter im Auftrag. Das verlangt einen Vertrag nach Art. 28 DSGVO, der Weisungsbindung, Sicherheitsmaßnahmen, den Umgang mit Unterauftragnehmern und die Löschung regelt. Dieser Vertrag besteht unabhängig davon, ob Daten 30 Tage oder keine Sekunde gespeichert werden.</p>



<p class="wp-block-paragraph">Die dritte Ebene ist der <strong>Drittlandtransfer</strong>. Ein US-Anbieter oder ein US-Konzern hinter einer europäischen Cloud-Region bleibt ein Fall für die Regeln zur Übermittlung in Drittländer. Eine EU-Region beantwortet die Frage nach dem Speicherort, nicht die nach möglichen Zugriffsrechten aus den USA. Je nach Anbieter lässt sich die Übermittlung über Zertifizierungen oder Standardvertragsklauseln absichern, gegebenenfalls mit einer dokumentierten Folgenabschätzung. Ob eine Zertifizierung des Anbieters trägt, gehört in die Akte, nicht ins Bauchgefühl.</p>



<p class="wp-block-paragraph">Aus dieser Trennung folgen praktische Schritte:</p>



<ul class="wp-block-list">
<li>Das Verarbeitungsverzeichnis nennt das neue Modell mit Anbieter, Zweck und Datenkategorien.</li>



<li>Gilt keine ZDR-Vereinbarung, wird die 30-tägige Aufbewahrung ausdrücklich aufgenommen, ebenso in einer Datenschutz-Folgenabschätzung, falls eine besteht.</li>



<li>Der Vertrag mit dem Anbieter und die Liste der Unterauftragnehmer werden für genau den genutzten Zugangsweg abgelegt, also etwa für den Cloud-Anbieter, über den das Modell läuft.</li>



<li>Besonders sensible Daten bleiben außen vor, solange die Grundlagen nicht stehen, oder werden vor der Anfrage entfernt.</li>
</ul>



<p class="wp-block-paragraph">Wer die Datenflüsse ganz im eigenen Haus halten will, findet in der <a href="https://dr-dsgvo.de/lokale-ki/">Möglichkeit lokaler KI-Modelle</a> eine Alternative. Sie löst den Drittlandtransfer, bringt aber eigenen Betriebsaufwand und meist geringere Leistung mit. Für viele Betriebe ist eine Mischung sinnvoll: sensible Aufgaben lokal oder mit kleinen Modellen, anspruchsvolle ohne Personenbezug in der Cloud. Der Datenschutzbeauftragte sollte den Wechsel begleiten, denn er kennt die vorhandene Dokumentation.</p>



<h2 class="wp-block-heading">Modellwechsel mit eigenen Testfällen absichern</h2>



<p class="wp-block-paragraph">Ein Modell ist keine Software mit festem Verhalten. Auch ein Update innerhalb der Familie kann Antworten verändern, Formate leicht verschieben oder Grenzfälle anders lösen. Wer einen Prozess auf das neue Modell umstellt, braucht deshalb einen Weg, den Unterschied zu messen. Dabei hilft ein eigener Prüfsatz, der aus der Praxis des Unternehmens stammt und nicht aus öffentlichen Ranglisten.</p>



<p class="wp-block-paragraph">Ein brauchbarer Satz besteht aus drei Gruppen. Echtfälle aus dem Alltag, anonymisiert und von personenbezogenen Daten befreit, bilden den Kern. Grenzfälle decken Situationen ab, in denen bisher Probleme auftraten, etwa mehrdeutige Anfragen, unvollständige Angaben oder sehr lange Dokumente. Fehlerfälle prüfen, ob das Modell richtig ablehnt oder nachfragt, wenn eine Aufgabe nicht lösbar ist. Rund 50 bis 100 gut gewählte Fälle genügen für den Anfang, wenn jede Aufgabe eine klare Erwartung hat.</p>



<p class="wp-block-paragraph">Der Ablauf bleibt schlicht:</p>



<ul class="wp-block-list">
<li>Feste Prompts und feste Einstellungen verwenden, damit Unterschiede vom Modell kommen und nicht von der Formulierung.</li>



<li>Altes und neues Modell auf denselben Fällen laufen lassen und die Ergebnisse nebeneinanderlegen.</li>



<li>Vorab festlegen, ab welcher Abweichung der Wechsel gestoppt wird, zum Beispiel ab einer bestimmten Quote falscher Antworten.</li>



<li>Die Bewertung nicht allein einem anderen Modell überlassen, sondern Stichproben von Menschen prüfen lassen.</li>
</ul>



<p class="wp-block-paragraph">Wichtig ist auch die Modell-ID. Wer im Code nur einen Alias verwendet, bekommt womöglich eines Tages ein anderes Modell, ohne es zu merken. Eine feste Kennung, im Fall von Fable 5.2 die ID <code>claude-fable-5-2</code>, hält das Verhalten stabil, bis bewusst gewechselt wird. Dazu gehört ein <strong>Rückfallplan</strong>: Das bisherige Modell bleibt eingerichtet und lässt sich per Schalter wieder aktivieren. Schrittweises Ausrollen, zuerst bei einem kleinen Teil der Anfragen, begrenzt den Schaden, falls etwas schiefgeht.</p>



<p class="wp-block-paragraph">Bei den Testdaten gilt dasselbe wie im Betrieb: Echte Kundendaten gehören nicht in einen Prüfsatz, der herumgereicht wird. Anonymisieren oder synthetische Beispiele nach dem Muster echter Fälle bauen reicht in aller Regel aus.</p>



<h2 class="wp-block-heading">Wenn Modelle Tests erkennen, ändert sich die Qualitätssicherung</h2>



<p class="wp-block-paragraph">Ein unscheinbarer Befund hat Gewicht: Beide neuen Modelle äußern häufiger den Verdacht, gerade evaluiert zu werden. Verhalten sich Modelle im Test anders als im Betrieb, sagt ein bestandener Test weniger über den Einsatz aus. Mythos 5.2 zeigt zudem stärker ausgeprägte verdeckte Fähigkeiten als sein Vorgänger. Beides spricht dafür, sich nicht auf einen einmaligen Test zu verlassen.</p>



<p class="wp-block-paragraph">Aus Sicht eines Unternehmens ist das kein Grund zur Panik. Es ist ein Grund, die Qualitätssicherung nicht auf einen einmaligen Abnahmetest zu stützen. Der Hintergrund ist die Debatte um Modelle, die sich zunehmend selbst verbessern. Die Sorge, dass Modelle sich der Kontrolle entziehen, hängt eng mit der <a href="https://dr-dsgvo.de/rekursive-selbstverbesserung-von-ki/">rekursiven Selbstverbesserung von KI</a> zusammen.</p>



<figure class="wp-block-pullquote"><blockquote><p>Ein Modell, das Tests erkennt, verlangt Tests, die auch den Betrieb abbilden.</p></blockquote></figure>



<p class="wp-block-paragraph">Praktisch bedeutet das mehrere Maßnahmen, die zusammen wirken:</p>



<ul class="wp-block-list">
<li><strong>Realitätsnahe Tests:</strong> Prüffälle sollen aussehen wie echte Anfragen, mit denselben Formulierungen, Tippfehlern und Dateien, und nicht wie sauber gebaute Prüfaufgaben.</li>



<li><strong>Stichproben aus dem Betrieb:</strong> Regelmäßig werden echte Läufe gezogen und von Menschen gelesen, unter Beachtung des Datenschutzes und der Löschfristen.</li>



<li><strong>Minimale Berechtigungen:</strong> Das Modell bekommt nur Zugriff auf das, was die Aufgabe braucht. Schreibrechte, Zahlungen oder Löschfunktionen laufen über eine Bestätigung.</li>



<li><strong>Menschen bei Folgeaktionen:</strong> Alles, was sich schwer rückgängig machen lässt, bekommt eine Freigabe durch eine Person.</li>



<li><strong>Dauerhaftes Monitoring:</strong> Auffällige Muster, plötzliche Änderungen im Verhalten und ungewöhnlich lange Läufe werden protokolliert und ausgewertet.</li>
</ul>



<p class="wp-block-paragraph">Diese Maßnahmen gelten für jedes Modell, werden aber bei autonomen, langen Läufen dringlicher. Genau dort, wo sich Fable am meisten lohnt, ist auch die Kontrolle am wichtigsten. Eine Abnahme am Anfang ersetzt nicht das fortlaufende Hinsehen.</p>



<h2 class="wp-block-heading">Kosten: Realistischer Token-Verbrauch statt Listenpreise</h2>



<p class="wp-block-paragraph">Der Listenpreis wirkt als Maßstab bequem, sagt aber wenig über die Rechnung am Monatsende. Fable 5.2 kostet je Million Token 8 und 40 Dollar, Opus 5.5 liegt bei 4 und 20 Dollar. Der Preis je Token ist bei Fable also doppelt so hoch. Entscheidend ist jedoch, was eine gelöste Aufgabe kostet.</p>



<p class="wp-block-paragraph">Dafür gehören mehrere Größen in die Rechnung. Eingabe- und Ausgabe-Token je Aufgabe, dazu der Denkaufwand des Modells, der bei Ausgabe-Token mitzählt. Wiederholungen, weil ein Lauf scheitert und neu startet. Die Kontextlänge, denn bei langen Läufen wird derselbe Kontext immer wieder gelesen, durch Zwischenspeicher allerdings günstiger. Und die Nacharbeit durch Menschen, die oft mehr kostet als die Token selbst. Der Aufpreis für den Schnellmodus lohnt sich nur, wenn der Zeitgewinn tatsächlich etwas wert ist, etwa bei einer Anwendung, bei der Kunden auf die Antwort warten.</p>




<figure class="wp-block-image size-full"><img decoding="async" width="800" height="570" src="https://dr-dsgvo.de/wp-content/uploads/2026/11/kosten-7b72693f.webp" alt="Kostenvergleich bei Modellwechsel: Balken für zwei Modelle bei Standard- und langlaufender Aufgabe" class="wp-image-36652" srcset="https://dr-dsgvo.de/wp-content/uploads/2026/11/kosten-7b72693f.webp 800w, https://dr-dsgvo.de/wp-content/uploads/2026/11/kosten-7b72693f-300x214.webp 300w, https://dr-dsgvo.de/wp-content/uploads/2026/11/kosten-7b72693f-768x547.webp 768w, https://dr-dsgvo.de/wp-content/uploads/2026/11/kosten-7b72693f-640x456.webp 640w" sizes="(max-width: 800px) 100vw, 800px" /><figcaption class="wp-element-caption">Beispielrechnung mit angenommenen Erfolgsquoten und Token-Mengen.</figcaption></figure>




<p class="wp-block-paragraph">Das Beispiel nutzt angenommene Werte und soll den Rechenweg zeigen. Bei der Standardaufgabe mit 20.000 Token Eingabe und 4.000 Token Ausgabe kostet ein Lauf mit Opus 5.5 ca. 0,16 Dollar, mit Fable 5.2 ca. 0,32 Dollar. Lösen beide ca. 95 % der Läufe, liegen die Kosten je gelöster Aufgabe bei ca. 0,17 und ca. 0,34 Dollar. Der doppelte Preis kauft keine bessere Antwort, in der Summe über tausende Aufgaben fällt der Unterschied dennoch ins Gewicht.</p>



<p class="wp-block-paragraph">Anders sieht es bei einem langlaufenden Auftrag aus. Angenommen, er verbraucht 2 Millionen Token Eingabe und 150.000 Token Ausgabe. Dann kostet ein Lauf mit Opus 5.5 ca. 11 Dollar, mit Fable 5.2 ca. 22 Dollar. Gelingt der Auftrag mit Opus nur in der Hälfte der Läufe, mit Fable in ca. 90 %, liegen die Kosten je Erfolg bei ca. 22 und ca. 24 Dollar. Der Abstand schrumpft auf wenige Prozent. Rechnet man die Zeit ein, die ein Mensch mit gescheiterten Läufen verbringt, kippt die Rechnung zugunsten des größeren Modells.</p>



<p class="wp-block-paragraph">Entscheidend ist, die Erfolgsquote aus den eigenen Testfällen zu nehmen und nicht aus Herstellerdiagrammen. Ein einfaches Messverfahren genügt: Die Nutzungsdaten der Schnittstelle liefern den Token-Verbrauch je Lauf, ein Zähler hält fest, wie oft das Ergebnis brauchbar war und wie viel Zeit die Nachbearbeitung kostete. Nach zwei bis vier Wochen ergibt sich ein belastbares Bild je Aufgabentyp. Dann lässt sich je Prozess entscheiden, welches Modell sich lohnt.</p>



<h2 class="wp-block-heading">Prüfliste für den Umstieg: Entscheidung in einer Seite</h2>



<p class="wp-block-paragraph">Vor jedem Modellwechsel hilft eine kurze Liste. Sie dient als Entscheidungsvorlage für die Geschäftsführung und als Nachweis, dass der Wechsel überlegt stattfand.</p>




<figure class="wp-block-image size-full"><img decoding="async" width="800" height="619" src="https://dr-dsgvo.de/wp-content/uploads/2026/11/entscheidung-1d2ca1d2.webp" alt="Prüfliste in fünf Schritten: Bedarf, Datenschutz, Testfälle, Kosten und schrittweiser Rollout" class="wp-image-36653" srcset="https://dr-dsgvo.de/wp-content/uploads/2026/11/entscheidung-1d2ca1d2.webp 800w, https://dr-dsgvo.de/wp-content/uploads/2026/11/entscheidung-1d2ca1d2-300x232.webp 300w, https://dr-dsgvo.de/wp-content/uploads/2026/11/entscheidung-1d2ca1d2-768x594.webp 768w, https://dr-dsgvo.de/wp-content/uploads/2026/11/entscheidung-1d2ca1d2-640x495.webp 640w" sizes="(max-width: 800px) 100vw, 800px" /><figcaption class="wp-element-caption">Kurzfassung der Prüfliste in fünf Schritten.</figcaption></figure>




<ol class="wp-block-list">
<li><strong>Bedarf:</strong> Welche Prozesse scheitern am bisherigen Modell? Nur für diese kommt Fable infrage, der Rest bleibt auf Opus 5.5 oder kleiner.</li>



<li><strong>Zugangsweg:</strong> Direkte API oder Cloud-Anbieter? Der Weg bestimmt Einstellungen, Vertrag und Unterauftragnehmer.</li>



<li><strong>ZDR-Status:</strong> Vertraglich und technisch schriftlich bestätigt, je Workspace oder Subscription. Ohne ZDR gilt die 30-tägige Aufbewahrung.</li>



<li><strong>Auftragsverarbeitung und Transfer:</strong> Vertrag, Unterauftragnehmer und Grundlage für den Drittlandtransfer liegen für den genutzten Zugang vor.</li>



<li><strong>Dokumentation:</strong> Verarbeitungsverzeichnis und, falls vorhanden, Datenschutz-Folgenabschätzung sind angepasst.</li>



<li><strong>Testfälle:</strong> Ein eigener Prüfsatz mit Echt-, Grenz- und Fehlerfällen, ohne personenbezogene Daten, mit festen Prompts und Abbruchschwellen.</li>



<li><strong>Modell-ID:</strong> Feste Kennung statt Alias, Wechsel nur bewusst.</li>



<li><strong>Kostenmessung:</strong> Token-Verbrauch, Erfolgsquote und Nacharbeit je Aufgabentyp über mehrere Wochen.</li>



<li><strong>Kontrolle im Betrieb:</strong> Minimale Berechtigungen, Freigaben für heikle Aktionen, Stichproben, Monitoring.</li>



<li><strong>Rückfallplan und Zuständigkeit:</strong> Das alte Modell bleibt umschaltbar, eine Person trägt die Verantwortung für den Wechsel.</li>
</ol>



<h2 class="wp-block-heading">Fazit</h2>



<p class="wp-block-paragraph">Fable 5.2 ist günstiger und schneller als sein Vorgänger und sinnvoll für Aufgaben, bei denen ein Modell lange selbstständig arbeitet. Für die anspruchsvolle Alltagsaufgabe reicht Opus 5.5 völlig aus und kostet nur die Hälfte je Token. Der Umstieg ist deshalb weniger eine Frage der Begeisterung als eine der Zuordnung: Welche Prozesse brauchen das große Modell wirklich?</p>



<p class="wp-block-paragraph">Datenschutzrechtlich ändert sich durch ZDR vor allem die Speicherdauer. Vertrag und Datentransfer bleiben eigene Aufgaben und gehören dokumentiert, bevor echte Daten fließen. Qualitätssicherung wird wichtiger, wenn Modelle Tests erkennen. Eigene, realitätsnahe Testfälle, begrenzte Rechte und laufende Stichproben liefern mehr Sicherheit als jede Abnahme am Anfang. Wer diese Schritte sauber geht, kann das neue Modell dort einsetzen, wo es seinen Preis rechtfertigt.</p>



<p class="wp-block-paragraph">Neben Datenschutz (personenbezogene Daten) sollte die Datensicherheit (alle Daten: Geschäftsgeheimnisse, vertrauliche Daten, sensible Daten, &#8230;) in Frage gestellt werden!</p>
<script>document.addEventListener('DOMContentLoaded', function() {jQuery('.pdf-download-wrapper').remove();jQuery('.pdf-no-download-wrapper').removeClass('hide');});</script>
			<div id="ki_kontakt" class="ki_kontakt" style="padding-bottom: 0;">
				<h2>KI-Beratung, KI-Lösungen</h2>
				<div>
				Umfassende Beratung (fachlich, rechtlich, technisch):<br>
				<div class="ai_solution-advantages">
				<h3>Leistungsangebot:</h3><ul style="margin-top: 4px;">
				<li>Erstberatung inkl. Machbarkeitsaussagen</li>
				<li>Schulungen und Workshops für Führungskräfte, Berufsgeheimnisträger, Angestellte, Entwickler</li>
				<li>KI-Lösungen mit und ohne ChatGPT/Azure. Cloud oder eigener KI-Server</li>
				</ul>
				</div>
					<p style="margin-bottom:5px"><a id="msgbtn" class="ai_solution-contact-button" href="mailto:ki@dr-dsgvo.de">Ihre Anfrage</a><div class="ai-small">Oder Mail an ki@dr-dsgvo.de</div></p>
				</div>
			</div>]]></content:encoded>
					
					<wfw:commentRss>https://dr-dsgvo.de/claude-fable-5-2-umstieg-pruefliste/feed/</wfw:commentRss>
			<slash:comments>0</slash:comments>
		
		
			</item>
		<item>
		<title>AGENTS.md Sicherheit: Wie fremde Dateien KI-Agenten steuern</title>
		<link>https://dr-dsgvo.de/agents-md-downloads-ordner-ki-agenten/</link>
					<comments>https://dr-dsgvo.de/agents-md-downloads-ordner-ki-agenten/#respond</comments>
		
		<dc:creator><![CDATA[Dr. DSGVO]]></dc:creator>
		<pubDate>Sun, 15 Nov 2026 11:23:47 +0000</pubDate>
				<category><![CDATA[Datenschutz]]></category>
		<category><![CDATA[Künstliche Intelligenz]]></category>
		<category><![CDATA[AGENTS.md]]></category>
		<category><![CDATA[Claude Code]]></category>
		<category><![CDATA[Codex]]></category>
		<category><![CDATA[hasDanish]]></category>
		<category><![CDATA[hasDutch]]></category>
		<category><![CDATA[hasEnglish]]></category>
		<category><![CDATA[hasFrench]]></category>
		<category><![CDATA[hasItalian]]></category>
		<category><![CDATA[hasPolish]]></category>
		<category><![CDATA[hasSpanish]]></category>
		<category><![CDATA[hasSwedish]]></category>
		<category><![CDATA[hasUkrainian]]></category>
		<category><![CDATA[KI-Agenten]]></category>
		<category><![CDATA[Prompt Injection]]></category>
		<category><![CDATA[Artificial Intelligence]]></category>
		<category><![CDATA[AI]]></category>
		<category><![CDATA[Machine Learning]]></category>
		<category><![CDATA[Data Science]]></category>
		<category><![CDATA[Data Modelling]]></category>
		<category><![CDATA[Digitalisierung]]></category>
		<category><![CDATA[Big Data]]></category>
		<guid isPermaLink="false">https://dr-dsgvo.de/?p=34504</guid>

					<description><![CDATA[Eine fremde AGENTS.md im Downloads-Ordner brachte einen Coding-Agenten dazu, ein Schadpaket zu installieren. Fund, Ladepfade und Schutzmaßnahmen im Überblick.]]></description>
										<content:encoded><![CDATA[
<p class="wp-block-paragraph"><em>Eine unscheinbare Textdatei im Downloads-Ordner reichte Fall aus, damit ein KI-Coding-Agent ein Schadpaket installieren wollte. Es wird beschrieben, was passiert ist, welche Anweisungsdateien Codex, Claude Code und Cursor laden und welche Einstellungen und Maßnahmen den Schaden verhindern können.</em></p>



<h2 class="wp-block-heading">Ein Fund auf dem Kundenrechner und seine Folgen</h2>



<p class="wp-block-paragraph">Der Sicherheitsanbieter Forever Security hat folgendes herausgefunden: Auf dem Rechner eines Kunden lag im Downloads-Ordner eine Anweisungsdatei namens AGENTS.md, die einen KI-Coding-Agenten dazu bringen sollte, ein npm-Paket zu installieren. Die Datei ist kein Programm, sie wirkt aber wie eine Handlungsanweisung.</p>



<blockquote class="wp-block-quote is-layout-flow wp-block-quote-is-layout-flow">
<p class="wp-block-paragraph">Wer nicht weiß, was CLAUDE.md ist, nutzt KI "nur" als Chatbot. Das ist nicht verkehrt (und oft sogar empfehlenswert), verhindert aber den Einblick in die maximale Leistungsfähigkeit von heutigen KI-Systemen.</p>
</blockquote>



<h2 class="wp-block-heading">Was passiert ist: Fund im Downloads-Ordner, Nachtest und Erfolgsquoten</h2>



<p class="wp-block-paragraph">Der Ausgangspunkt war ein realer Fund. Die Datei lag im Downloads-Ordner eines Entwicklers. Dieser Ordner war zugleich das Arbeitsverzeichnis des Agenten. Der Agent wollte das npm-Paket function-color installieren. Forever Security stoppte ihn nach eigener Darstellung, bevor Code lief. Wie die Datei in den Ordner gelangte, konnten die Forscher nicht klären.</p>



<p class="wp-block-paragraph">Das Paket function-color zieht ein weiteres Paket namens function-flag nach. Dieses lädt eine Windows-Schadsoftware nach und startet sie. Die Kampagne wird von CloudSEK und Checkmarx als MALFEX bezeichnet.</p>



<h3 class="wp-block-heading">Nachtest mit Codex</h3>



<p class="wp-block-paragraph">Forever Security stellte den Angriff in einer isolierten virtuellen Maschine nach. Die echte Datei wies Codex an, einen Server in der Datei ~/.codex/config.toml zu registrieren und einen Befehl auszuführen, der das Paket installiert. Da diese Konfiguration für alle Codex-Sitzungen auf dem Rechner gilt, wirkt die Änderung dauerhaft und in jedem Ordner. Die Erfolgsquote lag bei ca. 90 Prozent.</p>



<h3 class="wp-block-heading">Nachtest mit Claude Code</h3>



<p class="wp-block-paragraph">Bei Claude Code war es eine andere Datei. Eine präparierte <strong>CLAUDE.md</strong> gab sich als Einrichtung eines internen Gateways aus und sollte den Agenten dazu bringen, eine fremde Adresse als API-Ziel in eine Projekt-Einstellungsdatei zu schreiben. Damit würde der API-Verkehr zu einem Server der Forscher laufen. Das gibt das Anmeldetoken der Sitzung preis, und der Server kann Befehle zurückgeben, die der Agent ausführt. Claude Code verlangt für solche Schreibzugriffe üblicherweise eine Bestätigung und lehnt verdächtige oft ab. Erst die lange, fast schon nach Entwicklerdokumentation klingende Begründung brachte in etwa der Hälfte der Fälle eine Freigabe.</p>



<p class="wp-block-paragraph">Beide Zahlen sind nicht direkt vergleichbar. Es sind verschiedene Agenten, verschiedene Dateien und verschiedene Ziele. Stichprobengröße und Testkonfiguration (Sandbox, Freigabemodus) sind unklar.</p>



<h3 class="wp-block-heading">Telemetrie: Wie verbreitet ist der Start im Downloads-Ordner?</h3>



<p class="wp-block-paragraph">Etwa die Hälfte der Kunden von Forever Security startet einen Coding-Agenten im Downloads-Ordner, rund ein Viertel der Sitzungen öffnet einen Browser. BleepingComputer nennt mehr als 1.300 Claude-Code-Sitzungen aus diesem Ordner. Beides sind Angaben des Anbieters über den eigenen Kundenkreis, eine unabhängige Prüfung gibt es nicht. Ob solche Dateien in der Praxis tatsächlich von Angreifern über Browser-Downloads abgelegt werden, ist nicht belegt. Der Proof of Concept lud nur eine harmlose Datei herunter.</p>




<figure class="wp-block-image size-large"><img decoding="async" width="1024" height="500" src="https://dr-dsgvo.de/wp-content/uploads/2026/10/kette-50c65660-1024x500.webp" alt="Ablauf bei AGENTS.md Sicherheit: Datei im Downloads-Ordner, Start des Agenten, Laden der Datei, Schadpaket" class="wp-image-34501" srcset="https://dr-dsgvo.de/wp-content/uploads/2026/10/kette-50c65660-1024x500.webp 1024w, https://dr-dsgvo.de/wp-content/uploads/2026/10/kette-50c65660-300x147.webp 300w, https://dr-dsgvo.de/wp-content/uploads/2026/10/kette-50c65660-768x375.webp 768w, https://dr-dsgvo.de/wp-content/uploads/2026/10/kette-50c65660-1536x751.webp 1536w, https://dr-dsgvo.de/wp-content/uploads/2026/10/kette-50c65660-640x313.webp 640w, https://dr-dsgvo.de/wp-content/uploads/2026/10/kette-50c65660-1320x645.webp 1320w, https://dr-dsgvo.de/wp-content/uploads/2026/10/kette-50c65660.webp 1600w" sizes="(max-width: 1024px) 100vw, 1024px" /><figcaption class="wp-element-caption">Die Angriffskette in vier Schritten, der Weg des Downloads zum Kunden ist nicht belegt.</figcaption></figure>




<h2 class="wp-block-heading">AGENTS.md Sicherheit: Warum fremde Anweisungsdateien ein Risiko sind</h2>



<p class="wp-block-paragraph">Coding-Agenten lesen beim Start Anweisungsdateien aus dem Arbeitsverzeichnis. Darin stehen Bauanleitungen, Stilregeln oder Testbefehle. Der Agent behandelt diesen Inhalt wie Vorgaben des Nutzers. Er unterscheidet nicht zuverlässig, ob die Datei vom Team stammt oder von einer fremden Quelle. Das ist der Kern einer indirekten Prompt Injection beim Coding-Agenten: Die Anweisung kommt nicht aus dem Eingabefeld, sondern aus dem Kontext.</p>



<p class="wp-block-paragraph">Zwei für sich harmlose Eigenschaften ergeben zusammen die Kette. Erstens vertrauen Agenten den Dateien im geöffneten Ordner. Zweitens können Webseiten Dateien ohne Rückfrage in den Downloads-Ordner legen, wenn der Browser so eingestellt ist. Chrome, Edge und Firefox speichern standardmäßig ohne Nachfrage nach dem Speicherort in diesen Ordner und zeigen nur eine Benachrichtigung. Brave fragte im Test vorher nach. Die Datei trägt den Namen und Inhalt, den die Seite vorgibt.</p>



<figure class="wp-block-pullquote"><blockquote><p>Anweisungsdateien sind Kontext, keine Konfiguration. Verbindlich ist nur, was Berechtigungen und Sandbox technisch durchsetzen.</p></blockquote></figure>



<p class="wp-block-paragraph">Die Claude-Code-Dokumentation beschreibt CLAUDE.md als <a href="https://code.claude.com/docs/en/memory" target="_blank" rel="noopener">Kontext und nicht als durchgesetzte Konfiguration</a>. Für Sperren empfiehlt sie Hooks. Daraus folgt die Grundregel für alles Weitere: Was nur im Text einer Datei steht, kann ein Agent befolgen oder ignorieren. Was in den Berechtigungen steht, setzt das Programm durch.</p>



<h3 class="wp-block-heading">Der Browser ist nicht der einzige Weg</h3>



<p class="wp-block-paragraph">Der Downloads-Ordner steht im Fall im Mittelpunkt, aber nicht allein. Der <a href="https://developer.nvidia.com/blog/mitigating-indirect-agents-md-injection-attacks-in-agentic-environments/" target="_blank" rel="noopener">NVIDIA Developer Blog</a> beschreibt einen verwandten Weg: Ein kompromittiertes Abhängigkeitspaket legt selbst eine AGENTS.md an. Auch geklonte Repositories, entpackte Archive und Build-Skripte können fremde Anweisungsdateien in einen Projektordner bringen. Der Startort verkleinert also die Angriffsfläche, er beseitigt sie nicht.</p>



<h3 class="wp-block-heading">Einordnung: Was Forscher und Hersteller sagen</h3>



<p class="wp-block-paragraph">Die Forscher von Forever Security erklären, dass für OpenAI und Anthropic nichts zu patchen sei. Der Agent folge seiner Anweisungsdatei wie vorgesehen, vergleichbar mit einem Browser, der eine Phishing-Seite darstellt. Das ist die Einschätzung der Forscher. Eine eigene Stellungnahme der Hersteller zu diesem Angriff enthalten die beiden Berichte nicht. BleepingComputer weist nur darauf hin, dass beide Hersteller empfehlen, Agenten im jeweiligen Projektverzeichnis zu starten. Die Verantwortung liegt damit bei den Anwendern und bei den Organisationen, die Agenten einsetzen.</p>



<p class="wp-block-paragraph">Die Risiken autonomer Agenten sind ein größeres Thema. Beiträge zu <a href="https://dr-dsgvo.de/die-gefahr-hinter-ki-agenten-macht-ohne-kontrolle/">Macht ohne Kontrolle bei KI-Agenten</a> und zum <a href="https://dr-dsgvo.de/das-zeitalter-der-ki-agenten-wenn-die-ki-selbst-handelt/">Zeitalter der KI-Agenten</a> ordnen ein, warum Agenten mit eigenen Handlungsrechten andere Schutzmaßnahmen brauchen als klassische Software.</p>



<h2 class="wp-block-heading">Welche Anweisungsdateien Codex, Claude Code und Cursor laden</h2>



<p class="wp-block-paragraph">Entscheidend ist, was als Projektordner gilt: der Ordner, in dem der Agent gestartet wird. Wer im Downloads-Ordner startet, macht jede dort liegende Datei zum Projektkontext. Die folgende Übersicht fasst die Herstellerdokumentation zusammen (Stand 26.10.2026). Die Dokumentation ändert sich schnell, im Zweifel gilt die jeweils aktuelle Fassung.</p>




<figure class="wp-block-image size-large"><img decoding="async" width="1024" height="649" src="https://dr-dsgvo.de/wp-content/uploads/2026/10/ladepfade-1a4be331-1024x649.webp" alt="Tabelle: Welche Anweisungsdateien Codex, Claude Code und Cursor laden, nach globalem und Projektordner geordnet" class="wp-image-34502" srcset="https://dr-dsgvo.de/wp-content/uploads/2026/10/ladepfade-1a4be331-1024x649.webp 1024w, https://dr-dsgvo.de/wp-content/uploads/2026/10/ladepfade-1a4be331-300x190.webp 300w, https://dr-dsgvo.de/wp-content/uploads/2026/10/ladepfade-1a4be331-768x487.webp 768w, https://dr-dsgvo.de/wp-content/uploads/2026/10/ladepfade-1a4be331-1536x973.webp 1536w, https://dr-dsgvo.de/wp-content/uploads/2026/10/ladepfade-1a4be331-640x406.webp 640w, https://dr-dsgvo.de/wp-content/uploads/2026/10/ladepfade-1a4be331-1320x837.webp 1320w, https://dr-dsgvo.de/wp-content/uploads/2026/10/ladepfade-1a4be331.webp 1600w" sizes="(max-width: 1024px) 100vw, 1024px" /><figcaption class="wp-element-caption">Ladepfade der drei Agenten nach Herstellerdokumentation, Stand 26.10.2026.</figcaption></figure>




<h3 class="wp-block-heading">Codex</h3>



<p class="wp-block-paragraph">Codex liest laut <a href="https://learn.chatgpt.com/docs/agent-configuration/agents-md" target="_blank" rel="noopener">Dokumentation</a> zuerst eine globale Datei im Codex-Verzeichnis (~/.codex, anpassbar über CODEX_HOME), und zwar AGENTS.override.md oder AGENTS.md. Danach folgen Dateien von der Projektwurzel, meist dem Git-Stammverzeichnis, bis zum aktuellen Ordner. Pro Ordner wird höchstens eine Datei berücksichtigt: AGENTS.override.md, AGENTS.md oder ein konfigurierter Ersatzname. Die Gesamtgrenze liegt bei 32 KiB. Wird keine Projektwurzel gefunden, zählt nur der aktuelle Ordner. Genau das trifft den Downloads-Ordner, denn dort gibt es meist kein Git-Repository.</p>



<h3 class="wp-block-heading">Claude Code und CLAUDE.md Sicherheit</h3>



<p class="wp-block-paragraph">Claude Code lädt nach der <a href="https://code.claude.com/docs/en/memory" target="_blank" rel="noopener">Speicher-Dokumentation</a> CLAUDE.md und CLAUDE.local.md aus dem Arbeitsverzeichnis und aus allen Verzeichnissen darüber, bei Bedarf auch aus Unterordnern. Hinzu kommen ~/.claude/CLAUDE.md, die verwaltete Richtlinie des Systems und Dateien in .claude/rules/. Für CLAUDE.md Sicherheit heißt das: Auch ein zu hoher Startpunkt, etwa das Home-Verzeichnis, vergrößert die Fläche, weil Dateien darüber und daneben mitgelesen werden.</p>



<p class="wp-block-paragraph">AGENTS.md liest Claude Code (laut Dokumentation seit Version 2.1.277). Standardmäßig geschieht das nur, wenn im Arbeitsverzeichnis oder darüber keine CLAUDE.md oder CLAUDE.local.md liegt. Über die Einstellung zu den Projektanweisungen lässt sich das ändern: claude-md-or-agents-md ist der Standard, claude-md-and-agents-md liest beide, managed-only lässt nur zentral verwaltete Anweisungen zu.</p>



<h3 class="wp-block-heading">Cursor</h3>



<p class="wp-block-paragraph">Cursor kennt laut <a href="https://cursor.com/docs/context/rules" target="_blank" rel="noopener">Dokumentation</a> Projektregeln in .cursor/rules/ (Dateien im Format .mdc, auch in Unterordnern) und AGENTS.md im Projektstamm sowie in Unterverzeichnissen. Verschachtelte Dateien gelten für ihren Bereich, die spezifischere gewinnt. Dazu kommen persönliche User Rules in den Einstellungen und Team Rules über das Dashboard.</p>



<h3 class="wp-block-heading">Konfigurationsdateien als eigentliches Ziel</h3>



<p class="wp-block-paragraph">Der Fall zeigt, dass die Anweisungsdatei oft nur das Werkzeug ist. Das Ziel sind Konfigurationsdateien, in denen eine Änderung dauerhaft wirkt. Bei Codex ist es ~/.codex/config.toml, deren Änderung alle Sitzungen betrifft. Bei Claude Code ist es die Einstellungsdatei .claude/settings.json, in der sich über eine Umgebungsvariable das API-Ziel setzen lässt. Beide Dateien gehören daher auf die Liste der Dateien, die ein Agent nicht ohne Rückfrage ändern darf.</p>



<h2 class="wp-block-heading">KI-Coding-Agenten absichern: Berechtigungen, Hooks und Codex Sandbox</h2>



<p class="wp-block-paragraph">Naheliegend ist die Frage, ob der Verzicht auf den Downloads-Ordner genügt.</p>


    <div itemscope itemtype="http://schema.org/FAQPage">
                    <div itemprop="mainEntity" itemscope itemtype="http://schema.org/Question">
                <h4 itemprop="name">Reicht es, KI-Coding-Agenten nur nicht im Downloads-Ordner zu starten?</h4>
                <div itemscope itemprop="acceptedAnswer" itemtype="http://schema.org/Answer">
                    <div itemprop="text">Nein. Der Startort verkleinert die Angriffsfläche, schützt aber nicht vor fremden Anweisungsdateien in geklonten Repositories, entpackten Archiven oder Abhängigkeiten. Verlässlich schützen erst durchgesetzte Grenzen: Berechtigungsregeln mit Rückfrage, eine Sandbox mit Netzwerk-Allowlist, Hooks für gesperrte Befehle und geprüfte Konfigurationsdateien. Der Startort ist die erste Regel, nicht die einzige.</div>
                </div>
            </div>

                </div><!--/ppa questions-->
    



<p class="wp-block-paragraph">Die Maßnahmen setzen an drei Stellen an: was der Agent ohne Rückfrage tun darf, was ein Hook unabhängig vom Modell blockiert und was die Sandbox technisch begrenzt.</p>



<h3 class="wp-block-heading">Berechtigungsregeln in Claude Code</h3>



<p class="wp-block-paragraph">Claude Code kennt Regeln der Stufen allow, ask und deny pro Werkzeug (<a href="https://code.claude.com/docs/en/permissions" target="_blank" rel="noopener">Dokumentation zu Berechtigungen</a>). Standardmäßig fragt der Agent bei Shell-Befehlen und Dateiänderungen. Eine Deny-Regel gilt auch dann, wenn der Agent einer Anweisungsdatei folgen möchte. Ein Beispiel für die Datei .claude/settings.json:</p>



<pre><code>{
  "permissions": {
    "deny": [
      "Bash(npm install *)",
      "Read(~/.ssh/**)",
      "Read(~/.aws/**)",
      "Edit(.claude/**)",
      "Edit(~/.codex/**)"
    ]
  }
}</code></pre>



<p class="wp-block-paragraph">Die Schreibweise folgt den Beispielen der Dokumentation: Bash-Regeln vergleichen den Befehlstext mit * als Platzhalter, Pfadregeln für Lesen und Bearbeiten nutzen die Syntax von gitignore, ~/ steht für das Home-Verzeichnis. Dateiänderungen werden über Edit(&#8230;) geregelt, Regeln für Write werden nach der Dokumentation nicht gegen Pfade geprüft. Eine Befehlssperre ist außerdem keine Garantie, denn dasselbe Ziel lässt sich oft über einen anderen Aufruf erreichen. Für Unvermeidbares sind Hooks und Sandbox gedacht.</p>



<p class="wp-block-paragraph">Vorsicht verlangen zwei Komfortfunktionen. Die Freigabe mit "nicht mehr fragen" gilt je nach Werkzeug dauerhaft für ein Repository, und in den Auto-Modi entscheidet nicht mehr der Mensch über jede Aktion. Beides gehört nicht in Umgebungen mit fremdem Code.</p>



<h3 class="wp-block-heading">Hooks: Sperren unabhängig vom Modell</h3>



<p class="wp-block-paragraph">Ein PreToolUse-Hook läuft vor dem Werkzeugaufruf und kann ihn blockieren, auch wenn das Modell ihn für richtig hält. Die <a href="https://code.claude.com/docs/en/hooks-guide" target="_blank" rel="noopener">Hooks-Anleitung</a> zeigt das Muster: Das Skript liest die Eingabe als JSON von der Standardeingabe und beendet sich mit einem Exit-Code, um zu blockieren. Registriert wird es in der Einstellungsdatei:</p>



<pre><code>{
  "hooks": {
    "PreToolUse": [
      {
        "matcher": "Bash",
        "hooks": [
          {
            "type": "command",
            "command": "\"$CLAUDE_PROJECT_DIR\"/.claude/hooks/block-installs.sh"
          }
        ]
      }
    ]
  }
}</code></pre>



<p class="wp-block-paragraph">Das Skript <em>block-installs.sh</em> liest mit jq den Befehl aus dem Feld tool_input.command, prüft ihn gegen eine Sperrliste (etwa npm install oder die Kombination aus curl und Shell) oder besser gegen eine Allowlist und meldet bei Treffern eine Begründung auf der Fehlerausgabe mit Exit 2. Ein zweiter, wenig bekannter Hebel ist der Hook <em>InstructionsLoaded</em>. Er protokolliert geladene Anweisungsdateien. Nach der Dokumentation feuert er allerdings nicht für eine AGENTS.md, die über die Einstellung geladen wird, sondern nur, wenn eine CLAUDE.md sie importiert. Auf ihn allein sollte sich ein Team deshalb nicht verlassen.</p>



<h3 class="wp-block-heading">Zentrale Vorgaben mit Managed Settings</h3>



<p class="wp-block-paragraph">Für Teams sind verwaltete Einstellungen der wirksamste Hebel. Nach der <a href="https://code.claude.com/docs/en/managed-settings" target="_blank" rel="noopener">Dokumentation zu Managed Settings</a> lassen sich permissions.deny, sandbox.enabled und env zentral erzwingen. Damit wäre ein per Anweisungsdatei untergeschobenes API-Ziel wie im Claude-Code-Test deutlich schwerer durchzusetzen. Als Einordnung gilt: Es ist eine Schlussfolgerung aus der Dokumentation, keine belegte Wirkung im Fall von Forever Security.</p>



<h3 class="wp-block-heading">Codex: Freigaben, Vertrauensstufe und Sandbox-Modi</h3>



<p class="wp-block-paragraph">Für Codex Sandbox und Berechtigungen gelten laut <a href="https://learn.chatgpt.com/docs/agent-approvals-security" target="_blank" rel="noopener">Dokumentation zu Freigaben und Sicherheit</a> zwei Ebenen. Die Freigaberichtlinie bestimmt, wann Codex nachfragt (etwa on-request oder never). Der Sandbox-Modus bestimmt, was technisch möglich ist: read-only, workspace-write oder danger-full-access. Im Modus workspace-write ist das Netzwerk standardmäßig aus.</p>



<p class="wp-block-paragraph">Dazu kommt eine Vertrauensstufe pro Projekt in ~/.codex/config.toml (trust_level). Nach der Dokumentation gilt in Ordnern unter Versionskontrolle der Modus Auto, also Schreiben im Arbeitsbereich mit Rückfrage. In Ordnern ohne Versionskontrolle gilt read-only, bis das Verzeichnis als vertrauenswürdig markiert wird. Ein Ordner wie Downloads gilt ohne Markierung als nicht vertraut. Das Risiko entsteht, wenn Nutzer den Vertrauensdialog bestätigen. Das Flag &#8211;yolo entfernt Sandbox und Freigaben und gehört nicht in Teamvorgaben. In welcher Konfiguration Forever Security getestet hat, wurde nicht berichtet, ob die Standardschutzstufen im Test griffen, ist daher unbekannt.</p>



<h3 class="wp-block-heading">Cursor</h3>



<p class="wp-block-paragraph">Zu Terminalfreigaben bei Cursor liegt keine eindeutige Herstellerangabe vor. Deshalb hier nur der Hinweis, Freigaben für Terminalbefehle aktiv zu lassen und die aktuelle Herstellerdokumentation zu prüfen.</p>



<h2 class="wp-block-heading">Sandbox und Isolation: Schaden begrenzen, auch wenn der Agent der Datei folgt</h2>



<p class="wp-block-paragraph">Eine Sandbox begrenzt, was ein Agent tun kann, selbst wenn er einer fremden Anweisung folgt. Die <a href="https://code.claude.com/docs/en/sandboxing" target="_blank" rel="noopener">Sandbox von Claude Code</a> erlaubt Schreibzugriff auf das Arbeitsverzeichnis und temporäre Ordner. Netzwerkzugriff läuft über einen Proxy mit einer Liste erlaubter Domains, die standardmäßig leer ist. Geschützte Pfade wie die Einstellungen von Claude Code, die Shell-Startdatei .bashrc und Git-Hooks bleiben schreibgeschützt. Ein Beispiel:</p>



<pre><code>{
  "sandbox": {
    "enabled": true,
    "network": {
      "allowedDomains": ["github.com", "*.npmjs.org"]
    },
    "allowUnsandboxedCommands": false
  }
}</code></pre>



<p class="wp-block-paragraph">Die Dokumentation nennt auch Grenzen. Die Sandbox ist standardmäßig ausgeschaltet. Der Lesezugriff ist breit, Zugangsdaten müssen gezielt gesperrt werden. Der Schutz gilt nur für Shell-Befehle und deren Kindprozesse, nicht für die eingebauten Dateiwerkzeuge, MCP und Hooks. Ohne allowUnsandboxedCommands: false kann ein fehlgeschlagener Befehl außerhalb der Sandbox wiederholt werden. Unter Windows läuft sie nicht nativ, dafür wird WSL2 genutzt. Gegen Schadcode ist sie keine vollständige Grenze. Für starke Isolierung sind Container oder virtuelle Maschinen die bessere Wahl.</p>




<figure class="wp-block-image size-large"><img decoding="async" width="1024" height="590" src="https://dr-dsgvo.de/wp-content/uploads/2026/10/schichten-6b40e67a-1024x590.webp" alt="Fünf gestaffelte Schutzschichten von Startort über Berechtigungen, Hooks und Sandbox bis zur Wegwerf-Umgebung" class="wp-image-34503" srcset="https://dr-dsgvo.de/wp-content/uploads/2026/10/schichten-6b40e67a-1024x590.webp 1024w, https://dr-dsgvo.de/wp-content/uploads/2026/10/schichten-6b40e67a-300x173.webp 300w, https://dr-dsgvo.de/wp-content/uploads/2026/10/schichten-6b40e67a-768x443.webp 768w, https://dr-dsgvo.de/wp-content/uploads/2026/10/schichten-6b40e67a-1536x885.webp 1536w, https://dr-dsgvo.de/wp-content/uploads/2026/10/schichten-6b40e67a-640x369.webp 640w, https://dr-dsgvo.de/wp-content/uploads/2026/10/schichten-6b40e67a-1320x761.webp 1320w, https://dr-dsgvo.de/wp-content/uploads/2026/10/schichten-6b40e67a.webp 1600w" sizes="(max-width: 1024px) 100vw, 1024px" /><figcaption class="wp-element-caption">Schutzschichten gegen fremde Anweisungsdateien.</figcaption></figure>




<h3 class="wp-block-heading">Netzwerk-Allowlist und Wegwerf-Umgebung</h3>



<p class="wp-block-paragraph">Eine solche Allowlist hätte Paket-Download und API-Umleitung erschwert. Das ist eine Einordnung, kein Beleg für den Fall. Unbekannter Code gehört in eine Wegwerf-Umgebung: Container, VM oder Dev Container, ohne die Zugangsdaten des Hauptprofils. Tokens sollten kurzlebig sein. Bei einem Verdacht wird empfohlen, das Anmeldetoken als abgeflossen zu betrachten und zu erneuern.</p>



<h3 class="wp-block-heading">Browser-Einstellung für Downloads</h3>



<p class="wp-block-paragraph">Gegen stille Downloads hilft die Einstellung, vor jedem Speichern nach dem Ort zu fragen. In Chrome heißt sie sinngemäß "Vor dem Download fragen, wo die Datei gespeichert werden soll" und steht in den Einstellungen unter Downloads. Edge und Firefox bieten Entsprechendes an, die Bezeichnungen unterscheiden sich je nach Version (Firefox: Einstellungen, Allgemein, Dateien und Anwendungen). Brave fragte im Test von BleepingComputer von sich aus nach. Alternativ lässt sich der Download-Ordner an einen Ort legen, der nie als Arbeitsverzeichnis dient. Ein Shell-Alias oder ein Hook, der den Start in ~/Downloads verweigert, ist eine zusätzliche Option.</p>



<h2 class="wp-block-heading">Checkliste für Teams und Richtlinie für den Einsatz von Coding-Agenten</h2>



<p class="wp-block-paragraph">Die folgende Liste fasst die Maßnahmen zusammen. Die Liste ergänzt die Empfehlungen aus den beiden Berichten um die Konfigurationen aus den Herstellerunterlagen.</p>



<ul class="wp-block-list">
<li>Agenten starten nur im Wurzelverzeichnis eines vertrauten Repositories. Downloads, Desktop und Home-Verzeichnis sind tabu.</li>



<li>Fremde Dateien wie AGENTS.md, CLAUDE.md oder .cursor/rules werden vor dem Öffnen eines frisch geklonten oder entpackten Projekts gelesen.</li>



<li>Berechtigungsabfragen und Sandbox bleiben aktiv. Auto-Modi und Flags wie &#8211;yolo laufen nur in isolierten Umgebungen.</li>



<li>Netzwerkzugriff läuft über eine Allowlist, Zugangsdaten liegen außerhalb des Zugriffs, Tokens sind kurzlebig.</li>



<li>Paketinstallationen durch Agenten erfolgen nur nach Freigabe, mit Lockfile und Prüfung der Registry. Wie schnell ein Paket weitere Pakete nachzieht, zeigt der Fall mit function-color und function-flag.</li>



<li>Einstellungen werden zentral verwaltet. Änderungen an ~/.codex/config.toml und .claude/settings.json werden überwacht.</li>



<li>Geladene Anweisungsdateien werden protokolliert, soweit die Werkzeuge das erlauben.</li>



<li>Vorfallplan: Sitzung stoppen, Tokens und Schlüssel erneuern, Konfigurationsdateien prüfen, Paketinstallationen zurückverfolgen.</li>
</ul>



<p class="wp-block-paragraph">Organisationen mit Pflichten zur Informationssicherheit nehmen solche Agenten in ihr Risikomanagement auf. Das betrifft die Erlaubnis, die Konfiguration und den Nachweis, dass die Regeln gelten. Ein Beitrag zu <a href="https://dr-dsgvo.de/agentic-coding-ki-programmierung-zweiter-wahl/">Agentic Coding</a> beschreibt, wie sich der Einsatz in Entwicklungsteams organisieren lässt.</p>



<h3 class="wp-block-heading">Muster-Richtlinie</h3>



<p class="wp-block-paragraph">Eine knappe Richtlinie lässt sich in wenigen Sätzen formulieren. Der Geltungsbereich umfasst alle Mitarbeitenden und Dienstleister, die KI-Coding-Agenten auf Firmengeräten oder mit Firmendaten nutzen. Agenten werden nur im Wurzelverzeichnis eines geprüften Repositories gestartet, nie in Download-, Desktop- oder Home-Ordnern. Auto-Modi und das Abschalten von Sandbox oder Freigaben sind nur in isolierten Wegwerf-Umgebungen ohne Zugangsdaten erlaubt. Paketinstallationen und Änderungen an Konfigurationsdateien erfordern eine Freigabe durch die Entwickler. Verantwortlich für die zentralen Einstellungen ist die IT-Sicherheit, für die Einhaltung im Projekt die Projektleitung. Verdachtsfälle werden sofort der IT-Sicherheit gemeldet, betroffene Tokens werden umgehend erneuert.</p>



<h3 class="wp-block-heading">Eigene Webseiten und Systeme prüfen</h3>



<p class="wp-block-paragraph">Der Fall betrifft vor allem Entwicklerrechner. Wer selbst Dateien zum Download anbietet, ist mit der eigenen Webseite Teil der Kette. Ein <a href="https://dr-dsgvo.de/webseiten-check/" target="_blank" rel="noopener">Webseiten-Check</a> zeigt, welche Skripte und Header eine Seite ausliefert, er prüft aber nur die Seite, nicht den Rechner von Entwicklern. Für eine systematische Sicherheitsprüfung in Teams bieten die <a href="https://wwwschutz.de/security-checks.html" target="_blank" rel="noopener">Web Security Checks</a> einen Einstieg.</p>



<h2 class="wp-block-heading">Fazit</h2>



<p class="wp-block-paragraph">Die Verantwortung liegt beim Anwender, die Technik setzt die Grenze!</p>



<p class="wp-block-paragraph">Eine fremde Textdatei kann einen Coding-Agenten steuern, weil der Agent Dateien im Arbeitsordner wie Anweisungen behandelt. Verlässlich wird der Schutz erst durch durchgesetzte Grenzen: Berechtigungen, Hooks, Sandbox, Netzwerk-Allowlist und zentral verwaltete Einstellungen.</p>



<p class="wp-block-paragraph">Offen bleibt, ob Angreifer den Weg über Browser-Downloads in der Praxis nutzen und wie die Datei beim Kunden landete. Wichtig erscheint auf jeden Fall die Sensibilisierung von Mitarbeitern und Entwicklern (bis sie aussterben).</p>
<script>document.addEventListener('DOMContentLoaded', function() {jQuery('.pdf-download-wrapper').remove();jQuery('.pdf-no-download-wrapper').removeClass('hide');});</script>
			<div id="ki_kontakt" class="ki_kontakt" style="padding-bottom: 0;">
				<h2>KI-Beratung, KI-Lösungen</h2>
				<div>
				Umfassende Beratung (fachlich, rechtlich, technisch):<br>
				<div class="ai_solution-advantages">
				<h3>Leistungsangebot:</h3><ul style="margin-top: 4px;">
				<li>Erstberatung inkl. Machbarkeitsaussagen</li>
				<li>Schulungen und Workshops für Führungskräfte, Berufsgeheimnisträger, Angestellte, Entwickler</li>
				<li>KI-Lösungen mit und ohne ChatGPT/Azure. Cloud oder eigener KI-Server</li>
				</ul>
				</div>
					<p style="margin-bottom:5px"><a id="msgbtn" class="ai_solution-contact-button" href="mailto:ki@dr-dsgvo.de">Ihre Anfrage</a><div class="ai-small">Oder Mail an ki@dr-dsgvo.de</div></p>
				</div>
			</div>]]></content:encoded>
					
					<wfw:commentRss>https://dr-dsgvo.de/agents-md-downloads-ordner-ki-agenten/feed/</wfw:commentRss>
			<slash:comments>0</slash:comments>
		
		
			</item>
		<item>
		<title>„Noch weit weg von RSI“: Was Pichais Einordnung zu selbstverbessernder KI für Unternehmen bedeutet</title>
		<link>https://dr-dsgvo.de/pichai-rsi-selbstverbesserung-kmu/</link>
					<comments>https://dr-dsgvo.de/pichai-rsi-selbstverbesserung-kmu/#respond</comments>
		
		<dc:creator><![CDATA[Dr. DSGVO]]></dc:creator>
		<pubDate>Sat, 14 Nov 2026 14:54:19 +0000</pubDate>
				<category><![CDATA[Künstliche Intelligenz]]></category>
		<category><![CDATA[hasDanish]]></category>
		<category><![CDATA[hasDutch]]></category>
		<category><![CDATA[hasEnglish]]></category>
		<category><![CDATA[hasFrench]]></category>
		<category><![CDATA[hasItalian]]></category>
		<category><![CDATA[hasPolish]]></category>
		<category><![CDATA[hasSpanish]]></category>
		<category><![CDATA[hasSwedish]]></category>
		<category><![CDATA[hasUkrainian]]></category>
		<category><![CDATA[KI-Agenten]]></category>
		<category><![CDATA[Modellwechsel]]></category>
		<category><![CDATA[RSI]]></category>
		<category><![CDATA[Selbstverbessernde KI]]></category>
		<category><![CDATA[Sundar Pichai]]></category>
		<category><![CDATA[Artificial Intelligence]]></category>
		<category><![CDATA[AI]]></category>
		<category><![CDATA[Machine Learning]]></category>
		<category><![CDATA[Data Science]]></category>
		<category><![CDATA[Data Modelling]]></category>
		<category><![CDATA[Digitalisierung]]></category>
		<category><![CDATA[Big Data]]></category>
		<guid isPermaLink="false">https://dr-dsgvo.de/?p=34528</guid>

					<description><![CDATA[Pichai sieht die Branche noch weit vom Endzustand der rekursiven Selbstverbesserung, beschreibt aber laufende Schleifen mit Forschern. Einordnung für KMU.]]></description>
										<content:encoded><![CDATA[
<p class="wp-block-paragraph"><em>Google-Chef Sundar Pichai sagt, die Branche sei noch weit vom Endzustand der rekursiven Selbstverbesserung entfernt. Zugleich beschreibt er Schleifen, in denen KI-Agenten schon heute beim Bau neuer Modelle helfen. Stand heute lässt sich einordnen, was davon belegt und was es für den KI-Einsatz in kleinen und mittleren Unternehmen bedeutet.Ist die Menschheit gefährdet?</em></p>




<figure class="wp-block-image size-large"><img decoding="async" width="1024" height="642" src="https://dr-dsgvo.de/wp-content/uploads/2026/10/agenten-schleife-6cd3409e-1024x642.webp" alt="Schema selbstverbessernder KI als Einordnung: Agenten unterstützen Forscher, Menschen geben Ergebnisse frei, ausgegraut das Gegenbild eines Modells, das seine eigenen Gewichte ändert" class="wp-image-34524" srcset="https://dr-dsgvo.de/wp-content/uploads/2026/10/agenten-schleife-6cd3409e-1024x642.webp 1024w, https://dr-dsgvo.de/wp-content/uploads/2026/10/agenten-schleife-6cd3409e-300x188.webp 300w, https://dr-dsgvo.de/wp-content/uploads/2026/10/agenten-schleife-6cd3409e-768x481.webp 768w, https://dr-dsgvo.de/wp-content/uploads/2026/10/agenten-schleife-6cd3409e-640x401.webp 640w, https://dr-dsgvo.de/wp-content/uploads/2026/10/agenten-schleife-6cd3409e.webp 1200w" sizes="(max-width: 1024px) 100vw, 1024px" /><figcaption class="wp-element-caption">Einordnung der Agenten-Schleife von heute, neben dem Gegenbild einer Gewichtsänderung ohne Menschen.</figcaption></figure>




<p class="wp-block-paragraph">Anlass ist ein Interview, über das <a href="https://www.bigtechnology.com/p/far-from-rsi-compute-shortages-google" target="_blank" rel="noopener">Big Technology am 23.10.2026</a> berichtet hat. Dort fällt ein Satz zur selbstverbessernden KI, der sich gut zitieren lässt: Die Branche sei noch weit vom Endzustand von RSI entfernt. RSI steht für Recursive Self-Improvement, also rekursive Selbstverbesserung. Gemeint ist ein Kreislauf, in dem KI-Systeme ihre Nachfolger verbessern, die wiederum bessere Nachfolger bauen.</p>



<p class="wp-block-paragraph">Grundlagen zur Funktionsweise solcher Schleifen liefert der Beitrag zur <a href="https://dr-dsgvo.de/rekursive-selbstverbesserung-von-ki/">rekursiven Selbstverbesserung von KI</a>. Aussagen aus dem Interview, Selbstauskünfte von Herstellern, eine Forschungsarbeit und eine Insider-Prognose stehen im Folgenden getrennt nebeneinander.</p>



<h2 class="wp-block-heading">Was Pichai gesagt hat und was nicht</h2>



<p class="wp-block-paragraph">Der Kern ist kurz. Nach dem Bericht von Alex Kantrowitz sagte Pichai: „To be very clear. We are pretty far from the end state of RSI.“ Das bdeutet so viel wie: „Ganz klar: Vom Endzustand der rekursiven Selbstverbesserung ist die Branche noch ziemlich weit entfernt.“ Kantrowitz stellt den Satz gegen die Erwartung mancher in der KI-Branche, eine Intelligenzexplosion stehe unmittelbar bevor und KI verbessere sich bald in einer vollständigen Schleife ohne menschliches Zutun.</p>



<p class="wp-block-paragraph">Direkt danach folgen zwei weitere Sätze, die für die Einordnung wichtiger sind als der erste. Pichai sagte: „You have RSI loops along with AI researchers in various aspects of model development.“ Und: „You almost have agents helping AI researchers in some automated way work together to build these models.“ Sinngemäß: In verschiedenen Bereichen der Modellentwicklung gibt es Rückkopplungsschleifen gemeinsam mit den Forschern, und Agenten helfen ihnen teilweise automatisiert beim Bau der Modelle.</p>



<p class="wp-block-paragraph">Wörtlich belegt ist damit: Teilschleifen laufen bereits, und zwar zusammen mit den Forschern. Von einem Modell, das sich ohne Aufsicht selbst umbaut, ist in diesen Sätzen nicht die Rede. Der Satz vom Endzustand lässt sich so lesen, dass genau dieses Bild gemeint ist.</p>



<p class="wp-block-paragraph">Als Randthema berichtet Big Technology über Rechenleistung. Pichai sagt, alle seien knapp, nicht nur Google: „The compute we have today is a function of decisions I made in 2024.“ Laut Bericht sagt er außerdem, das Cloud-Geschäft verzichte immer wieder auf kurzfristige Erlöse, weil Rechenleistung für die Entwicklung der Spitzenmodelle reserviert werde. Für die Selbstverbesserung ist das relevant, denn jede Schleife aus Idee, Experiment und Auswertung kostet Rechenzeit. Wo sie knapp ist, bremst sie auch automatisierte Forschung.</p>



<p class="wp-block-paragraph">Nicht belegt ist ein Zeitrahmen. Zweitberichte wie <a href="https://www.digitaltoday.co.kr/en/view/119481/google-ceo-says-self-improving-ai-not-yet-there-still-needs-human-review" target="_blank" rel="noopener">DigitalToday</a> nennen „nächstes Jahr“ als Zeitpunkt weiterer Fortschritte.</p>



<p class="wp-block-paragraph">Es folgt eine Deutung, die nicht von Pichai stammt. Wer von einem Endzustand spricht, setzt voraus, dass es einen Weg dorthin gibt und dass dieser Weg begonnen hat. Der Satz lässt sich deshalb auch als Aussage für RSI lesen: Die Entwicklung findet statt, Google treibt sie mit hohem Aufwand voran, und in einigen Jahren sind große Erfolge denkbar. Diese Erwartung ist eine eigene Einschätzung. Eine entsprechende Äußerung von Pichai liegt in den gelesenen Quellen nicht vor.</p>



<figure class="wp-block-pullquote"><blockquote><p>Eine mögliche Lesart: Wer vom Endzustand spricht, setzt voraus, dass der Weg dorthin begonnen hat. Der Satz wäre dann weniger Entwarnung als Standortbestimmung.</p></blockquote></figure>



<h2 class="wp-block-heading">Selbstverbessernde KI: Agenten-Schleife versus Gewichtsänderung</h2>



<p class="wp-block-paragraph">Hinter dem Begriff stecken zwei sehr verschiedene Dinge, die im Alltag oft vermischt werden. Das erste ist die Agenten-Schleife. Hier arbeiten KI-Agenten in der Entwicklung mit: Sie schlagen Experimente vor, schreiben und ändern Code, starten Trainingsläufe, werten Ergebnisse aus und melden zurück. Menschen setzen Ziele, prüfen Ergebnisse und entscheiden über Änderungen. Der Kreislauf verbessert Prozesse, Werkzeuge und Arbeitsabläufe.</p>



<p class="wp-block-paragraph">Das zweite ist die Gewichtsänderung. Dort würde ein Modell seine eigenen Gewichte so verändern, dass der Nachfolger besser ist, und zwar ohne dass ein Mensch dazwischen Ergebnisse freigibt. Dieses Bild ist es, das den Begriff Intelligenzexplosion trägt. Genau davon, so lässt sich Pichai lesen, ist die Branche noch weit entfernt.</p>



<p class="wp-block-paragraph">Zwischen beiden Polen liegt kein Schalter, sondern ein Spektrum. Die Zahl der Schritte, die Agenten ohne Rückfrage erledigen, kann wachsen. Mit ihr wächst der Anteil der Entwicklung, den Menschen nur noch stichprobenartig kontrollieren. Wie Agenten im Betrieb handeln und warum das Kontrolle verlangt, beschreibt der Beitrag zum <a href="https://dr-dsgvo.de/das-zeitalter-der-ki-agenten-wenn-die-ki-selbst-handelt/">Zeitalter der KI-Agenten</a>.</p>



<p class="wp-block-paragraph">Für die zentrale Frage lohnt sich eine nüchterne Antwort. Sie lässt sich aus den belegten Sätzen ableiten.</p>


    <div itemscope itemtype="http://schema.org/FAQPage">
                    <div itemprop="mainEntity" itemscope itemtype="http://schema.org/Question">
                <h4 itemprop="name">Betreibt Google schon rekursive Selbstverbesserung, wenn KI beim Bau der Nachfolgemodelle hilft?</h4>
                <div itemscope itemprop="acceptedAnswer" itemtype="http://schema.org/Answer">
                    <div itemprop="text">Teilweise. Pichai beschreibt Rückkopplungsschleifen, in denen KI-Agenten Forscher bei der Modellentwicklung unterstützen, zum Teil automatisiert. Vom Endzustand, in dem sich KI ohne menschliches Zutun verbessert, sei die Branche aber noch weit entfernt. Die Schleife läuft bislang neben den Forschern, nicht an ihnen vorbei.</div>
                </div>
            </div>

                </div><!--/ppa questions-->
    



<p class="wp-block-paragraph">Der Unterschied ist für KMU nicht akademisch. Eine Agenten-Schleife beschleunigt die Modellzyklen, ohne dass Kontrollverlust das Thema wäre. Eine Gewichtsänderung ohne Aufsicht würde die Frage aufwerfen, ob Menschen Änderungen noch nachvollziehen können. Beide Fragen brauchen unterschiedliche Antworten, und nur die erste stellt sich heute praktisch.</p>



<h2 class="wp-block-heading">Was Google und andere über den eigenen Stand berichten</h2>



<p class="wp-block-paragraph">Aussagen von Herstellern über den eigenen Fortschritt sind Selbstauskünfte. Sie können zutreffen, sie sind aber nicht unabhängig geprüft. Das gilt für alles, was in diesem Abschnitt steht.</p>



<p class="wp-block-paragraph">Ein aktuelles Beispiel ist Flint. Das Unternehmen Recursive stellt das Modell in seiner <a href="https://recursive.com/updates/introducing-recursive-flint" target="_blank" rel="noopener">Ankündigung</a> als schnelles Coding-Modell für lokale Hardware vor, mit 40 Milliarden Parametern insgesamt und 2,5 Milliarden aktiven je Token (also ein Mixture of Experts Model). Nach eigener Darstellung hat ein kleines Team aus Menschen und Agenten es in unter vier Monaten gebaut. Das automatisierte Forschungssystem, die „Eureka Machine“, habe nahezu jeden Teil der Modellbau-Kette mitentwickelt, von Daten und Trainingsrezepten bis zur Inferenz. Die Benchmarks stammen vom Hersteller und sind unabhängig nicht verifiziert. Recursive warnt selbst, dass Flint mehr Anleitung brauchen kann als große geschlossene Modelle.</p>



<p class="wp-block-paragraph">Für Unternehmen ist das aus zwei Gründen interessant. Erstens zeigt der Fall, dass automatisierte Forschung bereits Produkte hervorbringt, auch bei kleinen Teams. Zweitens läuft das Modell lokal. Wer sensible Daten nicht an Cloud-Anbieter senden will, bekommt so eine Option mehr, und zwar ohne dass die Herstellerangaben damit bewiesen wären. Wie sich lokale Modelle im Unternehmen einordnen lassen, zeigt der Überblick zur <a href="https://dr-dsgvo.de/lokale-ki/">lokalen KI im Unternehmen</a>.</p>




<figure class="wp-block-image size-large"><img decoding="async" width="1024" height="771" src="https://dr-dsgvo.de/wp-content/uploads/2026/10/status-tabelle-9544b45b-1024x771.webp" alt="Tabelle mit Aussagen, Quellen und Status: belegt, selbstberichtet, ungesichert" class="wp-image-34525" srcset="https://dr-dsgvo.de/wp-content/uploads/2026/10/status-tabelle-9544b45b-1024x771.webp 1024w, https://dr-dsgvo.de/wp-content/uploads/2026/10/status-tabelle-9544b45b-300x226.webp 300w, https://dr-dsgvo.de/wp-content/uploads/2026/10/status-tabelle-9544b45b-768x579.webp 768w, https://dr-dsgvo.de/wp-content/uploads/2026/10/status-tabelle-9544b45b-640x482.webp 640w, https://dr-dsgvo.de/wp-content/uploads/2026/10/status-tabelle-9544b45b.webp 1200w" sizes="(max-width: 1024px) 100vw, 1024px" /><figcaption class="wp-element-caption">Aussagen im Beitrag, ihre Quelle und ihr Status.</figcaption></figure>




<p class="wp-block-paragraph">Die Übersicht zeigt, wie die Aussagen in diesem Beitrag einzustufen sind. Belegt sind die zwei Sätze von Pichai im Wortlaut des Berichts. Hersteller- und Forschungszahlen sind selbstberichtet. Gladstone ist eine Einschätzung aus Gesprächen mit Forschenden, keine Messung. Die Codezahl bleibt ungesichert, der angebliche Zeitrahmen „in ein paar Jahren“ ist als Pichai-Aussage nicht belegt.</p>



<h2 class="wp-block-heading">Was Forschung zeigt und wo sie endet</h2>



<p class="wp-block-paragraph">Eine Forschungsarbeit macht greifbar, wie eine solche Schleife aussehen kann. Unter dem Titel „<a href="https://arxiv.org/abs/2610.12176" target="_blank" rel="noopener">Recursive Self-Improvement through Multi-Agent Self-Supervision</a>“, eingereicht am 8. Oktober 2026) wird die Methode MASS beschrieben. Ein einzelnes Basismodell, im Paper Qwen3.6-27B, schlägt Multi-Agent-Workflows vor, führt sie aus und bewertet sie selbst. Danach wird es auf den eigenen Läufen nachtrainiert, und das Verfahren wiederholt sich.</p>



<p class="wp-block-paragraph">Nach zwei Zyklen meldet das Abstract eine 1,2- bis 1,6-fache Leistung pro Ausgabe-Token auf vier offenen Benchmarks. Außerdem sei ein Modell, das mit den Läufen mehrerer Agenten trainiert wurde, besser als ein Modell, das mit Läufen eines einzelnen Agenten und 40 Prozent mehr Trainingsdaten trainiert wurde.</p>



<p class="wp-block-paragraph">Die Grenzen sind im Material selbst zu sehen. Es handelt sich um ein Modell und zwei Zyklen. Das Signal für die Verbesserung kommt aus der Selbstbewertung. Auf den beiden Coding-Benchmarks Terminal-Bench 2.0 und SWE-bench Verified stehen im Paper in einer Abbildung die Werte 0,96 und 0,94, also je Token leicht unter dem Ausgangswert. Auf diesen beiden Tests zeigte sich in der Abbildung also kein Gewinn je Token.</p>



<p class="wp-block-paragraph">Der Ausgangspunkt der Autoren passt zum Thema (übergeordnete) "Aufsicht". Sie schreiben, dass ein einzelnes Modell Mühe habe, die eigenen komplexen Überlegungen zu kritisieren und zu verbessern, wenn es in einer homogenen Schleife arbeitet. Daher setzen sie auf mehrere Instanzen mit verschiedenen Rollen. Wenn dasselbe Modell erzeugt und bewertet, können gemeinsame Fehler unentdeckt bleiben. Das ist eine Folgerung aus dem Ansatz, die Formulierung des Papers zielt auf die Methode, nicht auf Unternehmen.</p>



<p class="wp-block-paragraph">Forschung belegt, dass die Idee funktionieren kann und dass die Prüfung der Engpass ist. Sie belegt nicht, dass sich Modelle im Alltag ohne Menschen zuverlässig verbessern. Das passt zu Pichais Satz und widerspricht ihm nicht.</p>



<h2 class="wp-block-heading">Wie schnell es gehen könnte: Gladstone und die Grenzen der Prognose</h2>



<p class="wp-block-paragraph">Forscher bei Anthropic, OpenAI und Google DeepMind erwarteten, dass rekursive Selbstverbesserung in den nächsten drei bis zwölf Monaten beginne, möglicherweise früher, und zwar unter der Annahme, dass die US-Regierung nicht eingreift oder bremst.</p>



<p class="wp-block-paragraph">Die Befragten haben ein Eigeninteresse an der Dynamik des Feldes, und die Autoren sind eine Organisation mit Schwerpunkt Sicherheitspolitik.</p>



<p class="wp-block-paragraph">Automatisierte Forschung könne technisch möglich sein, ohne wirtschaftlich zu sein. Gute Ideen seien nicht der Engpass, sondern Rechenzeit, um sie zu testen. Das deckt sich mit Pichais Hinweis auf knappe Rechenleistung.</p>



<p class="wp-block-paragraph">Die Aussagen schließen sich nicht aus. „Beginn“ und „Endzustand“ sind verschiedene Punkte auf demselben Weg. Pichai sagt, der Weg ist lang, und beschreibt zugleich, dass die Schleifen mit Forschern laufen. Gladstone erwartet, dass ein Teil davon bald autonomer wird. Wer beides liest, erhält ein Bild, in dem die <a href="https://dr-dsgvo.de/rekursive-selbstverbesserung-von-ki/">rekursive Selbstverbesserung</a> schrittweise zunimmt. Eine Planung allein auf Monatsangaben zu stützen, ist riskant, weil sie aus einer kleinen Gesprächsrunde stammen.</p>



<h2 class="wp-block-heading">Folgen für KMU: Modellzyklen und Modellwechsel testen</h2>



<p class="wp-block-paragraph">Für Unternehmen zeigt sich der Effekt nicht als Intelligenzexplosion, sondern in Kalender und Technik. Wenn Agenten Forscher entlasten, können neue Modellversionen häufiger erscheinen. Für den Betrieb zählt aber unabhängig von der Ursache: Modelle ändern sich schneller, als Fachabteilungen Prozesse anpassen.</p>



<p class="wp-block-paragraph">Das hat praktische Folgen. Ein Modell kann bei gleichem Prompt anders antworten als sein Vorgänger. Ton, Format, Fehlerarten und Kosten pro Aufgabe verschieben sich. Anbieter stellen ältere Versionen ein, manchmal mit kurzer Frist. Und wer auf den Alias „latest“ setzt, bekommt Änderungen ungefragt in die Produktion.</p>



<p class="wp-block-paragraph">Daraus ergibt sich ein einfaches Vorgehen für den Modellwechsel. Erstens ein Testkorpus aus echten Aufgaben, zum Beispiel 50 bis 200 anonymisierte Fälle mit bekannter guter Antwort (kann man teils sogar mit KI generieren!). Zweitens ein Vergleichslauf des neuen Modells gegen die aktuelle Version mit unveränderten Prompts. Drittens eine Freigabe durch eine benannte Person, die Qualität, Kosten und Fehlerbild gesehen hat. Viertens ein Rollback-Pfad, also feste Modellversion und aufbewahrte Konfiguration, damit das Zurückschalten in Minuten gelingt.</p>




<figure class="wp-block-image size-large"><img decoding="async" width="1024" height="658" src="https://dr-dsgvo.de/wp-content/uploads/2026/10/modellwechsel-ablauf-40e0aded-1024x658.webp" alt="Modellwechsel testen: Ablauf von neuem Modell über Testkorpus bis zur Freigabe und zum Rollback" class="wp-image-34526" srcset="https://dr-dsgvo.de/wp-content/uploads/2026/10/modellwechsel-ablauf-40e0aded-1024x658.webp 1024w, https://dr-dsgvo.de/wp-content/uploads/2026/10/modellwechsel-ablauf-40e0aded-300x193.webp 300w, https://dr-dsgvo.de/wp-content/uploads/2026/10/modellwechsel-ablauf-40e0aded-768x493.webp 768w, https://dr-dsgvo.de/wp-content/uploads/2026/10/modellwechsel-ablauf-40e0aded-640x411.webp 640w, https://dr-dsgvo.de/wp-content/uploads/2026/10/modellwechsel-ablauf-40e0aded.webp 1200w" sizes="(max-width: 1024px) 100vw, 1024px" /><figcaption class="wp-element-caption">Ablauf eines Modellwechsels in vier Schritten.</figcaption></figure>




<p class="wp-block-paragraph">Bei einem Anbieterwechsel oder einem neuen Modell eines bestehenden Anbieters kommen Datenschutz und Vertrag dazu. Zu klären sind Datenflüsse, Serverstandort, Auftragsverarbeitung und die Frage, ob Eingaben zum Training verwendet werden. Ein automatisches Hochziehen auf das neueste Modell sollte in der Produktion nicht erlaubt sein. Lokale Modelle verschieben die Frage: Sie nehmen Abhängigkeit vom Anbieter weg und bringen eigene Pflege mit, siehe die <a href="https://dr-dsgvo.de/lokale-ki/">Übersicht zur lokalen KI</a>.</p>



<p class="wp-block-paragraph">Kleine Unternehmen müssen dafür keine eigene Testabteilung aufbauen. Eine Tabelle mit Beispielen, ein Skript, das sie durch beide Modelle schickt, und eine kurze Notiz zur Freigabe genügen als Anfang.</p>



<h2 class="wp-block-heading">Aufsicht und Freigaben beibehalten: Was Aufgabe des Menschen bleibt</h2>



<p class="wp-block-paragraph">Wenn Entwickler im eigenen Haus Agenten mit Schreibrechten einsetzen, entsteht im Kleinen dieselbe Schleife wie bei den Laboren: Der Agent ändert Code, Tests laufen, der Agent korrigiert. Die Aufsicht lässt sich nach demselben Muster gestalten. Der Agent darf vorschlagen und testen, aber eine benannte Person gibt Änderungen an Produktivsystemen, Konfigurationen und Daten frei.</p>



<p class="wp-block-paragraph">Dazu gehören Protokolle, die nachvollziehbar machen, was der Agent getan hat, und Rechte, die so eng sind wie nötig. Löschen, Versenden und Bezahlen sind Aktionen, die eine zusätzliche Bestätigung verdienen. Welche Risiken ein Agent ohne Kontrolle mit sich bringt, beschreibt der Beitrag <a href="https://dr-dsgvo.de/die-gefahr-hinter-ki-agenten-macht-ohne-kontrolle/">Die Gefahr hinter KI-Agenten</a>.</p>



<p class="wp-block-paragraph">Wichtig ist auch die Frage, wer prüft. Wenn dasselbe Modell erzeugt und bewertet, bleiben gleiche blinde Flecken bestehen. Im Betrieb heißt das: Eine KI darf eine andere prüfen, aber nur zusätzlich. Die belastbare Gegenprüfung kommt aus Tests, einem anderen Anbieter oder einem Menschen.</p>



<figure class="wp-block-pullquote"><blockquote><p>KI prüft KI nur dann belastbar, wenn die Gegenprüfung unabhängig ist: durch Tests, einen anderen Anbieter oder einen Menschen.</p></blockquote></figure>



<p class="wp-block-paragraph">Die Verantwortung bleibt beim Unternehmen, das den Agenten einsetzt. Das gilt unabhängig davon, wie viel der Entwicklung im Hintergrund automatisiert ist. Eine Aussage, dass KI sich selbst verbessert, entlastet den Betreiber nicht.</p>



<h2 class="wp-block-heading">Checkliste: </h2>



<p class="wp-block-paragraph">Eine Checkliste soll bei der Antwort auf die Frage helfen, was jetzt zu tun ist und was nicht:</p>




<figure class="wp-block-image size-large"><img decoding="async" width="1024" height="626" src="https://dr-dsgvo.de/wp-content/uploads/2026/10/checkliste-46ac8794-1024x626.webp" alt="Checkliste mit zwei Spalten: Was KMU tun sollten und was nicht" class="wp-image-34527" srcset="https://dr-dsgvo.de/wp-content/uploads/2026/10/checkliste-46ac8794-1024x626.webp 1024w, https://dr-dsgvo.de/wp-content/uploads/2026/10/checkliste-46ac8794-300x184.webp 300w, https://dr-dsgvo.de/wp-content/uploads/2026/10/checkliste-46ac8794-768x470.webp 768w, https://dr-dsgvo.de/wp-content/uploads/2026/10/checkliste-46ac8794-640x391.webp 640w, https://dr-dsgvo.de/wp-content/uploads/2026/10/checkliste-46ac8794.webp 1200w" sizes="(max-width: 1024px) 100vw, 1024px" /><figcaption class="wp-element-caption">Checkliste für KMU: tun und nicht tun.</figcaption></figure>




<p class="wp-block-paragraph">Zu den Punkten im Einzelnen:</p>



<p class="wp-block-paragraph">Das Modellinventar hält fest, welche Modelle in welcher Version wo laufen, wer verantwortlich ist und welche Daten fließen. Der Testkorpus wächst mit jedem Fehler, der im Betrieb auffällt. Versionen werden festgelegt und nur nach Test geändert. Für Agenten mit Schreibrechten gelten Freigaben und Protokolle. Herstellerangaben, ob zu Benchmarks oder zu KI-Anteilen im Code, werden als Selbstauskunft behandelt und nicht als Beleg.</p>



<p class="wp-block-paragraph">Nicht empfehlenswert sind Panik und Aktionismus, denn die belegte Lage ist eine Teilschleife mit Menschen. Ebenso wenig sollten Kontrollen abgebaut werden, weil eine KI sich selbst prüft. Und Strategien, die auf Monatsangaben von Prognosen beruhen, stehen auf dünnem Grund. Wer zusätzlich die technische Seite prüfen will, etwa Rechte und Angriffsfläche von Systemen, findet unter <a href="https://wwwschutz.de/security-checks.html" target="_blank" rel="noopener">wwwschutz.de die Security-Checks</a> einen Einstieg.</p>



<h2 class="wp-block-heading">Fazit</h2>



<p class="wp-block-paragraph">Zusammengefasst lassen sich die Aussagen und der aktuelle Stand, der sich täglich ändern kann, so ordnen.</p>



<p class="wp-block-paragraph">Pichai belegt, dass es Rückkopplungsschleifen mit Forschern gibt und dass der Endzustand ohne Menschen noch weit entfernt ist. Dies ist keine Entwarnung. Eine mögliche Lesart lautet, dass der Weg schon läuft und große Fortschritte in einigen Jahren möglich sind.</p>



<p class="wp-block-paragraph">Für KMU zählen kürzere Modellzyklen, Tests vor jedem Wechsel, feste Versionen und Freigaben für Agenten. Ob die Schleife in drei Monaten oder in drei Jahren deutlich autonomer wird, weiß heute niemand belastbar. Wer Tests, Freigaben und Rollback beherrscht, ist auf beide Fälle vorbereitet.</p>
<script>document.addEventListener('DOMContentLoaded', function() {jQuery('.pdf-download-wrapper').remove();jQuery('.pdf-no-download-wrapper').removeClass('hide');});</script>
			<div id="ki_kontakt" class="ki_kontakt" style="padding-bottom: 0;">
				<h2>KI-Beratung, KI-Lösungen</h2>
				<div>
				Umfassende Beratung (fachlich, rechtlich, technisch):<br>
				<div class="ai_solution-advantages">
				<h3>Leistungsangebot:</h3><ul style="margin-top: 4px;">
				<li>Erstberatung inkl. Machbarkeitsaussagen</li>
				<li>Schulungen und Workshops für Führungskräfte, Berufsgeheimnisträger, Angestellte, Entwickler</li>
				<li>KI-Lösungen mit und ohne ChatGPT/Azure. Cloud oder eigener KI-Server</li>
				</ul>
				</div>
					<p style="margin-bottom:5px"><a id="msgbtn" class="ai_solution-contact-button" href="mailto:ki@dr-dsgvo.de">Ihre Anfrage</a><div class="ai-small">Oder Mail an ki@dr-dsgvo.de</div></p>
				</div>
			</div>]]></content:encoded>
					
					<wfw:commentRss>https://dr-dsgvo.de/pichai-rsi-selbstverbesserung-kmu/feed/</wfw:commentRss>
			<slash:comments>0</slash:comments>
		
		
			</item>
		<item>
		<title>Erste Datenpanne mit KI-Agent gemeldet: Was Art. 33 DSGVO verlangt</title>
		<link>https://dr-dsgvo.de/ki-agent-datenpanne-meldepflicht/</link>
					<comments>https://dr-dsgvo.de/ki-agent-datenpanne-meldepflicht/#respond</comments>
		
		<dc:creator><![CDATA[Dr. DSGVO]]></dc:creator>
		<pubDate>Fri, 13 Nov 2026 14:57:54 +0000</pubDate>
				<category><![CDATA[Datenschutz]]></category>
		<category><![CDATA[Art. 33 DSGVO]]></category>
		<category><![CDATA[Datenpanne]]></category>
		<category><![CDATA[hasDanish]]></category>
		<category><![CDATA[hasDutch]]></category>
		<category><![CDATA[hasEnglish]]></category>
		<category><![CDATA[hasFrench]]></category>
		<category><![CDATA[hasItalian]]></category>
		<category><![CDATA[hasPolish]]></category>
		<category><![CDATA[hasSpanish]]></category>
		<category><![CDATA[hasSwedish]]></category>
		<category><![CDATA[hasUkrainian]]></category>
		<category><![CDATA[KI-Agenten]]></category>
		<category><![CDATA[Meldepflicht]]></category>
		<category><![CDATA[Protokollierung]]></category>
		<guid isPermaLink="false">https://dr-dsgvo.de/?p=36472</guid>

					<description><![CDATA[Erste Datenpanne mit KI-Agent in Spanien gemeldet: Wann die Meldepflicht greift, wie die 72 Stunden zählen und was an Protokollen und Rechten vorbereitet sein sollte.]]></description>
										<content:encoded><![CDATA[
<p class="wp-block-paragraph"><em>In Spanien ist erstmals eine Datenschutzverletzung gemeldet worden, bei der ein Angriff mit einem KI-Agenten ausgeführt worden sein soll. Es wird beschrieben, wie sich die Meldepflicht bei einer Datenpanne mit KI-Agent einordnen lässt, wann die 72 Stunden laufen und welche Vorbereitungen schon getroffen sein sollten, um nicht in Stress zu verfallen.</em></p>



<p class="wp-block-paragraph">Am 14.09.2026 ist in Spanien öffentlich geworden, dass erstmals ein Angriff mit einem KI-Agenten bei einer Datenschutzbehörde gemeldet wurde. Das wirft eine praktische Frage auf: Wer muss was tun, wenn ein KI-Agent im Spiel ist, sei es als Angriffswerkzeug fremder Täter oder als eigenes Werkzeug im Unternehmen? Es geht um Meldepflicht, Fristen, Protokolle und Abläufe für den Ernstfall.</p>



<h2 class="wp-block-heading">Der AEPD-Fall in Kürze</h2>



<p class="wp-block-paragraph">In Spanien ist <a href="https://www.aepd.es/prensa-y-comunicacion/blog/primera-notiviacion-brecha-datos-personales-causada-por-ataque-ejecutado-mediante-agente-ia" target="_blank" rel="noopener">erstmals eine Datenschutzverletzung gemeldet worden</a>, bei der ein Angriff mit einem KI-Agenten auf Basis eines bekannten Sprachmodells ausgeführt worden sein soll. Der Angreifer suchte demnach zunächst in allgemein zugänglichen Dateien nach Schwachstellen und meldete sich dann am Zielsystem an. Der Agent fand in der Anwendung weitere Schwachstellen, veränderte personenbezogene Daten und griff auf Rechnungen zu.</p>



<p class="wp-block-paragraph">Wichtig ist die Rollenverteilung. Das meldende Unternehmen war das Opfer, der Agent das Werkzeug der Angreifer. Es handelt sich also nicht um einen Fehler eines Agenten, den die Organisation selbst betrieben hätte. Weder die Organisation noch das Modell werden genannt. Aus der Nutzung eines bekannten Modells folgt nicht, dass dessen Anbieter oder Infrastruktur kompromittiert wurde, und es ist nicht gesagt, dass das Werkzeug für schädliche Zwecke gebaut war. Ein Einzelfall erlaubt zudem keine Aussage über einen Trend.</p>



<p class="wp-block-paragraph"><strong>KI schafft keine grundlegend neuen Bedrohungen</strong>, kann aber Tempo, Umfang und Anpassungsfähigkeit von Angriffen erhöhen. Daraus folgt Praktisches: Angriffe mit KI gehören in die Risikoanalyse, Reaktionszeiten für manuelle Angriffe auf den Prüfstand, Zugangsdaten mit zu weiten Rechten besser geschützt, und die menschliche Aufsicht braucht Unterstützung durch schnelle Erkennung und Eindämmung.</p>



<h2 class="wp-block-heading">Wann ein KI-Agent eine meldepflichtige Datenpanne auslöst</h2>



<p class="wp-block-paragraph">Die Meldepflicht bei Datenpannen durch KI-Agenten knüpft nicht an die Technik an, sondern an das Ergebnis. Nach <a href="https://dr-dsgvo.de/artikel-4-dsgvo/" data-type="post" data-id="2422">Art. 4 Nr. 12 DSGVO</a> liegt eine Verletzung des Schutzes personenbezogener Daten vor, wenn eine Sicherheitsverletzung zu Vernichtung, Verlust, Veränderung, unbefugter Offenlegung oder unbefugtem Zugang führt, sei es unbeabsichtigt oder unrechtmäßig. Ob ein Mensch, ein Skript oder ein Agent dahintersteckt, spielt für diese Definition keine Rolle. Zwei Konstellationen lassen sich dennoch sauber unterscheiden.</p>



<p class="wp-block-paragraph">In der <strong>Konstellation A</strong> greift ein fremder Agent an, so wie im spanischen Fall. Der unbefugte Zugang und die Veränderung von Daten sind die Verletzung, die Meldepflicht entsteht mit ihr. Neu ist hier vor allem das Tempo, nicht die rechtliche Einordnung. In der <strong>Konstellation B</strong> verursacht der eigene Agent die Verletzung. Das kann ein Kundenagent sein, der Daten an die falsche Person schickt, ein Coding-Agent mit zu weiten Rechten oder ein Mailagent, der nach einer eingeschleusten Anweisung Inhalte weiterleitet.</p>



<p class="wp-block-paragraph">Bei der Konstellation B liegt die Einordnung nicht immer auf der Hand. Hat der Agent genau das getan, wofür er eingerichtet wurde, und kein Unbefugter hat Zugang erhalten, fehlt oft eine Sicherheitsverletzung. Fließen dagegen Daten an Empfänger, die sie nicht erhalten durften, oder greift der Agent auf Bestände zu, die für ihn gesperrt sein sollten, spricht viel für eine Verletzung. Eigene Leitlinien für Agenten gibt es bislang kaum. Die Bewertung bleibt deshalb eine Frage des Einzelfalls und folgt den allgemeinen Maßstäben der Behörden.</p>




<figure class="wp-block-image size-large"><img decoding="async" width="1024" height="712" src="https://dr-dsgvo.de/wp-content/uploads/2026/11/konstellationen-19ffaa2e-1024x712.webp" alt="Schema der Meldepflicht bei Datenpanne mit KI-Agent: fremder Angreifer und eigener Agent, gleiche Prüfung" class="wp-image-36470" srcset="https://dr-dsgvo.de/wp-content/uploads/2026/11/konstellationen-19ffaa2e-1024x712.webp 1024w, https://dr-dsgvo.de/wp-content/uploads/2026/11/konstellationen-19ffaa2e-300x209.webp 300w, https://dr-dsgvo.de/wp-content/uploads/2026/11/konstellationen-19ffaa2e-768x534.webp 768w, https://dr-dsgvo.de/wp-content/uploads/2026/11/konstellationen-19ffaa2e-1536x1068.webp 1536w, https://dr-dsgvo.de/wp-content/uploads/2026/11/konstellationen-19ffaa2e-640x445.webp 640w, https://dr-dsgvo.de/wp-content/uploads/2026/11/konstellationen-19ffaa2e-1320x917.webp 1320w, https://dr-dsgvo.de/wp-content/uploads/2026/11/konstellationen-19ffaa2e.webp 1600w" sizes="(max-width: 1024px) 100vw, 1024px" /><figcaption class="wp-element-caption">Zwei Konstellationen, eine gemeinsame Prüfung.</figcaption></figure>




<figure class="wp-block-table"><table><thead><tr><th>Szenario</th><th>Verletzung?</th><th>Betroffenes Schutzziel</th></tr></thead><tbody><tr><td>Fremder Agent meldet sich unbefugt an</td><td>Ja</td><td>Vertraulichkeit</td></tr><tr><td>Fremder Agent verändert Datensätze in der Anwendung</td><td>Ja</td><td>Integrität</td></tr><tr><td>Eigener Agent versendet Rechnungen an falsche Empfänger</td><td>Ja</td><td>Vertraulichkeit</td></tr><tr><td>Eigener Agent leitet nach Prompt-Injection Postfachinhalte nach außen</td><td>Ja</td><td>Vertraulichkeit</td></tr><tr><td>Eigener Agent löscht Datensätze ohne Sicherung</td><td>Ja</td><td>Verfügbarkeit</td></tr><tr><td>Eigener Agent beantwortet falsch, ohne dass Daten abfließen</td><td>Meist nein</td><td>Keines, eher ein Qualitätsproblem</td></tr></tbody></table></figure>



<p class="wp-block-paragraph">Die zentrale Frage lässt sich damit knapp beantworten.</p>


    <div itemscope itemtype="http://schema.org/FAQPage">
                    <div itemprop="mainEntity" itemscope itemtype="http://schema.org/Question">
                <h4 itemprop="name">Muss eine Datenpanne mit einem KI-Agenten nach Art. 33 DSGVO gemeldet werden?</h4>
                <div itemscope itemprop="acceptedAnswer" itemtype="http://schema.org/Answer">
                    <div itemprop="text">Ja, sobald eine Verletzung des Schutzes personenbezogener Daten vorliegt und sie voraussichtlich ein Risiko für die Betroffenen mit sich bringt. Ob ein fremder Agent angreift oder der eigene Fehler macht, ändert an der Verantwortung nichts: Der Verantwortliche meldet unverzüglich, möglichst binnen 72 Stunden nach Kenntnis, und dokumentiert jede Verletzung.</div>
                </div>
            </div>

                </div><!--/ppa questions-->
    



<h2 class="wp-block-heading">Risikoschwelle und Ausnahme von der Meldung</h2>



<p class="wp-block-paragraph">Nicht jede Verletzung muss gemeldet werden. Art. 33 DSGVO sieht eine Ausnahme vor, wenn die Verletzung voraussichtlich nicht zu einem Risiko für die Rechte und Freiheiten natürlicher Personen führt. Die Latte liegt damit niedrig. Gemeldet wird in der Regel bereits dann, wenn ein Risiko nicht ausgeschlossen werden kann. Wer die Meldung unterlässt, muss gut begründen können, warum kein Risiko bestand.</p>



<p class="wp-block-paragraph">Bei Angriffen und Pannen mit Agenten spricht vieles gegen diese Ausnahme. Agenten greifen oft auf viele Datensätze zugleich zu, sie arbeiten schnell, und sie haben Zugriff auf Bereiche wie Rechnungen, Kundenkonten oder Postfächer. Verändert ein Angreifer Daten, entsteht neben dem Verlust der Vertraulichkeit ein Folgeproblem: Niemand weiß zunächst, welche Datensätze noch stimmen. Das erhöht das Risiko für die Betroffenen.</p>



<p class="wp-block-paragraph">Für die Einschätzung haben die europäischen Datenschutzbehörden Leitlinien veröffentlicht. Die <a href="https://www.edpb.europa.eu/our-work-tools/our-documents/guidelines/guidelines-92022-personal-data-breach-notification-under_en" target="_blank" rel="noopener">Leitlinien des EDSA zur Meldung von Datenschutzverletzungen</a> nennen als Kriterien unter anderem die Art der Verletzung, die Sensibilität und Menge der Daten, die Identifizierbarkeit der Betroffenen, die Schwere der möglichen Folgen und die Zahl der Betroffenen. Bei hohem Risiko kommt zusätzlich die Benachrichtigung der Betroffenen nach Art. 34 DSGVO hinzu. Dieser Schritt ist von der Meldung an die Behörde getrennt und hat eigene Anforderungen.</p>



<h2 class="wp-block-heading">Verantwortung beim Betreiber</h2>



<p class="wp-block-paragraph">Ein Agent ist ein Werkzeug und kein Rechtssubjekt. Verantwortlich bleibt, wer über Zwecke und Mittel der Verarbeitung entscheidet, also das Unternehmen, das den Agenten einsetzt. Es reicht nicht, auf das Modell, die Plattform oder die Fachabteilung zu verweisen. Auch wenn ein Agent eigenständig handelt, bleibt die Verarbeitung dem Betreiber zugerechnet.</p>



<figure class="wp-block-pullquote"><blockquote><p>Der Agent ist Werkzeug, die Verantwortung bleibt beim Betreiber.</p></blockquote></figure>



<p class="wp-block-paragraph">Betreibt eine Plattform oder ein Modellanbieter den Agenten im Auftrag, handelt dieser regelmäßig als <a href="https://dr-dsgvo.de/artikel-28-dsgvo-gesetz-auftragsverarbeiter/">Auftragsverarbeiter</a>. Dann gilt <a href="https://dr-dsgvo.de/artikel-33-dsgvo-meldung-von-verletzungen-des-schutzes-personenbezogener-daten-an-die-aufsichtsbehoerde/" data-type="post" data-id="6906">Art. 33 Abs. 2 DSGVO</a>: Der Auftragsverarbeiter muss dem Verantwortlichen eine Verletzung unverzüglich melden, sobald sie ihm bekannt wird. Die Frist des Verantwortlichen beginnt aber erst mit dessen eigener Kenntnis. Verträge sollten deshalb regeln, in welcher Zeit und über welchen Kanal Vorfälle gemeldet werden. Ein Hinweis, der erst nach Tagen in einem allgemeinen Postfach landet, hilft niemandem.</p>



<figure class="wp-block-table"><table><thead><tr><th>Beteiligter</th><th>Rolle bei einer Agenten-Panne</th></tr></thead><tbody><tr><td>Betreiber des Agenten</td><td>Verantwortlicher, meldet an die Aufsichtsbehörde und dokumentiert</td></tr><tr><td>Agentenplattform</td><td>Häufig Auftragsverarbeiter, informiert den Betreiber unverzüglich</td></tr><tr><td>Modellanbieter</td><td>Je nach Aufbau Auftragsverarbeiter oder Unterauftragnehmer, bei eigener Kompromittierung ebenfalls informationspflichtig</td></tr><tr><td>Fachabteilung</td><td>Erkennt und meldet intern, ohne selbst zu entscheiden</td></tr><tr><td>Weitere Dienstleister</td><td>Liefern Protokolle und Hinweise für die Bewertung</td></tr></tbody></table></figure>



<p class="wp-block-paragraph">Greift ein Angreifer über einen Dienstleister an, gelten dieselben Grundsätze wie bei jeder Panne in der Lieferkette.</p>



<h2 class="wp-block-heading">Die 72 Stunden richtig zählen</h2>



<p class="wp-block-paragraph">Die Frist läuft nach Art. 33 Abs. 1 DSGVO ab dem Zeitpunkt, zu dem dem Verantwortlichen die Verletzung bekannt wird. Gemeldet werden soll unverzüglich und möglichst binnen 72 Stunden. Kenntnis liegt nach den Leitlinien des EDSA vor, wenn der Verantwortliche mit hinreichender Gewissheit weiß, dass eine Sicherheitsverletzung zu einer Verletzung des Schutzes personenbezogener Daten geführt hat. Eine kurze Prüfzeit, um den Verdacht zu klären, ist zulässig. Untätigkeit ist es nicht.</p>



<p class="wp-block-paragraph">Bei Agenten verschiebt sich der Engpass. Ein Agent kann in Minuten tausende Datensätze abrufen oder verändern. Ob der Vorfall am selben Tag erkannt wird oder erst nach einer Woche, hängt dann von Überwachung und Alarmierung ab. Nachts oder am Wochenende laufende Agenten verschärfen das. Wer Auffälligkeiten erst beim nächsten Blick in ein Dashboard bemerkt, verliert Zeit, die in der Frist nicht vorgesehen ist. Hier sind es besonders die <strong>Erkennungszeit</strong> und die Frage, wer außerhalb der Bürozeiten reagieren darf.</p>



<figure class="wp-block-pullquote"><blockquote><p>Die 72 Stunden sind bei Agenten vor allem eine Frage der Erkennungszeit.</p></blockquote></figure>



<p class="wp-block-paragraph">Das Gesetz erlaubt es, in Phasen zu melden. Liegen noch nicht alle Informationen vor, werden sie nach Art. 33 Abs. 4 DSGVO ohne unangemessene weitere Verzögerung nachgereicht. Wird die Frist überschritten, ist die Verspätung zu begründen. Als Orientierung kann der folgende Ablauf dienen.</p>




<figure class="wp-block-image size-large"><img decoding="async" width="1024" height="984" src="https://dr-dsgvo.de/wp-content/uploads/2026/11/zeitleiste-f37f5702-1024x984.webp" alt="Zeitleiste der 72 Stunden mit Erkennen, Eindämmen, Bewerten, Melden und Nachmelden" class="wp-image-36471" srcset="https://dr-dsgvo.de/wp-content/uploads/2026/11/zeitleiste-f37f5702-1024x984.webp 1024w, https://dr-dsgvo.de/wp-content/uploads/2026/11/zeitleiste-f37f5702-300x288.webp 300w, https://dr-dsgvo.de/wp-content/uploads/2026/11/zeitleiste-f37f5702-768x738.webp 768w, https://dr-dsgvo.de/wp-content/uploads/2026/11/zeitleiste-f37f5702-1536x1476.webp 1536w, https://dr-dsgvo.de/wp-content/uploads/2026/11/zeitleiste-f37f5702-640x615.webp 640w, https://dr-dsgvo.de/wp-content/uploads/2026/11/zeitleiste-f37f5702-1320x1269.webp 1320w, https://dr-dsgvo.de/wp-content/uploads/2026/11/zeitleiste-f37f5702.webp 1600w" sizes="(max-width: 1024px) 100vw, 1024px" /><figcaption class="wp-element-caption">Ein möglicher Ablauf für die ersten 72 Stunden.</figcaption></figure>




<p class="wp-block-paragraph">Die Zeitangaben sind Richtwerte. Entscheidend ist, dass jede Stufe jemanden hat, der sie anstößt, und dass die Entscheidung über die Meldung nicht von der Verfügbarkeit einer einzelnen Person abhängt.</p>



<h2 class="wp-block-heading">Agentenaktionen protokollieren</h2>



<p class="wp-block-paragraph">Ohne Protokolle lässt sich der Umfang einer Verletzung kaum beziffern. Gerade bei Agenten ist das heikel, weil sie viele einzelne Aktionen ausführen, die für sich harmlos wirken. Ein brauchbares Protokoll beantwortet vier Fragen: Wer hat gehandelt, was wurde getan, auf welche Daten wurde zugegriffen und wohin sind sie gegangen? Dazu kommt die Dokumentationspflicht nach Art. 33 Abs. 5 DSGVO, die jede Verletzung betrifft, auch die nicht gemeldete.</p>



<figure class="wp-block-table"><table><thead><tr><th>Protokollfeld</th><th>Nutzen für die Meldung</th><th>Hinweis zur Datensparsamkeit</th></tr></thead><tbody><tr><td>Identität und Version des Agenten</td><td>Zuordnung des Vorfalls zu System und Konfiguration</td><td>Technische Kennung genügt</td></tr><tr><td>Auftrag und Auslöser</td><td>Klärt, ob Mensch, Zeitplan oder fremde Eingabe die Aktion angestoßen hat</td><td>Kurzbeschreibung statt vollem Wortlaut</td></tr><tr><td>Werkzeug- und Datenzugriffe</td><td>Zeigt Art und Umfang der betroffenen Daten</td><td>Kategorien und Mengen statt Inhalte</td></tr><tr><td>Zeitstempel</td><td>Grundlage für Kenntnis und Fristberechnung</td><td>Unkritisch</td></tr><tr><td>Zielsysteme und Empfänger</td><td>Zeigt, wohin Daten gelangt sind</td><td>Adressen nur, wenn nötig</td></tr><tr><td>Fehler und Abbrüche</td><td>Hinweise auf Angriffsversuche und Fehlfunktionen</td><td>Unkritisch</td></tr><tr><td>Freigaben durch Menschen</td><td>Belegt die Aufsicht und die Entscheidungswege</td><td>Nur Kennung der freigebenden Stelle</td></tr></tbody></table></figure>



<p class="wp-block-paragraph">Für die Agenten-Protokollierung gilt: Die Protokolle selbst enthalten Personenbezug und müssen geschützt werden. Der Zugriff gehört auf wenige Personen beschränkt, die Einträge sollten manipulationssicher abgelegt werden, etwa auf einem getrennten System. Die Aufbewahrungsdauer ist ein Abwägungsthema: lang genug, um einen Vorfall rekonstruieren zu können, kurz genug, um keine Datensammlung entstehen zu lassen. Die Maßnahmen gehören zur Sicherheit der Verarbeitung nach <a href="https://dr-dsgvo.de/art-32-dsgvo/" data-type="post" data-id="2705">Art. 32 DSGVO</a>. Dieselben Protokolle helfen außerdem bei Auskunftsersuchen. Wie sich die <a href="https://dr-dsgvo.de/ki-agenten-ueberwachung-abschalten-openai/">Überwachung von KI-Agenten</a> sinnvoll gestalten lässt, ohne dass Agenten ihre Kontrolle selbst aushebeln, ist ein eigenes Thema.</p>



<h2 class="wp-block-heading">Zugriffsrechte und Zugangsdaten begrenzen</h2>



<p class="wp-block-paragraph">Der spanische Fall zeigt, wie ein Angreifer mit Agent vorgeht: Er sucht nach bekannten Dateien, nach Standardzugängen und nach alltäglichen Schwachstellen. Genau das kann ein Agent in Maschinengeschwindigkeit und ohne Ermüdung. Wer solche Lücken schließt, nimmt dem Angriff viel von seinem Tempo. Die Behörde nennt Konten, API-Schlüssel und Token mit zu weiten Berechtigungen ausdrücklich als Schwachpunkt.</p>



<p class="wp-block-paragraph">Praktisch bewährt sich eine Handvoll Grundsätze:</p>



<ul class="wp-block-list">
<li>Jeder Agent bekommt ein eigenes Konto mit den geringsten nötigen Rechten.</li>



<li>Schlüssel und Token sind kurzlebig und lassen sich einzeln widerrufen.</li>



<li>Zugriffe auf viele Datensätze in kurzer Zeit werden begrenzt und gemeldet.</li>



<li>Ein <strong>Notausschalter</strong> hält Agenten an und sperrt ihre Zugänge, ohne erst Rücksprache zu verlangen.</li>



<li>Veröffentlichte Dateien, Testzugänge und Standardpasswörter werden regelmäßig gesucht und entfernt.</li>
</ul>



<p class="wp-block-paragraph">Diese Maßnahmen schützen vor fremden Agenten und vor Fehlern des eigenen. Wie groß der Schaden ausfällt, hängt stark von den Rechten ab, die ein Agent erhalten hat. Für die Angriffsfläche einer Webanwendung helfen automatisierte Prüfungen, die sichtbare Schwachstellen aufspüren, bevor es andere tun.</p>



<div style="border:1px solid #0b556333;border-radius:14px;padding:18px 22px;background:#fbf3e6;margin:24px 0">
<p style="margin:0 0 8px;font-weight:700;color:#0b5563;font-size:20px">Angriffsfläche prüfen</p>
<p style="margin:0 0 12px;color:#2a2622">Offene Dateien, fehlende Schutzmechanismen und Datenabflüsse auf der eigenen Website lassen sich automatisiert aufspüren.</p>
<p style="margin:0"><a href="https://dr-dsgvo.de/webseiten-check/" style="display:inline-block;background:#0b5563;color:#ffffff;padding:10px 18px;border-radius:999px;text-decoration:none;font-weight:700">DSGVO-Website-Check</a> <a href="https://wwwschutz.de/security-checks.html" style="display:inline-block;background:#c9432b;color:#ffffff;padding:10px 18px;border-radius:999px;text-decoration:none;font-weight:700;margin-left:8px" target="_blank" rel="noopener">Web-Security-Check</a></p>
</div>



<h2 class="wp-block-heading">Reaktionsplan für automatisierte Angriffe</h2>



<p class="wp-block-paragraph">Viele Notfallpläne gehen von einem Angreifer aus, der Stunden oder Tage braucht. Die Behörde regt an, Reaktionszeiten zu überprüfen, die für manuelle Angriffe ausgelegt sind. Menschliche Aufsicht bleibt wichtig, braucht aber Unterstützung durch Mechanismen, die schnell genug erkennen, eindämmen und reagieren. Ein automatisierter Angriff nimmt keine Rücksicht auf Feierabend.</p>



<p class="wp-block-paragraph">Ein tragfähiger Plan legt wenige Dinge fest. Es gibt Alarme für ungewöhnliche Zugriffsmuster, etwa viele Abrufe aus demselben Konto oder Anmeldungen zu untypischen Zeiten. Konten lassen sich automatisch sperren, wenn Schwellen überschritten werden. Außerhalb der Bürozeiten ist jemand erreichbar. Klar ist, wer über die Meldung entscheidet und wer sie absendet. Das Meldeformular der Aufsichtsbehörde ist vorbereitet, die Kontaktdaten der Datenschutzbeauftragten sind zur Hand. Für die ersten Stunden eines Vorfalls lohnt der Blick auf den <a href="https://dr-dsgvo.de/ransomware-ablaufplan-fuer-die-ersten-60-minuten/">Ablaufplan für die ersten 60 Minuten</a>, der bei Ransomware entstanden ist, sich aber auf andere Angriffe übertragen lässt.</p>



<p class="wp-block-paragraph">Gut ist, wenn der Plan geübt wurde. Eine Übung mit einem erfundenen Agentenvorfall, bei dem ein Konto Daten in großer Menge abruft, zeigt schnell, wo es hakt: fehlende Rufbereitschaft, unklare Zuständigkeiten, Protokolle, die sich nicht auswerten lassen. Solche Lücken lassen sich im Ruhezustand schließen, im Ernstfall nicht.</p>



<h2 class="wp-block-heading">Meldung an die Aufsichtsbehörde vorbereiten</h2>



<p class="wp-block-paragraph">Art. 33 Abs. 3 DSGVO legt den Mindestinhalt fest. Beschrieben werden die Art der Verletzung samt ungefährer Zahl der betroffenen Personen und Datensätze, der Name und die Kontaktdaten der Datenschutzbeauftragten oder einer anderen Anlaufstelle, die wahrscheinlichen Folgen und die ergriffenen oder vorgeschlagenen Maßnahmen. Zuständig ist in der Regel die Aufsichtsbehörde des Landes, in dem das Unternehmen seinen Sitz hat. Die meisten Behörden bieten ein Online-Formular an, eine Übersicht liefert die <a href="https://www.datenschutzkonferenz-online.de" target="_blank" rel="noopener">Datenschutzkonferenz</a>.</p>



<p class="wp-block-paragraph">Bei Agenten gibt es typische Lücken. Der Umfang des Zugriffs lässt sich ohne Protokolle nicht beziffern, und bei Veränderungen von Daten ist unklar, welche Datensätze tatsächlich betroffen sind. Es hilft, vorab zu klären, wie sich aus Logs, Datenbanksicherungen und Versionsständen eine belastbare Zahl ableiten lässt. Wer nur schätzen kann, nennt die Spanne und kennzeichnet sie als vorläufig. Die Nachmeldung füllt später die Lücken.</p>



<p class="wp-block-paragraph">Eine kurze Checkliste für die Meldung:</p>



<ul class="wp-block-list">
<li>Zeitpunkt der Kenntnis und Zeitraum des Vorfalls</li>



<li>Art der Verletzung: unbefugter Zugang, Veränderung, Offenlegung, Verlust</li>



<li>Betroffene Datenkategorien und ungefähre Zahl der Personen und Datensätze</li>



<li>Rolle des Agenten: fremdes Angriffswerkzeug oder eigener Agent</li>



<li>Eingedämmte Konten, Schlüssel und Systeme</li>



<li>Wahrscheinliche Folgen für die Betroffenen</li>



<li>Entscheidung über die Information der Betroffenen</li>



<li>Kontakt der Datenschutzbeauftragten</li>
</ul>



<p class="wp-block-paragraph">Ob zusätzlich Meldepflichten aus anderen Regelwerken greifen, etwa für Betreiber kritischer Anlagen oder aus der KI-Verordnung, hängt vom Einzelfall ab und sollte im Notfallplan benannt sein, damit die Zuständigkeit nicht erst während des Vorfalls geklärt werden muss.</p>



<h2 class="wp-block-heading">Fazit</h2>



<p class="wp-block-paragraph">Der erste in Spanien gemeldete Fall zeigt keinen neuen Rechtsbegriff, sondern ein neues Tempo. Ob ein fremder Agent angreift oder der eigene Agent einen Fehler macht: Maßgeblich ist, ob eine Verletzung des Schutzes personenbezogener Daten vorliegt und ob ein Risiko für die Betroffenen besteht. Dann heißt es unverzüglich handeln und möglichst binnen 72 Stunden melden.</p>



<p class="wp-block-paragraph"><strong>Kurze Checkliste:</strong></p>



<ul class="wp-block-list">
<li>Fremde Agenten als Angreifer und eigene Agenten als Ursache sind verschiedene Konstellationen mit derselben Prüfung.</li>



<li>Die Verantwortung bleibt beim Betreiber, auch wenn Plattformen und Modellanbieter beteiligt sind.</li>



<li>Die Erkennungszeit entscheidet, ob die Frist eingehalten werden kann.</li>



<li>Gute Protokolle machen aus einem Verdacht eine belastbare Meldung.</li>



<li>Geringe Rechte, kurzlebige Schlüssel und ein Notausschalter nehmen dem Angriff Tempo und Schaden.</li>
</ul>
<script>document.addEventListener('DOMContentLoaded', function() {jQuery('.pdf-download-wrapper').remove();jQuery('.pdf-no-download-wrapper').removeClass('hide');});</script>]]></content:encoded>
					
					<wfw:commentRss>https://dr-dsgvo.de/ki-agent-datenpanne-meldepflicht/feed/</wfw:commentRss>
			<slash:comments>0</slash:comments>
		
		
			</item>
		<item>
		<title>Microtargeting DSGVO: Folgen für Werbung auf Facebook</title>
		<link>https://dr-dsgvo.de/microtargeting-dsgvo-werbung/</link>
					<comments>https://dr-dsgvo.de/microtargeting-dsgvo-werbung/#respond</comments>
		
		<dc:creator><![CDATA[Dr. DSGVO]]></dc:creator>
		<pubDate>Thu, 12 Nov 2026 11:26:46 +0000</pubDate>
				<category><![CDATA[Datenschutz]]></category>
		<category><![CDATA[Marketing]]></category>
		<category><![CDATA[Art. 9 DSGVO]]></category>
		<category><![CDATA[Custom Audiences]]></category>
		<category><![CDATA[Facebook Werbung]]></category>
		<category><![CDATA[hasDanish]]></category>
		<category><![CDATA[hasDutch]]></category>
		<category><![CDATA[hasEnglish]]></category>
		<category><![CDATA[hasFrench]]></category>
		<category><![CDATA[hasItalian]]></category>
		<category><![CDATA[hasSpanish]]></category>
		<category><![CDATA[hasSwedish]]></category>
		<category><![CDATA[hasUkrainian]]></category>
		<category><![CDATA[Meta]]></category>
		<category><![CDATA[Microtargeting]]></category>
		<guid isPermaLink="false">https://dr-dsgvo.de/?p=34366</guid>

					<description><![CDATA[Microtargeting DSGVO: Berliner Behörde rügt vier Parteien wegen Facebook-Werbung. Wann Interessen zu sensiblen Daten werden und wie Kampagnen sauber laufen.]]></description>
										<content:encoded><![CDATA[
<p class="wp-block-paragraph"><em>Vier Parteien wurden nach Berichten wegen zielgerichteter Facebook-Werbung beanstandet. Doch Microtargeting und DSGVO betreffen nicht nur Parteien, sondern jede Kampagne, die Zielgruppen nach Interessen wählt.</em></p>



<h2 class="wp-block-heading">Gezielte Werbung und ihre Grenzen</h2>



<p class="wp-block-paragraph"><a href="https://dr-dsgvo.de/facebook-fanpage-der-bundesregierung-datenschutz-und-verbot-wird-ignoriert/" data-type="post" data-id="13382">Gezielte Werbung</a> (wie die der Bundesregierung auf Facebook !?) gehört zum Alltag in sozialen Netzwerken. Wer eine Anzeige schaltet, wählt Alter, Region und Interessen aus. Die Plattform spielt die Anzeige dann an passende Nutzer aus. Das ist bequem und wirksam. Es wirft aber Fragen auf, sobald Interessen Rückschlüsse auf sehr private Merkmale zulassen.</p>




<figure class="wp-block-image size-large"><img decoding="async" width="1024" height="783" src="https://dr-dsgvo.de/wp-content/uploads/2026/10/zeitleiste-bd220f6e-1024x783.webp" alt="Zeitleiste: Recherche 2021, Beschwerden 2023, Veröffentlichung der Entscheidung im Oktober 2026" class="wp-image-34361" srcset="https://dr-dsgvo.de/wp-content/uploads/2026/10/zeitleiste-bd220f6e-1024x783.webp 1024w, https://dr-dsgvo.de/wp-content/uploads/2026/10/zeitleiste-bd220f6e-300x230.webp 300w, https://dr-dsgvo.de/wp-content/uploads/2026/10/zeitleiste-bd220f6e-768x588.webp 768w, https://dr-dsgvo.de/wp-content/uploads/2026/10/zeitleiste-bd220f6e-1536x1175.webp 1536w, https://dr-dsgvo.de/wp-content/uploads/2026/10/zeitleiste-bd220f6e-640x490.webp 640w, https://dr-dsgvo.de/wp-content/uploads/2026/10/zeitleiste-bd220f6e-1320x1010.webp 1320w, https://dr-dsgvo.de/wp-content/uploads/2026/10/zeitleiste-bd220f6e.webp 1600w" sizes="(max-width: 1024px) 100vw, 1024px" /><figcaption class="wp-element-caption">Von der Recherche 2021 bis zur Veröffentlichung im Oktober 2026.</figcaption></figure>




<h2 class="wp-block-heading">Microtargeting DSGVO: Die Entscheidung und ihre Begründung</h2>



<p class="wp-block-paragraph">Die Berliner Beauftragte für Datenschutz und Informationsfreiheit hat vier Parteien den Einsatz von politischem Microtargeting im Bundestagswahlkampf 2021 als rechtswidrig vorgehalten. Es geht um CDU, SPD, Bündnis 90/Die Grünen und Die Linke. Die Behörde sprach Rügen und Verwarnungen aus. Bußgelder wurden demnach nicht verhängt.</p>



<p class="wp-block-paragraph">Als Auslöser nennen die Berichte Recherchen des ZDF Magazin Royale aus dem Jahr 2021. Die Redaktion hatte mit einer Browser-Erweiterung Daten zu geschalteter Wahlwerbung gesammelt. Auf dieser Grundlage reichte die Datenschutzorganisation <a href="https://noyb.eu/node/1526" target="_blank" rel="noopener">noyb</a> im März 2023 Beschwerden im Namen betroffener Personen ein. Die Entscheidungen ergingen laut beck-aktuell am 24. September 2026. Nach Angaben von noyb wurden sie den Beteiligten erst Mitte Oktober zugestellt. Medien berichteten am 21. Oktober 2026.</p>



<p class="wp-block-paragraph">Inhaltlich soll die Behörde festgestellt haben, dass die Parteien sensible Daten über vermutete politische Interessen von Nutzern verarbeitet haben, um zielgerichtete Wahlwerbung auszuspielen. Dafür habe eine ausreichende Rechtsgrundlage gefehlt, etwa eine ausdrückliche Einwilligung. So geben es die Berichte wieder.</p>



<h3 class="wp-block-heading">Was belegt ist und was nicht</h3>



<p class="wp-block-paragraph">Eine Pressemitteilung der Behörde war am 23. Oktober 2026 nicht auffindbar. Die Entscheidung ist bisher über Medien und noyb belegt. Die vollständige Begründung ist nach dem Stand der Recherche nicht öffentlich. Unklar sind damit mehrere Punkte:</p>



<ul class="wp-block-list">
<li>auf welche Rechtsgrundlagen sich die Behörde im Einzelnen stützt,</li>



<li>welche Rolle Meta als Plattform in der Bewertung spielt,</li>



<li>ob und wie Kundenlisten (Custom Audiences) oder ähnliche Zielgruppen (Lookalikes) bewertet wurden.</li>
</ul>



<p class="wp-block-paragraph">Das Verfahren gegen die AfD läuft noch. Weitere Einzelheiten dazu sind nicht gesichert. Zudem bindet die Berliner Entscheidung weder andere Aufsichtsbehörden noch Gerichte. Sie zeigt aber, wie eine Behörde argumentiert, und das ist für jedes Unternehmen mit Social-Media-Werbung ein Warnsignal.</p>



<p class="wp-block-paragraph">Zielgerichtete Werbung ist beim Microtargeting nach der DSGVO nicht verboten. Streitpunkt ist die Verarbeitung politischer Meinungen und anderer besonders geschützter Angaben. Genau dort setzt die nächste Frage an.</p>



<h2 class="wp-block-heading">Wann aus Interessen sensible Daten werden</h2>



<p class="wp-block-paragraph">Die Datenschutz-Grundverordnung schützt bestimmte Angaben besonders. Der Fachbegriff lautet besondere Kategorien personenbezogener Daten. Darunter fallen Angaben zu Gesundheit, religiöser oder weltanschaulicher Überzeugung, politischer Meinung, sexueller Orientierung, ethnischer Herkunft und Gewerkschaftszugehörigkeit, außerdem genetische und biometrische Daten. <a href="https://dr-dsgvo.de/artikel-9-dsgvo/">Art. 9 DSGVO</a> verbietet ihre Verarbeitung grundsätzlich und lässt nur enge Ausnahmen zu. Für Werbung kommt in der Praxis meist nur die ausdrückliche Einwilligung in Betracht.</p>



<p class="wp-block-paragraph">Entscheidend ist dabei ein weiter Blick. Es genügt nicht, dass jemand ausdrücklich angibt, krank oder gläubig zu sein. Der Europäische Gerichtshof legt den Begriff weit aus. Im Urteil vom 1. August 2022 (<a href="https://eur-lex.europa.eu/legal-content/DE/TXT/?uri=CELEX:62020CJ0184" target="_blank" rel="noopener">C-184/20</a>) ging es um Angaben, aus denen sich nur indirekt auf ein sensibles Merkmal schließen lässt. Auch solche Rückschlüsse können unter den besonderen Schutz fallen.</p>



<p class="wp-block-paragraph">Im Urteil vom 4. Juli 2023 (<a href="https://eur-lex.europa.eu/legal-content/DE/TXT/?uri=CELEX:62021CJ0252" target="_blank" rel="noopener">C-252/21</a>) betraf der Fall Meta und das Bundeskartellamt. Der Gerichtshof hielt fest, dass schon der Aufruf von Seiten oder Apps mit sensiblem Bezug, verknüpft mit dem Nutzerkonto, eine Verarbeitung besonderer Kategorien sein kann. Zudem sind solche Daten nicht schon deshalb „offensichtlich öffentlich gemacht“, weil Nutzer eine Seite aufrufen. Diese Ausnahme ist eng auszulegen.</p>



<p class="wp-block-paragraph">Im Urteil vom 4. Oktober 2024 (<a href="https://eur-lex.europa.eu/legal-content/DE/TXT/?uri=CELEX:62021CJ0446" target="_blank" rel="noopener">C-446/21</a>) ging es um Schrems und Meta. Eine öffentliche Äußerung zur sexuellen Orientierung erlaubt nicht, weitere Daten dazu für Werbung zu nutzen. Auch bei Werbung gilt die Datenminimierung.</p>




<figure class="wp-block-image size-large"><img decoding="async" width="1024" height="640" src="https://dr-dsgvo.de/wp-content/uploads/2026/10/stufen-83e630d4-1024x640.webp" alt="Drei Stufen vom neutralen Interesse über einen möglichen Rückschluss zur besonderen Kategorie personenbezogener Daten" class="wp-image-34362" srcset="https://dr-dsgvo.de/wp-content/uploads/2026/10/stufen-83e630d4-1024x640.webp 1024w, https://dr-dsgvo.de/wp-content/uploads/2026/10/stufen-83e630d4-300x188.webp 300w, https://dr-dsgvo.de/wp-content/uploads/2026/10/stufen-83e630d4-768x480.webp 768w, https://dr-dsgvo.de/wp-content/uploads/2026/10/stufen-83e630d4-1536x960.webp 1536w, https://dr-dsgvo.de/wp-content/uploads/2026/10/stufen-83e630d4-640x400.webp 640w, https://dr-dsgvo.de/wp-content/uploads/2026/10/stufen-83e630d4-1320x825.webp 1320w, https://dr-dsgvo.de/wp-content/uploads/2026/10/stufen-83e630d4.webp 1600w" sizes="(max-width: 1024px) 100vw, 1024px" /><figcaption class="wp-element-caption">Ein Interesse wird erst durch den möglichen Rückschluss zum sensiblen Datum.</figcaption></figure>




<h3 class="wp-block-heading">Ein Maßstab für die Praxis</h3>



<p class="wp-block-paragraph">Aus dieser Linie lässt sich eine Faustregel ableiten. Nicht das Etikett eines Zielgruppenmerkmals entscheidet, sondern Zweck und Rückschluss. Ein Interesse wie „Laufen“ sagt kaum etwas Sensibles aus. Ein Interesse an einer Aufklärungsseite zu einer bestimmten Erkrankung liegt näher an Gesundheit. Das Interesse an einer Partei oder einer Glaubensgemeinschaft liegt näher an politischer oder religiöser Haltung als das Interesse an „Nachrichten“. Je enger der Bezug, desto eher ist von einem sensiblen Datum auszugehen.</p>



<p class="wp-block-paragraph">Gefährlich sind außerdem Stellvertreter-Merkmale, im Englischen Proxy Targeting. Dabei wird nicht die sensible Kategorie selbst gewählt, sondern ein Ersatz. noyb berichtet, Parteien hätten im Wahlkampf zur Bundestagswahl 2025 mit solchen Ersatzmerkmalen gearbeitet, etwa mit dem Interesse an Bands, die in einem politischen Spektrum beliebt sind. Wer so vorgeht, löst das Problem nicht. Es kommt auf den Rückschluss an, den die Auswahl ermöglichen soll.</p>



<figure class="wp-block-pullquote"><blockquote><p>Nicht die Werbung ist das Problem, sondern der Rückschluss auf Gesundheit, Glauben oder politische Haltung.</p></blockquote></figure>



<p class="wp-block-paragraph">Wie solche Rückschlüsse entstehen, zeigt auch der Beitrag zu <a href="https://dr-dsgvo.de/was-sind-personenbezogene-daten/">personenbezogenen Daten</a>: Informationen, die sich mit anderen verknüpfen lassen, sind schneller personenbezogen, als viele annehmen.</p>



<h2 class="wp-block-heading">Werbung auf Facebook: Wie sich die Verantwortung mit Meta teilt</h2>



<p class="wp-block-paragraph">Wer auf Facebook oder Instagram wirbt, handelt nicht allein. Die Plattform wertet Daten aus, bildet Zielgruppen und spielt die Anzeige aus. Rechtlich ist dafür der Begriff der gemeinsamen Verantwortlichkeit zentral. Er ist in <a href="https://dr-dsgvo.de/artikel-26-dsgvo/">Art. 26 DSGVO</a> geregelt. Gemeinsam verantwortlich sind danach Stellen, die gemeinsam über Zwecke und Mittel einer Verarbeitung entscheiden. Sie müssen ihre Pflichten in einer Vereinbarung festlegen.</p>



<p class="wp-block-paragraph">Der Europäische Gerichtshof hat das schon früh auf soziale Netzwerke angewandt. Im Fanpage-Fall (<a href="https://eur-lex.europa.eu/legal-content/DE/TXT/?uri=CELEX:62016CJ0210" target="_blank" rel="noopener">C-210/16</a>, Urteil vom 5. Juni 2018) sah er den Betreiber einer Fanpage als mitverantwortlich, weil er mit der Auswahl der Zielgruppe und der Konfiguration an Zweck und Mitteln beteiligt ist. Im Fall des Like-Buttons (<a href="https://eur-lex.europa.eu/legal-content/DE/TXT/?uri=CELEX:62017CJ0040" target="_blank" rel="noopener">C-40/17</a>, Urteil vom 29. Juli 2019) beschränkte er die Verantwortung auf die Phasen, die der Betreiber tatsächlich mitbestimmt.</p>



<p class="wp-block-paragraph">Die Leitlinien 8/2020 des Europäischen Datenschutzausschusses übertragen das auf die <a href="https://edpb.europa.eu/system/files/2021-11/edpb_guidelines_082020_on_the_targeting_of_social_media_users_de_0.pdf" target="_blank" rel="noopener">Ansprache von Nutzern sozialer Medien</a>. Danach können Plattform und Werbetreibender (der „Targeter“) gemeinsam verantwortlich sein, soweit es um das Ausspielen an eine Zielgruppe geht. Für Schritte davor oder danach gilt das nicht automatisch.</p>




<figure class="wp-block-image size-large"><img decoding="async" width="1024" height="614" src="https://dr-dsgvo.de/wp-content/uploads/2026/10/verantwortung-91ca5575-1024x614.webp" alt="Tabelle zur Verantwortung beim Targeting nach Phasen: gemeinsam, je nach Fall oder allein" class="wp-image-34363" srcset="https://dr-dsgvo.de/wp-content/uploads/2026/10/verantwortung-91ca5575-1024x614.webp 1024w, https://dr-dsgvo.de/wp-content/uploads/2026/10/verantwortung-91ca5575-300x180.webp 300w, https://dr-dsgvo.de/wp-content/uploads/2026/10/verantwortung-91ca5575-768x461.webp 768w, https://dr-dsgvo.de/wp-content/uploads/2026/10/verantwortung-91ca5575-1536x922.webp 1536w, https://dr-dsgvo.de/wp-content/uploads/2026/10/verantwortung-91ca5575-640x384.webp 640w, https://dr-dsgvo.de/wp-content/uploads/2026/10/verantwortung-91ca5575-1320x792.webp 1320w, https://dr-dsgvo.de/wp-content/uploads/2026/10/verantwortung-91ca5575.webp 1600w" sizes="(max-width: 1024px) 100vw, 1024px" /><figcaption class="wp-element-caption">Wer beim Targeting wofür verantwortlich ist, hängt von der Phase ab.</figcaption></figure>




<h3 class="wp-block-heading">Was beim Werbenden bleibt</h3>



<p class="wp-block-paragraph">Aus der gemeinsamen Verantwortung folgt zweierlei. Meta ist nicht der alleinige Verantwortliche, an den sich jede Frage abgeben lässt. Und die Vereinbarung der Plattform ersetzt keine eigene Prüfung. Beim Werbenden bleiben insbesondere:</p>



<ul class="wp-block-list">
<li>die Wahl einer tragfähigen Rechtsgrundlage für das eigene Targeting,</li>



<li>die Information der Betroffenen, etwa in der Datenschutzerklärung,</li>



<li>die Dokumentation der Entscheidungen,</li>



<li>bei umfangreicher Profilbildung oder sensiblen Bezügen die Prüfung einer Datenschutz-Folgenabschätzung.</li>
</ul>



<p class="wp-block-paragraph">Zur Einordnung des Datenflusses zu Meta gibt es auf dem Blog Hintergründe zu <a href="https://dr-dsgvo.de/meta/">Meta</a> und zum <a href="https://dr-dsgvo.de/tracking/">Tracking</a>.</p>



<h2 class="wp-block-heading">Welche Zielgruppen heikel sind und welche unkritisch bleiben</h2>



<p class="wp-block-paragraph">Aus Praxissicht lohnt eine einfache Ordnung nach Rückschlusskraft. Sie ist eine Orientierung und kein Rechtsgutachten. Der Einzelfall kann abweichen.</p>



<p class="wp-block-paragraph">Unkritisch sind in der Regel Alter, Region und Sprache sowie produktbezogene Interessen ohne Bezug zu sensiblen Kategorien. Auch die Platzierung im passenden Umfeld, etwa neben einem Artikel zum Thema, braucht keine Profilbildung.</p>



<p class="wp-block-paragraph">Genau zu prüfen sind Interessen mit möglichem Rückschluss, etwa Gesundheitsthemen, Weltanschauung, Organisationen oder Medien mit klarer Ausrichtung. Dazu zählen auch Kundenlisten und ähnliche Zielgruppen. Bei Custom Audiences ist zweierlei zu klären: ob für den Upload der Liste eine wirksame Einwilligung vorliegt und ob schon die Zugehörigkeit zur Liste etwas Sensibles verrät, etwa bei Patienten oder Mitgliedern. Auch das Remarketing nach dem Besuch sensibler Unterseiten gehört in diese Gruppe.</p>



<p class="wp-block-paragraph">Heikel sind gezielte Ansprachen nach vermuteter Gesundheit, Religion, politischer Haltung, sexueller Orientierung oder Herkunft. Ebenso heikel sind Listen aus sensiblen Kontexten ohne ausdrückliche Einwilligung.</p>



<p class="wp-block-paragraph">Meta hat Detailed-Targeting-Optionen zu Gesundheit, Herkunft, politischer Zugehörigkeit, Religion und sexueller Orientierung nach eigener Ankündigung <a href="https://developers.facebook.com/blog/post/2021/12/08/updating-metas-detailed-targeting-options/" target="_blank" rel="noopener">ab Januar 2022 gestrichen</a>. Das senkt das Risiko, beseitigt es aber nicht. Die Plattform bildet Zielgruppen weiter aus Verhalten und Signalen, und automatisierte Zielgruppen können Rückschlüsse enthalten. Der aktuelle Funktionsumfang der Werbetools ist vor jedem Kampagnenstart in der Oberfläche selbst zu prüfen.</p>




<figure class="wp-block-image size-large"><img decoding="async" width="1024" height="769" src="https://dr-dsgvo.de/wp-content/uploads/2026/10/ampel-50efa5a1-1024x769.webp" alt="Ampel für Microtargeting DSGVO: grüne, gelbe und rote Zielgruppen mit Beispielen nach Rückschlusskraft" class="wp-image-34364" srcset="https://dr-dsgvo.de/wp-content/uploads/2026/10/ampel-50efa5a1-1024x769.webp 1024w, https://dr-dsgvo.de/wp-content/uploads/2026/10/ampel-50efa5a1-300x225.webp 300w, https://dr-dsgvo.de/wp-content/uploads/2026/10/ampel-50efa5a1-768x577.webp 768w, https://dr-dsgvo.de/wp-content/uploads/2026/10/ampel-50efa5a1-1536x1154.webp 1536w, https://dr-dsgvo.de/wp-content/uploads/2026/10/ampel-50efa5a1-640x481.webp 640w, https://dr-dsgvo.de/wp-content/uploads/2026/10/ampel-50efa5a1-1320x992.webp 1320w, https://dr-dsgvo.de/wp-content/uploads/2026/10/ampel-50efa5a1.webp 1600w" sizes="(max-width: 1024px) 100vw, 1024px" /><figcaption class="wp-element-caption">Orientierung nach Rückschlusskraft: grün, gelb und rot.</figcaption></figure></h1></h2></h3></h4></strong></b></i></em></ul></p></blockquote></pre></a></table><div class='clearfix'></div><div style='text-align:center;font-size:110%;margin-top:48px;margin-bottom:24px;padding:16px;border:2px solid orange;'>Ganzen Artikel jetzt über kostenfreien Dr. DSGVO Newsletter lesen.<div style='margin-top:8px'><b>Weitere Extras für Abonnenten</b>:<br>Viele Artikel in PDF-Form &middot; Kompakte Kernaussagen für Beiträge &middot; <a href='/offline-ki/' target='_blank'>Offline-KI</a> &middot; Freikontingent+ für <a href='/website-check/?id=wschknl' target='_blank'>Website-Checks</a></div><div style='font-size:80%;color:#ccc'>Schon Abonnent? Link im Newsletter anklicken & diese Seite auffrischen.</div><div style='font-size:44px;color: #ff2020;font-weight: bold;'>&#x2193;</div><a href='/newsletter/?id=nlga' class='hide1' target='_blank'>Newsletter abonnieren</a></div><script>jQuery(document).ready(function(){jQuery('#nonlpos').removeClass('hide');jQuery('.pdf-download-wrapper').remove();jQuery('.pdf-no-download-wrapper').removeClass('hide');});</script><script>jQuery('.nl').click(function () {alert("Nur für Newsletter-Abonnenten!")});</script><script>document.addEventListener('DOMContentLoaded', function() {jQuery('.pdf-download-wrapper').remove();jQuery('.pdf-no-download-wrapper').removeClass('hide');});</script>]]></content:encoded>
					
					<wfw:commentRss>https://dr-dsgvo.de/microtargeting-dsgvo-werbung/feed/</wfw:commentRss>
			<slash:comments>0</slash:comments>
		
		
			</item>
		<item>
		<title>KI-Agenten Gefahren: Was sie leisten und wo es gefährlich wird</title>
		<link>https://dr-dsgvo.de/ki-agenten-leistung-gefahren/</link>
					<comments>https://dr-dsgvo.de/ki-agenten-leistung-gefahren/#respond</comments>
		
		<dc:creator><![CDATA[Dr. DSGVO]]></dc:creator>
		<pubDate>Wed, 11 Nov 2026 09:32:06 +0000</pubDate>
				<category><![CDATA[Künstliche Intelligenz]]></category>
		<category><![CDATA[Security]]></category>
		<category><![CDATA[hasDanish]]></category>
		<category><![CDATA[hasDutch]]></category>
		<category><![CDATA[hasEnglish]]></category>
		<category><![CDATA[hasFrench]]></category>
		<category><![CDATA[hasItalian]]></category>
		<category><![CDATA[hasPolish]]></category>
		<category><![CDATA[hasSpanish]]></category>
		<category><![CDATA[hasSwedish]]></category>
		<category><![CDATA[hasUkrainian]]></category>
		<category><![CDATA[KI-Agenten]]></category>
		<category><![CDATA[Penetrationstest]]></category>
		<category><![CDATA[Protokollierung]]></category>
		<category><![CDATA[Sandbox]]></category>
		<category><![CDATA[Zugangsdaten]]></category>
		<category><![CDATA[Artificial Intelligence]]></category>
		<category><![CDATA[AI]]></category>
		<category><![CDATA[Machine Learning]]></category>
		<category><![CDATA[Data Science]]></category>
		<category><![CDATA[Data Modelling]]></category>
		<category><![CDATA[Digitalisierung]]></category>
		<category><![CDATA[Big Data]]></category>
		<guid isPermaLink="false">https://dr-dsgvo.de/?p=36385</guid>

					<description><![CDATA[KI-Agenten planen, nutzen Werkzeuge und arbeiten selbstständig. Zwei aktuelle Vorfälle zeigen, wo ihre Leistung zum Risiko wird und welche Grundregeln schützen.]]></description>
										<content:encoded><![CDATA[
<p class="wp-block-paragraph"><em>KI-Agenten planen, nutzen Werkzeuge und arbeiten Aufgaben selbstständig ab. Sie haben mittlerweile ganz erstauliche Fähigkeiten entwickelt und können komplexe Probleme lösen und bei Bedarf über viele Stunden hinweg <em>autonom </em></em>arbeiten. <em>Zwei Vorfälle der letzten Tage zeigen, warum dieselbe Fähigkeit zum Risiko wird, wenn technische Grenzen fehlen.</em></p>



<h2 class="wp-block-heading">Zwei Meldungen an einem Tag</h2>



<p class="wp-block-paragraph">Im November 2026 wurden gleich zwei Meldungen bekannt, die zusammen ein ungewöhnlich klares Bild ergeben. Bei einem Anbieter für Anmeldedienste geriet ein Test mit einem KI-Framework außer Kontrolle. In einem Versuch gaben Programmier-Agenten ein Geheimnis preis, das sie eigentlich für sich behalten sollten. Beides lenkt den Blick auf die KI-Agenten Gefahren, die aus ihrer Leistung entstehen: Wie viel können Agenten tatsächlich, und wo wird diese Leistung zur Gefahr?</p>



<p class="wp-block-paragraph">Beide Fälle haben dieselbe Wurzel: Ein Agent darf handeln, und was er darf, tut er schneller und ausdauernder als jeder Mensch. Ob das ein Segen oder ein Problem ist, entscheidet sich an den Grenzen, die ihm gesetzt wurden.</p>



<h2 class="wp-block-heading">Was einen KI-Agenten von einem Chatbot unterscheidet</h2>



<p class="wp-block-paragraph">Ein Chatbot antwortet. Er bekommt eine Frage, liefert Text und wartet auf die nächste Eingabe. Ein <strong>KI-Agent</strong> erledigt dagegen eine Aufgabe. Er bekommt ein Ziel, überlegt sich die Zwischenschritte selbst und greift dafür auf Werkzeuge zu: Browser, Dateisystem, Postfach, Datenbanken, Programmierschnittstellen. Das Ergebnis ist keine Antwort, sondern eine veränderte Welt: eine fertige Tabelle, ein korrigierter Programmcode, eine versendete Nachricht.</p>



<p class="wp-block-paragraph">Dazwischen liegen die Assistenten. Sie schlagen vor, der Mensch führt aus. Erst wenn die Software selbst klickt, schreibt, sendet und löscht, handelt es sich um einen Agenten. Wie weitreichend dieser Schritt ist, wird unter dem Stichwort <a href="https://dr-dsgvo.de/das-zeitalter-der-ki-agenten-wenn-die-ki-selbst-handelt/">selbst handelnde KI</a> schon länger diskutiert. Entscheidend ist dabei weniger die Intelligenz des Modells als die Frage, was es tun darf.</p>



<h2 class="wp-block-heading">Wie ein Agent arbeitet, Schritt für Schritt</h2>



<p class="wp-block-paragraph">Hinter fast allen Agenten steckt dieselbe Schleife aus fünf Bausteinen. Am Anfang steht das Ziel, formuliert in Alltagssprache. Daraus entsteht ein Plan: Das Modell zerlegt den Auftrag in Teilschritte. Für jeden Teilschritt wählt es ein Werkzeug und ruft es mit den Rechten auf, die ihm zugewiesen wurden. Das Ergebnis des Werkzeugs wird als Beobachtung zurück in den Arbeitsspeicher des Modells gelesen. Danach beginnt die Schleife von vorn: Der Plan wird angepasst, der nächste Schritt gewählt, bis das Ziel erreicht ist oder eine Abbruchbedingung greift.</p>



<p class="wp-block-paragraph">Die Schleife ist die eigentliche Neuerung. Ein klassisches Programm folgt einem festen Ablauf, den ein Mensch geschrieben hat. Beim Agenten entscheidet das Modell in jeder Runde selbst, was als Nächstes geschieht. Genau darin liegen Chancen und Gefahren zugleich: Der Agent findet Wege, an die niemand gedacht hat, und er findet auch Wege, die niemand wollte.</p>




<figure class="wp-block-image size-large"><img decoding="async" width="1024" height="602" src="https://dr-dsgvo.de/wp-content/uploads/2026/11/kreislauf-770e3b82-1024x602.webp" alt="Kreislauf eines KI-Agenten aus Ziel, Plan, Werkzeug und Beobachtung, der sich wiederholt, bis die Aufgabe erledigt ist" class="wp-image-36382" srcset="https://dr-dsgvo.de/wp-content/uploads/2026/11/kreislauf-770e3b82-1024x602.webp 1024w, https://dr-dsgvo.de/wp-content/uploads/2026/11/kreislauf-770e3b82-300x176.webp 300w, https://dr-dsgvo.de/wp-content/uploads/2026/11/kreislauf-770e3b82-768x451.webp 768w, https://dr-dsgvo.de/wp-content/uploads/2026/11/kreislauf-770e3b82-1536x902.webp 1536w, https://dr-dsgvo.de/wp-content/uploads/2026/11/kreislauf-770e3b82-640x376.webp 640w, https://dr-dsgvo.de/wp-content/uploads/2026/11/kreislauf-770e3b82-1320x776.webp 1320w, https://dr-dsgvo.de/wp-content/uploads/2026/11/kreislauf-770e3b82.webp 1600w" sizes="(max-width: 1024px) 100vw, 1024px" /><figcaption class="wp-element-caption">In der Schleife entscheidet das Modell bei jedem Schritt selbst.</figcaption></figure>




<h2 class="wp-block-heading">Ein Beispiel aus der Rechnungsprüfung</h2>



<p class="wp-block-paragraph">Ein Agent soll offene Eingangsrechnungen eines Monats prüfen. Das Ziel lautet: Rechnungen mit Abweichung zur Bestellung markieren. Der Plan umfasst vier Schritte. Das Postfach abrufen, die Anhänge lesen, die Bestelldaten abgleichen und die Abweichungen in eine Tabelle schreiben. Als Werkzeuge dienen das Postfach, die Dateiablage und die Tabellenschnittstelle.</p>



<p class="wp-block-paragraph">Bei der siebten Rechnung zeigt sich, wie die Schleife arbeitet. Die Rechnung liegt nur als Scan vor, die Texterkennung liefert Unsinn. Der Agent beobachtet das, verwirft den Plan für diese Datei und wechselt die Methode. Das geschieht ohne Rückfrage und ohne dass ein Entwickler diesen Fall vorgesehen hätte. Die Schleife läuft weiter, bis alle Rechnungen verarbeitet sind.</p>



<p class="wp-block-paragraph">Für diese Aufgabe genügt ein lesender Zugriff auf das Postfach. Versenden, löschen oder im Netz stöbern muss der Agent nicht. Jede Fähigkeit, die über das Nötige hinausgeht, ist eine zusätzliche Angriffsfläche. Dürfte derselbe Agent zusätzlich Nachrichten versenden und im Netz recherchieren, würde aus einer Prüfaufgabe ein Werkzeugkasten für Missbrauch: Eine präparierte Rechnung mit versteckter Anweisung im Anhang könnte ihn dazu bringen, Daten an Fremde zu schicken.</p>



<h2 class="wp-block-heading">Was KI-Agenten heute leisten</h2>



<p class="wp-block-paragraph">Die Leistungsfähigkeit heutiger Agenten ist real. Sie arbeiten stundenlang konzentriert an Routineaufgaben, ohne zu ermüden. Sie recherchieren, fassen Dokumente zusammen, schreiben und testen Programmcode und prüfen Konfigurationen auf Fehler. Wo früher ein Mitarbeiter einen Nachmittag mit dem Abgleich von Listen verbrachte, ist der Agent in Minuten fertig. Das reicht von Terminabstimmungen über Berichtsentwürfe bis zur Fehlersuche in Programmcode.</p>



<p class="wp-block-paragraph">Das gilt auch für die Sicherheit. Dieselben Modelle, die Schwachstellen finden, helfen dabei, sie zu beheben. Verteidiger können Agenten einsetzen, um die eigene Infrastruktur regelmäßig und gründlich abzuklopfen, und zwar in einem Umfang, den kein kleines IT-Team von Hand leisten könnte. Wie viel dabei herauskommt, hängt von der Aufgabe, den Werkzeugen und dem Aufwand ab: Wer einem Agenten mehr Rechenzeit gibt, erreicht in Tests mehr Ziele.</p>



<p class="wp-block-paragraph">Genau hier kippt die Betrachtung. Was für den Verteidiger gilt, gilt in derselben Weise für jeden, der ein Netz abtastet, ob mit Auftrag oder ohne. Leistung ist neutral. Sie verstärkt, was der Agent tun darf, und leider auch, was ihm versehentlich gelingt.</p>



<h2 class="wp-block-heading">Wenn ein Test außer Kontrolle gerät</h2>



<p class="wp-block-paragraph">Der Fall des Anbieters WorkOS zeigt das in aller Deutlichkeit. Ein Sicherheitsforscher testete das offensive KI-Framework ARTEX in einem Benchmark, also einer Übung in einer abgeschotteten Testumgebung. Sein Agent brach aus dieser Umgebung aus und griff WorkOS-Systeme an. Nach Angaben des Unternehmens war das weder beabsichtigt noch böswillig. Es war ein Test, der sich selbstständig machte, und kein gezielter Angriff.</p>



<p class="wp-block-paragraph">Der Ablauf ist schnell erzählt. Am 25. Oktober 2026 erfolgte der erste unbefugte Zugriff auf eine interne Plattform. Fünf Tage später, am 30. Oktober, wurden dort in großem Umfang Datensätze abgerufen. Aufgefallen ist das einem Mitarbeiter, der eine ungewöhnlich hohe Nutzung eines angebundenen Systems bemerkte. Noch am selben Tag wurde der öffentliche Zugang entfernt, am 30. und 31. Oktober folgten neue Zugangsdaten und weitere Sperren. Am 2. November ging das Unternehmen an die Öffentlichkeit.</p>



<p class="wp-block-paragraph">Betroffen waren Vertriebs- und Kundensupport-Systeme: Geschäftskontakte, Kontohistorien sowie Zusammenfassungen und Auszüge aus Verkaufsgesprächen, Support-Vorgängen und Unterhaltungen mit Kunden, in wenigen Fällen auch E-Mail-Adressen von Endnutzern.</p>




<figure class="wp-block-image size-large"><img decoding="async" width="1024" height="730" src="https://dr-dsgvo.de/wp-content/uploads/2026/11/zeitstrahl-271cfc8e-1024x730.webp" alt="Zeitstrahl des Vorfalls vom 25. Oktober bis zur Bestätigung durch die Forensik, darunter Angaben von WorkOS und des Forschers" class="wp-image-36383" srcset="https://dr-dsgvo.de/wp-content/uploads/2026/11/zeitstrahl-271cfc8e-1024x730.webp 1024w, https://dr-dsgvo.de/wp-content/uploads/2026/11/zeitstrahl-271cfc8e-300x214.webp 300w, https://dr-dsgvo.de/wp-content/uploads/2026/11/zeitstrahl-271cfc8e-768x547.webp 768w, https://dr-dsgvo.de/wp-content/uploads/2026/11/zeitstrahl-271cfc8e-1536x1094.webp 1536w, https://dr-dsgvo.de/wp-content/uploads/2026/11/zeitstrahl-271cfc8e-640x456.webp 640w, https://dr-dsgvo.de/wp-content/uploads/2026/11/zeitstrahl-271cfc8e-1320x941.webp 1320w, https://dr-dsgvo.de/wp-content/uploads/2026/11/zeitstrahl-271cfc8e.webp 1600w" sizes="(max-width: 1024px) 100vw, 1024px" /><figcaption class="wp-element-caption">Zwischen erstem Zugriff und Entdeckung lagen fünf Tage.</figcaption></figure>




<p class="wp-block-paragraph">Wie der <strong>Sandbox-Ausbruch</strong> im Einzelnen ablief, ist offen. Alle erlangten Daten seien gelöscht und nicht weitergegeben worden. Ein unabhängiges Forensikunternehmen hat seine Belege mit den Protokollen von WorkOS abgeglichen und die Zuordnung bestätigt.</p>



<h2 class="wp-block-heading">Gewöhnliche Lücken, nur schneller gefunden</h2>



<p class="wp-block-paragraph">Bemerkenswert ist weniger der Ausbruch als das, was der Agent danach vorfand. Auf einer <a href="https://workos.com/security/bulletins/update-for-october-30th-2026-data-security-incident" target="_blank" rel="noopener">älteren internen Plattform</a> waren die Schnittstellen aus dem Internet erreichbar, die Zugriffsregeln zu großzügig. Ein leicht zu erratendes Entwicklungs-Zugangsdatum war in der Produktion noch gültig. Ein Rate-Limit, das die Zahl der Abfragen je Zeit begrenzt, fehlte. Und die Überwachung schlug zu spät an.</p>



<p class="wp-block-paragraph">Keine dieser Schwächen ist neu. Jeder erfahrene Angreifer hätte sie finden können. Der Unterschied liegt im Tempo: Ein Agent probiert ohne Pause und ohne Langeweile, und was einen Menschen Tage gekostet hätte, schafft er in Stunden.</p>



<figure class="wp-block-pullquote"><blockquote><p>Die Lücken waren gewöhnlich. Neu ist nur, dass ein Agent sie schneller findet als jeder Mensch.</p></blockquote></figure>



<p class="wp-block-paragraph">Wie weit das reicht, zeigt ein aktueller <a href="https://the-decoder.de/ki-agenten-koennen-laut-benchmark-eigenstaendig-in-firmennetzwerke-einbrechen/" target="_blank" rel="noopener">Benchmark mit simulierten Firmennetzen</a>. Das beste Modell erreichte dort über 80 % der gestellten Ziele, jede Aktion wurde dabei von außen protokolliert. Auch ein günstiges Modell mit offenen Gewichten kam auf rund 73 %, bei einem Bruchteil der Kosten. Fähigkeiten dieser Art sind also nicht mehr den teuersten Anbietern vorbehalten.</p>



<p class="wp-block-paragraph">Für alle, die Agenten testen oder in einem KI-Penetrationstest einsetzen, ergeben sich daraus drei Folgerungen. Erstens: echte Netztrennung statt einer bloßen Konfiguration, die sich umgehen lässt. Zweitens: ausgehende Filter, die nur freigegebene Ziele zulassen. Drittens: klare Einsatzgrenzen, schriftlich festgelegt und technisch erzwungen, samt Notaus. Wer wissen will, was vor einem solchen Test überhaupt sinnvoll ist, findet im <a href="https://dr-dsgvo.de/security-check-statt-blindflug-was-vor-dem-pentest-zaehlt/">Security-Check vor dem Pentest</a> einen Einstieg.</p>



<h2 class="wp-block-heading">Wenn Agenten Geheimnisse weitergeben</h2>



<p class="wp-block-paragraph">Der zweite Fall ist ein <a href="https://www.theregister.com/security/2026/11/06/agents-reveal-secrets-when-offered-to-team-up-with-each-other/5308260" target="_blank" rel="noopener">Versuch von AE Studio</a> für die AI Alignment Foundation. Programmier-Agenten sollten ein Deploy-Token geheim halten. Ein Token ist dabei ein digitaler Schlüssel, der Zugriff auf einen Dienst gewährt. Die Agenten hatten Zugang zu einem Forum, in dem andere Agenten saßen und in dem die Lösung ihrer eigentlichen Aufgabe lag.</p>



<p class="wp-block-paragraph">Wurde dem Agenten im Schwarm Hilfe gegen das Token angeboten, landete es in ca. 15 % der Läufe im Forum, und in ca. 24 % führte er ein fremdes Installationsskript aus. In einem gewöhnlichen Hilfeforum waren es ca. 2 % und 0 %. Das Token war ein Testtoken, die Umgebung eine lokale Sandbox, der Aufbau stammt aus einem Hackathon.</p>



<p class="wp-block-paragraph">Der Forscher sieht dahinter kein heimliches Verhalten. Das Modell wählt schlicht den einfachsten Weg zur Erfüllung seiner Aufgabe. Wenn ein Gesprächspartner ein Ziel fördert, wiegt das schwerer als eine Regel, die nur im Prompt steht. Für das Schützen von Zugangsdaten folgt daraus: Ein Geheimnis, das im Kontext des Agenten liegt, kann der Agent weitergeben. Wer es ihm nie gibt, muss sich auf seine Zurückhaltung nicht verlassen.</p>




<figure class="wp-block-image size-large"><img decoding="async" width="1024" height="704" src="https://dr-dsgvo.de/wp-content/uploads/2026/11/zwei-wege-280aaa8c-1024x704.webp" alt="Agent im Hilfeforum und im Agentenschwarm mit gemessenen Anteilen und drei Schutzschichten" class="wp-image-36384" srcset="https://dr-dsgvo.de/wp-content/uploads/2026/11/zwei-wege-280aaa8c-1024x704.webp 1024w, https://dr-dsgvo.de/wp-content/uploads/2026/11/zwei-wege-280aaa8c-300x206.webp 300w, https://dr-dsgvo.de/wp-content/uploads/2026/11/zwei-wege-280aaa8c-768x528.webp 768w, https://dr-dsgvo.de/wp-content/uploads/2026/11/zwei-wege-280aaa8c-1536x1056.webp 1536w, https://dr-dsgvo.de/wp-content/uploads/2026/11/zwei-wege-280aaa8c-640x440.webp 640w, https://dr-dsgvo.de/wp-content/uploads/2026/11/zwei-wege-280aaa8c-1320x908.webp 1320w, https://dr-dsgvo.de/wp-content/uploads/2026/11/zwei-wege-280aaa8c.webp 1600w" sizes="(max-width: 1024px) 100vw, 1024px" /><figcaption class="wp-element-caption">Anteile der Läufe im gewöhnlichen Hilfeforum und im Agentenschwarm.</figcaption></figure>




<h2 class="wp-block-heading">Warum Verstöße selten gemeldet werden</h2>



<p class="wp-block-paragraph">In demselben Versuch fiel noch etwas auf. Nur eine kleine Minderheit der Agenten meldete den Verstoß von sich aus. Auf direkte Nachfrage räumten fast alle ihn ein. Das Modell optimiert auf die Aufgabe, nicht auf Berichterstattung, und Selbstauskunft gehört nicht zu dem, was die Aufgabe belohnt.</p>



<p class="wp-block-paragraph">Für den Betrieb heißt das: Der Agent ist keine verlässliche Quelle über sein eigenes Verhalten. Die <strong>Protokollierung</strong> muss außerhalb des Agenten liegen, also in Netzwerk-, Proxy- und Werkzeugprotokollen, die der Agent nicht verändern kann, mit Alarmen bei ungewöhnlichen Mustern. Wie leicht Agenten die Kontrolle über ihre eigene Überwachung verlieren können, zeigt ein Fall, in dem <a href="https://dr-dsgvo.de/ki-agenten-ueberwachung-abschalten-openai/">Agenten ihre eigene Überwachung schwächten</a>.</p>



<p class="wp-block-paragraph">Auch bei WorkOS fiel der Zugriff erst auf, als ein Mensch zufällig die ungewöhnliche Nutzung bemerkte. Ein Alarm hätte früher gegriffen.</p>



<h2 class="wp-block-heading">KI-Agenten Gefahren begrenzen mit wenigen Grundregeln</figure></h1></h2></h3></h4></strong></b></i></em></ul></p></blockquote></pre></a></table><div class='clearfix'></div><div style='text-align:center;font-size:110%;margin-top:48px;margin-bottom:24px;padding:16px;border:2px solid orange;'>Ganzen Artikel jetzt über kostenfreien Dr. DSGVO Newsletter lesen.<div style='margin-top:8px'><b>Weitere Extras für Abonnenten</b>:<br>Viele Artikel in PDF-Form &middot; Kompakte Kernaussagen für Beiträge &middot; <a href='/offline-ki/' target='_blank'>Offline-KI</a> &middot; Freikontingent+ für <a href='/website-check/?id=wschknl' target='_blank'>Website-Checks</a></div><div style='font-size:80%;color:#ccc'>Schon Abonnent? Link im Newsletter anklicken & diese Seite auffrischen.</div><div style='font-size:44px;color: #ff2020;font-weight: bold;'>&#x2193;</div><a href='/newsletter/?id=nlga' class='hide1' target='_blank'>Newsletter abonnieren</a></div><script>jQuery(document).ready(function(){jQuery('#nonlpos').removeClass('hide');jQuery('.pdf-download-wrapper').remove();jQuery('.pdf-no-download-wrapper').removeClass('hide');});</script><script>jQuery('.nl').click(function () {alert("Nur für Newsletter-Abonnenten!")});</script><script>document.addEventListener('DOMContentLoaded', function() {jQuery('.pdf-download-wrapper').remove();jQuery('.pdf-no-download-wrapper').removeClass('hide');});</script>
			<div id="ki_kontakt" class="ki_kontakt" style="padding-bottom: 0;">
				<h2>KI-Beratung, KI-Lösungen</h2>
				<div>
				Umfassende Beratung (fachlich, rechtlich, technisch):<br>
				<div class="ai_solution-advantages">
				<h3>Leistungsangebot:</h3><ul style="margin-top: 4px;">
				<li>Erstberatung inkl. Machbarkeitsaussagen</li>
				<li>Schulungen und Workshops für Führungskräfte, Berufsgeheimnisträger, Angestellte, Entwickler</li>
				<li>KI-Lösungen mit und ohne ChatGPT/Azure. Cloud oder eigener KI-Server</li>
				</ul>
				</div>
					<p style="margin-bottom:5px"><a id="msgbtn" class="ai_solution-contact-button" href="mailto:ki@dr-dsgvo.de">Ihre Anfrage</a><div class="ai-small">Oder Mail an ki@dr-dsgvo.de</div></p>
				</div>
			</div>]]></content:encoded>
					
					<wfw:commentRss>https://dr-dsgvo.de/ki-agenten-leistung-gefahren/feed/</wfw:commentRss>
			<slash:comments>0</slash:comments>
		
		
			</item>
		<item>
		<title>Datenschutz-Folgenabschätzung für einen KI-Agenten: Schritt für Schritt Beispiel</title>
		<link>https://dr-dsgvo.de/datenschutz-folgenabschaetzung-fuer-einen-ki-agenten-ein-beispiel-schritt-fuer-schritt/</link>
					<comments>https://dr-dsgvo.de/datenschutz-folgenabschaetzung-fuer-einen-ki-agenten-ein-beispiel-schritt-fuer-schritt/#respond</comments>
		
		<dc:creator><![CDATA[Dr. DSGVO]]></dc:creator>
		<pubDate>Tue, 10 Nov 2026 09:09:17 +0000</pubDate>
				<category><![CDATA[Künstliche Intelligenz]]></category>
		<category><![CDATA[Datenschutz]]></category>
		<category><![CDATA[DSGVO]]></category>
		<category><![CDATA[hasDanish]]></category>
		<category><![CDATA[hasDutch]]></category>
		<category><![CDATA[hasEnglish]]></category>
		<category><![CDATA[hasFrench]]></category>
		<category><![CDATA[hasItalian]]></category>
		<category><![CDATA[hasPolish]]></category>
		<category><![CDATA[hasSpanish]]></category>
		<category><![CDATA[hasSwedish]]></category>
		<category><![CDATA[hasUkrainian]]></category>
		<category><![CDATA[Artificial Intelligence]]></category>
		<category><![CDATA[AI]]></category>
		<category><![CDATA[Machine Learning]]></category>
		<category><![CDATA[Data Science]]></category>
		<category><![CDATA[Data Modelling]]></category>
		<category><![CDATA[Digitalisierung]]></category>
		<category><![CDATA[Big Data]]></category>
		<guid isPermaLink="false">https://dr-dsgvo.de/?p=32654</guid>

					<description><![CDATA[Wie läuft eine DSFA nach Art. 35 DSGVO für einen KI-Agenten ab? Ein fiktives Beispiel führt von der Schwellwertprüfung über die Risikoanalyse bis zur Überprüfung und zeigt, was bei Agenten anders ist.]]></description>
										<content:encoded><![CDATA[
<p class="wp-block-paragraph"><em>KI-Agenten als autonome Helfer: Programme, die E-Mails lesen, in Fachsystemen nachschlagen und selbstständig Aktionen auslösen. Sobald dabei personenbezogene Daten im Spiel sind, stellt sich eine Frage, die der Datenschutzbeauftragte meist früher stellt als die Fachabteilung: Brauchen wir dafür eine Datenschutz-Folgenabschätzung (DSFA)? Und wenn ja, wie sieht die konkret aus?</em></p>



<p class="wp-block-paragraph">Eine DSFA für einen Agenten folgt demselben Ablauf wie jede andere DSFA. Neu sind die Risiken. Ein Agent liest Inhalte von Fremden, handelt mit Werkzeugen und erzeugt Ausgaben, die sich nicht vollständig vorhersagen lassen. Das verschiebt, wo Sie bei Risikoanalyse und Maßnahmen genau hinsehen müssen.</p>



<p class="wp-block-paragraph">Wir gehen ein einziges Beispiel von Anfang bis Ende durch. <strong>Das Beispiel ist fiktiv</strong>: Das Unternehmen, die Zahlen und die Entscheidungen sind erfunden, aber so gewählt, dass sie in einem mittelständischen Betrieb vorkommen könnten. Ihre eigene DSFA muss sich immer auf Ihre konkrete Verarbeitung stützen.</p>



<h2 class="wp-block-heading">Das Beispiel: ein Kundendialog-Agent bei der Weber Gartentechnik GmbH</h2>



<p class="wp-block-paragraph">Die fiktive Weber Gartentechnik GmbH verkauft Gartengeräte und Bewässerungssysteme, überwiegend über einen eigenen Webshop. Sie hat 220 Beschäftigte und rund 40.000 Kunden, vor allem Privatpersonen, daneben Handwerksbetriebe. Das Service-Team aus neun Personen beantwortet pro Woche etwa 1.200 E-Mails: Fragen zum Lieferstatus, Reklamationen, Bitten um Ersatzteile, Adressänderungen, Rückgaben.</p>



<p class="wp-block-paragraph">Die Geschäftsführung möchte das Team entlasten und plant einen <strong>Kundendialog-Agenten</strong>. Er soll folgende Aufgaben übernehmen:</p>



<ul class="wp-block-list">
<li>Eingehende Mails im Service-Postfach lesen und einer Anfrageart zuordnen.</li>



<li>Den Kunden im CRM identifizieren und Bestellungen sowie bisherige Tickets nachschlagen.</li>



<li>Einen Antwortentwurf erstellen und im Ticketsystem ablegen.</li>



<li>Einfache Aktionen vorbereiten, etwa einen Ersatzteilversand, eine Adressänderung oder eine Gutschrift.</li>



<li>Optional: die Anfragen nach Dringlichkeit und Stimmung sortieren, damit verärgerte Kunden früher bearbeitet werden.</li>
</ul>



<p class="wp-block-paragraph">Technisch läuft der Agent auf einem Server des Unternehmens. Das Sprachmodell wird als Dienst eines externen Anbieters genutzt, der es in einem Rechenzentrum in der EU betreibt. Für den Anfang schlägt die IT vor, dem Agenten weitgehende Rechte zu geben: Er darf im CRM lesen und schreiben, Mails direkt beantworten und Gutschriften bis 100 Euro selbst auslösen. Genau an solchen Entwurfsentscheidungen zeigt sich später der Nutzen der DSFA.</p>



<h2 class="wp-block-heading">Der Ablauf im Überblick</h2>



<p class="wp-block-paragraph"><a href="https://dr-dsgvo.de/artikel-35-dsgvo-datenschutz-folgenabschaetzung/" data-type="post" data-id="7071">Artikel 35 DSGVO</a> legt fest, wann eine DSFA nötig ist und was sie mindestens enthalten muss. Die Datenschutzkonferenz (DSK) der deutschen Aufsichtsbehörden beschreibt in ihrem Kurzpapier Nr. 5 einen Ablauf mit Vorbereitung, Durchführung, Umsetzung und Überprüfung. Wir fassen ihn für das Beispiel in sieben Schritten zusammen. Die Schritte 2 bis 5 entsprechen den vier Mindestinhalten aus Art. 35 Abs. 7 DSGVO.</p>




<figure class="wp-block-image size-large"><img decoding="async" width="992" height="1024" src="https://dr-dsgvo.de/wp-content/uploads/2026/10/ablauf-baf42cc6-992x1024.webp" alt="Sieben untereinander stehende Schritte der DSFA mit den zugehörigen Artikeln der DSGVO, Schritt 6 Konsultation nach Art. 36 hervorgehoben, darunter der Hinweis auf den Datenschutzbeauftragten" class="wp-image-32648" srcset="https://dr-dsgvo.de/wp-content/uploads/2026/10/ablauf-baf42cc6-992x1024.webp 992w, https://dr-dsgvo.de/wp-content/uploads/2026/10/ablauf-baf42cc6-291x300.webp 291w, https://dr-dsgvo.de/wp-content/uploads/2026/10/ablauf-baf42cc6-768x793.webp 768w, https://dr-dsgvo.de/wp-content/uploads/2026/10/ablauf-baf42cc6-1488x1536.webp 1488w, https://dr-dsgvo.de/wp-content/uploads/2026/10/ablauf-baf42cc6-640x661.webp 640w, https://dr-dsgvo.de/wp-content/uploads/2026/10/ablauf-baf42cc6-1320x1363.webp 1320w, https://dr-dsgvo.de/wp-content/uploads/2026/10/ablauf-baf42cc6.webp 1600w" sizes="(max-width: 992px) 100vw, 992px" /><figcaption class="wp-element-caption">Der Ablauf einer DSFA nach Art. 35 und 36 DSGVO</figcaption></figure>




<p class="wp-block-paragraph">Zwei Hinweise vorab. Erstens ist die DSFA nach dem Kurzpapier Nr. 5 und den europäischen Leitlinien (WP 248) kein einmaliger Vorgang, sondern ein Prozess, in dem Schritte mehrfach durchlaufen werden. Wählt man in Schritt 5 eine Maßnahme, ändert sich die Risikobewertung aus Schritt 4. Zweitens muss die DSFA <em>vor</em> Beginn der Verarbeitung stattfinden. Sie ist ein Hilfsmittel für Entscheidungen und kein Nachweis, den man im Nachhinein ausfüllt.</p>



<h2 class="wp-block-heading">Schritt 1: Schwellwertprüfung: wird eine DSFA benötigt?</h2>



<p class="wp-block-paragraph">Nach Art. 35 Abs. 1 DSGVO ist eine DSFA durchzuführen, wenn eine Form der Verarbeitung, insbesondere bei Verwendung neuer Technologien, aufgrund von Art, Umfang, Umständen und Zwecken <em>voraussichtlich ein hohes Risiko</em> für die Rechte und Freiheiten natürlicher Personen zur Folge hat. Das Kurzpapier Nr. 5 nennt die Prüfung dieser Frage „Schwellwertanalyse“ und verlangt, die Entscheidung mit Gründen schriftlich festzuhalten, und zwar auch dann, wenn keine DSFA nötig ist.</p>



<p class="wp-block-paragraph">Drei Quellen helfen bei dieser Prüfung.</p>



<h3 class="wp-block-heading">Die Regelbeispiele</h3>



<p class="wp-block-paragraph">Der Art. 35 Abs. 3 DSGVO nennt drei Fälle, in denen eine DSFA „insbesondere“ erforderlich ist: eine systematische und umfassende Bewertung persönlicher Aspekte auf Grundlage automatisierter Verarbeitung, die als Basis für Entscheidungen mit Rechtswirkung oder ähnlich erheblicher Beeinträchtigung dient. Ferner die umfangreiche Verarbeitung besonderer Datenkategorien nach Art. 9 DSGVO oder Daten über Straftaten nach Art. 10 DSGVO. Und die systematische umfangreiche Überwachung öffentlich zugänglicher Bereiche. Die Liste ist nicht abschließend.</p>



<p class="wp-block-paragraph">Im Beispiel ist keiner der drei Fälle eindeutig erfüllt. Der Agent bewertet keine Kunden umfassend, und besondere Datenkategorien werden nicht gezielt verarbeitet. Allerdings schreiben Kunden in freien Mailtexten manchmal Dinge, die ins Gesundheitliche gehen, etwa wenn ein Kunde erklärt, dass er wegen einer Krankheit eine Lieferung nicht annehmen kann. Das notieren wir uns als offenen Punkt für die Risikoanalyse.</p>



<h3 class="wp-block-heading">Die Muss-Liste der Aufsichtsbehörden nach Art. 35 Abs. 4 DSGVO</h3>



<p class="wp-block-paragraph">Nach Art. 35 Abs. 4 DSGVO müssen die Aufsichtsbehörden eine Liste der Verarbeitungsvorgänge veröffentlichen, für die eine DSFA durchzuführen ist. Für den nicht-öffentlichen Bereich haben die deutschen Aufsichtsbehörden im Oktober 2018 eine gemeinsame Liste beschlossen. Die DSK weist selbst darauf hin, dass die Liste nicht vollständig ist: Steht ein Vorgang nicht darauf, folgt daraus nicht, dass keine DSFA nötig wäre.</p>



<p class="wp-block-paragraph">Für unseren Agenten ist Nr. 11 der Liste einschlägig. Sie betrifft den Einsatz künstlicher Intelligenz zur Verarbeitung personenbezogener Daten, um die Interaktion mit den Betroffenen zu steuern oder persönliche Aspekte zu bewerten. Als Beispiele nennt die Liste „Kundensupport mittels künstlicher Intelligenz“ und ein Unternehmen, das ein System einsetzt, das mit Kunden im Gespräch interagiert und für deren Beratung personenbezogene Daten durch eine KI verarbeitet. Ein Agent, der Kundenmails liest, Antworten formuliert und Aktionen auslöst, liegt nach unserer Einschätzung nah an diesem Eintrag. Ob ein Eintrag im Einzelfall genau passt, sollten Sie mit Ihrem Datenschutzbeauftragten klären. Die Liste ist, wie die DSK schreibt, ein „lebendiges“ Papier und kann sich ändern. Prüfen Sie daher stets die aktuelle Fassung.</p>



<p class="wp-block-paragraph">Auch die Orientierungshilfe „Künstliche Intelligenz und Datenschutz“ der DSK vom 6. Mai 2024 verweist auf die Prüfung nach Art. 35 DSGVO. Beim Einsatz von KI-Anwendungen werde eine DSFA „vielfach“ erforderlich sein.</p>



<h3 class="wp-block-heading">Die neun Kriterien der Art.-29-Gruppe (WP 248)</h3>



<p class="wp-block-paragraph">Die Leitlinien WP 248 der Art.-29-Datenschutzgruppe wurden im Oktober 2017  angenommen. Sie nennen neun Kriterien, die auf ein hohes Risiko hindeuten, darunter Bewerten und Einstufen, automatisierte Entscheidungen mit rechtlicher oder ähnlich erheblicher Wirkung, systematische Überwachung, sensible Daten, Verarbeitung in großem Umfang, das Zusammenführen von Datensätzen, schutzbedürftige Betroffene, innovative Technologien sowie die Verhinderung der Ausübung eines Rechts oder der Nutzung einer Leistung. Als Faustregel gilt: In den meisten Fällen kann der Verantwortliche annehmen, dass bei zwei erfüllten Kriterien eine DSFA nötig ist. Je mehr Kriterien zutreffen, desto wahrscheinlicher ist ein hohes Risiko. Im Einzelfall kann auch ein einziges Kriterium genügen.</p>




<figure class="wp-block-image size-large"><img decoding="async" width="905" height="1024" src="https://dr-dsgvo.de/wp-content/uploads/2026/10/schwellwert-d2fb88c2-905x1024.webp" alt="Schema der Schwellwertprüfung: Regelbeispiele nicht eindeutig erfüllt, Muss-Liste Nr. 11 trifft zu, Tabelle der neun WP-248-Kriterien mit Einschätzung, Ergebnis DSFA erforderlich" class="wp-image-32649" srcset="https://dr-dsgvo.de/wp-content/uploads/2026/10/schwellwert-d2fb88c2-905x1024.webp 905w, https://dr-dsgvo.de/wp-content/uploads/2026/10/schwellwert-d2fb88c2-265x300.webp 265w, https://dr-dsgvo.de/wp-content/uploads/2026/10/schwellwert-d2fb88c2-768x869.webp 768w, https://dr-dsgvo.de/wp-content/uploads/2026/10/schwellwert-d2fb88c2-1358x1536.webp 1358w, https://dr-dsgvo.de/wp-content/uploads/2026/10/schwellwert-d2fb88c2-640x724.webp 640w, https://dr-dsgvo.de/wp-content/uploads/2026/10/schwellwert-d2fb88c2-1320x1493.webp 1320w, https://dr-dsgvo.de/wp-content/uploads/2026/10/schwellwert-d2fb88c2.webp 1600w" sizes="(max-width: 905px) 100vw, 905px" /><figcaption class="wp-element-caption">Schwellwertprüfung für den fiktiven Kundendialog-Agenten</figcaption></figure>




<p class="wp-block-paragraph">Die Abbildung zeigt die Prüfung für das Beispiel. Zwei Kriterien sind eindeutig erfüllt: Der Agent führt Daten aus Postfach, CRM, Ticketsystem und Bestellungen zusammen, und ein KI-Agent mit Werkzeugzugriff ist eine innovative Technologie. Vier weitere Kriterien treffen teilweise zu. Die geplante Stimmungssortierung ist eine Form des Bewertens. Wenn der Agent Reklamationen ablehnen oder Gutschriften verweigern könnte, wären das Entscheidungen mit erheblicher Wirkung für Kunden. Der Freitext kann sensible Angaben enthalten. Und 1.200 Mails pro Woche bei 40.000 Kunden sind zwar kein Massenverfahren, aber auch nicht trivial. Nicht erfüllt sind die Kriterien systematische Überwachung und schutzbedürftige Betroffene: Der Agent beobachtet niemanden, und es gibt weder Kinder noch ein Abhängigkeitsverhältnis wie zwischen Arbeitgeber und Beschäftigten, das WP 248 als Beispiel für ein Machtgefälle nennt.</p>



<p class="wp-block-paragraph"><strong>Ergebnis:</strong> Die Muss-Liste trifft zu, und mehrere WP-248-Kriterien sind erfüllt. Eine DSFA ist erforderlich. Diese Begründung gehört als erstes Dokument in die Akte. Der Datenschutzbeauftragte sollte sie gegenlesen und zeichnen. Fehlt eine nötige DSFA, kann die Aufsichtsbehörde nach den Hinweisen der DSK-Liste von ihren Abhilfebefugnissen Gebrauch machen, bis hin zu einem Bußgeld.</p>



<h2 class="wp-block-heading">Schritt 2: Die Verarbeitung systematisch beschreiben</h2>



<p class="wp-block-paragraph">Art. 35 Abs. 7 lit. a DSGVO verlangt eine systematische Beschreibung der geplanten Verarbeitungsvorgänge und ihrer Zwecke, gegebenenfalls einschließlich der berechtigten Interessen des Verantwortlichen. Das Kurzpapier Nr. 5 fordert, die betrachteten Vorgänge von anderen Geschäftsprozessen abzugrenzen und „ausführlich und abschließend mit allen Datenflüssen“ zu beschreiben. Bei Agenten ist diese Beschreibung besonders wertvoll, denn sie zwingt dazu, genau aufzuschreiben, was der Agent <em>tatsächlich darf</em>.</p>




<figure class="wp-block-image size-large"><img decoding="async" width="1024" height="845" src="https://dr-dsgvo.de/wp-content/uploads/2026/10/datenfluss-640fed3d-1024x845.webp" alt="Datenflussdiagramm: Kunde, Postfach, KI-Agent, Sprachmodell des Auftragsverarbeiters, CRM, Ticketsystem, Mitarbeiter mit Freigabe, Shop und ERP sowie Protokoll innerhalb der Systemgrenze des Unternehmens" class="wp-image-32650" srcset="https://dr-dsgvo.de/wp-content/uploads/2026/10/datenfluss-640fed3d-1024x845.webp 1024w, https://dr-dsgvo.de/wp-content/uploads/2026/10/datenfluss-640fed3d-300x248.webp 300w, https://dr-dsgvo.de/wp-content/uploads/2026/10/datenfluss-640fed3d-768x634.webp 768w, https://dr-dsgvo.de/wp-content/uploads/2026/10/datenfluss-640fed3d-1536x1267.webp 1536w, https://dr-dsgvo.de/wp-content/uploads/2026/10/datenfluss-640fed3d-640x528.webp 640w, https://dr-dsgvo.de/wp-content/uploads/2026/10/datenfluss-640fed3d-1320x1089.webp 1320w, https://dr-dsgvo.de/wp-content/uploads/2026/10/datenfluss-640fed3d.webp 1600w" sizes="(max-width: 1024px) 100vw, 1024px" /><figcaption class="wp-element-caption">Datenfluss des Beispiel-Agenten: Aktionen und Antworten gehen erst nach Freigabe durch einen Mitarbeiter hinaus</figcaption></figure>




<h3 class="wp-block-heading">Zweck der Verarbeitung</h3>



<p class="wp-block-paragraph">Der Zweck lautet: Kundenanfragen zu Bestellungen, Lieferungen, Reklamationen und Ersatzteilen schneller und einheitlich beantworten. Die Stimmungssortierung hat einen eigenen, zusätzlichen Zweck. Sie wird deshalb getrennt betrachtet.</p>



<h3 class="wp-block-heading">Daten und betroffene Personen</h3>



<ul class="wp-block-list">
<li>Betroffene: Kunden und Interessenten, Ansprechpartner bei Geschäftskunden, in Mails erwähnte Dritte (etwa Familienmitglieder, an die geliefert werden soll).</li>



<li>Daten: Name, Anschrift, E-Mail-Adresse, Bestell- und Rechnungsdaten, Ticketverlauf, Inhalt der Mail einschließlich Freitext und Anhängen (zum Beispiel Fotos defekter Geräte).</li>



<li>Nicht vorgesehen: Zahlungsdaten wie Kartennummern oder Kontoverbindungen, Gesundheitsdaten, Daten von Kindern.</li>
</ul>



<h3 class="wp-block-heading">Datenfluss</h3>



<p class="wp-block-paragraph">Die Abbildung zeigt den Weg einer Anfrage. Die Mail kommt von außen ins Postfach. Dieser Eingang ist, und das ist für Agenten zentral, <em>nicht vertrauenswürdig</em>: Jeder darf eine Mail schicken, und jeder Text in der Mail landet beim Agenten. Der Agent liest die Mail, fragt über Werkzeuge CRM und Ticketsystem ab und sendet Mailtext und Kontext an das Sprachmodell. Das Modell antwortet mit einem Entwurf. Ein Mitarbeiter prüft ihn und gibt ihn frei. Erst dann geht die Antwort hinaus und werden Aktionen im Shop oder ERP ausgelöst. Alle Schritte landen im Protokoll. Die Abbildung zeigt bereits die Soll-Fassung nach der DSFA, also mit Mitarbeiterfreigabe vor Versand und Aktionen. Im ersten Entwurf der IT fehlte diese Freigabe.</p>



<h3 class="wp-block-heading">Rollen und Dienstleister</figure></h1></h2></h3></h4></strong></b></i></em></ul></p></blockquote></pre></a></table><div class='clearfix'></div><div style='text-align:center;font-size:110%;margin-top:48px;margin-bottom:24px;padding:16px;border:2px solid orange;'>Ganzen Artikel jetzt über kostenfreien Dr. DSGVO Newsletter lesen.<div style='margin-top:8px'><b>Weitere Extras für Abonnenten</b>:<br>Viele Artikel in PDF-Form &middot; Kompakte Kernaussagen für Beiträge &middot; <a href='/offline-ki/' target='_blank'>Offline-KI</a> &middot; Freikontingent+ für <a href='/website-check/?id=wschknl' target='_blank'>Website-Checks</a></div><div style='font-size:80%;color:#ccc'>Schon Abonnent? Link im Newsletter anklicken & diese Seite auffrischen.</div><div style='font-size:44px;color: #ff2020;font-weight: bold;'>&#x2193;</div><a href='/newsletter/?id=nlga' class='hide1' target='_blank'>Newsletter abonnieren</a></div><script>jQuery(document).ready(function(){jQuery('#nonlpos').removeClass('hide');jQuery('.pdf-download-wrapper').remove();jQuery('.pdf-no-download-wrapper').removeClass('hide');});</script><script>jQuery('.nl').click(function () {alert("Nur für Newsletter-Abonnenten!")});</script><script>document.addEventListener('DOMContentLoaded', function() {jQuery('.pdf-download-wrapper').remove();jQuery('.pdf-no-download-wrapper').removeClass('hide');});</script>
			<div id="ki_kontakt" class="ki_kontakt" style="padding-bottom: 0;">
				<h2>KI-Beratung, KI-Lösungen</h2>
				<div>
				Umfassende Beratung (fachlich, rechtlich, technisch):<br>
				<div class="ai_solution-advantages">
				<h3>Leistungsangebot:</h3><ul style="margin-top: 4px;">
				<li>Erstberatung inkl. Machbarkeitsaussagen</li>
				<li>Schulungen und Workshops für Führungskräfte, Berufsgeheimnisträger, Angestellte, Entwickler</li>
				<li>KI-Lösungen mit und ohne ChatGPT/Azure. Cloud oder eigener KI-Server</li>
				</ul>
				</div>
					<p style="margin-bottom:5px"><a id="msgbtn" class="ai_solution-contact-button" href="mailto:ki@dr-dsgvo.de">Ihre Anfrage</a><div class="ai-small">Oder Mail an ki@dr-dsgvo.de</div></p>
				</div>
			</div>]]></content:encoded>
					
					<wfw:commentRss>https://dr-dsgvo.de/datenschutz-folgenabschaetzung-fuer-einen-ki-agenten-ein-beispiel-schritt-fuer-schritt/feed/</wfw:commentRss>
			<slash:comments>0</slash:comments>
		
		
			</item>
		<item>
		<title>GPT-6 Cyber: Was Hunderte Kernel-Fixes für KMU-Updates bedeuten</title>
		<link>https://dr-dsgvo.de/gpt-6-cyber-kernel-patches-kmu/</link>
					<comments>https://dr-dsgvo.de/gpt-6-cyber-kernel-patches-kmu/#respond</comments>
		
		<dc:creator><![CDATA[Dr. DSGVO]]></dc:creator>
		<pubDate>Mon, 09 Nov 2026 09:46:27 +0000</pubDate>
				<category><![CDATA[Künstliche Intelligenz]]></category>
		<category><![CDATA[Security]]></category>
		<category><![CDATA[GPT-6 Cyber]]></category>
		<category><![CDATA[hasDanish]]></category>
		<category><![CDATA[hasDutch]]></category>
		<category><![CDATA[hasEnglish]]></category>
		<category><![CDATA[hasFrench]]></category>
		<category><![CDATA[hasItalian]]></category>
		<category><![CDATA[hasPolish]]></category>
		<category><![CDATA[hasSpanish]]></category>
		<category><![CDATA[hasSwedish]]></category>
		<category><![CDATA[hasUkrainian]]></category>
		<category><![CDATA[Linux-Kernel]]></category>
		<category><![CDATA[Lokale KI]]></category>
		<category><![CDATA[Open-Source-KI]]></category>
		<category><![CDATA[Patchmanagement]]></category>
		<category><![CDATA[Artificial Intelligence]]></category>
		<category><![CDATA[AI]]></category>
		<category><![CDATA[Machine Learning]]></category>
		<category><![CDATA[Data Science]]></category>
		<category><![CDATA[Data Modelling]]></category>
		<category><![CDATA[Digitalisierung]]></category>
		<category><![CDATA[Big Data]]></category>
		<guid isPermaLink="false">https://dr-dsgvo.de/?p=36211</guid>

					<description><![CDATA[OpenAI stellte GPT-6 Cyber vor: Agenten fanden im Linux-Kernel rund 1.700 Fehler. Was das für Update-Zyklen, Hersteller-Patches und lokale KI bedeutet.]]></description>
										<content:encoded><![CDATA[
<p class="wp-block-paragraph"><em>OpenAI hat im November 2026 GPT-6 Cyber vorgestellt, ein Modell für die Suche nach Sicherheitslücken. Neu ist weniger die Technik als die Größenordnung: Im aktuellen Linux-Kernel fanden Agenten ca. 1.700 bestätigte Fehler, und jeder Fund hat ein Preisschild. Für Betriebe ohne eigene Entwicklung entscheidet sich die Lage daran, wie schnell Fixes auf den Geräten ankommen.</em></p>



<p class="wp-block-paragraph">Im Frühjahr meldete Anthropic ein unveröffentlichtes Modell, das tausende bislang unbekannte <a href="https://wwwschutz.de/security-checks.html" target="_blank" rel="noopener">Schwachstellen</a> in Betriebssystemen und Browsern gefunden haben soll. Wenig später folgte Googles Gemini 4 Carbon mit deutlich besseren Werten in Exploit-Benchmarks. Mit OpenAIs Ankündigung lässt sich ein Lauf über einen ganzen Kernel mit Kosten und Ergebnissen beziffern.</p>



<p class="wp-block-paragraph">Wer Fehler so billig findet, erzeugt zwangsläufig viele Korrekturen. Server, Firewalls, NAS-Systeme und Kameras laufen fast alle auf Linux, und den Kernel pflegt in den meisten Betrieben jemand anderes.</p>



<h2 class="wp-block-heading">GPT-6 Cyber im Überblick</h2>



<p class="wp-block-paragraph">GPT-6 Cyber ist eine Spezialvariante von GPT-6 Astra für autorisierte Sicherheitsarbeit. Das Modell sucht Schwachstellen, baut passende Exploits und schlägt Korrekturen vor. In der <a href="https://deploymentsafety.openai.com/gpt-6-cyber" target="_blank" rel="noopener">Model Card</a> stuft OpenAI die Cyber-Fähigkeiten in die höchste Stufe des eigenen Preparedness Frameworks ein. Im Exploit-Benchmark <strong>ExploitGym</strong> löst es ca. 48 % der Aufgaben, das Basismodell ca. 42 %.</p>



<p class="wp-block-paragraph">Ältere Benchmarks können durch Trainingsdaten überhöht sein, das zuverlässige Ausnutzen frisch veröffentlichter Lücken bleibt schwierig, und vollständig gehärtete Ziele hielten stand. Das Modell zeigt eine klare Richtung, löst aber nicht jedes Ziel.</p>



<p class="wp-block-paragraph">Der Zugang ist zunächst auf ausgewählte, geprüfte Kunden beschränkt. Der Zugriff erfolgt über API und Codex, mit Identitätsprüfung, Mehr-Faktor-Anmeldung und freigegebenen IP-Adressen. OpenAI rät dazu, das Modell isoliert und unter menschlicher Aufsicht zu betreiben. Eine schrittweise Ausweitung ist angekündigt, einen Termin für die Allgemeinheit gibt es nicht.</p>



<h2 class="wp-block-heading">Kernel-Fehler im großen Stil</h2>



<p class="wp-block-paragraph">Das Herzstück ist ein Lauf über den aktuellen Linux-Kernel. Zuerst grenzten Agenten die sicherheitsrelevanten Bereiche ein, ca. 7 % des Codes. Weitere Agenten markierten dort ca. 2.300 Verdachtsstellen, und in <a href="https://openai.com/index/introducing-gpt-6-cyber/" target="_blank" rel="noopener">isolierten virtuellen Maschinen</a> ließen sich ca. 1.700 davon bestätigen. Getestet wurde auf einem unveränderten Desktop-Linux mit den üblichen Schutzmechanismen, die verhindern sollen, dass Angreifer Speicheradressen erraten.</p>




<figure class="wp-block-image size-large"><img decoding="async" width="1024" height="691" src="https://dr-dsgvo.de/wp-content/uploads/2026/11/trichter-0e80ec02-1024x691.webp" alt="Trichtergrafik zu den Kernel-Funden von GPT-6 Cyber: von ca. 2.300 Kandidaten bis ca. 950 separaten Patches" class="wp-image-36208" srcset="https://dr-dsgvo.de/wp-content/uploads/2026/11/trichter-0e80ec02-1024x691.webp 1024w, https://dr-dsgvo.de/wp-content/uploads/2026/11/trichter-0e80ec02-300x203.webp 300w, https://dr-dsgvo.de/wp-content/uploads/2026/11/trichter-0e80ec02-768x518.webp 768w, https://dr-dsgvo.de/wp-content/uploads/2026/11/trichter-0e80ec02-1536x1037.webp 1536w, https://dr-dsgvo.de/wp-content/uploads/2026/11/trichter-0e80ec02-640x432.webp 640w, https://dr-dsgvo.de/wp-content/uploads/2026/11/trichter-0e80ec02-1320x891.webp 1320w, https://dr-dsgvo.de/wp-content/uploads/2026/11/trichter-0e80ec02.webp 1600w" sizes="(max-width: 1024px) 100vw, 1024px" /><figcaption class="wp-element-caption">Von ca. 2.300 Kandidaten bis zu ca. 950 separaten Patches.</figcaption></figure>




<p class="wp-block-paragraph">Aus den bestätigten Fehlern wurden ca. 1.200 funktionierende lokale Rechteausweitungen, bei denen ein einfaches Konto zum Administrator wird. Dahinter stehen ca. 950 <a href="https://www.securityweek.com/ai-agents-got-root-on-linux-via-948-kernel-flaws-in-openai-research/" target="_blank" rel="noopener">separate Patches</a>. Hunderte Funde führen also zu Hunderten Korrekturen. Die Kernel-Maintainer reagierten schnell: Binnen zehn Tagen waren über 100 Rechteausweitungen gepatcht oder mit Patches in Vorbereitung, ca. 300 weitere wurden öffentlich diskutiert.</p>



<p class="wp-block-paragraph">Auch der Preis ist neu. Der Lauf kostete ca. 1,2 Mio. US-Dollar an API-Gebühren, grob 1.300 US-Dollar je Ergebnis. Ein Vorläufer-Scan im Sommer kam auf ca. 170 Rechteausweitungen für gut 500.000 US-Dollar, der neue Lauf liefert ein Mehrfaches der Funde bei etwa dem Doppelten der Kosten. Die Schwachstellensuche wird damit zu einer planbaren Kostenposition, vergleichbar mit Cloud-Rechenzeit. In Firefox fand das Modell zudem ca. 80 bisher unbekannte schwere Lücken, die Mozilla behoben hat.</p>



<h2 class="wp-block-heading">Hunderte Fixes und die Update-Zyklen</h2>



<p class="wp-block-paragraph">Ein Fund allein schützt niemanden. Erst der Fix im Kernel und danach das Einspielen auf dem Gerät verändern die Lage. Die Zahl der CVE-Kennungen pro Kernel-Release steigt stark, bei ca. 40 Mio. Zeilen Code. Viele davon betreffen Fehler niedriger Priorität, doch steigt der Takt, in dem Wartungsupdates anfallen, spürbar.</p>



<p class="wp-block-paragraph">Kritisch ist der Zeitraum zwischen veröffentlichtem Fix und eingespieltem Update. Sobald ein Patch öffentlich ist, zeigt er Angreifern, wo der Fehler lag. Ein offenes Modell setzte bekannte, aber noch nicht ausgelieferte <a href="https://epoch.ai/publications/open-weight-models-patch-gap" target="_blank" rel="noopener">Firefox-Fixes</a> für ca. 1.000 US-Dollar pro Version in funktionierende Angriffe um, wenn auch nur zum Lesen von Dateien auf einem Standard-Ubuntu. Jeder öffentliche Fix ist damit ein <strong>Bauplan für Angreifer</strong>.</p>



<figure class="wp-block-pullquote"><blockquote><p>Knapp wird nicht mehr die Entdeckung von Fehlern, sondern das rechtzeitige Einspielen der Korrekturen.</p></blockquote></figure>



<p class="wp-block-paragraph">Eine lokale Rechteausweitung braucht einen ersten Zugang, etwa ein gestohlenes Passwort, eine Webshell oder den Ausbruch aus einem Container. Wer ihn hat, kommt mit einer solchen Lücke bis zu Root. Deshalb zählen lokale Kernel-Fehler auch auf Servern, die nur über das Web erreichbar sind. Nicht jeder Fund ist ausnutzbar, und nicht jeder Server ist gefährdet. Doch die zweite Hürde hinter dem ersten Einbruch wird dünner.</p>



<p class="wp-block-paragraph">Für den Alltag heißt das, Updates nicht mehr als Quartalsprojekt zu behandeln. Ein fester Rhythmus mit kurzen Neustartfenstern, etwa monatlich und bei kritischen Lücken sofort, nimmt der einzelnen Meldung den Schrecken. Wer ohnehin regelmäßig neu startet, muss bei einem Kernel-Fix nicht erst Zustimmung, Zeitfenster und Verantwortliche zusammensuchen.</p>



<h2 class="wp-block-heading">Kernel-Patches der Hersteller</h2>



<p class="wp-block-paragraph">Ein Kernel-Fix hat einen langen Weg. Er erscheint zuerst im Hauptzweig, wird in die Langzeitzweige übernommen und gelangt in die Distributionskernel. Bei Geräten kommen Hersteller-Kernel, Firmware-Build, Freigabe und Auslieferung hinzu. Erst dann kann der Betrieb ihn einspielen.</p>




<figure class="wp-block-image size-large"><img decoding="async" width="1024" height="947" src="https://dr-dsgvo.de/wp-content/uploads/2026/11/kette-505c07c8-1024x947.webp" alt="Weg eines Kernel-Fixes vom Hauptzweig über Distribution und Hersteller-Firmware bis zum Gerät im Betrieb" class="wp-image-36209" srcset="https://dr-dsgvo.de/wp-content/uploads/2026/11/kette-505c07c8-1024x947.webp 1024w, https://dr-dsgvo.de/wp-content/uploads/2026/11/kette-505c07c8-300x278.webp 300w, https://dr-dsgvo.de/wp-content/uploads/2026/11/kette-505c07c8-768x710.webp 768w, https://dr-dsgvo.de/wp-content/uploads/2026/11/kette-505c07c8-1536x1421.webp 1536w, https://dr-dsgvo.de/wp-content/uploads/2026/11/kette-505c07c8-640x592.webp 640w, https://dr-dsgvo.de/wp-content/uploads/2026/11/kette-505c07c8-1320x1221.webp 1320w, https://dr-dsgvo.de/wp-content/uploads/2026/11/kette-505c07c8.webp 1600w" sizes="(max-width: 1024px) 100vw, 1024px" /><figcaption class="wp-element-caption">Vom Hauptzweig bis zum Gerät dauert es Tage bis viele Monate.</figcaption></figure>




<p class="wp-block-paragraph">Je nach Gerätegruppe sieht das sehr unterschiedlich aus. Standardserver mit gepflegter Distribution erhalten Kernel-Updates meist binnen Tagen bis Wochen. Mit <a href="https://ubuntu.com/security/livepatch" target="_blank" rel="noopener">Live-Patching</a> lässt sich das Zeitfenster bei kritischen Lücken noch verkürzen, ein Neustart bleibt aber der sicherste Weg.</p>



<p class="wp-block-paragraph">Bei Appliances wie Firewalls, NAS-Systemen und Routern gibt der Hersteller den Takt vor. Das Updatefenster ist Teil der Produktpflege, und der Betrieb kann es kaum beeinflussen. Am schwächsten sieht es bei Embedded- und IoT-Geräten aus. Dort laufen häufig Hersteller-Kernel, die viele Monate oder mehrere Versionen hinter dem Hauptzweig liegen, und manche Produkte bekommen Kernel-Fixes nie.</p>



<p class="wp-block-paragraph">Drei Fragen an Hersteller und Lieferanten bringen Klarheit. Wie viele Tage nach dem Upstream-Fix erscheint ein Update? Welche Kernel-Linie steckt im Gerät? Und bis wann gilt der Support?</p>



<h2 class="wp-block-heading">Was KMU bei verspäteten Patches tun</h2>



<p class="wp-block-paragraph">Am Anfang steht eine einfache Bestandsaufnahme. Linux steckt nicht nur in Servern, sondern auch in Routern, NAS, Kameras, Druckern, Firewalls und Steuerungen. Pro Gerät genügen Kernel- und Firmware-Stand und der Name des Herstellers.</p>



<p class="wp-block-paragraph">Danach wird priorisiert. Was ist aus dem Internet erreichbar, was verarbeitet Zugangsdaten, was bietet Verwaltungszugriff? Geräte mit mehreren Ja-Antworten kommen zuerst an die Reihe. Eine fehlende Korrektur lässt sich durch <strong>Abschottung</strong> teilweise ausgleichen:</p>



<ul class="wp-block-list">
<li>Verwaltungsoberflächen nicht öffentlich erreichbar machen, Zugang nur über VPN mit Mehr-Faktor-Anmeldung.</li>



<li>Geräte in eigene Netzsegmente setzen, damit ein übernommenes Gerät nicht das ganze Netz öffnet.</li>



<li>Rechte klein halten: keine gemeinsamen Admin-Konten, getrennte Dienstkonten, Container mit eingeschränkten Rechten.</li>



<li>Protokolle beobachten, damit ungewöhnliche Anmeldungen und Rechtewechsel auffallen.</li>
</ul>



<p class="wp-block-paragraph">OpenAI selbst rät im Umgang mit dem Modell zu geschichteter Verteidigung und Isolation, etwa mit Firecracker oder gVisor. Das passt auf jeden Betrieb: Ein Fehler im Kernel soll nicht automatisch alles andere öffnen.</p>


    <div itemscope itemtype="http://schema.org/FAQPage">
                    <div itemprop="mainEntity" itemscope itemtype="http://schema.org/Question">
                <h4 itemprop="name">Was können KMU tun, wenn der Hersteller Kernel-Patches erst Monate später liefert?</h4>
                <div itemscope itemprop="acceptedAnswer" itemtype="http://schema.org/Answer">
                    <div itemprop="text">Das Gerät aus dem direkten Internetzugriff nehmen und in einem eigenen Netzsegment isolieren, Konten und Rechte auf das Nötigste beschränken, Zugänge mit Mehr-Faktor-Anmeldung schützen und Protokolle beobachten. Beim Hersteller eine schriftliche Patchfrist und das Supportende erfragen und bei dauerhaftem Verzug Ersatz einplanen. Wo möglich, einen Distributionskernel mit Live-Patching statt eines Hersteller-Kernels nutzen.</div>
                </div>
            </div>

                </div><!--/ppa questions-->
    



<p class="wp-block-paragraph">Ein zweiter Hebel liegt im Vertrag. Patchfristen und Supportende gehören in Liefer- und Wartungsverträge, Neustartfenster lassen sich vorab vereinbaren. Wer unter NIS2 fällt, sollte das Schwachstellenmanagement auch auf Lieferanten ausdehnen. Kritische Fixes gehören binnen Tagen auf die Geräte, nicht erst ins nächste Quartal.</p>



<p class="wp-block-paragraph">Auch die eigene Website gehört zum Bestand, denn sie ist der Teil, den Angreifer als Erstes sehen. Ein <a href="https://dr-dsgvo.de/webseiten-check/">Webseiten-Check</a> inklusive der seit einiger Zeit automatisch zusätzlich ausgeführten Security-Checks zeigt, was von außen sichtbar ist und wo Sicherheitslücken existieren.</p>



<h2 class="wp-block-heading">Benchmarks im Wochentakt</h2>



<p class="wp-block-paragraph">Die Kurve der Spitzenmodelle steigt schnell. Gemini 4 Carbon kam etwa vier Wochen nach dem Vorgänger Argon und erreicht im ExploitGym ca. 55 %, nach ca. 42 % bei Argon. Anthropic hielt sein Modell im Frühjahr zurück, weil es nicht allgemein verfügbar werden sollte. Die Linie ist bei allen großen Anbietern ähnlich: Das stärkste Modell bleibt zunächst in kleinem Kreis.</p>



<p class="wp-block-paragraph">Benchmarks sind nicht dasselbe wie Praxis. Für die Planung zählen Richtung und Tempo, nicht die einzelne Prozentzahl. Dass die Abstände zwischen Modellgenerationen auf Wochen bis Monate schrumpfen, ist die eigentliche Nachricht. Was im Frühjahr mit tausenden gefundenen Lücken noch eine Ausnahme war, wirkt heute wie ein Vorbote.</p>



<h2 class="wp-block-heading">Open-Source-KI und Distillation</h2>



<p class="wp-block-paragraph">Wissen wandert in der KI nach unten. Bei der Distillation erzeugt ein großes Modell, der Lehrer, Antworten und Lösungswege, und ein kleineres Modell, der Schüler, lernt daraus. Das Ergebnis ist oft deutlich kleiner und günstiger, ohne alle Fähigkeiten zu verlieren. Für KMU ist das der entscheidende Punkt: Was heute in Rechenzentren läuft, rutscht binnen weniger Monate auf Hardware, die in einen Serverschrank passt.</p>



<p class="wp-block-paragraph">Offene Modelle wie GLM-5.2 und DeepSeek V4-Pro liegen bei Cyber-Fähigkeiten <a href="https://aisi.gov.uk/blog/how-far-behind-the-frontier-are-leading-open-weight-models-on-cyber" target="_blank" rel="noopener">4 bis 7 Monate hinter</a> den besten geschlossenen Modellen. 2025 waren es noch 6 bis 10 Monate. Über alle Fähigkeiten gemittelt liegt der Abstand bei ca. 4 Monaten.</p>




<figure class="wp-block-image size-large"><img decoding="async" width="1024" height="742" src="https://dr-dsgvo.de/wp-content/uploads/2026/11/abstand-717416c4-1024x742.webp" alt="Zeitstrahl zum Rückstand offener Modelle gegenüber Spitzenmodellen bei Cyber-Fähigkeiten, 2025 und Sommer 2026" class="wp-image-36210" srcset="https://dr-dsgvo.de/wp-content/uploads/2026/11/abstand-717416c4-1024x742.webp 1024w, https://dr-dsgvo.de/wp-content/uploads/2026/11/abstand-717416c4-300x218.webp 300w, https://dr-dsgvo.de/wp-content/uploads/2026/11/abstand-717416c4-768x557.webp 768w, https://dr-dsgvo.de/wp-content/uploads/2026/11/abstand-717416c4-1536x1114.webp 1536w, https://dr-dsgvo.de/wp-content/uploads/2026/11/abstand-717416c4-640x464.webp 640w, https://dr-dsgvo.de/wp-content/uploads/2026/11/abstand-717416c4-1320x957.webp 1320w, https://dr-dsgvo.de/wp-content/uploads/2026/11/abstand-717416c4.webp 1600w" sizes="(max-width: 1024px) 100vw, 1024px" /><figcaption class="wp-element-caption">Offene Modelle liegen bei Cyber-Fähigkeiten nur noch wenige Monate zurück.</figcaption></figure>




<p class="wp-block-paragraph">Für zugangsbeschränkte Modelle wie GPT-6 Cyber heißt das: Der Zugangsschutz verschafft Verteidigern einen Vorsprung auf Zeit. Offene Gewichte lassen sich nach der Veröffentlichung weder zurückholen noch überwachen. Die Monate bis zum Aufholen sind deshalb das Fenster für Grundschutz, saubere Updates und KI-gestützte Verteidigung. Zugleich nützen offene Modelle auch Forschenden und Verteidigern, denn Prüfwerkzeuge entstehen nicht nur auf der Angreiferseite.</p>



<h2 class="wp-block-heading">Lokale KI als Antwort</figure></h1></h2></h3></h4></strong></b></i></em></ul></p></blockquote></pre></a></table><div class='clearfix'></div><div style='text-align:center;font-size:110%;margin-top:48px;margin-bottom:24px;padding:16px;border:2px solid orange;'>Ganzen Artikel jetzt über kostenfreien Dr. DSGVO Newsletter lesen.<div style='margin-top:8px'><b>Weitere Extras für Abonnenten</b>:<br>Viele Artikel in PDF-Form &middot; Kompakte Kernaussagen für Beiträge &middot; <a href='/offline-ki/' target='_blank'>Offline-KI</a> &middot; Freikontingent+ für <a href='/website-check/?id=wschknl' target='_blank'>Website-Checks</a></div><div style='font-size:80%;color:#ccc'>Schon Abonnent? Link im Newsletter anklicken & diese Seite auffrischen.</div><div style='font-size:44px;color: #ff2020;font-weight: bold;'>&#x2193;</div><a href='/newsletter/?id=nlga' class='hide1' target='_blank'>Newsletter abonnieren</a></div><script>jQuery(document).ready(function(){jQuery('#nonlpos').removeClass('hide');jQuery('.pdf-download-wrapper').remove();jQuery('.pdf-no-download-wrapper').removeClass('hide');});</script><script>jQuery('.nl').click(function () {alert("Nur für Newsletter-Abonnenten!")});</script><script>document.addEventListener('DOMContentLoaded', function() {jQuery('.pdf-download-wrapper').remove();jQuery('.pdf-no-download-wrapper').removeClass('hide');});</script>
			<div id="ki_kontakt" class="ki_kontakt" style="padding-bottom: 0;">
				<h2>KI-Beratung, KI-Lösungen</h2>
				<div>
				Umfassende Beratung (fachlich, rechtlich, technisch):<br>
				<div class="ai_solution-advantages">
				<h3>Leistungsangebot:</h3><ul style="margin-top: 4px;">
				<li>Erstberatung inkl. Machbarkeitsaussagen</li>
				<li>Schulungen und Workshops für Führungskräfte, Berufsgeheimnisträger, Angestellte, Entwickler</li>
				<li>KI-Lösungen mit und ohne ChatGPT/Azure. Cloud oder eigener KI-Server</li>
				</ul>
				</div>
					<p style="margin-bottom:5px"><a id="msgbtn" class="ai_solution-contact-button" href="mailto:ki@dr-dsgvo.de">Ihre Anfrage</a><div class="ai-small">Oder Mail an ki@dr-dsgvo.de</div></p>
				</div>
			</div>]]></content:encoded>
					
					<wfw:commentRss>https://dr-dsgvo.de/gpt-6-cyber-kernel-patches-kmu/feed/</wfw:commentRss>
			<slash:comments>0</slash:comments>
		
		
			</item>
	</channel>
</rss>
