Videoüberwachung und Gesichtserkennung mit KI auf öffentlichen Plätzen (Podcast-Folge #46)

Datenschutz Deluxe, der Podcast rund um das Thema Datenschutz und IT mit Dr. Klaus Meffert und Stephan Plesnik.

Hallo und herzlich willkommen, liebe Zuhörer zum Datenschutz Deluxe Podcast.

Mein Name ist Stephan Plesnik und bei mir ist wie immer Dr. Klaus Meffert. Lieber Klaus, wie geht es dir heute?

Stephan, mir geht es gut, ich hoffe dir auch und ich freue mich über unser spannendes Thema.

Ja, hier auf meiner Seite ist auch alles tutti und das spannende Thema, was ich mitgebracht habe, das freut mich sehr, weil es so ein bisschen, ich weiß nicht, es erinnert mich an graue Vorzeiten und gleichzeitig auch an nicht so weit zurückliegende Vergangenheiten, die doch sehr, sehr kritisch betrachtet wurden und irgendwie dann doch überhaupt kein Problem sind, wenn sie bei uns selbst auftauchen.

Und das Thema ist nämlich Echtzeitgesichtserkennung, die, so einigen Berichten zu entnehmen.

In Sachsen und Berlin an öffentlichen Plätzen, also zum Beispiel irgendwie an Bahnhöfen, Flughäfen und so weiter, doch sehr exzessiv eingesetzt wird durch Kamerasysteme, die eben eine Gesichtserkennung von Passanten vornehmen und dann das BKA diese Informationen sogar nutzt, um sie mit bestimmten Fahndungssystemen abzugleichen.

Und das natürlich alles, ohne dass irgendjemand was davon weiß vorher, der dort fotografiert.

Oder beobachtet und mit Video aufgezeichnet wird und dessen Daten dann so ausgewertet werden.

Und das erinnert mich so ein bisschen, ich weiß nicht, war es 2013, wo man sich noch so romantisch daran erinnerte, dass die NSA irgendwie Probleme bekommen hatte, weil Edward Snowden so viel darüber erzählt hat, was die alles für dreckige Sachen machen mit personenbezogenen Daten.

Kannst du dich noch erinnern? Wo führt das bei uns hin?

Ja, also zu Edward Snowden habe ich jetzt gestern oder vorgestern gelesen, dass er gesagt hat.

Die NSA ist kurz davor, das Internet komplett zu überwachen oder zu übernehmen, weil eben eine Gesetzesänderung in den USA ansteht, wonach jeder verpflichtet werden kann, der Zugang zu elektronischen Geräten von verdächtigen Subjekten oder Firmen oder sowas hat, für die NSA-Verdächtige oder Ziele von der NSA gezwungen werden kann, sozusagen der NSA Zugang zu diesen Geräten zu verschaffen.

Das bedeutet also, Reinigungskräfte zum Beispiel oder IT-Service-Personal von extern kann gezwungen werden von der NSA.

Wenn jemand einen Service-Einsatz bei dir zum Beispiel hat in der Firma und du bist ein Ziel von der NSA, was du ja nicht weißt, sonst wäre es ja kein Geheimdienst, dann können die gezwungen werden, Dinge zu tun, die du nicht gut findest, die deine Privatsphäre maximalen.

Aber jetzt zurück zum Thema.

Ich habe das natürlich auch vernommen, dieses Problem, das eben in Sachsen und Berlin war es, glaube ich, hast du gesagt, diese Videoüberwachung stattfindet.

Ja, irgendwelche Informationen herausgegeben worden sind, auch auf Nachfrage nicht und das finde ich den eigentlich bedenklichen Punkt.

Ich finde es an sich erstmal nicht, wie soll ich sagen, ob da jetzt ein Schild steht, dieser Platz wird Videoüberwacht oder nicht, also wenn es ein öffentlicher Platz ist, spielt für mich persönlich eigentlich eine sehr untergeordnete Rolle, muss ich sagen.

Also warum soll sich mein Verhalten dadurch ändern? Das würde sich ja nur verändern, wenn ich ein Straftäter wäre und dann fände ich es gut, wenn der überwacht wird, ehrlich gesagt.

Mhm.

Es sind halt immer zwei Seiten. In China zum Beispiel gibt es ja die Überwachung derart, dass jemand, der den Müll auf die Straße wirft, rechtswidrig natürlich, will ja auch keiner, dass jemand Müll entsorgt derart, dass der Sanktionen zu verspüren bekommt.

Das finde ich sehr gut, aber andererseits möchte ich auch nicht in China leben, weil da alles überwacht wird und auch Dinge passieren, die man wirklich nicht gut finden kann. Also es ist ein zweischneidiges Schwert.

Aber wenn ich dich richtig verstehe, also du sagst auf der einen Seite…

Kannst du das zu einem gewissen Maße tolerieren oder würdest du das sogar befürworten, weil du der Meinung bist, dass zum Beispiel jemand, der irgendwas zu verbergen hat, wenn er darüber Bescheid weiß, dass er beobachtet wird, sein Verhalten wahrscheinlich anpassen wird und dadurch irgendwie durch irgendwas, was er tut, auffällig wird und dann wäre es gut, wenn er beobachtet wird, damit man gucken kann, was hat er denn vor.

Auf der anderen Seite steht dem gegenüber dann ja auch diese…

Diese Frage, okay, wenn ich so eine Massenüberwachung durchführe, dann muss das ja, dann ist ja das Problem immer, was ist der konkrete Zweck?

Ich meine natürlich kann ich dir zustimmen, ich würde auch denken, dass eine Person, die irgendwas zu verbergen hat, sich dann vielleicht anders verhält.

Aber was ist mit all den anderen Leuten, die jetzt quasi nichts zu verbergen haben?

Die werden ja unter einen Generalverdacht gestellt und das ist auch immer so dieses Wort, was ich auch in den Artikeln zu diesem Thema immer wieder gefunden habe, was halt moniert wird, dass man quasi sagt, erstmal seid ihr generell alle verdächtig, deswegen müssen wir euch überwachen und dann ist halt die Frage, wer überwacht die Überwacher?

Und das ist eben genau das, was ja auch so stark kritisiert wird, dass nämlich der Nutzen nicht überprüft wird, weil, und das wurde sehr schön formuliert, dass die Nichttreffer, also wenn ich einen Abgleich mache zwischen den Informationen, die ich sammle mit meinem Überwachungssystem und einer bestimmten Fahndungsdatenbank, zum Beispiel, dass alle Nichttreffer darüber nicht informiert werden, dass sie so gescannt wurden und kein Treffer gefunden wurde, sodass sie überhaupt wissen, dass sie Teil einer Untersuchung waren, weil das ist ja so ein bisschen dieses polizeistaatliche Anmutende dahinter.

Also die Transparenz ist glaube ich das Problem in diesen beiden Fällen Berlin und Sachsen, also das Hauptproblem beginnt ja damit, dass nicht gesagt wird, wie diese Art der Überwachung überhaupt stattfindet.

Also inklusive der Nachbearbeitung oder Verwendung dieser Daten, das ist das Problem, was ich sehe.

Es kann ja auch sein, dass das so funktioniert, so passiert, wahrscheinlich nicht, sonst würde man es ja einfach sagen, so passiert, dass man da durchaus das gut finden kann.

Ich gebe mal ein paar Beispiele, also angenommen, es kommt immer auf den Anlass an, das hattest du ja schon angedeutet, also angenommen auf einem öffentlichen Platz gibt es eine Videoüberwachung und da fängt jemand an mit dem Messer rum zu fuchteln, dann finde ich es super, dass da eine Kamera steht.

Da kann auch gleich ein Polizist kommen.

Da kann sich, glaube ich, auch was passieren.

Da kann sich, glaube ich, auch niemand beschweren, dass er zu Unrecht verdächtigt wurde, wenn er ein Messer in der Hand hatte.

Also da sehe ich jetzt keinerlei Probleme, ehrlich gesagt.

Wenn jetzt aber, also das einzige Problem, was ich momentan sehe, das ist durchaus ein relevantes Problem, was du jetzt mit Generalverdacht bezeichnet hast, wenn im Hintergrund sozusagen Menschen, die vielleicht falsch identifiziert wurden, das kommt ja durchaus vor, können wir gleich nochmal drüber reden, die dann sozusagen in einer Datenbank landen und dann weiterverfolgt werden, unsinnig.

Da müsste man sich aber mal anschauen, wie findet das denn eigentlich statt?

Weil normalerweise, soweit ich weiß, muss für bestimmte Dinge ein richterlicher Beschluss her.

Und da könnte man zum Beispiel ja auch mal versuchen herauszufinden, ob die Person X wirklich die Person X ist oder an diesem Platz auch war.

Wenn es tatsächlich jemand ist, der schon gesucht wird oder der verdächtig ist oder schon Straftäter war, dann ist es für mich vollkommen in Ordnung, wenn diese Person dann auch gesucht wird.

Dann auch, wenn sie die Person auch tatsächlich ist, die ausgewertet wurde, weiterverfolgt wird.

Es ist doch letztendlich kein Unterschied, ob ein Polizist sieht, dass diese Person da war oder ob es eine Kamera sieht.

Also das Problem würde dann losgehen, wenn du zum Beispiel unrechtmäßig als Straftäter angesehen werden würdest, weil du jemand anderes ähnlich siehst oder sowas.

Also da sehe ich das einzige Problem, ehrlich gesagt.

Also ich meine, ich habe nichts gegen Videoaufzeichnungen.

Sie müssen halt natürlich dann auch zeitnah wieder gelöscht werden, wenn es da keinerlei Anlässe gibt, diese aufzuheben, als Beispiel.

Das gibt es ja auch in der Privatwirtschaft, hat ein Gericht entschieden, ob das richtig oder falsch ist, weiß man nicht.

Aber eine Kamera darf zum Beispiel eine Selbstbedienungstankstelle, wo ja kein Personal ist, darf ihre Kameraaufzeichnungen nur 72 Stunden aufheben, außer es ist mal ein Feiertag.

Nämlich der Gedanke soll sein, innerhalb dieser Zeit hat die Tankstelle genügend Zeit, das Videomaterial auszuwerten.

Mhm.

Und wenn da jemand erwischt wird, wie er versucht, einen Brand zu legen oder abzuhauen, ohne zu bezahlen, dann kann man das innerhalb von 72 Stunden feststellen und muss sich dafür nicht drei Wochen Zeit nehmen.

Und wenn man dann festgestellt hat, derjenige, der hat versucht, die Tankstelle in Brand zu setzen, dann kann man natürlich die Videoaufnahme beliebig lange aufheben.

Also ich meine, da darf niemand was dagegen haben und das Gesetz erlaubt das auch.

Selbst dran schuld, wenn man straffällig wird, da wird man hoffentlich dafür bestraft.

Das ist meine Herangehensweise und alle anderen, die nicht Straftäter sind, sollten natürlich auch nicht so behandelt werden.

Also ich kann dir absolut zustimmen bei dem, was du sagst, bei diesem relativ spezifischen Beispiel.

Wenn wir einen Kriminellen haben, der an irgendeiner Stelle irgendwas Kriminelles tut und dann habe ich eine gewisse Zeit, meine Videoaufzeichnungen aufzubewahren, die auszuwerten und so weiter.

Das denke ich, das ist alles okay und das funktioniert auch gut. Da bin ich bei dir.

Ich glaube, da haben wir auch in Deutschland vernünftige Regeln geschaffen, die es ermöglichen, auf der einen Seite so ein Verhalten zu beobachten.

Das nachzuvollziehen, was da passiert ist, das eben auszuwerten und eben dann auch im Falle einer kriminellen Tat rechtlich nutzbar zu machen als Beweise.

Aber worum es hier ja geht, ist, dass diese Information auch relativ wahllos, also Millionen von Gesichtsbildern, davon ist die Rede, in ein polizeiliches Informationssystem übertragen wurde.

Und daraus extrahiert an das Fraunhofer-Institut gegeben wurde, die dann Tests mit diesen Gesichtsbildern gemacht haben.

Und daraus extrahiert an das Fraunhofer-Institut gegeben wurde, die dann Tests mit diesen Gesichtsbildern gemacht haben.

Und daraus extrahiert an das Fraunhofer-Institut gegeben wurde, die dann Tests mit diesen Gesichtsbildern gemacht haben.

Um wahrscheinlich irgendwelche Algorithmen zu trainieren oder irgendwelche anderen Dinge zu erforschen, was man eben mit Bilderkennung machen kann.

Und es sind nun mal Bilder von Menschen, die darüber nicht informiert wurden.

Und das ist ja so ein bisschen dann auch wieder der Punkt.

Wir haben auf der einen Seite bestimmt eine Systematik, wo wir sagen, im öffentlichen Bereich kann man eine gewisse Form von Videoüberwachung vertreten.

Und auch sagen, da kann jeder zustimmen. ich habe nichts quasi Kriminelles vor, also ist das auch okay, wenn jemand vielleicht per Zufall sieht, dass ich auch da war, als jemand anders beobachtet wurde, der was Kriminelles vorhat. Ich glaube, da sind wir uns alle einig, dass wir sagen, irgendwie müssen wir ja eine Form von Sicherheit da erzeugen. Aber auf der anderen Seite… Aber Stephan, du hast jetzt einen zweiten Punkt genannt, oder? Also der erste Punkt war ja die Überwachung an sich.

Dazu habe ich was gesagt und du hast jetzt einen Punkt genannt, der ist ein anderer Punkt, der ist sehr spannend, aber der hat jetzt erstmal wenig mit meiner Aussage zu tun. Du hast gesagt, diese Trainingsdatengeschichte, also da können wir gerne drüber reden, da bin ich auch deiner Meinung an sich, aber was die Videoüberwachung angeht, weiß ich jetzt nicht, wo du anders siehst, ehrlich gesagt. Sehe ich nicht, das habe ich ja gesagt.

Also ich sehe das nicht anders, ich sehe das eigentlich genauso wie du. Wenn wir diese präzise Unterscheidung machen können und die auch durchführen, dann ist das wunderbar. Dann sage ich, dann habe ich da nicht viel gegen.

Was du ansprachst hier, wie das in China gemacht wird und was die dann auch weiter mitmachen, ich denke, da geht es dann ein bisschen, ich glaube, überall da, wo ein Überwachungssystem eines öffentlichen Raums dazu dient, ein bestimmtes gewünschtes Verhalten zu erwirken und zu erziehen.

Ich glaube, das ist der Punkt, wo auch die Leute dann viel das Problem mit haben, weil dann hast du eben das Gefühl, dass du nicht mehr frei bist in deiner Entscheidung, wie du dich benimmst, unabhängig davon, dass natürlich bestimmte Freiheiten im Zusammenleben nicht existieren sollen, weil man eben in Gesellschaften, im Zusammenleben auf die Freiheiten der anderen auch achten muss und die nicht einfach quasi seine eigenen über diese stellen kann.

An der Stelle bin ich voll bei dir.

Wie gesagt, wenn es zu weit geht, wie im Beispiel von China, dann finde ich das wieder sehr kritisch. Also wenn es um Erziehung eines gewünschten Verhaltens durch irgendwelche Sicherheitsbehörden geht, wie die NSA das zum Teil auch versucht oder schon getan hat, dann bin ich dagegen.

Alles andere, wunderbar.

Was eben schwierig ist, ist, diese Grenze nicht zu überschreiten für die, und ich sag das jetzt mal gelinde gesagt, wenig gebildeten Leute, die mit diesen Systemen umgehen.

Und wenig gebildet meine ich nicht, dass das dumme Menschen sind, sondern ich meine, dass die Auswirkungen ihres Handelns in Bezug auf diese sensiblen Daten, die sie dort nutzen und verarbeiten, glaube ich, zu wenig trainiert ist.

Ja, also vor allem, also gut, das sind ja wohl dann meistens Beamte, Polizeibeamte oder sowas, die gewisse Vorgaben haben, an die müssen sie sich stur halten, so habe ich das zumindest mal von Beamten grundsätzlich vernommen.

Also sonst, Kreativität ist jetzt im Beamtentum nicht unbedingt die Tugend, die erwartet wird.

Das meine ich jetzt nicht böse, das ist das, was ich gehört habe.

Das ergibt sich aus der Tätigkeit an sich.

Man hat Nachteile, wenn man zu mutig ist, so habe ich es mal also würde ich es auch verstehen, dass es so ist.

Ja, weil, führt zu weit, aber das wird so sein.

Ziemlich sicher sogar in großen Teilen des Beamtentums.

Und da ist es eben so, was ich vorhin anklingen ließ, dass eben genau wie der Mensch kann eben ein Computer nicht zuverlässig Gesichter, Personen zuordnen.

Das ist uns allen ja schon so gegangen.

Da ist mal jemand vorbeigelaufen, den man kennt und derjenige hat vielleicht nur einen Hut aufgehabt oder Sonnenbrille oder andere Haarfarbe und dann hat der andere gesagt, hier kennst du mich nicht mehr, ach Entschuldigung, ich hab dich gar nicht erkannt.

Oder man hat jemand verwechselt.

Kommt ja auch dauernd, also mir kommt das im Fernsehen oder so, guck mal, der sieht dem so ähnlich, dann sagt der eine ja, der andere nein.

Und ein Computer kann das nicht besser oder schlechter, nur schneller.

Und viel mehr Vergleiche durchführen.

Der kann sich also schneller irren, das ist auch cool.

Kann sich schneller irren, kann allerdings auch dann, also deswegen muss immer der Mensch am Ende die Kontrolle haben und ich sag ja, wenn jemand ein Messer in der Hand hat, ist es egal, welche Person das ist, da braucht man keine Personalien vorher festzustellen, da kann man den einfach dann erstmal im Zweifel festnehmen, wenn er was tun will, was nicht in Ordnung ist, ja, sagen wir es mal vereinfacht.

Ist ja auch was Offensichtliches.

Warum renne ich mit einem offenen Messer in der Öffentlichkeit rum, wenn ich nicht gerade Koch bin, der irgendwie in der Öffentlichkeit eine Show macht, dann gibt es dafür wenig Grund, sag ich mal.

Es gibt aber auch viele andere Fälle, die wahrscheinlich viel häufiger sind.

Belästigung, Lärm, ja, ich meine Lärm ist auch kein Kavaliersdelikt, ja, wer zu laut ist, der gehört auch bestraft, meiner Meinung nach, dauert, ja, irgendwann lernt das dann vielleicht mal, wir reden ja nicht darüber, dass einer einmal kurz laut redet oder so, ja, das meine ich jetzt nicht, es gibt Leute, die drehen ihren Bass auf und in der Öffentlichkeit, ohne dass die anderen das wollen.

Und dann bleiben halt die Fälle übrig, die du genannt hast, wo man vielleicht im Hintergrund verfolgt wird, weil man vielleicht für einen Drogendealer gehalten wird, obwohl man keiner ist.

Wie gesagt, da muss eben der Mensch gucken, ist das diese Person und vielleicht gibt es ja auch in manchen Fällen die Möglichkeit, die Person zu befragen, ob sie an dem Tag an dem Ort war oder so, ja, und ob sie, und wenn sie dann sagt, ja, dann wird man wohl davon ausgehen können, dass diese Erkennung richtig war, ja.

Also ich meine, das kann man ja teilweise in vielen Fällen richtig verifizieren, übrig bleiben dann sehr wenige Fälle, das Problem ist, also meiner Meinung nach sehr wenige Fälle, das Problem ist eben, wenn man einer von diesen sehr wenigen Fällen ist, hilft einem das leider auch nicht weiter.

Da bin ich voll bei dir, das ist, also, klar, wenn du, wenn du da einer von den wenigen Fällen bist, dann hast du immer die A-Karte gezogen und es ist total schade, wenn das passiert. Interessant finde ich jetzt, dass du auch den Punkt aufwirfst, dass auch quasi algorithmische Auswertungen durch KIs da nicht besser sind, die sind nur schneller darin, den Fehler zu produzieren, was natürlich auch wieder, ja, sag ich mal, exemplarisch für unsere, vielleicht auch für unsere Art und Weise der Wahrnehmung eines bestimmten Themas geht.

Wir haben ja schon viel gemeinsam über KI diskutiert und ich erinnere mich da immer wieder daran zurück, dass man immer wieder an den Punkt kommt, egal wie sehr wir eine Technologie hypen, vergessen wir vielleicht auch ein bisschen so, okay, was ist denn jetzt wirklich die Nuts und Bolts, was ist wirklich die Technik, die dahinter steckt und was kann sie wirklich?

Was suggeriert sie einem Unwissenden vielleicht im Frontend, in der Nutzung versus was passiert wirklich im Hintergrund?

Wird wirklich gedacht, wird wirklich verstanden oder werden mehr nur statistische Erhebungen gemacht aus vielen Daten, die dann ein Ergebnis möglichst, ich sag mal, natürlich oder echt wirken lassen?

Wenn wir diesen Punkt mal nehmen, was ich sehr spannend finde, ist ja, wir haben ja gerade über diese Auswertung dieser Bilder gesprochen, also quasi die weitere Nutzung dieser Daten, von denen keiner was weiß, also unabhängig davon, ob ich jetzt irgendwas tue und jemand dann Alarm schlägt, werden dort einfach Bilder von mir gemacht, wenn ich in Berlin am Bahnhof bin, kann es sein, dass ich dort, mein Gesicht dort gescannt wird und diese, dieser Scan meines Gesichts wird dann zum Beispiel dem Fraunhofer-Institut übergeben, damit die damit irgendwelche Tests machen. Was auch immer diese Tests sind, weiß keiner, das wird wieder geheim gehalten, da sind wir bei dem Punkt, den du am Anfang moniert hast, von wegen die Transparenz, fehlt einfach und dann gibt es halt zum Beispiel Bundestagsabgeordnete, die sagen, dass dieses Verhalten, dass man, weil man eine Technologie besitzt, alles okay ist, was man damit tut, denn ich bin die Polizei, exemplarisch für den Umgang der Sicherheitsbehörden mit den Anforderungen des Datenschutzes steht, weil, und das finde ich sehr spannend, die quasi die, die Legitimierung, warum diese, diese Daten eingeholt werden, so verwendet, weiterverwendet werden, warum darüber überhaupt keiner informiert wird, ist vom Vorsitzenden des Bundes Deutscher Kriminalbeamter, Dirk Pecklow, der hat gesagt, wir sind als Polizei darauf angewiesen, moderne Technologien zu nutzen, um den Bedrohungen für unsere Gesellschaft durch vielfältige Kriminalitätsphänomene zu begegnen.

Das ist zwar nett gesagt, aber übersetzt heißt das, fragt uns nicht, was wir mit der Technologie tun, wenn wir sie nutzen, wie wir wollen. Und das finde ich ein bisschen, ich weiß nicht, das stößt mir dann als jemanden, der der Vorsitzende eines Verbunds Deutscher Kriminalbeamter ist, wenn der so eine Einstellung hat, wie weit würde denn dann noch, um zum Beispiel deines Beamten zurückzukommen, ein Beamter, der jetzt nicht für Kreativität bezahlt wird, überhaupt noch wahr, ob die Regeln, auf die er sich gerade bezieht, hochgradig nicht mit unserem Rechtsstaat zu vereinbaren sind.

Das ist nicht die Aufgabe eines Beamten.

Er ist Staatsdiener und so ist es auch zu verstehen. Ansonsten kann er auch ins Gefängnis kommen, wenn er seinen Job nicht richtig ausführt, im schlechtesten Fall.

Aber der Punkt ist, was du zitiert hast, eben von dem Vorsitzenden der Deutschen Kriminalbeamten oder Kriminalpolizei, wenn das die Begründung war, warum man nicht gesagt hat, wie das Ganze stattgefunden hat, das ist natürlich keine valide Begründung, aber grundsätzlich stimmt es natürlich schon, dass die Polizei selbstverständlich möglichst gute Technologien einsetzen sollte.

Jetzt bei, jetzt zu dem Thema mit dem Fraunhofer-Institut.

Also natürlich ist es, soweit ich weiß, rechtswidrig, wenn einfach unsere Gesichtsdaten verwendet werden für solche Dinge. Also da gibt es kein Gesetz dafür. Da gibt es, also es ist ein Dilemma. Wir brauchen tatsächlich, es wird auch kommen, ja, ich meine, es gibt ja andere Länder, da gibt es KI-Systeme, die trainiert sind auf Gesichtserkennung. Die sind trainiert worden mit Fotos von anderen Menschen, die nicht in Deutschland wohnen.

Und das würden wir dann benutzen.

Endlich würde es auf etwas Ähnliches oder Gleiches hinauslaufen. Das heißt, es wird gar nicht anders gehen, als dass es ein Gesetz geben wird, wonach in kontrollierter Weise die Gesichtsdaten von am besten allen Deutschen, ja, in möglichst kontrollierter Weise in ein KI-System einfließen zum Training. Der Punkt ist nämlich, dass dieses System, wie du es jetzt beschrieben hast, ich kenne die Details nicht, aber so wie es sich anhört, ist es nämlich antirassistisch und sogar antinational, muss man sagen, denn in Deutschland leben ja überwiegend Menschen mit heller Hautfarbe. Das ist so meine Lebenserfahrung, auch aufgrund der Sonneneinstrahlung und so weiter kann man das sicher sagen.

Und da ist es eben so, dass dunkelhäutige Menschen im KI-Modell ja viel seltener verankert sein werden, wenn man nur Gesichter von Menschen nimmt, die in Deutschland leben. Das ist also, glaube ich, ein Faktum. Das ist jetzt rein objektiv betrachtet.

Darf man hoffentlich so sagen.

Diese Menschen werden dann schlechter von der KI erkannt und insofern schlechter auch erkannt, wenn es um Straftaten geht.

Das heißt, der Deutsche wird üblicherweise öfter als Straftäter erkannt, als derjenige, mit der nicht typisch deutschen Hautfarbe.

So möchte ich es mal sagen.

Und das ist ja diskriminierend, aber uns gegenüber.

Da muss man sagen, mit der aktuellen Migrationspolitik ist es ja ziemlich kontraproduktiv, wenn die Straftäter von außerhalb wissen, dass sie hier besonders schlecht erkannt werden von den Kameras, weil die Kameras nur auf unsere, die KI nur auf unsere Bilder trainiert wurde. Für die Kriminalität dieser Leute ist es auf jeden Fall produktiv.

Nicht kontraproduktiv.

Ja, genau.

Also, aber es gibt eine Möglichkeit, man muss ein Gesetz schaffen, um das Ganze auf solide Füße zu stellen.

Das muss natürlich europarechtskonform sein, das könnte ein Problem werden.

Da wird es in Europa vielleicht eine Änderung geben müssen.

Dann muss man natürlich, sobald jemand hier in Deutschland geboren wird, beziehungsweise ein gewisses Alter erreicht hat, oder auch einwandert, muss man diese Personen fotografieren, beziehungsweise das Foto hat man ja dann als Behörde vom Personalausweis oder Ähnlichem, und muss dann auch in die KI einspeisen. Das heißt, möglichst jeder, der hierher kommt, muss trainiert werden. Und auch natürlich Leute, die nur zum Urlaub da sind, die sollten irgendwie dann auch eingespeist werden. Das ist also jeder.

Und wie gesagt, diese wenigen Fälle, wo tatsächlich insgeheim was passiert, und wo es jetzt nicht um Lärmbelästigung oder Messer rausholen geht, da muss eben ein Mensch, genau wie bisher, hoffe ich, doch kontrollieren, dass das auch eine richtige Erkennung war. Ich meine, es gibt ja letztendlich keinen Unterschied, ob jetzt zum Beispiel Polizisten einen Platz beobachten, weil da regelmäßigen Drogendealer aufschlägt.

Dann gibt es jemand, der sieht ähnlich aus wie dieser Drogendealer, der war noch nie da an dem Tag, ist auch kein Drogendealer, und die Polizisten denken, das ist der Drogendealer.

Das ist ja exakt dasselbe, als wenn die KI das denkt. Das wird doch wohl auch vorkommen, sowas.

Ich sehe da keinen echten Unterschied, außer dass, wie gesagt, bei KI natürlich automatisiert geht und viel mehr. Aber ich denke, es wird darauf hinauslaufen, es wird nicht anders gehen. Und da ich kein Straftäter bin und auch nicht vorhabe, einer zu sein, finde ich, ehrlich gesagt, die Vorteile für mich, wenn es ordentlich aufgesetzt wird, und aktuell scheint es nicht so zu sein, nachdem, was du jetzt auch wiedergegeben hast, wenn es ordentlich aufgesetzt wird, fühle ich mich dann in Deutschland sicherer.

Ja, also aus der Perspektive, die du schilderst und aus der du jetzt sprichst, kann ich dir da, wie gesagt, zustimmen.

Aber jetzt kommt ja die Frage, ab wann bist du denn kriminell?

Weil das ist ja auch nur eine Auslegung eines Rechtsstaats. Und wir merken ja gerade extrem stark, und da komme ich so ein bisschen auf den Zweck dieser gesamten Idee der Thematik, warum wir überhaupt, dass eine solche Überwachung notwendig ist.

Wovor will wer wen schützen? Und will er sich vielleicht eher selbst schützen?

Denn das ist ja genau der Punkt, wo wir dann so ein bisschen auch so in die Richtung abdriften könnten, was wir eben in China erleben.

Wo wir es mit einem Kontrollstaat, einem Polizeistaat zu tun haben, der sagt, ich schütze mich und meine Macht vor den Angriffen der Gesellschaft. Indem ich sehr früh Dinge identifizieren kann, wo sich Leute falsch verhalten und nicht konform sind mit dem, was ich gerne möchte, was meine Macht erhält. Und schon sind wir in einem Polizeistaat. Und wenn wir hier bei uns… Ja, aber sind wir ja nicht.

Ja, sind wir nicht. Aber die Frage ist ja, ab wann rutscht man denn dahin?

Denn China war das auch eine Zeit lang nicht.

Und irgendwas passiert und dann rutscht man dahin. Und wenn solche Prozesse immer stärker die Gesellschaft durchdringen und alle Leute sagen, naja, solange es mich nicht betrifft persönlich, weil ich nicht vorhabe, irgendwie gegen die Gesetze zu sein, dann muss ich doch nur ein Gesetz zu meinem Nachteil ändern. Schon bin ich gegen das Gesetz, weil ich das nicht mehr gut finde.

Und wenn ich dann etwas tue, dass ich das äußere, sagt mir jemand, naja, du bist ja gegen das Gesetz und ich hab das beobachtet und ich hab das rausgefunden. Und wenn das dann noch automatisiert passiert, ist natürlich… Ja, aber…

Das ist ja so ein bisschen auch die ethische Frage.

Also, ja, also ich verstehe, was du sagen willst. Aber, also erstens, du kennst China besser als ich.

Du lernst ja Chinesisch. Hast du mir mal gesagt, also ich bin kein China-Kenner.

Aber ich glaube, da gibt es schon große Unterschiede und ich sehe ehrlich gesagt, man kann der Regierung immer wieder mal was vorwerfen. Ja, das sind aber ehrlich gesagt Sachen, da kann man drüber streiten, ja, in jedem Fall.

Die Regierung, die macht einen ordentlichen Job, kann man grundsätzlich sagen.

Da gibt es Ausreißer nach oben und unten.

Aber es ist jetzt nicht so, dass man sagen kann, wir haben eine Regierung, die macht, was sie will.

Das ist nicht so. Also es gibt halt Gegebenheiten, die sind so, wie sie sind. Wir können das Geld nicht noch mehr drucken, ohne dass es entwertet wird. Also gibt es eine Geldmenge, da muss man mit arbeiten. Umwelt ist auch wichtig und so weiter.

Und es gibt ja den Verrohung der Gesellschaft, die finden in letzter Zeit statt. Angriffe gegen Politiker und so weiter.

Und insofern, auch was du sagst, ein Gesetz ändert sich.

Wir reden jetzt, also wenn es um Ordnungswidrigkeiten geht, ganz ehrlich, da stirbt keiner von, wenn er mal wegen einer Ordnungswidrigkeit belangt wird. Das passiert da regelmäßig. Bei Straftaten, man wird nicht einfach so Straftäter.

Da muss man schon ordentlich was geleistet haben.

Es tut mir leid, da fällt mir jetzt kein Beispiel ein, wie ich da reinrutschen könnte aus Versehen. Ich meine, also, klar, man könnte jetzt eins konstruieren, das, was mir einfallen würde, du kommst jemandem zu Hilfe, Notwehr, ja, und der wird angegriffen und du verteidigst den, dann kann es natürlich sein, dass du vielleicht auch ein Problem kriegst. Aber dieses Problem würdest du jetzt auch schon im schlechtesten Fall kriegen, wenn das jemand anders, vielleicht ein Polizist sogar, gesehen hätte.

Ja, Moment, aber warte mal kurz.

An dem Punkt, du hattest ja gerade gesagt, trainieren wir eine KI mit diesen Daten?

Dann lernt die KI, wenn die jetzt viele weiße Gesichter kennt, eher auch auf Weiße zu referenzieren für Kriminalität. Und jetzt kommt aber der rückschließende Punkt, den ich sehr häufig in Berichten über solche Formen von Technologien beim Einsatz in Amerika gesehen habe, dass es eben so ist, die KIs, die dort trainiert werden oder wurden, haben weitaus weniger Daten über, sag ich mal, jetzt farbige Menschen und weiße Menschen haben sie viel mehr Daten drüber.

Dementsprechend ist ein Aufkommen einer Kriminalität in der Gruppe, wo ich viele Daten von habe, gegenüber der Gruppe, wo ich wenig Daten von habe, auch schon ein Bias. Und die KI ist quasi automatisch aufgrund ihrer statistischen Bemessungen, die sie durchführt und Analysen, die sie durchführt, geneigt zu sagen, naja, Moment, in der Gruppe mit den farbigen Menschen, mit den andersfarbigen Menschen als den weißen, wovon ich viel weniger Daten habe, ist das Aufkommen von Kriminalität viel höher.

Ja, im Verhältnis stimmt das.

Die Frage ist ja, welche Statistik ich abbilde, um zu ermitteln, wer, was bedeutet denn Straftat dann quasi? Weißt du, was ich meine?

Nee, weiß ich nicht.

Also eine Straftat ist das, was im Gesetz steht, dass es eine Straftat ist.

Also, und auch, wir reden ja auch nicht über eine Statistik. Mich interessiert die Statistik eigentlich am Ende, von der KI soll ja keine Statistik generiert werden, vielleicht passiert das. Nein, nein, die KI arbeitet statistisch. Das Einzige, was KI tut…

Das ist Statistik. Ja, das sagst du und alle anderen auch, aber ich sage, das muss man gar nicht erwähnen, denn der Mensch arbeitet auch statistisch. Und das ist alles Statistik, sage ich.

Es geht halt darum, möglichst viele Beispiele zu sehen, damit man möglichst gut trainiert ist.

Als Mensch übrigens auch. Ich sehe halt mehr Menschen mit heller Hautfarbe in meinem Leben. Ja, hier im Ort leben halt nur hellhäutige Menschen, da kann ich auch nichts dran ändern.

Mit ganz minimalen Ausnahmen.

Und mir fällt es halt auch leichter, diese Menschen voneinander abzugrenzen als dunkelhäutig. Es kann auch vielleicht am Kontrast liegen, ja. Also ich weiß es nicht.

Aber das ist einfach so.

Es tut mir leid, es ist so. Und man hatte es ja am Anfang auch gesagt.

Ich sage ja theoretisch, wie es in der Praxis ist, ist eine andere Sache, aber man muss natürlich dafür sorgen, dass dieser Bias, den du zu Recht ansprichst, nicht stattfindet.

Aber dann sehe ich ehrlich gesagt kein großes Problem.

Es wird kommen. Also es wird kommen. Wir haben zu wenig Polizisten und zu viele Probleme, die gelöst werden.

Und ich meine, die Gesellschaft wird immer rauer. Da werden Politiker, Politiker verprügelt.

Am Ende will keiner mehr Politiker werden.

Dann leidet die Demokratie noch viel mehr drunter als unter den Kameras.

Aber wir sind, glaube ich, einer Meinung, um das jetzt am Schluss zu sagen, so wie es gelaufen ist in Sachsen und Berlin und auch mit dem Fraunhofer-Institut, wie du es dargestellt hast, ist es absolut nicht in Ordnung und so kann man das nicht machen.

Ja, da stimme ich dir auf jeden Fall voll zu.

Bei dem Thema der Trainingsdaten sehe ich das vielleicht etwas anders.

Das kommt vielleicht auch dadurch, dass an der Stelle meiner eigenes Wissen, ein bisschen biased ist, weil ich natürlich auch andere Informationen als Grundlage habe als du. Von daher ist es auch okay, dass wir das unterschiedlich betrachten und beleuchten.

Im Endeffekt würde ich mal sagen, heimliche Kamerasysteme sollten nicht eingesetzt werden. Das sollte transparent gemacht werden. Also am wichtigsten ist die Transparenz, dass die Leute, die da irgendwo auf so einem Platz sind, wissen, okay, hier werde ich so und so behandelt. Das ist das, was mir hier passiert. Dann können sie diesem Platz fernbleiben oder sie können sich vermummen und wenn jemand fragt, wieso bist du da vermummt rumgelaufen und sagen, naja, ihr filmt mich, ich habe keine Lust drauf, dass ihr mich filmt, dann muss das genauso fair sein, wie dass jemand sagt, ich habe kein Problem damit, dass ich gefilmt werde, weil das ist ja nun mal auch so ein bisschen Teil dieser Idee unserer Datenschutzgrundverordnung, dass man da eben freiwillig selbstständig bestimmen kann, wie die eigenen personenbezogene Daten genutzt werden.

Ich glaube, dann hätte die…

Du gehst doch nicht über den Platz nicht, nur weil da steht, dass es gefilmt wird. Also das macht doch kaum jemand, vor allem Leute, die da noch nie waren.

Habe ich auch nicht gesagt.

Ich habe ja gesagt, du kannst dann die Entscheidung treffen, ob du dir zum Beispiel eine Kapuze überziehst, weil du das nicht möchtest, dass dein Gesicht dort gescannt wird.

Und das muss dann genauso fair sein, wie derjenige, der sagt, für mich ist das kein Problem.

Dann, finde ich, ist das absolut okay.

Aber wenn du aufgrund der Tatsache, dass du mit einer Kapuze über deinem Kopf über diesen Platz läufst und dabei gefilmt wirst, dann als potenzieller Straftäter oder Krimineller gilt es, weil du dich vermummst, dann haben wir ein Problem. Und das ist genau der Interpretationsteil, den ich auch gerade meinte mit dem Bias der KI-Systeme.

Denn wer das Bildmaterial am Ende auswertet, ist immer ein Mensch. Aber die Grundlage zur Auswertung bestimmt darüber, welchen Rückschluss ich führe.

Und das ist das riesige Gefahrenpotenzial, was hinter einer Bias-KI steckt, die mir in Sekunden schnelle bestimmte Ergebnisse gibt, wo ich als Mensch vielleicht wochenlang mich hätte durchwühlen müssen und dadurch ganz andere Einflüsse mit in meine Bemessungsgrundlage und das Ergebnis, meine Analyse einfließen, als eben wenn es mir ein KI-System vorkaut und sagt, naja, die Wahrscheinlichkeit sagt das.

Das ist das, was ich meinte mit dem statistischen Verhalten.

Ja, wir sind ganz überwiegend einer Meinung. Ich glaube, zusammen könnten wir ein sehr gutes Gesetz bauen.

Ich würde es hoffen, aber auf der anderen Seite macht das, glaube ich, viel weniger Spaß, als sich darüber zu unterhalten, was andere in die Gesetze bauen.

Ja, wobei, ich würde da schon gerne was beitragen, ehrlich gesagt. Wir haben ja sehr gut die Ideen entwickelt, jetzt wir zwei.

Du hast ja auch eine super coole Definition von KI gebracht.

Da muss ich ganz ehrlich sagen, wenn das, was wir da diskutiert haben, damals in der anderen Folge, da bin ich voll bei dir. Wenn das im Gesetz drinstehen würde, fände ich das tausendmal besser, als das, was jetzt tatsächlich drinsteht.

Weil wir dürfen ja nicht vergessen, das Ding ist ja gekommen.

Das Ding war ja da. Also das ist ja da.

Das, worüber wir diskutiert haben, was eigentlich vielleicht anders formuliert werden sollte.

Es ist halt in der Demokratie schwierig, eine exakte Definition zu finden, weil eine Definition, eine Definition lebt nicht von einer Mehrheitsmeinung.

Nee, meistens nicht.

Da hast du recht. Meistens ist das definitiv nicht so. Ich will nicht sagen nie, weil dann schließen wir wieder den einen Einzelfall aus, der am Ende beweist, dass wir Unrecht haben. Aber meistens ist das auf jeden Fall nicht so.

Abschließend würde ich sagen, können wir sagen, wir sind uns einig, heimliche Sachen sollten nicht heimlich sein. Transparenz ist das Wichtige als Grundlage. Und Leute, die im Nachgang sagen, naja, wir müssen das machen, weil sonst haben wir keine anderen Möglichkeiten, sind auch immer Leute, die quasi so ein bisschen den Umweg um die Transparenz suchen, anstatt zu sagen, hey, so genau haben wir das gemacht aus den und den Gründen, was ja auch möglich wäre, wenn es da nichts zu verbergen gäbe, was vielleicht irgendwie nicht so schön ist.

Auf der anderen Seite kann es genauso gut sein, dass sich die Leute einfach auch viel zu wenig Gedanken im Vorhinein machen. Und erst wenn dann einer kommt, der sich Gedanken gemacht hat und sagt, hey Leute, wie läuft das eigentlich bei euch?

Die erstmal sagen, ja Moment, wir haben ja einen Job, den wir machen müssen.

Aber es ist okay, wir gucken da jetzt gemeinsam nach und dann können wir das anpassen.

Das sind ja auch Systeme, die häufig oder Prozesse, die häufig so ablaufen. Von daher denke ich, es ist wichtig, dass wir darüber diskutieren. Es ist wichtig, dass wir uns das von mehreren Seiten betrachten.

Und es ist wichtig, dass wir am Ende des Tages den Zweck, warum wir solche Technologien einsetzen, eben auch immer im Blick behalten und nicht aufgrund von Möglichkeiten von Technologien dann selbstständig da was machen.

Damit hast du alles Wichtige gesagt, finde ich sehr gut.

Super cool. Dann würde ich sagen, danke ich dir vielmals für das Gespräch. Ich habe wieder eine ganze Menge gelernt und ich finde deinen Standpunkt auch sehr interessant, auch wenn ich nicht in allen Teilen zustimmen konnte.

Aber ich glaube, wie du sagtest, gemeinsam sind wir da doch ziemlich auf derselben Wellenlänge.

Und ich hoffe, ihr da draußen habt davon auch profitiert, dass wir uns hier so ein bisschen darüber ausgetauscht haben und könnt euch jetzt selber vielleicht ein besseres Bild über solche Dinge machen oder vielleicht an anderen Stellen mitdiskutieren, auf anderen Ebenen. Lieber Klaus, vielen Dank von meiner Seite.

Deine abschließenden Worte und dann sind wir auch durch für heute, würde ich sagen. Ja, Stephan, aufgrund der fortgeschrittenen Zeit würde ich sagen, wir haben das Wichtigste herausgearbeitet und ich denke, die Kameraüberwachung mit KI-Unterstützung wird kommen in der und der Form, hoffentlich in einer sehr guten und dann sehen wir weiter.

In diesem Sinne, macht's gut. Tschüss.

Tschüss.

Das war Datenschutz Deluxe.

Du willst mehr spannende Themen oder Kontakt zu uns? Dann besuche Klaus Meffert auf seinem Blog Dr. DSGVO und Stephan Plesnik auf seinem YouTube-Kanal Datenschutz ist Pflicht.

Bis zum nächsten Mal.