Lieber Zuschauer, dieser Untertitel wurde automatisch generiert von YouTube und dementsprechend (sehr) fehlerhaft. Wenn du kannst, hilf uns bitte gute Untertitel zu erstellen: https://c3subtitles.de/talk/2523 Danke!
[Musik]
guten
Abend so jetzt mit leichter Verspätung
in den letzten
Vortrag ich hoffe es sind alle noch
nicht eingeschlafen zu Hause vor Stream
genau und hier haben wir noch mal einen
deutschen Vortrag mit englischer
Übersetzung das heißt es gibt dort
übersetzungsgeräte oder ihr könnt es im
Stream hören the talk will be given in
German English
KLE und
STB
und wünschen dass sie uns was erzählen
wie man denn diese Gesichter
Suchmaschinen denn jetzt
stoppt ja danke schön wir sind hier um
gemeinsam gesichtersmaschinen zu stoppen
Gesichter Suchmaschine was ist das das
ist eine Suchmaschine
wo man nicht irgendwelche Wörter eingibt
sondern das Foto eines Gesichts und dann
sagt einem diese gesichters Suchmaschine
wo dieses oder ein ähnliches Gesicht
irgendwo im Internet schon mal
aufgetaucht ist das heißt wenn ich euch
z.B in der S-Bahn sehe dann kann ich ein
Foto von euch machen das in so eine
Gesichter Suchmaschine hochladen und
finde dann möglicherweise heraus wie er
heißt wo ihr arbeitet und so weiter und
so fort ist also ein Ja ziemlich böses
gefährliches Werkzeug weil Gesichter
Suchmaschinen verhindern dass wir uns
draußen da in der Offline welelt anonym
bewegen können online können wir uns
immer noch anonym bewegen trotz dieses
vielen Trackings denn
wir haben Werkzeuge wie den Tor Browser
Adblocker und so weiter
in der Offlinewelt ist das schwierig wir
könnten uns entscheiden mit Papiertüten
rumzulaufen das ist unpraktisch
also Papiertüten über den Kopf
ähm ja wir könnten versuchen unser
Gesicht zu verändern aber ständig zum
Chirurgen zu rennen ist vielleicht auch
doof und vor diesem Hintergrund ist es
wichtig auf anderer Ebene etwas gegen
Gesichter Suchmaschinen zu tun eine von
diesen gesichters suchmaschin ist
clearview ai die wurde durch diesen
schönen New York Times Artikel vor
mehreren Jahren der
Weltöffentlichkeit bekannt und clearw ai
ist eine Firma mit den Sitz in den
Vereinigten Staaten die jeden und jede
von uns immer und überall
identifizierbar machen möchte dazu
bedient sich diese Firma des Internets
und crawt dort wie andere Suchmaschinen
auch nach allen möglichen Bildern und
diese Bilder landen dann im Suchindex
die haben klein angefangen mit ich
glaube 3 Milliarden Bildern erklärtes
Ziel war ein Suchindex mit 100
Milliarden Bildern aufzubauen das heißt
für jede von uns schlappe 14 Bilder hier
auf der Erde eine ganze Menge dazu haben
sie dann alle möglichen Webseiten
gecrawt soziale Netze und so weiter und
so fort und wahrscheinlich können sie
tatsächlich viele von uns
identifizieren oft genug schlagen diese
Algorithmen die da genutzt werden aber
auch viel das heißt nur weil diese Firma
clearv ai irgendwann
behauptet diese Person ist vermutlich ja
hat den und den Namen ist dort im
Internet aufgetaucht und so weiter äh
das muss nicht wahr sein aber Menschen
neigen dazu dieser Gesichter
Suchmaschine zu glauben und ja beim
Einsatz von
gesichtserkennungssuchmaschinen führt es
dann dazu dass manchmal die falschen
Leute z.B in den Knast gesteckt werden
ähm oft genug sind das dann Leute
ähm die in den Trainingsdaten dieser
Suchmaschinen nicht besonders häufig
vorkommen das heißt
ähm als schwarze Frau hat man hier z.B
schlechte
Karten als ich diesen Artikel gelesen
habe habe ich
ja E-Mail geschrieben was ich häufiger
mache ich habe die Firma gefragt welche
Daten sie zu meiner Person haben und zu
meiner Überraschung hat die Firma
geantwortet und zwar haben sie mir ein
knappen Monat nachdem ich diese
E-Mail geschrieben hatte mitgeteilt
welche Bilder es von mir in deren
Suchindex gibt dazu hatte ich ein
originales Suchbild den zur Verfügung
stellen müssen denn dieses Bild haben
sie dann genutzt um intern eine Suche
durchzuführen und dann haben sie mir
meine Suchergebnisse für mein Gesicht
zur Verfügung gestellt und sie haben
tatsächlich zweimal mein Gesicht im
Suchindex gehabt und haben jeweils den
Bildausschnitt mit meinem Kopf hier
geschwerzt zur Verfügung gestellt und
zlich auch die Fundstellen und über
diese Fundstellen hätte man dann
herausgefunden wie ich heiße wo ich in
einem besagten jah studiert habe und
wahrscheinlich auch etwas über meine
Interessen hätte man Aussagen
können sie haben auch gesagt dass sie
das Suchbild löschen sie haben das
Suchbild aber nicht gelöscht denn drei
Monate später bekam ich ohne zu fragen
die gleiche Antwort noch mal oder fast
die gleiche Antwort ich bekam die zwei
bekannten Bilder und noch acht weitere
Bilder die mich zeigen sollten aber
diese acht für mich neuen Bilder zeigen
nicht meine
Personen das waren überwiegend Bilder
aus
dem russischen Netzwerk
wkontakte aber auch Instagram z.B ist
von clearview AI gecrawt
worden als ich diese Antwort bekam habe
ich noch am gleichen Abend eine weitere
Mail geschrieben oder in diesem Fall ein
online ein Beschwerdeformular genutzt
und zwar beim hamungischen Beauftragten
für Datenschutz und Informationsfreiheit
denn ich war der Auffassung dass
clearview Ai meine Daten rechtswidrig
verarbeitet durch die Antwort auf mein
Auskunftsersuchen war ja klar clearview
ai verarbeitet meine biometrischen Daten
und zwar ohne meine Zustimmung dabei
dürfen die das zumindest unter
datenschutzgrundverordnung nur mit
meiner Zustimmung außerdem wurde mein
Auskunftsersuchen nur unvollständig
nicht beantwortet aber das fällt
insgesamt in dem Fall hier ein bisschen
in den Hintergrund und ja der
Hamburgische Datenschutzbeauftragte hat
es im Verlauf der letzten dreieinhalb
Jahre immer wieder geschafft mich zu
überraschen die erste Überraschung gab
es im März 2020 er hat gesagt ja die GVU
ist gar nicht
anwendbar wir sind nicht zuständig
können wir nichts machen Wiederhören ähm
das war für mich sehr sehr über aschend
denn die dsgvo gilt unter anderem für
Unternehmen die Daten von Europäer innen
sammeln das heißt auch wenn dieses
Unternehmen selbst in den USA tätig ist
und auch nur dort ein Sitz hat und gar
nicht in den USA fällt es dennoch unter
die dsgvu weil es eben Personen die sich
hier in der EU
aufhalten beobachtet bzw deren Daten
verarbeitet und zusätzlich genießen wir
geometrische Daten also sowas wie unser
Fingerabdruck unser
Gesicht besonderen Schutz unter der
datenschutzgrundverordnung diese Daten
dürfen nur mit unserem expliziten
Einverständnis verarbeitet
werden irgendwie ja passierten Dinge mit
einem Journalisten und dann hat der
Hamburger Datenschützer doch ein
Prüfverfahren eingeleitet ich hatte auf
die letzte Mail auch geantwortet und
habe dem
Datenschutzbeauftragten erklärt warum
ich die dsgvo sehr wohl für anwendbar
halte und das führte dann tatsächlich
dazu dass erst einmal ein Prüfverfahren
eingeleitet wurde und über mehrere Jahre
hat dann der
Datenschutzbeauftragte Fragenkataloge an
cevu ai geschickt das gipfelte darin
dass Cevio ai erstmal nicht antwortete
aber dann dazu verdonnert wurde bei 17
Fragen für jede nichtantwort 10 000 € zu
zahlen bzw clearv ai hat dann
tatsächlich ein paar Antworten geliefert
und nur ein Jahr später
wurde dann festgestellt dass clearvw Ai
tatsächlich in der EU illegal ist der
Hamburgische Datenschutzbeauftragte hat
da dann auch CEV a aufgefordert meine
Daten zu löschen
es gab keine Aussage darüber was
passiert wenn clevw ai mein Foto noch
mal im Internet findet ähm aber ja es
war erstmal das stand und das war schon
mal ein Erfolg clearview ai ist in der
EU illegal und das war später auch die
Grundlage für Verfahren in weiteren
Ländern so insofern war das hier ja
schon schon ein großer Schritt in die
richtige Richtung aber wir sind noch
weit von einem guten Ergebnis
entfernt im Februar 21 ging es dann
weiter C ai hat bestätigt dass der
biometrische hchwert der mein Gesicht
verkörpert gelöscht worden ist kein Wort
zu den Fotos kein Wort über andere
Bilder und vor allem kein Wort über
andere Personen die auch in Hamburg
leben für die auch der Hamburgische
Datenschutzbeauftragte zuständig ist und
kein Wort über diese anderen
Bundesländer und auch kein Wort über
andere Länder in der EU und ich bin der
Auffassung dass die
Datenschutzbehörden hier irgendwie
versagt haben und auch weiterhin
Versagen insofern Motivation für diesen
Vortrag hier heute in der Hoffnung
die Behörden noch etwas mehr zum
Arbeiten zu bekommen
im Dezember letzten Jahres hat Hamburg
nämlich entschieden dass weitere
aufsichtsbehördliche Maßnahmen nicht
angezeigt sind das heißt die Behörde ist
damit fein dass mein biometrisches Datum
angeblich überprüfen können wir es nicht
gelöscht worden ist und ja das war's
m ja mit dem Ergebnis sind wir
offensichtlich unzufrieden nicht nur äh
ja weil weil die DSGV unserer Auffassung
nach mehr hergibt unserer Auffassung
weil auch neub mich hier
dankenswerterweise stark unterstützt
sondern weil in den letzten Jahren eine
ganze Menge mehr passiert ist den in
gechenland dann damals noch relevant UK
Frankreich und Italien haben Strafen
gegen clear ai verhängt eben weil cle ai
gegen die dsgvo
verstößt es wird schwierig sein diese
Strafen einzufordern aber nur weil das
vielleicht nicht ganz so einfach ist
heißt das ja nicht dass man den Kopf in
Sand stecken sollte und nichts tun
sollte er recht nicht als eine
Aufsichtsbehörde die eigentlich über
eine ja sehr gefährliche Technik hier
Aufsicht führen sollte
und ja das ganze Thema wird noch
unschöner weil es neben clearview ai
noch andere Akteure in diesem Feld gibt
z.B pimis pimis äh sitzt oder saß im
Polen
als unter anderem durch ein Artikel bei
netzpolitik.org da so ein bisschen
Aufmerksamkeit drauf gelenkt wurde ist
die Firma spontan auf diese Schellen
umgezogen und hat sich damit
vermeintlich der dsgvo
entzogen und auch hier habe ich mich
beschwert hier haben auch andere sich
beschwert bei den zuständigen
Datenschutzbehörden und es passiert
nichts also in Hamburg sind wir
regelmäßig dabei nach dem Status zu
fragen und teilweise bekommen wir
wochenlang keine Reaktion auf unsere
E-Mails und ja insofern hoffen wir dass
sich unter euch Menschen befinden die
ebenfalls Lust haben
bei gesichtersuchmaschinen nach Ihren
Daten zu fragen auch wenn das bedeutet
dass man erst einmal Daten preis geben
muss denn man muss der Gesichter
Suchmaschine ja das Suchbild übermitteln
nachdem dann gesucht werden soll
und dann anschließ bei ich sag mal
positiver Auskunft eine Beschwerde bei
den Datenschutzbehörden einzureichen im
besten Fall schaffen wir es
mittelfristig wenigstens alle
Bundesländer in Deutschland abzudecken
aber auch in Frankreich z.B gibt es
Leute die Lust haben insbesondere gegen
pimis noch mehr zu tun so geht es also
nicht weiter ich finde es ja ich regge
mich nicht so gerne auf aber es ist ein
Skandal dass ich dieser
Datenschutzbehörde so hinterherlufen
muss das ist eigentlich nicht mein Job
ich habe besseres zu tun insofern ja
Teil teilen wir jetzt eine Anleitung wie
man Auskunftsersuchen stellen kann und
wie man dann mit den verschiedenen
Ergebnissen die bei rauskommen können
umgeht nämlich dann eine Beschwerde
einzureichen dazu teilen wir dann auch
Templates und ich habe eine Testperson
mitgebracht STB STB hat das ganze schon
einmal probiert und wird einmal erzählt
wie STW das erlebt hat genau wir saßen
im Hamburger Club zusammen und haben da
drüber geredet und während kantorkel
noch erzählte was das für Firmen sind
und was die so tun und wie doof das ist
dachte ich es gibt ja eine ganze Menge
Bilder von mir im Netz die ich da auch
absichtlich freiwillig reingestellt habe
so Profilfotos in sozialen Medien gravat
habe ich auch mal ein Bild hochgeladen
hab es dann viele Jahre vergessen und
darüber kann man dann zu meiner
E-Mailadresse ein Bild finden ne und äh
also es gibt da sehr viele
anklüpfungspunkte die Suchmaschinen
finden können und dann habe ich einfach
mal dieses Standardbild was viel
verwendet wird äh kurz in pimis
reingeworfen und habe auch tatsächlich
eine Reihe von Treffern gefunden
ähm ob das gut oder schlecht ist was die
gefunden haben kann man geteilter
Meinung sein äh da ich sehr offen mit
dem Club verbunden bin ist es jetzt kein
Geheimnis äh und da gibt's dann diverse
Beiträge auf mediaaccc.de die pimis als
mich identifiziert hat ne da hätte man
wahrscheinlich auch anders drauf kommen
können aber man könnte eben
wahrscheinlich finden die auch noch mehr
ne denn das war jetzt die kostenlose
Version die man einfach auf deren
Webseite verwenden kann ich wette dass
wenn man den Geld gibt man auch noch
mehr findet oder die mehr einem zeigen
ne dazu und insofern ist das also
tatsächlich eine ganz konkrete
Geschichte ich als alter weißer Mann bin
jetzt von Stalking normalerweise nicht
so betroffen aber für andere könnte das
sehr schnell ein sehr unangenehmes
Problem werden wenn man tatsächlich so
als Privatperson einfach über so eine
Suchmaschine wirklich höchstpersönliche
Sachen über Menschen herausfinden kann
bei clearview AI ist es weiß nicht ob es
ein Vorteil ist aber zumindest ist es so
dass die ihren Dienst eher in Richtung
Strafverfolgungsbehörden oder ähnliche
Geschichten anbieten auch total kacke
aber zumindest ist jetzt so Stalking
nicht direkt das Problem bei denen ne ja
und dann habe ich habe ich das ja
erzählt in unserer Runde und kantorel
hat gesagt ja dann muss du jetzt mal was
abschicken und dann sagte ich ja was
soll ich denn abschicken und dann hat
kantorel gesagt ich bereite da mal was
vor und ja das ist seit einigen Minuten
auf der Webseite
hamburgcccde zu finden als Blogpost
und ja ein Muster schreiben was man an
so einen Dienst schicken kann äh die
Adressen haben wir auch weiter unten die
stehen da sogar direkt drin kann man
einfach als E-Mail abschicken das reicht
auch für die dsgvo komplett aus man muss
den keine Briefe oder Faxe oder sowas
schicken und
ja Copy Paste ne und man muss den
natürlich irgendein Foto mitgeben ne und
wenn ihr eh schon so Fotos im Internet
von euch habt dann nimmt eins von denen
weil das haben Sie im Zweifelsfall eh
schon gefunden ne also was auch immer
für ein Dienst äh ihr äh da verwendet
habt äh wenn das irgendwie öffentlich
abrufbar ist dann werden die das mit
Sicherheit gecrawt haben genau und dann
schickt man das ab und wenn 30 Tage lang
keine Antwort kommt dann kann man sich
beim Datenschutzbeauftragten beschweren
und wenn man eine Antwort bekommt und
die einen nicht zufrieden macht dann
kann man sich auch beschweren und dann
sucht man sich seinen
Datenschutzbeauftragten nach Bundesland
raus und erklärt denen was das Problem
ist
und dann würden wir uns sehr freuen wenn
ihr uns Feedback gebt wenn ihr antworten
bekommt von den Firmen oder auch und
insbesondere von den Datenschutzbehörden
wir haben eine Mailingliste eingerichtet
auf die könnt ihr euch subscriben und
oder ihr könnt uns auch einfach Feedback
an diese Adresse schicken
wir verarbeiten das und werden dann wenn
da entsprechendes Feedback vorliegt auch
über ein Blogpost auf hamburgccc.de über
die Ergebnisse berichten und ja wir
freuen uns wenn Datenschutzbehörden in
Deutschland und für uns persönlich in
Hamburg die Sache ein bisschen ernster
nehmen als sie das im Moment zu tun
Schein genau ja das waren die Infos von
unserer Seite und vielleicht ist Zeit
für
Fragen
[Applaus]
vielen Dank für den Vortrag gibt's noch
Fragen ich sehe schon welche istste
Frage was ist wenn ich jetzt meine
echten Daten nicht übermitteln will an
Cevio ai sondern ein echtes Foto von mir
das also mir bekannt ist dass es z.B auf
irgendeinem Social Media als als
Profilbild auffindbar ist aber einen
falschen Namen Angt vielleicht nicht
gerade Max Mustermann aber irgendwie so
schon meine Namen bisschen anders
um um um eben deren Datenbank ein
bisschen nicht so füttern oder eben
bissel ich ich habe den Anfang der Frage
nicht nicht komplett verstanden aber die
die zweite Hälfte deswegen würde ich
dich bitten den Anfang noch mal kurz zu
sagen meine Frage ist wie läuft das
Verfahren dann weiter wenn ich keine
echten Daten an die übermittel also
gegen cle gegenüber clear a ist es egal
welche Daten du ang
solange du dann über gegenüber den
Datenschutzbehörden belegen kannst dass
sie deine Daten haben haben wir was in
der Hand das reicht völlig es kann
passieren dass C ai nach deminem Ausweis
fragt das haben sie bei mir auch gemacht
ich habe nicht geantwortet und sie haben
dann trotzdem meine Anfrage bearbeitet
ich weiß nicht ob sie da inzwischen
gründlicher
arbeiten müsste man ausprobieren es
haben andere Journalist dann auch schon
geschafft als ja VIPs bei cleav eine
eine Anfrage zu stellen also unter
falschen Namen und dann bekam sie
tatsächlich das Auskunftsersuchen für
diese Person das heißt CL ai ist auch
heute schon nicht nur von
Strafverfolgungsbehörden
nutzbar ja meine Frage geht in eine
ähnliche
Richtung halt ebenfalls hauptsächlich
wenn ich so eine Frage stelle wie ich
die nicht noch füttere mit ihrer
Datenbank
m ich bin jemand der eher nicht sein
Portrait in in
irgendwelchen Medien oder so aber es hab
dem Sportverein schon auch
erlaubt Fotos vom Mannschaftssieg oder
so an die Zeitung und und auch ins
Internet zu stellen das heißt ich gehe
davon aus
dass es von mir eher Gruppenfotos gibt
als einzelne
ähm wie suche ich ohne sozusagen mein
Einzelbild was es vielleicht da noch
nicht gibt
einzufüttern ich glaube das ist relativ
schwierig aber zumindest für mich
persönlich ähm ich glaube dass diese die
müssen diese Anfragen oder ich glaube
dass sie diese Anfragen im Moment noch
komplett manuell bearbeiten und die
haben so viele Informationen bereits
vorliegen die brauchen diese Anfragen
nicht um weitere Daten in Ihre Datenbank
zu stopfen also
ich persönlich zumindest mache mir da
weniger Sorgen ne
aber es ist eine individuelle
Entscheidung
ja und dazu kommt dass man nicht ein
neues aktuelles Bild nehmen muss um dort
eine Anfrage zu stellen es ist ohne
weiteres möglich dann ein Ausschnitt von
diesem Mannschaftsfoto zu nehmen um
damit die Anfrage zu stellen und wenn
sich dann KEV ai oder pimis weigern
darauf zu antworten kann man sich wieder
beschweren
noch eine Frage zur dsgvo ein Foto von
einer Person wieso gilt es eigentlich
jetzt nicht schon als biometrische Daten
weil daraus können wir schon ableiten
wie Person ausschaut und anhand vom Bild
kann man dann den hhwert berechnen
eigentlich schon genau also das das Foto
an sich ist nur ein Foto und andere
Suchmaschinen ja auch eine Bildersuche
an so das geht und erst durch die ja
Verarbeitung dass aus dem Gesicht in den
Bildern der biometrische hchwert
abgeleitet wird wird's ein
Problem aber wie kann
das kann man das jetzt irgendin an
Unternehmen oder Organisation verbieten
dass sie das an hwert berechnen weil das
Source Code ist ja nie offen als ist
also schon manchmal offen halt nicht
immer
die Technik ist da das heißt Leute die
sich nicht an Recht und Gesetz halten
werden das immer tun können
zwei Journalisten haben das mal
ausprobiert haben keinen technischen
Hintergrund und haben an einem
Wochenende eine gesichters Suchmaschine
selbst gebaut so das lässt sich nicht
mehr verhindern aber im kommerziellen
Kontext sind Firmen eh geneigt sich an
Recht und Gesetz zu halten manchmal
zumindest
und deswegen brauchen wir strenge
Regulierung in Europa z.B über den ai
Act wo es auch relativ viel um Biometrie
geht noch sind da zu viele Ausnahmen
drin der wird gerade verhandelt und es
wäre sehr sehr schön dort ein starkes
Verbot gegen unter anderem
Gesichtserkennung zu
haben vielen Dank für den Vortrag eine
Frage jetzt ihr habt viel dsgvo geredet
und dass vielleicht die Strafen nicht
unbedingt eingetrieben werden können
wenn die Unternehmen in USA sind es gibt
in USA ja auch Gesetze z.B illino ist es
verboten biometrische Daten zu
verarbeiten zu sammeln also insbesondere
Bilder von Gesichtern wenn die Leute dem
nicht zugestimmt
haben clearview ist in den USA ansässig
ich weiß nicht gibt es dazu auch klagen
oder habt ihr weit Informationen dazu
wie Sie das umgehen oder oder händeln
die ACLU ist da sehr aktiv dabei ich
weiß nicht ob gerade aktuell noch
Verfahren laufen und es sind nicht alle
Verfahren vollständig zu ich sag mal
unseren Gunsten aus gegangen aber auch
da gibt es eine starke
Bürgerrechtsbewegung die äh gegen clearw
ai und andere Akteure tätig
ist so ich sehe gerade keine dringenden
Fragen mehr dann würde ich sagen
bedanken wir uns noch mal bei den
Speakern
dann stellt schön eure
Auskunftsersuchen und
äh genießt den Rest des Camps und damit
machen wir auf dieser Bühne für Tag 2
Schluss und wir sehen uns dann morgen
wieder
[Applaus]
[Musik]
tschüss