Lieber Zuschauer, dieser Untertitel wurde automatisch generiert von Trint und dementsprechend (sehr) fehlerhaft. Wenn du kannst, hilf uns bitte gute Untertitel zu erstellen: https://c3subtitles.de/talk/724 Danke!
So. Hallo,
wir haben heute den Vortrag Technologien
für und wider die digitale Souveränität.
Allerdings nur mit zwei der drei
angekündigten Sprecher.
Allerdings haben wir natürlich immer noch
ausreichend akademische Feuerkraft
am Start. Wir haben Professor Volker
Grasbrook von der Uni Lüneburg
und Rüdiger Weiss von der Bauhaus
Hoch Bauhaus Hochschule für Technik.
Moment. Moment. Moment.
Von der Hochschule für Technik Berlin
Bauhaus.
Der Stefan Lucke Stefan Lux
ist leider nicht da, auch wenn er die
coolere Universität hat.
So bitte ein Applaus für unseren
Sprecher.
Also ja, ich bin Micro auf.
Ja, okay.
Vielen Dank auch für die freundliche
Einführung. Wie gesagt, das sind
gemeinsame Arbeit zwischen mir, Stefan
Lux und Volker Grasbrook
und wie er vielleicht gemerkt hat,
Technologien für und wider die digitale
Souveränität.
Das ist ein bisschen komischer.
Vortrags, Titel und damit habt ihr
natürlich recht.
Der Titel ist auch derselbe Titel
einer Ausschreibung des Bundes
Ministerium für Justiz und
Verbraucherschutz.
Und die wollten halt Informationen
über digitale Technologien haben.
Und da haben wir gesagt Da schicken wir
mal hin und erfreulich oder vielleicht
sogar bissel. Überraschenderweise haben
wir da die Ausschreibung gewonnen
und wir möchten jetzt
heute hier zusammen mit meinem
Kollegen Folger Großmut einige
Teilaspekte nochmal beleuchten.
Wir haben viel zu viel Folien.
Wir werden an einigen Stellen vielleicht
etwas zu schnell sein.
Wir verweisen aber da gerne drauf.
Und da möchte ich auch dem Ministerium
danken, dass im nächsten Frühjahr diese
Studie ja durchaus auch veröffentlicht
wird. Und da sind einige Details
natürlich etwas ausführlicher da.
Trotzdem gibt's eine ganze Reihe von
Sachen, wo in diesem Jahr wirklich
die Sache sehr
stark eskaliert ist.
Und wenn man wie wir auch schon
jahrzehntelang die Sache angucken,
ist es trotzdem ein Punkt, wo ich sage Es
sind einige Sachen da, die so
wichtig sind, dass man sie jetzt
grundlegend diskutieren müssen.
Und relativ gleich am Anfang
wäre ich durchaus
an einer Stelle, nämlich wenn es
der Sicherheit, der das Internet
der Dinge geht, durchaus Positionen
vertreten, die ich irgendwie über den
letzten 20 30 Jahre so nicht vertreten
habe. Und daran erkennt ja vielleicht
doch, dass die Sicherheitslage
da doch durchaus etwas
bedrohlich geworden ist.
Also kein Vortrag in den letzten 15
Jahren ohne auch einen Bezug auf
Microsoft.
Der wird jetzt ein bisschen freundlicher
darstellen und er werde gleich merken,
warum das freundlicher ist.
Es wird vielleicht auch nicht allen
gefallen und
nochmal wirklich grundsätzlich zu
diskutieren wie geht man auch
gesellschaftlich mit den
Entwicklungen aus?
Wir können uns bemühen.
Einige technischen Entwicklungen
gesellschaftlich vorauszusagen.
Hat die Auswirkung von technischen
Entwicklungen auf gesellschaftliche
Entwicklung. Wir können darauf an
arbeiten. Sagen wir mal Technologien zu
präsentieren, die politisch Gestalten
ermöglichen.
Aber an einigen Stellen müssen wir halt
wirklich die aktuelle Situation mal
vorführen. Und das ist in der Tat
nicht besonders lustig.
Oder wie es Schneier formuliert
hat Es ist irgendwie ein bisschen das
Ende von Spaß und Spiel.
Ich vergleiche da immer ganz gerne von
Ron und Frank.
Die Talks Security neigt mehr aus dem
letzten Jahrtausend und
wenn ich irgendwie sag warum haben wir
Probleme im Internet der Dinge?
Ist eine relativ einfache
Schlussfolgerung Computer sind
haftbar.
Wenn man Computer ans Netz hängt, sind
sie übers Netz haftbar.
Eingebettete Systeme sind
überraschenderweise Computer und kleine
Übungsaufgabe.
Kann man dann relativ einfache Schließen
finden, dass wir natürlich,
wenn wir eine intelligente Thermostat
Steuerung haben, einen vollwertigen
Computer teilnehmen im Internet haben,
wo sich halt natürlich Leute auch unter
Umständen von draußen drastisch
interessieren.
Und nochmal Schneier Das
auch so formuliert.
Man muss es ganz klar sagen Es ist ein
eklatantes Marktversagen.
Das hängt damit zusammen.
Die wetteten Geräte werden in großer
Stückzahl verkauft zu kleinen
Preisen und stecken dann in den
Systemen lange Zeit drin, ohne dass
jemand sich vor Augen führt, dass das ein
angreifbarer Internet Rechner ist.
Dadurch haben wir ein Sicherheits
Disaster. Die wirkliche Alptraums
sind noch nochmal ein kleiner Hinweis.
Dass 900 000 Telekom Kunden aus
dem Netz geflogen sind, war Ergebnis
eines total dilettantischen
Programmierers.
Wir müssen davon ausgehen, dass wenn
Leute nicht komplett auf den Kopf
gefallen sind, wir wirklich Millionen
und Abermillionen Geräte da draußen
haben, die jederzeit für Angriffe genutzt
werden können.
Und da hab ich mir mal erlaubt, wirklich
drauf hinzuweisen.
Ich sage jetzt nicht, dass es eher damit
rechnen müsse, dass demnächst eine Drohne
in euren Kühlschrank einschlägt.
Bloß wenn sich euer böser böser
Kühlschrank an einem Angriff gegen
US-Militärs Systeme beteiligt,
dann ist es nach der aktuellen Rechtslage
ein kriegerischer Angriff, wo die
amerikanische Regierung das Recht hat, da
militärisch drauf zu reagieren.
Ich weiß nicht, ob sie das machen.
Wir haben ja ein großes Vertrauen in die
Klugheit und abwägende Haltung
der amerikanischen Regierung schon seit
Jahrzehnten.
Das ist also wirklich ein
Punkt, da wo ich sag,
wir müssen da einige Sachen neu denken
und mir hat es wirklich die nächsten
drei Folien, die gar nicht so grimmig
aussehen, haben mir wirklich fast schon
schlaflose Nächte bereitet.
Denn unsere Forderungen zu sagen, wir
brauchen sowas wie einen, wie einen TÜV,
nein, denn eine verändernder Hersteller,
Haftung usw. das sind natürlich Sachen,
die unter Umständen auch uns in
Hackerszene und in Open Source Developers
durchaus behindern können.
Also insofern hab ich mir das nicht
reicht genommen und das war auch Ergebnis
sehr umfassender Diskussionen, die da
stattfinden.
Wir formulieren, dass möglichst
wenig ausgreifende, aber
wir sagen, wir brauchen eine Definition
der Lebenszeit der Geräte und wir
brauchen für die Lebenszeit Garantien,
dass diese Sicherheitsupdates zur
Verfügung gestellt werden.
Zweitens.
Wir müssen dafür sorgen.
Diese Dinger kosten
3 4 Euro Thermostat intelligente
Sachen und sind dann möglicherweise über
Jahrzehnte drin.
Das ist ein sehr schnelllebiger Markt,
insofern verschwinden da auch Hersteller.
Insofern ist wirklich ein Albtraum und
das müssen wir Ihnen nicht philosophieren.
Es gab den Fall von der chinesischen
Kamera, wo teilweise aus dem Markt
genommen ist. Wir müssen damit rechnen,
dass die Firmen schlicht und einfach
nicht mehr existieren und wir dann
Systeme dran haben, die wir nicht mehr
retten können.
Insofern
fordern wir eine wohl definierte
Lebenszeit. Da haben die Leute
dann auch marktwirtschaftliche
Freiheiten, das vernünftig zu wählen.
Anschließend müssen wir allerdings sagen
Wenn ihr das nicht mehr macht, dann
veröffentlicht die als OpenSource, damit
wenigstens andere sich drum kümmern
können.
Und wie gesagt, dann noch vielleicht
der kritischste Punkt nicht
auch zur Diskussion führen kann,
da diese Firmen relativ schnell
verschwinden. Unter Umständen
haben wir uns auch nach einigen Schmerzen
gesagt wir fordern auch eine
Hinterlegung der Source-Code bei
Treuhändern, die in dem Falle,
dass die Firma pleite geht, halt einfach
sagen können Okay, jetzt tun mir die
Sachen als OpenSource zur
Verfügung stellen und
ermöglichen wirklich in irgendeiner Weise
die Sache zu fixen.
Also insofern vielleicht hier auch
nochmal der Punkt, der in den alten
Vorträgen auch da war.
Open Source ist wirklich ein Teil
der persönlichen Souveränität, weil
wir sonst nicht wissen, was für komische
Sachen unser Kühlschrank mit der
Kaffeemaschine macht.
Also insofern brauchen wir wirklich bei
Geräten, die nachher und
nochmal man muss jetzt gar nicht mit
US-Drohnen rechnen.
Aber wenn die Nein of Service angriff ist
dann irgendwann ein Abwehrmechanismen
dann das Netz platt macht, dann ist es
durchaus nicht unüblich.
Und wenn diese Geräte am Netz halt
irgendwie unsere Heizung steuern, dann
kann das unheimlich unlustig sein.
Es gab gerade gestern noch in einem
Vortrag nochmal Verweis auf diese
finnische Heizungs Systeme
wurden, die Nein of Service auf diese
Messfehler dazu führte, dass Arme finden
in im Kalten saßen dann ein ziemliches
Weilchen. Also alles nur beschränkt
lustig.
Kommen wir zu der generellen Diskussion
Geschlossene und offene
Sicherheitsarchitektur.
Nun, ich habe versprochen, dass Microsoft
auch hier geehrt wird und ich
habe etwas gelernt, nämlich die schöne
Bezeichnung ein Security
Feature Bypass Vulnerabilität, also
eines Sicherheits Features, um die
Jungs Verletzlichkeit.
Was ist da passiert? Nichts aufregendes,
nur dass irgendwie möglich ist, dass
ein Recht, ein Angreifer, der irgendwie
zu physikalischen oder als Admin Zugriff
zu dem System hat, die Möglichkeit
hat, die Integrität
Stax abzusetzen.
Beliebige Sache auszuführen.
Moment. Es geht sogar noch weiter.
Die Secure Boot zu deaktivieren.
Die Validität Checks zu
machen, den Bits locker anzugreifen,
die die weiße Encryption zu machen.
Ich glaube, ohne jetzt allzu sehr
Microsoft Nazis trennen so gut wie alles,
wenn ich es nicht so richtig stosch.
Es wurde nach einer Zeit gepflegt listet,
aber da gibt's auch noch Nachfolge
schwärzen. Wie gesagt, aus Zeitgründen
will ich jetzt hier nur einmal darauf
hinweisen, dass es durchaus
Firmen gibt, geschlossene Systeme.
Die eine Sache möglicherweise und das
ist halt für Hacker schon mal ein
bisschen sehr schräg halt einkleines
Datenpaket sorgt dafür,
dass die Sicherheits Infrastruktur
umfassend umgegangen werden kann.
Aus dem Grund muss ich sagen,
ist Handlungsbedarf noch aus einem ganz
banalen Grund ist Handlungsbedarf
z.B. diese drastisch Computing
Infrastruktur baut auf 2048
Bit Schlüssel länger aus.
Das ist nach BSI selbst vermittel
lang laufende Anwendungen
keine gute Idee.
Also wir brauchen alternative
Vertrauenssache, da hab ich die letzten
Vortrags schon gemacht.
Und was ich interessant finde ist, dass
Microsoft relativ clever reagiert.
Einer der letzten Forderungen habe ich
relativ massiv darauf hingewiesen, dass
wenn Microsoft die Daten in Amerika
speichert, wir ein ein
Datenzugriff Alptraum haben.
Und Microsoft hat es scheinbar angehört,
sicher auch aus anderen Quellen und hat
dieses von vielen belächelte
Projekt gemacht, mit der Deutschen
Telekom eine deutsche Cloud zu schaffen.
Das Interessante ist, das geht im Moment
geschäftsmäßig komplett durch die Decke.
Da ist ein Riesen.
Hier bedarf es war ein
Vortrag von dem CEO von
Microsoft, da ja durchaus gesagt
hat, dass nach kürzester Zeit sie
ihr Rechenzentrum in Ostdeutschland
massiv verdoppeln müssen.
Okay. Insofern ist es interessant, dass
Microsoft auch durchaus eine Bereitschaft
signalisiert hat, der alternative
Vertrauens Banga in das System zu
bringen, was ermöglichen würde,
für Firmen und staatliche Stellen halt
anders auszuweichen.
Natürlich ist wahrscheinlich nicht unser
Druck relevant, sondern einfach die
Tatsache, dass zum Beispiel Russland und
China Microsoft mit ähnlichen
Begründungen schlicht und einfach aus
ihren Beschaffungen Anträgen
rausgestrichen hat.
Also insofern ist das glaube ich ein ganz
spannender Punkt.
Im nichtstaatlichen Bereich haben wir,
glaube ich gute Erfahrungen mit
gemeinnützigen Studien, z.B.
auch Studien, die gemeinnützige
Stiftungen wie z.B.
auch Baykal
hier jetzt gleich nochmal einen Sprung in
die in die Technik zumindest mal ein
bisschen grob zu zeigen.
Wir haben Techniken, wo man Vertrauen
teilen kann.
Wir haben sehr monolithisch Sache, wir
haben sie Kriterien geschaffen und das
sind nicht nur Academie eine Sache.
Das wird z.B. beim DNS Rutschky
durchaus durchgeführt.
Das sind total lustig Veranstaltungen
mit irgendwie schon spirituellen
Schlüsselt Zusammenfügung.
Aber es funktioniert.
Also wir können als Kryptographie da
durchaus Techniken niemand jemals sagt.
Wird man Vertrauen verteilen, dann
können wir euch da helfen.
Kommen wir zu einem gruslig quis.
Eric Schmidt hat 2011 erklärt Wir
haben eine Technologie gebaut.
Die ist ganz fantastisch.
Aber es ist die einzige Technologie,
die Google jemals entwickelt hat
und dann gesagt hat Es ist zu gruselig.
Wir verwenden die nicht.
Ich habe da eine Idee, was das sein
könnte.
Ich wäre eigentlich auch nicht
draufgekommen.
Ehrlich gesagt, die Vorstellung, dass
Google irgendetwas war entwickelt,
was total toll läuft und sie das nicht
zur Verfügung stellen das ist
das Zitat. Hat mich selber aus der rororo
ein bisschen aus der Rolle geschubst,
obwohl ich eigentlich
genau von der anderen Seite her
mich genähert habe.
Es geht um Gesichtserkennung
und da sind ein paar Dynamiken da.
Die sind gruselig.
Also in der ersten. Außer wir wussten ja,
dass NSA usw.
Gesichtserkennung macht.
Es bedeutet, dass eine Demonstration ab
filmen und die Leute haben, die hatten.
Wir haben vielleicht in England ein
großes Volk Festival wurde rein
Lemper ist und mit hd.
die Gesichter raus und genau weißt wo die
sind.
Nochmal das ist das Aufregende und das
Großartige an Sachen.
Technologien, die die Geheimdienste
haben, haben früher oder später auch
Hacker und damit vielleicht zwei Jahre
später auch wirklich
die normale Bevölkerung.
Und das kann wirklich gruselig werden.
Es gab ein russisches Kunstprojekt, wo
ein Künstler dann gemeint hat Leute,
damit kann man ja alle Leute erkennen
und was passiert dann halt denen im
Internet? Das Russische Tut chan
gab's ein paar Leute, die sind
hergegangen und haben pornografische
Filme genommen oder Sexarbeiter Seiten
und haben die Damen dort die
anonymisiert und massiv gestalkt
und zwar mit Scripten.
Das bedeutet wirklich eine eklatante
Gefährdung. Und das trifft hier
auch homosexuellen Demonstrationen.
Auch normale Opposition Sache.
Dieser Verlust an Privatsphäre
ist eine Sache, wo man erst einmal sich
hinsetzt und dann auch langsam versteht,
warum Google da auch ein bisschen Angst
gekriegt hat bei der Sache.
Und wenn man sich dann heute
Entwicklungen anguckt, möchte ich aus
Zeitgründen auch nur auf einen
exzellenten Artikel auf Netzpolitik
von einer Celli verweisen,
die auch wirklich deutlich auf
schlüsselt. Hat das insbesondere für
transsexuelle Sexarbeiter die Anonymität
wirklich überlebensnotwendig ist.
Um es nochmal ganz klar zu sagen Es gibt
genug Länder, wo nicht nur
Beteiligung an der Sexarbeit mit
drakonischen Strafen belegt
ist, sondern Homosexuelle nochmal
per per Definition
mit Strafrecht verfolgt werden.
Man kann sich überlegen, was das dann für
Leute bedeutet, die in beiden Gruppen
da sind.
Aus diesem Grund haben wir auch da
relativ klar Position bezogen.
Und zwar nicht, weil ich eine
Diskussion einsteigen will, die politisch
recht unerfreulich läuft, sondern
einfach mal wirklich zu sagen Wenn wir
Leute schützen müssen, dann müssen
wir erkennen, dass erstens Datenbanken
immer wieder verloren gehen.
Ich kann keine Datenschutz Zusicherungen
von der Bundesregierung glauben, die
nicht einmal ihr eigenes Parlament gegen
Angriffe schützen kann.
Und aus dem Grund.
Und aus diesem Grund muss man einfach
auch mal als Hacker sagen Wenn wir
Daten nicht schützen können und
Menschenleben gefährden, dann dürfen wir
die nicht erfassen.
Ganz klare Ansage.
Wir haben uns noch nie besonders
einfach gemacht, hier klar Stellung zu
nehmen, aber uns war es wichtig, das
nochmal zu sagen.
Diese Rosa Listen oder Sexarbeiter
Register, die übrigens das letzte Mal im
Nationalsozialismus relevant waren,
sollte man auch mal vielleicht kurz
erwähnen.
Gefährten ganz eminent real
existierende Menschen.
Dito ist es auch die Sache Pflicht.
Beratung tut auch die Anonymität
beschädigen. Hier können wir sogar etwas
helfen und sagen es gibt durchaus
dazu komme ich im letzten Teil ATIS dazu,
uns Methoden, Leuten anonyme
Sachen zu scheinen.
Das bedeutet, sie gehen irgendwo hin,
lassen sich eine Bescheinigung ausstellen
und der Ausstellenden weiß nicht,
welche Identität sie haben.
Also wenn die Leute wirklich Schutz ernst
nehmen wollen, ist das hier ein Punkt, wo
sie selbst bei der im Moment
unbefriedigten Gesetzeslage hier
weitergehen können.
Dito auch nochmal das Ausweispflicht ist
abzulehnen. Hier wurde durchaus
berücksichtigt, dass hier Pseudonyme
verwendet werden sollen.
Trotzdem Protoss sie nicht mehr halt
Pseudonym.
Die können wirklich mit den ganzen
Verfahren gegriffen werden und Fakt
nicht. Dann ladet halt keine Bilder
auf Facebook oder bei den Russen.
Der Fall war auf das russische Facebook
hoch. Es gibt genug andere Leute,
die die Bilder hochladen.
Insofern wir müssen einfach wahrnehmen,
dass anonyme Ausweise mit
einem Bild inzwischen nicht mehr anonym
sind. Und dann müssen wir halt gucken,
wie wir da raus weitergehen.
Wir haben allerdings dann auch noch eine
weitere Empfehlung Wenn ihr Massen
Daten erhoben werden, halten wir das auch
für problematisch.
Wenn die Leute sich nicht durch gute
Beratung von Verfassungsrichtern, vom
Bundesrat und von allen Leuten, die im
Sozialbereich überzeugen lassen.
Nehmen wir das verärgert zur Kenntnis,
weisen aber darauf hin.
Auch hier haben wir durchaus Techniken,
die hier helfen, nämlich maßgeblich
die sogenannte Differential Privacy.
Das ist eine Technologie, die ermöglicht,
statistische Daten auszuwerten
und trotzdem einen gewissen Schutz der
Privatsphäre zu haben.
Das sind Arbeiten von Frau Zint Druck
von Microsoft von 2006.
Die sind sehr mächtig ist.
Schöne Mathematik ist nicht so schwierig
und Mathematik wie im Bereich der
Zahlentheorie ist durchaus, wenn man
sich hinsetzt, nachvollziehbare
Statistik.
In unserer Studie werden wir auch
konkrete Parameter angeben, die wir
empfehlen. Oder hier nochmal das
deutliche Zitat von Stefan Lux Wer
vertrauliche Daten in statistischen
Datenbanken verarbeitet, ist gut beraten,
die Vertraulichkeit mit diesem Ansatz zu
unterstützen. Also nochmal hier
vielleicht auch überraschend für mich
durchaus großes Lob hier für Microsoft
Resort.
Die haben da wirklich sehr gute Arbeit
gemacht. Das ist jetzt seit 10 Jahren
raus und die Mathematik
ist so, ist so wirkungsvoll.
Aber.
Nicht so weit weg von der normalen
Mathematik, die immer unterrichtet ist,
keine hat, hat er Forschungs Mathematik,
das wird es eigentlich relativ gut
nachvollziehen, sondern und wie gesagt,
in der Studie geben wir ja durchaus ein
paar Parameter Empfehlungen.
Gut, kommen wir zum zum Abschluss
zu wirklich den erfreulichen Sachen.
Was kann man denn mit Kryptografie
noch erreichen?
Und was ich wirklich hier nochmal voraus
stellen will die sogenannte Anonyme an
der Station.
Das ist eine Kombination von sogenannten
blinden Signaturen und sehr knowledge
Techniken.
Wenn wir die kombinieren, können wir z.B.
das so komme ich gleich später im Bereich
Trusted Computing durchaus garantieren,
dass ein System gewisse Sicherheits
Eigenschaften hat, ohne die Identität
des Systems aufzudecken.
Blinde Signatur vielleicht nochmal
erklärt. Da ist die Magie,
dass man in der Lage ist, also alles
verschlüsselt. Ein Dokument gibt es Bob
zum Unterschreiben.
Bob unterschreibt die verschlüsselte
Fassung mit einem zusätzlichen
Wissen. Es ist Ellis dazu in der Lage.
Aus dieser Unterschrift und der
verschlüsselten Fassung eine
Unterschrift auf die Original Textdatei
zu erhalten oder die Textdatei allgemeine
Datei.
Und hier nochmal ist beweisbare
mathematische Sicherheit.
Wenn das Dokument
ohne gültige Unterschrift gegeben ist,
kann nicht mal der Bopp, der
die Signatur generiert hat, erkennen,
dass da wann
genau dieses Dokument und für wen das
Dokument unterschrieben wurde.
Gut, dann noch eine kleine kleine
Werbeeinblendungen.
Ich habe mit einem meiner Masterstudenten
mal dran gearbeitet, blinde Signaturen
auch für elliptische Kurven Kryptos
Systeme zu machen.
Und er hatte auch einen sehr schönen Hack
gemacht. Das sind OpenPGP einzubringen.
Der Tork ist hier leider nicht angenommen
worden. Insofern sei mir dieser eine
Schmuggel Folie hier erlaubt.
Er war auch.
War allerdings auch auf der Open Tech
Konferenz und ihr könnt.
Wir sind ja Hacker, insofern ist
Sourcecode sowieso meistens besser als
der Originaltext hier den Code
angucken und wir sind da auch sicher
offen auf Rücklauf.
Und wie gesagt, ich hab durchaus
kritische Anmerkungen zu elliptischen
Kurven, aber es gibt einige Szenarios,
wo man die ganz gut einsetzen
kann. Sehr Noltes Protokoll auch nur ganz
kurz. Ist die Idee, dass man beweisen
kann, dass man über ein bestimmtes Wissen
verfügt und das allerdings
nicht preisgeben muss. Also ich habe eine
Sache vergessen 183 und das andere
war 1982.
Warum ist das relevant?
Naja, die waren teilweise patentiert, die
Algorithmen und die Patente sind einfach
jetzt ausgelaufen.
Also insofern hier nochmal bitte die
Einladung. Schaut es euch an.
Das ist eigentlich ziemlich coole Sache
und kann jetzt völlig patent
frei verwendet werden, weil
die Patente schlicht und einfach
ausgelaufen sind.
Gut, okay, also nochmal drastisch
Computing findet er denn
Derek Anonymes Attestieren.
Da gibt's auch von Stefan und mir in
einer Analyse schon, glaube ich von zwei
tausend vier oder so.
Inzwischen gibt's weitere Ergebnisse.
Es gibt auch beider bessere Verfahren.
Auch hier nochmal ein Hinweis Im kleinen
zyklischer und Identitäts Management
gibt es sehr beeindruckende Arbeiten,
auch von Microsoft, namentlich von Stefan
Brands. Wer da mal nachgucken will,
das ist wirklich die Möglichkeit zu
sagen, wir haben hier Mathematik und wir
können mit der Mathematik Leute schützen.
Und das ist wirklich ein Ding, wo ich
wirklich Leute einlade damals
zu schauen, ob sie da nicht sich
die Mathematik mal angucken, die Israel
aktiv übersichtlich in dem Bereich
und dann schlicht und einfach Software
produzieren, die da den Welt ein bisschen
besser machen kann.
Letzten zwei Folien noch
ich bin ein großer Fan von Hesch
Funktionen, insbesondere nachdem ich
letztes Jahr diesen guten
Vortrag sehr guten Vortrag von DTB und
Tanja Lange gehört habe zu Post, Quanten,
Kryptographie und was
ich mitgenommen habe ist das, was wir
wirklich verstanden haben sind sogenannte
Merkel's Signaturen und die
basieren auf Hash Funktion.
Und das ist eigentlich faszinierend, dass
diese selbst gegen Quantencomputer
Angriffe äußerst robust sind.
Weiterhin können wir durchaus einige
Ideen von Bitcoin und der Blockchain,
damit dieses Passwort auch mal gedroppt
habe, anschauen, nämlich dass wir
durchaus Hash Funktion
als Bildungsbürgern verwenden.
Das haben wir verstanden, insbesondere
weil wir nur relativ schwache Annahmen
da machen in der Regel die
Einweg Funktion Einbeck Eigenschaft sogar
zentraler. Natürlich braucht man für
alles, was man ernsthaft auch die
Kollision Freiheit.
Aber da haben wir Hash Funktion da und
ein cooler Hack von Bitcoin ist.
Die Leute sagen gute Kryptographie.
Insbesondere wissen sie, dass sie nicht
alles wissen, insofern häppchenweise
an allen möglichen Stellen zweimal oder
kombinieren zwei Hash Funktionen
hintereinander.
Und das ist wirklich schöne russische
Weltraumtechnik.
Es hält.
Nein, ich fühle mich damit besser.
Es ist nicht in keiner Weise
despektierlich zu sagen, ich habe
irgendwie immer gelästert, wenn ich das
machen würde, würde ich hier noch ein
bisschen drehen und dann noch ein
bisschen drehen. Dann ist mir eingefallen
Naja, gut, aber die machen so, dass
sie nicht einmal erklären müssen, warum
das sicherer ist, sondern die machen das
ein bisschen langsamer, aber
dennoch dann ungeheuer
robust.
Zum Abschluss möchte ich auch nur diese
kurze Folie nochmal sagen.
Das ist eine Folie, die ich auch den
Ministerien relativ massiv gesagt habe.
Wir haben die Art, wie wir produzieren,
haben wir eine Reihe von Software,
die system immanent relevant
ist. Also wenn die auseinanderfliegt,
haben wir Probleme und das
ist zum einen TrueCrypt und
Tarock Crypto.
Ich will aber nur mal auf die P&G
eingehen. Leute, das ist nicht nur dieses
niedliche Tool, mit denen man Sachen
signieren kann.
Darauf baut die gesamte
Update Verwaltung im Linux Bereich an.
Und wenn wir wissen, dass Linux eine
komplette Durchdringung hat ihm
im embedded System Markt ist
wirklich die Situation, dass GPG
ordentlich geführt werden, weil wirklich
systemrelevant.
Weil wenn das wegbricht, dann haben wir
wirklich die Grundtechniken um
irgendwelche Updates anzustellen auf
einmal verloren.
Abschliessende wohl bevor ich mit Freude
folge das Wort gebe dir
einen Schwerpunkt auf Scoring macht auf
eine sehr spannende Sache, die
wir da zusammen mal angeguckt
haben. Nochmal wirklich die Worte von
Edward Snowden nochmal wiederholen.
Kryptographie hat Mathematik drin,
aber es ist keine schwatze Wissenschaft.
Es ist eine Sache, wo wir verstanden
haben, wo wir diskutiert haben.
Man muss auch nicht alle Mathematik
verstehen, die dahinter liegt.
Die verstehe ich nach 30 Jahren auch nur
so ganz beschränkt teilweise.
Aber man muss irgendwie sagen, was
gibt es für Möglichkeiten.
Und wir haben schon, wie das letzte Mal
gesagt hat, unsere Politiker können nicht
garantieren, dass wir nicht mehr abgehört
werden.
Aber wenn wir Verschlüsselung zu Ende
Verschlüsselung anschalten, dann
sind wir auf einmal nicht so dieses
abgefischt Massenmords, sondern
wenn die Leute uns angreifen wollen,
müssen sie dann bei jedem persönlich
angreifen und das ist durchaus sehr viel
aufwendig. Insofern
Verschlüsseln als STANDARD.
Die Freud ist wirklich die vernünftige
Regelung, die wir da haben.
Und dann die Einladung
an die Hacker und Accademia.
Wir müssen es implementieren
und wir müssen daran forschen.
Und hier wirklich die Bitte, alle
Leute, die soziale Probleme
sehen, die Mietvertrags
mit verteilten Vertrauen zusammenhängen
oder die mit mit Fragen
wie tut man was bescheinigen, ohne dann
die Privatsphäre der Leute
zu belasten.
Redet mehr mit euren Krypto Graphen.
Wir haben zahlreiche Krypto graphische
Protokolle, die hier hilfreich sein
könnten und die mich sehr
freuen, wenn wenn sie implementiert
werden so viel. Vielen Dank für eure
Aufmerksamkeit.
Jetzt keine 20 Minuten mehr.
Ich würde auf meinen auf meinen Talk
verzichten.
Lass uns lieber in die Diskussion.
Naja, ne, nee, nee, nee, nee, nee.
Also der A,
der Talk ist gute 20 Minuten über
Scoring. Wir haben keine 20 Minuten
mehr.
Ich bin sicher, nach Rudis Talk gibt's ne
Menge Diskussionsbedarf und
den Scoring Vortrag werde
ich halten. Am dritten Januar
auf dem netzpolitischen Abend von
netzpolitik.org in Berlin wird live
gestreamt, wird aufgezeichnet.
Kann man hinterher sehen.
Ich würde vorschlagen Stage Manager
gibt's eine Entscheidung.
Dann dann
können wir über wir haben noch ordentlich
Zeit.
Also ich meinte, so ist das nicht.
Na gut, dann hole und mach ihn doch mal
auf, bitte.
Wir müssen jetzt nicht über eine halbe
Stunde Kuna machen.
Also wir haben hier genau eine halbe
Stunde Zeit nach.
Also bei mir ist 1742.
Ja, eine Viertelstunde noch
dieser Tag.
Noch eine halbe Stunde.
Nee, ich hab um 17 Uhr 15 angefangen.
Entweder habt ihr das 18.
Ich fange an mit dem Ding.
Okay, das ist eine interessante
Neuigkeit.
Sorry für den holprigen Start.
Jetzt geht's los Scoring.
Also, um erstmal ein naheliegendes
Missverständnis zu vermeiden.
Nein, es geht nicht um Tipps, wie man
auf der Party heute Abend ein Date
bekommt. Es geht um Statistik.
Dankeschön.
Das hilft.
Und ich muss auch erst mal genau dahin,
wo wir eigentlich sind.
Nämlich jetzt da.
Risiko seine Abschätzung,
Minimierung und Absicherung sind die
zentralen Fragen der modernen Ökonomie.
Dazu muss man Prognosen
erstellen, die bekanntlich besonders
schwierig sind, wenn sie sich auf die
Zukunft richten.
Der Ursprung dieses Bonmots ist unsicher,
aber es ist ja immerhin eine interessante
Gruppe. Ein.
Ein, ein ein.
Ein Komiker.
Ein Schriftsteller, ein Physiker.
Die, die das möglicherweise gesagt haben.
Problem bei der bei dem Bonmot ist,
dass man meinen könnte, dass Prognosen,
die sich auf die Vergangenheit richten,
einfacher zu machen sind.
Das ist keinesfalls so.
Allerdings haben wir da den Vorteil, dass
wir das zukünftige Ergebnis bereits
kennen.
Wir wissen, ob das fragliche Ereignis
Kredit, Rückzahlungen oder
Versicherungsfall oder ähnliches
eingetreten ist oder nicht.
Aber ein prognostischen Modell
zu erstellen, das aus den Daten vor
der Zeit, vor dem Eintreffen dieses
Ereignisses ein Eintreffen erschließen
lässt, ist deshalb keineswegs trivial.
Dazu nehme man massenhaften
von früheren Fallgeschichten.
Man suche in den vorhandenen unabhängigen
Faktoren Alter, Geschlecht,
Punktezahl in Flensburg usw..
Per Regression Analyse
nach solchen, die zu verschiedenen Graden
mit dem Eintreffen des fraglichen
Ereignisses korreliert sind.
Man erhält so ein Datenmodell
mit gewichteten Faktoren.
Man validieren.
Dann dieses Modell reduziere stöhn
Größen, vermeide Überanpassung,
Ausreißer, den üblichen Statistik phu.
Dann lasse man wieder historische
Daten durch das Modell laufen.
Und wenn die Vorhersagen
mit dem bekannten,
in der Vergangenheit liegenden Ereignis
tatsächlich mit einer gewissen
Wahrscheinlichkeit übereinstimmen,
ist das Datenmodell so
robust oder gilt dann als robust und kann
auf aktuelle Fälle losgelassen werden.
Man nehme nun also die konkreten
Faktoren eines Einzelfalles,
lasse sie durch das Datenmodell laufen
und erhält einen eine Eintreffens
Wahrscheinlichkeit des fraglichen
Ereignisses, also einen
Risikos Score.
Daran schließt sich dann noch schließen
sich dann die eigentlichen Entscheidungen
an. Sollen wir dieses Risiko eingehen?
Wie hoch sollen wir das absichern?
Gewichtung Algorithmen sind normalerweise
geheim. Hier ein Beispiel für eine
Gewichtung aus dem Kreditwesen in den
USA.
Also wer?
Wo ist hier der Dingens da oben?
Also wer ein Giro und Sparkonto
hat und ein Kreditkarten Konto kriegt,
wo Punktzahlen, wer in der Vergangenheit
schon mal Probleme hatte mit der
Rückzahlung von Krediten, kriegt Punkte
abgezogen.
Alter ist hier noch ein Faktor und je
älter, desto höher die Rückzahlung
Wahrscheinlichkeit. Wobei die jüngste
Gruppe interessanterweise nicht den
schlechtesten Score hat, sondern die 26
bis 31-Jährigen.
Anwendungsfelder von Scoring,
hier beispielsweise aus der
Inneren Medizin werden Vorhersagen
getroffen über Krankheits Verläufe
Predictive Policing.
Da haben wir das Beispiel der
Rasterfahndung von Horst Herold,
Leiter des Bundeskriminalamtes in
den Siebzigerjahren hat das erfunden.
Steuer Risiko wird damit
errechnet, wie wir heute Nachmittag
im CCC Jahres Blick Rückblick gehört
haben. In China entsteht gerade
eine Scoring Infrastruktur,
die ab 2020 dann gesellschafts
weit verbindlich werden soll.
Ich konzentriere mich im folgenden
auf den Versicherungs Bereich.
Die Personenwagen war
in der zweiten Hälfte des 19.
Jahrhunderts eines der ersten Messis
Instrumente, das für große Messreihen
verwendet wurde und so ein
statistisches Normalgewicht
etabliert hat, das damals bereits
für die Risikoabschätzung bei
Versicherungen eingesetzt worden ist.
Noch 2004 schreiben fünf Autoren
aus den Verkehrs Wissenschaften und aus
der Versicherungswirtschaft in einem
Bericht an die Bundesanstalt für
Straßenwesen, dass mit der Kombination
von drei Risiko, Merkmalen Geschlecht,
Alter und Anzahl der Verkehrs
Zentralregister Eintragungen
eine umfassende Risiko Differenzierung
erreicht werden kann.
Die Autoren erwähnen allerdings auch,
dass weitere Tarif Merkmale
hinzugekommen sind mit der Deregulierung
des deutschen Versicherungsmarkt Mitte
der 1990er.
So gibt es z.B. Rabatte für
Neuwagen, wenig Fahrer,
Versicherungsnehmer im mittleren
Alter oder Polizeibeamte
und Absolventen eines
Sicherheitstraining.
Umgekehrt gibt es Zuschläge für
alte Fahrzeuge, Vielfahrer, Fahrzeugtypen
mit besonderem Risiko und Fahrzeuge, die
in osteuropäischen Staaten genutzt
werden.
Allerdings zeigt die Studie, dass
nur wenige dieser Merkmale sich
als wirksame Prädiktor eignen.
Seit dem 19. Jahrhundert hat sich einiges
verändert. T Personenwagen hatten damals
noch kein FIP, heute tragen wir mächtige
Rechen Geräte ständig mit uns herum,
mit einem Haufen Sensoren bereits
eingebaut.
Es kommen weitere Sensoren dazu
in unserer Umgebung auf,
am und in unseren Körpern.
Außerdem werden über soziale
Medien alle möglichen Daten freiwillig
geteilt.
Außerdem haben wir schließlich Big Data,
die Cloud, künstliche Intelligenz, Cyber
Cyber.
Weil wir es können, wird jeder
Datenstrom, den wir absondern,
entsprechend fürs Scoring verwendet.
Dabei hilft ein Mentalitätswechsel In
den 1980ern gab es noch Massenbewegungen
gegen Volkszählung und gegen den
Maschienen lesbaren Ausweis.
Heute gibt es Massenbewegungen für
Post-Privacy und Self Tracking.
Hier der deutsche Zweig
der Quantenfeld Self Bewegung und auch
die gute alte Personenwagen
treffen wir hier wieder.
Die spielt immer noch eine wichtige
Rolle.
Hier ein konkretes Beispiel
für eine Kfz-Versicherung.
Bonus Drive genannt wird von der Allianz
Versicherung.
Sie richtet sich an junge Fahrer.
Es geht um Menschen, die noch keine
Kredit, Versicherungs oder Unfall
Geschichte haben.
Die willigen ein.
Ihr Fahrverhalten messen zu lassen
und können so nachweisen, dass sie
vorsichtig fahren und bekommen dann
Rabatte bis zu 40 prozent.
Hier sieht man die Datenströme, die ein
solches Auto dann absondert.
Der Technik Dienstleister Otto Telematik,
2002 in Italien gegründet, baut
und betreibt diese Systeme
für mehr als 60 Versicherungsunternehmen
in 23 Ländern, unter anderem
für die Allianz.
Dafür wird eine Blackbox ins Auto gebaut
mit Beschleunigung, Sensor, GPS,
SIM-Karte und noch anderen Sensoren.
Und die erfassen
dann, wie man hier sieht,
Geodaten Richtung Brems, Verhalten,
Beschleunigung, Kurven, Fahrverhalten,
Zusammenstöße, Dauer und
Distanz einer Fahrt und Straßen Art
und die werden dann an Otto übertragen.
Als Zusatznutzen wird dann alles
mögliche weitere angepriesen, z.B.
die Möglichkeit, ein gestohlenes
Auto wiederzufinden.
Hier ein Beispiel aus dem Gesundheitsbereich
Weit helle ist das Programm von Generali
für Risiko, Lebens und
Berufsunfähigkeitsversicherung natürlich
dieselbe Idee Lasst euch
tracken und ihr werdet belohnt.
Was hier noch wichtig ist
Bewusstmachen also das
Feedback wird nicht nur an die
Versicherungsunternehmen gegeben, sondern
auch an die Nutzer selber.
Und die können dann beispielsweise
Gesundheits Ziele sich setzen und
über diesen Tracker schauen,
wie sie ihrem Ziel nahe kommen.
Also es geht nicht nur um Verhaltens
Messung, sondern auch um
Verhaltenssteuerung.
Und Gamification ist eine
beliebte Strategie dafür.
Hier die Sparkassen Direktversicherung,
die als eine der ersten in Deutschland
eine KFZ Telematik Versicherung angeboten
hat.
Das Programm ist jedoch zum Jahresende
2015 eingestellt worden.
Die Kunden waren zwar höchst zufrieden,
aber die haben festgestellt,
dass die Kosten sich auf
100 Euro pro Kunde und Jahr belaufen
hätten. Die arbeiten jetzt also dran,
erst einmal für ein Nachfolgeprojekt die
Kosten zu senken.
Aber solange das lief,
kann man hier sehen haben,
sind die Nutzer angehalten worden,
gegeneinander um den Highscore
des Monats zu wetteifern.
Neuester Trend ist es,
Facebook-Post zu verwenden, um den Preis
einer Autoversicherungen zu bestimmen.
Admiral, eines der größten britischen
Versicherungsunternehmen, hat das Angebot
First Car quot entwickelt
eine Versicherung für die digitale
Generation.
Idee war, um ein Angebot für
eine Versicherung zu bekommen, sollte
eine Anwärterinnen Admiral hatten Admiral
Zugriff geben auf ihren Facebook Account.
Da ist ein Algorithmus drüber gelaufen
lassen. Hätte dann ein Algorithmus
drüber laufen sollen, der
diese Texte Posts linguistisch
nach Anzeichen untersucht, ob
diese Person gewissenhaft und gut
organisiert ist.
Kurze Sätze, die Verwendung von Listen,
Verabredungen mit Freunden zu konkreten
Zeit und mit Ortsangaben
statt nur heute Abend sprechen
dafür.
Umgekehrt sein Ausrufezeichen
und die häufige Verwendung von immer oder
nie.
Statt vielleicht Anzeichen
für allzu große Selbstsicherheit
und damit Risikobereitschaft werden
also Charakter Daten sozusagen
erhoben, um sie mit Risiko zu
korrelieren.
Im November war der Start dieses Angebots
geplant, aber Facebook hat
dem umstrittenen Angebot im letzten
Moment einen Strich durch die Rechnung
gemacht.
Es hat Admiral den Zugriff auf die Daten
seiner Nutzer untersagt, obwohl der
Testbetrieb mit Facebook ja vorher schon
monatelang lief,
also auch mit deren Billigung.
Auf die Begründung komme ich gleich noch
zu sprechen.
Stattdessen verwendet Admiral jetzt
ein Shared Service, also eine kurze.
Einen kurzen Fragebogen, verlangt aber
immer noch das Facebook Login.
Die Markteinführung von Telematik
Versicherungen wird stets begleitet von
einer Rhetorik, von Objektivität
und Fairness.
Algorithmen kennen keine Vorurteile.
Sie suchen einfach nach statistischen
Korrelationen zwischen Datenpunkte,
die Verfahren. Das wird stets betont
sein, wissenschaftlich fundiert und
werden eingesetzt mit Unterstützung.
Zitat Mit Unterstützung
führender akademischer Einrichtungen
hier aus der Pressemitteilung von
Generali Welche führenden akademischen
Einrichtungen das sind, wird allerdings
nicht gesagt.
Auch die Schufa Schufa hebt hervor Credit
Scores sind frei von subjektiven
Faktoren.
Doch wir wissen natürlich, dass sich
Herkunft, Religion, sexuelle Orientierung
erstaunlich leicht aus unverfänglichen
Daten ableiten lässt.
Und wir wissen es nicht zuletzt dank
Michael Kosinski, dessen Verfahren von
Cambridge Analytica bei Brexit
und Trump eingesetzt worden ist und
gerade die Runde macht aus dem
ursprünglichen Paper, also
die Wahrscheinlichkeit,
mit der die dann
nachträglich abgefragten Eigenschaften
anhand von durchschnittlich
70 Facebook-Likes
errechnet worden sind.
Also es gibt hier nirgends eine ein
eine Frage sozusagen auf Facebook
Bist du schwul? Ja, nein, sondern das
wird dann aus dem individuellen
Musikgeschmack oder aus dem Kaufverhalten
oder aus dem, was geliked worden ist.
Lässt sich das ableiten?
Fairness.
Scoring wird verwendet, um
Verbraucher davor zu schützen, dass sie
sich überschulden, weil die das ja selber
nicht einschätzen können und die
Algorithmen das viel besser wissen.
Sie sorgen für niedrigere Preise, weil es
weniger Zahlungsausfälle gibt.
Was noch lange nicht heißt, dass diese
Kosteneinsparungen auch an die Kunden
weitergegeben werden.
Ein ganz wichtiges Argument.
Es gibt ja Leute, die kann sich
verhalten und andere, die sich bewusst
nicht riskant verhalten.
Und letztere müssen, so
das Argument, die ersteren quer
subventionieren. Und das ist ja unfair.
Das Ganze ist immer freiwillig und es
wird ausschließlich für Boni verwendet.
Also nicht etwa für Strafzahlungen,
für riskantes Verhalten.
Das ist, das hat sicherlich nicht nur
Marketing Gründe, sondern vor allen
Dingen gesetzliche. Im Allgemeinen
Gleichbehandlungsgesetz ist
so etwas nämlich Strafzahlungen
für bestimmte Personengruppen verboten.
Soweit der Überblick über das Phänomen.
Nun zu Diskusionen
Datensparsamkeit, Erforderlichkeit
und Zweckbindung sind die
Grundprinzipien des Datenschutzes
und die werden durch Scoring systematisch
unterlaufen. Je mehr Informationen,
desto besser die Prognose.
Der Zusammenhang ist klar.
Seinem Wesen nach ist Scoring also das
genaue Gegenteil von Datensparsamkeit.
Auch die Zweckbindung geht den Bach
runter, denn Fahrzeug
Trainingsdaten, Post auf Social Media
werden ja nicht generiert
als Prädiktor für Risiken,
also als Faktoren für die Preiss
Differenzierung.
Da aber Daten das Öl des 21.
Jahrhunderts sind, sehen wir eine
Rhetorik von höchster Stelle Dobrindt,
Gabriel, Merkel alle
fordern Daten.
Reichtum statt Datensparsamkeit,
Datensouveränität statt Datenschutz.
Die Lösung dazu ist ganz klar Diese
Rhetorik von Datenschutz als Innovations
Hindernis muss aufhören und
ersetzt werden durch ein ganz klares
Bekenntnis zur Sicherung von
informationellen Grundrechten auch
im Netz.
Wir müssen Grenzen aushandeln.
Ich hatte erwähnt, dass Facebook im
letzten Monat Admiral den Zugriff auf die
Post seiner Nutzer verweigert hat.
Dabei berief es sich auf seine
Plattform Policy.
Und da drin steht Facebook-Daten dürfen
nicht verwendet werden, um Entscheidungen
zu treffen über Bewerbungen oder die
Konditionen von Krediten.
Nicht etwa, dass Facebook jetzt plötzlich
der Datenschutz seiner Nutzer am Herzen
läge. Nein, der wahrscheinliche
Hintergrund ist, dass sie sich dieses
Geschäftsmodell selber vorbehalten
wollen.
Gleichwohl gibt es aber gute Gründe,
dass auch eine verfassungsrechtliche
Abwägung der Auswirkungen von Social
Media Scoring auf das Grundrecht
von freier Meinungsäußerung
eine ein solches Verwertungs verbot
normieren würde.
Opt in wird ja häufig auch gerne
genannt als ein Grundprinzip des
Datenschutzes.
Hier das Beispiel Cookies.
Jede Seite hat, nachdem es inzwischen
vorgeschrieben worden ist, jetzt ein
solches Banner, wo man dann unten
auf OK drücken kann.
Ich akzeptiere Cookies oder Nein.
Seite verlassen und dann ist man raus.
Na toll, da haben wir echt was gewonnen.
Opt in ist natürlich eine notwendige
Voraussetzung, aber sie ist nicht
hinreichend, wir wissen das also durch
Umfragen, dass mindestens 30 prozent in
Deutschland bereit sind, Daten gegen
Rabatte preiszugeben.
Daher muss auch bei freiwilliger
Preisgabe gesichert sein, dass Privacy
by Design trägt,
z.B. durch Differential Privacy,
wie wir das von Rudi vorhin gehört haben.
Das ist eine öffentliche Aufgabe der
Daseins, der digitalen Daseinsvorsorge
und eine Technik, das durchzusetzen.
Und ein Verfahren ist die Zertifizierung
durch unabhängige Stellen.
Nur so haben Verbraucher die Chance,
sich darauf verlassen zu können, dass
davo vertrauenswürdig draufsteht, auch
tatsächlich vertrauenswürdig drin ist.
Anders als bei der browse Erweiterung.
Web of Trust.
Falsche und veralteten Daten sind
natürlich immer ein Problem.
Dazu hat der.
CCC seit Jahren gefordert, einen Daten
Brief, also alle Unternehmen, die Daten
über mich haben, müssen wir das einmal im
Jahr mitteilen.
Was wir im Bundesdatenschutzgesetz haben,
ist den Anspruch auf Auskunft und
Korrektur.
Für Scoring heißt das, die innerhalb
der letzten 6 Monate erhobenen
Wahrscheinlichkeit auswerten sowie die
für die Berechnung genutzten Daten.
Arten müssen bekannt gegeben werden.
Da schließt sich die Forderung an Das ist
natürlich nicht nur die Daten Arten,
sondern die ganz konkret im Einzelfall
verwendeten Daten bekannt gegeben werden
müssen.
Algorithmen.
Bei Verbrauchern stellt sich zunehmend
das Gefühl ein, vollkommen transparent
zu sein für Institutionen, die selber
vollkommen intransparent Entscheidungen
über sie treffen.
Und wir wissen Algorithmen können
systematisch Verzerrungen und
Diskriminierung enthalten.
Merkel sagte jüngst auf den Medientagen
in München, ihre persönliche
Meinung sei, dass Algorithmen
transparenter werden müsste.
Ihr medienpolitischer Sprecher Thomas
Jarzombek hat dann korrigiert.
Nein, nein, die Kanzlerin wolle nicht
etwa, dass Google und Facebook ihre
Kronjuwelen öffentlich machen sollten,
sondern
zumindest so im Prinzip
wie im Großen und Ganzen diese
Algorithmen funktionieren.
Das müsse schon offengelegt werden.
Im Bundesdatenschutzgesetz haben wir zu
Scoring die Ansage, dass es
eine Auskunftsanspruch gibt, über das
Zustandekommen und die Bedeutung der
Wahrscheinlichkeiten, Werte, Einzelfall
bezogen und nachvollziehbar
in allgemein verständlicher Form,
was immer das dann ist.
Vielleicht eine Ampel rot, grün, gelb,
so weiß man.
Die Schufa sagt dazu ganz klar
Geht nicht. Wir können die Algorithmen
nicht offenlegen aus zwei Gründen Einmal,
weil das der betrügerischen Manipulation
Tür und Tor öffnet.
Und vor allen Dingen könnten die
Konkurrenten uns dann das Geschäftsmodell
wegnehmen.
Sie verweisen dabei auf eine Studie, die
einen Zusammenhang zwischen der Subprime
Hypothekenkrise und transparenten
und damit manipulierbaren Scores
in den USA aufgezeigt hat.
Lösung dafür Mindestens bei
Algorithmen, die Verbraucher folgenreiche
Entscheidungen treffen, braucht
es ein unabhängiges Vertrauliches
in Kamera, also hinter verschlossener Tür
oder Thing.
Und da kann man dann Geheimes,
Geheimhaltung, Verklärungen ohne Ende
drauf schmeißen.
Aber hier muss dann der volle
Zugang auf alle Datensätze, auf
Algorithmen, auch auf Trainingsdaten
gewährleistet sein.
Von Leuten, die solche Arbeiten machen,
hab ich mir sagen lassen, dass das im
Prinzip möglich ist,
mit diesem vollen Zugriff
einigermaßen nachzuvollziehen, wie diese
Elemente zusammenwirken
und ob da ein systematischer Bayes drin
ist.
Aber das ist elende Puzzle Arbeit.
Aber es muss ja jemand machen.
Grenzen ziehen, hatte ich beim Facebook
Beispiel gesagt Genau das hat der
Europäische Gerichtshof 2011 getan.
Der hat gesagt, die Gleichstellung von
Mann und Frau ist ein so fundamentaler
Grundwert, dass Versicherungsprämien
und Leistungen nicht nach
Geschlecht getrennt werden dürfen.
Nun wissen wir Frauen leben länger.
Das ist relevant für Renten und
Lebensversicherungen.
Dennoch hat das Gericht entschieden Es
geht. Es macht Sinn, aber
es darf nicht.
Das finde ich auch einen Applaus wert.
Genau.
Also wir sehen, man kann Grenzen
setzen, wenn wir als Gesellschaft diese
diese Grundwerte so hochhalten,
dann kann man hier Gesetz, Gesetz oder
gerichtlich eingreifen in diesem Fall.
Einspruchsrecht versteht sich von selber.
Bei fragwürdigen Entscheidungen müssen
Verbraucher niedrigschwellig die
Möglichkeit haben, Einspruch zu
erheben und eine Einzelfallprüfung
fordern können, bei der auch
alle eingegangenen Daten überprüft
und möglicherweise mit lokalen Logbuch
Daten abgeglichen werden können.
Sobald Daten meinen, meine
persönliche Geräte Umgebung verlassen, wo
ich überhaupt noch eine Chance habe,
die zu kontrollieren, ist es vorbei mit
der Kontrolle beim Scoring
gehen die Gesundheits und Juke.
Man Scoring gegen Gesundheits und
Fahrverhalten Daten an
ein Unternehmen, das daraus den Risiko
Score errechnet und den an
die Versicherung mitteilt.
Die kriegt also nicht die Rohdaten.
Allerdings lassen die sich
auch das Recht unterschreiben,
Daten mit Partnern zu teilen,
weil Teile Thy z.B.
wirbt auch mit Rabatten von
Sportartikelhersteller und anderen
Partnern.
Lösung Die Daten werden nur lokal beim
Verbraucher verarbeitet.
Also erst einmal gesammelt und
verarbeitet und nur in
einer für den Score erforderlichen
aggregierten Form übermittelt.
Ein Beispiel aus einem etwas anderen
Bereich Das BSI hat in seinen 10
Datenschutz Punkten zum smarten Mering
festgestellt, dass vor Ort der
Stromverbrauch Viertel stündlich erhoben
wird. Was für Verbraucher natürlich
interessant. Es gibt Feedback, welche
Geräte verbrauchen viel Strom?
Für die Abrechnung ist allerdings
nur die Übertragung
des aggregierten Jahres Stromverbrauchs
nötig. Also es ist gar nicht notwendig,
hier
fein teilig Daten zu übertragen
und dann soll das auch unterbleiben
und die Daten, die uns dann doch noch
verlassen, können eben mithilfe von
Differential Privacy abgesichert werden.
Wer entscheidet?
Wer entscheidet also
in der lokalen Sparkassen
Filiale beispielsweise, die ihre Kunden
seit Jahren kennt?
Kann eine Sachbearbeiterin natürlich
auch gegen den Score entscheiden.
Im Massenmarkt entscheiden
im Wesentlichen heute Algorithmen.
Da ist die Forderung, dass im Streitfall
das Verfahren nachvollziehbar ist.
Aber was machen wir mit selbstlernende
Systemen mit neuronalen Netzen?
Da ist es mit der Nachvollziehbarkeit
dann vollends vorbei.
Scoring zielt darauf, dass
jeder für sein individuelles Risiko einen
individuellen Preis bezahlt.
Und Preis. Differenzierung heißt
Entsolidarisierung.
Wenn das freiwillige verhaltenes Tracking
basierte Rabatts System sich einmal
durchsetzt, wenn die Ideen,
was ich vorhin unter Fairness Rhetorik
genannten Vorteilen für
Kunden und Firmen sich einstellen,
wenn es keine spektakulären
Sicherheitsprobleme gibt, die
den Ruf von Scoring ruiniert,
wird es sich absehbar normalisieren.
Das heißt, die Risikominimierung
sammeln sich alle in den Telematik
Tarifen.
Und indem, was bisher der normale
Tarif war, bleiben alle
riskanten Kunden übrig.
Dort muss also der normale Tarif
logischerweise steigen, um
dieses Risiko abzusichern.
Mit dem Ergebnis Die Armen
bezahlen mehr für Wasser,
Nahrungsmittel, Wohnungen, Kredite,
Versicherungen. David Capello Wizz hat
diesen Zusammenhang 1963
erstmals festgestellt.
Und der gilt bis heute unverändert
und setzt sich auch durch Scoring fort.
Menschen, die sich kein Smartphone oder
Fitness Armband leisten können, die ein
altes Auto fahren, die mit einer
schlechten Ernährung aufgewachsen sind
und so weiter und so weiter, zahlen mehr.
Und sie tun das systematisch,
weil die Merkmale von Armut mit
Risiko korreliert sind.
Lester Letzte Folie
Letzter Vorschlag Die freie
oder Forderungen Die freie Tarifa muss
gesichert werden, auch für Menschen, die
sich nicht tracken und scoren lassen
wollen. Und schließlich natürlich
nicht die Lösung für alles.
Aber immerhin ein ganz wichtiger Schritt
dazu das bedingungslose Grundeinkommen,
das von immer mehr und auch immer
unwirsch wahrscheinlicheren Menschen
gefordert wird.
Hier jüngst vom Siemens-Chef
Joe Kaeser, der sagt Das Grundeinkommen
ist unvermeidlich.
So. Wir machen jetzt ganz unerwartet
nochmal sechs Minuten Fragen und
Antworten.
Ihr kennt das Spiel, da sind die
Mikrofone. Stellt euch hin, wenn ihr eine
Frage habt und wenn ihr in dieser
Cyber Sphäre unterwegs seid, dann könnt
ihr natürlich auch Fragen stellen.
Wir haben da Interface
Geräte bereitgestellt.
Hier.
Ja, Mikrofon Nummer zwei, bitte.
Ja, meine Herren. Erstmal vielen lieben
Dank für diesen wunderbaren Vortrag mit
vielen interessanten Denkansätzen, die
man sonst in der Form nicht
zusammengefasst findet.
Ich habe da Danke auch für die
Möglichkeit jetzt als Frage geteilt.
Kurze Frage hat
nein Scherz
zu Teil 1 des Vortrags Wir haben
wunderbare Crypto Algorithmen, wir haben
wunderbare Möglichkeiten,
aber es gibt halt eine ganze Menge
Artikel zu dem Thema der
Manipulierbarkeit der Plattform.
Auch wie man Crypto Algorithmen durch
prozessual Manipulation brechen kann.
Wenn wir davon ausgehen, dass die
Plattform toxisch ist, wäre
es in diesem Fall nicht tatsächlich
mittelfristig und langfristig sinnvoll,
wenn sich die Bundesregierung da am
Vorbild der Russischen Föderation
orientiert und sagt Okay,
wir gehen für die kritischen Systeme auf
eigene Prozessor Entwicklungen oder wir
finanzieren halt auch einfach mal ein
Windows Klonen, damit wir im Zweifelsfall
Microsoft unabhängig sind.
Zu dem zweiten Teil, dem Scoring, der
aber auch mit dem
ersten Teil zusammenhängt.
Wir haben ja noch 5 Minuten
begrenzte Redezeit.
Es tut mir leid, okay.
Was mir an der Stelle fehlt und wo ich
auch keinen Lösungsansatz sehe, ist, dass
ich zwei wunderbare Datensätze habe, die
gut aggregiert sind
oder auch gut anonymisiert polemisiert
sind. Aber in dem Moment, wo ich vier
Datensätze zusammenfügen halbe Minuten,
gibt es dafür Ansätze.
Wie lauten diese? Tschuldigung.
Typisch.
Vielen Dank für die Frage.
Und es ist schon
auffällig, dass nach der Trump-Wahl
in den Ministerien doch innen
eine Explosion des Nachdenkens eskaliert.
Also man muss es auch nochmal ganz
deutlich sagen will ich jetzt gar
nicht polemisch oder ins Lächerliche!
Sagen.
Die Lebensweisheit eines Teils
der bundesrepublikanischen Regierung,
Menschen oder auch
Leute in der Verwaltung war halt immer
ein goren Sicht.
Wir können den Amerikanern im Prinzip
vertrauen
und bei diesen ist im
Moment eine erhebliche
Umdenkprozess da.
Ich bin mal gespannt, wie es vorangeht.
Worauf ich nur hinweisen will Schon vor
Trump war es durchaus so, dass
Hardware-Hersteller und andere Hersteller
ein Backdoor Zugang zu
Daten der NSA geben
mussten. Es gab sogar diese
Knebel Erklärung, dass
man gar nicht drüber reden darf.
Die Computerindustrie hat
es dann mit Kanarienvögel versucht
zu bekämpfen.
Aber das ist schon durchaus
ein Punkt. Da wo ich sag es gibt
der Notwendigkeit und das hab ich auch
untersucht und unter
systemrelevanter Software genannt,
dass wir ein gewisses Maß an einem
meinetwegen auch einen Corot buht System
durchaus in einer
nachvollziehbaren öffentlichen Art und
Weise betreiben.
Und das Wunderschöne ist, dass das
für uns Hacker halt seit Jahrzehnten
den Begriff Open Source hat und
für uns nicht so richtig überraschend
ist. Also ich möchte das unterstützen.
Ich glaube, es werden sich einige
Entwicklungen in dieser Richtung ergeben.
So einmal Cyber bitte darf ich
noch?
Natürlich wollte.
Frage waren eigentlich zwei.
Aber ganz kurz ich habe auch keine
Lösung. Ja, natürlich.
Pseudonyme isierung Anonymisierung wird
überall im Datenschutz gefordert oder
als als Lösung vorgeschlagen.
Wir wissen aus,
dass es relativ leicht möglich ist, diese
Dinge wieder zusammenzuführen.
Ich habe keine Lösung.
Es ist schlagen zwei Herzen in meiner
Brust. Ich würde ja auch gerne als
Soziologe auf ganz viele Daten
zugreifen und sehe dann aber genau die
Möglichkeit nicht, das
auf eine Weise zu tun,
die.
Das verantwortungsvoll erlaubt
also nur ein kurzer Satz in der rappt
Differential Privacy ist durchaus
Ansätze in die Richtung, aber wir müssten
es nochmal deutlicher
anschauen und auch Parameter und
Anforderungen definieren.
Aber es gibt durchaus Schritte in die
Richtung. Aber einfach ist es nicht.
Und es ist auch kein keine
endgültige nachhaltige Lösung von
der Sache, sondern wie ich in den Folien
auch geschrieben hat.
Man kann dann den Verlust der Vertrauen,
also der der Privatsphäre messen.
Und man kann natürlich, wenn man messen
kann, festsetzen, dass eine gewisse
Schranke da ist.
Und wir werden in der End Version
der Studie dadurch durchaus ganz deutlich
wirklich Epsilon Wahlvorschläge
reinbringen.
So die zeit ist um.
Bitte applaus. Unsere beiden sprecher.