*RC3 Vorspannmusik*
Herald: Ein System, welches sich, zumindest überwachungstechnisch, George
Orwell nicht hätte besser ausdenken können: Das Chinese Social Credit Score.
Katrin Schwahlen spricht mit sehr, sehr interessanten Personen heute darüber.
Katrin, wir sind gespannt. Kathrin: Ja, herzlich willkommen
zu unserem Talk über das chinesische Sozialkreditsystem.
Also grob gesagt ein staatliches System, das mithilfe von
Algorithmen das Verhalten seiner Bürgerinnen und Bürger überwacht und
steuern will. China ist zwar weit weg, spielt aber doch eine ziemlich große Rolle
in und für die Welt. Und da stellt sich natürlich die Frage, wie lange das dauert,
bis es sowas auch in Europa gibt. Oder gibt es das vielleicht sogar schon?
Darüber will ich mich mit unseren Gästen unterhalten und möchte euch als erstes
Kolja Quakernack vorstellen. Er ist Sinologe, Kalligraf und hat vier Jahre in
Shanghai gelebt, der größten Industriestadt Chinas. Und er beschäftigt
sich seit vielen Jahren mit dem chinesischen Sozialkreditsystem. Er hat
darüber seine Masterarbeit geschrieben und auch eine Broschüre für die kurz&mündig
Reihe von Digitalcourage. Und er wird uns gleich das chinesische Bonitätssystem
vorstellen. Hallo Kolja, vielen Dank, dass du dir die Zeit nimmst für diesen Talk.
Kolja Quakernack: Hallo, ich freue mich auf die Gäste.
Katrin: Unser zweiter Gast ist Dr. Thilo Weichert. Vielen von euch ist er bekannt
als Juror und Laudator der Big Brother Awards. In diesem Jahr zum Beispiel für
Doctolib in der Kategorie Gesundheit. Thilo engagiert sich seit dem
Volkszählungsboykott Mitte der 80er Jahre für Datenschutz. Er war 11 Jahre
Landesbeauftragter für Datenschutz in Schleswig-Holstein und ist heute unter
anderem Vorstandsmitglied in der Deutschen Vereinigung für Datenschutz. Herzlich
willkommen, Thilo! Thilo Weichert: Ich grüße euch. Moin!
Katrin: Und unseren dritten Gast kennt ihr alle. Er ist Künstler und Netzaktivist,
Mitbegründer und Vorsitzender von Digitalcourage, hat die Internet
Enquetekommission des Bundestags beraten und gerade mit anderen Aktivistinnen und
Aktivisten Handlungsempfehlungen für Digitalpolitik formuliert und der
Ampelkoalition übergeben. Schön, dass du da bist, padeluun. So, Kolja, was ist
genau das chinesische Sozialkreditsystem? Und wie bist du auf dieses Thema
aufmerksam geworden? Kolja: Ja, ich glaube wir machen es
umgekehrt. Ich beantworte dir erst die eine Frage und dann hole ich ein bisschen
aus, um das Sozialkreditsystem vorzustellen. Ich habe tatsächlich davon
gelesen, während ich in Shanghai war und bin dann wirklich daran kleben geblieben,
weil ich dachte, so ein gigantisches Konstrukt was da geplant ist, was wirklich
in alle Lebensbereiche irgendwie vordringen wird, da will ich mehr drüber
wissen und habe mich dann mehr und mehr sozusagen in die Abgründe vertieft. Und
jetzt sitze ich hier und darf mich mit euch unterhalten. Aber damit wir alle so
ein bisschen auf den gleichen Stand kommen, wenn ich wirklich alles sozusagen
erzählen würde, was es zu wissen gibt, was eine ganze Menge gibt, was natürlich eine
ganze Menge ist, dann würde das den Rahmen hier sprengen. Deswegen versuche ich kurz
ein kleines bisschen, kurz und knackig zu erzählen, was das Sozialkreditsystem
eigentlich ist. Ich habe keine Slides o.ä. vorbereitet. Das würde uns viel
zu viel Zeit bei unserem Talk nehmen, sondern ich habe hier ganz klassisch
traditionell ein paar Stichpunkte vor mir liegen. Wenn ich also nach unten gucke,
dann weil ich versuche, nichts zu vergessen. Aber ja, ganz kurz vielleicht.
Die derzeitige Situation in China, die das Sozialkreditsystem dann hervorgebracht
hat, ist folgende: Und zwar gibt es eine verhältnismäßig hohe Kriminalitätsrate,
zum Beispiel Korruption, Betrügereien etc., ohne dass zum Teil verlässliche
Strafen umgesetzt werden können. Dem soll natürlich entgegen gearbeitet werden. Dann
sollen die Nutzerinnen des Internets, die Nutzerinnen und Nutzer, nicht so
ungezügelt sein und natürlich die Stabilität in der Gesellschaft und auch in
der Politik gefestigt werden. Und die Lösung, die jetzt Staatspräsident Xi
Jinping hat, ist eben das Sozialkreditsystem. Das Sozialkreditsystem
soll jedem Individuum eine gewisse Vertrauens- und Kreditwürdigkeit
bescheinigen, sodass Bürgerinnen und Bürger sich ein Bild von
Geschäftspartnern, aber auch von Nachbarinnen und Nachbarn und von
Menschen, mit denen sie verkehren, machen können. Und man muss jetzt dazu sagen, es
gibt nicht nur ein einziges Sozialkreditsystem, sondern es gibt in
Dutzenden Städten mehrere Konzepte, die sozusagen ausprobiert werden. Und 2014
wurde das Ganze erstmals implementiert für eine Testphase bis 2020. Das heißt, wir
haben jetzt gerade die Situation, dass ganz viele Daten analysiert werden, wie
die Leute das System angenommen haben, wie das angekommen ist. Und ja, wir sind jetzt
gespannt, was aus all diesen Daten gemacht wird. Wie in Zukunft dann die Version 2.0
sozusagen aussehen soll. Die dann wiederum verbindlich im ganzen Land implementiert
werden soll. Das Konzept des Sozial- kreditsystems ist relativ einfach. Und
zwar: Um die Vertrauenswürdigkeit einer Person einschätzen zu können, werden Daten
dieser Person gesammelt, und zwar alle möglichen Arten von Daten. Alle möglichen
Daten, die man bekommen kann. Offline- Verhalten, Online-Verhalten, also Online-
Verhalten, sprich das Kaufverhalten auf zum Beispiel Taobao, also dem chinesischen
Äquivalent von Ebay. Chatverläufe werden mitgelesen, GPS-Daten vom Smartphone
werden ausgelesen, Accounts, Mitgliedschaften, Apps, die genutzt
werden, alles was eben zur Verfügung steht. Nebenbei sei noch gesagt: Es gibt
umfangreiche Datenschutzgesetze in China, aber die Umsetzung, daran hapert es dann
doch, sodass das in dem Sinne kein Thema ist. Offline-Verhalten, Ämter, Behörden,
alle teilen ihre Daten in einer ziemlich großen Cloud, wo alles gesammelt wird zu
jeder Person. Und hinzu kommen neueste Erfindungen wie Videoüberwachung,
Spracherkennung, Gesichtserkennung, sogar Gangerkennungssoftware. Alles um eben das
aufgenommene Verhalten, was man wahrnimmt sozusagen, auch wirklich einer konkreten
Person zuordnen zu können. Da geht es dann um Mülltrennung, um
Straßenverkehrsdelikte, all diese Dinge. Man will ja möglichst genau festlegen
können, zu welcher Person eben diese Handlung gehört. Alle Daten werden in
Echtzeit registriert und von einem Algorithmus, über den im Grunde genommen
nichts offiziell bekannt ist, analysiert und bewertet. Jetzt gibt es ein Verhalten,
das wünschenswert ist und es gibt Verhalten, das nicht wünschenswert ist.
Für wünschenswertes Verhalten, zum Beispiel, wenn man sich um seine Eltern
kümmert, die krank sind oder einfach pietätvoll besucht, wenn man
ehrenamtliches Engagement zeigt, und Ähnliches. Dann gibt es Pluspunkte. Wenn
man aber unerwünschtes Verhalten an den Tag legt, zum Beispiel Gesetze bricht oder
ähnliches, dann gibt es Minuspunkte. All das wird auf einem digitalen Konto
festgelegt. Und ist sogar offiziell einsehbar für jede und jeden. Wenn man
jetzt einen besonders hohen Kontostand hat, dann werden verschiedene Privilegien
freigeschaltet. Zum Beispiel bekommt man einen kostenlosen Bibliotheksausweis. Man
ist befreit von verschiedenen Kautionszahlungen, und ähnlichem. Wenn man
einen niedrigen Punktestand hat, dann werden ziemlich massive Sanktionen
wirksam. Das geht dann los mit man bekommt keine 1.-Klasse Tickets mehr für den Zug,
sondern muss dann die harten Holzbänke nehmen und es geht dann immer so weiter
und wird schlimmer, dass man irgendwann die Reisefreiheit ganz eingeschränkt
bekommt. Man bekommt keine Auslandsvisa mehr ausgestellt, man kann keine
Flugtickets mehr kaufen. Das geht sogar so weit, dass die eigenen Kinder irgendwann
keine guten Schulen mehr besuchen können. Berufliche Entwicklungen werden verwehrt
und so weiter. Das heißt, was damit im Grunde genommen auch bezweckt werden soll,
ist die Umerziehung des Volkes, oder der Bürgerinnen und Bürger, zu gutem Verhalten
hin. So, da möchte ich jetzt gleich schon ein paar Kritikpunkte mit einbringen. Und
zwar lässt sich das teilen in technische Mängel bei dem System. Allerdings können
wir die gleich auslassen. 1. kenne ich mich dafür technisch nicht gut genug
aus und 2. würde das dann wirklich den Rahmen sprengen. Aber es gibt soziale
und ethische Probleme, die glaube ich hochinteressant sind für uns auch heute,
und natürlich Herausforderungen für das Management selbst. Die sozialen und
ethischen Probleme sind zum Beispiel folgende: Ich habe gerade gesagt, es soll
gutes Verhalten anerzogen werden. Wer entscheidet denn, was gutes Verhalten ist?
Und da liegt schon der Casus Knacktus. Die Sozialkreditsysteme, im Moment sind es ja
noch mehrere, sind zwar offiziell in privater Hand von den großen Tech-Firmen
wie Tencent, Alibaba und wie sie alle so heißen, aber eben nur offiziell.
Inoffiziell behält sich die Kommunistische Partei Chinas vor, ohne Angabe von
Gründen, Dinge in diesem System verändern zu können und sogar retrospektiv verändern
zu können. Das heißt, unerwünschtes Verhalten kann zum Beispiel angepasst
werden. Retrospektiv heißt in diesem Kontext, wenn die Kommunistische Partei
heute etwas, ja, als unerwünscht festlegt, was gestern noch in Ordnung war, dann wird
man auch heute noch für das Verhalten von gestern bestraft. Wenn ich also heute mit
meinen Freunden auf dem Weihnachtsmarkt Glühwein trinke und morgen wird es
bestraft, weil das Verzehr von Alkohol ist. Dann werde ich auch morgen bestraft
dafür, obwohl es heute noch völlig in Ordnung ist. Ja, und das Ganze schürt
natürlich oder erleichtert auch die Verfolgung von Minderheiten. Dabei ist
egal, ob es um Homosexuelle geht oder um ethnische Minderheiten, Uiguren, was ja
auch viel in den Medien im Moment diskutiert wird. Ja, und das sind
natürlich Dinge, die uns entsprechend beschäftigen werden. Dann wird der
Algorithmus vorgeschoben. Die Kommunistische Partei und überhaupt alle
Betreiber des Systems waschen die eigenen Hände in Unschuld und sagen, ihr seid doch
für euer eigenes Handeln selbst verantwortlich. Handelt so, wie wir euch
das vorgeben und dann habt ihr auch nichts zu befürchten. Auch das ist garantiert ein
Punkt, über den man streiten kann, weil natürlich das System menschengemacht ist
und entsprechende Mechanismen vom Menschen justiert und nachjustiert werden. Ja, und
ein weiterer Punkt, der auch unbedingt genannt werden sollte: Solidarität,
Nächstenliebe, Zwischenmenschlichkeit, all diese Punkte gehen natürlich mehr und mehr
verloren, weil die Leute nicht mehr Handeln aus reiner Nächstenliebe, sondern
um Punkte zu gewinnen oder wenigstens um keine Punkte zu verlieren. Also auch da,
die Moral, wie wir wissen, ist ein Muskel, der entsprechend gepflegt werden will. Und
wenn andere einem das Denken abnehmen, dann wird das ganze schwierig,
wenn das System irgendwann vielleicht mal wieder
abgestellt wird und wir überhaupt keinen inneren Kodex mehr haben,
wie wir eigentlich handeln wollen. Herausforderungen an
das Management, und dann bin ich auch gleich am Ende. Es geht
natürlich darum, internen Missbrauch zu verhindern. Dass diejenigen, die das Ganze
einstellen, so einstellen, dass es, ja, verträglich ist. Ist vielleicht ein sehr
starkes Wort. Ja, und natürlich externe Angriffe, Hackerangriffe, Datenlecks etc.
Auch damit muss umgegangen werden. Und es muss natürlich eine völlig neue
Gesetzesgrundlage geschaffen werden, dass das Sozialkreditsystem
transparent wird. Das ist auch ein großes Problem
derzeit. Dieser Algorithmus ist in seiner Tiefe überhaupt nicht
durchschaubar. Es ist, den Leuten ist nicht bekannt, warum sie den Punktestand
haben, den sie haben. Ja, in diesem Sinne denke ich, wir haben einiges, über das wir
sprechen können. Es sei an dieser Stelle noch ganz kurz ein Video empfohlen. Und
zwar wie gesagt, mir ist klar, dass wir jetzt, dass ich hier ziemlich
durchgaloppiert bin. Aber es gibt ein wunderbares Video von Antonia Hmaidi von
der Universität Duisburg, auch auf YouTube. Die war vor 3 Jahren an dieser
Stelle hier und hat ein Video über das Sozialkreditsystem erstellen lassen und
hat da eben noch mal sehr ausführlich drüber gesprochen. Also herzliche
Empfehlung. Oder wer gerne liest, wie gesagt, diese nette kleine Broschüre hier,
die ich geschrieben habe mit redaktioneller Begleitung von Katrin
Schwahlen im Art d'Ameublement-Verlag, möchte ich an dieser Stelle auch herzlich
empfehlen. So. Ja, vielen Dank erstmal soweit.
Katrin: Dankeschön, Kolja. Aber das klingt ja schon auch ziemlich gruselig. Du hast
zwar gesagt, es gibt Datenschutz in China. Gibt es denn auch sowas wie eine
Bürger*innenbewegung? Kolja: Nichts, was wirklich so mächtig
ist, dass es Dinge verändern kann. Weil die, die Unzufriedenheit im Volk, die ist
da. Die ist auch lange da. Es gibt jeden Tag hunderte Demonstrationen, die
natürlich unangekündigt sind, weil sie sonst nicht gestattet werden, und
Ähnliches. Die meisten kriegen wir hier gar nicht mit. Also die Unzufriedenheit
ist da, aber es wird natürlich alles sofort, ja, zerschlagen, wenn man so will.
Katrin: Okay, Sozialkreditsystem, also dieser Begriff hat mich am Anfang ein
bisschen verwirrt, weil sozial hört sich erst mal gut an, Kredit , na ja, geht
irgendwie so. Ist das gleichbedeutend mit Bonitätssystemen, wie wir sie hier in
Deutschland haben? Das wäre meine Frage an dich, Thilo. Bonitätssysteme wie
beispielsweise die Schufa oder andere Auskunftsdateien, wie unterscheiden die
sich vom chinesischen Sozialkreditsystem? Kann man das so einfach auf den Punkt
bringen? Thilo: Also es gibt eine ganze Menge von
Ähnlichkeiten, aber es gibt auch einige Unterschiede und auf die kommt es dann
tatsächlich auch an. Aber vorneweg muss ich erst mal auch eine Information geben.
Ich war 2017 in Shanghai auf Einladung von der Friedrich-Ebert-Stiftung. Und dort
wurde ich eingeladen, um eben über die Schufa und über andere
Kreditsbonitätssysteme zu referieren und eben auch den Vergleich mit den
chinesischen Systemen zu machen. Da ging es insbesondere auch um die Frage, wie
weit kann in China Akzeptanz geschaffen werden für ein System, was in Deutschland
mehr oder weniger akzeptiert ist? Und insofern habe ich auch so ein bisschen
jetzt auch Einblick nehmen können vor Ort. Das was aber publiziert wird, das geht
weit über das hinaus, was ich tatsächlich dann dort offengelegt bekommen habe. Ich
durfte mir zwar die Computer anschauen und die Räumlichkeiten, in denen das Ganze
untergebracht ist. Aber wenn es dann wirklich darum ging, wirklich harte Fakten
nachzufragen, da ist dann meistens gemauert worden. Es gibt einen riesigen
Unterschied, und zwar den, der hat sich auch bei diesen Vorträgen und Diskussionen
herausgeschält. Ich habe immer wieder das Wort Bürgerrechte, Menschenrechte in den
Mund genommen und darauf gab es keinerlei Resonanz. Wir haben Menschenrechte, wir
haben Bürgerrechte, die sind weltweit auch garantiert. Und zu denen gehört auch das
Recht auf Privatsphäre oder jetzt in modernerer Form eben das Grundrecht auf
Datenschutz in der Europäischen Grundrechtecharta oder dann auch vom
Verfassungsgericht in der deutschen Verfassung abgeleitet. Also das ist ganz
zentral. Ein weiterer Punkt ist, dass diese Grundrechte eben auch einklagbar
sind. Das heißt also, man kann vor Gericht eben auch einfordern, dass die eingehalten
werden. Und das ist zwar in China auch teilweise möglich, Kolja hat schon darauf
hingewiesen, dass es Datenschutzgesetze gibt. Die werden auch von Gerichten
überprüft. Die werden aber natürlich nicht überprüft, wenn die Polizei diese Daten
nutzt und sie werden erst recht nicht überprüft auf das, was im Bild das
Relevante ist, auf die Vorgaben, die durch die Kommunistische Partei gemacht werden.
Also das heißt, was die Kommunistische Partei an Vorgaben macht und welche Daten
abgefragt werden oder wie die Daten auf Befehl der Kommunistischen Partei
ausgewertet werden, das ist ein absolutes Tabu. Und dann haben wir natürlich die
Regelung, die dann auch aus unserer Verfassung abgeleitet wird, die in
Grundrechtecharta drin steht. Wir haben die Zweckbindung. Das heißt, Daten dürfen
grundsätzlich nur für den Zweck genutzt werden, für den sie erhoben worden sind.
Und wenn sie für einen anderen Zweck verwendet werden, dann bedarf es dafür
einer angemessenen gesetzlichen Grundlage, die als Legitimation für diese Nutzung
eben dann auch verwendet wird. Und das ist natürlich dann schon etwas, was eigentlich
dann den Austausch zwischen Polizeidaten, Straßenverkehrsdaten, Bonitätsdaten,
Konsumdaten, und Familiendaten, und wer weiß was, eigentlich verbietet. Aber, und
da ist dann wieder das Problem, wir haben auch in Deutschland viele Regelungen, die
eben Netzwerkaufhebung auch erlauben. Und da muss man sich dann eben genau angucken,
welche anderen Zwecke sind erlaubt. Das Verfassungsgericht, der Europäische
Gerichtshof sind da relativ eng. Die sagen, es muss nicht nur eine klare
gesetzliche Grundlage geben, sondern es müssen auch verfahrensrechtliche
Vorkehrungen vorgesehen werden. Und was Kolja auch schon beschrieben hat, was in
China fehlt: Transparenz. Das wird sowohl vom EuGH als auch vom
Bundesverfassungsgericht immer wieder eingefordert. Eben, dass die Betroffenen
sich einschätzen, oder dass sie einschätzen können, was mit ihren Daten
passiert und welche Folgen aus ganz bestimmten Daten folgen, sich ergeben
können. Also ich denke, da gibt es einen Riesenunterschied. Was aber trotzdem
natürlich auch in Europa, in Deutschland existiert: Wir haben künstliche
Intelligenz, wir haben Algorithmen und diese Algorithmen sind bisher sehr
intransparent. Der Bundesgerichtshof hat eine Entscheidung zum Scoring Verfahren
bei der Schufa getroffen, wo der Schufa zugestanden wird, ihr Score Verfahren,
also ihr Algorithmus als Betriebs- und Geschäftsgeheimnisse gegenüber den
Betroffenen geheim halten zu können. Das hat zur Folge, dass selbst
Aufsichtsbehörden - ich war damals noch Chef einer Aufsichtsbehörde und habe das
versucht irgendwo transparent zu machen, dass es selbst uns untersagt war, eben in
diese Algorithmen reinzuschauen bzw. die zu kontrollieren und die zu hinterfragen.
Ob sich das jetzt in Zukunft ändert, wird sich zeigen. Die Europäische Kommission
hat einen Vorschlag für eine KI-Richtlinie gemacht. Also eine Richtlinie zur
künstlichen Intelligenz, die natürlich bei der, in diesem ganzen Scoring Verfahren
zum Einsatz kommt. Und dort ist vorgesehen, dass Transparenz geschaffen
wird, dass also dann künstliche Intelligenz Einsatz zum Beispiel in der
Werbung als weniger problematisch angesehen wird, wie eben jetzt der Einsatz
von künstlicher Intelligenz bei der Polizei oder bei Bonitätsbewertung. Auch
Bonitätsbewertung, also die Bewertung der Zahlungsfähigkeit und
Zahlungsbereitschaft, ist also ein ganz zentraler Punkt auch von diesem
Richtlinienvorschlag. Die werden also relativ hoch eingestuft. Aber dann auch
alle Verfahren, wo künstliche Intelligenz zum Einsatz kommt und wo es dann, ja,
existenzielle Folgen für die Betroffenen haben könnte. Und das ist ja in China
umfassend so. Also das, was der Algorithmus auswirft, das ist bestimmend
für unser Leben, oder für das Leben der Chinesen. Das ist aber natürlich auch bei
dem Schufa Score, bei anderen Scoring Verfahren der Fall. Und wenn ich einen
schlechten Schufa Score habe und der ist nicht hinreichend transparent,
dann kann es bedeuten, dass ich meinen Beruf nicht bekomme,
dass ich nen Telekommunikations- vertrag nicht bekomme,
dass ich auf jeden Fall keinen Kredit bekomme,
dass ich nicht online einkaufen kann. Also es gibt eine Vielzahl von
Konsequenzen, die wir auch in Deutschland haben. Also insofern ist es also
tatsächlich auch ein riesiges Problem. Und wir haben natürlich auch in Europa und in
Deutschland die Begehrlichkeiten, die auch in China existieren, die hier durch die
Gerichte gebremst werden, auch durch die Datenschutzbehörden, nur teilweise
gebremst werden. Und diese Begehrlichkeiten gehen weit über das
hinaus, was von den Gerichten akzeptiert wird. Wir haben zum Beispiel ein
Bonitätsverfahren von einem polnischen Firma - in Deutschland wurde es nicht
etabliert, weil eben der Widerstand so groß ist - dass eben nicht nur Daten aus
dem Finanzgebaren von einem Menschen analysiert, sondern zum Beispiel auch die
Internetaktivitäten auswertet und daraus Rückschlüsse zieht auf die Bonität. Oder
dann auch die Schufa. Die schließt aus der Wohngegend zurück auf die Bonität. Das
heißt, wenn ich also Nachbarn habe, die schlecht beleumundet sind, die ihre
Kredite nicht zurückbezahlen, dann wird unterstellt, dass ich als Nachbar
sozusagen eben auch meine Kredite nicht zurückbezahle. Wenn keine sonstige
Information vorhanden ist. Das hat zum Beispiel zur Folge gehabt, dass ich erst
mal, als ich in einer anderen Gegend gewohnt habe, nega, einen absolut
schlechten Score gehabt habe bei der Schufa. Das hat sich jetzt geändert,
nachdem ich in Kiel in die Innenstadt gezogen bin. Also auch da zeigt sich, dass
das Problem immer noch existiert, dass wir das Problem in der Transparenz haben, dass
wir eben auch in einer absolut, ja, im wahrsten Sinne des Wortes auch im Neuland
uns befinden. Weil eben solche Firmen wie die Schufa, wie Infoscore, wie
Creditreform und viele anderen, Universum, also diese ganzen
Bonitätsbewertungsfirmen, sich die Daten aus allen möglichen Quellen
zusammenzusuchen versuchen. Und die Schufa zum Beispiel ist immer wieder berühmt und
berüchtigt dadurch geworden, dass sie eben Daten aus definitiv illegitimen Quellen zu
schöpfen versucht hat. Und da gab es dann aber öffentlich Widerstand. Den gibt es
eben nur ganz verhalten in China. Und dieser Widerstand ist im Prinzip das
Wesentliche, um eben solche Auswüchse von Algorithmennutzung und von solchen
Bonitätsverfahren zu verhindern. Katrin: Danke Thilo, das war schon mal ein
ziemlich großer Einblick. Wobei es ja hier in Deutschland nicht nur so ist, dass
bonitätsbezogene Daten abgefragt werden, sondern wir haben ja auch noch viele
andere Formen von Überwachung aufgrund von KI. Sei es die Vorratsdatenspeicherung,
sei es die Gesichtserkennung, also die Kameras beispielsweise am Berliner Bahnhof
Südkreuz, Staatstrojaner, Telekommunikationsüberwachung. Padeluun,
wie ist es deiner Einschätzung nach möglich oder unmöglich, so chinesische
Bonitäts- oder Überwachungssysteme als Ganzes oder in Einzelteilen in Deutschland
umzusetzen? padeluun: Na ja, ich hoffe, dass das nicht
möglich ist - *Gelächter* - und das hoffe ich, hoffen wir alle anderen auch. Aber
ich glaube, diese Hoffnung wird versucht, immer wieder zu unterlaufen. Also es gibt
eine Menge Leute, auch in Deutschland, die sich überhaupt kein Problem damit haben,
dass alle anderen drangsaliert werden. Hauptsache ihnen geht es gut. Dass das
natürlich nicht funktioniert, sondern sie dann auch selber auch drangsaliert werden,
das erschließt sich ihnen nicht. Also die Psychologie, die hinter diesen ganzen
Überwachungen steckt, die finde ich super interessant. Und ich hoffe eigentlich
immer mal, dass bei einer psychologischen Fakultät einfach auch mal überlegt wird,
was führt eigentlich dazu, dass Menschen sowas mit sich machen lassen? Wie kommt
es, dass sie sagen, das sei eine gute Geschichte? Oder es ist schon richtig,
wenn der Nachbar mal gezeigt geht, wo es lang geht und so. Und da mag ich mal eine
Polizistin zitieren, die ich in einem Seminar hatte, das ich gab. Sie sagte:
"Na ja, da kommen die Leute und sagen wir möchten gerne, dass vor dem Kindergarten
mehr Geschwindigkeit überwacht wird. Weil die fahren da alle viel zu schnell.
Und sind dann super entsetzt, dass sie selber diejenigen sind, die in die
Geschwindigkeitskontrollen ausgewunken werden, weil sie die Leute sind, die ihre
Kinder mit zu hohem Tempo zum Kindergarten bringen. Und ich will jetzt nicht dafür
plädieren, dass man vor Kindergärten rasen soll. Aber sich wirklich Gedanken zu
machen, wie schaffen wir es, möglichst unsere Nachbarn, sozusagen seinen
kranken Nachbarn auch dazu zu bringen, sich eben tatsächlich für eine,
für Freiheit einzusetzen? Und da meine ich nicht die
Freiheit auf der Straße rumzukrakelen, nach dem Motto, ich will aber nicht
erwachsen werden. Sondern eher im Sinne von, ich bin ein erwachsener Mensch, ich
brauche nicht überwacht werden. Ich mache auch nichts Böses. Ich lasse mir meine
Fingerabdrücke nicht abnehmen. Ich möchte nicht in einem Bonitätssystem rum agieren
und mache da dran auch nicht mit. Und auch ab wann Leute wieder anfangen zu
begreifen, dass das eben eine politische Forderung ist, die ich auch politisch
versuchen muss durchzusetzen. Und durchsetzen kann ich das nur, wenn ich
meinen Bundestagsabgeordneten, meinen Parlamentariern den Rücken stärke und,
also man nennt das auch manchmal sie unter Druck setzen, aber das finde ich gar nicht
das richtige Wort. Sondern einfach auch mit den Leuten diskutieren und eben sagen,
wenn schon wieder mal einer eurer Innenpolitiker*innen, kann man ja
mittlerweile sagen, ankommt und sagt, wir wollen jetzt gerne weiter mehr
Überwachung, mehr Sicherheit, das dann wirklich zu hinterfragen und zu fragen,
was da los ist. Also ich habe zum Beispiel rausgefunden, dass das meiste, was in den
letzten 30 Jahren, in denen ich in dem Thema auch von innerer Sicherheit arbeite
und dauernd mit irgendwelchen unsinnigen Forderungen von Politikern zu tun hat, was
sie alles sicherer machen wollen, eigentlich nur so Sicherheitstheater
gemacht wurde. Weil das eben ganz wunderbar im Wahlkampf funktioniert, den
Leuten mehr Sicherheit zu versprechen, obwohl wir in einem der sichersten Länder
der Erde sitzen. Was aber tatsächlich nicht gemacht wurde, da wo es um echte
Sicherheit geht, nämlich z.B. Gesundheitsämter so auszustatten, dass bei
einer Globalisierung die zu erwartende Pandemie gut bekämpft werden kann im
Ansatz. Das ist nicht geschehen. Also wir haben die ganze Zeit damit zu tun, dass
uns billige Sachen, die recht einfach sind, wie, wir bauen einfach mal überall
Überwachungskameras hin und kassieren pro Standleitung 850 Euro im Monat, weil dann
können wir viel Steuergelder in private Kassen umlenken. Das funktioniert. Aber
Gesundheitsämter auszustaffieren mit einer notwendigen IT, mit einem Konzept, auch
mit einer STIKO, die genügend Leute hat, um Entscheidungen treffen zu können. Das
wird halt nicht gemacht. Das ist halt komplizierter. Das ist halt nicht so
einfach. Und ich glaube, da müssen wir als Bevölkerung wirklich uns überlegen, wie
wir dafür sorgen, politisch entsprechend zu agieren. Klar, eine der Möglichkeiten
ist es, Organisationen zu gründen, die da dran arbeiten. Ich habe so etwas
mitgemacht, also Digitalcourage ist eine der Organisationen, die sich darum
kümmert. Und wenn ich jetzt selber dafür keine Zeit habe, weil ich doch lieber
meinem anderen Job nachgehe, der mir mehr Spaß macht, dann muss ich halt solche
Organisation unterstützen. Was mich aber nicht davon entbindet, mindestens einmal
im Monat etwas zu tun, was politisch notwendig is und sei es auch nur mal zu
einer Veranstaltung zu gehen, die meine Bundestagsabgeordnete oder mein
Bundestagsabgeordneter in meiner Stadt veranstaltet, um dort zuzuhören und
vielleicht auch mich dort einzubringen. Katrin: Danke padeluun, das war wirklich
ein guter Aufruf und ich möchte an dieser Stelle an Kitty weitergeben, die nämlich
über den Chat und die sozialen Medien schon ganz, ganz viele Fragen gesammelt
hat. Das heißt, das Thema ist wirklich ein sehr bewegendes Thema, Kitty.
Herald: Erst mal vielen, vielen lieben Dank. Extrem spannend. Ich denke, das
interessiert ja wirklich alle extremst deswegen es gibt sehr, sehr viele Fragen.
Wir fangen gleich an. Wie stark sind die Auswirkungen auf Nicht-Chinesische
Unternehmen oder z.B. auch Universitäten? Kolja: Ja, das nehme ich einfach mal auf
meine Kappe. Alle Unternehmen, alle Individuen, die im chinesischen Raum
leben, also im Festland chinesischen Raum, in der Volksrepublik, sind davon
betroffen. Lange war überlegt worden oder es war zumindest nicht kommuniziert
worden, ob sozusagen auch Nicht-Chinesen, also Ausländer sozusagen aus chinesischer
Sicht einen Punktestand bekommen sollen und eben entsprechende Sanktionen, die
damit verbunden sind und man hat inzwischen festgestellt, ja, natürlich,
wer sich auf chinesischem Grund befindet, ist mit in diesem System drin. Und das
gilt auch für Unternehmen. Herald: Wie ist das für Chinesen, die im
Ausland wohnen? Kolja: Soweit ich weiß, sind die davon nur
betroffen, wenn eben Daten im chinesischen Land, in der Volksrepublik
gesammelt werden. Thilo: Die Möglichkeit überhaupt ins
Ausland zu reisen, wird auch teilweise abhängig gemacht vom Social Score.
D.h. es ist z.Z. unheimlich schwierig dann im Ausland Daten zu erheben, soweit
die chinesischen Geheimdienste oder irgendwelche anderen Institutionen eben
nicht an die Daten rankommen. Aber das, was vorhanden ist, das wird definitiv
ausgewertet. Und solange die in China sind, ist das natürlich ein ganz
relevanter Aspekt, um überhaupt ins Ausland reisen zu können. Sogar schon
innerchinesische Reisen werden davon abhängig gemacht, ob eben einen guten
Score hat oder nicht. Herald: Wie wird das System von der
chinesischen Bevölkerung aufgenommen? Kolja: Am Anfang war es so, dass erstmal
überhaupt keine Daten da waren, also zumindest wurden keine Daten rausgelassen.
Dann war es so, dass festgestellt wurde, dass ungefähr 80% der befragten
Chinesinnen und Chinesen das System für gut befanden.
Das mag erst mal überraschend sein. Andererseits, ich habe
nicht genau vor Augen, wie viele Teilnehmerinnen und Teilnehmer
es an diesem System gibt. Im Vergleich zu wie viele Leute tatsächlich
mitgemacht haben bei dieser Umfrage. Genia Kostka, ich hoffe ich habe den Namen
richtig ausgesprochen, die hat dazu mal eine Untersuchung gemacht, die sehr
aussagekräftig ist. Hat aber auch gesagt, dass natürlich diejenigen, die im System
sind, die vielleicht auch nicht ganz ehrlich sind, weil sie wissen, wenn sie
sich kritisch äußern, gibt es Minuspunkte. Herald: Das heißt, gibt es dann eine
Gegenbewegung oder eher gar nicht? Kolja: Es gibt auf jeden Fall diejenigen,
die sich versuchen dagegen zu wehren. Es gibt sogenannte schwarze Listen.
Das sind diejenigen, die Zahlungen nicht nachgegangen sind oder
sonstige Dinge gemacht haben, um eben auf diese schwarze Liste
zu kommen. Und die versuchen dagegen vorzugehen, weil bisher es so war,
dass, wer einmal auf der schwarzen Liste stand, nicht wieder von
dieser schwarzen Liste runterkam. Wer auf der schwarzen Liste stand, aber
sämtliche Sanktionen zu befürchten hatte. Ja und da dann
wieder runterzukommen, da versuchen die Leute sich dann eben zu engagieren.
Herald: Das ist tatsächlich gleich die nächste Frage. Gibt es denn die
Möglichkeit, das System irgendwie zu hacken? Oder kann man Geld
dafür zahlen, dass man bessere Punkte bekommt? Wie würde sowas gehen?
Kolja: Das ist auch eine große Frage, mit dem sich das Management
auseinandersetzen muss. Da gibt's schon Nachrichten drüber und immer wieder neue
Skandale, dass da die entsprechenden Polizeistellen, wo Daten aufgenommen
werden, wo Daten verarbeitet werden, Stichwort Korruption, entsprechende
Leistungen in Anspruch genommen haben, um dann Punkte zu verteilen. Ja, das wird
definitiv auch was sein, womit sich das Management auseinandersetzen muss.
Herald: Okay. Gibt es Informationen wie die Mitarbeiter der Firmen,
die so was umsetzen oder das System entwickeln, dazu stehen?
Kolja: Ich weiß von einigen ganz großen Köpfen die sagen,
na ja, es ist ein Dienst am Volk, natürlich, wenn das Volk
vertrauensvoll ist, wenn man weiß, mit wem man es zu tun hat, mit wem man sich
einlässt, dann profitieren davon alle, weil natürlich auch alle gemeinsam dann zu
einer sicheren, guten Gesellschaft beitragen. Aber ja, viele werden da
garantiert auch nicht angehört. Herald: Seht ihr denn irgendwas Positives
an dem System? Könnt ihr dem irgendwas abgewinnen wo ihr sagt, es hat zwar seine
Schwächen, aber es hat auch was positives? *lacht*
Thilo: Also vielleicht darf ich, kann ich noch was ergänzen zu dem, was Kolja gesagt
hat zur Akzeptanz in der chinesischen Bevölkerung.
Kolja: Sehr gerne. Thilo: Bei der Diskussion mit den
Chinesen, das waren natürlich Universitätsprofessoren oder Justizbeamte
und Ähnliches, wurde uns dann auch immer vorgehalten: "Ja, ihr in Europa, ihr habt
eine völlig andere Kultur. Wir leben mit Konfuzius, ihr lebt mit irgendwelchen
Bürgerrechten oder ihr habt eine Aufklärung gehabt. Die haben wir in ganz
anderer Form gehabt. Wir sind viel kollektivistischer aufgestellt wie ihr.
Ihr seid totale Individualisten. Und bei euch", das war das Hauptargument, "in
Europa oder in Deutschland. Da halten sich die Leute freiwillig an die Regeln.
Während wir in China wir müssen das eben mit Kontrolle und Überwachung eben dann
auch verifizieren bzw. steuern". Inwieweit das zutrifft, ist natürlich schwierig zu
überprüfen, solange man den Chinesen keine Freiheiten gibt und dass eben so ein
Freiheitsbedürfnis auch in China möglich ist, zeigt ja gerade Hongkong. Und es ist
grad spannend eben zu sehen, wie die Chinesische Volksrepublik Regierung eben
wirklich auch eben die Datenverarbeitung und die systemische Überwachung der
Bevölkerung in Hongkong übernimmt und wirklich da im Prinzip die gleichen
Systeme etabliert wie in der Volksrepublik. Also ich denke, dass die
Bevölkerung in Hongkong eben mit Freiheitsrechten sehr gut umging, solange
sie eben die Möglichkeit hatte, die auch auszuleben.
Herald: Okay, kann denn der eigene Punktestand auch abgefragt werden?
Ist es wie bei der Schufa, wo man wenigstens 1x im Jahr nachschauen kann
oder ist es einfach so, man probiert zu fliegen, geht's doch nicht.
Kolja: Ja, man kann das abfragen. Ich glaube sogar, man kann das tagesaktuell
abfragen. Das Problem ist allerdings, man kann es nicht nur selber abfragen, sondern
auch alle anderen. Bei Unternehmen ist das vielleicht noch verständlich, weil man
dann weiß ah ist das ein Fake Unternehmen. Wenn ich jetzt irgendwas online kaufe,
sehe ich das Produkt wirklich was ich kaufe dann demnächst bei mir zu Hause.
Aber bei Individuuen wird es natürlich schwierig. Die Leute prahlen im Internet
mit ihren Kontoständen. Aber diejenigen, die einen etwas geringeren Score haben,
warum auch immer, das muss ja nicht immer selbstverschuldet sein, sondern das kann
ja auch fremverschuldet sein. Das ist ein wichtiger Punkt. Da wird's dann schwierig.
Herald: Ok. Thilo: Ein großes Problem gibt's
natürlich dort, wo eben Mitarbeiter von deutschen Firmen in China
bewertet werden und dann die deutschen Unternehmen eben
das dann auch zur Grundlage nehmen. Ich weiß nicht, Kolja, hast du da irgendwelche
Erfahrungen, ob es da irgendwelche Kooperation oder irgendwelche
Datenauswertung von den deutschen Firmen gibt? Das wäre spannend. Auf jeden Fall.
Also akzeptieren die deutschen Firmen die Gesetze in China und nehmen das problemlos
hin, dass Uiguren verfolgt werden, obwohl eben deutsche Investitionen im Nordwesten
von China eben dann stattfinden. Und es wäre natürlich schon auch wichtig zu
wissen für die deutschen Unternehmen, was mit ihren eigenen Mitarbeitern passiert.
Da gibt es auch eine gewisse Fürsorgepflicht.
Kolja: Ja, ja genau, wenn ich ergänzen darf. Genaue Zahlen sind mir nicht
bekannt, aber genau es ist wirklich so, dass gerade die deutschen Unternehmen, die
entweder schon sehr lange da sind, dass die natürlich jetzt das System
übergestülpt bekommen und jetzt gucken müssen, wie sie klarkommen und dann
natürlich auch um ihre Lizenzen fürchten müssen, wenn sie sich entsprechend anders
verhalten, als es gewünscht ist. Oder eben diejenigen, die jetzt neu nach China
kommen, die sagen der Markt ist so groß, wir müssen irgendwie damit klarkommen. Und
du hast vollkommen recht Thilo, da wird vieles abgenickt, wo hier in Deutschland
vielleicht nur hinter verhaltener, hinter vorgehaltener Hand gesagt wird, dass das,
das es ja so eigentlich nicht geht. Also schwierig ja.
Herald: Macht das dann bei den nicht- chinesischen Menschen, die mit abgefragt
werden, einen Unterschied, aus welchem Land sie kommen? Werden Deutsche da z.B.
anderst abgefragt als Amerikaner? Kolja: Das ist eine sehr gute Frage, da
kann ich leider nichts zu sagen, da habe ich keine Informationen.
Herald: Ok, entschuldigung an die Signalleute. Die Frage ist leider nicht zu
beantworten. Wie ist das denn mit Parteifunktionären oder höheren Menschen
im chinesischen Government dort? Werden die auch eingestuft?
Kolja: Auch so eine gute Frage, ja. Also man weiß z.B. nicht, ob Xi Jinping
auch einen Punktestand hat, der Staatspräsident von China. Natürlich, wenn
so was gefragt wird, dann wird immer gesagt "Na ja, wir sind Menschen des
Volkes und wir verstehen natürlich das Volk" und so. Aber mir ist nicht bekannt,
ob Xi Jinping z.B oder andere Parteifunktionäre einen eigenen
Punktestand haben. Müsste ja eigentlich so sein.
Thilo: Also was die Parteimitgliedschaft angeht, das ist relativ klar, wie das
gehandhabt sein dürfte, wissen es also nicht genau. Aber wer Parteimitglied ist,
das ist natürlich erst mal viele Positivpunkte und Fehlverhalten jetzt von
solchen Parteimitgliedern wird von der oberen Schicht ja auch voll gedeckt wie
wir es jetzt bei der Tennisspielerin erlebt haben, wo es dann sogar
internationale Auseinandersetzungen gegeben hat. Also ich vermute mal, dass so
was dann über den Algorithmus schon irgendwie alles abgedämpft wird und so
gewährleistet bleibt, dass also die Parteimitglieder und die Funktionäre, dass
die da gut wegkommen. padeluun: Also das würde ja auch bedeuten,
dass der Score von ihm nicht abgefragt werden kann, wenn wir gerade gehört haben,
dass eigentlich jeder diesen Score abfragen kann. Das ist ja schon mal eine
Aussage, also eine Unterschiedlichkeit. Ich habe es tatsächlich noch nicht
probiert. Es kann natürlich sein, dass jeder Score abfragbar ist, aber aufgrund
enormer Verdienste für das gesamte chinesische Volk so viele Pluspunkte
verteilt werden sag ich jetzt mal, ja, keine Ahnung, aber wäre ja durchaus
denkbar. Ja, dass man da schon im Vornherein
sehr im Plus ist. Herald: Ich hab' jetzt noch eine letzte
Frage: Fühlen sich dann in China möglicherweise die Staatsbediensteten
dadurch angehalten, etwas freundlicher zu sein oder vielleicht vorsichtiger
vorzugehen, weil sie Sorge haben, einen schlechteren Score zu bekommen?
Gibt es so eine Möglichkeit? Kann man sich das Szenario vorstellen?
Kolja: Ich denke, im Einzelfall, in Einzelfällen wird es bestimmt
der Fall sein. Es gab schon mehrere Interviews von
Leuten, die gesagt haben wir achten in unserer Kommune nur auf die Punkte und
halten uns auch gegenseitig dazu an, möglichst uns entsprechend zu verhalten.
Aber natürlich, wie immer wird es diese Einzelfälle geben und andere Einzelfälle.
Und ja, also ich glaube nicht, dass das, das das den Menschenverstand und die Moral
und einfach eine gute Erziehung ersetzen kann.
Katrin: Okay, so leid es mir tut, weil die Diskussion sehr sehr spannend ist, unsere
Zeit ist leider um. Ganz, ganz herzlichen Dank an Euch, Kolja, padeluun und Tilo.
Ich hoffe, das Zuhören und das Mitdiskutieren hat allen großen Spaß
gemacht und ich geb nochmal zurück an Kitty. Auch an dich Kitty, vielen vielen
Dank für deinen Support und die Fragen. Tschüss und bis zum nächsten Mal.
Herald: Dankeschön. Thilo: Tschüss.
Kolja: Bis dahin.
*RC3 Abspannmusik*
Untertitel erstellt von c3subtitles.de im Jahr 2021. Mach mit und hilf uns!