Lieber Zuschauer, dieser Untertitel wurde automatisch generiert von YouTube und dementsprechend (sehr) fehlerhaft. Wenn du kannst, hilf uns bitte gute Untertitel zu erstellen: https://c3subtitles.de/talk/2682 Danke!
[Musik]
und ich bin sehr froh dass nachdem
dieser Talk das erste Mal am ersten Tag
leider wegen Wetter abgesagt werden
musste dass das Zelt jetzt so voll ist
und freue mich sehr Jens ohing
ankündigen zu dürfen der ist momentan
Redakteur beim Tagesspiegel ist aber
schon seit Jahren in Technologie in
Politik unterwegs und er wird uns jetzt
ein bisschen was dazu erzählen was so
die politischen Implikationen von
künstlicher Intelligenz sind ein
riesengroßen Applaus für
Jens
[Applaus]
ja vielen Dank ich freue mich total dass
ich hier eingeladen wurde was zu
erzählen zu dem Hype Thema der letzten
Monate ich freue mich auch dass das hier
bei digitalourage stattfindet also jeder
Täter kehrt an den
Ort seiner vorherigen Vergehen zurück
ich ich habe als ganz ganz junger Mensch
mal angefangen bei digitalourage als es
noch fbot hiß war damals in vielle
Hinsicht ein anderer Mensch aber
irgendwie auch der gleiche und ja jetzt
ein paar Jahrzehnten Abstand interessant
was daraus geworden ist ich möchte über
künstliche Intelligenz sprechen eine
riesenprjektionsfläche fast alle
Menschen haben damit dazu was zu
sagen ich möchte nicht darüber sprechen
ob das
die Zukunft ist denn ich glaube auf die
eine oder andere Art wird es auf jeden
Fall die Zukunft beeinflussen
ähm und was ich auch nicht machen möchte
ist
äh dieses haha guck mal chpt hat was
dummes gesagt ich habe in letzter Zeit
von Politiker in so viele Vorträge
gehört die damit anfangen zum Thema des
heutigen Tages habe ich mal chch bitt
befragt und da
den Witz habe ich jetzt schon so oft
gehört dass ich mir das dann auch sparen
werde ich selber mag Technologie trotz
allem glaube ich auch noch an die
Zukunft
und ich liebe auch Daten also offene
Daten und das ist beruht auch auf
Gegenseitigkeit die offene Daten lieben
auch mich trotzdem möchte ich das
Politikfeld der rechtigkeit und der
Menschenrechte in diesem Bereich mal
auföffnen und das da gibt es einiges zu
sagen das erste was die Leute immer
sagen na ja das ist ja überhaupt gar
keine Intelligenz auch das ist ein
Diskurs wo wir uns sicherlich
philosophisch sehr sehr lange
unterhalten können was ist eigentlich
ein Mensch was macht Intelligenz
aus aber der Begriff ist in der Welt wir
bezeichnen diese Form von vorher
sagen über Dinge die aufgrund von
Datenmengen passieren als künstliche
Intelligenz oder als artificial
intelligence die englischsprachigen
Leute haben es ein bisschen einfacher
weil da ist es nicht ganz so überladen
wenn man eine Nebenbedeutung von
Intelligenz benutzt also da kann
intelligence auch einfach Erkennung
bedeuten also die Central Intelligence
Agency ist nicht die Versammlung der
klügsten Menschen Amerikas sondern da
werden einfach Daten zusammengetragen
und daraus dann äh Rückschlüsse
geschlossen also ob dieser Begriff
richtig ist möchte ich nicht diskutieren
ich bin da relativ
schmerzfrei das wird seit den 50er
Jahren als Begriff schon als Teilbereich
der Informatik verwendet da gibt es gab
es den ersten Workshop zu dem Thema in
dthmos wo Leute gesagt haben wir müssen
jetzt mal an artificial intelligence
forschen es gab den Kalten Krieg und man
hat gedacht jetzt haben wir die Computer
die die seit sind dann schreibe ich mal
heute Abend noch ein Programm was von
russisch nach Englisch übersetzt und
dann ist der kalte Krieg auch bald
beendet das hat alles ein bisschen
länger gedauert und auf dem Weg ist dann
auch klar geworden dass das Problem
vielleicht ein bisschen komplexer ist er
mal ursprünglich angewandt angedacht hat
aber die Definition davon ist so g wie
schwammig künstliche Intelligenz
bedeutet einfach mit dem Computer Dinge
tun von denen wir dachten dass nur
Menschen sie können und das bedeutet
natürlich dass es ein extrem bewegliches
Ziel ist einige von diesen Zielen haben
wir dann auch schon abgehakt wir haben
mal gedacht nur Menschen können auf
großmeisterniveau Schach spielen vorbei
dann hat man gesagt ja ja schach ist ja
ein völlig simples Spiel was ist mit
diesem go das das das wird noch
Jahrzehnte dauern bis das Computer kann
auch das ist mittlerweile abgehackt das
heißt auf dem Weg zu definieren was ist
denn eigentlich etwas was nur Menschen
können und was man nicht mit Maschinen
machen kann
haben wir das Ziel dann immer wieder
neuer neu definiert es ist auch eine
starke Verbindung zu dem Bereich der
Kognitionswissenschaften also das
Verstehen von diesem Mysterium was
passiert eigentlich im Gehirn und dazu
hat man vereinfachte Modelle entwickelt
die man dann im Compu Computer
modellieren kann und sagen
kann ja das hilft uns vielleicht zu
verstehen was uns zu Menschen macht wenn
wir Teile vereinfach davon in
maschinenform nachbauen und entstanden
sind dabei natürlich Sachen die wir gar
nicht so als künstliche inenz im Alltag
einordnen würden also wenn ich gucke wie
komme ich denn eigentlich zum Camp dann
nehme ich meine
Navigationssoftware und die Sucht mir in
einer riesigen Datenmenge die richtigen
Knotenpunkte und findet dann das Ziel
das ist etwas was vorher Menschen mit
faltstadtplänen machen mussten und das
ist für uns jetzt heutzutage ganz
selbstverständlich ähm genauso wenn ich
wissen will wie morgen das Wetter ist
dann ist das eine statistische Anwendung
über große Datenmengen ähm wenn ich
heutzutage Navigationsgeräte oder
wetterfeuersage neu erfinden würde und
äh dafür dann venturekapital suchen
würde würde ich das nicht als Statistik
bezeichnen sonder würde sagen wir machen
KI in unserem Startup
man hat ganz lange Zeit einen Ansatz
verfolgt der dann als good old ai also
gute alte künstliche Genz bezeichnet
wird also die ist weder
m inherend gut noch besonders alt aber
das ist der Begriff der dafür benutzt
wird dass man gesagt hat das Wissen das
wir haben das müssen wir in
Wissensdatenbanken ablegen mod eren und
all die Regeln erstmal formulieren und
der Maschine
erklären wie die Welt ist und
dass die Welt alles ist was der Fall ist
das heißt also ich setze dann wirklich
so regeln ein wie alle Menschen sind
sterblich sokrates ist ein Mensch daraus
folgt dann sokrates ist sterblich
das ist eine sehr sehr aufwendige Arbeit
all die Regeln in der in der Welt in in
so in so einer Wissensdatenbank abzu Ben
und irgendwann gibt's dann auch ja
Mittelkürzung an der Uni und die
studentischen Hilfskräfte können diese
tonnenweise regeln dann nicht mehr ein
ähm tippen und dann gibt es einen KI
Winter es gibt keine vorzeigbaren
Ergebnisse mehr auf dem Weg zur
künstlichen Intelligenz und dann steht
die Forschung etwas still
ungefähr in den 90er Jahren hat man dann
völlig anderen Ansatz gemacht hat gesagt
anstatt unser Wissen über die Welt zu
modellieren lassen wir den Computer doch
einfach mal die
Regeln in der Welt selber herausfinden
und hat dann
auf etwas genennt gesetzt was neuronale
Netze sind also daraus ist dann auch so
Teilbereiche wie machine learning
entstanden das ist eigentlich so die
hippe neue ai von der wir heute reden
also dieses mit den
Wissensdatenbanken und dem Computer
erklären wie die Welt funktioniert das
ist
out das macht keiner mehr ich glaube das
stimmt nicht ich glaube das kommt noch
mal wieder und dann werden wir eine
Verbindung zwischen neuronaler
KI haben und dieser regelbasierten KI
aber im Moment ist der große Hype auf
neuronalen Netzen das bedeutet man nimmt
ein verereinfachtes Modell davon wie das
menschliche Gehirn funktioniert da gibt
es Neuronen Neuronen bekommen Signale
wenn die Signale einen bestimmten
Schwellwert über treten dann werden sie
gefeuert und dann am Schluss hat
entsteht dann im Gehirn ein Bild weil
entsprechende Signale auf das Auge
treffen wenn man das abbildet in einzen
und Nullen dann hat man ein neuronales
Netz ich vereinfache das jetzt sehr sehr
sehr bitte nicht ja in der Masterarbeit
für Informatik dann so ausdrücken
sondern mehr ins Detail gehen aber im
Grunde ist es so als ob ich eine eine
elektrische Schaltung
konstruiere und dann packe ich einmal in
die Elektronik Bastelkiste nehme mir
eine Handvoll von Widerständen und
schmeiße die so lange auf diese
elektrische Schaltung bis ich die
Gewichte so austariert haben dass die
Signale an den richtigen Stellen das
ergeben was ich erreichen möchte also
ein sehr experimenteller Prozess ich
gebe dem Computer Riesenmengen von Daten
und sag macht da mal was sinnvolles
draus erkenne da Muster und
Regelmäßigkeiten das heißt eigentlich
sprech wir gar nicht über die Probleme
mit KI wir sprechen über die Probleme
von Big
Data und wenn man dann sagt ja ich will
das immer noch nicht künstliche
Intelligenz nennen dann kann man einfach
sagen Leute es ist eine Metapher das ist
auch nicht neu in der
Technik auch nicht in der
Computertechnik
193 sah ein Computer noch so aus also
ein Computer war jemand der oder die in
dem Fall im wissenschaftlichen Bereich
Berechnungen angestellt hat an der
Sternwarte von Harvard gab es die
Harvard Computers das waren m ja eine
Reihe von junger Frauen die furchtbar
fit in Mathematik waren und die ganzen
Berechnungen angestellt haben und erst
später hat man dann angefangen lieblose
Maschinen als Computers zu bezeichnen
ähm das kann halt immer wieder passieren
man kann sich natürlich drüber streiten
ob das eine passende metaphor ist aber
es ist die metaphor die da ist und mit
der arbeiten wir jetzt erstmal aber was
unbestritten ist ist dass KI unheimlich
viele Bedeutungen hat ich hatte eben
schon gesagt in den
kognationswissenschaften ist es so dass
äh da gesagt wird wir benutzen
vereinfachte Modelle um etwas über unser
eigenes Denken herauszu finden und
modellieren das und nennen das
künstliche Intelligenz ein interessantes
paper ähm wo gesagt hat wir müssen
diesen Begriff KI wieder reclaimen für
die
Kognitionswissenschaften die haben dann
erstmal all die unterschiedlichen Dinge
die Leute mit artificial intelligence
meinen aufgeführt also das könnte sowas
wie der Heilige Gral der kiforschung die
artificial general intelligence sein das
die Superintelligenz die alle beliebigen
Probleme lösen kann manchmal meinen
Leute einfach auch nur ähm statistische
Anwendung also basische Statistik also
kombinierte Wahrscheinlichkeiten und
nennen das dann KI manchmal meinen sie
Teilbereiche von der KI wie machine
learning im öffentlichen Diskurs gibt es
etwas was für das Politikfeld KI
besonders interessant ist und das ist KI
als
Ideologie KI als
Ideologie bedeutet kurz gesagt dass sich
reiche weiße Menschen hinstellen und
sagen künstliche Intelligenz was
zufällig das ist was meine Firma gerade
betreibt ist das was uns retten will bzw
in letzter Zeit einen interessanten
Twist wir arbeiten an künstlicher
Intelligenz und diese künstliche
Intelligenz wird unsere Welt so sehr
beeinflussen dass Sie mindestens die
Gefährlichkeit einer
Atombombe bedeutet deswegen sind wir
sehr sehr wichtige men
und brauchen eure Aufmerksamkeit und
euer
Geld daran
anschließend werden wenn man mit
vereinfachten Modellen des menschlichen
Bewusstseins arbeitet auch vereinfachte
Modelle der
Gesellschaft angewendet wie z.B jedes
Problem hat immer eine technische Lösung
und wenn ich aus
einer privilegierten Position
komme wo ich dann vielleicht mein
kleines Erbe eingebracht habe um meine
erste Firma zu gründen dann habe ich
irgendwann gelernt aus Problemen kann
man sich immer frei kaufen und
ähm wenn es Probleme gibt die
systemische Natur sind wenn ich äh
diskriminiert werde aufgrund etwas äh
mit dem ich geboren werde dann gibt's
das ja eigentlich gar nicht weil alle
weißen Männer haben solche Art von
Problemen ja gar nicht
ähm wenn man sich nicht freikaufen kann
hat man einfach vielleicht nicht genug
große Datensätze ähm dann
kann man das auf die Art und Weise
lösen KI ist eine schreckliche Bedrohung
in der Zukunft und da kann man Science
Fiction Szenarien von übermächtigen
Robotern
entwickeln hier im hier und jetzt ist
alles prima denn also die Mieten sind
gut denn ich kann sie ja bezahlen äh
dann gibt es auch keine Ungerechtigkeit
die im Jetzt steht und das kann ich dann
jetzt auch erstmal für mein Modell
vernachlässigen und wenn ich mich gut
mit KI auskenne dann muss ich vielleicht
auch nicht auf andere Stimmen hören und
dann muss ich auch vielleicht nicht
Dinge
ausdiskutieren und brauche auch keinen
öffentlichen Diskurs denn wir sollten
alle mehr auf Experten hören Experten
wissen was gut für uns ist in der
schlimmsten ausf Ausformung geht das
dann in eine Richtung die man ja
vielleicht sogar als als
technofaschismus bezeichnen könnte das
fängt erstmal ganz soft an es gibt eine
Bewegung namens effective aluism das
sind reiche
Gründer in den USA die gesagt haben wir
haben viel zu viel Geld wir möchten
gerne dass die Welt besser wird aber es
soll sich ja lohnen es soll impact haben
wo kann ich denn mein Geld so anlegen
dass ich mit den besten Return on
Investment habe
dann gibt es daraus anschließend und
auch sehr oft in dieser effective
altruism Bubble vertreten den Begriff
des longterm missen also wir betrachten
die
langzeitprobleme die künftigge
Generation das klingt erstmal sehr sehr
gut das ist auch etwas was wir auf jeden
Fall machen sollten wir haben eine
Verantwortung gegenüber künftigen
Generationen aber wenn es dann darum
geht zu sagen wir müssen die
Auswanderung der Menschen ins All als
notwendig nächstes Ziel vorantreiben und
uns vielleicht nicht um die Auswirkung
der Klimakrise kümmern oder um
systemische Ungerechtigkeiten und
Diskriminierung im Hier und Jetzt dann
wird's ein bisschen schwierig und in der
extremsten Form vertreten von sehr sehr
wenigen aus dieser Bubble gibt es dann
eine Ideologie namens Dark Enlightenment
also Enlightenment ist ja die Aufklärung
und da steckt das Leid drin und das soll
wieder verdunkelt werden also die
aufklörung soll umgedreht werden es gibt
einen Autor namens Curtis javis
publiziert als menzius moldbug also
menzius der Schleimpilz
Schleimpilz
Insekt
und der argumentiert dafür dass
eigentlich mit der auf mit der
Aufklärung und der Abschaffung der
Monarchie und Ideen wie Gleichheit und
und Menschenrechte da fing das Problem
eigentlich an was Amerika
[Musik]
braucht was Amerika braucht ist ein
Experten CEO als König also der
argumentiert ernsthaft für die
Wiedereinführung der Monarchie hat auch
ein Vorschlag Elon wask wäre dafür am
besten geeignet
und sagt halt es gibt halt dann wenn man
sich die Entwicklung der Menschheit
anüppt anscheinend menschenrass die
besser zum herrschen und welche die
besser für die Sklaverei geeignet sind
das ist astreiner Faschismus das wird
vertreten in Kreisen von Silicon Valley
wo man sich mit der Zukunft beschäftigt
und wenn man sagt ja gut das ist ein
Irrer der sein Blog betreibt das es
jemand der auf Partys von Peter Thel
gesehen wird und dort auch als
Einflüsterer
gilt das ist KI als Ideologie sollte man
mal drüber reden aber auch das was KI
macht ist nicht unbedingt wertfrei jeder
Art von Mustererkennung ist performativ
was bedeutet
das eine der Sachen die Menschen
ziemlich gut können und Computer
ziemlich schlecht ist Dinge erkennen
auch wenn sie vielleicht ein bisschen
verschwommen sind aus der Ferne und so
weiter
das ist tatsächlich einer der
interessanteren Bereiche
von dieser ganzen Forschung mit
künstliche Intelligenz dass ich ein Bild
habe und dann einfach so oft mit diesen
unterschiedlichen Formen des Bildes
erkenne dass dann auch die Banane als
nächstes mal erkannt wird wie sieht
sowas in der Praxis aus hier ist eine
eine KI Anwendung die ich irgendwie
ziemlich gut finde ähm die auch äh von
ähm Kolleginen von mir benutzt und
entwickelt wurde ähm da geht es darum zu
erkennen ob Vandalismus in der Wikipedia
äh genommen wurde und äh so oder ähnlich
sehen bei sehr sehr vielen
ki-anwendungen die internen
Datenstrukturen aus es gibt Anzeichen
dafür dass das ein böser edit ist oder
ein schlecht
Qualität Artikel von schlechter Qualität
also da laufen unheimlich viele Werte
und Erfahrung rein bei bei Vandalismus
könnte es z.B sein ja zu der Zeit gab es
gerade Schulpause als dieser edit
vorgenommen wurde und das wird dann mit
einer bestimmten Wahrscheinlichkeit
bewertet also von 1 bis 0,0 dass diese
Wahrscheinlichkeiten werden kombiniert
nach Satz von Base und am Schluss habe
ich etwas und sag das sieht für mich
eher wie Vandalismus aus oder das sieht
für mich eher aus wie etwas was legitim
ist man könnte den Computer die
Entscheidung treffen lassen in dem Fall
wird es so eingesetzt wie ich es für
sinnvoll finde das ist eine erste
Filterung die die Admins diese diese
patrouillengänge in der Wikipedia machen
äh als Werkzeug an die Hand bekommen das
heißt also die bekommen die sehr sehr
eindeutigen Fälle
angezeigt müssen dann nur ein kurzen
Blick drauf werfen und meistens ist es
dann auch sehr schnell zu erkennen und
können sich dann im im Fortgang um die
komplexeren Fälle kümmern das
finde ich auch erstmal so gut und äh
warum soll man wenn man viele Daten hat
öffentliche Daten warum soll man daraus
nicht was lernen können das ist etwas
was wir glaube ich alle in der Pandemie
gemerkt haben es ist eigentlich ganz gut
Daten zu haben und daraus dann etwas zu
lernen und dann auch Vorhersagen über
die vor die Zukunft zu machen aber wenn
ich dann so eine Karte von diesen
Datenpunkten
erstelle dann ist
das etwas was der Wirklichkeit sich
annähert aber nicht niemals die
Möglichkeit
ist wenn ich als Lagerarbeiter bei
Amazon arbeite und dann Datenpunkte
entstehen entstehen und diese
Datenpunkte werden in einem
statistischen Modell oder einem KI
Modell verarbeitet dann bin ich
plötzlich etwas anderes dann bin ich ein
guter Lagerarbeiter oder ein schlechter
Lagerarbeiter
wenn gesagt
wird wir haben jetzt so ein paar
Datenpunkte wie dein Körper aussieht und
welche Kleidung du trägst und wie du
dich verhältst dann äh bin ich nicht
mehr einfach ein Mensch sondern ich
werde performativ eingeordnet in ein
Geschlecht in eine Geschlechterrolle in
ein gender
äh das heißt diese Klassifizierung
selber sind schon ein Akt man könnte
auch sagen es sind ein Akt der macht
derjenige der kategorisieren kann hat
macht the power to name kennen wir als
Konzept
von rumpelstielchen bis zur Volkszählung
wer etwas benennen kann hat macht und
kann dann sagen bist du ein guter
Arbeiter bist du produktiv wir haben da
einige Datenpunkte dazu gesammelt welche
Geschlechteridentität he das ist das was
du bist Teil deiner Persönlichkeit oder
ein Eintrag
ja in der in der Sammlung der der
psychischen Störung das hat sich auch
sehr geändert es gab mal
Zeiten da stand da auch mal
Homosexualität drin und irgendwann stand
es halt nicht mehr drin ist das dann ein
falscher Datenpunkt oder können wir uns
darauf einigen dass jede Form von
Klassifizierung immer mit Macht zu tun
hat und indem ich versuche ein
sinnvolles Bild über die Welt zu machen
ob mit KI oder anders habe ich mit Macht
zu
tun worüber also reden ist der Traum von
von jedem Bürokraten Computer sagt nein
oder Computer sagt ja und das in
hochleistungsform ein Begriff der da
häufiger auch fällt bei dieser
generativen KI ist einfach der Begriff
der stochastischen papagien also
Stochastik ist die Lehre von allem was
mit Wahrscheinlichkeit zu tun hat
Statistik und
Wahrscheinlichkeitsrechnung
ähm das was ein generatives Sprachmodell
wie chatgpd macht ist einfach ein
stochastischen term auf eine große
Datenmenge anzuwenden da ist keine
kreativ Kreativität dahinter sondern das
ist die Anwendung von komplexen
stochastischen
Prozessen aus dieser Überlegung jedes
soziale Problem hat eine technische
Lösung kommt dann oft oft auch die
Vorstellung dass domänenwissen sich ja
ganz einfach runterbrechen lässt gib mir
doch nur eine mathematische Funk
und dann kann ich das auch schon
entscheiden wenn jemand zu euch kommt
und sagt ich habe da so eine App die
kann psychische Probleme heilen
denn ich habe da so ein paar
mathematische Funktionen gefunden
Vorsicht
vielleicht ist das dann auch eine
Selbstüberschätzung von jemand der nicht
versteht dass das Wissen in einer Domäne
z.B Gesundheit viel mehr bedeutet als
das Wissen über das sind statistisch
signifikante Dinge sondern äh da gehört
dann auch noch mehr da dieses berühmte
einerseits andererseits und dann sollte
man auch noch mal die Umstände
betrachten das fällt alles weg wenn man
sagt gib mir doch einfach eine
statistische Funktion eine mathematische
Funktion und gib mir statische
signifikante Daten und manchmal wollen
wir auch gar nicht aufgrund von
Statistik entscheiden sondern es gibt
keine richtige Antwort sondern es gibt
nur das was die Gesellschaft gerne
machen möchte und das muss ausdiskutiert
werden und äh da gibt es Konflikt und
unterschiedliche Interessen und am
Schluss gibt es dann nicht die richtige
Lösung sondern die Lösung die wir uns
gemeinsam durch Debatte erarbeitet
[Musik]
haben kennt ihr diesen Spruch mit es
gibt keine Cloud es gibt nur den
Computer andere
Menschen es gibt keine KI es gibt nur
die unsichtbare Arbeit von anderen
Menschen meine Lieblingsbilder Quelle
für alles mit KI ist better images of
AI das ist eine Initiative von Designer
innen gesagt haben wir sinds echt leid
dass immer wenn Artikel über KI
erscheint ist diese komische silberne
Frau mit
den mit dem futuristischen Hintergrund
oder es sind irgendwelche codzahlen lass
uns das noch mal visualisieren auf eine
Art wie es richtig ist
um Mustererkennung zu ben um KI zu
machen brauche ich tonnenweise von
Testdaten um dem Computer erstmal zu
sagen guck mal so ist es und dann lern
mal wie es auf den nächsten Fall
anzuwenden ist diese Testdaten müssen
korrekt gelabelt werden das ist
Handarbeit damit ich einen korrekten
Datensatz habe müssen echte Menschen in
der echten Welt dafür sorgen dass dieser
Testdatensatz sauber ist insofern finde
ich diese Visualisierung von dem was KI
ist sehr schön da sitzen Leute und
annotieren
Testdaten zum Teil unter prekären
Bedingungen in Kenia hat sich in diesem
Jahr zum ersten Mal eine Gewerkschaft
gegründet Firmen wie open ai die chatpt
herstellen haben ja um die
150 für Testdaten laabeling bestzäht man
hat sich einfach gedacht wir brauchen
irgendwie ein Land ähm wo wo Englisch
gesprochen wird und wo die Leute mit
einem Stundensatz von 1,50
ähm vielleicht in Ordnung
gehen dieses ganze guck mal was chjbt
kann ist die unsichtbare Arbeit von
Menschen die unter den prekärsten
Bedingungen arbeiten 150 davon haben
sich die für Chat jpt für
contentmeration bei anderen Social
Networks Arbeiten zusammengeschlossen in
obi und haben zum ersten Mal gesagt hier
wir sind die Leute die die unsichtbare
Arbeit beim Aufräumen der datenmüllhalte
betreiben wir möchten jetzt gemeinsam
auftreten und für bessere
arbeiterinnenrechte
[Applaus]
kämpfen und wie bei allen Formen von
Struktur struktureller Diskriminierung
trifft es die marginalisierten Gruppen
zuerst
die EU gibt Millionen Milliarden für
kiforschung aus und mehrere Million
mehrere hundert Millionen davon für eine
Agentur namens Frontex die dafür sorgt
dass Menschen nicht nach Europa kommen
sondern im Mittelmeer
ertrinken hier am Zelt ist eine
Europaflagge und so sehr ich die EU
Liebe und mich darüber freue dass sie
für Frieden und Menschenrechte über
mehrere Jahrzehnte auf dem Kontinent
gesorgt hat wo das nicht immer
selbstverständlich Frontex ist die
hässliche Seite von dieser EU Frontex
ist genau das was was Michelle fouco als
biomacht bezeichnen würde also macht
reduziert sich darauf dass ich
entscheiden kann ob du lebst in der
postkolonialen Theorie wird dann von
nekropolitik gesprochen also Politik die
sich überlegt welche Teile der
Erdbevölkerung lassen wir sterben damit
der andere Teil leben kann sowas wie
moderne
Grenzkontrolle natürlich setzt das
Gesichtserkennung ein natürlich sind das
Methoden die in der KI sind und wenn
fronx diese Werbebroschüre macht welche
tollen Möglichkeiten sie durch
künstliche Intelligenz hat dann ist das
biomacht
nikropolitik ähm mit Hilfe von
mathematischen Modellen und Statistiken
dafür zu sorgen dass die falschen
Menschen nicht nach Europa
kommen aber wir können das doch alles
viel gerechter machen wir können doch
unterdrückte maginalisierte stimmen dann
auch nach vorne bringen und wenn wir nur
den richtigen Datensatz haben
dann dann kann uns der Computer ja sagen
äh was richtig ist und was falsch ja
haben wir das denn ich weiß es nicht
also die meist von diesen großen
ki-prjekten sind sehr sehr schmallippig
darüber was
ihre Datenquellen angeht aber bei Chat
GPT gab es mal ein Paper für Chat für
GPT 2 glaube ich wo zumindest mal
angedeutet wurde wo diese ganzen
Textmengen herkommen das meiste kommt
aus einem aus einer Textsammlung namens
common Craw wo einfach das Internet
abgestaubsorgt wird und alles was an
Text im Internet verfügbar ist wird dann
da
reingeschmissen natürlich ist Wikipedia
auch ganz groß drin vertreten aber wenn
man sich dann das statistisch anguckt
dann ist 40% davon
englischsprachig das ist nicht die
Verteilung von den Sprachen die wir auf
der Welt haben und viele von viele
Sprachen wie kursa oder
indische Sprachen die zum Teil Millionen
von sprecherinen haben die tauchen dann
einfach im
im im
Text corpus gar nicht auf die sind dann
für die KI unsichtbar das ist kein Teil
des Weltwissens das Weltwissen ist
englischsprachig wir
arbeiten nicht nur mit vereinfachten
Modellen des menschlichen Bewusstseins
wir arbeiten dann auch mit richtig
vereinfachten Modellen von dem was
Weltwissen bedeutet die meisten Menschen
auf der Welt sprechen keine Englisch
aber chchibt weiß das gar nicht und geht
von einer anderen Realität aus
na ja und dann wie ist das eigentlich
mit dem Urheberrecht kennt ihr dieses
Bild mit dem
mit dem Affen das ist ein Tierfotograf
in Indonesien im Urwald unterwegs
gewesen und einer von den Affen hat sich
dann die Kamera geklaut und hat ein
selfie gemacht
m das ging dann vor Gericht hin und her
wer hat den eigentlich das Urheberrecht
daran denn Urheberrechte können nur
Menschen haben
äh ein Affe hat typischerweise gar auch
gar kein Bankkonto wo jetzt die tanemen
hinfließen könnten
und ist rechtlich gesehen Sache Computer
ist ziemlich vi ziemlich sehr eindeutig
rechtlich gesehene Sache ist also alles
das aus Seer KI rausfällt
urheberrechtsfrei müssen wir darüber gar
nicht
diskutieren finde ich auf jeden Fall
einfach dann müsste ich nicht immer
diese komplizierten
attributionsangaben von von Creative
Commons machen sondern kann ich ja
einfach einfach das nehmen was die KI so
rausgibt wir müssen darüber diskutieren
dann rechtlich ist das bis jetzt noch
ein bisschen wenig geklärt und ich kann
auch verstehen wenn Künstlerinnen sagen
ich find es nicht okay wenn ich
einer KI für Bildgenerierung sage mal
mal ein Bild in meinem Stil und dann
kommt ein Bild raus das fühlt sich
irgendwie an wie eine
berechtsverletzung und dann einfach noch
zu sagen ja nee das kommt aus dem
Computer das das haben wir gar nicht
Ents
das ist mir ein bisschen zu billig das
sind Debatten die müssen wir dann auch
noch mal führen und da werden Leute die
Spaß an J haben also nicht ich
sicherlich noch sehr viel Beschäftigung
mit haben und dann müssen wir auch mal
über die Kosten reden da gibt's auf auf
der einen Seite die planetaren
Kosten man kann relativ genau sagen
welche Form von Maschin learning und KI
dann auch welchen CO2 Ausstoß bekommen
zum Glück ist das alles auf einer
gewissen Ebene auch skalierbar
Rechenzentrum können einfach komplett an
grünenstom angeschlossen werden aber ja
äh jede tolle spielanwendung wo ich
sage ja da habe ich was tolles mit Daten
gezaubert mit KI hat auf jeden Fall auch
planetare Kosten die wir einpreisen
müssen und wenn wir dann
sagen ich möchte sowas wie open ai oder
andere Konzerne gar nicht haben ich
mache einfach meine eene KI mit ganz
viel Freiheit und
Bürgerrechten ich kann nicht einfach
entscheiden in diesen Markt auf dieser
Ebene einzutreten das ist kein Spielfeld
das für alle offen ist es gibt genau
einen mir bekannten Versuch wo auf einer
ähnlichen Ebene gearbeitet wird das ist
also jetzt was diese großen
sprachmodelle angeht das ist Bloom das
läuft auf einen gelangwealten
Supercomputer in Paris
wo dann gebettelt wurde können wir bitte
unser open source KI Modell darauf
laufen lassen das ist nichts was
digitalourage oder CCC im Keller haben
sondern da reden wir wirklich
über ganz ganz große Supercomputer und
einfach zu sagen ja wie bei Open Source
wir stellen da einfach eine Alternative
zur Verfügung das stößt dann einfach mal
an finanzielle Grenzen weil
supercuter haben wir alle nicht komm
dann auch schon zum Schluss
und habe jetzt ziemlich viele Felder in
diesem Politikfeld KI aufgemacht aber
man kann auf jeden Fall festhalten wir
brauchen irgendwie gar keine
schrecklichen Zukunfts Visionen aus als
S viiction mit Terminator oder sowas
sondern jetzt schon KI als Ideologie
schadet uns jetzt schon vielleicht sogar
der Demokratie auf jeden Fall
marginalisierten
Gruppen wir müssen aufpassen dass das
was wir unserer wissensgerechtigkeit
unter offenen Zugang zu wissen nicht
verdeckt wird durch einen Zuckerguss mit
das kommt aus der Maschine wir können
nicht genau sagen wo das herkommt und
die Quellen sind nicht zugänglich wissen
sollte nicht opak also undurchsichtig
sein sondern sie soll es sollte
zugänglich sein und wir müssen uns
überlegen wie können wir da in diesem
Feld Gerechtigkeit schaffen und wie
können wir es verhindern dass Monopole
entstehen ich habe ein bisschen was dazu
gelesen das sind Bücher oder in einem
Fall vielleicht sehr niedrig schellig
eine Netflix Doku die es sicherlich auch
auf Pirate Bay gibt
also den mcquillin resisting ai ein ein
ein sehr
wütendes Buch von jemanden der in London
als Professor für Informatik arbeitet
und auch weiß worüber redet
m ja ein antifaschistischer Ansatz
gegen künstliche Intelligenz Joy
burlamini
ganz beeindruckende Frau habe ich auch
das Privileg gehab sie beim Vortrag in
in Kapstadt live zu sehen beschäftigt
sich auch damit was bedeutet das wenn
weiße Männer Gesichtserkennung betreiben
und dann schwarze Frauen nicht mehr
erkannt werden also welche Arten von
Regeln kodieren wir da rein wie gesagt
eine Dokumentation die man sich als
Einführung angucken kann es gibt ein
wissenschaftliches paper
zu
dem Hype Thema mit den large language
Models wo dieser Begriff der
stochastischen Papageien herkommt von
Emily Bender und
Tim gerbu sage ich immer dazu lohnt sich
auf jeden Fall zu lesen ist noch nie
jemand dümmer dadurch
geworden und wir sollten weiter
diskutieren vielleicht habt ihr ja
fragen ich bedanke
mich
[Applaus]
[Musik]