Lieber Zuschauer, dieser Untertitel wurde automatisch generiert von YouTube und dementsprechend (sehr) fehlerhaft. Wenn du kannst, hilf uns bitte gute Untertitel zu erstellen: https://c3subtitles.de/talk/3205 Danke!
[Musik]
also den Intro für unser nächste Speaker
wird kürzen knackig gehalen hier ist der
Simon weckert und er ist Medienkünstler
und er würde uns was zeigen und
vielleicht auch mal
spielen bitte begrüßen uns
Simon
[Applaus]
ja hi hallo zusammen cool dass ihr da
seid letzter Tag ich hoffe ihr hatet
eine gute Konferenz wer heute nicht müde
ist hat irgendwas falsch gemacht
genau ich werde
heute über Algorithmen im Krieg reden
aber auch in einer gewissen Weise zu
einer Querverbindung was die Kunst damit
zu tun hat der Titel
des Vortrags heißt zffstreich wir sehen
sch eine Installation werde ich später
drauf eingehen aber ganz kurz so ein
paar Worte zu mir genau ich bin Simon
weckert bin Medienkünstler habe auch mal
angefangen Informatik
sozusagen zu studieren und bin dann aber
irgendwann in die Kunst gegangen fand
das irgendwi spannender und ich versuche
im Endeffekt mit digitalmien mit
Technologien zu arbeiten und
vielleicht sogar das was halt hier auf
dem communication Kongress vermittelt
wird in Kunstobjekte oder in Metaphern
zu binden
ihr seht ich verarbeite mit
verschiedenen Mitteln
verschiedenen Ausdrucksformen und genau
versuche mich da nicht zu limitieren was
was die Technologien angeht vielleicht
kennt ihr die Arbeit von mir Google Maps
[Applaus]
Hacks okay ich brauch nicht weiter zu
erklären das ist gut ich ein bisschen
mehr Zeit hinten
ran genau aha da haben wir ja schon mal
Probleme mit dem
Internet
al dann gucken wir mal und zwar geht es
hier in der Arbeit um den sogenannten
zffüreich das ist eine Installation die
ich gemacht habe wo ich im Endeffekt
eine Trompete gebaut habe die die
Melodie zfstreiches spielt die Melodie
selber wird verwendet oder wurde
verwendet vielleicht auch ja um Soldaten
auf dem stachfeld zu symbolisieren dass
sich zurückziehen sollen und diese
Arbeit will im Endeffekt nach der
erfinden des Schießpulvers und der
Atombombe auf eine dritte
Revolution in den Waffentechnologien
aufmerksam machen welche sich um
autonome Waffensysteme dreht und was wir
halt sehen ist diese selbstspielende
Trompete ich habe im Endeffekt einen
recurent newal Network verwendet um und
den System gesagt bitte versuche diese
Melodie selbst hier anzulernen und im
Endeffekt ist so die Aussage dass hier
an der Stelle die Maschine den Rückzug
für die Maschinen spielt die Arbeit will
selber
auch so zwei Fragen vielleicht stellen
die eine ist inwie weit können wir die
Entscheidung über Leben und Tod an
autonome
emotionslose Maschinen übergeben oder
ist nicht der Mensch an der Stelle
eigentlich auch ein ganz wichtiger
Faktor in diesem Kreislauf und die
zweite Frage ist inwi weit wir auch
Entwicklungen in Unternehmen sei das z.B
ja Google z.B ganz ganz ganz konkret
das supporten können dass die z.B den
Algorithmen entwickeln die in solchen
System zum Einsatz kommen konkret Google
die haben 2017 einen Vertrag mit dem
Pentagon sind die eingegangen und zwar
war das das sogenannte project Maven und
da ging es halt dum Algorithmen zu
entwickeln für drohen pattern
recognition Verfahren die dann genau zum
Aufspüren oder auch zum Angreifen
verwendet wordurden es gab dann
daraufhin starken wi dann von
Mitarbeitenden in bei Google selber und
daraufhin musste dann google auch diesen
Vertrag mit Pentagon Kündig in 2018 was
ich damals gemacht hatte ich bin mit der
Trompete vor das Google Headquarter
Europa in Zürich gegangen und hab dann
da eine Aktion durchgeführt auch mit
Flugblättern und sozusagen diese die
Trompete da auch spielen lassen um im
Endeffekt auch darauf aufmerksam zu
machen auf diesen auf diesen
Umstand genau ffekt ist das eine Art von
Form wie ich versuche mit der Kunst halt
eben auch oder mit diesem Objekt dann
auf solche Themen aufmerksam zu
machen was passiert ist im Endeffekt
dass S dann irgendwann für eine halbe
Stunde das Headquarter geschlossen wurde
weil die haben mich nicht reingelassen
ich wollte da sozusagen Flugblätter drin
Vorteilen und keiner konnte
raus genau
also ich ja vielleicht mal kurz so ein
bisschen zu Aspekt was was die Kunst für
mich ist od bzw was ich versuche mit der
Kunst auszudrücken als allererstes und
ich glaube das haben wir auch auf dem
Kongress ja öfters gehört ist dass wir
wissen viele Sachen und uns ist glaube
ich viel bewusst aber es kommt immer
drauf an in was für Form in was für
Geschichten wir das Verpacken oder was
für Metaphern wir dazu finden und wenn
die Metapher die Geschichten nicht
stimmen dann können wir halt ne sonst
was irgendwie erzählen uns werden die
Leute das sozusagen einfach nicht wir
können die halt nicht mitnehmen und ich
würde sagen dass ich halt mit meinen
Objekten versuche
andere Herangehensweisen metafern zu
finden um im Endeffekt auf in dem Fall
z.B algorithme
in autonomen Waffensystem bzw auf diese
Entwicklung aufmerksam zu machen und
vielleicht halt auch dadurch Leute zu
erreichen die man mit herkömmlichen
Mitteln traditionellen Medien nicht
erreichen
kann auf der anderen Seite will ich
natürlich aber auch so eine Art
Zeugenschaft ablegen für die Generation
nach uns und im Endeffekt wie so eine
Art
Abbild spiegeln wie war es in der Zeit
in der wir jetzt gerade gelebt
haben Kunst kann mit Räumen und Zeit
anders umgehen als im allag geschieht
sie Kannen sich neben die aktuelle
Wirklichkeit stellen und von dort die
Zahlen der Perspektiven erweitern vor
allem im Wechsel zwischen den
Möglichkeitsraum und den
wirklichkeitsraum die Künste haben ein
Reservoir an
Vorstellungskraft Zitat von Alexander
kluee finde ich auf jeden Fall ein sehr
passenden Satz und kann ich so
unterschreiben da ja in diesem Tor aber
nicht nur um Kunst geht sondern an der
Stelle halt auch um autonome
Waffensysteme oder algorith im Krieg
vielleicht dann erstmal eine Definition
bzw Versuch davon was es eigentlich ist
wir das ein bisschen technisch werden
ich hoffe ich verliere euch nicht wir
kommen dann zum Schluss noch mal zu dem
kunstteil vielleicht aber genau wir
kommen halt nicht drum rum um dieses
Thema zu reden ich versuch da mag
wahrscheinlich so ein bisschen rational
oder abgeklärt klingen aber ich versuch
so human wie möglich drüber zu reden als
allererstes vielleicht viele denken halt
an sowas wie Terminator was halt
natürlich Science Fiction ist halt
erfunden um solche Waffensysteme geht's
natürlich nicht und tatsächlich ist es
als allererstes eine relativ on paper
juristische und ethische Diskussion in
der Genfer
waffenkonvention denn seit der Ächtung
der landmini und blindmachenden Lasern
2014 ist es relativ still geworden
umdessen und jetzt durch die durch das
Aufkommen von autonom Waffensystem wird
dort seit ja 2000 sorry 2014 ich hab
gesagt blind nach Laser war 1998 und
jetzt seit 2014 wird dort diskutiert was
denn eigentlich autonome Waffensysteme
sind die aktuelle Forschung und
Entwicklung von solchen Systemen kann
eigentlich nicht mehr aufgehalten werden
und im Endeffekt geht's nch dar drum
diese zu echten bzw zu sagen wir
verwenden Sie oder wir verwenden sie
nicht
einige Staaten erklären dass sie halt
auch noch nicht so wirklich in der
gewissen Weise bereit sind zu verstehen
was eine autonome Waffe eigentlich
autonom macht und was die vornchteile
sind und z.B Russland sagt dass
Autonomie in solchen Systemen überhaupt
nicht existieren kann gleichzeitig
entwickeln sie aber auch daran USA sagt
sie wollen auch schauen ob es da nicht
irgendwelche Vorteile gibt Israel
Südkorea oder Indien sind so die Staaten
die es eigentlich am meisten pushen weil
da die
lokalen Waffenhersteller sozusagen am
meisten dran entwickeln und die Rolle
von Deutschland ist auch eher verhalten
hat natürlich was auch mit der
genau Waffenlobby in Deutschland zu tun
und man muss aber halt sagen dass
Deutschland z.B seit 2022 den G7 Vorsitz
hat und theoretisch morgen Gesetz
rausbringen könnte um diese Systeme zu
ächten und normalerweise so ein Prozess
immer dann da so dass eigentlich ein
Staat vorangeht ein Land und da scheint
es so oder da gibt's viele Hoffnung dass
sich da Österreich an der Stelle so ein
bisschen
da in den Vordergrund schieben kann um
also weil die halt ganz klar sagen wir
wollen dieses System echten und in der
gewissen Weise diesen Prozess weiter
anstoßen kann bislang gab's aber in
diesen Konferenzen noch keine großen
Entwicklungen weil das Hal alles
einstimmig beschlossen werden muss und
man diskutiert im Endeffekt seit 8
Jahren über Autonomie oder was Autonomie
in solchen System bedeutet eine aktuelle
Definition davon sind ungefähr ja sind
diese drei Begriffe das ist einmal human
interlop das sind Waffen die Ziele
auswählen können und nur mit dem
menschlichen Befehl die Anweisung
ausführen können dann haben wir human
under Loop das sind Waffen die Ziele
auswählen und unter Aufsicht eines
menschlichen Dinas Anweisungen ausüben
können der jedoch die Aktion des
Roboters immer außer Kraft setzen kann
das wären z.B so Systeme wie irondm von
Israel wo heranfliegende Raketen
automatisch abgeschossen werden kann der
mench im Endeffekt nur noch diesen
Prozess abbrechen kann aber selber
einfach zu langsam wäre um das
voranzutreiben oder den den Befehl zu
geben und dann gibt es noch human aut
Loop und das sind Waffen die der Lage
sind Ziele auszuwählen ohne menschliches
Eingreifen Aktionen auszuführen das
bedeutet einfach komplett oder sozusagen
komplett automatisch
ich gehe jetzt kurz zeige euch ein paar
Systeme die es so gibt genau
wahrscheinlich das erste ist dass man
denkt okay drohen ist klar drohen sind
natürlich auch emotional aufgeladen
durch den
drohenkrieg aber da gibt es natürlich
auch Autonomie in diesem System auf der
linken Seite sehen wir
z.B diese Drohne ist ein sogenannte
leuing Drohne die wird sozusagen über
ein Gebiet abgesetzt und kann dann
selbstständig das Ziel angreifen je
nachdem welche Sensordaten von außen
reinkommen sei es bodensensoren
Satellitendaten und dann im Endeffekt
selbst entscheiden kann dieses System
wird auch momentan in der Ukraine
eingesetzt auf der rechten Seite haben
wir ein autonom autonom Panzer muss man
so sagen der von Russland entwickelt
wurde wahrscheinlich erklärt sich das
von selbst und wurde wird in Russland
entwickelt bzw ist techn aus
[Musik]
Russland genau es gibt aber natürlich
noch andere System oder andere Form von
Autonomie in Tech diesen Technologien
und ich würde z.B auch relativ simpel
anfangen mit Systemen wie z.B
Desinformation das heißt das Bots
gezielt in Netzwerk gebracht werden um
dort halt sowas wie in der Fake News bzw
einfach Biss
information so Spreaden und da würde ich
schon sagen dadurch dass es da auch eine
gewisse Autonomie gibt und das halt auch
ein Teil der modernen kriegsfüung ist
würde ich diese Waffen oder diese Art
von Technologie auch schon mit
einbeziehen das Weiteren gibt es aber
halt auch hier noch
andere ja Systeme z.B sind h oben links
di sogenannte guided Trigger das ist ein
Beispiel wie man na Waffe relativ
einfach Autonomie dazu addden kann indem
man im Endeffekt das das das
Zielfernrohr wahrscheinlich gibt besser
Begriff dafür mit einem System
ausschattet das automatisch den Abzug
des Gewehrs drückt wenn das Ziel im wier
ist weil es dann dadurch z.B besser
sowas wie Wind dataten Windsensor oder
äußere Faktoren mit einbeziehen kann und
der Soldat im Endeffekt nur noch
anzielen muss und das ist klar oder
relativ offensichtlich dass das das das
Töten
erleichtert ich würde sogar auch sagen
dass so Face Detection faal recognition
Systeme auch mit da drin vorkommen
können z.B hier auf der rechten Seite
würde ich so als autonom wachton
bezeichnen der der Grenze zwischen
Südkorea und Nordkorea zum Einsatz kommt
und dort z.B mit der flüchenden Person
kommunizieren kann diese festhalten kann
und autonom sozusagen handeln
kann ein weiteres oder eine weitere
Möglichkeit sind sogenannte
Expertensysteme da muss mal ein bisschen
vielleicht technischer werden und zwar
hat man halt festgestellt dass einfach
auf modernen Kriegsschauplätzen die
informationsfü immer größer wird und wie
so eine Art informationsexplosion gibt
und man dahergegangen ist und gesagt
okay was ist wenn wir uns Systeme bauen
die auf basierend auf alten Daten aus
alten Konflikten aus Satelliten Listen
Grafen und so weiter wir eine Art
Programm bauen können dass wir Hal
trainieren können um im Endeffekt
sozusagen uns Optionen rausfiltern zu
lassen oder vielleicht sogar auch zu
predicten also nach predicted policing
ist das dann sowas wie predicted warship
i don't know und wir sehen hier einen
Programm und eine Software von der Firma
pentier die kam ja auch schon mal vor
zwei Tagen
vor die dieses diese Software namens AIP
entwickelt hat ich würde sagen das ist
so eine Art Chat GPT für den Krieg das
bedeutet die haben im Endeffekt ein
large language Models das halt mit dem
Wissen von verschiedenen Konflikten
trainiert wurde man kann halt mit dem
System im Endeffekt chatten und sich
Optionen
geben lassen zurückgeben lassen bzw
Handlungsanweisungen auch ausführen
lassen und
m also genau prinzipiell sieht man
natürlich an der Stelle dass das
ähm ein paar Probleme mit sich bringt
denn wenn sozusagen die
Informationsflut immer größer wird
werden diese Systeme natürlich immer
wichtiger und irgendwann wird der Mensch
nicht mehr wirklich imstande sein
selbstentscheidungen zu treffen und muss
sich sozusagen auf diese Systeme
verlassen es kann halt gar nicht mehr
anders als im Endeffekt zu fragen was
soll ich jetzt tun
eine andere eine andere Problematik bei
der ganzen Geschichte ist auch dass ähm
natürlich durch das Aufrüsten äh dann
auch eine Art von Wettlauf entsteht und
wenn der eine stad Anfängen muss andere
nachziehen und hier sehen wir denn dass
dieses Systeme im Endeffekt dann immer
weiter eingeschliffen werden in in den
in die Kriege der Zukunft der Hersteller
selber
palentier sagt immer dass sie halt im
Endeffekt diese Software so schreiben
dass der Mensch immer an letzter Stelle
steht und die letzte Entscheidung trifft
jedoch wissen wir aus der Psychologie
des sogenannten Automation Bies dass wir
stellenweise ja Technologie blind
vertrauen und eigentlich den einfachsten
Weg nach draußen mögen unter den
Automation biis versteht man die Neigung
des Menschen Vorschläge automatisierte
Entscheidungen zu bevorzugen und
Widersprüche Widersprüche
und Widersprüche Informationen die ohne
Automatisierung erstellt wurden zu
ignorieren selbst wenn diese korrekt
sind und ein Beispiel wäre hier dafür
Def bei GPS wo man blind im GPS-System
vertraut und selbst wenn die Brücke
abgeschnitten ist fah ich trotzdem
weiter drauf zu weil das System ja
gesagt das muss ja lang
[Musik]
fahren kommen wir mal zu der Kritik an
autonomen Waffensystem also ich habe
schon ein paar angerissen aber
vielleicht noch mal im speziellen auch
in verschiedenen Layern also zum einen
gibt es natürlich die
verantwortungslücke das bedeutet dass
wenn jetzt z.B der waffenhst sagt okay
wir haben diese Waffe mit allen Wissen
mit besten Wissen und Gewissen trainiert
programmiert und haben im Endeffekt
alles einfließen lassen was sie hatten
und der Kommandant sich auf diese Waffe
verlässt dass sie halt auch funktioniert
dann wird es halt schwierig ähm
ähm dieses einzuschätzen wenn z.B
Kriegsverbrechen passiert und Zivilisten
getötet werden denn
weder der Programmierer oder die Firma
noch der Kommandant haben im Endeffekt
an der Stelle ein Fehler begangen
und normalerweise ist ist es so dass
wenn jetzt z.B ein Soldat durch wie wir
es halt kennen aus den drohenangriffen
aus der Ferne
Zivilisten tötet dann ist es halt ein
klares Kriegsverbrechen und kann dem
zufolge auch bestraft
werden das zweite oder vielleicht hier
noch mal auch sozusagen jede Waffe die
entwickelt wird wird auch immer von dem
Staat indem sie entwickelt wird
kontrolliert und gerade bei autonom
Waffensystem ist es so dass es noch gar
kein Standard gibt eigentlich so richtig
damit umzu okay bzw sind dieses
diese Prozesse auch sehr intransparent
dieses zu testen ob sie halt auch mit
dem kriegsvölgerrecht vereinbar
sind das zweite ist die
Hemmschwelle da muss man sich das
vorstellen dass so jeder Anführer von
einem Staat muss ich halt immer bewusst
sein dass wenn er Soldaten in den Krieg
schickt dass er diese Leute auch
verlieren kann sozusagen seine eigenen
Leute verlieren kann und wenn ich aber
jetzt nur noch ein Stück Metall habe
oder was auch immer im Endeffekt so
einen
[Musik]
lebloses System dann wird diese
hemmchwelle einfach gesenkt bzw
existiert einfach nicht mehr denn ich
habe im Endeffekt ja einfach nichts mehr
dann an der Stelle zu verlieren und es
könnte natürlich Konfliktpotenzial mit
sich bringen bzw den Eintritt in den
Krieg
erhöhen
kurz der dritte Punkt ist der Mensch als
moralische Instanz und zwar ist es so
dass ja unbem
Systeme sowohl psychisch als auch eine
emotionale Distanz zum Schlachtfeld
aufbauen und somit
sich z.B nicht ähm mit den mit der
Person mit den Zivilisten vor Ort in
einer gewissen Weise verbinden kann auf
ein emotionalen Ebene ähm der Mensch
kann das natürlich schon
und kann dann z.B auch Gefühle wie
Barmherzigkeit zeigen und sowas ist
natürlich auch ähm ein Faktor der halt
einfach dazu führen können dass einfach
Leute nicht getötet werden und das ich
meine klar wir wissen dass Soldaten auch
mit so einer gewissen roboterpsychologie
trainiert werden das hat aber auch eher
was mit so posttraumatischen
Belastungsstörung danach zu
tun jedoch zeigt es aber auch dass halt
autonome Waffensysteme eigentlich auch
die perfekte mittelsind um in solchen
Situation zum Einsatz zu
kommen und der vierte
Punkt ist
Autokratie und hier oder rarten könnten
diese Waffen z.B gegen die eigene
Zivilbevölkerung richten bedeutet dass
selbst jeder emot emotionsloseste Soldat
wahrscheinlich zurückschrecken wird wenn
es darum geht gegen die eigenen Leute zu
schießen aber diese autonomwaffen haben
an der Stelle ja keine Beziehung zu den
eigenen Leuten oder sowas existiert da
nicht und demzufolge werden das
natürlich die perfekten Waffen um
eingesetzt zu
werden
[Gelächter]
[Musik]
[Gelächter]
[Musik]
wieder
ausmachen
[Applaus]
ähm ja ich würde sagen ist do alles
gesagt oder also ich habe kurz gezeigt
was man machen kann was ähm
Waffensysteme sind wie man sozusagen was
die Probleme damit sind könnte ich
eigentlich den Talk beenden oder wäre
dann nicht
dieses Jahr oder letzten zwei Jahren ein
paar interessante Sachen passiert
die es auf jeden Fall wert sind zu
erwähnen und
die Kunst in ein ganz komisches Licht
rücken oder rücken lassen aber fangen
wir noch mal von vorne an und zwar wir
wissen dass Russland die Ukraine im
Februar 2022 überfallen hat und Scholz
daraufhin die 100 Milliarden Euro für
die Bundeswehr freigegeben hat 3
Milliarden waren sind unter anderem für
die Digitalisierung der Bundeswehr da
beinhaltet dann ein Monat später
erscheint dieser offene letter oder
dieser offene Brief äh von
palentier wo sie im Endeffekt schreiben
dass sich jetzt Europa Stärken muss mit
den Algorithmen mit der Technologie aus
dem Silicon Valley und sie sagen damit
Europa stark genug bleibt und die
Bedrohung durch ausländische Besatzung
abzuwehren müssen sie im Endeffekt
investieren in solche Software und im
Untertext sozusagen wir haben die
Software wir können euch dabei helfen
wir können euch da sozusagen damit
supporten
ähm genau dieser Brief
wurde unterzeichnet von Alexander Karp
das ist einer der CEOs von palentier
sehen wir hier auf der rechten Seite und
genau vielleicht noch mal ein paar wur
zum palentier palentier liefer
Technologie und Dienstleistungen die zur
massenüberwachung und abschiebemaßnahmen
genutzt werden kritikübermängeln dass
die Technologie zu
Menschenrechtsverletzungen und zur
Verstärkung der aggressiven
Einwanderungspolitik der trumpierung
Beig agen hat und anderem weiß man auch
dass pentier stark mit den
Geheimdiensten sei FBI oder CIA
zusammenarbeitet des
Weiteren einer der anderen CEOs von
palentier wie ihr vielleicht wisst ist
die rechte Hand von Donald
Trump und genau namens Peter Thel einer
der silican rallyy Millionäre der da
relativ zeitig glaube schon 2003 oder so
diese Firma mit gegründet hat sein Geld
da reingeworfen hat oder ich glaube
sogar aus payp ide entstanden
und dieser hat
auch ganz stark natürlich den Wahlkampf
von Donald Trump mit
supportet außerdem ist Peter Thel auch
Anhänger der problematischen Ideologie
des longterminisens das bedeutet dass er
als sagt dass Technologie als alles als
allererstes mal
ja Werten neutral positioniert ist oder
begriffen werden muss und negiert damit
aber eigentlich auch die menschliche
Verantwortung für die soziale Auswirkung
von Technologien also im Endeffekt sagt
er halt so alles muss erstmal so raus
wir dürfen sozusagen nicht
regelementiert werden in den
Entwicklungen die wir mit Software
machen also man sieht auf einmal kommen
als solche Player auch mit irgendwie
iner gewissen Weise aufs pket und wir in
das Geschäft Problem ist natürlich in
Europa haben wir halt andere
Datenschutzstandards als in USA das
heißt wie können wir denn da in diesem
Markt
reinkommen ein halbes Jahr später oder
ein Jahr später erscheint dieses Buch
von Alexander KP dem CEO und noch zwei
anderen palentier
Mitarbeitern der Titel des Buches ist
von artificial zu argumented intelligent
und der Untertitel ist was wir von der
Kunst lernen können um die Software für
die Zukunft zu gestalten und in diesem
Buch schreiben Sie es eher so ein
interviewformate dass halt die Kunst
frei ist die Kunst kann bestehende
Strukturen aufbrechen kann Innovation
fördern kann ein Katalysator V
Kreativität sein und deswegen muss sie
so frei wie möglich sein sie muss im
Endeffekt ähm ja äh darf halt nicht
reglementiert werden gleichzeitig ist es
aber auch so dass sie Parallelen ziehen
zu Software und das gleiche sozusagen
fordern oder argumentieren ähm der Text
liegt nah dass sowohl Kunst als auch
Software wesentliche Werkzeuge sind um
aus festgefahren Mustern auszubrechen
und neue oft unkonventionelle Ideen zu
fördern und Software sozusagen auch
nicht äh reglementiert werden darf als
allererstes sondern ähm erstmal so
werteneutral ähm gesehen werden muss ähm
ich denke ich habe ein paar Beispiele
gezeigt dass es halt nicht so einfach
ist und ich glaube wahrscheinlich gibt's
auch hier im Raum vielleicht
controverses was das Thema angeht
ich denke aber z.B bei wenn es über um
Überwachungssoftware geht dann ist dann
halt da eine klare Grenze gesetzt und
nur wei es machbar ist heißt es nicht
dass man das machen muss die Frage ist
also das warum entwickelen wir
Technologie
B jetzt irgendwie noch kein großer
Aufreger wir sehen okay anscheinend da
steuern die hin da geht so ein bisschen
in diese Richtung geht's wäre dann nicht
diesen Jahres Leipzig mit solchen
Plakaten und Umgebung
Zuge klebt
wordden und zwar gab's da die
Ausstellung
dimensions mit dem Titel wo war digitale
Kunst bevor überall war ihr habt bestimm
schon gesehen supportet wurde diese
ganze Geschichte von palantier und der
Deutschen Telekom und das ist schon
bisscheniert auf jeden Fall das auf
einmal so ein überwachungsoftware
herersteller so eine Kunstausstellung
supportet also also ist mir auf jeden
Fall noch nie vorgekommen dass ich
irgendwie sowas gesehen hätte und ich
weiß nicht ganz genau ob ihr davon
mitbekommen habt aber ich hatte so das
Gefühl das ist auf jeden Fall auch sehr
untergegangen also ich weiß in der
Wirtschaft da machen die viel und so
aber in der kund ist das für mich auf
jeden Fall eine neue
Qualität genau das war jetzt im April
diesen Jahres in
Leipzig und ja Eröffnung Paneldiskussion
guck alles mit dabei war wir haben
Moderation dun Hayali dann haben wir
Ulf Langheinrich als Künstler
Beteiligter Künstler der ausschildung
eingeladen dann die
kokuratorin die auch auf der
Paneldiskussion ernsthaft mein dass es
halt in Deutschland keine
Kunstschaffende gibt die sich mit KI
auseinandersetzen und deswegen mussten s
so viele internationale Leute
einladen dann haben wir Sigmar Gabriel
Vorstandsvorsitzende Atlantikbrücke
Tim hökins vchandsvorsitzer Deutschen
Telekom und last but not least Alexander
KPS die auf dem pener that's weird also
geht's hier noch um Kunst oder haben wir
irgend so ein wirtschaftsreffen oder was
ist hier los
ähm also genau in dem Tor geht's halt
ging es halt auch nur dum halt so ja wir
müssen halt der technologiereien Lauf
lassen whatever irgendwie alles
reinschmeißen und so weiter
und also im Endeffekt keine Ahnung der
Titel dieses Vortrags hätte auch
irgendwie lauten können Digitalisierung
first Bedenken second oder irgendwi
[Applaus]
sowas und genau ich will das noch mal
sagen palantier stellt Software her die
zur Identifizierung Überwachung und
Festnahmen von Migranten eingesetzt
wurde die Software wird verwendet zu
Überwachen von Individuen und
Ausspionieren der eigenen Bürger sie
führt eigentlich getrennte Datensätze
zusammen welche ein grundrchtseingriff
darstellt
anlasslose Überwachung gläserne Mänchen
sind halt nur so ein paar stiwörter die
halt ganz gut auf diese Software passen
das wird unter anderem auch gesagt dass
Mitarbeiter von pent hier bei Cambridge
analytica mit involviert waren und wie
wir halt auch vor zwei Tagen mitbekommen
haben auch natürlich jetzt hier mit
Hessen datata bei der Polizei dort zum
Einsatz kommt und im Endeffekt dann
Player auf einmal hier auf dem Markt
kommt der ja man aufpassen
muss hier sehen wir die Webseite der der
auschellung und ich meine es wird halt
relativ klar dass alle auf dieser auf
dieser Ausstellung das ffekt darum ging
die Firma A in ein positives Licht Z
Rücken und B würde ich auch sagen so
eine Art von aneigen stattgefunden hat
über den Kunstbegriff um der Software
reinzuwachen oder sozusagen da drüber
halt eine Schiene zu finden das heißt im
Endeffekt war das halt eine reine
artwhing
Veranstaltung es gab auch lokale
Initiativen von
[Musik]
ja mit 9 Unterschriften die auch diese
Ausstellung Stk kredisiert hatten
und die nennte sich artwashing Leipzig
genau und auf der Ausstellung selber
surprise gab es halt keine Arbeit die
halt was mit
Überwachungsmechanismen mit
diskriminierten Anwendungen mit
konentmeratoren clickwork policing Fake
News missinformation durch KI und so
weiter zu tun hatte sonder das war Hal
hauptsächlich arbeiten die halt das
phänomenale schönne äthetiche
präsentiert hatten und sämtliche Kritik
also in ein gewissen Weise an der
Digitalität t
hatte
und genau vielleicht jetzt so zum
Schluss noch mal also wir sehen halt
hier das sind die beteiligten Künstler
die anscheinend kein Problem damit
hatten bei dieser Ausstellung
teilzunehmen also muss denn Politik KST
politisch muss Politik muss Kunst
politisch sein und ich denke erstmal
dass Kunst gar nichts muss also Politik
setzt in der gewissen Weise fester
Rahmen setzt Gesetze
fest
und im besten Fall muss Kunst verwirren
würde ich sagen also das heißt wir
müssen im
Endeffekt genau al sozusagen dieses
aufstoßen aus dem Alltag auszubrechen
und halt genau über Themen nachzudenken
die vielleicht so für uns verboren waren
wir wissen aber dass natürlich Kunst
auch politisch gemacht werden kann und
dass ich das halt in dem politischen
Kontext abspielen kann vielleicht muss
man auch sagen dass wenn man halt nicht
politisch ist dann ist es in der
gewissen Weise auch ein Luxus habe ich
so das
Gefühl
momentan genau und wir sollte sich halt
auch immer bewusst sein dass halt Kunst
in die Gesellschaft eingebettet ist und
das Kunstschaffende sozusagen auch die
Gesellschaft mitmöchen und wir als
Künstler tragen Verantwortung bei der
Nutzung von Technologien und wir müssen
unsere Werk Zeuge und die Partner
hinterfragen denen wir helfen können
diese Technologien voranzutreiben und
ich denke stärker denn je gerade jetzt
z.B auch mit dem aufkunden von K
Technologien und ich denke wenn man halt
sich mit diesen Themen nicht
auseinandersetzt also sei es die Kritik
an Digitalität oder wie ich halt meinte
Überwachungssoftware in etc dann ist es
das Minimum ein Anstand dass man so eine
Veranstaltung boikottiert
und damit Ende ich mein Talk vielen
Dank
[Applaus]
herzlichen Dank Simon also wir werden
von den Internet überwacht und wir
überwachen den Internet also auf den
Kanalen im Matrix in masterdon und IRC
nehmen wir fragen an wir haben hier ins
Raum vier Hörgeräte also Mikros und wenn
jemand vielleicht was an die uns ja
Richtung Fragen geben wollte
die stehen hier frei bereit wir haben ja
so bloß 8 Minuten und ich sehe schon
dass unsere überwache ins Internet hat
eine Frage rausgefunden jawohl wäre es
denkbar dass Maschinen im Krieg auch mal
bessere Entscheidung treffen könnten als
Menschen könnte ja auch sein dass
dadurch auch Dinge verhindert werden die
negativ emotionalisierte Menschen
verursacht hätten klar voll also es ist
ja auch das Argument dass sie halt sagen
aufgrund dessen dass wir halt Maschine
hinsenden sterben halt einfach weniger
Leute ähm das bedeutet aber dann auch
wenn man es halt weiter denkt okay dann
gehen wir halt irgendwann dahin dass
sich dann halt Maschinen gegenseitig
betteln sozusagen und natürlich können
da bessere Entscheidungen getroffen
werden also das ist ja das ähm das ist
ja sozusagen auch das das Hauptargument
aber ich denke mir sollte halt auch
immer wieder dran appellieren dass der
Menchen sehr starke moralische Instanz
in diesem ganzen System ist und dass wir
den halt einfach noch nicht ausblenden
sollten
also unser KI trainierte Modell zeigt es
an Mikro Nummer 2 ist noch eine frage
gibt ich bewundere das KI gebaute Modell
vielen Dank für den Vortrag meine Frage
geht auf eine globale
Ebene dein Ansatz ist ja wenn ich das
richtig verstanden habe wir müssen
darauf achten wie wir entwickeln wir
dürfen nicht zu weit machen wir müssen
uns selber begrenzen weil die Gefahr
besteht wenn wir zu weit vorsprechen
prchen das banal gesagt schlimme Dinge
passieren also Menschenrechtsverbrechen
etc gleichzeitig sehen wir aber dass
China sich rasenchnell in der Richtung
entwickelt etc wir können ja nicht
unsere Augen verschließen wie finden wir
einen Weg damit zurecht zu kommen dass
auf der einen Seite weiterentwickelt
wird auch teilweise gegen humanitäres
Völkerrecht also mit in denit targeting
etc aber wir gleichzeitig unseren
eigenen moralischen Ansatz haben das
Völkerrecht zu achten und uns
entsprechend begrenzen zu müssen danke
ja ich denke wir sind halt ach s
wolltest du gerade nee ne okay ich
dachte ke
reingesprochen genau also klar das ist
auf jeden Fall ein Problem also das ist
ja auch das narrativ wenn die das machen
müssen wir das auch machen das ist ja
aber genau diese diese also dieser Loop
sozusagen den wir uns halt befinden dass
es im Endeffekt immer weitergeht und ich
denke das halt z.B die chtung von landmi
oder blinden maenden Laserwaffen ein
gutes Beispiel sind dass es halt
Möglichkeiten gibt diese Systeme zu
echten also oder dass S im Endeffekt als
allererstes erstmal stigmatisiert werden
dass man halt sagt wenn Staaten sowas
einsetzen dann ist das halt einfach im
Endeffekt nicht okay und keine Ahnung
ist ist halt klar dass danach auf jeden
also das auf jeden Fall als allererstes
ein Kriegsverbrechen darstellt ich
glaube das ist halt die erste erste
Hörde an der Stelle dass man halt das
mal überhaupt definiert
sozusagen aber ja also es ist auf jeden
Fall diese diese die Problematik dabei
die kann ich natürlich jetzt aber auch
nicht lösen ich bin kein Militärexperte
an der stelle ich kann halt nur sagen
also z.B unter anderem so ein paar
Beteiligte Künstler von der Ausstellung
das dass da halt einige keine
gewissensbisssse haben halt mit diversen
Firmen zusammen zuuarbeiten um halt im
Endeffekt auch für die
Kunst zu schaffen womit die den halt
diese sozusagen schön auf Ihre Webseite
packen können und dann halt so
präsentieren können und das glaube ich
können wir halt z.B aus der Kunst Halit
leisten zu sagen so nee also ihr
entwickelt das und deswegen supporten
wir einfach nicht oder wir machen halt
keine Arbeit mit euch zusammen
so ich See noch eine Frage an Mikro 2
jo klingt wie eine Dulli Frage aber ich
find es kommunikationsmäßig mega
spannend und ich muss es wissen dieser
palantier Brief der von Alexander KP
unterschrieben war da war unten rechts
dieses schwarz-weiß Foto von diesem ich
sag mal Hecht mit Handy und
Sonnenbrille ist das wirklich sein
offizieller auftritt wie er offizielle
Briefe mit sich signiert nee das habe
ich natürlich da reingepackt nur damit
man halt wi noch mal auf dem Panel
sozusagen sieht aber z.B er ist halt
auch so der sagt halt so ja der ist
irgendwie unter Hippies groß geworden
seine Mutter war Künstlerin
ähm und
also bringt das sozusagen als Argument
um halt diese irgendwie diese Firma halt
in anderen Licht darstellen zu lassen so
das ist halt irgendwie echt weird und
gerade zwischen diesen beiden Peter also
so ein bisschen wie g BC irgendwie
zwischen ti und Carp sozusagen aber wenn
man halt D genau hinhört dann merkt man
halt so das sind einfach starke
Patrioten also wenn es halt hart auf
hart kommt ist halt klar was sie
sozusagen für zu wenig stehen was S
machen ist auf jeden Fall also sind halt
einfach know ganz schön
[Applaus]
leuter wir haben noch seit für noch ein
ein Einzel Frage kürz so KZ wie möglich
bitte von Mikro 2
ja ist keine Frage aber ist eine
Anmerkung es geht nicht um Kriege gegen
uns lasst euch da mal nicht verarschen
und es geht auch nicht um China china
hat genug Menschen die sie verhalzen
können es geht um Kriege gegen
afrikanische Länder gegen Leute die sich
nicht wehren können und da will man die
moralische Instanz raushaben von dem
Soldaten der sagt den schieße ich aber
jetzt nicht also es geht nicht gegen uns
die Leute die gegen uns Kriegen führen
können die haben auch alle dieselbe
waffenniveau das ist eine
[Musik]
Nebelkerze
[Musik]