Lieber Zuschauer, dieser Untertitel wurde automatisch generiert von YouTube und dementsprechend (sehr) fehlerhaft. Wenn du kannst, hilf uns bitte gute Untertitel zu erstellen: https://c3subtitles.de/talk/2852 Danke!
[Musik]
ja vielen Dank euch allen und danke auch
dass ihr so zilreich gekommen seid auch
in den Stream und in die Aufzeichnung
hallo herzlich willkommen bei meinem
Vortrag ich möchte heute ein bisschen
die Frage beantworten rettet uns die KE
das ist eine sehr sehr provokante Frage
gerade vor dem Hintergrund der der
digitalen Inklusion denn
Barrierefreiheit und Inklusion sind
quasi die Leitthemen der Großen kilabore
dieser Welt unserer Zeit und die
schmücken sich sehr gerne damit indem
sie sagen ja unsere Technologie
ermöglicht es allen Menschen irgendwie
in der Gesellschaft teilzuhaben wir
machen alles gut mit unserer Technologie
wird endlich richtig und endlich richtig
gut und genau darüber möchte ich mit
euch sprechen
ich bin wie schon gehört habt selbst
hochgradig sehbindert seit Geburt und
ich nutze all diese Sachen auch in
meinem Alltag relativ intensiv gerade
jetzt im letzten Jahr hat es für mich
immer einen sehr großen Stellenwert
eingenommen und da möchte ich mal mit
anfangen und euch mal berichten was so
geht wofür man diese Technologien jetzt
heutzutage schon einsetzen kann wofür es
gut ist aber später dann im Laufe des
Vortrags wird das Ganze immer noch ein
bisschen düsterer und vielleicht nicht
ganz so toll und ich werde auch ein paar
Dinge ansprechen auf die wir unbedingt
achten müssen wenn wir weiter in die
Zukunft
gehen genau um mal die Frage zu
beantworten die hier auf der Folie steht
rettet uns die KI nein es
ist es ist so die KI wird uns nicht
retten aber sie wird uns hoffentlich als
gutes Werkzeug zumindest in einigen
Teilbereichen hoffentlich auch
selbstbestimmt zur Seite stehen
also wie schon gesagt ich möchte gerne
anfangen euch erstmal einen kleinen
Rundumschlag Überblick zu liefern
darüber was heutzutage schon geht und
als ersten Punkt habe ich mir dafür
rausgesucht automatisierte
Bildbeschreibung ihr könnt euch
vorstellen als blinde Person ist es für
mich extrem schwierig z.Bp am sozialen
Leben in sozialen Netzwerken teilz haben
wenn da z.B Bildbeschreibung fehlen ganz
viele von euch Posten sicherlich selber
regelmäßig irgendwelche Bilder um zu
kommunizieren was da zu sehen ist und
wenn kein Alternativtext vorhanden es
fehlt mir persönlich einfach ein ganzes
Stück weit an Information und ich kann
eben nicht im gleichen Maße teilhaben
das können wir jetzt ein bisschen
automatisieren das geht schon seit ein
paar Jahren so relativ rudimentär hier
auf der Folie sieht ihr ein Beispiel
dass der iOS bilderkenner liefern kann
das geht schon so seit 2 D Jahren ist
relativ unausführlich relativ
undetailliert
mit eben sehr sehr wenigen Informationen
aber vielleicht für eine kurze
Beschreibung ist das alle mal
ausreichend wenn ich jetzt in meiner
eigenen Bibliotheken bestimmtes Foto
wiederfinden möchte was wir jetzt im
letzten Jahr dazu bekommen haben sind
die sogenannten Großen sprachmodelle die
multimodale Fähigkeiten haben z.B gpt4
davon habt ihr sicherlich alle gehört da
kann man Bild hochladen und aus
demselben Bild den hier der iOS
bildgenerator beschrieben hat macht es
eine sehr viel ausführlichere sehr viel
detailliertere Bildbeschreibung und in
dieser Bildbeschreibung sind zumindest
die meisten Details korrekt und das ist
eine großartige Sache man muss natürlich
immer noch weiter drauf achten dass die
Outputs korrekt sind ich kann das selber
relativ schlecht oder schwer
verifizieren aber dass das geht es
großartig was damit auch geht ist diese
sprachmodelle die eben multimodal sind
sind dazu in der Lage Instruktionen zu
verstehen also ich kann den z.B sagen
gib mir eine kurze knappe Beschreibung
mach die Beschreibung so ausführlich wie
möglich oder wenn ich mich jetzt z.B in
dem Museum befinde und mir ein Gedicht
z.B besser gefallen würde als ein Bild
weil das für mich eine zugänglichere
Form der Kunst ist dann kann ich das
Sprachmodell bitten ja gib mir statt
einer Bildbeschreibung ein Gedicht zu
dem Bild gib mir verschiedene Gedichte
generier mir vielleicht ein Lied und das
ist eine großartige Möglichkeit um
Teilhabe zu schaffen in diesen Bereichen
wo das eben bisher nicht möglich war was
ich mit dieser Bilderkennung auch machen
kann und das es finde ich eine richtig
krasse Sache ist ich kann userinfaces
erkennen und akkurat beschreiben und
Tagen ich habe das hier mal auf der
Folie als Beispiel gemacht mit der
Titelfolie dieses Vortrags und auf der
linken Seite könnt ihr hier ein eine
JSON Struktur erkennen die quasi zeigt
welche Elemente in diesem Fenster
vorhanden sind und jetzt gehen wir mal
davon aus ich selbst nutze assistive
Technologien und Form eines
Screenreaders wenn ich mit dem Computer
Inter iere und das ist eben drauf
angewiesen das entwickelnde von
Programmen festlegen wie bestimmte
wie bestimmte Schaltflächen in diesem in
dieser Software heißen oder wie die
gelabelt sind ob es da irgendwelche
Untermenüs gibt die ich zusätzlich noch
navigieren kann all das muss für den
Screen wier irgendwie sinnvoll getagt
werden und diese Modelle können das
jetzt über diese Bilderkennung z.B
eventuell übernehmen es ist auch
mittlerweile integriert in iOS z.B da
gibt's das auch schon seit ein paar
Jahren es ist nicht ganz so
sophisticated wie das jetzt hier auf
dieser Folie von GPT for Vision gemacht
wurde aber das funktioniert und es
ermöglicht eben mehr
Teilhaber was ich neben dieser
Bilderkennung jetzt machen kann
beispielsweise mit diesem sprachmodellen
ist ganz viel im Bereich leichte oder
einfache Sprache es gibt auf der Welt
sehr sehr viele Menschen tatsächlich die
meisten Menschen die unter den Begriff
Behinderung fallen die eine sogenannte
lern oder kognitive Behinderung haben
die extrem stark davon profitieren dass
Inhalte für sie vereinfacht werden oder
kurz zusammengefasst werden zumindest
weil sie eben eine massive textflut oder
schwierige Worte
sehr einschränken in ihrer Teilhabe und
was wir jetzt machen können mit diesem
Modellen ist z.B wir können einen langen
Text ich habe das hier mit meiner
vortragsbeschreibung gemacht in der
Folie und einen Regelsatz für die
sogenannte leichte Sprache reingeben und
die sprachmodelle versuchen dann eben
dies regingelsatz soweit wie es eben
möglich ist anzuwenden auf den Text und
den Text nach diesen Regeln
zusammenzufassen das ist nicht
immer gut aber dazu kommen wir dann
später noch mal aber auch das eine
wahnsinnig große Verbesserung wenn es
selbstbestimmt von den Leuten so
eingesetzt werden kann weil sie damit
einfach Zugang zu Inhalten bekommen den
sie vorher nicht
hatten mir persönlich in meiner Arbeit
hilft es auch extrem sehr ich
programmiere sehr viel und
ihr müsst euch das so vorstellen wenn
man blind ist dann ist es relativ
schwierig einen Überblick über so eine
riesen codebase zu haben und ich kann
mit meinem Screen wieder den ich zum
coden immer nur per Sprache per
Sprachausgabe benutze also ohne briltext
immer nur eine Zeile gleichzeitig hören
und mit diese Zeile muss ich mir dann
quasi merken um den Code drum herum zu
erfassen das passiert dann alles im Kopf
was ich jetzt machen kann ist ich kann
diese Funktionen und Methoden z.B in
diese large language Models reinstecken
und eine Erklärung dafür bekommen oder
ich kann mir die passende Funktion zu
dem raussuchen lassen was ich jetzt
gerade machen möchte und das
verschnellert meinen Arbeitsalltag
extrem und es steigert letztendlich
einfach die Produktivität und ermöglicht
es mir wahrscheinlich auch in viel mehr
Software Teams wie alle anderen auch
normal mitzuarbeiten das geht durch
diese Technologien eben viel viel viel
besser als
vorher was wir auch machen können neben
diesen Sachen ist wir können das mit
online Dingen verknüpfen z.B mit einer
Suchmaschine das hat openi auch gemacht
man kann da eine Bing Suchfunktion
benutzen und z.B nach bestimmten
Sachverhalten Fragen das sind
häufig wirklich relativ einfach zu
finden zu findende Informationen also
jetzt im Beispiel die ich hier auf der
Folie verwendet
habe ganz grundsätzlich ist es so dass
die noch nicht gut genug sind um jetzt
irgendwelche schwierigen Recherchen zu
machen aber gerade bei diesen einfachen
Dingen erleichtern sie mir das Leben
inoweit dass ich nicht mehr selbst auf
mit vielen Barrieren behafteten Websites
gehen muss und mir da zwischen vielen
anderen Informationen das passende
raussuchen muss das kriege ich jetzt
einfach hier sinnvoll strukturiert genau
das was ich möchte kurz und bündig und
das ist wirklich lebensverändernd das
hat mir in diesem Jahr so viel
beigebracht insgesamt weil das einfach
Recherchen sind die ich ohne dieses Tool
selbst einfach nicht machen würde weil
sie mir zu anstrengend
sind und jetzt last but und least für
ganz viele Leute sind hier z.B auch so
automatisiert generierte Untertitel
extrem hilfreich oder vorgeschlagene
textvervollständigungen die man z.B
häufig benutzt gerade ersteis z.B wenn
man nicht hören kann sei es durch eine
Behinderung oder sei es eben temporär
wenn man gerade irgendwo sitzt und keine
Kopfhörer dabei hat da kann man dann
eben einfach nach lesen und grob wissen
was denn da gesagt wurde und auch diese
sprecherkennung wird immer immer besser
das ist wirklich gut dieses Jahr wurde
wiispera Version 3 veröffentlicht das
ist das größte Open Source sprach
erkennungsmodell das es derzeit gibt und
das hat im Deutschen so eine Fehlerrate
von knapp
5% das klingt jetzt nicht perfekt aber
für viele Anwendungsfälle ist das
wirklich ausreichend
und jetzt hier noch mal kurz zum rechten
Beispiel diese textvervollständigung
sind für die Menschen hilfreich die
nicht besonders schnell oder besonders
viel tippen können weil sie dann einfach
zu beanstrengend sind wenn sie ihre
Hände nutzen müssen z.B oder wenn sie
anderweitig eingeschränkt sind und
beispielsweise über eine Augen oder
saugblaseschaltersteuerung Ihre Geräte
bedienen müssen das nimmt einfach viele
viele
Hörden so haben wir die guten Sachen
abgehakt jetzt kommen wir mal zu den
scheißdingen sorry entschuldig die
Wortwahl ähm aber das muss sein m genau
bleiben wir mal kurz beim Thema
Untertitel ihr habt sicher alle schon
mal bei Youtube automatisch generierte
Untertitel benutzt die sind irgendwie
seit Jahren nicht besser geworden und in
diesen beiden Beispielen die sind beide
aus Videos mit weit über 100.000
aufrufen das heißt die sind
gesellschaftlich extrem relevant davon
kann man halt en was man möchte aber die
sind es und die haben alle keine echten
Untertitel und die haben eben nur diesen
Quatsch der hier KI generiert ist der
absolut unverständlich ist der hat kein
Ersatzzeichen kein gar nichts und es
kann eben ganz ganz häufig sein dass
diese Technologien irgendwo drauf
geworfen werden ohne dass sie
funktionieren und es prüft auch niemand
nach ob Sie in diesem Fall funktionieren
das ist nicht gut
und das müssen wir
verhindern um da noch mal beim Ton zu
bleiben es gibt natürlich nicht nur
fehlerhafte Transkriptionen wie wir das
jetzt hier gesehen haben es gibt auch
generative
Sprachausgabe das heißt es gibt quasi
ein kmodell wenn man so nennen möchte
das auf ganz vielen Stunden gesprochener
Sprache trainiert wurde indem man ein
Text eingeben kann aus dem dann ein
gesprochenes Audio rauskommt ihr habt
das sicherlich all schon mal gehört die
Qualität davon ist extrem gut aber diese
Modelle neigen alle dazu falsche inform
Information bzw nicht existente
Informationen in den Texten zusätzlich
hinzuzufügen mir ist das persönlich
schon mal passiert mit meinem Screen
wieder auf iOS z.B da gibt es sogenannte
erweiterte stimmen das sind auch solche
natural voices wie man sagt oder oder
neural
voices
und
genau da ist es mir schon mal passiert
dass aus einer fünf die 50.000 wurde und
wenn ihr einen Vortrag von David Kriesel
gesehen habt wisst ihr genau was dabei
passieren
kann oder um noch ein weiteres Beispiel
dafür zu nennen das ganze ist natürlich
auch weltentscheidend ihr könnt euch ähm
vorstellen dass manche Menschen auf
solche Spracherkennungssysteme z.B
angewiesen sind und
wirklich davon oder damit umgehen müssen
was diese Systeme ausgeben wenn sie mit
ihren Geräten interagieren und gehen wir
mal davon aus dass jetzt in den nächsten
paar Stunden covid-23 entdeckt wird dann
wird das Siri in euren iOS
Geräten dieses Wort nicht verstehen das
könnt ihr gerne im Anschluss an den
Vortrag alle mal ausprobieren und es mal
nach Informationen zu covid-23 fragen
ihr werdet immer Informationen zu
covid-19 bekommen weil das das einzige
ist wovon es gehört hat und es kann eben
nicht mit neuen Dingen umgehen diese
Bilderkennung von der wir vorhin gehört
haben die Macht auch Fehler ich habe mal
versucht das mit meiner Waschmaschine zu
probieren ich habe gesagt erklär mir
doch mal wie meine Wäsche wasche ich
habe dann an der Waschmaschine was
eingestellt dem K bildbeschreiber noch
mal ein Bild davon zur Überprüfung
gegeben der bildbeschreiber hat gesagt
die Waschmaschine ist noch aus weil ich
was eingestellt habe wusste ich dass es
nicht aus ist und dann hat es mir hat
sich dafür entschuldigt dass es mir eine
falsche Information gegeben hat und hat
einfach weiter gemacht damit eine
weitere falsche Information zu machen
also jetzt hier in diesem Beispiel im
Zweifel wä meine Wäsche kaputt in
anderen Fällen wä da vielleicht noch was
wesentlich schlimmeres passiert
auch diese Recherchen von denen ich euch
erzählt habe ich sagte auch schon die
Klappen bei kleinen Dingen bei so großen
komplexen schwierigen Dingen da ist das
doch relativ kompliziert es hat hier in
diesem Fall für diese beispielrecherche
genau ein Beispiel von den geforderten
Zeh gefunden aber es hat sich noch ein
weiteres Beispiel dazu halluziniert das
kommt nicht in den Quellen vor wenn man
dan Naach sucht und Raul kuthausen der
hier eben dieses zweite Beispiel ist ist
nicht blind also nicht
fällt nicht unter das Raster undter das
gefragt wurde
sondern der ist einfach eine sehr sehr
sehr prominente Person in diesem Fall
und der kam hier eben einfach dazu es
stimmte nicht was auch immer passieren
kann ist usererror ich stecken falschen
promt rein bekommen falschen prompt raus
hier frage ich wie viel ein Döner
reduziert ist um Prozentsatz die Antwort
ist korrekt ist eine falsche Frage so
muss man mit sämtlichem prompting
aufpassen so das sind jetzt so die
oberflächlichen Fehler kommen mal zu
etwas
schwerwiegenderen diese Modelle werden
auch dazu genutzt um Inhalte zu
moderieren das heißt die entscheiden was
ich kommunizieren kann oder worüber ich
sprechen darf der bilderkenner z.B ist
mittlerweile relativ berühmt dafür
copyrighted Materialien oder z.B
blutüberströmte Inhalte einfach nicht zu
beschreiben weil das ist ja nicht
ethisch das zu tun äh und es schreibt
mir damit eben auch vor was ich
persönlich für mich Barriere frei machen
kann und was eben nicht aber auch in
sozialen Netzwerken wo diese Modelle
immer häufiger eingesetzt werden um eben
über Inhalte zu bestimmen zu richten zu
urteilen wird es passieren oder auch im
bestimmten Ton kann es mich persönlich
ein einschränken und mir einfach
verwehren Dinge zu tun die ich
vielleicht ganz gerne
würde dann was man auch nicht immer
unbedingt sieht aber was auf jeden Fall
immer da ist ist bias in diesen Modellen
also wirklich
systematische systematische
Stereotypisierung von Menschen ihr habt
sicherlich alle von diesen KI
bildgeneratoren gehört inem man ein Text
eingibt und wo ein Bild rausfällt wenn
man DLL i3 nach einem Bild einer blinden
Person befragt bekommt man in sechs von
sechs Fällen einen relativ gut
gekleideten blinden Mann
der eine dunkle Brille trägt in einem
Fall trägt er eine Augenbinde was
relativ unrealistisch ist aber in allen
diesen Beispielen ist z.B der
Blindenstock der mit diesem man
generiert wurde äh in einem Handling das
absolut unnatürlich ist das liegt daran
dass diese Modelle einfach fehlerhafte
oder bzw unvollständige Datensätze haben
in dem diese Menschen eben nicht
repräsentiert sind aber die
Modelle Ligen diesen ganzen Sachen auch
so ein bisschen eine Doppel eine
Doppelmoral zugrunde was bei Blinden
Personen kein Problem ist das
stereotypisch darzustellen ist bei
autistischen Personen dann auf jeden
Fall Problem und das macht das Modell
nicht das wäre natürlich auch die
korrekte Antwort gewesen z.B bei Blinden
Personen wenn da keine ausführlichere
Beschreibung ist aber so müssen wir
immer drauf achten gut autistische
Menschen möchte das Modell
wahrscheinlich mehr schützen als blinde
Menschen wer von beiden ist
schutzbedürftiger komische Frage aber
das sind letztendlich Fragen die immer
wieder auftauchen die zutiefst moralisch
sind aber auch in den sprachmodellen
selbst seinden wir ganz viele biases ich
habe das versucht zu illustrieren
indem ich drum gebeten habe mal
Geschichten zu schreiben da muss man
ganz ganz viele kreative Entscheidungen
zu treffen und ihr seht auf der Folie
einfach mal ganz ganz viele Dinge die
sich immer wieder wiederholt haben in
diesen Geschichten also die gehörlose
Personen um die es in dieser Geschichte
geht ist immer quasi einzeln und es
kommen zwei Personen von extern es geht
immer um geberdensprache die wirklich
sehr faszinierend ist für die beiden
Leute es ist auch immer die
geberdensprache das ist weniger
spezifisch spielt sich immer auf einer
ländlichen Region
ab das basiert eben auf diesem
statistischen
bias diese Modelle das darf man nicht
vergessen sind letztendlich einfach nur
statistische Papageien wurde das Anfang
des Jahres ganz ganz häufig
genannt genau das sind soweit die
Gefahren ich möchte euch hier noch mal
kurz den den Überblick zeigen auf dieser
Folie genau das sind viele viele
Gefahren auf auf die wir auf jeden Fall
achten müssen wenn wir diese Modelle für
uns einsetzen sei es jetzt
selbstbestimmt oder sei es weil
irgendjemand die irgendwo integriert hat
wir müssen uns immer bewusst sein dass
genau diese Dinge da passieren können
und wir sie mehr oder weniger nicht
kontrollieren
können so aber jetzt schauen wir doch
mal in den Reality Check was mache die
Welt jetzt gerade mit diesen
Technologien
ähm ich sehe euch jetzt relativ schlecht
im vortragsaal aber habt ihr schon mal
von accessibility Overlays gehört zeigt
mal gern
auf ich glaube das sind ein paar ganz
wenige
ähm genau darüber möchte ich euch was
erzählen also was machen wir wenn wir
feststellen oder ist eine tolle neue
Technologie die ganz ganz viel Potenzial
hat die wirklich ganz ganz viele
großartige Dinge macht wir gründen ein
Startup und diese Startups bauen dann
sogenannte Overlay und Content Tools ich
habe euch da mal ein paar mitgebracht da
gibt so ganz paar das hier sind wirklich
nur ein paar es gibt wirklich wirklich
noch viel mehr und die haben alle so
richtig schöne Namen
accessib
userway true abilities equ
ai
und jetzt wär es natürlich schön wenn
diese Unternehmen wirklich Technologie
für die Menschen machen
würden und die sagen das auch alle das
ist der Mission Statement wir machen die
Welt barrierefrei wir machen es
großartig wir sorgen dafür dass alle
Leute teilhaben können so jetzt schauen
wir mal in die
demografik wie sieht es gerade aus so
bei Menschen wer hat denn da das Geld
Menschen mit Behinderung sind es
wahrscheinlich nicht und die Zahlen
sowieso schon eine ganze Menge
disability
yay was machen wir dann wir verkaufen es
zum Start oder Unternehmen die sowieso
schon ganz viel Geld haben und
letztendlich sieht das dann so aus dass
so eins von diesen Startups irgendwie so
eine tolle Software entwickelt
Unternehmen oder der startat integrieren
das dann in ihre Lösung und diese Lösung
versprechen dann wirklich häufig One
Click Lösung zu sein also du integrierst
das und schwups dein ganzes Zeug ist
barrierefrei und wenn das dann da
integriert ist dann landet das am Ende
bei den Bürgerinnen und die müssen dann
damit leben und die müssen dann einen
eine staatliche oder
Unternehmensleistung benutzen die ohne
dieses Hilfstool nicht mehr auskommt und
äh jetzt habt ihr natürlich von all
diesen Gefahren gesehen diese Modelle
sind nicht gut genug äh um wirklich
weltverändernde barrierefreiheitsdinge
zu machen und wirklich alles bis auf den
letzten barrierefrei zu gestalten und
gerade wenn da viel zusammenkommt dann
können die das wahrscheinlich nicht und
dann sollten wir mal hingehen und sagen
ja das Produkt was ihr da gerade
anbietet das ist quatsch das
funktioniert nicht und letztendlich
macht es die Barrierefreiheit nur viel
schlechter ab diese Unternehmen sind
natürlich gewieft die wollen alle nur
Geld verdienen sind übrigens alle die
ich gezeigt habe Multimillionen
Unternehmen die auch sehr viel Venture
Capital bekommen also da stehen steht
wirklich eine relativ große Industrie
dahinter ähm ja die slappen das weg also
die zeigen das an und versuchen eben
diese Kritik an deren Tools Weg zu
filtern aus dem Netz und leider leider
sind die damit auch sehr sehr
erfolgreich
es gibt mehrere Beispiele von sehr sehr
prominenten Menschen aus der weltweiten
accessibility Community hier auf der
Folie seht ihr z.B mal die Website von
Adrian Roselli das ist einer der
weltweit renommiertesten Experten für
digitale Barrierefreiheit der zu
Standards beigetragen hat und wirklich
aktiv ist auch auf seinem eigenen Blog
der hat gesagt das was ihr hier macht
euer ke Zeug das ist ganz ganz großer
Mist hört auf damit das macht am Ende
nichts barrierefreier und das sorgt auch
nicht für mehr
Inklusion und der wird jetzt verklagt
hat 30 Seiten Dokument zugeschickt
bekommen das an sich übrigens auch nicht
barrierefrei ist da haben die Gerichte
z.B auch noch eine ganze Menge Wissen
aufzuholen oder hier noch das weitere
Beispiel da ist es tatsächlich
durchgegangen vor einem französischen
Gericht
dass hier eine französische
barrierefreiheitsberatungsagentur Firma
angezeigt wurde von so einem Overlay
avendor und tatsächlich dazu verdont
wurde eine große Strafzahlung für diese
Firma zu
leisten so m alles nicht gut alles
ziemlich
kacke wie sollte das denn jetzt am
besten aus sehen in der Zukunft wenn wir
so ein bisschen Regulation da
reinbringen können ich habe das auch mal
versucht zu visualisieren
der Staat reguliert diese
barrierefreiheitstools und diese Tools
werden nicht mehr dem Staat angeboten
und W bekommen stattdessen oder bzw die
BürgerInnen bekommen direkt Zugang zu
diesen wenn sie dann unbedingt braucht
denn meistens sind die natürlich schon
in Geräte integriert dazu gleich mehr
aber ich sehe gerade da ist auch noch so
ein Fleck auf der Folie eigentlich
sollte das hier so
aussehen wir wollten
eigentlich dass dieser Kram Open Source
ist und die Menschen tatsächlich auch
nachvollziehen können was für Kram sie
da benutzen und tatsächlich auch selber
Einfluss nehmen können auf die Dinge die
für sie hier von Relevanz
[Applaus]
sind
[Musik]
[Applaus]
genau und wir
haben und wir
[Gelächter]
haben funktioniert's
wiederiter
stiller Feueralarm geh die PA aus
dertechniker das fixen und
dann kannst probieren aber jo nee ne
okay sorry for die
interruption ein stiller Feueralarm ist
aber alles gut und gleich geht's
weiter aber es wird automatisch die PE
Runde gefahren deswegen haben wir keinen
Ton
jaisterchen
[Musik]
kann die warten kurz gehen kurz in uns
lassen das Gesagte schon mal sacken und
geht gleich
weiter genau schon mal Fragen für die
und genau wir fragen die KI gleich WN es
weiter
geht hallo J vielleicht solltet ihr das
drüben auch noch mal
wiederholen der sieht uns ja
alle
g weißt du woher das kommt D
der
jo
perfekt kannst Bescheid geben wenn du
was
weißt gut das Deck noch funktioniert ja
das Deck wir auch
funktionieren
war das schonter
hier nur
hier
komisch na klar der streamäft weiter ja
logisch ja nur auch ohne
Ton was sagt der Feuermeister der
Haustechniker hat den Brandmeister
informiert und jetzt warten wir
dasun wir Kön wir können nur abwarten
bis die Hausch hinkriegt okay verstehe
gut wir können da nichts dran ändern was
denkst du wie lange dauert das zwischen
2 und 10 Minuten je
nachdem gut
aber ja dauert kurz
ja weiß man wo der ausgelöst oder so
weiß man
nicht ein Fall bei
dirert lala
also ich habe einen kleinen Hinweis für
den Stream es gibt hier wohl im Gebäude
einen stillehen Feueralarm deswegen ist
hier die saaltechnik ausgefallen und wir
müssen kurz warten bis es
weitergeht ich mach dann gleich weiter
wenn es wieder hallo
funktioniert
ja jo
[Musik]
jo kannst
vorkommen kannst
vorkommen
hier ist gerade ein stiller Feueralarm
deswegen ist ja gerade alles aus und der
Ton ist aus deswegen müssen wir kurz
warten ja das irgendwie aus Versehen
irgendwie ein Feueralarm ausgelöst
worden deswegen haben wir gerade keinen
Ton in die Mikrofone und
so geht wieder oh geht wieder sehr gut
ja weiter geht's danke für eure
Geduld sehr
schön geht wieder prima jetzt weiß ich
gar nicht mehr wo stehen geblieben sind
genau also wir wollen letztendlich dass
die Menschen selbst darüber bestimmen
können wo diese Technologie bei ihnen
eingesetzt ist und das welchen
Komponenten sie zusammengesetzt wird und
wie genau sie funktioniert und das
können wir eben nur wenn diese Sachen
letztendlich Open Source werden dass das
nicht real sein kann sein wird das
wissen wir wahrscheinlich alle selber
und wir trauen dem alle
hinterher aber zumindest eine Firma
macht da irgendwie einen sehr sehr
großen und ich persönlich finde das gut
davon kann man auch wieder halten was
man möchte und zwar ist das die große
Firma mit dem Obst die integrieren schon
seit vielen Jahren direkt in ihre
Betriebssysteme in ihre grafischen
Oberflächen und ihre Bibliotheken und
alles mögliche eben diese
Technologien und machen die Jahr für
Jahr besser und nutzbarer für viele
Menschen gerade dieses Jahr haben wir
z.B sowas wie livespech bekommen dass
Leute mit ihren Geräten die äh quasi
einfach äh die in Zukunft wahrscheinlich
ihre Stimme verlieren werden diee mit
ihren Geräten Klonen können und dann
einfach digital weiter benutzen können
das ist für viele Menschen großer Gewinn
und das ist on device und wirklich nur
on request der Menschen also das ist
wirklich eine selbstbestimmte
Implementierung davon wo die Menschen
selbst dafür entscheiden können und das
ist nicht sowas wie z.B diese Overlay
Tools die die Menschen dann
gezwungenermaßen nutzen müssen die event
ell gar nicht
funktionieren genau jetzt kommen wir
noch zu so ein paar abschließenden
Learnings Menschen sind faul und
elalistisch ne sie sind dafür
verantwortlich was die KIS an
Datensätzen gefüttert bekommen haben was
es so an Daten gibt Menschen mit
Behinderung wurden gesellschaftlich über
quasi alle
Zeit so weit ausgeschlossen wie es nur
geht Menschen mit Behinderung finden
quasi gar nicht
statt seht das das hier bei dieser
Konferenz nun mal als Beispiel es gab
drei talks von Menschen mit Behinderung
bei dem mir die Behinderung bekannt ist
von über 100 talks die hier gehalten
wordurden obwohl der die Prävalenz von
Behinderung in der Gesellschaft weit
über 10 % liegt also das ist hier schon
wenig aber hier ist es tatsächlich mehr
als bei ganz ganz vielen anderen
Konferenzen und genaauo sieht das eben
auch bei diesen KIS aus die haben
einfach nicht das wissen weil diese
Repräsentation fehlt Menschen ist der
Ton wieder
weg scheinbar ist der Ton schon wieder
weg ist er wieder okay diesmal nur kurz
ähm genau Menschen wenn sie KI
generierte Barrierefreiheit oder
Bildbeschreibung vorgesetzt bekommen
werden die häufige abnicken und sagen ja
das ist schon gut das stimmt alles was
da drin steht und werden das nicht mehr
prüfen dabei fällt ihnen meistens nicht
auf dass da vielleicht vielleicht kleine
Feinheiten nicht passen oder die man
vielleicht umformulieren sollte weil sie
einfach letztendlich zu faul sind da
selbst Anpassung vorzunehmen weil ihn
vielleicht die Inklusion von Menschen
mit Behinderung oder die Inklusion von
mir persönlich relativ egal ist wenn sie
nur mal so einen Bild auf Social Media
Posten das ist nicht gut aber das ist
die Realität und deswegen müssen wir
aufpassen an welcher Stelle wir genau
diese Sachen
[Musik]
einsetzen wenn Inhalte schon digital
barrierefrei sind wenn die alle
möglichen Standards folgen wenn sie
damit compliant sind wenn sie vielleicht
auch gut nutzbar sind dann ist die
letztendlich auch für diese K Modelle
gut nutzbar und Sie können mir dann
somit selbst weiter als Assistenz dienen
und ich kann die selbstbestimmt quasi
dann einsetzen wenn ich sie
brauche
genau sie kann mich dann individuell
dabei unterstützen bestehende Software
zu nutzen wie es eben ein andere Mensch
auch tun könnte bei den Bildbeschreibung
haben wir das als Beispiel gesehen ich
könnte ein anderen Menschen bitten mir
zu sagen beschreib mir das wenn da eine
Bildbeschreibung fehlt und bekomme das
eben auch von der K ich kann die KI
bitten mir Dinge zu recherchieren wozu
ich auch andere Menschen bitten könnte
und genau diese Aufgaben was eben
digital funktioniert wird mir
letztendlich eine künstliche Intelligenz
solche sprachmodelle eben als Assistenz
abnehmen die KI an sich wird niemals
nicht abalistisch sein der Zug der Ton
ist wieder
weg
so da da ist er schon
wieder die KI wird niemals nicht
abalistisch sein der Zug ist
abgefahren es gibt einfach keinen
Datensatz der Menschen mit Behinderung
wirklich sinnvoll repräsentiert der
nicht diesen gesellschaftlichen biases
unterliegt wo man irgendwie sagt ja eine
Behinderung dafür das ist ganz doll
bedauernswert das ist richtig schlimm du
musst darunter leiden das alles
vollkommener Quatsch aber genau das
macht diese machen diese kimodelle eben
auch weil sie eben nur Zugriff auf diese
Daten haben und es müsste sich so viel
gesellschaftlich ändern dass so ein
Datensatz entsteht innerhalb der
nächsten Stunden innerhalb der nächsten
Tage das wird nicht passieren und das
wird auch in Zukunft immer weiter von
diesen Modellen vorangetragen egal was
da irgendwer anders behauptet es wird
einfach so
kommen zu fast zuletzt KI für
Barrierefreiheit gehört einzig und
allein in Hände der behinderten Menschen
wenn es darum geht Dinge barrierefrei zu
machen und niemals nicht in die Hände
der Content schaffenden oder der Firmen
die damit selber versuchen Dinge
barrierefrei zu
[Applaus]
machen denn Assistenz ist kein Ersatz
für Barrierefreiheit das war es noch nie
könnt euch das so vorstellen ein lokales
nicht barrierefrei wenn eine
rollstuhlnutzende Person da gerne rein
möchte es aber ein paar Stufen gibt aber
die Person Assistenz hat die Sie
vielleicht diese paar Stufen hochtragen
kann das ist nicht selbstbestimmt das
ist nicht ohne Risiko das wird immer mit
Gefahren behaftet sein und auch wenn
ganz ganz viele Menschen ganz viele
andere Dinge behaupten KI ist nicht
rechenschaftsfähig wir werden sie nicht
verklagen können bei diesen Fehlern wir
werden letztendlich mit all den
Problemen die sie hat und die sie uns
macht und mit den vielen neuen
unsichtbaren Barrieren die zum Teil
wirklich gefährlich sind leben müssen
das ist gefährlich aber das ist die
Realität
und der Ton ist schon wieder
weg da tut uns
leid wir h alle im selben
so genau das ist die Realität und
das ist die
Zukunft das war's ich danke euch dass
ihr mir zugehört habt dass ihr hier wart
und ich freue mich jetzt auf Eure
[Applaus]
Fragen sehr sehr interessant casy
herzlichen Dank für deinen interessanten
Vortrag ja wir haben noch paar Fragen
noch Zeit für Fragen
bitte nutzt die Mikrofone wir haben hier
eins da eins da ein da ein vier Stück
gibt's genau wir starten mit Mikrofon
Nummer 1 bitte hi vielen Dank für den
sehr interessanten
Vortrag du hast die in vor allem iOS
eingebauten accessibility Option sehr
gelobt und hast es im Vortrag war das in
zeitlicher Nähe zu Open Source ist das
was Apple da macht Open
Source nein leider nicht das wäre sehr
schön wenn es das wäre vielleicht können
wir eine Petition starten dass die das
Open Source machen klingt
fantastisch gut wir fen Mikrofon Nummer
3 genau danke also erstmal danke für den
tollen Vortrag ich wollte fragen das
Problem mit dem B in den Grunddaten das
begegnet uns ja dauernd also die Daten
im Internet sind rassistischistisch etc
und du sagst der Zug ist abgefahren auch
bei generierten Bildern ne gibt es den
irgendeine Möglichkeit da wieder einz
greifen in diese basisdatensätze die
diese diese diese large language Models
auslesen ich glaube nicht dass man
wirklich in den basisdatenetzen da was
machen kann aber diese Modelle haben
natürlich alle die Möglichkeit dass man
sie prompten kann also was man
vielleicht machen kann ist man kann ih
explizite Instruktionen geben bestimmte
Dinge jetzt anders zu behandeln und zu
sagen ja mach das mal diverser ob ai
macht das z.Bp beim Thema Hautfarbe wenn
man da einfach was generisches fragt
dann wird das Modell immer häufiger mal
so und so entscheiden
aber das Problem dabei ist je mehr man
das macht desto ungenauer werden die
Modelle in ihren Outputs oder sie
vergessen auch viele Dinge davon das
heißt es ist immer nur sehr begrenzt
möglich was man da einfügen einführen
kann und was dabei auch passiert ist
dass die Modelle plötzlich nicht mehr
über irgendwas anderes reden können das
heißt die spucken das dann einfach
irgendwie immer random als Fakt aus was
mir persönlich da relativ häufig
passiert ist dass sich die Modelle dafür
entschuldigen dass ich selbst blind bin
wenn ich eine Bildbeschreibung brauche
und dazu sage du musst ausführlicher
sein ich bin blind weil das oft nicht
funktioniert wenn ich nur sage du musst
ausführlicher sein danke schön okay sehr
interessant Mikrofon Nummer 4 bitte
danke erstmal danke noch mal für den
Vortrag es war super spannend und ich
habe tatsächlich zum selben Thema noch
mal eine Frage und zwar m denk oder also
es mich mich interessiert einfach voll
deine Meinung dazu weil ich mir oft
denke wenn ich so eine KI sehe und ich
sehe z. zB dass da Zeh von Zeh
Bildern Darstellung von blinden Menschen
einfach falsch sind dann denke ich mir
so okay wahrscheinlich habe ich selber
sehr selten oder überhaupt keine Ahnung
davon wie man eigentlich richtigen
Blindenstock benutzt und da finde ich
ist so ein so eine Chance davon dass man
so wirklich so in your face gezeigt
bekommt wovon man eigentlich keine
Ahnung hat das muss man natürlich auch
bereit sein anzunehmen und eigentlich
auch schade dass man das braucht aber
ich merke irgendwie oft so dass ich dann
do irgendwie noch mal so Alltagsprobleme
von anderen Menschen vielleicht besser
verstehe
dadurch du meinst jetzt durch den
Vortrag der dir gesagt hat dass hier der
Blindenstock falsch gehalten wurde oder
ja
also genau also es zeigt finde ich noch
mal sehr plastisch dass quasi einfach
sehr viele Menschen das z.B nicht
verstehen oder wenn man über so
Rassismus am Flughafen redet und dann
sieht quasi dass die KI das falsch macht
dann sieht man vielleicht auch dass es
halt nicht nur die KI sondern
wahrscheinlich auch die Menschen vorher
genau rassistisch geurteilt haben es ist
letztendlich einfach ein Abbild der
Gesellschaft und es ist wirklich wie du
schon sagtest in your face vollkommen
abalistisch sämtliche Ismen werden da in
diesen Modellen wiedergegeben
reproduziert und eigentlich wollen wir
das
nicht gut Mikrofon Nummer ein haben wir
noch biteschön ja vielen Dank für den
Talk was ich mich gefragt habe gerade
als du zu Beginn deine Erfahrung als
Entwicklerin sozusagen geschildert hast
gibt es research oder kannst Du so
Faustregeln nennen mit denen wir die
jetzt nicht äh durch eine Behinderung
irgendwie beeinträchtigt sind quasi
Praktiken etablieren können im
Arbeitsalltag um codebasen zugänglicher
zu machen äh für alle Menschen ja ähm
Clean Code und Kommentare das sind die
wichtigsten Dinge also schreibt gut
lesbaren Code davon profitiere dann am
Ende nicht nur ich sondern wirklich alle
Leute im
Team danke sehr ja danke schön war ein
gutes Schlusswort glaube ich noch mal
einen großen Applaus jetzt noch mal für
[Applaus]
[Musik]
Casey
ها