37C3 - Rettet uns die KI?

media.ccc.de/v/37c3-12157-ret...
Über die Zukunft der digitalen Inklusion
Spätestens seit Ende 2022 sind generative KI-Systeme wie ChatGPT und Midjourney in aller Munde, und sie werden dabei nicht selten auch als Game-Changer für die digitale Barrierefreiheit postuliert. Doch wo stehen wir eigentlich gerade wirklich, was können diese Systeme bereits jetzt für uns tun, und was bringt uns die Zukunft? Es ist höchste Zeit für einen unverfälschten „Reality Check“ und einen authentischen Blick in den Alltag von Menschen mit Behinderung.
Es wird immer wieder behauptet, die Einführung generativer KI-Systeme wie ChatGPT und Midjourney habe eine neue Ära der Möglichkeiten eröffnet, insbesondere im Bereich der digitalen Barrierefreiheit. Diese Technologien und Unternehmen versprechen, den Alltag von Menschen mit Behinderungen durch innovative Lösungen zu erleichtern. Beispielsweise ermöglichen neue, multi-modale Large Language Models die Generierung von Alternativtexten, die visuelle Inhalte für sehbehinderte Nutzer\*innen zugänglicher machen könnten. Auch die Erstellung von Texten in Leichter Sprache kann durch diese Modelle vereinfacht werden, wodurch Informationen für Menschen mit Lernbehinderungen oder Nicht-Muttersprachler\*innen leichter verständlich werden können.
Doch die Integration von KI in unseren Alltag als behinderte Menschen bringt nicht nur Vorteile. Trotz der neuen Fähigkeiten von KI-Systemen kommen einige neue Herausforderungen hinzu. Dazu gehören unter anderem reproduzierter Ableismus, neue für uns unsichtbare Barrieren und der zunehmende gesellschaftliche Unwille, Barrierefreiheit und somit echte Inklusion zu schaffen, wenn Hilfsmittel immer besser werden. Unter Umständen werden Menschen mit Behinderung in einem gesellschaftlichen Kontext noch unsichtbarer, als sie es sowieso sind.
Bei meiner Arbeit als Beraterin für digitale Barrierefreiheit und als sehbehinderte Person spreche ich mittlerweile täglich über generative KI. Neben den vielen Möglichkeiten, die mir diese Systeme persönlich eröffnen, sehe ich aber auch viele Herausforderungen, denen wir in naher Zukunft entgegentreten müssen. Es ist daher unerlässlich, dass wir die Entwicklung von KI-Tools kritisch begleiten, um eine inklusive digitale Zukunft zu gestalten, in der technologischer Fortschritt Hand in Hand mit menschlicher Vielfalt geht. Im Vortrag werfe ich einen detaillierten Blick auf alle diese Punkte, ordne ein und diskutiere, was dafür notwendig ist.
Casey Kreer
events.ccc.de/congress/2023/h...
#37c3 #EthicsPoliticsSociety

[@MrSnuffyX]

Danke für den coolen Einblick in einen sehr wichtigen Bereich!

[@user-px8mb3yh1w]

Certainly!

[@naarangii]

Danke für die Infos, in einer für mich User in gut nachvollziehbarer Weise bereitgestellt.

[@sujammaz]

ableism ist echt ein sehr komplexes thema, bei dem noch so viel arbeit ansteht! like, einerseits ist klar, dass es erstmal ein sehr befreiendes und selbstbestimmtes gefühl ist, durch technologie von direkter, menschlicher assistenz unabhängig zu sein aber ich denke auch, dass langfristig eine vollautomatisierte barrierefreiheit auch sehr viele möglichkeiten für awareness und bewusste, gelebte inklusion entfernt. und damit auch zur emotionalen vereinsamung von betroffenen beiträgt. nur mal am beispiel bildbeschreibung: die hilft ja auch den beschreibenden dabei, die welt zu einem besseren ort zu machen. das ist eine der besten sachen die man fühlen kann. warum gerade diese dinge (wie zb bei ki-kunst auch) abgeben? ich glaube da braucht es sehr viel diversere ansätze als nur technologie, auch wenn diese natürlich ein wichtiger teil des ganzen ist.

[@sujammaz]

also und auch ein tieferes verständnis dafür, warum menschliche hilfe sich für uns so extrem demütigend anfühlt und ob dagegen nicht andere dinge besser wirken als sie um jeden preis (!) zu vermeiden...