37C3 - KI - Macht - Ungleichheit.

media.ccc.de/v/37c3-11937-ki_...
Was ist die soziale Dimension von Nachhaltigkeit und warum ist sie durch KI gefährdet?
KI beruht auf der weltweiten Ausbeutung nicht nur natürlicher, sondern auch sozialer Ressourcen. Um KI nachhaltig zu gestalten, müssen wir algorithmischer Diskriminierung und sozialer Selektion, der Ausbeutung und Prekarisierung digitaler Arbeit und der Tendenz eines neuen, digitalen Kolonialismus entgegentreten.
In Debatten zu KI und Nachhaltigkeit steht zurecht der enorme Ressourcenverbrauch von KI am Pranger. Aber wir dürfen nicht vergessen, dass es bei Nachhaltigkeit um noch viel mehr geht. Mindestens 7 der 17 Nachhaltigkeitsziele der UN verweisen auf soziale Dimensionen: Gleichheit, Anti-Diskriminierung, Zugang zu Bildung, Abbau von ökonomischer Ungleichheit und Ausbeutung. Der Vortrag diskutiert, dass künstliche Intelligenz, wenn sie nicht besser reguliert wird, diesen Zielen entgegensteht. Das liegt nicht nur daran, dass KI-Systeme Biases haben und sich diskriminierend auswirken. Sondern noch fundamentaler beruhen die meisten kommerziellen KI-Systeme auf sozialer und wirtschaftlicher Ausbeutung. Global wie lokal werden Nutzer:innen als Datenlieferant:innen und Gig-Arbeiter:innen als günstige Arbeitskräfte eingespannt. Unser Denken, Fühlen und Handeln wird in allen Lebensbereichen datafiziert; ökonomische Machtgradienten zwischen Globalem Norden und Süden werden für die Aufbereitung von Daten ausgebeutet. Viele KI-Systeme erzeugen ihre Intelligenzleistung nicht im Rechenzentrum, sondern durch das Auslesen menschlicher kognitiver Leistungen an den digitalen Interfaces, die wir täglich nutzen - Beispiele reichen von der Google-Suche über Gesichtserkennung bis ChatGPT. KI-Unternehmen machen von den niedrigen Arbeitsschutzstandards und Lohnniveaus in anderen Ländern Gebrauch und produzieren Krankheit und Prekarität bei den betroffenen Arbeiter:innen. Um gute Regulierung zu erreichen, müssen wir KI-Systeme als soziotechnische Systeme betrachten. Das ermöglicht ein reichhaltigeres Verständnis der sozialen Dimension von Nachhaltigkeit, um global steigender Ungleichheit und Ausbeutung durch KI-Systeme etwas entgegenzusetzen.
Rainer Mühlhoff
events.ccc.de/congress/2023/h...
#37c3 #SustainabilityClimateJustice

[@guenterkrass]

Richtig guter Vortrag! Gerade diese historischen Linien waren mir teilweise völlig neu.

[@haraldclark6206]

Super Vortrag! Vielen Dank!

[@mexxmurrhahn6959]

Absolut gut, richtig und wichtig. Vielen Dank und liebe Grüsse. ❤

[@dirkzimmermann7419]

Sehr aufschlussreich und gut zu folgen. 😊

[@klausthierauf8194]

Super, dass die Soziologie dabei ist. Hat mir sehr gut gefallen.

[@tedalert1825]

Also rein Fashion-mässig: Bester Talk! Vielleicht noch ne Epilepsie-Warnung bevor der Moderator die Bühne betritt, aber sonst .. ich bin Fan!

[@lillywho]

Immer noch besser als die Jeans und Schlabberhoodies auf Defcon

[@siddhartacrowley8759]

​@@lillywhoAnsichtssache.

[@dayvie9517]

nö, 80ger Jahre look ist Schmutz. Er sollte Farben wählen, die zueinander passen.

[@AnonymousKratos88369]

Schön bunt

[@K4-02]

schlimm, einfach nur schlimm... wie gut das man nur zuhören muss..

[@hieroben]

Interessante Perspektive - vor allem auch die Überlegung, dass die Intelligenz eigentliche weniger in der KI, sondern in der Feedback-Loop liegt. (Hoffentlich überzeugt dieses Feedback auch die KZbin-KI...)

[@ralffischer3965]

Ne Halle voller Nerds, aber der Ton klappt nicht. 😅😂

[@fonesrphunny7242]

​@@udolehmann5432 Mitschnitt funktioniert bestens, aber die "PA" setzt wohl immer mal wieder aus.

[@AnonymousKratos88369]

​@@udolehmann5432am Anfang sagt er es doch.

[@lolbruah]

Das hat mit dem Sicherheitssystem der Räume zu tun und ist (auch gesetzlich) außerhalb des Einflusspektrums der Besucher. Co2 Sensoren veranlassen letztlich die Abschaltung der PA.

[@Tibo_D]

Hoch interessant!

[@Hofer2304]

Wie wird die Effektivität von Werbung gemessen? Mein Verhalten bei Werbung ist immer gleich: wegklicken, wenn das nicht geht zumindest ignorieren. Für die Werbekunden ist nicht wichtig wie oft auf eine Werbung geklicktwird, sondern wie gut sich das Produkt vekauft.

[@Tarsinion]

Das ist ja das feine am Online-Vertrieb - da kannst du in Echtzeit erfassen, wann und bei wem und unter welchen weiteren Rahmenbedingungen eine Werbemaßnahme zu einer Transaktion führt. Vor Ende der 90er war Werbewirkungsforschung noch 'ne echt komplizierte Angelegenheit, zumindest die Datenerhebung. Heute erheben sich die Daten von allein und man muss sich nur noch um die Modelle kümmern, die man damit füttert.

[@Silberschweifer]

Das Problem ist; ähnlich wie bei pay2win spielen wird hier auf Wale gezielt (Menschen die au diese Werbung stark reagieren)

[@dayvie9517]

@10:30 wenn ich diese Definition von kybernetisch verwenden würde, wäre jede Software kybernetisch. Jede Software besteht aus Anforderungen und Fachwissen, das von Menschen festgelegt wurde. Zudem passt sich jede Software - die korrekt funktioniert und sicher sein soll - normalerweise an Zustände, die sie festgestellt hat, an. Somit ist KI laut dieser Person kybernetisch, weil Software kybernetisch ist. Also gar nicht so viel anders wie Software - das Gegenteil behauptet die Person aber ständig. @11:28 okay, also Design hat nichts mit Programmierung zu tun? Bei Softwareentwicklung sind Arbeitsprozesse - und Datengewinnung zur Verbesserung von Systemen - sehr wohl sehr wichtig. Diese hier behaupteten "Unterschiede zur Softwareentwicklung" existieren faktisch nicht. Für mich wird hier zu sehr unfachlich geschwurbelt - das was er hier behauptet ist nicht "prototypisch für KI heute" - sondern für Softwareentwicklung heute. Ich finde den Talk schwierig - ich bezweifle, dass diese Person jemals etwas professionell programmiert hat oder bei Softwareentwicklung mitgewirkt hat. Der CCC liefert normalerweise nicht so inhaltlich inkorrekte Talks mit schwachen Definitionen und Widersprüchen. Ich glaube es hätte ihm ganz gut getan, den Vortrag mal einem Kollegen für ein Review zu schicken, bevor er vor Fachleuten vorträgt - wenn er schon als Leiter nicht so sehr in der Materie ist. Man merkt, dass die Person stark von sich selbst überzeugt ist, das wars dann aber auch.

[@andidelta9]

da ist der herr von ahn bestimmt drauf gekommen, nachdem er douglas adams gelesen hat..

[@TOCmoIc]

Es ist schon seltsam wenn am Ende nur eine Person eine, zwei Fragen stellt... Ansonsten tolle Plattform. 🎉

[@mux1337]

Ich kam auch direkt zur einer Feedback-Umfrage auf Twitch, als ich die ADS ausgeschaltet habe xD

[@thygrrr]

"Börsebwertswirksame Einflussnahme" durch Boykott klingt gut :)

[@kofferfischii]

Personalisierte Nachrichten finde ich noch viel schlimmer.

[@andidelta9]

can I have that suit 🙃

[@Leon-pm6lr]

Interessant, aber ich klicke maximal ausversehen auf Werbung 😅

[@robertheinrich2994]

dh, spotify-accountsharing um das KI-profil zu verwässern. denn das system kann nicht gleich erfassen, dass ein kunde grad ausgetauscht worden is. wobei, wenn die es drauf anlegen, sollte es schon gehen.

[@Battlecry45]

Ahest du denn dein ganzes Telefon mit dem mitnutzer? Unwahrscheinlich.

[@fonesrphunny7242]

Spotify erhält mehr Daten von dir als du denkst. Damit wird ein Profil aufgebaut und da wird es schnell offensichtlich wenn man sich den Account teilt. Andere IP, anderer Browser/OS, andere Vorlieben.

[@sauronliebtdich]

was ein gayler anzug! love it!

[@Mightydoggo]

Also ich bin ganz froh, dass ich jetzt ne Menge low level tasks auslagern kann, für die ich sonst hätte Leute einstellen oder irgendwelche überteuerte black box software kaufen müssen. Von meinen krankheitsbedingten Sozialleistungen kann ich schlecht ein Team anheuern. Wärs schöner in nem sozialistischen Utopia zu leben? Klar. Aber ist halt nicht sonderlich realistisch.

[@mlang23]

Selten das mir ein ccc vortragender so negativ auffällt. aber als blinder zuhörer wäre mir lieber gewesen wenn diesen vortrag eine KI gehalten hätte, diese hätte nämlich das essentielle bild am anfang des vortrages beschrieben, und nicht einfach davon ausgegangen wäre das eh alle zuhörer die folien sehen. schade, der ccc macht das normalerweise besser, bzw. sind die vortragenden für gewöhnlich nicht so von sich selbst überzeugt wie dieser typ. 18:56

[@blinddarm8478]

Es gibt ja nicht ohne Grund die Redensart: Ein Bild sagt mehr als tausend Worte. Man nutzt Bilder in Vorträgen um Dinge aufzuzeigen, die verbal viel länger dauern würden. Natürlich kann man grob in einem Satz ein Bild beschreiben, aber nicht die Nuancen die es aussagt, das würde länger dauern. Genauso ist es bei Schaubildern, diese werden genutzt um zu visualisieren was viel länger und umständlicher verbal auszudrücken wäre. Diesen Votrtrag jetzt als schlecht abzustempeln, nur weil man eben nicht die Zielgruppe für das Format "Präsentation" ist, sondern eher für das Format "Podcast", finde ich schwach von ihnen.

[@MMilar]

Es ist schon seltsam wenn nur die weibliche Ansprache genutzt wird. Ansonsten guter Vortrag.

[@lillywho]

Keine Sorge, du bist ja mitgemeint! 🤣

[@Reikles09]

Ich mag die Art von Professor Hartmut Rosa gerne welcher einfach wie zufällig die weibliche/männliche ansprache wählt. Dadurch ist es immer ein schönes Ratespiel welche wohl als nächstes kommt.

[@Percy500]

Ich glaube das ist eher als Nutzer|innen gemeint. Damit ist die Sprache gegendert und dabei ist nicht nur weibliche Ansprache gemeint.

[@silvanstraer8100]

An der Betonung (kleine Pause vor dem “:innen”) hört man doch mehr als deutlich dass es sich eben nicht um die weibliche, sondern die umfassende Form handelt. Darüber hinaus finde ich den Hinweis geradezu genial “dass du ja eh mit-gemeint bist” 😂😂 … ein feines Stück Ironie mit Potential zu empathischer Erkenntnis