Computer says no. f Künstliche Intelligenz & Herrscha
Slide 1
Slide 2
Slide 3
h ps://r.ovl.design/rc3-ki Twi er: @_ovlb Slides Sources & Resources Recording tt tt Transcript
Slide 4
Künstli e Intelligenz ch Oder was?
Slide 5
Künstliche Intelligenz ist eine grobe Kategorie
Slide 6
Technisch wird es vor allem um Machine Learning gehen Ich werde trotzdem von KI sprechen.
- Unterscheidung wichtig in einem technischen Diskurs
Slide 7
«For my purposes, I use AI to talk about the massive industrial formation that includes politics, labor, culture and capital.» ☞ Kate Crawford Atlas of AI, p. 9 When I refer to machine learning, I’m speaking of a range of technical approaches
Slide 8
ImageNet Algorithmen & Arbeit Künstliche Ideologie Was tun?
Slide 9
In diesem Sinne ist es kein technischer Vortrag. When I refer to machine learning, I’m speaking of a range of technical approaches
Slide 10
ImageNet Wie Machine Learning sich für immer veränderte
Slide 11
Was ist ImageNet eigentlich?
Slide 12
fl Der vielleicht ein ussreichste Datensatz.
Slide 13
Der vielleicht ein ussreichste Algorithmus. fl aber eins nach dem anderen
Slide 14
Die Idee: Den Goldstandard für Bilder sammeln. Fei-Fei Li, 2006
Slide 15
Die Umsetzung: Bilder sammeln. Leichter gesagt, als getan.
Slide 16
Es dauerte drei Jahre bis genug Bilder gesammelt waren. Genug heißt: Vierzehn Millionen.
Slide 17
PASCAL VOC 19.737 Bilder in zwanzig Kategorien PASCAL Visual Object Classes
Slide 18
fi Wie klassi ziert man 14 Millionen Bilder?
Slide 19
Ein Job für Studienanfänger*innen? Dauer: 19 Jahre
Slide 20
Ein Job für einen Algorithmus? Algorithmische Ergebnisse müssen kontrolliert werde
Slide 21
Enter Amazon Mechanical Turk.
Slide 22
«On this new platform, anyone could construct a ‹Human Intelligence Task› to be completed by the workers on the platform.» ☞ Denton, E. et al. (2021) On the genealogy of machine learning datasets
tt h ps://journals.sagepub.com/doi/full/10.1177/20539517211035955
Slide 23
☞ Denton, E. et al. (2021) On the genealogy of machine learning datasets
h ps://journals.sagepub.com/doi/full/10.1177/20539517211035955 tt Th « is solution quickly solved [the] problem by allowing the problem to be broken down and distributed across 49 thousand workers from 167 countries.»
Slide 24
Das menschliche Sehen als rein mechanischer Prozess. Visuelle Intelligenz als Mustererkennung kein Kontext problem, das in ML bis heute besteht
Slide 25
Und nun? Von 201o–2017 ImageNet Large Scale Visual Recognition Challenge
Slide 26
In 2012 wurde AlexNet vorgestellt. Die Einführung der Neuronalen Netze Alex Krizhevsky und sein Team der Universität Toronto diese Netze in den folgenden Jahren und bis heute einer der tonangebenden Paradigmen im Machine Learning.
Slide 27
Unfassbare Mengen an Daten Fehlender Consent Mechanisches Verständnis menschlicher Wahrnehmung Deep Learning
Slide 28
Arbeit & Algorithmen
Slide 29
Worüber reden wir, wenn wir über Arbeit reden?
Slide 30
Worüber reden wir, wenn wir über Arbeit reden? Unbezahlte Arbeit Unsichtbare Arbeit Durch Algorithmen kontrollierte Arbeit Unbezahlte Arbeit -> Recaptcha
Slide 31
ch Unsi tbare Arbeit
Slide 32
KI tut dies, KI tut jenes. In Go gewonnen, Texte geschrieben, protein folding.
Slide 33
«Headlines like ‹AI discovered how to cure a type of cancer›. Of course it’s never AI that did this. It’s researchers […] who use AI machine learning tools like any other tool. ☞ Arvind Narayanan Fake AI, S. 24
Slide 34
☞ 80% menschliche Arbeit The Economist – For AI, data are harder to come by than you think
Slide 35
«Training a machine-learning system requires large numbers of carefully labelled examples, and those labels usually have to be applied by humans.» ☞ For AI, data are harder to come by than you think tt h ps://www.economist.com/technology-quarterly/2020/06/11/for-ai-data-are-harder-to-come-by-than-you-think
Slide 36
Slide 37
Slide 38
«We could think of this as a kind of Potemkin AI – li le more than facades, designed to demonstrate […] what an automated system would look like.» ☞ Kate Crawford tt Atlas of AI, S. 65
Slide 39
Der schöne Schein des Automatismus.
Slide 40
☞ New York Daily News https://12ft.io/proxy?q=https://www.nydailynews.com/news/national/ny-witness-saw-homeless-people-selling-face-scans-google-five-dollars-20191004j6z2vonllnerpiuakt6wrp6l44-story.html
Slide 41
☞ Algorithm Watch
Slide 42
Google tut es leid.
Slide 43
Geisterarbeit ist überall. Mary L. Gray und Siddharth Suri Die Verifizierung neuer Bankaccounts, die [Moderation von Inhalten bei Facebook oder Twitter] Plattformen wie Fiverr
Slide 44
«Wir sollten uns nicht davor fürchten, dass Menschen durch Technologie ersetzt, sondern dass sie entwertet werden.» ☞ Mary L. Gray h ps://www.derstandard.at/story/2000124843896/klick-fuer-klick-zum-hungerlohn-das-digitale-prekariat-waechst tt in Finnland im Knast, im globalen Süden
Slide 45
Frühkapitalismus im digitalen Gewand
Slide 46
☞ 25. März 1911 146 Tote Ausgänge der Fabrik verschlossen Wikimedia
Slide 47
☞ 10.12.2021 tt sechs Tote Tim Vizer/AFP via Ge y Images
Slide 48
More Perfect Union; h ps://twi er.com/MorePerfectUS/status/1470513075489054720 tt tt ☞
Slide 49
tt ☞ Soo Oh/Reveal; h ps://revealnews.org/article/how-amazon-hid-its-safety-crisis/
Slide 50
Kybernetische Verdichtung
Slide 51
«A swing of a second or two in the average time to complete a task can make the di erence between ge ing kudos from a manager or a warning about job performance.» ☞ In Amazon’s Flagship Ful llment Center, the Machines Run the Show tt fi ff Bloomberg Businessweek
Slide 52
«You have to do unsafe things to make your numbers.» ☞ In Amazon’s Flagship Ful llment Center, the Machines Run the Show fi Bloomberg Businessweek
Slide 53
Bestrebungen zur Automatisierung sind so alt wie der Kapitalismus.
Slide 54
«In wenig Monaten schon war eine Maschine fertig, die dem Anscheine nach mit dem Denkvermögen, Gefühl und Takt des erfahrnen Arbeiters begabt war.» ☞ Andrew Ure – Philosophy of Manufactures
Slide 55
ft Sozialstandards wurden erkämp .
Slide 56
«Doch was als radikal neue Form der Arbeit daher kommt, ist im Licht der historischen Entwicklung o mals mehr eine Wiederkehr früherer Arbeitsverhältnisse.» ☞ Heiner Heiland – Zurück in die Zukun ft f ft tt h ps://www.rosalux.de/publikation/id/39921/zurueck-in-die-zukun -1
Slide 57
Und ewig grüßt das Kapitalverhältnistier.
Slide 58
«Die Arbeiter müssen sich also bestreben, aus dieser vertierenden Lage herauszukommen […] und dies können sie nicht tun, ohne gegen das Interesse der Bourgeoisie als solcher […] anzukämpfen. ☞ Friedrich Engels – Die Lage der arbeitenden Klasse in England
Slide 59
ch ch Gig-Work und algorithmis e Undur si tigkeit
Slide 60
Welchen Ein uss haben Algorithmen? ff fl Es ist nicht überall so o ensichtlich wie im Lagerhaus.
Slide 61
Unklarheit führt zu Wissenshierarchien.
Slide 62
«Data, as it is conceived of now, simply ows away from workers and to the platform, where it becomes proprietary, valuable, and ‹big.›» ☞ ‘Worker Data Science’ Can Teach Us How to Fix the Gig Economy Wired
Slide 63
Wie soll man verstehen, was nicht fassbar ist? Wie soll man fassen, was sich verändert?
Slide 64
Diese Hierarchien können nur aufgelöst werden, wenn die Algorithmen o engelegt ff werden.
Slide 65
Die Verdichtung der Arbeit ist auch eine Verdichtung der Zeit. Unternehmen schlucken alle Lebenssekunden hinter den Fabriktoren.
Slide 66
Faulenzen gegen die Überwachung? Die Verlangsamung der Arbeit ist ein Mi el des Arbeitskampfes. -> Bummelstreik -> Auch Fabrikalgo lernen aus Vergangenheit
Slide 67
«[Es] ergab sich, dass an mehreren Stellen von Paris unabhängig voneinander und gleichzeitig nach den Turmuhren geschossen wurde.» ☞ Walter Benjamin — Geschichtsphilosophische Thesen Zur Kritik der Gewalt und andere Aufsätze, Suhrkamp 1965, S. 91 Juni Revolution 1830
Slide 68
Der Widerstand gegen die Algorithmen braucht Organisierung.
Slide 69
ch Künstli e Ideologie
Slide 70
ch Öffentli e Daten, privates Geld
Slide 71
Eine neue ursprüngliche Akkumulation.
Slide 72
Der Rohsto sind unsere Geschichten. Die Märkte Kontrolle und Hokuspokus. ff Die Innovation ist alt und gammlig.
Slide 73
Wir sehen eine Konzentration der Daten in den Rechenzentren.
Slide 74
«Der Übersetzungsassistent ist (derzeit) für alle ‹frei nutzbar› und dennoch machen wir uns mit seiner Nutzung von Google abhängig.» ☞ çapulcu redaktionskollektiv De_lete!, S. 47
Slide 75
Too big to fail?
Slide 76
ch Ökonomis e Abhängigkeiten
Slide 77
☞ Meredith Whi aker – The Steep Cost of Capture fi tt Interactions, November/December 2021 ft Th « ese companies control the tooling, development environments, languages, and so ware that de ne the AI research process —they make the water in which AI research swims.»
Slide 78
☞ Cody O’Loughlin for The New York Times
Slide 79
tt tt ☞ h ps://twi er.com/timnitGebru/status/1334352694664957952
Slide 80
Stochastische Papageien
Slide 81
«We have identi ed a wide variety of costs […] and the risk of substantial harms.» ☞ Bender, Gebru, McMillan-Major, Shmitchell fi On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? 🦜
Slide 82
Google tut es leid.
Slide 83
tt tt ☞ h ps://twi er.com/mmitchell_ai/status/1362885356127801345
Slide 84
Benehmt euch, oder ihr seid raus.
Slide 85
ch Te nologie & Militär
Slide 86
Ziemlich beste Freund*innen.
Slide 87
fi Das Internet ist eine Er ndung des Militärs.
Slide 88
Geschä e mit dem Militär sind Teil des ft ft Kerngeschä s.
Slide 89
Roboter auf XTC
Slide 90
«As the Pentagon would have it, Project Maven will open the door to a new era of arti cially intelligent spycra . Nothing will go unseen.» ☞ How Big Tech is helping build the Pentagon’s all-seeing eye-in-the-sky ft fi Fast Company, 18.6.2019
Slide 91
Technologie zwischen zivil und militärisch.
Slide 92
«It uses a predictive technique known as cluster analysis that can similarly be used to predict that a man walking around aimlessly may be preparing an a ack.» ☞ How Big Tech is helping build the Pentagon’s all-seeing eye-in-the-sky tt Fast Company, 18.6.2019
Slide 93
Nach Protesten durch Mitarbeiter*innen zog Google sich zurück.
Slide 94
Google tut es leid. naja nicht soooooooo sehr
Slide 95
tt ☞ h ps://ra.co/news/76439
Slide 96
☞ Der Cyberraum; Screenshot
Slide 97
Die Anscha ung bewa neter Drohnen ist Teil des Koalitionsvertrags. ff ff Sie sollen aber nur ethisch töten.
Slide 98
«Bereits der Einsatz von vom Menschen gesteuerten bewa neten Drohnen hat die Schwelle zum Einsatz militärischer Gewalt gesenkt und den Krieg weiter entgrenzt […]. ☞ AI Scientists for Peace ff tt h ps://aiscientists4peace.org/
Slide 99
Slide 100
«It was con dent that it was right 90 percent of the time, so it was con dently wrong. And that’s not the algorithm’s fault. It’s because we fed it the wrong training data.» ☞ This Air Force Targeting AI Thought It Had a 90% Success Rate. It Was More Like 25% fi fi Defense One, 9.12.2021
Slide 101
Die Algorithmen werden besser werden. Es braucht deswegen eine grundlegende Kritik an staatlichem Töten.
Slide 102
«Herrscha durch Gewalt ist sowohl in die autonome Wa entechnologie als auch in den Rahmen des Denkens und der Politik eingemeißelt, welcher zu ihrer Entwicklung und ihrem potentiellen Einsatz führt.» ☞ Ray Acheson – Feminismus und automatisierte Wa ensysteme ff ff ft Wenn KI, dann feministisch, S. 91
Slide 103
Panoptikum in Digitalien
Slide 104
Die deutsche Polizei sammelt eißig Gesichter. Wenn du im Juli 2017 in Hamburg warst, vermutlich auch deins. Videmo 360 fl hunderttausende Gesichter
Slide 105
Was macht eine zur Stra äterin? ft Manchmal reicht es schon von einem Bullen verkloppt zu werden.
Slide 106
In Hamburg sind fünf Jugendliche angeklagt. Ihnen wird nichts vorgeworfen. Rondenbarg Verfahren
Slide 107
«Polizeigewalt hat es nicht gegeben.» ☞ Olaf Scholz NDR Interview
Slide 108
☞ kein einziger Polizist verurteilt Hessische Polizisten bei keiner Polizeigewalt
Slide 109
#polizeiproblem 🚓🔥
Slide 110
Der Einsatz von Videmo wurde für rechtens erklärt. tt ft Die Befugnisse des Datenschutzbeau ragten beschni en.
Slide 111
Im Mai 2020 wurde die umstri ene Datenbank gelöscht. tt Es gab keine strafrechtliche Erforderlichkeit mehr.
Slide 112
Im Rahmen des Programms Polizei 20/20 wird an bundeseinheitlichen Pla formen tt gearbeitet.
Slide 113
Dabei zeigt sich immer wieder, dass ft Gesichtserkennung fehlerha ist.
Slide 114
☞ Gender Shades, 2018
Slide 115
tt ☞ h ps://www.aclu.org/blog/privacy-technology/surveillance-technologies/amazons-face-recognition-falsely-matched-28
Slide 116
Gesichtserkennung hat im ö entlichen ff Raum nichts zu suchen.
Slide 117
Gesichtserkennung hat in den Tools der Polizei nichts zu suchen.
Slide 118
Selbst Facebook wendet Gesichtserkennung fl nicht mehr ächendeckend an.
Slide 119
tt ☞ h ps://reclaimyourface.eu/
Slide 120
Reclaim Your Face! e European Citizens Initiative for a ban on biometric mass surveillance Th :
: 2021 12 28 21 00–22 00 (Europe/Berlin) c-base
Slide 121
Predictive Policing Voraus in die Vergangenheit
Slide 122
☞ Crime Prediction So The Markup, 2.12.2021 ft Th «Overall, we found that the fewer White residents who lived in an area […] the more likely PredPol would predict a crime there. e same disparity existed between richer and poorer communities. ware Promised to Be Free of Biases. New Data Shows It Perpetuates Them
Slide 123
Warum – und wie – sollte das in Deutschland nicht passieren?
Slide 124
☞ U.N. Panel: Technology in Policing Can Reinforce Racial Bias The New York Times, 26.11.2020 fi Th « e panel’s warnings add to deepening alarm among human rights bodies over the largely unregulated use of arti cial intelligence across a widening spectrum of government.»
Slide 125
Eine Infrastruktur des ständigen ff staatlichen Zugri s.
Slide 126
Th « e AI and algorithmic systems used by the state, from the military to the municipal level, reveal a covert philosophy of en masse infrastructural command and control […].» ☞ Kate Crawford Atlas of AI, S. 208
Slide 127
Firmen wie Palantir versinnbildlichen diese Gemengelage. Außen und innen, Polizei, Militär und Geheimdienst verschmelzen.
Slide 128
Palantir hat Angst.
Slide 129
Daten & Privatsphäre
Slide 130
«Wenn wir von staatlichen Eingri en in die Privatsphäre sprechen, sehen wir, dass die Intensität dieser Eingri e mit dem Grad der Abhängigkeit vom Staat zunimmt.» ☞ Francesca Schmidt & Johanna Luise Mellentin – Überwachung und KI ff ff in netzforma*e.V. (Hrsg.) – Wenn KI, dann feministisch, Berlin 2021, S. 18
Slide 131
Hartz IV Ge üchtete fl Migrantische Communities
Slide 132
Überwachung ist ein Problem der betro enen Individuen. Aber kein individuelles. ff aus der Perspektive des «Ich habe nichts zu verbergen» zu argumentieren hilft deswegen nicht
Slide 133
☞ Salomé Viljoen — Data Relations fi fi fi h ps://logicmag.io/distribution/data-relations/ tt Th « e point is not to de ne the terms of our individual data cation […] but to de ne the terms of our collective data cation.»
Slide 134
Es muss allen möglich sein ohne Angst vor dem digitalen Panoptikum durch die Straßen zu laufen.
Slide 135
☞ tt tt Facebooks Casual Conversations Dataset h ps://twi er.com/SashaMTL/status/1469318894208880653
Slide 136
Was tun? I want you tech for good
Slide 137
«Gespentisch ist der digitale Wind, der durch unser Haus bläst.» ☞ Byung-Chul Han — Im Schwarm, Ansichten des Digitalen tt Ma hes & Seitz 2017, S. 75
Slide 138
KI codi ziert das menschliche fi Zusammenleben.
Slide 139
«Our technology is accelerating at a frightening rate, a rate faster than our re ective understanding of its impact.» ☞ Tatiana Mac – Canary in a Coal Mine fl tt h ps://alistapart.com/article/canary-in-a-coal-mine-how-tech-provides-platforms-for-hate/
Slide 140
☞ Paolo Cirio – Capture
Slide 141
h ps://twi er.com/LilithWi mann/status/1469735820307357705 tt tt tt ☞
Slide 142
Solange wir die Herrscha der Menschen über die Menschen nicht in den Fokus unserer Kritik rücken, werden wir uns immer und wieder nur an den Symptomen ft ft dieser Herrscha abarbeiten.
Slide 143
«Others constantly work to prevent harm, unable to nd the time, space or resources to implement their own vision of the future.» ☞ Timnit Gebru fi The Guardian, 6.12.2021
Slide 144
Denn erst, wenn wir gut zu uns sind, können die Maschinen es auch sein.
Slide 145
h ps://r.ovl.design/rc3-ki Twi er: @_ovlb Slides Sources & Resources Recording tt tt Transcript
Slide 146
Th Danke. ank you. Oscar Braunert code & design www.ovl.design o@ovl.design Merci. спасибо. ♡
