Computer says no. f Künstliche Intelligenz & Herrscha
h ps://r.ovl.design/rc3-ki Twi er: @_ovlb Slides Sources & Resources Recording tt tt Transcript
Künstli e Intelligenz ch Oder was?
Künstliche Intelligenz ist eine grobe Kategorie
Technisch wird es vor allem um Machine Learning gehen Ich werde trotzdem von KI sprechen.
- Unterscheidung wichtig in einem technischen Diskurs
«For my purposes, I use AI to talk about the massive industrial formation that includes politics, labor, culture and capital.» ☞ Kate Crawford Atlas of AI, p. 9 When I refer to machine learning, I’m speaking of a range of technical approaches
ImageNet Algorithmen & Arbeit Künstliche Ideologie Was tun?
In diesem Sinne ist es kein technischer Vortrag. When I refer to machine learning, I’m speaking of a range of technical approaches
ImageNet Wie Machine Learning sich für immer veränderte
Was ist ImageNet eigentlich?
fl Der vielleicht ein ussreichste Datensatz.
Der vielleicht ein ussreichste Algorithmus. fl aber eins nach dem anderen
Die Idee: Den Goldstandard für Bilder sammeln. Fei-Fei Li, 2006
Die Umsetzung: Bilder sammeln. Leichter gesagt, als getan.
Es dauerte drei Jahre bis genug Bilder gesammelt waren. Genug heißt: Vierzehn Millionen.
PASCAL VOC 19.737 Bilder in zwanzig Kategorien PASCAL Visual Object Classes
fi Wie klassi ziert man 14 Millionen Bilder?
Ein Job für Studienanfänger*innen? Dauer: 19 Jahre
Ein Job für einen Algorithmus? Algorithmische Ergebnisse müssen kontrolliert werde
Enter Amazon Mechanical Turk.
«On this new platform, anyone could construct a ‹Human Intelligence Task› to be completed by the workers on the platform.» ☞ Denton, E. et al. (2021) On the genealogy of machine learning datasets
tt h ps://journals.sagepub.com/doi/full/10.1177/20539517211035955
☞ Denton, E. et al. (2021) On the genealogy of machine learning datasets
h ps://journals.sagepub.com/doi/full/10.1177/20539517211035955 tt Th « is solution quickly solved [the] problem by allowing the problem to be broken down and distributed across 49 thousand workers from 167 countries.»
Das menschliche Sehen als rein mechanischer Prozess. Visuelle Intelligenz als Mustererkennung kein Kontext problem, das in ML bis heute besteht
Und nun? Von 201o–2017 ImageNet Large Scale Visual Recognition Challenge
In 2012 wurde AlexNet vorgestellt. Die Einführung der Neuronalen Netze Alex Krizhevsky und sein Team der Universität Toronto diese Netze in den folgenden Jahren und bis heute einer der tonangebenden Paradigmen im Machine Learning.
Unfassbare Mengen an Daten Fehlender Consent Mechanisches Verständnis menschlicher Wahrnehmung Deep Learning
Arbeit & Algorithmen
Worüber reden wir, wenn wir über Arbeit reden?
Worüber reden wir, wenn wir über Arbeit reden? Unbezahlte Arbeit Unsichtbare Arbeit Durch Algorithmen kontrollierte Arbeit Unbezahlte Arbeit -> Recaptcha
ch Unsi tbare Arbeit
KI tut dies, KI tut jenes. In Go gewonnen, Texte geschrieben, protein folding.
«Headlines like ‹AI discovered how to cure a type of cancer›. Of course it’s never AI that did this. It’s researchers […] who use AI machine learning tools like any other tool. ☞ Arvind Narayanan Fake AI, S. 24
☞ 80% menschliche Arbeit The Economist – For AI, data are harder to come by than you think
«Training a machine-learning system requires large numbers of carefully labelled examples, and those labels usually have to be applied by humans.» ☞ For AI, data are harder to come by than you think tt h ps://www.economist.com/technology-quarterly/2020/06/11/for-ai-data-are-harder-to-come-by-than-you-think
«We could think of this as a kind of Potemkin AI – li le more than facades, designed to demonstrate […] what an automated system would look like.» ☞ Kate Crawford tt Atlas of AI, S. 65
Der schöne Schein des Automatismus.
☞ New York Daily News https://12ft.io/proxy?q=https://www.nydailynews.com/news/national/ny-witness-saw-homeless-people-selling-face-scans-google-five-dollars-20191004j6z2vonllnerpiuakt6wrp6l44-story.html
☞ Algorithm Watch
Google tut es leid.
Geisterarbeit ist überall. Mary L. Gray und Siddharth Suri Die Verifizierung neuer Bankaccounts, die [Moderation von Inhalten bei Facebook oder Twitter] Plattformen wie Fiverr
«Wir sollten uns nicht davor fürchten, dass Menschen durch Technologie ersetzt, sondern dass sie entwertet werden.» ☞ Mary L. Gray h ps://www.derstandard.at/story/2000124843896/klick-fuer-klick-zum-hungerlohn-das-digitale-prekariat-waechst tt in Finnland im Knast, im globalen Süden
Frühkapitalismus im digitalen Gewand
☞ 25. März 1911 146 Tote Ausgänge der Fabrik verschlossen Wikimedia
☞ 10.12.2021 tt sechs Tote Tim Vizer/AFP via Ge y Images
More Perfect Union; h ps://twi er.com/MorePerfectUS/status/1470513075489054720 tt tt ☞
tt ☞ Soo Oh/Reveal; h ps://revealnews.org/article/how-amazon-hid-its-safety-crisis/
Kybernetische Verdichtung
«A swing of a second or two in the average time to complete a task can make the di erence between ge ing kudos from a manager or a warning about job performance.» ☞ In Amazon’s Flagship Ful llment Center, the Machines Run the Show tt fi ff Bloomberg Businessweek
«You have to do unsafe things to make your numbers.» ☞ In Amazon’s Flagship Ful llment Center, the Machines Run the Show fi Bloomberg Businessweek
Bestrebungen zur Automatisierung sind so alt wie der Kapitalismus.
«In wenig Monaten schon war eine Maschine fertig, die dem Anscheine nach mit dem Denkvermögen, Gefühl und Takt des erfahrnen Arbeiters begabt war.» ☞ Andrew Ure – Philosophy of Manufactures
ft Sozialstandards wurden erkämp .
«Doch was als radikal neue Form der Arbeit daher kommt, ist im Licht der historischen Entwicklung o mals mehr eine Wiederkehr früherer Arbeitsverhältnisse.» ☞ Heiner Heiland – Zurück in die Zukun ft f ft tt h ps://www.rosalux.de/publikation/id/39921/zurueck-in-die-zukun -1
Und ewig grüßt das Kapitalverhältnistier.
«Die Arbeiter müssen sich also bestreben, aus dieser vertierenden Lage herauszukommen […] und dies können sie nicht tun, ohne gegen das Interesse der Bourgeoisie als solcher […] anzukämpfen. ☞ Friedrich Engels – Die Lage der arbeitenden Klasse in England
ch ch Gig-Work und algorithmis e Undur si tigkeit
Welchen Ein uss haben Algorithmen? ff fl Es ist nicht überall so o ensichtlich wie im Lagerhaus.
Unklarheit führt zu Wissenshierarchien.
«Data, as it is conceived of now, simply ows away from workers and to the platform, where it becomes proprietary, valuable, and ‹big.›» ☞ ‘Worker Data Science’ Can Teach Us How to Fix the Gig Economy Wired
Wie soll man verstehen, was nicht fassbar ist? Wie soll man fassen, was sich verändert?
Diese Hierarchien können nur aufgelöst werden, wenn die Algorithmen o engelegt ff werden.
Die Verdichtung der Arbeit ist auch eine Verdichtung der Zeit. Unternehmen schlucken alle Lebenssekunden hinter den Fabriktoren.
Faulenzen gegen die Überwachung? Die Verlangsamung der Arbeit ist ein Mi el des Arbeitskampfes. -> Bummelstreik -> Auch Fabrikalgo lernen aus Vergangenheit
«[Es] ergab sich, dass an mehreren Stellen von Paris unabhängig voneinander und gleichzeitig nach den Turmuhren geschossen wurde.» ☞ Walter Benjamin — Geschichtsphilosophische Thesen Zur Kritik der Gewalt und andere Aufsätze, Suhrkamp 1965, S. 91 Juni Revolution 1830
Der Widerstand gegen die Algorithmen braucht Organisierung.
ch Künstli e Ideologie
ch Öffentli e Daten, privates Geld
Eine neue ursprüngliche Akkumulation.
Der Rohsto sind unsere Geschichten. Die Märkte Kontrolle und Hokuspokus. ff Die Innovation ist alt und gammlig.
Wir sehen eine Konzentration der Daten in den Rechenzentren.
«Der Übersetzungsassistent ist (derzeit) für alle ‹frei nutzbar› und dennoch machen wir uns mit seiner Nutzung von Google abhängig.» ☞ çapulcu redaktionskollektiv De_lete!, S. 47
Too big to fail?
ch Ökonomis e Abhängigkeiten
☞ Meredith Whi aker – The Steep Cost of Capture fi tt Interactions, November/December 2021 ft Th « ese companies control the tooling, development environments, languages, and so ware that de ne the AI research process —they make the water in which AI research swims.»
☞ Cody O’Loughlin for The New York Times
tt tt ☞ h ps://twi er.com/timnitGebru/status/1334352694664957952
Stochastische Papageien
«We have identi ed a wide variety of costs […] and the risk of substantial harms.» ☞ Bender, Gebru, McMillan-Major, Shmitchell fi On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? 🦜
Google tut es leid.
tt tt ☞ h ps://twi er.com/mmitchell_ai/status/1362885356127801345
Benehmt euch, oder ihr seid raus.
ch Te nologie & Militär
Ziemlich beste Freund*innen.
fi Das Internet ist eine Er ndung des Militärs.
Geschä e mit dem Militär sind Teil des ft ft Kerngeschä s.
Roboter auf XTC
«As the Pentagon would have it, Project Maven will open the door to a new era of arti cially intelligent spycra . Nothing will go unseen.» ☞ How Big Tech is helping build the Pentagon’s all-seeing eye-in-the-sky ft fi Fast Company, 18.6.2019
Technologie zwischen zivil und militärisch.
«It uses a predictive technique known as cluster analysis that can similarly be used to predict that a man walking around aimlessly may be preparing an a ack.» ☞ How Big Tech is helping build the Pentagon’s all-seeing eye-in-the-sky tt Fast Company, 18.6.2019
Nach Protesten durch Mitarbeiter*innen zog Google sich zurück.
Google tut es leid. naja nicht soooooooo sehr
tt ☞ h ps://ra.co/news/76439
☞ Der Cyberraum; Screenshot
Die Anscha ung bewa neter Drohnen ist Teil des Koalitionsvertrags. ff ff Sie sollen aber nur ethisch töten.
«Bereits der Einsatz von vom Menschen gesteuerten bewa neten Drohnen hat die Schwelle zum Einsatz militärischer Gewalt gesenkt und den Krieg weiter entgrenzt […]. ☞ AI Scientists for Peace ff tt h ps://aiscientists4peace.org/
«It was con dent that it was right 90 percent of the time, so it was con dently wrong. And that’s not the algorithm’s fault. It’s because we fed it the wrong training data.» ☞ This Air Force Targeting AI Thought It Had a 90% Success Rate. It Was More Like 25% fi fi Defense One, 9.12.2021
Die Algorithmen werden besser werden. Es braucht deswegen eine grundlegende Kritik an staatlichem Töten.
«Herrscha durch Gewalt ist sowohl in die autonome Wa entechnologie als auch in den Rahmen des Denkens und der Politik eingemeißelt, welcher zu ihrer Entwicklung und ihrem potentiellen Einsatz führt.» ☞ Ray Acheson – Feminismus und automatisierte Wa ensysteme ff ff ft Wenn KI, dann feministisch, S. 91
Panoptikum in Digitalien
Die deutsche Polizei sammelt eißig Gesichter. Wenn du im Juli 2017 in Hamburg warst, vermutlich auch deins. Videmo 360 fl hunderttausende Gesichter
Was macht eine zur Stra äterin? ft Manchmal reicht es schon von einem Bullen verkloppt zu werden.
In Hamburg sind fünf Jugendliche angeklagt. Ihnen wird nichts vorgeworfen. Rondenbarg Verfahren
«Polizeigewalt hat es nicht gegeben.» ☞ Olaf Scholz NDR Interview
☞ kein einziger Polizist verurteilt Hessische Polizisten bei keiner Polizeigewalt
#polizeiproblem 🚓🔥
Der Einsatz von Videmo wurde für rechtens erklärt. tt ft Die Befugnisse des Datenschutzbeau ragten beschni en.
Im Mai 2020 wurde die umstri ene Datenbank gelöscht. tt Es gab keine strafrechtliche Erforderlichkeit mehr.
Im Rahmen des Programms Polizei 20/20 wird an bundeseinheitlichen Pla formen tt gearbeitet.
Dabei zeigt sich immer wieder, dass ft Gesichtserkennung fehlerha ist.
☞ Gender Shades, 2018
tt ☞ h ps://www.aclu.org/blog/privacy-technology/surveillance-technologies/amazons-face-recognition-falsely-matched-28
Gesichtserkennung hat im ö entlichen ff Raum nichts zu suchen.
Gesichtserkennung hat in den Tools der Polizei nichts zu suchen.
Selbst Facebook wendet Gesichtserkennung fl nicht mehr ächendeckend an.
tt ☞ h ps://reclaimyourface.eu/
Reclaim Your Face! e European Citizens Initiative for a ban on biometric mass surveillance Th :
: 2021 12 28 21 00–22 00 (Europe/Berlin) c-base
Predictive Policing Voraus in die Vergangenheit
☞ Crime Prediction So The Markup, 2.12.2021 ft Th «Overall, we found that the fewer White residents who lived in an area […] the more likely PredPol would predict a crime there. e same disparity existed between richer and poorer communities. ware Promised to Be Free of Biases. New Data Shows It Perpetuates Them
Warum – und wie – sollte das in Deutschland nicht passieren?
☞ U.N. Panel: Technology in Policing Can Reinforce Racial Bias The New York Times, 26.11.2020 fi Th « e panel’s warnings add to deepening alarm among human rights bodies over the largely unregulated use of arti cial intelligence across a widening spectrum of government.»
Eine Infrastruktur des ständigen ff staatlichen Zugri s.
Th « e AI and algorithmic systems used by the state, from the military to the municipal level, reveal a covert philosophy of en masse infrastructural command and control […].» ☞ Kate Crawford Atlas of AI, S. 208
Firmen wie Palantir versinnbildlichen diese Gemengelage. Außen und innen, Polizei, Militär und Geheimdienst verschmelzen.
Palantir hat Angst.
Daten & Privatsphäre
«Wenn wir von staatlichen Eingri en in die Privatsphäre sprechen, sehen wir, dass die Intensität dieser Eingri e mit dem Grad der Abhängigkeit vom Staat zunimmt.» ☞ Francesca Schmidt & Johanna Luise Mellentin – Überwachung und KI ff ff in netzforma*e.V. (Hrsg.) – Wenn KI, dann feministisch, Berlin 2021, S. 18
Hartz IV Ge üchtete fl Migrantische Communities
Überwachung ist ein Problem der betro enen Individuen. Aber kein individuelles. ff aus der Perspektive des «Ich habe nichts zu verbergen» zu argumentieren hilft deswegen nicht
☞ Salomé Viljoen — Data Relations fi fi fi h ps://logicmag.io/distribution/data-relations/ tt Th « e point is not to de ne the terms of our individual data cation […] but to de ne the terms of our collective data cation.»
Es muss allen möglich sein ohne Angst vor dem digitalen Panoptikum durch die Straßen zu laufen.
☞ tt tt Facebooks Casual Conversations Dataset h ps://twi er.com/SashaMTL/status/1469318894208880653
Was tun? I want you tech for good
«Gespentisch ist der digitale Wind, der durch unser Haus bläst.» ☞ Byung-Chul Han — Im Schwarm, Ansichten des Digitalen tt Ma hes & Seitz 2017, S. 75
KI codi ziert das menschliche fi Zusammenleben.
«Our technology is accelerating at a frightening rate, a rate faster than our re ective understanding of its impact.» ☞ Tatiana Mac – Canary in a Coal Mine fl tt h ps://alistapart.com/article/canary-in-a-coal-mine-how-tech-provides-platforms-for-hate/
☞ Paolo Cirio – Capture
h ps://twi er.com/LilithWi mann/status/1469735820307357705 tt tt tt ☞
Solange wir die Herrscha der Menschen über die Menschen nicht in den Fokus unserer Kritik rücken, werden wir uns immer und wieder nur an den Symptomen ft ft dieser Herrscha abarbeiten.
«Others constantly work to prevent harm, unable to nd the time, space or resources to implement their own vision of the future.» ☞ Timnit Gebru fi The Guardian, 6.12.2021
Denn erst, wenn wir gut zu uns sind, können die Maschinen es auch sein.
h ps://r.ovl.design/rc3-ki Twi er: @_ovlb Slides Sources & Resources Recording tt tt Transcript
Th Danke. ank you. Oscar Braunert code & design www.ovl.design o@ovl.design Merci. спасибо. ♡
Gesichtserkennung, Proteine, Go, tanzende Roboter. Künstliche Intelligenz hangelt sich von Höhepunkt zu Höhepunkt. Im Narrativ der Fortschrittsgläubigen und Hurra-Optimistischen hat die mathematische Beschreibung der Welt nur eine Richtung: nach vorne, aber mit Gewalt.
Gewalt hingegen ist es, was durch diese Beschreibungen ausgeführt, in ihnen festgeschrieben und unter dem Deckmantel der vermeintlichen Neutralität legitimiert wird. Jenseits von lustig werden die Roboter von Boston Dynamics mittlerweile stolz als Waffensysteme präsentiert, lehnen Algorithmen scheinbar willkürlich Kreditanträge ab und helfen Verdächtige in den Knast zu bringen. Ob die was getan haben, nebensächlich.
Was also ist ist ein Algorithmus wert, der die Herrschaft beschreibt? Was eine Intelligenz, die nur das Gestern reproduzieren kann? Und was eine Gesellschaft, die das Gestern zum Morgen machen möchte?
Willkommen in der kleinen Ernüchterungsshow.
for free. You
can too.
Video
Resources
The following resources were mentioned during the presentation or are useful additional information.
-
Transkript
Eine erweiterte Form des Vortrags in Textform
-
English Transcript
English translation of the transcript
-
Quellen
Alle Quellen zu Text und Vortrag
