2020 var ikke kun året med Coronavirus. De såkaldte kunstige intelligensprogrammer, algoritmer, der f.eks. kan genkende objekter på billeder, har taget et nyt spring frem og er for alvor ved at indtage en nøglerolle i den moderne industrialisering, lægevidenskab og krigsførelse. Men det er en udvikling, der er udenfor offentlig kontrol.
Gigantiske summer bliver i disse år investeret i computersoftware der kaldes ”kunstig intelligens”. Der er dog ikke tale om intelligens i almen forstand, men om meget komplekse computerprogrammer.
Kunstig intelligens-systemer (AI) er på nogle områder længere fremme, end man skulle tror ud fra den mængde omtale, som udviklingen får i de borgerlige medier. AI er på vej til inden for få år at blive en meget stor del af økonomien. Samtidig er AI også på vej til at blive indført i folks dagligdag, f.eks. på socialkontoret til sagsbehandling og i justitsvæsenet.
Mens systemerne har taget tigerspring, er offentlig viden og videnskaben i mellemtiden smidt uden for døren. Årtiets store økonomiske satsning på fremtidens superprofitter til IT monopoler, er helt udenfor offentlig kontrol.
Når den fri og åbne forskning forsvinder til fordel for nogle profitmotiver, åbner det også for systemiske fejl, der ikke bliver opdaget i tide. I jagten på profit er tempo nemlig alt: Den, der først kommer på markedet, kommer til at dominere og skabe fremtidens monopoler inden for området.
En af de centrale fejl, der blev begået i hastværket med udviklingen af de moderne AI-systemer, er, at selv de virksomheder, der bruger systemerne, har svært ved at forklare, hvordan de rent faktisk virker. Man har glemt at indlægge gennemsigtighed og mulighed for kontrol af mellemregninger i algoritmerne. Og i stedet for at stoppe op og løse denne centrale fejl så går branchen i retning af at udvikle større og mere komplekse og endnu mere uigennemskuelige systemer.
Den metode, der bruges til at indsamle de datasæt, der skal bruges til at træne algoritmerne, udgør en anden og mindst lige så stor risiko for systemerne. Den gigantiske økonomiske ulighed under kapitalismen, stereotyper, kønsroller og racemæssige uligheder, betyder, at alle data som udgangspunkt er korrumperet af den kapitaliske diskurs. Borgerlige statistikker og arbejderklassens erfaringer er generelt to vidt forskellige verdener. Et eksempel er statistiske data over kriminalitet, som beviseligt er farvet af politiets nidkærhed i bestemte socialt udsatte forstæder.
Men fordomme i vores samfund er langt mere udbredt og har langt større betydning. Politiets er blot den mest iøjnefaldende. I virkeligheden har danske kommuner f.eks. forsøgt at presse unge kvinder til abort, fordi de kom fra fattige kår, og de pr. automatik ikke blev regnet som dygtige forældre. Det er den type beslutninger, der ender som data, som skal træne algoritmerne.
Det som algoritmerne lærer, er kort sagt baseret på alle de fejl, som verden har i dag. Dertil har de kunstige intelligenssystemer den indbyggede svaghed, at de aldrig bliver klogere end de data, de fodres med. Ensretning og standardisering er systemerne til gengæld gode til. Det bliver helt alvorligt brugt som et af argumenterne for at overlade beslutninger i sagsbehandling til computere.
Løsningen er i stedet at tage rettighederne alvorligt. Når IT-systemer sniger sig ind i sundhedsvæsnet, skal det være helt gennemsigtigt og videnskabeligt gennemtestet, hvordan det er programmeret og hvordan det når frem til beslutningerne. Så der kan gives et samtykke til behandling på et oplyst grundlag.
Udgivet i APKs politisk teoretiske magasin ENHED og KAMP nr. 1 – 2021
Læs hele artiklen Kunstig intelligens er privat ejendom under kapitalismen – ENHED og KAMP
På Enhed og Kamps hjemmeside findes artikler fra alle de tidligere udgivelser af magasinet fra 2017 og frem til nu.
Dette er en artikel fra KPnet. Se flere artikler og følg med på
KPNET.DK – NYHEDER HVOR DER KÆMPES – eller på FACEBOOK
Udgives af APK – Arbejderpartiet Kommunisterne