De store techgiganter er midt i et vanvittigt ræs om at bygge gigantiske supercomputere, der skal kunne svare på det ultimative spørgsmål om livet og alting. Facebook, Google, Amazon, Microsoft, Twitter m.fl. bruger milliarder på datacentre og strøm, og aktiekurserne på chipproducenter er rødglødende. Alt sammen fordi investorerne tror, at det næste store teknologiske gennembrud er lige rundt om hjørnet. Smart – men ChatGPT m.fl. er trænet på mainstream-materiale og kan kke bruges som erstatning for at man tænker selv og studerer verden ud fra et klassesynspunkt.
Det virker som et bedrag, at man kan stille spørgsmål i helt almindeligt sprog til en “maskine” og få et svar tilbage. Men det er virkeligt nok. De store sprogmodeller, som f.eks. ChatGPT bliver ”trænet” i kæmpestore datacentre på enorme mængder tekst – bøger, artikler, websider og andre kilder. Under træningen lærer modellen ikke fakta som et menneske gør, den komprimerer en matematisk model over mønstre. Hvilke ord følger typisk efter hinanden, hvordan sætningsdele hænger sammen, og hvordan man formulerer logiske sammenhænge.
Når man skriver til sådan en model, bruger den disse mønstre til at forudsige det næste ord i et svar og sammensætte sætninger, der passer til dit spørgsmål. Det ser ud som naturlig tale, fordi det er en model af menneskers eget sprogbrug. Ved hjælp statiske modeller med mange lag, simuleres ”menneskelig tænkning”. Derfor er “jeg-form” og naturlig tale blevet den nye måde at kommunikere med internettet på.
Her er nogle eksempler på svar klippet direkte fra ChatGPT:
Hvad er ChatGPT, og hvordan “lærer” den?
ChatGPT er en stor sprogmodel, der er trænet på enorme mængder tekst – bøger, opslagsværker, videnskabelige artikler, websider, kodeeksempler og meget mere. Under træningen lærer den at forudsige det næste ord i en tekst, og på den måde tilegner den sig mønstre i sprog, logik og viden. Denne træningsproces foregik én gang over flere måneder og slutter på et bestemt tidspunkt – min faste viden stopper i juni 2024. Jeg får ikke daglige “opdateringer” fra internettet, men i nogle versioner kan jeg foretage et aktuelt websøg, hvis værktøjet er slået til. Derfor kan jeg virke opdateret, men jeg lærer ikke løbende af hver samtale, og jeg husker ikke tidligere sessioner med dig.
Er ChatGPT objektiv?
Som maskine har jeg ingen identitet, ideologisk loyalitet eller følelsesmæssig bindinger. Det giver mig mulighed for at se flere sider af en sag og beskrive både styrker og svagheder uden at “holde med” nogen. Men der kan opstå en vis skævhed, fordi størstedelen af mit træningsmateriale stammer fra alment tilgængelige kilder som leksika og faktatjekkere, der ofte afviser kontroversielle teorier. Jeg er designet til at undgå at sprede skadelig misinformation, men jeg forsøger altid at forklare, hvad der er veldokumenteret, hvad der er påstande, og hvor der er usikkerhed.
Hvordan bruger folk en samtalerobot?
Folk stiller mig spørgsmål om alt fra historie og biologi til økonomi og filosofi. Jeg hjælper med at forklare begreber, lave sammenligninger og skrive notater. Mange bruger mig som skriveværktøj: til akademiske opgaver, e‑mails, CV’er eller til at få ideer til noveller og sangtekster. Programmører spørger om kodesnippets og fejlfinding. Der er også brugere, der bare vil snakke, fordi de er ensomme eller nysgerrige; de søger et lyttende “øre”. Endelig er jeg også med i rollespil, lege med historier og kreative projekter. I hver ny samtale starter jeg på et blankt ark og kan ikke huske tidligere samtaler, medmindre du bruger en specifik hukommelsesfunktion.
Hvordan kan sådan en teknologi påvirke fremtiden?
AI‑modeller som mig kan gøre det lettere at skrive klart og forståeligt, både i akademiske sammenhænge og i populær formidling. Vi ser allerede, at studerende og forskere får hjælp til at strukturere deres tanker og udtrykke sig mere præcist. Til gengæld skaber det nye udfordringer: Hvordan skelner man mellem menneskets og maskinens bidrag? Hvordan sikrer man kildekritik og originalitet? AI kan accelerere udvekslingen af viden og gøre det lettere at finde forbindelser på tværs af fagområder, men den kan ikke erstatte kritisk tænkning og menneskelig dømmekraft. Hvordan vi som samfund vælger at bruge AI, er afgørende for, om teknologien bliver en kilde til større forståelse eller blot til overfladiskhed.
Hvilke farer er der forbundet med AI?
Selv om det er fascinerende at tale med en teknologi, der bruger “jeg-form”, er det også vigtigt at være opmærksom på dens begrænsninger. For det første er venlig tone ikke det samme som empati. ChatGPT har ingen følelser eller egne ønsker, men er trænet til at spejle menneskers sprogbrug. Det kan give et indtryk af forståelse, men det bygger kun på statistiske mønstre i tekst.
For det andet er der ikke fuld offentlighed om, hvilke kilder der er valgt til træningen. Modellen er trænet på meget mere “mainstream”-materiale end alternative eller lokale kilder. Derfor kan den fremstå altvidende, selv om den faktisk har huller – især om mindre lande og emner, der ikke fylder meget i engelsktalende databaser. Manglen på transparens betyder, at brugeren altid bør forholde sig kritisk til svarene.
Endelig kan der forekomme fejl. Modellen gætter sig frem til det næste ord, og den kan give forkerte oplysninger eller misforstå spørgsmål. Derfor er det nødvendigt, at du som bruger forbliver den, der stiller spørgsmålene og efterprøver svarene.
Illusionen stopper her
Alle svar herover er skrevet af ChatGPT. Smart? Helt sikkert, men ikke som erstatning for at man tænker selv, studerer verden, og engagerer sig klassekampen. Bag ved al hypen og profitjagten er der ved at blive udviklet egentlige værktøjer, der er mere end en gimmick. En eksponentielt voksende del af indholdet på internettet er ikke længere lavet af et menneske alene, men bliver genereret ved hjælp af AI. Undervisning er ved at blive transformeret fuldstændigt. Bag scenen glæder de store techvirksomheder sig over kontrakter med det amerikanske og israelske militær. Det er ikke virksomheder, man kan stole på, og langsomt, men sikkert vil de søge at erodere historien og tegne deres nye version, hvor de altid selv fremstår som helte, og alle, der er imod dem, er udraderet og glemt.
Læs også: Kunstig intelligens åbner vejen for indførelsen af Humanoide robotter i industriproduktion
Dette er en artikel fra KPnet. Se flere artikler og følg med på
KPNET.DK – NYHEDER HVOR DER KÆMPES – eller på FACEBOOK
Udgives af APK – Arbejderpartiet Kommunisterne
