Forbud mod offensive Autonome Våben Et åbent brev fra forskere i kunstig intelligens (AI) og robotteknologi

Udviklingen af fuldt autonome våbensystemer er teknisk mulig inden for få år. Det har fået en række forskere indenfor kunstig intelligens og robotteknologi til at skrive et åbent brev hvor de opfordrer til forbud mod offensive autonome våben i stil med dem der findes for atomare, biologiske og kemiske.

Dette åbne brev blev offentliggjort den 28. juli på websiden Future of Life. Blandt underskriverne er en hel stribe internationalt kendte videnskabsfolk på området. Det rummer også en opfordring til andre forskere om at underskrive det. Her følger en oversættelse af centrale passager

Autonome våben udvælger og rammer mål uden menneskelig indgriben. Det kan for eksempel være armerede quadcoptere (droner), som  kan opspore og eliminere mennesker ifølge bestemte foruddefinerede kriterier, men de omfatter ikke krydsermissiler og fjernstyrede droner, for hvilke det er mennesker, som træffer alle beslutninger om indsættelse og mål.

Teknologien for kunstig intelligens (AI-teknologi) har nået et punkt, hvor anvendelsen af sådanne systemer  er mulige – i praksis, om ikke juridisk – i løbet af ganske få år og ikke årtier. Og risikoen er meget stor: Autonome våbensystemer er beskrevet som den tredje revolution i krigsteknikken – efter krudtet og atomvåbnene.

(…)

Som de fleste kemikere og biologer ikke har interesse i at udvikle kemiske og biologiske våben, har de fleste forskere inden for kunstig intelligens ingen interesse i at bygge AI-våben – og ønsker ikke at tilsmudse deres videnskab ved at gøre dette, og dermed potentielt også skabe en voldsom offentlig reaktion imod Kunstig Intelligens (AI), som vil begrænse dens fremtidige sociale nyttevirkninger.

Kemikere og biologer har bredt støttet internationale aftaler, som med held har forbudt kemiske og biologiske våben. ligesom de fleste fysikere har støttet traktater, som har forbudt rumbaserede atomvåben og blindende laservåben.

(…)

Som konklusion er vi af den opfattelse, at AI har et på mange måder stort gavnligt potentiale for menneskeheden, og hele målet med forskningsområdet skulle være dette.

At indlede et militært AI-våbenkapløb er en dårlig ide, og bør forhindredes ved et forbud mod offensive autonome våben uden for afgørende menneskelig kontrol

Læs hele det åbne brev her

Autonomous Weapons: an Open Letter from AI & Robotics Researchers

Netavisen 29. juli 2015