FN-chefen vill stoppa vapen som väljer mål själva

FN:s generalsekreterare António Guterres och Internationella rödakorskommitténs ordförande Mirjana Spoljaric kräver att länder börjar förhandla om bindande internationella regler för autonoma vapensystem. Deras gemensamma uppmaning publicerades den 25 augusti.

Ett autonomt vapen är ett system som efter aktivering kan välja och angripa ett eller flera mål utan ytterligare mänsklig inblandning. Tekniken kan använda AI, men den avgörande frågan är vilken kontroll en människa har över valet av mål och användningen av våld.

ICRC vill förbjuda oförutsägbara autonoma vapen och system som är byggda eller används för att rikta våld direkt mot människor. Andra autonoma vapen bör enligt organisationen få strikta gränser för bland annat måltyp, plats, tid, antal angrepp och mänsklig möjlighet att ingripa.

Det finns ännu inget nytt bindande internationellt avtal med dessa regler. Krigets lagar gäller redan, men ICRC bedömer att de inte ger tillräckligt tydliga svar för alla autonoma vapensystem. FN:s nedrustningskontor beskriver samma huvudlinje: system utan mänsklig kontroll som inte kan följa internationell humanitär rätt bör förbjudas och övriga system regleras.

Frågan behandlas nu i en expertgrupp under konventionen om vissa konventionella vapen. Gruppens sista möte pågår den 31 augusti till 4 september. ICRC vill att underlaget går vidare till konventionens översynskonferens i november och blir grund för ett förhandlingsmandat 2027.

Sverige berörs både som stat och som utvecklare av militär teknik. Regeringen uppger att försvaret har utvecklat autonoma drönarsvärmar. Det betyder inte automatiskt att systemen själva väljer människor som mål, men det gör gränser för mänsklig kontroll, ansvar och användning konkreta även här.

Svenska myndigheters projekt för nya eller ändrade vapen och stridsmetoder ska granskas folkrättsligt av Vapenprojektdelegationen. Ett framtida internationellt avtal skulle kunna göra kraven mer specifika för autonoma funktioner.

Därför spelar det roll

När ett system får större frihet att välja mål kan ett fel upprepas snabbt och ansvaret bli svårare att följa. Bindande regler skulle påverka hur stater, försvar, leverantörer och utvecklare bygger, testar och godkänner militär AI, även i Sverige.

Det här kan du göra

1. Skilj mellan fjärrstyrda, automatiska och autonoma system när en militär AI-lösning bedöms.
2. Dokumentera vem som väljer mål, vem som godkänner våld och när en människa kan stoppa systemet.
3. Kräv tester av förutsägbarhet, geografiska och tidsmässiga gränser samt beteende när sensorer eller kommunikation fallerar.
4. Följ expertgruppens rapport i september och beslutet vid översynskonferensen i november innan en ny internationell regel beskrivs som antagen.