VU Research Portal
The Distributed Conduct of War
Ekelhof, M.A.C.
2019
document version
Publisher's PDF, also known as Version of record
Link to publication in VU Research Portal
citation for published version (APA)
Ekelhof, M. A. C. (2019). The Distributed Conduct of War: Reframing Debates on Autonomous Weapons, Human Control and Legal Compliance in Targeting.
General rights
Copyright and moral rights for the publications made accessible in the public portal are retained by the authors and/or other copyright owners and it is a condition of accessing publications that users recognise and abide by the legal requirements associated with these rights. • Users may download and print one copy of any publication from the public portal for the purpose of private study or research. • You may not further distribute the material or use it for any profit-making activity or commercial gain
• You may freely distribute the URL identifying the publication in the public portal ?
Take down policy
If you believe that this document breaches copyright please contact us providing details, and we will remove access to the work immediately and investigate your claim.
E-mail address:
vuresearchportal.ub@vu.nl
ABSTRACT
In de afgelopen jaren hebben de ontwikkeling en het gebruik van intelligente en autonome technologieën voor oorlogvoering geleid tot bezorgdheid over het verlies van menselijke controle. Met name de ontwikkeling van zogenaamde ‘autonome wapens’ heeft tot verhitte debatten geleid, specifiek in de context van de VN CCW. Te midden van deze activiteit begint een grote verscheidenheid aan beelden van de toekomst van intelligente en autonome technologieën in beeld te komen. Eén bijzonder prominente perceptie is die van een bewapende machine die individuen aanvalt zonder de mogelijkheid tot menselijk ingrijpen. Desondanks lijken de aanhoudende ontwikkelingen en toepassingen op het gebied van militaire kunstmatige intelligentie (Artificial Intelligence, AI) meer op algoritmen die achter systemen draaien en de besluitvormer ondersteuning bieden, zoals het type algoritmen dat aanbevelingen produceert over waar potentiële doelwitten zich bevinden, op basis waarvan mensen vervolgens beslissingen nemen. Krijgsmachten gebruiken nu al geavanceerde algoritmen om grote hoeveelheden data te verwerken, betekenis te interpreteren, patronen te herkennen, en personen of objecten te identificeren. Zelfs zonder bewapening hebben deze technologieën wel degelijk invloed op cruciale targetingbesluiten, waarschijnlijk in grotere mate dan sommigen beseffen of zouden waarderen. Desondanks worden ze amper in beschouwing genomen bij debatten over ‘betekenisvolle menselijke controle’ en ‘autonome wapens’. Deze dissertatie toont aan dat het nodig is om voorbij ‘autonome wapens’ te kijken, door de relatie tussen mensen en technologieën te bestuderen in relatie tot de toepassing van het humanitair oorlogsrecht in hedendaagse targetingpraktijken. Het doel van dit proefschrift is om het huidige (juridisch-politieke) discours over autonome wapens te veranderen door de aandacht te verleggen van (1) autonome wapens naar een breder scala aan intelligente en autonome technologieën die (naar verwachting) relevant zijn voor targeting, (2) menselijke controle over de uiteindelijke beslissing om geweld te gebruiken naar menselijke controle in het targetingproces als geheel, en (3) van de afzonderlijke rechtsregels omtrent targeting naar de implementatie en vertaling van die regels in de operationele praktijk. Een van de voornaamste bevindingen van dit onderzoek is dat zowel de risico's als de voordelen van het gebruik van AI voor targeting niet—of tenminste niet hoofdzakelijk—liggen in bewapening of geweldstoepassing, maar eerder in de integratie van deze technologie in het hele targetingproces en, voornamelijk, in de momenten vóór wapeninzet of geweldstoepassing. De hoofdvragen die in deze dissertatie worden behandeld, gaan daarom niet hoofdzakelijk over de autonome toepassing van geweld door wapens. In plaats daarvan beargumenteer ik dat we ons moeten afvragen: zelfs al ligt de uiteindelijke beslissing om geweld te gebruiken tegen een target bij menselijke besluitvormers, welke factoren moeten we overwegen om te garanderen dat menselijke betrokkenheid bij hedendaagse targetingpraktijken ‘betekenisvol’ is?
