Jump to content

Մահացու ինքնակառավարվող զենք

Վիքիպեդիայից՝ ազատ հանրագիտարանից
MQ-1 հարձկվողը, զինված AGM-114 Hellfire հարվածային արկերով

Մահացու ինքնակառավարվող զենքը (այսուհետ՝ ՄԻԶ անգլ.՝ Lethal Autonomous Weapons կամ LAWs), արհեստական բանականությամբ օժտված ինքնակառավարվող ռազմատեխնիկայի տեսակ է, որը, նախապես ծրագրավորված լինելով, կարողանում է ինքնուրույն որսալ անհրաժեշտ թիրախներ՝ հիմնվելով դրանց առանձնահատկությունների և նկարագրի վրա[1]։ Հայտնի է նաև «մահացու ինքնավար զենքի համակարգ», «ինքնավար զենք», «ռոբոտային զենք» անուններով[2]։ 2018 թվականի դրությամբ, սույն զինատեսակի ինքնավարությունը սահմանափակվեց մարդու կողմից տրվող վերջնական հրահանգների կատարմամբ՝բացառությամբ որոշ «պաշտպանական» նպատակների։

Զենքի ինքնավարություն

[խմբագրել | խմբագրել կոդը]

«Ինքնակառավարում» կամ «ինքնավարություն» տերմինների բացատրությունները տարբերվում են՝ ըստ ոլորտի։ Ճարտարագիտության մեջ դրանք կարող են վերաբերել առանց մարդու միջամտության սարքի գործունեությանը,փիլիսոփայության մեջ՝ մարդու անկախ լինելուն, քաղաքականության մեջ՝ տարածաշրջանում տեղական ինքնակառավարման մարմնի առկայությանը։ Այնուամենայնիվ, ռազմարդյունաբերության մեջ «ինքնակառավարումը» չունի հստակ և միարժեք բացատրություն[1] ու կարող է տարբեր կերպով ընկալվել տարբեր պետությունների և կազմակերպությունների շրջանակներում։

«Մահացու ինքնավար զենք» եզրույթի համար գոյություն ունեն բազմաթիվ սահմանումներ։ Ամերիկյան Case Western Reserve University School of Law համալսարանի թղթակից Հեթըր Ռոֆը ինքնավար մահացու համակարգերը նկարագրում է որպես «զինված ռազմատեխնիկա, որոնք ընդունակ են ուսումնասիրել շրջապատը և իրենց վարքագիծը համաձայնեցնել միջավայրի փոփոխություններին»[3]։ Այս սահմանումը, համեմատած գիտնականներ Փիթր Ազարոյի և Մարկ Գուբրուդի առաջարկած սահմանումների հետ, ավելի բարձր շեմ է դնում սարքավորման՝ ինքնավար մահացու զենք որակվելու համար։ Վերջիններս ընդունում են, որ ցանկացած զինհամակարգ, որն ընդունակ է առանց մարդու միջամտության արձակել ռազմական նշանակության հարված,կարող է համարվել ՄԻԶ[4][5]։

Համաշխարհային կազմակերպությունները, թերևս, հակված են այս զինատեսակի բնույթի առավել նեղ սահմանմանը։ Օրինակ՝ Մեծ Բրիտանիայի ՊՆ-ն մահացու ինքնավար զենքի համակարգերը որակում է որպես «բարձր ճշտության նշանառություն պարունակող համակարգեր, որոնք իրենց շրջապատի ընկալունակության շնորհիվ կարող են որոշել խոցման ուղղությունը, գործողությունների կատարման ընթացքը և եղանակը՝ առանց մարդկային միջամտության»։ Նշվում է նաև, որ չնայած անօդաչուի գործունեությունը տեսանելի է, այնուհանդերձ, դրա որոշ գործողություններ կարող են մնալ աննկատ, քողարկված[6]։

Նման անհամաձայնություններից խուսափելու նպատակով, պետությունների միջև պայմանագրեր կնքվելիս առանձին սահմանում է տրվում «մահացու ինքնավար զենքի համակարգերի» համար[7]

Ինքնավար պաշտպանական համակարգեր

[խմբագրել | խմբագրել կոդը]

Ավտոմատ մեխանիզմով գործարկվող ամենահին համակարգերը մեզ հայտնի ականներն են (ցամաքային և ծովային) ,որոնք օգտագործվում են սկսած 1600-ական թվականներից։ 1997 թվականին կնքված Օտտավայի պայմանագրով շատ երկրներում (այդ թվին չեն դասվում ԱՄՆ-ը, ՌԴ-ն, Ասիայի և Միջին Արևելքի երկրների մեծ մասը) արգելվել է հակահետևակային ականների օգտագործումը։

Սերբական Land Rover Defender քարշակի կցորդը "Miloš" մարտական ռոբոտով:

Ժամանակակից ՄԻԶ-երը կարողանում են ավտոմատ ճանաչել և հարձակվել ռազմական նշանակության հրթիռների, օդանավերի, հրետանու և վերգետնյա այլ վտանգավոր օբյեկտների վրա՝ դրանց նկարագիրը համաձայնեցնելով մարդու կողմից նախապես սահմանված որոնելի չափորոշիչներով թիրախին։ Նման համակարգեր այժմ լայնորեն կիրառվում են ինչպես նավատորմերում, այնպես էլ ցամաքային ռազմատեխնիկայում (ռուսական «Arena», իսրայելական «Trophy» գերմանական «AMAP-ADS»): Հարավային Կորեայում և Իսրայելում նույնիսկ օգտագործվում են ստացիոնար պահակային զենքեր, որոնք, ըստ անհրաժեշտության, կարող են կրակ բացել մարդկանց և տրանսպորտային միջոցների վրա։ Հակաօդային պաշտպանության շատ համակարգեր ևս ունեն ինքնավար թիրախավորման հնարավորություններ։ Ռազմական փոխադրամիջոցների վրա այս նպատակով տեղադրված պտուտասարքերը կոչվում են հեռավար զենքի կայաններ։

ՄԻԶ-երի ղեկավարման օղակում մարդու ներգրավված չլինելու հիմնական պատճառն արագ արձագանքի անհրաժեշտությունն է, քանի որ դրանք օգտագործվում են անձնակազմի և ռազմական կայանների անվտանգությունն ապահովելու համար։

Ինքնավար հարձակվողական համակարգեր

[խմբագրել | խմբագրել կոդը]

Ինքնակառավարման առավել ընդարձակ հնարավորություններով են օժտված դրոններն ու ԱԹՍ-ները։ Օրինակ, «բրիտանական BAE Systems Taranis ծրագրով ղեկավարվող դրոնի նախատիպը կարող է հանգեցնել մի նոր զինտեխնիկայի ստեղծման, որը հնարավորություն կունենա փնտրել,ճանաչել և տեղայնացնել հակառակորդին, բայց ռազմական գործողություններ սկսել միայն դա անելու հրահանգավորում ունենալու դեպքում։ Այն կկարողանա նաև ինքնապաշտպանվել օդային հարվածից։

2014 թվականին ցուցադրված The Northrop Grumman X-47B անօդաչուն կարողանում է ինքնուրույն օդ բարձրանալ և վայրէջք կատարել ավիակիրների վրա. այն նախատեսվում է վերածել օդային բեռնակրով անօդաչու հսկիչ-հարվածային համակարգի (UCLASS system):

X-47B-ն Ատլանտյան օվկիանոսում փորձնական թռիչքի ժամանակ

Համաձայն բրիտանական «The economist» պարբերականի՝ աշխարհի տեխնոլոգիական զարգացումը կարող է ապագայում հանգեցնել ստորջրյա փոխադրամիջոցներում հակաականային և հակասուզանավային սոնարային համակարգերի գործարկմանը[8]։ Այդպիսի համակարգերը կհեշտացնեն ծովային պարեկության աշխատանքները՝ լինելով ավելի մատչելի հրթիռային կայաններ։

ԱՄՆ

[խմբագրել | խմբագրել կոդը]

Ամերիկյան բանակը մշակում է ինքնակառավարվող ռազմանավերի «ուրվականային» նավատորմեր[9]։

Իսրայել

[խմբագրել | խմբագրել կոդը]

2017 թվականին Իսրայելի Կապի նախարար Այուբ Կարան հայտարարել է, որ Իսրայելը ստեղծում է նոր ռազմական ռոբոտներ,որոնց շարքում կան նաև ճանճի չափ ունեցող սարքեր[10][11]։

Մեծ Բրիտանիա

[խմբագրել | խմբագրել կոդը]

Բրիտանական բանակը նոր ԱԹՍ-ներ և ռազմական ռոբոտներ գործարկել է 2019 թվականին[12]։

Չինաստան

[խմբագրել | խմբագրել կոդը]

2018 թվականիի հոկտեմբերի չինական Norinco ընկերության ավագ գործադիր տնօրեն Սան Ին իր ելույթում ասել է, որ ապագայի մարտադաշտերում այլևս մարդկանց ներկայություն չի լինի և որ ՄԻԶ-երի կիրառությունն անխուսափելի կլինի[13]։ Իսկ 2019 թվականին ԱՄՆ պաշտպանության նախարար Մարկ Էսպերը խստորեն քննադատել է Չինաստանին՝ առանց մարդկային վերահսկողության մահացու հարված հասցնող ԱԹՍ-ներ վաճառելու համար[14];

Ռուսաստան

[խմբագրել | խմբագրել կոդը]

2018 թվականին ամերիկյան միջուկային քաղաքականության վերանայման սիստեմը հայտարարել է, որ Ռուսաստանը մշակում է «նոր միջմայրցամաքային,միջուկային էներգիայով զինված թորպեդ»՝ «Status 6»[15] անունով։ 2020 թվականի դրությամբ ՌԴ-ն ակտիվորեն մշակում է[16] արհեստական բանականությամբ աշխատող նոր հրթիռներ[16], դրոններ[17], ԱԹՍ-ներ, ռազմական և բժշկական ռոբոտատեխնիկա[16][18][19][20]։

Էթիկական և իրավական խնդիրներ

[խմբագրել | խմբագրել կոդը]

Էթիկայի և միջազգային իրավական ակտերի խախտումներ

[խմբագրել | խմբագրել կոդը]

Կալիֆոռնիայի համալսարանի համակարգչային գիտությունների պրոֆեսոր Սթյուարթ Ռասսելը [21] կարծում է, որ ՄԻԶ-երի օգտագործումը դեմ է էթիկայի և հումանիզմի կանոններին այն իմաստով, որ տվյալ զինատեսակը դժվարությամբ է տարբերում զինվորական թիրախը՝ քաղաքացիականից[22]։

Իրենց մտահոգությունն են հայտնում նաև բազում այլ գիտնականներ, ըստ որոնց՝ տվյալ զինատեսակի կիրառումը խախտում է Միջազգային մարդասիրական իրավունքը, հատկապես՝ տարբերակման սկզբունքը, որը պահանջում է հստակ տարանջատել քաղաքացիական անձին՝ զինվորականից, և պատճառվելիք վնասի համաչափության սկզբունքը,որը պահանջում է, որ քաղաքացիական թիրախին հասցված հարվածը լինի համաչափ ռազմականին։ Այս մտահոգությունները երբեմն հիմք են հանդիսանում «մարդասպան ռոբոտներին» օրենքով արգելելու առաջարկին։ Այնուամենայնիվ, ՄԻԶ-երի շարքում կան ռոբոտներ, որոնք չեն խախտում Միջազգային մարդասիրական իրավունքի նորմերը[23][24]

Համարվում է, որ ՄԻԶ-երի օգտագործումը բարդացնում է սպանությունների պատասխանատուներին գտնելը[25],բայց գիտնականներ Թոմաս Սիմփսոնը և Վինսենթ Մյուլլերը պնդում են՝ այս կերպով ավելի հեշտ է հայտնաբերելը, թե որ հրահանգը ում կողմից է տրվել[26]։ Նմանապես, Սթիվեն Ամբրելլոն, Ֆիլ Տոռռեսը և Անգելո Ֆ. ԴեԲելլիսը պնդում են՝ եթե ՄԻԶ-երի տեխնիկական կարողությունները լինեն նույնքան հստակ,որքան զինվորական անձանցը, ապա ավելի ճիշտ կլինի միայն այս տեսակի ՄԻԶ-երի օգտագործումը՝ հաշվի առնելով մարտի դաշտում զինծառայողների հոգեբանական առանձնահատկություններն ու թուլությունները։ Ճիշտ նույն ձևով նրանք առաջարկում են այս զենքերի նախագծումը հարմարեցնել մարդկային արժեքների և Միջազգային մարդասիրական իրավունքի տրամաբանությանը[24]։

ՄԻԶ-երի օրինական արգելմանը ուղղված նախաձեռնություններ

[խմբագրել | խմբագրել կոդը]

Մարդասպան ինքնակառավարվող զենքի անսահման տեխնիկական հնարավորությունները դրանց արգելմանը ուղղված բազմաթիվ բանավեճերի առիթ են դարձել։ 2015 թ. հուլսիսին արհեստական բանականության ավելի քան 1000 փորձագետներ ստորագրել են մի նամակ, որը նախազգուշացնում է արհեստական բանականությամբ օժտված սպառազինությունների մրցակցություն առաջացնելու սպառնալիքի և ինքնավար զենքերն արգելելու անհրաժեշտության մասին։ Նամակը նեկայացվել է Բուենոս-Այրեսում՝ «Արհեստական բանականությանը նվիրված միջազգային 24-րդ համատեղ խորհրդաժողովի» (IJCAI-1) ժամանակ։ Այդ նամակը ստորագրել են նաև Սթիվեն Հոքինգը, Իլոն Մասկը,Սթիվ Վոզնյակը, Նոամ Քոմսկին, Յաան Տալլինը և այլք[27][28]։ Համաձայն PAX-ի, լիարժեք ինքնակառավարմամբ զենքերի օգտագործումը կնվազեցնի զինվորականների ներգրավվածությունը մարտերում և հասարակությունն ավելի հեռու կպահի պատերազմներից՝ քաղաքական և ռազմական գործիչներին պատերազմի ձևաչափը և ժամանակը որոշելու ավելի լայն հնարավորություններ տալով[29] : Նրանք զգուշացրել են նաև, որ այս զինատեսակի կիրառումը բարդացնելու է պատերազմների դեմոկրատական կառավարումը[30]։

Հռոմի Պապը բազմիցս կոչ է արել միջազգային հանրությանն արգելել ՄԻԶ-երի կիրառումը։ Սուրբ Աթոռը (Վատիկան քաղաք-պետություն) անհանգստացած է, որ այս զինհամակարգերը կարող են անդառնալիորեն փոխել պատերազմի բնույթը, ստեղծել անկախություն մարդուց և վտանգի տակ դնել հասարակության մեջ մարդկային արժեքների պահպանումը[31]։

2019 թվականի մարտի 29 դրությամբ, մի շարք պետություններ ՄԱԿ-ի ժողովի քննարկմանը հանձնեցին մարդասպան ինքնավար զենքի օգտագործումն արգելելու հարցը[32]։ Միայն որոշ երկրներ, այդ թվում՝ Իսրայելը,Ավստրալիան, Ռուսաստանը, Մեծ Բրիտանիան և ԱՄՆ-ը, ընդդիմացան արգելող բանաձևի ընդունմանը։

Ոչ թե արգելք, այլ կարգավորում

[խմբագրել | խմբագրել կոդը]

Այս կողմնակի կարգավորումը նպատակաուղղված է զենքի արգելման փոխարեն դրա կիրառման վերաբերյալ որոշ օրենքների սահմանմանը[33]։ Ռազմական արհեստական բանականությամբ ղեկավարվող զենքերի վերահսկումը, ամենայն հավանականությամբ, կպահանջի նոր միջազգային նորմերի ընդունում, որոնք կդրսևորվեն արդյունավետ տեխնիկական բնութագրերի,ակտիվ մոնիթորինգի և ոչ ֆորմալ դիվանագիտության միջոցով։ Վերջինս կիրականացվի փորձագետների համայնքի կողմից՝ իրավական ու քաղաքական ստուգումների գործընթացներով[34][35][36]։

Ծանոթագրություններ

[խմբագրել | խմբագրել կոդը]
  1. ↑ 1,0 1,1 Crootof, Rebecca (2015). «The Killer Robots Are Here: Legal and Policy Implications». 36 Cardozo L. Rev: 1837 – via heinonline.org.
  2. ↑ Johnson, Khari (2020 թ․ հունվարի 31). «Andrew Yang warns against 'slaughterbots' and urges global ban on autonomous weaponry». venturebeat.com. VentureBeat. Վերցված է 2020 թ․ հունվարի 31-ին.
  3. ↑ Roff, Heather (2015). «Lethal Autonomous Weapons and Jus Ad Bellum Proportionality».
  4. ↑ Asaro, Peter (2012). «On Banning Autonomous Weapon Systems: Human Rights, Automation, and the Dehumanization of Lethal Decision-Making». Red Cross. 687: 94.
  5. ↑ «Autonomy without Mystery: Where do you draw the line?». 1.0 Human (ամերիկյան անգլերեն). 2014 թ․ մայիսի 9. Արխիվացված է օրիգինալից 2018 թ․ նոյեմբերի 16-ին. Վերցված է 2018 թ․ հունիսի 8-ին.
  6. ↑ «Unmanned aircraft systems (JDP 0-30.2)». GOV.UK (անգլերեն). Վերցված է 2018 թ․ հունիսի 8-ին.
  7. ↑ «Taylor & Francis Group». www.taylorfrancis.com (անգլերեն). Վերցված է 2018 թ․ հունիսի 8-ին.
  8. ↑ «Getting to grips with military robotics». The Economist (անգլերեն). 2018 թ․ հունվարի 25. Վերցված է 2018 թ․ փետրվարի 7-ին.
  9. ↑ http://navyrecognition.com/index.php/news/defence-news/2019/march/6898-us-navy-plans-to-build-an-unmanned-ghost-fleet.html
  10. ↑ «Kara: I wasn't revealing state secrets about the robots - Jerusalem Post».
  11. ↑ «Mini-nukes and inspect bot weapons being primed for future warfare». 2017 թ․ մարտի 17.
  12. ↑ «British Army to operationally deploy new robots in 2019 | March 2019 Global Defense Security army news industry | Defense Security global news industry army 2019 | Archive News year».
  13. ↑ Allen, Gregory. «Understanding China's AI Strategy». Center for a New American Security. Center for a New American Security. Վերցված է 2019 թ․ մարտի 11-ին.
  14. ↑ «Is China exporting killer robots to Mideast?». Asia Times (անգլերեն). 2019 թ․ նոյեմբերի 28. Վերցված է 2019 թ․ դեկտեմբերի 21-ին.
  15. ↑ «US says Russia 'developing' undersea nuclear-armed torpedo». CNN. 2018. Վերցված է 2018 թ․ փետրվարի 7-ին.
  16. ↑ 16,0 16,1 16,2 «Russia is building a missile that can makes its own decisions». 2017 թ․ հուլիսի 20.
  17. ↑ «Russia's digital doomsday weapons: Robots prepare for war - Russia Beyond». 2017 թ․ մայիսի 31.
  18. ↑ «Rise of the Machines: A look at Russia's latest combat robots». 2017 թ․ հունիսի 6.
  19. ↑ «Is Terminator back? Russians make major advances in artificial intelligence». 2016 թ․ փետրվարի 10.
  20. ↑ «Virtual trainer for robots and drones developed in Russia». 2017 թ․ մայիսի 15. Արխիվացված է օրիգինալից 2017 թ․ հոկտեմբերի 11-ին. Վերցված է 2020 թ․ նոյեմբերի 4-ին.
  21. ↑ «Military robots are getting smaller and more capable».
  22. ↑ Russell, Stuart (2015 թ․ մայիսի 27). «Take a stand on AI weapons». International Weekly Journal of Science. 521.
  23. ↑ Müller, Vincent C. (2016). «Autonomous killer robots are probably good news». Ashgate. էջեր 67–81.
  24. ↑ 24,0 24,1 Umbrello, Steven; Torres, Phil; De Bellis, Angelo F. (2020 թ․ մարտի 1). «The future of war: could lethal autonomous weapons make conflict more ethical?». AI & Society (անգլերեն). 35 (1): 273–282. doi:10.1007/s00146-019-00879-x. hdl:2318/1699364. ISSN 1435-5655. S2CID 59606353.
  25. ↑ Nyagudi, Nyagudi Musandu (2016 թ․ դեկտեմբերի 9). «Doctor of Philosophy Thesis in Military Informatics (OpenPhD #openphd ) : Lethal Autonomy of Weapons is Designed and/or Recessive». Արխիվացված է օրիգինալից 2017 թ․ հունվարի 7-ին. Վերցված է 2017 թ․ հունվարի 6-ին.
  26. ↑ Simpson, Thomas W; Müller, Vincent C. (2016). «Just war and robots' killings». Philosophical Quarterly. 66 (263): 302–22. doi:10.1093/pq/pqv075.
  27. ↑ «Musk, Hawking Warn of Artificial Intelligence Weapons». WSJ Blogs - Digits. 2015 թ․ հուլիսի 27. Վերցված է 2015 թ․ հուլիսի 28-ին.
  28. ↑ Gibbs, Samuel (2015 թ․ հուլիսի 27). «Musk, Wozniak and Hawking urge ban on warfare AI and autonomous weapons». The Guardian. Վերցված է 2015 թ․ հուլիսի 28-ին.
  29. ↑ «Deadly Decisions - 8 objections to killer robots» (PDF). էջ 10. Վերցված է 2016 թ․ դեկտեմբերի 2-ին.
  30. ↑ «Front page». Ban Lethal Autonomous Weapons (ամերիկյան անգլերեն). 2017 թ․ նոյեմբերի 10. Վերցված է 2018 թ․ հունիսի 9-ին.
  31. ↑ «Holy See renews appeal to ban killer robots». Catholic News Agency (անգլերեն). Վերցված է 2018 թ․ նոյեմբերի 30-ին.
  32. ↑ Gayle, Damien (2019 թ․ մարտի 29). «UK, US and Russia among those opposing killer robot ban». the Guardian. Վերցված է 2019 թ․ մարտի 30-ին.
  33. ↑ Bento, Lucas (2017). «No Mere Deodands: Human Responsibilities in the Use of Violent Intelligent Systems Under Public International Law». Harvard Scholarship Depository. Վերցված է 2019 թ․ սեպտեմբերի 14-ին.
  34. ↑ Geist, Edward Moore (2016 թ․ օգոստոսի 15). «It's already too late to stop the AI arms race—We must manage it instead». Bulletin of the Atomic Scientists. 72 (5): 318–321. Bibcode:2016BuAtS..72e.318G. doi:10.1080/00963402.2016.1216672. ISSN 0096-3402. S2CID 151967826.
  35. ↑ Maas, Matthijs M. (2019 թ․ փետրվարի 6). «How viable is international arms control for military artificial intelligence? Three lessons from nuclear weapons». Contemporary Security Policy. 40 (3): 285–311. doi:10.1080/13523260.2019.1576464. ISSN 1352-3260. S2CID 159310223.
  36. ↑ Ekelhof, Merel (2019). «Moving Beyond Semantics on Autonomous Weapons: Meaningful Human Control in Operation». Global Policy (անգլերեն). 10 (3): 343–348. doi:10.1111/1758-5899.12665. ISSN 1758-5899.

Գրականություն

[խմբագրել | խմբագրել կոդը]
  • Heyns, Christof (2013), ‘Report of the Special Rapporteur on extrajudicial, summary or arbitrary executions’, UN General Assembly, Human Rights Council, 23 (3), A/HRC/23/47.
  • Krishnan, Armin (2009), Killer robots: Legality and ethicality of autonomous weapons (Aldershot: Ashgate)
  • Müller, Vincent C. (2016), ‘Autonomous killer robots are probably good news’, in Ezio Di Nucci and Filippo Santoni de Sio (eds.), Drones and responsibility: Legal, philosophical and socio-technical perspectives on the use of remotely controlled weapons, 67-81 (London: Ashgate).
  • Stuart Russell's campaign against LAWs
  • Sharkey, Noel E (2012), ‘Automating Warfare: lessons learned from the drones’, Journal of Law, Information & Science, 21 (2).
  • Simpson, Thomas W and Müller, Vincent C. (2016), ‘Just war and robots’ killings’, The Philosophical Quarterly 66 (263), 302–22.
  • Singer, Peter (2009), Wired for war: The robotics revolution and conflict in the 21st Century (New York: Penguin)
  • US Department of Defense (2012), ‘Directive 3000.09, Autonomy in weapon systems’. <2014 Killer Robots Policy Paper Final.docx>.
  • US Department of Defense (2013), ‘Unmanned Systems Integrated Road Map FY2013-2038’. <http://www.defense.gov/pubs/DOD-USRM-2013.pdf%3E(չաշխատող հղում).
  • The Ethics of Autonomous Weapons Systems (2014) Seminar at UPenn <https://www.law.upenn.edu/institutes/cerl/conferences/ethicsofweapons/schedule-required-readings.php Արխիվացված 2020-10-25 Wayback Machine>
Ստացված է «https://hy.wikipedia.org/w/index.php?title=Մահացու_ինքնակառավարվող_զենք&oldid=9523888» էջից