Контроль дотримання норм міжнародного гуманітарного права при використанні зброї керованої штучним інтелектом

Abstract

Намагання держав регулювати розвиток технологій стають унікальною проблемою, коли йдеться про штучний інтелект (далі – ШІ). Неможливо спрогнозувати усі можливі наслідки від його застосування у військовій сфері, зробивши вибір на користь його переваг. Світ усвідомив факт, що використанням зброї керованої ШІ потребує не тільки правового врегулювання, а й контролю дотримання міжнародно-правових норм, перегляду методів ведення війни відповідно до нової реальності. Визначення того, що являє собою “зброя зі штучним інтелектом”, власне“штучний інтелект”, їх правовий статус – залишаються відкритими для інтерпретації у технічному, військовому та правничому середовищах. У статті проаналізовано окремі питання врегулювання розробки, поширення та застосування зброї зі штучним інтелектом (далі – ЗШІ). Наголошено, що хоча системи з ШІ є принципово новим способом ведення війни, контроль за їх використанням і накладання обмежень не становлять абсолютно нової задачі для міжнародного гуманітарного права (далі – МГП). Воно і нині базується на сталих принципах, що використовувалися для регулювання існуючих типів зброї і повинні розповсюджуватися на використання ЗШІ: принцип розрізнення цілей, принцип пропорційності, принцип уживання заходів обережності під час атаки. Водночас ШІ має низку характеристик, які ускладнюють контроль над ним. Будучи технологією загального призначення, ШІ має безліч невійськових і оборонних застосувань. На відміну від військових технологій, він розробляється переважно в цивільному секторі. І хоча широке поширення ШІ ставить під питання повну заборону його військового застосування, міжнародне співтовариство має спільно працювати над регулюванням або забороною певних видів використання військового ШІ.Оптимальним вирішенням проблеми може стати прийняття відповідного міжнародного кодифікованого нормативного акту, що визначав би поняття, регулював створення, застосування автономних систем ЗШІ, а також містив механізми контролю та відповідальності за порушення цих норм.

Efforts by states to regulate the development of technology become a unique problem when it comes to artificial intelligence (AI). It is impossible to predict all possible consequences of its use in the military sphere, making a choice in favor of its advantages. The world has realized the fact that the use of weapons controlled by AI requires not only legal regulation, but also control of compliance with international legal norms, revision of methods of warfare in accordance with the new reality. The definition of what constitutes an “weapon with artificial intelligence”, “artificial intelligence” itself, and their legal status – remain open to interpretation in technical, military and legal circles.The article analyzes separate issues of regulating the development, distribution and use of weapons with artificial intelligence (hereinafter – AI). It is emphasized that although AI systems are a fundamentally new way of waging war, controlling their use and imposing restrictions does not constitute a completely new task for international humanitarian law (hereinafter – IHL). It is still based on the established principles that were used to regulate existing types of weapons and should be extended to the use of anti-aircraft weapons: the principle of distinguishing targets, the principle of proportionality, the principle of using precautionary measures during an attack.At the same time, AI has a number of characteristics that make it difficult to control. As a general-purpose technology, AI has many non-military and defense applications. Unlike military technology, it is developed primarily in the civilian sector. And although the widespread use of AI calls into question a complete ban on its military use, the international community should work together to regulate or ban certain types of military AI use.The optimal solution to the problem could be the adoption of a corresponding international codified act, which would define the concept, regulate the creation and application of autonomous systems of the ZHI, as well as contain mechanisms of control and responsibility for violations of these norms.