Автономні системи з ШІ у збройних конфліктах та правове забезпечення дотримання принципу розрізнення

Abstract

Стаття присвячена аналізу проблем дотримання принципу розрізнення міжнародного гуманітарного права при використанні автономних систем зі штучним інтелектом під час збройних конфліктів. Досліджено технічні обмеження сучасних автономних систем із ШІ трьох рівнів автономності (Human-in-the-Loop, Human-on-the-Loop, Human-out-of-the-Loop), включаючи безпілотні літальні апарати, «рої» дронів, автономні системи наведення, роботизовані бойові платформи тощо. Виявлено критичну проблему «семантичного розриву» між алгоритмічним розпізнаванням об’єктів та розумінням їх значення в контексті збройного конфлікту, що унеможливлює надійну ідентифікацію комбатантів у складних бойових умовах. Проаналізовано досвід застосування таких систем у сучасних збройних конфліктах, зокрема випадки атак на цивільні об’єкти. Встановлено правові прогалини в регулюванні використання автономних систем з ШІ, зокрема невизначеність механізмів встановлення відповідальності за порушення міжнародного гуманітарного права. Критично оцінено пропозиції наукової спільноти щодо повної заборони автономних систем із ШІ та обґрунтовано більш реалістичний підхід. Запропоновано трикомпонентну модель забезпечення дотримання принципу розрізнення при використанні автономних систем із ШІ: створення Міжнародної агенції з контролю автономних систем озброєння під егідою ООН/UNODA з детальною структурою та повноваженнями; розробку трирівневої процедури сертифікації систем з вимогою 99% точності розпізнавання; проект Конвенції про тимчасовий мораторій на повністю автономні системи з ШІ. Обґрунтовано необхідність збереження значущого контролю людиною над критичними функціями таких систем. Враховуючи ймовірну відсутність політичної волі провідних держав-розробників таких систем, запропоновано альтернативні механізми: Директиву ЄС, міжнародний стандарт ISO, керівництво МКЧХ, добровільний кодекс поведінки виробників. Розвинуто ідею створення спеціального правового режиму для миротворчих безпілотників з багаторівневою системою захисту через візуальні, електронні та програмні ідентифікатори. The article is devoted to the analysis of compliance issues with the principle of distinction of international humanitarian law when using autonomous systems with artificial intelligence during armed conflicts. The study examines technical limitations of contemporary autonomous AI systems across three levels of autonomy (Human-in-the-Loop, Human-on-the-Loop, Human-out-of-the-Loop), including unmanned aerial vehicles, drone swarms, autonomous targeting systems, robotic combat platforms, and others. The research identifies the critical problem of the «semantic gap» between algorithmic object recognition and understanding their significance within the context of armed conflict, which precludes reliable identification of combatants in complex combat conditions. The experience of deploying such systems in contemporary armed conflicts has been analyzed, including cases of attacks on civilian objects. Legal lacunae in the regulation of autonomous AI systems deployment have been established, particularly the uncertainty of mechanisms for establishing accountability for violations of international humanitarian law. Proposals from the scientific community concerning a complete prohibition of autonomous AI systems have been critically assessed, and a more realistic approach has been substantiated. A three-component model for ensuring compliance with the principle of distinction when employing autonomous AI systems is proposed: establishing an International Agency for the Control of Autonomous Weapon Systems under the auspices of UN/UNODA with detailed structure and competencies; developing a three-tier certification procedure for systems with a requirement of 99% recognition accuracy; drafting a Convention on a temporary moratorium on fully autonomous AI systems. The necessity of maintaining meaningful human control over critical functions of such systems has been substantiated. Considering the probable absence of political will among leading states developing such systems, alternative mechanisms have been proposed: an EU Directive, international ISO standard, ICRC guidelines, and a voluntary code of conduct for manufacturers. The concept of establishing a special legal regime for peacekeeping unmanned aerial vehicles with a multi-level protection system through visual, electronic, and software identifiers has been developed.