Використання штучного інтелекту в судових та правоохоронних системах: етичні чинники, світовий досвід

Abstract

У статті розглядається світовий досвід використання штучного інтелекту у судовій та правоохоронній діяльності, наявні проблеми, шляхи вирішення етичних та правових проблем. Порівнюються підходи до регулювання та використання штучного інтелекту у США, ЄС та Китаї, оцінюються переваги та недоліки кожної системи. Американська система регулювання на цей час є найбільш ліберальною та децентралізованою. Тільки нещодавно була прийнята резолюція Американської асоціації юристів з рекомендаціями щодо використання штучного інтелекту у юридичній та судовій діяльності, однак на федеральному рівні регуляції досі не має. При цьому у США працюють досить багато систем штучного інтелекту у судовій та правоохоронній сферах, але їх використання наразі піддається критиці з боку громадськості та правозахисників. Китайська модель – найбільше залежить від держави, але має певні переваги: велике фінансування, майже необмежений доступ до різноманітних даних, у тому числі й про громадян, працює з 2017 року система суду з використанням штучного інтелекту, у якому вже розглянуто десят ки тисяч справ. Європейська модель регулювання після розгляду вбачається найбільш збалансованою. У ній втілюються добре розро блені етичні принципи для систем штучного інтелекту у судових системах, повага до прав людини, передбачення можливих негативних наслідків від використання штучного інтелекту. Ключовим принципом можна визнати принцип контролю з боку користувача – користувачі повинні володіти правом вибору і необхідною інформацією. Досліджені також фінансові показники витрат на програми штучного інтелекту у Сполучених Штатах Америки та Китаї. Визначені чинники майже одночасної появи національних та міжнародних етичних підходів та стандартів у галузі штучного інтелекту взагалі та у судовій та правоохоронній діяльності зокрема. Проаналізовано кілька важливих міжнародних та національних документів, що належать до сфери регулювання штучного інтелекту. Розглянуто декілька прикладів неетичної поведінки систем штучного інтелекту у правоохоронній та судовій діяльності. Наведено приклади упередженості систем штучного інтелекту, ризики використання таких систем у судовій та правоохоронній діяльності. The article examines the world experience of using artificial intelligence in judicial and law enforcement activities, existing problems, ways of solving ethical and legal obstacles. Compared approaches to the regulation and use of artificial intelligence in the US, EU, and China, and the advantages and disadvantages of each system are evaluated. The US regulatory system is currently the most liberal and decentralized. A resolution of the American Bar Association adopted with recommendations on the use of artificial intelligence in a legal and judicial activity. However, there are quite a few artificial intelligence systems in the US in the judiciary and law enforcement, but their use is currently being criticized by the public and human rights defenders. The Chinese model is most state-dependent, but it has some advantages: high funding, almost unlimited access to a variety of data, including personal data of citizens, an existing artificial intelligence court system that has been in place since 2017 and has already reviewed tens of thousands of cases. The European model of regulation is the most balanced. It embodies well-developed ethical principles for artificial intelligence systems in the judiciary, respect for human rights, and anticipation of possible negative consequences for the use of artificial intelligence. The key principle is to recognize the principle of control by the user – users must have the right to choose and the necessary information. Have been investigated the costs of artificial intelligence programs in the United States and China. Identified factors of almost simultaneous emergence of national and international ethical approaches and standards in the field of artificial intelligence in general and in judicial and law enforcement activities. Was analyzed several important international and national documents related to the field of artificial intelligence regulation. Several examples of non-ethical behavior of artificial intelligence systems in law enforcement and judicial activity are discussed. Examples are given of biased artificial intelligence systems and the risks of using such systems in judicial and law enforcement activities.