Інформаційна безпека використання штучного інтелекту органами виконавчої влади

Abstract

Стаття присвячена дослідженню проблем інформаційної безпеки використання технологій штучного інтелекту органами виконавчої влади України. Проаналізовано наукові підходи до оцінки можливостей і ризиків використання штучного інтелекту в діяльності публічної адміністрації, зокрема у сфері інформаційної безпеки, публічних закупівель та прийняття адміністративних рішень. Встановлено, що сучасні дослідження акцентують увагу як на позитивному потенціалі штучного інтелекту для підвищення ефективності управлінських процесів, так і на наявності значних ризиків, пов’язаних із захистом персональних даних, прозорістю алгоритмів, можливістю виникнення упередженості в даних, а також залежністю державних інституцій від технологічних компаній. Досліджено сучасний стан правового регулювання використання штучного інтелекту в Україні. Проаналізовано положення Концепції розвитку штучного інтелекту в Україні, плани заходів щодо її реалізації, а також окремі рекомендаційні документи у сфері безпечного використання штучного інтелекту. Встановлено наявність низки організаційно-правових прогалин, зокрема недостатню системність державної політики у сфері інформаційної безпеки застосування штучного інтелекту органами виконавчої влади, відсутність належного рівня правової регламентації діяльності публічних службовців при використанні відповідних інструментів, а також переважання рекомендаційних механізмів регулювання.Обґрунтовано авторське розуміння інформаційної безпеки використання штучного інтелекту органами виконавчої влади як комплексу правових, організаційно-управлінських, технічних, технологічних, економічних, соціально-психологічних та освітніх заходів, спрямованих на запобігання, виявлення та нейтралізацію ризиків і загроз, пов’язаних із застосуванням систем штучного інтелекту в процесі підготовки, прийняття та реалізації управлінських рішень. Доведено необхідність удосконалення правового регулювання використання штучного інтелекту в системі виконавчої влади шляхом деталізації правил роботи з відповідними технологіями, запровадження механізмів контролю достовірності інформації, а також встановлення обмежень щодо використання певних видів інформації. Зроблено висновок про доцільність прийняття спеціального закону про штучний інтелект, який би закріпив правові засади безпечного використання цих технологій у діяльності органів державної влади.

This article examines the issues of information security related to the use of artificial intelligence technologies by executive authorities of Ukraine. The study analyzes scholarly approaches to assessing the opportunities and risks associated with the use of artificial intelligence in public administration, particularly in the areas of information security, public procurement, and administrative decision-making. It has been established that contemporary research emphasizes both the positive potential of artificial intelligence in enhancing the efficiency of governance processes and the existence of significant risks associated with personal data protection, algorithmic transparency, the possibility of data bias, and the growing dependence of public institutions on technology companies. The current state of legal regulation governing the use of artificial intelligence in Ukraine is also examined. The provisions of the Concept for the Development of Artificial Intelligence in Ukraine, the action plans for its implementation, and several advisory documents concerning the safe use of artificial intelligence are analyzed. The study identifies a number of organizational and legal gaps, including the insufficient systemic nature of state policy in ensuring the information security of artificial intelligence use by executive authorities, the lack of an adequate level of legal regulation governing the activities of public servants when using such tools, and the predominance of advisory rather than binding regulatory mechanisms. The article substantiates the author’s understanding of the information security of artificial intelligence use by executive authorities as a set of legal, organizational and managerial, technical, technological, economic, socio-psychological, and educational measures aimed at preventing, detecting, and neutralizing risks and threats associated with the application of artificial intelligence systems in the preparation, adoption, and implementation of managerial decisions. The necessity of improving the legal regulation of artificial intelligence use within the system of executive authorities is demonstrated through the specification of rules for working with relevant technologies, the introduction of mechanisms for verifying the reliability of information, and the establishment of restrictions on the use of certain types of information. The article concludes that it is advisable to adopt a special law on artificial intelligence that would establish the legal framework for the safe use of these technologies in the activities of public authorities.