Право пацієнта на інформовану добровільну згоду при наданні психіатричної допомоги з використанням систем штучного інтелекту

Abstract

У статті розглянуто правові аспекти забезпечення права пацієнта на інформовану добровільну згоду при наданні психіатричної допомоги з використанням систем штучного інтелекту (далі - ШІ). Загалом використання ШІ відкриває нові можливості для діагностики та лікування психічних розладів, що має значний потенціал для підвищення ефективності психіатричної допомоги. Проте застосування цих технологій породжує низку ризиків для пацієнта, зокрема стосовно забезпечення автономії, прозорості алгоритмів ШІ та захисту персональних даних. Пацієнти з психічними розладами становлять особливо вразливу групу, яка потребує додаткових правових гарантій при прийнятті рішень щодо лікування, особливо з використанням інноваційних технологій.На основі аналізу існуючих технологій автори вказують на ряд ризиків, що пов’язані із застосуванням систем ШІ в психіатричній допомозі, серед яких: 1) порушення конфіденційності персональних даних; 2) ризики, пов’язані з рішеннями, прийнятими системами ШІ; 3) потенційна дискримінація за ознаками статі, раси, релігії чи інших характеристик; 4) зловживання у медичній практиці під час застосування ШІ; 5) ризики, зумовлені несправністю ШІ-систем; 6) інші потенційні небезпеки.Для зниження цих ризиків розглянуто засоби правового регулювання, зокрема через впровадження європейського законодавства, як-от Закону про штучний інтелект «AI Act», імплементації сертифікації та створення дієвих механізмів інформованої добровільної згоди на використання ШІ в психіатрії з урахуванням високих ризиків, які несе ця технологія. Автори констатують, що в законодавстві України наразі відсутні належні механізми інформованої згоди для використання ШІ в психіатричній допомозі.У статті запропоновано вдосконалення нормативних актів України шляхом розробки окремої форми згоди для використання систем ШІ при психіатричному огляді або лікуванні, яка допоможе уникнути правових ризиків, які несе за собою система ШІ. Така форма згоди передбачає детальне інформування пацієнта про те, які системи ШІ будуть використані, їх характер, мету, орієнтовну тривалість використання, також повідомлення про те, що зібрані та оброблені дані системою ШІ будуть захищені відповідно до законодавства про захист персональних даних, усне роз’яснення ризиків лікарем та можливостей вибору альтернативних методів лікування з урахуванням рекомендацій лікаря.У висновках наголошується важливість розвитку національного законодавства, яке б відпові-дало Концепції розвитку штучного інтелекту та міжнародним стандартам сертифікації. Це дозволить забезпечити права пацієнтів та сприятиме ефективному впровадженню ШІ у сферу психіатричної допомоги. The article examines the legal aspects of ensuring the patient’s right to informed voluntary consent in the provision of psychiatric care using artificial intelligence (AI) systems. Overall, the use of AI opens new possibilities for the diagnosis and treatment of mental disorders, offering significant potential to enhance the effectiveness of psychiatric care. However, the application of these technologies introduces various risks for patients, particularly concerning the protection of autonomy, the transparency of AI algorithms, and the security of personal data. Patients with mental disorders represent a particularly vulnerable group requiring additional legal guarantees in decision-making regarding treatment, especially when innovative technologies are involved.Based on an analysis of existing technologies, the authors identify a number of risks associated with the use of AI systems in psychiatric care, including: 1) violations of personal data confidentiality; 2) risks associated with decisions made by AI systems; 3) potential discrimination based on gender, race, religion, or other characteristics; 4) misuse in medical practice through the use of AI; 5) risks arising from malfunctions in AI systems; 6) other potential hazards.To mitigate these risks, the article considers legal regulatory measures, including the introduction of European legislation such as the AI Act, certification implementation, and the establishment of effective mechanisms for informed voluntary consent to AI use in psychiatry, given the high risks posed by this technology. The authors note that Ukrainian legislation currently lacks adequate mechanisms for obtaining informed consent in the use of AI for psychiatric care.The article proposes improvements to Ukrainian regulatory acts through the development of a separate consent form for the use of AI systems in psychiatric assessment or treatment, which would help to avoid the legal risks inherent in AI systems. Such a consent form would include detailed information for the patient about the specific AI systems to be used, their nature, purpose, and estimated duration of use. It would also inform the patient that the data collected and processed by the AI system would be protected according to data protection legislation, and it would include a verbal explanation of risks by the physician, as well as the options for choosing alternative treatment methods based on the doctor’s recommendations.The conclusions emphasize the importance of advancing national legislation to align with the AI Development Concept and international certification standards. This will ensure the protection of patients’ rights and foster the effective integration of AI in the field of psychiatric care.