Обмеження свободи штучного інтелекту та окремі ініціативи Інституту майбутнього життя

Abstract

Дискусії щодо свободи штучного інтелекту пов’язані з існуванням різних позицій з приводу того, що важливіше – технологічний прогрес чи традиційно важливі суспільні цінності, охорону яких забезпечує право. Пошук балансу між ними сприяє вирішенню проблеми управління штучним інтелектом, яка набула особливої актуальності за останні 2-3 роки з появою генеративного штучного інтелекту. У цій статті зроблена спроба визначити передумови та напрями обмеження штучного інтелекту, які повинні бути врахованими при виробленні та реалізації державної політики у сфері штучного інтелекту. Для того, щоб показати межу, за перетину якої обмеження ймовірно стануть над-мірними, автори досліджують ініціативи Інституту майбутнього життя – однієї з найбільш авторитетних у світі некомерційних організацій, діяльність яких має відношення до новітніх технологій. Порушені у відкритих листах, які складені, оприлюднені та представлені для підписання Інститутом майбутнього життя, проблеми дозволяють виокремити головні обмеження для штучного інтелекту, зокрема: призупинення навчання ультрасучасних систем штучного інтелекту, більш потужних за GPT-4; формування правил у вигляді окремого зведення принципів, наприклад, розроблених Інститутом майбутнього життя Асиломарських принципів штучного інтелекту; недопустимість автономної зброї, здатної уражати без людського нагляду тощо. Крім того, у відкритих листах наголошена необхідність поглибленого вивчення штучного інтелекту як явища. Окрема увага приділена майже невідомому в українській науці Інституту майбутнього життя, заснованому приблизно десять років тому для того, щоб використання сучасних технологій було ефективним та збалансованим. Результати дослідження містять інтелектуальну карту, яка може стати цінною для кращого розуміння реальних та потенційних небезпек, зумовлених свободою штучного інтелекту та необмеженим технологічним прогресом. Крім того, автори підготували лінію часу, де систематизовані відкриті листи Інституту майбутнього життя, які стосуються штучного інтелекту та були оприлюднені за останні десять років. Discussions about the freedom of artificial intelligence revolve around differing views on the importance of technological progress versus traditional social values protected by the law. Striking a balance between these two aspects is crucial for addressing the challenges of artificial intelligence governance. This issue has become increasingly relevant over the past two to three years, particularly with the rise of generative artificial intelligence. This article aims to define the preconditions and limitations of artificial intelligence that should underlie a state policy in this area. To illustrate the point at which restrictions may become excessive, the authors examine the initiatives of the Future of Life Institute, a respected non-profit organization focused on cutting-edge technologies. The open letters compiled, published, and circulated for signatures by this organization highlight key restrictions on artificial intelligence. These include: a suspension of the training of advanced AI systems more powerful than GPT-4, the establishment of a distinct set of guidelines, e.g. the Asilomar Principles for Artificial Intelligence, and a prohibition on lethal autonomous weapons (LAWS) that can strike without human supervision. Additionally, the open letters emphasize the necessity of conducting in-depth studies on artificial intelligence as a phenomenon. Special focus is given to the Future of Life Institute, which is relatively unknown in Ukrainian academic circles. Founded about a decade ago, it seeks to ensure that modern technologies are utilized in an effective and balanced manner. The study’s results offer a valuable framework for understanding both the real and potential dangers associated with the freedom of artificial intelligence and unrestricted technological advancement. This highlights the seriousness of the issue covered in this article. In addition, the authors have prepared a timeline designed for the systematization of the open letters of the Future of Life Institute related to artificial intelligence that have been published over the past ten years.