Экзистенциальная, правовая и этическая проблемы искусственного интеллекта

Abstract

В статье рассматривается проблематика интегрирования искусственного интеллекта (далее - ИИ) в правовое и этическое поле, а также вопросы, связанные с экзистенциальным статусом данного феномена. Анализируются возможные вариации экзистенциальных, правовых и этических статусов ИИ, при этом принимаются во внимание особенности объекта исследования, в частности его потенциальное наличие как в слабой, так и сильной форме. Цель работы: моделирование основных специфик и проблемных моментов внедрения ИИ в сферы, в которых господствующим субъектом является человек. В исследовании предпочтение отдаётся сильной его форме, т. к. именно при наличии такой онтологической единицы возникает проблематика в области права, морали и существования (взаимоотношения человека и ИИ). Экзистенциальная проблема связана с возможностью присвоения ИИ определённого статуса: равного человеку, тождественного ему, стоящего выше/ниже человека и т. д. Правовой вопрос связан с экзистенциальным, поэтому некоторые спорные моменты (например, назначаемого статуса) пересекаются. Кроме того, актуальным является в данном проблемном поле юридическая легитимность самости ИИ, а также проистекающие из этого необходимые изменения законодательства. Этическая дилемма связана с вопросом о формировании и возможности морали у ИИ. Методика исследования: диалектический метод, который даёт возможность выявить и проанализировать противоречия, возникающие как внутри самого феномена ИИ, так и в рамках его гипотетического внедрения в социум и экзистенцию индивида; метод моделирования способствует формированию комплекса представлений о проблемных моментах и возможных кризисных ситуациях, которые могут быть вызваны интегрированием ИИ в социум, в частности в своей сильной форме; метод анализа и синтеза позволяет глубже проникнуть в суть проблемы, связанной с присвоением ему статуса онтологической (экзистенциальной) единицы; этический подход помогает проанализировать возможность создания «запрограммированной морали», вместе с психологическим подходом он предполагает формирование представлений о потенциальных сложностях взаимоотношения человека и ИИ, имеющего статус личности. Результаты: принципы комфорта и безопасности, а также принцип антропоморфной организации ИИ являются доминирующими (репрессивными); технологическая сингулярность, в частности инициированная появлением ИИ, имеет ряд требований для своей реализации (не только динамика, но и частота, глубина интеграции); массовость и страх нововведений как ингибитор становления научно-технического прогресса, в том числе появления сильного ИИ; инструментальный характер снимает необходимость рассмотрения отношения к ИИ как бытие-с другим. В аспекте сильного ИИ возникает проблема существования с другим-как-иным и вытекающая из этого невозможность тождества «другого» и «иного»; правовая проблематика представлена рядом спорных моментов: гражданство сильного ИИ, его социально-юридический статус, необходимость отдельных законодательных актов и т. д.; несостоятельность антропоморфного идеала/эталона для ИИ и концепции «запрограммированной морали».

This article discusses the problems of integrating artificial intelligence into the legal and ethical field, as well as issues related to the existential status of this phenomenon. The author analyzes possible variations in the existential, legal and ethical statuses of artificial intelligence, also relying on the features of the object of study, in particular on its potential presence, both in a weak and strong form. The purpose of the work is to model the main specifics and problematic aspects of the introduction of artificial intelligence in areas where person is a dominant subject. In the study, preference is given to a strong form of artificial intelligence, since it is in the presence of such an ontological unit that problems arise in the field of law, morality and existence (the relationship between a person and artificial intelligence). The existential problem is related to the possibility of assigning a certain status to artificial intelligence: equal to a person, identical to him, standing above/below a person, etc. Legal issues are related to the existential, so some problematic issues (for example, the assigned status) intersect. In addition, the legal legitimacy of the artificial intelligence self, as well as the necessary legislative changes resulting from this, is relevant in this problematic field. Ethical issues are related to the question of the formation and possibility of morality in artificial intelligence. Research methodology. In this work, the dialectical method is used. It allows you to identify and analyze the contradictions that arise both within the very phenomenon of artificial intelligence, and within the framework of its hypothetical introduction into society and the existence of an individual. The modeling method allows one to form a set of ideas about problematic moments and possible crisis situations that can be caused by the integration of artificial intelligence into society, in particular, in its strong form. The method of analysis and synthesis allows penetrating deeper into the essence of the problem associated with assigning the status of an ontological (existential) unit to artificial intelligence. The ethical approach allows us to analyze the possibility of creating a «programmed morality». Together with the psychological approach, it involves the formation of ideas about the potential complexities of the relationship between a person and artificial intelligence, which has the status of a person. Results. The principles of comfort and safety are dominant (repressive) in terms of the hypothetical creation of a strong artificial intelligence. At present, the principle of the anthropomorphic organization of artificial intelligence is dominant. Technological singularity, in particular also initiated by the advent of artificial intelligence, has a number of requirements for its implementation (not only dynamics, but also frequency and depth of integration). The phenomena of mass character and fear of innovation are an inhibitor of the formation of scientific and technological progress, including the emergence of a strong artificial intelligence. The instrumental nature eliminates the need to consider the relationship to artificial intelligence as being-with-other. In the aspect of strong artificial intelligence, the problem of existence with the other-as-other arises, and the impossibility of the identity of the «other» and «other» arising from this. Legal issues are represented by a number of controversial issues: the citizenship of a strong artificial intelligence, its social and legal status, the need for separate legislative acts, etc. The anthropomorphic ideal/standard is identified as ineffective for artificial intelligence and the concept of «programmed morality».