ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ И ЭТИЧЕСКИЕ НОРМЫ

THE VI INTERNATIONAL SCIENTIFIC CONFERENCE “SCIENTIFIC FOUNDATIONS FOR THE USE OF INFORMATION TECHNOLOGIES OF A NEW LEVEL AND MODERN PROBLEMS OF AUTOMATION”, NOVEMBER 20, 2025 350 ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ И ЭТИЧЕСКИЕ НОРМЫ 1Байжанова Н.А. 2Халилова Ш., 3Абдуллаева Зарина 1,2преподаватель кафедры «Интеллектуальные системы», СБУМИПТК 3студентка группы 8-22 КМ, СБУМИПТК https://doi.org/10.5281/zenodo.17768173 Аннотация. Этические нормы и закон неразрывно связаны в современном обществе. Многие юридически значимые решения принимаются под воздействием различных этических правил. Искусственный интеллект (ИИ) трансформирует названные проблемы в новое измерение. Системы, в которых применяется искусственный интеллект, становятся все автономнее по уровню сложности задач, осуществляемых ими, их возможного влияния на внешнюю среду. При этом уменьшается способность человека понимать, предсказывать и держать под контролем их деятельность. Как правило, люди недооценивают истинный уровень самостоятельности таких систем. Необходимо отметить, что машины, в основе функционирования которых лежит искусственный интеллект, могут обучаться на своем опыте и производить действия, не предусмотренные их разработчиками. Это порождает определенные этические и юридические трудности, которые будут рассмотрены в статье. Ключевые слова: искусственный интеллект, этика, мораль, право, цифровизация, интернет, электронное государство, научно-технический прогресс, информационнокоммуникационные технологии, интеллект Abstract. Ethical norms and law are inextricably linked in modern society. Many legally significant decisions are made under the influence of various ethical rules. Artificial intelligence (AI) transforms these problems into a new dimension. Systems that utilize AI are becoming increasingly autonomous in the complexity of the tasks they perform and their potential impact on the external environment. At the same time, the human ability to understand, predict, and control their activities is diminishing. People tend to underestimate the true level of autonomy of such systems. It should be noted that machines based on artificial intelligence can learn from experience and perform actions not intended by their developers. This gives rise to certain ethical and legal difficulties, which will be discussed in this article. Keywords: artificial intelligence, ethics, morality, law, digitalization, internet, egovernment, scientific and technological progress, information and communication technologies, intelligence Искусственный интеллект или ИИ, Искусственный разум (англ. artificial intelligence; AI) в самом широком смысле — это комплекс инструментов, позволяющих решать задачи уровня человеческого интеллекта (такие как восприятие, обучение ,рассуждение, решение проблем и принятие решений и реализованных машинами, в частности компьютерными системами. Это область исследований в области компьютерных наук, которая разрабатывает и изучает методы и программное обеспечение, позволяющие машинам воспринимать окружающую среду и использовать обучение и интеллект для выполнения действий, которые максимально увеличивают их шансы на достижение поставленных целей. Такие машины можно назвать искусственным интеллектом. В связи со спецификой искусственного интеллекта были выдвинуты предложения THE VI INTERNATIONAL SCIENTIFIC CONFERENCE “SCIENTIFIC FOUNDATIONS FOR THE USE OF INFORMATION TECHNOLOGIES OF A NEW LEVEL AND MODERN PROBLEMS OF AUTOMATION”, NOVEMBER 20, 2025 351 относительно прямой ответственности определенных систем. Исходя из этой логики, нет никаких фундаментальных причин, по которым автономные системы не должны нести юридическую ответственность за свои действия. Однако остается открытым вопрос о необходимости или желательности введения такого рода ответственности (по крайней мере, на современном этапе). Это обусловлено, среди прочего, перечисленными этическими проблемами. Возможно, было бы более эффективным возложить ответственность на программистов или пользователей автономных систем за действия этих систем. Но это может замедлить инновации. Вот почему нам нужно продолжать искать идеальный баланс. В психологии существует мыслительный эксперимент, известный как «проблема тележки». Он освещает ряд важных этических вопросов, имеющих прямое отношение к искусственному интеллекту. Представьте, что по рельсам мчится трамвай, к которым привязано пять человек. Вы стоите рядом с рычагом, который поворачивает переключатель, и тележка будет перенаправлена на другой путь, где к ним привязан один человек. Вы тянете за рычаг? Однозначного ответа на вопрос нет. Более того, существует множество вариантов ситуации, когда необходимо принять такое решение. И разные социальные группы склонны давать разные ответы. Что касается искусственного интеллекта, такая ситуация может возникнуть, например, с беспилотными автомобилями, когда авария на дороге неизбежна. Таким образом, возникает вопрос, чьи жизни должны иметь приоритет - жизни пассажиров, пешеходов или ни одного из них. Массачусетский технологический институт (MIT) даже запустил специальный веб-сайт, посвященный проблеме, где пользователи могут попробовать различные сценарии и выбрать, что делать в конкретной ситуации. Примеров использования искусственного интеллекта для принятия юридически значимых решений множество. Возьмем, к примеру, систему социального кредитования Китая, которая оценивает каждого гражданина в зависимости от того, насколько он законопослушен и полезен для общества, и т.д. Те, у кого низкий рейтинг, будут подвергнуты санкциям. И ничего не помешает китайскому правительству принять закон, который заставляет производителей беспилотных транспортных средств жертвовать жизнями граждан с более низким рейтингом в случае неизбежной аварии. Технологии распознавания лиц и доступ к соответствующим базам данных позволят определять и сравнивать рейтинги потенциальных жертв. Юридические затруднения еще серьезнее, особенно когда речь идет о роботах. Система, которая обучена на основе данных, поступающих из внешней действительности, может функционировать своим особым образом, который ее разработчики не смогли предугадать, и прогнозируемости отводится основная роль в современных правовых подходах. Следует также подчеркнуть, что подобные системы могут функционировать автономно от своих разработчиков и операторов. Это делает вопрос установления ответственности весьма непростым и актуальным. Данные свойства формируют проблемы в сфере предсказуемости и способности функционировать автономно, при этом не подвергаясь юридической ответственностью. Рассматриваемые проблемы могут регламентироваться разными методами - в частности, используя имеющиеся правовые нормы. К примеру, технологии, основанные на искусственном интеллекте, можно считать объектами авторских прав либо THE VI INTERNATIONAL SCIENTIFIC CONFERENCE “SCIENTIFIC FOUNDATIONS FOR THE USE OF INFORMATION TECHNOLOGIES OF A NEW LEVEL AND MODERN PROBLEMS OF AUTOMATION”, NOVEMBER 20, 2025 352 собственностью. Но здесь опять возникают трудности, тем более если учесть способность этих технологий к самостоятельному функционированию, вразрез с желаниями их владельцев, разработчиков или собственников. Принимая это во внимание, в отношении систем, в основе функционирования которых лежит искусственный интеллект, могут быть применены нормы, регламентирующие особые разновидности собственности. Также многие исследователи предлагают применять положения, касающиеся юридических лиц, в отношении систем искусственного интеллекта. Так как юридическое лицо представляет собой искусственно сформированный субъект закона, роботы также могут быть наделены этим статусом. В настоящее время можно привести много примеров весьма оригинальных объектов, наделенных статусом юридического лица. Это относится как к развитым, так и к развивающимся государствам. В качестве примера можно привести Новую Зеландию. Здесь в 2017 г. власти приняли весьма необычный закон. Он закреплял за рекой Уонгануи статус юридического лица. В соответствии с принятым документом, река -это юридическое лицо. В этом статусе она наделяется всеми соответствующими обязанностями, полномочиями и правами. То есть законодатель сделал так, что река перестала быть собственностью. Таким образом, расширилось осознание того, что можно и что нельзя рассматривать как собственность. Однако аналогия с юридическими лицами проблематична, поскольку понятие юридического лица необходимо для эффективного отправления правосудия. Но действия юридических лиц всегда связаны с действиями одного человека или группы людей, даже если невозможно точно определить, кто они. Другими словами, юридическая ответственность компаний и иных организаций связана с действиями, совершенными их представителями или сотрудниками. Более того, юридические лица подлежат уголовной ответственности только в том случае, если установлено, что лицо, совершившее противоправное действие, действовало от имени юридического лица. Действия же систем, работающих на основе искусственного интеллекта, не обязательно будут напрямую связаны с действиями отдельного человека. В контексте рассматриваемой темы заслуживают особого внимания два недавних примера: Франция объявила о своих амбициях стать европейским и мировым лидером в области искусственного интеллекта; Европейский Союз, который предложил расширенные правила регулирования умных роботов. Есть семь ключевых предложений, одно из которых особенно интересно в рамках настоящего исследования, а именно: сделать искусственный интеллект более открытым. Разумеется, алгоритмы в большинстве своем являются собственностью и во многих случаях являются коммерческой тайной. Однако алгоритмы могут быть предвзятыми и субъективными. Например, в процессе самообучения они могут усвоить и принять стереотипы, существующие в обществе или переданные им разработчиками, и принимать решения на их основе. По этому поводу уже есть юридический прецедент. В США обвиняемый был приговорен к длительному тюремному заключению на основании информации, полученной с помощью алгоритма, прогнозирующего вероятность повторных правонарушений. Апелляционная жалоба ответчика на использование алгоритма в процессе вынесения приговора была отклонена, поскольку критерии, использованные для оценки возможности повторения правонарушений, являлись коммерческой тайной и поэтому не были представлены Резолюция Европейского парламента, принятая в 2017 г., закрепляющая THE VI INTERNATIONAL SCIENTIFIC CONFERENCE “SCIENTIFIC FOUNDATIONS FOR THE USE OF INFORMATION TECHNOLOGIES OF A NEW LEVEL AND MODERN PROBLEMS OF AUTOMATION”, NOVEMBER 20, 2025 353 гражданско-правовые нормы по робототехнике-это первый документ, регулирующий искусственный интеллект. Рабочую группу по решению правовых вопросов в сфере становления и развития робототехники и искусственного интеллекта в Евросоюзе, сформировали еще в 2015 г. отметим, что Резолюция не носит обязательный характер, однако в ней содержатся рекомендации Европейской комиссии относительно действий, которые могут быть предприняты в сфере искусственного интеллекта. Это действия гражданско-правового характера и действия, затрагивающие этические моменты робототехники. В соответствии с Резолюцией, «умный» робот -это робот, становящийся автономным за счет датчиков и (либо) обмена информацией с внешним миром. У робота есть хотя бы минимальная физическая поддержка. Он приспосабливает свои действия и поведения к внешнему миру, у него отсутствует жизнь в биологическом понимании этого слова. Документ закрепляет, что необходимо предусмотреть комплексную систему фиксации (регистрации) передовых роботов Союза, которой будет управлять специальное уполномоченное агентство Евросоюза по робототехнике и искусственному интеллекту. Указанным агентством будет осуществляться правовая, этическая и техническая оценка робототехники. В части ответственности рекомендуются два пути: или закрепление строгой ответственности без вины, или принимая во внимание управление рисками (с закреплением ответственности субъекта, который смог бы свести все риски к минимуму). В соответствии с Резолюцией, необходимо, чтобы ответственность была пропорциональной фактически заданных роботу инструкций, а также уровню его самостоятельности. В нормы ответственности можно включить систему обязательного страхования для лиц, которые пользуются роботами, а также компенсационный фонд, из которого будут выплачиваться компенсации, если риски не будут покрываться страховым полисом. Резолюция предлагает два кодекса поведения для решения этических вопросов: Кодекс этического поведения инженеров-робототехников и Кодекс поведения комиссий по этике научных исследований. Первый кодекс предлагает четыре этических принципа: 1) Принцип благотворительности - необходим, чтобы роботы функционировали в интересах человека; 2) Принцип отсутствия умысла - концепция «не навреди», в соответствии с которой недопустимо, чтобы роботы вредили людям; 3) Автономность - способность принимать осознанное без внешнего воздействия решение; 4) Справедливость - справедливое распределение преимуществ, связанных с робототехникой, и, в частности, доступность домашних и медицинских роботов. Таким образом, вышеизложенные примеры демонстрируют, как социальные ценности влияют на отношение к искусственному интеллекту и его правовому внедрению. В связи со спецификой искусственного интеллекта были выдвинуты предложения относительно прямой ответственности определенных систем. Исходя из этой логики, нет никаких фундаментальных причин, по которым автономные системы не должны нести юридическую ответственность за свои действия. Однако остается открытым вопрос о необходимости или желательности введения такого рода ответственности (по крайней мере, на современном этапе). Это обусловлено, среди прочего, перечисленными выше этическими проблемами. Возможно, было бы более эффективным возложить ответственность на программистов или пользователей автономных систем за действия этих THE VI INTERNATIONAL SCIENTIFIC CONFERENCE “SCIENTIFIC FOUNDATIONS FOR THE USE OF INFORMATION TECHNOLOGIES OF A NEW LEVEL AND MODERN PROBLEMS OF AUTOMATION”, NOVEMBER 20, 2025 354 систем. Но это может замедлить инновации. Вот почему нам нужно продолжать искать идеальный баланс. Для того чтобы найти этот баланс, нам необходимо решить ряд вопросов: Какие цели мы преследуем в развитии искусственного интеллекта? Чьи интересы должны преобладать? Насколько это будет эффективно? Ответы на эти вопросы помогут нам предотвратить ситуации. Список литературы 1. Гордеев А. Цифровая диктатура: как в Китае вводят систему социального рейтинга // https://www.rbc.ru/business/11/ 12/2016/584953bb9a79477c8a7c08a7 2. Филиппов И.А. Проблема ответственности за вред, причиненный искусственным интеллектом // Концепция "Общества знаний" в современной науке: сборник статей Международной научно-практической конференции. Том. Часть 2. Пермь, 04 мая 2019 г. С. 84-87. 3. Лолаева А.С. Имущественный оборот цифровых данных // Аграрное и земельное право. 2019. № 7. С. 27-29. 4. Арихипов В., Наумов В. О некоторых вопросах теоретических основ разработки законодательства о робототехнике: аспекты воли и правосубъектности // Закон. 2017. № 5. С. 157-170. 5. https://www.unesco.org/ru/artificial-intelligence/recommendation-ethics 6. https://russiancouncil.ru/analytics-and-comments/analytics/eticheskie-i-pravovye-voprosyiskusstvennogo-intellekta/