Можно ли этически значимые человеческие действия передоверить ИИ? Мнение протоиерея

Что беспокоит в вопросе развития искусственного интеллекта Церковь? Достоинство личности. Человек обладает богоданным достоинством, свободой, и нельзя допускать, чтобы из-за тех или иных технологий его права и свободы пострадали.

Когда заходит речь об искусственном интеллекте (ИИ), говорят об огромном количестве сфер применения. Плюсов много, и они очевидны. Так, ИИ широко используется в медицине. В области онкологии есть, например, решения, связанные с прицельным воздействием на пострадавшие участки на основе анализа колоссального массива данных. Или пример из гуманитарной сферы: амбициозный проект оцифровки и алгоритмического анализа нескольких тысяч памятников древнерусской литературы XI–XVII веков. Еще один несомненный плюс, хотя кто-то назовет это минусом, — высвобождение времени человека при совершении рутинных вещей — мы покупаем билеты онлайн, и это тоже в какой-то мере применение некоей алгоритмической логики, близкой к ИИ. Положительная сфера применения ИИ очень велика, а перспективы его в будущем впечатляют еще сильнее. И в противовес этому речь идет даже не о минусах, а о проблематике, которая связана сегодня в первую очередь с этическими вопросами.

Например, мы знаем, что в самый сложный период коронавирусной эпидемии в Италии врачи вынуждены были принимать этические решения — кого подключать к аппарату искусственной вентиляции легких. И в этом случае они выбирали либо тех, у кого больше шансов вылечиться, либо более молодых в связи с установившимся в обществе представлением о том, что молодые более ценны. Это представление может критиковаться, и оно неочевидное. Но если представить, что решение вопроса, кого отключать, а кого лечить, будет предоставлено не человеку, а машине на основании совокупности анализируемых признаков: давление, пульс, прогноз, анамнез, время нахождения на больничной койке, то в действие могут вступить еще менее очевидные критерии. Отсюда и возникает вопрос управляемости ИИ, ее параметров, границ.

Для меня в принципе невозможна постановка вопроса о том, что этически значимые человеческие действия могут быть кому-то передоверены. Это дальнейший шаг к деградации и без того очень «тощей» человеческой культуры.

С зачатками проблемы, когда компьютер выбирает за нас, мы сталкиваемся уже сегодня, когда навигатор направляет нас из пункта А в пункт Б не самым быстрым и удобным маршрутом, а так, чтобы разгрузить определенные магистрали, и делает это, конечно, не по своей прихоти, а в соответствии с заложенными в него алгоритмами.

Что беспокоит в этом вопросе Церковь? Достоинство личности, конечно. Достоинство личности, которое не должно ни при каком развитии технологий пострадать. Потому что человек обладает богоданным достоинством, свободой, и нельзя допускать, чтобы в результате появления тех или иных технологий его права и свободы пострадали.

Церковь не выступает как луддит, как сторонник остановки технического прогресса, да его и невозможно остановить! Но нельзя сначала спроектировать атомную станцию, а потом думать, как обеспечивать ее безопасность. Это должно идти рука об руку. Когда что-то разрабатывается, то перекрывающие заслонки, аварийные кнопки и вентили нужно придумывать загодя. Церковь, если обратиться к аналогии с атомной энергетикой, и за атомную энергетику как прогрессивную, и за всеобъемлющую систему безопасности для этой энергетики.

Мне приходится у нас в стране участвовать в большом числе конференций по этике ИИ. И этот вопрос обсуждается в основном на философских факультетах или в Институте философии РАН. Вот локализация этой проблематики. А разработчики ИИ — это технари, и если открыть программу конференции, в заголовке которой будет «искусственный интеллект», гуманитарии даже название доклада не поймут. Речь будет идти об абсолютно частных технических подробностях преодоления той или иной технической закавыки «при нахождении параметров мягкого ИИ». Этические решения и технические решения абсолютно не сомкнуты.

Сейчас дошли до того, что обсуждают, есть ли у машин права, или, говоря языком философских факультетов, является ли машина моральным агентом. Ну конечно, не является! Что мы понимаем под человеком? Для нас крайне важно, ключево понятие совести. Совесть — это то, что человека отличает от всех других живых существ. Оставим в стороне вопрос, жива или не жива машина (а для нас ответ на это отрицательный на данном этапе развития технологий), — у машины нет и не может быть совести. Попытка сделать машину антропоморфной не в смысле придания ей человекоподобной формы, а сказать, что у машины есть чувства, она думает, страдает, переживает, — опасна. Потому что это вторжение в сферу того, что может принадлежать только человеку. И это в некотором смысле значит поставить под вопрос задумку Божию, откорректировать Божие решение. И суррогатное материнство — это такая же попытка, и генетические манипуляции.

Машина способна бесконечно развиваться. Есть агрегаторы, которые показывают результаты машинного написания стихов. Это не стихи в чистом виде, конечно, а просто набор слов, составленных в осмысленные предложения в соответствии с имеющимися схемами, не было бы схем — не было бы стихов, будет больше стихов — будет больше схем. Но там нет чувства. Желание форсировать этот рубеж, придать за счет усложнения машин ИИ возможность перейти рубеж просто машины, нуждается в серьезнейшем осмыслении.

А потом: кто создает эти программы? Здесь еще одна этическая проблема. Почему мы должны исходить из убеждения, что их намерения совершенно чисты? Было бы легкомысленно считать, что все разработчики программ — люди избыточно честные. А значит, может быть и всякое злодейство и должна быть продумана система, при которой нам нет нужды опираться на слепое доверие.

В Ватикане давно почувствовали взрывной материал, который содержит в себе эта тема. Они проблему ИИ понимают очень широко и включают сюда и нейроэтику, например, и био, и психополитику. У них прямо перед взрывом эпидемии коронавируса была крупная конференция. Они выработали итоговый документ, который называется «Искусственный интеллект и этика», основные тезисы его находятся в трех областях: закон, обучение и этика. Что касается этики, то это требования к разработкам быть верифицируемыми и подчиняться законам общего блага, при котором у человечества не будет нужды опасаться злонамеренности разработчиков.

Мы, конечно, следим за всем тем, что происходит в мире, у нас в Московской духовной академии существует Центр исследований в области биоэтики и высоких технологий, у нас есть межсоборное присутствие Русской православной церкви. Одна из ее комиссий работает сейчас над созданием документа, который будет выражать мнение Церкви по поводу ИИ.

На Церкви лежит обязанность морального предостережения и этической оценки. Человек должен нести ответственность, если это человек совести, думающий человек. Известно, как академик Сахаров каялся, в том числе публично, что участвовал в разработке водородного оружия. Несколько запоздало, правда. Когда разрабатывал, видимо, у него другие движители были. Но, с другой стороны, применение пулеметов во время Первой мировой войны считалось диким варварством. Кто сейчас скажет, что использование пулеметов — варварство? Вот если бомбу сбросили биологическую, это да. Критерии человечества в смысле жестокости все ниже и ниже, в противовес известной советской песне. У всех в квартирах есть пробки. Мы говорим: пробки выбило — свет выключился. Так вот, в нас самих должны быть пробки, которые выключат свет, если мы куда-то не туда пошли.

Александр Абрамов, протоиерей, заместитель ректора Московской духовной академии

Искусственный интеллект значительно упрощает жизнь и работу людей, высвобождает колоссальное количество времени. И вроде бы нужно радоваться. Но пытливый человеческий ум хочет сделать из умной машины нечто большее. Не играем ли мы с огнем в этой сфере? Не нужны ли в данном процессе какие-то общевыработанные ограничители? Роботы в художественных фильмах, помните, бунтовали, пытаясь сравнять себя с человеком. Не произойдет ли что-то подобное и по-настоящему?..

Еще в связи с поднятой темой читайте также:

• Новые поколения: виртуальность становится частью нас?
• Сновидения вскоре можно будет «заказывать»?
• Представьте: по фото дадут ответ, нужно ли вам обращаться к врачу
• Вкалывают роботы – счастлив человек?

По инф. portal-kultura.ru

• Расскажите об этом своим друзьям!

• Врач рассказала, что нужно съесть перед сном, чтобы быстрее заснуть
  
  Теплое молоко может помочь подготовиться ко сну. Оно содержит аминокислоту триптофан, благоприятно воздействующую на нервную систему.
• Бабушка Полина расскажет о народных поверьях и праздниках
  
  Вместе с Полиной Рожновой, блогером Яндекс Дзен, можно с интересом полистать русский народный календарь. Полина Константиновна, например, знает, почему 3 ноября девушки искали особый лист. Этот лист посеребрен морозом. И если этого листочка дотянуться, то девушке прибавится красоты. И обязательно встретиться молодой человек, который увидит в девушке свою суженую.
• Ученые доказали, что Интернет положительно влияет на пожилых
  
  К такому выводу пришли мужи науки. Благотворно Сеть влияет на самооценку, удовлетворенность жизнью, здоровье и снижение симптомов депрессии у людей в 50+.
• Учитель на уроке высказался о теракте на Крымском мосту и получил срок
  
  Преподаватель истории и обществознания выразил свое мнение об инциденте на Крымском мосту во время урока и был осужден за это.
• Россиянам посоветовали в Михайлов день проявить к другим доброту
  
  21 ноября – Михайлов день. Этот народный праздник посвящен архангелу Михаилу – главному защитнику и покровителю воинов. Что можно и нельзя делать в этот день и и какой была чудесная помощь новгородцам от Михаила?
• Россиянам посоветовали выходить на пенсию позже ради увеличения выплаты
  
  Сенатор Ольга Епифанова раскрыла, какие способы могут помочь россиянам увеличить свою пенсию.
• В Крыму студенческим семьям с первенцем будут давать сертификаты в 1 млн рублей
  
  Глава Крыма Сергей Аксенов объявил, что планирует предоставлять студенческим семьям в регионе жилищные сертификаты на сумму в 1 миллион рублей при рождении первого ребенка. Соответствующий законопроект уже направлен на согласование.
• Мошенники начали отправлять россиянам подарки, чтобы получить секретный код
  
  В России появилась новая схема мошенничества с взломом аккаунтов на госуслугах: киберпреступники отправляют цветы или другие подарки жертве, после чего запрашивают у нее "код подтверждения доставки", который фактически дает доступ к порталу госуслуг.
• Собака пришла из ниоткуда и спасла потерявшуюся в тайге сибирячку
  
  В тайге, заблудившись при сборе брусники, оказалась жительница севера Иркутской области по имени Галина.
• Мужчине подарили полёт на самолёте, который разбился
  
  В Словении разбился самолет, на борту которого находились три человека. Легкомоторное судно совершало обзорный полет и разбилось из-за туманной погоды.
• Половина всех оставшихся в России самолетов Airbus стала недоступна для полетов
  
  Российские авиакомпании временно прекратили эксплуатацию 34 самолетов Airbus A320/A321neo, это половина от всего количества таких самолетов в стране.
• Ученые нашли способ борьбы с глухотой и слепотой на генном уровне
  
  Ученые из Гарвардской медицинской школы совершили значительный прогресс в разработке генной терапии для лечения синдрома Ашера типа 1F - редкого заболевания, которое приводит к потере слуха и прогрессирующей слепоте.
• Загадочную смерть Брюса Ли раскрыли спустя 51 год
  
  После 51 года загадочную смерть Брюса Ли раскрыли. Испанские медики подтвердили, что причиной не стал ни обезболивающий препарат, ни заказ мафии, а простая вода.
• Дмитрий Маликов считает, что семейные кризисы могут укрепить брак
  
  Певец Дмитрий Маликов признался, что переживал кризисы в отношениях с супругой Еленой Изаксон, с которой состоит в браке с 1999 года. Об этом он сообщил на RuTube-шоу «По душам» Романа Костомарова.
• Хью Джекман рассказал о своей борьбе с раком и призвал пользоваться солнцезащитным кремом
  
  В 2013 году у звезды Голливуда Хью Джекмана обнаружили рак кожи – базальноклеточную карциному. Благодаря своевременному обращению к врачам, актёру была оказана вся необходимая помощь.
• София Ротару выставила на продажу квартиру в Москве
  
  В интернете появилось объявление о продаже трёхкомнатной квартиры Софии Ротару в центре Москвы. Покупатель пока не нашелся, но любопытные граждане выстроились в очередь, чтобы увидеть апартаменты своими глазами.
• Василий Ливанов отказался от обследований и попросил выписать его из больницы
  
  Народный артист РСФСР Василий Ливанов самостоятельно попросил выписать его из больницы и отказался от обследований. Об этом сообщает Telegram-канал Shot.
• В Москве простились с актрисой Светланой Светличной
  
  Прощание с культовой актрисой Светланой Светличной состоялось в Москве в Доме кино. Проводить артистку в последний путь пришли близкие, родственники и известные артисты.
• В Балтийском море нашли живущего в полном одиночестве дельфина
  
  Биологи с Университета Южной Дании провели наблюдения за одиноким дельфином-афалиной, который был замечен в Балтийском море. Он продемонстрировал весьма необычное поведение для своего вида.
• Бывшему заму Шойгу предъявили новые обвинения
  
  Следственный комитет предъявил бывшему замминистру обороны России Тимуру Иванову два эпизода крупной растраты и отмывания денег на сумму более 4 миллиардов рублей через банк «Интеркоммерц».