Мораль технологического прогресса: в Европе разбираются с вопросом самостоятельности боевых роботов

О моральных проблемах искусственного интеллекта ещё в прошлом веке поведал всеми миру знаменитый писатель Рэй Брэдбери (в СССР произведения великого гуманиста издавались и поэтому хорошо знакомы нашему пожилому читателю). Прошли десятки лет, и теперь вот мы сами встречаемся с этими проблемами лицом к лицу, что вынуждает целые страны решать вопрос правильного использования роботов в жизни людей. Бельгия, Люксембург и Ирландия вынесли на повестку дня тему контроля за автономными боевыми системами. Европейские страны хотят выдвинуть совместную инициативу, которая поможет держать «роботов-убийц» на коротком поводке.

Консультации по этому вопросу пройдут с 25 по 29 марта в Женеве. Судя по информации МИД Бельгии, страны просто так языком трепать не будут, а предложат совершенно конкретные пути решения проблемы «убийственной» автоматизации. В первую очередь европейцы хотят понять, какие именно автономные системы стоит запретить. Ранее о необходимости подобных мер также говорил глава МИД ФРГ Хайко Маас.

Формулировка проблемы довольно простая, но вопросов она создаёт немало. Что же делать с «автономными вооружениями, которые могут убивать без контроля и управления человека»?

Этот вопрос решить одним съездом нескольких европейских государств вряд ли получится. Прогресс поставил перед всем миром сложные задачи, справиться с которыми можно лишь усилиями всего мира, совместно придумывая огромную систему по контролю за искусственным интеллектом.

Но не надо отдавать все труды политикам, мы и сами на месте сидеть не должны, иначе решение вопроса автономных роботов может выйти даже не в нашу пользу. Минобороны, к примеру, уже предлагало дать российским боевым роботам искусственный интеллект, который позволит им самостоятельно принимать решение о стрельбе при неопределенной внешней обстановке.

Эта идея идёт вразрез с новой инициативой европейских стран, но у каждого государства в итоге может появиться своё решение проблемы искусственного интеллекта. А раз уж даже сама гонка вооружений активно переходит в сферу автономности, бросать это дело на произвол властей нам точно не стоит. Следует внимательно следить за политическими идеями и подобными технологическими инициативами, чтобы как минимум быть в курсе возможных угроз. В крайнем случае можно даже одёрнуть своих властей: всё-таки нам всем потом придётся жить рука об руку с роботами.

Но кое-что многие уже проглядели, привыкли, и теперь даже внимания не обращают. Как думаете, сколько различных камер вас успели снять за один день, пока вы прогуливались по центральным улицам города? Десятки? Может быть сотни?

Технологии, пусть даже без продвинутого искусственного интеллекта, окружили нас не так давно, но их возможности успели вырасти буквально в тысячи раз за пару десятков лет. Мы уже находимся в мире тотальной слежки, где за каждым нашим шагом следят «технологические глаза», где каждое наше слово записывают «цифровые уши», где каждое наше действие запоминают «автономные мозги».

Любое слово, написанное вами в браузере, отправляется десяткам, а то и сотням корпораций по всему свету; камеры снимают нас на улицах, в зданиях и подъездах; а наши покупки в магазинах остаются в памяти цифровых систем огромных торговых корпораций.

Но рано разводить паранойю, ведь пока большая часть слежки ведётся с благими или, по крайней мере, «терпимыми» для нас целями. Камеры помогают находить преступников, а ваши запросы в поисковых системах помогают компаниям предоставлять вам надоедливую, но всё-таки безобидную рекламу. Да и наши личные секреты, о которых могли узнать в каком-нибудь Google, там точно никому не нужны: на их хранение даже у мегакорпораций денег не хватит, а смысла от этого никакого.

Но вся эта слежка окутана бесконечным количеством моральных вопросов, без решения которых развивать технологии дальше не получится. Насколько вообще правильно следить за людьми? Есть ли границы у подобной слежки, или понятие личного пространства уже стёрлось из нашей реальности?

Другие вопросы вызывают автономные системы с искусственным интеллектом. Здесь их даже больше, ведь мы говорим о самом настоящем интеллекте: пусть даже слабом, если сравнивать с человеком, но всё-таки! Это мыслящие создания, с размышлениями которых нельзя не считаться. Кто будет ответственен за действия роботов? Как будет действовать робот в критической ситуации, когда от его решения зависят жизни разных людей? А если робот боевой, вспоминается тот же вопрос убийства: можно ли позволить другому, нечеловеческому интеллекту убивать людей? Ох, и непросто будет с этим всем разобраться!

А пока мировые власти будут рассуждать о боевых роботах, мы должны внимательно прислушаться к их словам, чтобы потом шагать в новый мир автономных технологий без страха неизвестности и с полным пониманием наших новых технологических соседей.

• Расскажите об этом своим друзьям!

• Маша Распутина призналась, что ей предлагали купить звание Заслуженной артистки России
  
  Певица Маша Распутина предположила, что её не удостоили звания Заслуженной артистки России, поскольку она всегда «была как ком в горле для многих». Её слова передает mk.ru.
• Илья Авербух посоветовал родителям подальше убирать телефон
  
  Известный фигурист Илья Авербух с молодой супругой Елизаветой Арзамасовой воспитывают двоих малышей. При этом оба много работают, но стараются уделять семье как можно больше времени.
• Влад Лисовец признался, что тяжело пережил кризис среднего возраста
  
  Знаток моды Влад Лисовец в этом году отметил свой 52-й день рождения. Стилист добился невероятных высот в своём деле, но всё было не так гладко, как может показаться со стороны.
• Игорь Крутой получил орден «За заслуги перед Отечеством»
  
  Президент России Владимир Путин наградил композитора, народного артиста России Игоря Крутого орденом «За заслуги перед Отечеством» II степени.
• Светлана Светличная незадолго до смерти могла стать жертвой мошенников
  
  Генеральный директор Гильдии актеров кино России Валерия Гущина сообщила, что Светлана Светличная стала жертвой мошенников перед кончиной.
• Уголок шахматиста. Поздравили с юбилеем
  
  Как мы уже сообщали, недавно свое 90-летие отметил сын первого сибирского мастера по шахматам Николай Петрович Измайлов. Ассоциация любителей шахматной игры Сибири и Дальнего Востока не могла пройти мимо этого события, и двое представителей ее иркутского отделения – автор этих слов и главный спонсор всех изданий Геннадий Хусаинов – на днях побывали у юбиляра в гостях.
• Повезло!
  
  Новая подборка интересных фактов со всего света с комментариями нашего обозревателя.
• Малинина, Баскова и Киркорова лишили званий народных артистов Украины
  
  Певцы Николай Басков и Филипп Киркоров были лишены звания «Народный артист Украины» указом президента Украины Владимира Зеленского. Об этом говорится в сообщении на официальном сайте администрации Зеленского.
• Сын Александра Градского недоволен памятником, который установила вдова на могиле композитора
  
  Сын Александра Градского Даниил раскритиковал воздвигнутый на могиле отца памятник, установкой которого занималась вдова композитора Марина Коташенко. Слова наследника передает «Пятый канал».
• Двухлетний малыш выпил наркотик из бутылки и скончался
  
  В Москве двухлетний ребёнок случайно выпил бутират из бутылки для взрослых и умер через несколько часов.
• Пожаловавшейся на плохую дорогу россиянке власти предложили купить вертолет
  
  Власти иногда просто шокируют своими ответами на обращения граждан. Например, руководство села Студеновка в Воронежской области в ответ на жалобу местной жительницы на плохие дороги предложило… приобрести ей вертолет.
• Матрёна Зимняя: избавьтесь от старых и ненужных вещей
  
  22 ноября – Матрена Зимняя. В этот день на Руси провожали осень и начинали подготовку к зиме. Какие есть приметы и традиции у народного праздника?
• С 2025 года в России усложнится выход на пенсию
  
  Пенсия в следующем году будет связана с новыми условиями. Речь идет о выходе на заслуженный отдых по возрасту и условий, которые были введены в рамках пенсионной реформы 2019 года.
• Врач назвал плохой сон возможным началом деменция
  
  Эксперт по медицине Надежда Чернышова предупредила о том, что бессонница в пожилом возрасте может свидетельствовать о начале деменции.
• Стали известны города с наименьшим первоначальным взносом по ипотеке
  
  В городе Челябинске для покупки двухкомнатной квартиры по программе семейной ипотеки с 50% первоначальным взносом требуется наименьшая сумма среди крупных российских городов.
• Дженнифер Лопес заподозрили в романе с телохранителем
  
  Американскую певицу и актрису Дженнифер Лопес заподозрили в романе с телохранителем, которого она наняла после расставания с актером Беном Аффлеком. Об этом пишет RadarOnline.
• Кейт Уинслет рассказала о съемках знаменитой сцены из «Титаника»
  
  Фильм Джеймса Кэмерона «Титаник» до сих пор популярен среди любителей кино. Фанаты спорят, мог ли Джек спастись вместе с Роуз, забравшись на дверь рядом с ней.
• Актер из сериала «Глухарь» с третьей попытки отдал мошенникам 5,7 млн рублей
  
  Актер из сериала «Глухарь» Николай Трифилов стал жертвой мошенников. Об этом сообщает Telegram-канал Mash.
• Светлане Немоляевой стало плохо на съемочной площадке
  
  Народная артистка РСФСР, звезда фильма «Служебный роман» Светлана Немоляева почувствовала себя плохо во время съемок фильма «Буратино».
• Врач рассказала, что нужно съесть перед сном, чтобы быстрее заснуть
  
  Теплое молоко может помочь подготовиться ко сну. Оно содержит аминокислоту триптофан, благоприятно воздействующую на нервную систему.