Поддержать деятельность МХГ                                                           
Russian English
, , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , ,

 

Почему правозащитники против боевых роботов



«Умные машины» преуспели везде – в искусстве, решении экологических проблем и здравоохранении. Что будет, если доверить им самое дорогое – человеческую жизнь? Последствия этого решения обсудили участники пресс-конференции «Игра без правил: роботы-убийцы или искусственный интеллект в военных технологиях», которая состоялась в информационно-аналитическом агентстве «Росбалт» 10 июня 2019 года. Журналист «Теплицы социальных технологий» Юлия Каленкова записала главные мысли со встречи, организованной Московской Хельсинкской Группой.

«Если робот застрелил человека, кто будет отвечать? Разработчик, сама «железяка» – то есть алгоритм, заложенный в нее, человек, взявший на вооружение этого робота? В международном праве на эти вопросы ответов пока нет. И непонятно даже, в какой мере будет нестись ответственность», – обозначила одну из главных проблем Алена Попова, юрист, руководитель аналитического центра «Этика и технологии» (центр создан при поддержке научного совета по методологии искусственного интеллекта РАН РФ).

У алгоритмов есть безотказность действия, но нет внутренних оснований и побуждений, собственных ценностей. Они не могут гуманно относиться к людям – уважать человеческую жизнь и человеческое достоинство. Формализовать в коде это невозможно, что, безусловно, делает работу с «умными машинами» еще сложнее.

Еще одна проблема, которую сформулировала эксперт, – «черный ящик». Работа алгоритмов глубинного обучения настолько сложна, что человек не сможет понять, на основе чего алгоритм принял то или иное решение. Соответственно, ответственность будет перекладываться с человека на алгоритмы. Военные преступления превратятся в «издержки войны». Без ответов остаются и другие вопросы: как быть с преступными или аморальными приказами, которые человек может отказаться выполнять, а робот нет? Насколько вероятны анонимные нападения и злоупотребления технологиями?

Дискуссию продолжил Алимжан Ахметов, директор Центра международной безопасности и политики (Казахстан), который поддерживает кампанию Campaign to Stop Killer Robots. Он отметил, что обсуждение допустимых границ использования робототехники ведется с 2010 года. А в 2018 году было сформулировано три позиции по отношению к ситуации:

  • превентивный мораторий на автономные системы (Австралия, Бразилия, Чили);
  • принятие политической декларации о сохранении значимого человеческого контроля (Германия, Франция и другие);
  • запрет использования (США, Израиль, Россия, Южная Корея и другие государства, активно инвестирующие в использование искусственного интеллекта для военных нужд).

Позицию России не раз обозначал президент Владимир Путин: «Если кто-то сможет обеспечить монополию в сфере искусственного интеллекта, то последствия нам всем понятны – тот станет властелином мира», – резюмировал глава государства в мае 2019 года на совещании о развитии технологий в области искусственного интеллекта.

В 2018 году общие расходы на научно-исследовательские и опытно-конструкторские работы (НИОКР) в США оцениваются в $553 млрд, в Китае – в $475 млрд, в ЕС – в $449,5 млрд. Для России приводится в качестве оценки сумма $58,6 млрд в 2018 году. Таким образом, в сфере финансирования исследований страна на порядок отстает от лидеров. По данным Forbes.ru.

Оппонировал спикерам Вадим Козюлин, директор проекта по новым технологиям и международной безопасности, ПИР-Центра. Он отметил: многие эксперты уверены, что роботы будут более точными в соблюдении гуманитарного права. И прежде чем переходить к активным действиям – запретам или санкционированию, – нужно решить ряд вопросов. Например, что такое автономное оружие само по себе (можно ли, например, противовоздушную оборону считать таковым?); что значит «значимый человеческий контроль» (ведь алгоритм, заложенный человеком, тоже форма контроля).

Итог встречи подвел Андрей Юров, правозащитник, эксперт Московской Хельсинкской Группы, член правления Международной гражданской инициативы для ОБСЕ. Он призвал задуматься, что происходит с базовыми правами человека в цифровую эпоху: правом на жизнь, на неприкосновенность частной жизни.

«Даже самые умные механизмы разрабатываются несовершенными существами – людьми. А значит, всегда есть возможность ошибки, стоит ли в таком случае доверять машинам?» – заключил эксперт и подчеркнул: ждать, когда страны-разработчики договорятся о запрете автономного оружия, не стоит. Противостоять этой угрозе может только мировое гражданское общество, а для этого ему придется очень быстро повзрослеть и объединиться.

Источник: Теплица социальных технологий, 17.06.2019

Поддержать МХГ

На протяжении десятилетий члены, сотрудники и волонтеры МХГ продолжают каждодневную работу по защите прав человека, формированию и сохранению правовой культуры в нашей стране. Мы убеждены, что Россия будет демократическим государством, где соблюдаются законы, где человек, его права и достоинство являются высшей ценностью.

45-летняя история МХГ доказывает, что даже небольшая группа людей, убежденно и последовательно отстаивающих идеалы свободы и прав человека, в состоянии изменить окружающую действительность.

Коридор свободы с каждым годом сужается, государство стремится сократить возможности независимых НКО, а в особенности – правозащитных. Ваша поддержка поможет нам и дальше оставаться на страже прав. Сделайте свой вклад в независимость правозащитного движения в России, поддержите МХГ.

Банковская карта
Яндекс.Деньги
Перевод на счет
Как вы хотите помочь:
Ежемесячно
Единоразово
300
500
1000
Введите число или выберите предложенную слева сумму.
Нужно для информировании о статусе перевода.
Не до конца заполнен телефон
Оставьте своё имя и фамилию, чтобы мы могли обращаться к Вам по имени.

Я принимаю договор-оферту

Евгений Бобров

МХГ в социальных сетях

  •  
Мы требуем отмены законов об "иноагентах"
Требуем освобождения Софии Сапега
В защиту беларусов в России
Требуем прекратить давление на музыкантов! Noize, Вася Обломов, Ногу свело, Кортнев и др.
Предотвратить полномасштабную войну с Украиной!
Обратитесь к российским властям с призывом обеспечить безопасность Елены Милашиной и расследовать угрозы против неё
Против исключения правозащитницы Марины Литвинович из ОНК

© Московская Хельсинкская Группа, 2014-2021, 16+.