Создание роботов-убийц — очень и очень плохая идея



Clearpath Robotics была основана шесть лет назад тремя друзьями по колледжу, которых объединила страсть делать всякие штуки. 80 специалистов компании испытывают роботов для движения по пересеченной местности вроде Husky, четырехколесного робота, используемого минобороны США. Также они делают дронов и даже построили роботизированную лодку Kingfisher. Однако одного они точно никогда не построят: робота, который может убивать.

Clearpath является первой и пока единственной компанией по производству роботов, которая пообещала не создавать роботов-убийц. Решение было принято в прошлом году соучредителем и CTO компании Райаном Гарипаем и по факту даже привлекло в компанию экспертов, которым понравилась уникальная этическая позиция Clearpath. Этика компаний, производящих роботов, в последнее время выходит на передние позиции. Видите ли, мы одной ногой в будущем, в котором будут существовать роботы-убийцы. И мы пока совершенно не готовы к ним.

Конечно, впереди еще длинный путь. Корейская Dodam systems, например, строит автономную роботизированную турель под названием Super aEgis II. Она использует тепловизионные камеры и лазерные дальномеры для выявления и атаки целей на расстоянии до 3 километров. США, судя по сообщениям, тоже экспериментируют с автономными ракетными системами.

В двух шагах от «терминаторов»

Военные беспилотники вроде Predator в настоящее время управляются людьми, но Гарипай говорит, что очень скоро они станут полностью автоматическими и автономными. И это беспокоит его. Очень. «Смертоносные автономные системы оружия могут сойти с конвейера уже сейчас. Но смертоносные оружейные системы, которые будут делаться в соответствии с этическими нормами, — их нет даже в планах».

Для Гарипая проблема заключается в международных правах. На войне всегда бывают ситуации, в которых применение силы кажется необходимым, но оно также может подвергнуть опасности невинных прохожих. Как создать роботов-убийц, которые будут принимать правильные решения в любой ситуации? Как нам определить самостоятельно, каким должно быть правильное решение?

Подобные проблемы мы уже наблюдаем на примере автономного транспорта. Допустим, собака перебегает дорогу. Должен ли робот-автомобиль свернуть, чтобы не сбить собаку, но подвергнуть риску своих пассажиров? А если это не собака, а ребенок? Или автобус? Теперь представьте зону боевых действий.

«Мы не можем договориться о том, как написать руководство по эксплуатации такого автомобиля, — говорит Гарипай. — А теперь мы еще и хотим перейти к системе, которая должна самостоятельно решать, применять ей смертоносную силу или нет».

Делайте крутые штуки, а не оружие

Питер Асаро провел последние несколько лет, лоббируя запрет на роботов-убийц в международном сообществе, будучи основателем Международного комитета по контролю роботизированных армий. Он считает, что пришло время для «четкого международного запрета на их развитие и использование». По его словам, это позволит компаниям вроде Clearpath продолжать делать классные штуки, «не переживая, что их продукты могут быть использованы для нарушения прав людей и угроз мирным жителям».

Автономные ракеты интересны военным, потому что они решают тактическую задачу. Когда беспилотники с дистанционным управлением, например, работают в боевых условиях, противник нередко заглушает датчики или сетевое соединение, чтобы человек-оператор не мог видеть, что происходит, или управлять дроном.

Гарипай говорит, что вместо разработки ракет или дронов, которые могут самостоятельно решать, какую цель атаковать, военным нужно тратить деньги на улучшение датчиков и защиты от заглушения технологий.

«Почему бы нам не взять инвестиции, которые люди хотели бы вложить для постройки автономных роботов-убийц, и не вложить их в повышение эффективности существующих технологий? — говорит он. — Если мы поставим задачу и преодолеем этот барьер, мы сможем заставить эту технологию работать на благо людей, не только военных».

В последнее время также участились разговоры об опасности искусственного интеллекта. Элон Маск беспокоится, что вышедший из-под контроля ИИ может уничтожить жизнь, какой мы ее знаем. В прошлом месяце Маск пожертвовал 10 миллионов долларов на исследования в области искусственного интеллекта. Один из важных вопросов о том, как ИИ повлияет на наш мир, заключается в том, как он сольется с робототехникой. Некоторые вроде исследователя из Baidu Эндрю Нг беспокоятся, что грядущая революция ИИ отнимет у людей работы. Другие вроде Гарипая опасаются, что может отнять и жизни.

Гарипай надеется, что его коллеги, ученые и строители машин задумаются о том, что делают. Потому и Clearpath Robotics приняла сторону людей. «Хотя мы, как компания, не можем поставить на это 10 миллионов долларов, но мы можем поставить нашу репутацию».


commnetКомментарии

Пожалуйста, войдите / зарегистрируйтесь
или авторизируйтесь через любую соц. сеть, чтобы оставить комментарий.


Похожие новости
Воинские части  на Курилах получат новые лазерные дальномеры 02 марта 2015 г.

Воинские части на Курилах получат новые лазерные дальномеры

Войсковые части, расположенные на Курильской гряде, будут оснащены новыми лазерными дальномерами ЛПР-3. Об этом сообщил Александр Гордеев – начальник пресс-службы Восточного военного округа.Новые приборы заменят предыдущие версии дальномеров, находящие...

дальше...

Уничтоженные Британией члены ИГ планировали убить королеву Елизавету II 08 сент. 2015 г.

Уничтоженные Британией члены ИГ планировали убить королеву Елизавету II

Боевики группировки «Исламское государство», которых уничтожили спецслужбы Британии в Сирии, планировали убить королеву Елизавету II. Об этом написала местная газета Daily Express. Спецслужбы Соединенного Королевства при помощи аваиаудара беспилотником...

дальше...

Робот на заводе Volkswagen убил человека 02 июля 2015 г.

Робот на заводе Volkswagen убил человека

Volkswagen сообщил о несчастном случае, который произошел на заводе в Германии. Вышедший из-под контроля робот убил человека. Сообщается, что машина схватила 21-летнего работника сторонней фирмы и прижала к металлической пластине. Госпитализация не помогла...

дальше...

Убили не Романова: убили царя Николая II, как символ России 17 июля 2014 г.

Убили не Романова: убили царя Николая II, как символ России

В ночь с 16 на 17 июля 1918 года в Екатеринбурге были расстреляны Николай II, его семья, врач Боткин, повар Харитонов, полковник Трупп и комнатная девушка императрицы Демидова. В последнее время стало модно козырнуть псевдознанием, сказав, что тогда...

дальше...

Лидер антифашистов: мы не собирались использовать лодки 16 марта 2014 г.

Лидер антифашистов: мы не собирались использовать лодки

Объединение против нацизма, выступающее против проведения в Латвии Дня памяти легионеров, не собиралось использовать водный транспорт, чтобы проводить свою акцию протеста. Об этом в эфире радио Baltkom сообщил Лидер Объединения против нацизма Иосиф Корен...

дальше...

Шесть роботов, созданных по образу живых существ 18 мая 2016 г.

Шесть роботов, созданных по образу живых существ

Многие научные и конструкторские разработки основаны на идеях, позаимствованных у живой природы, однако наиболее заметна эта закономерность в сфере робототехники, где появляется все больше устройств, функционирующих подобно реальным живым существам, населяющим...

дальше...

Боевые роботы и ведение военных действий 16 дек. 2014 г.

Боевые роботы и ведение военных действий

Боевые роботы рано или поздно станут привычной частью войны. И когда этот день настанет, в способах ведения военных действий произойдет существенный сдвиг. Уже сейчас началось обсуждение того, как можно разрабатывать и применять эти новые способы.Роботы...

дальше...

10 вещей, которым сложно научить роботов 04 сент. 2014 г.

10 вещей, которым сложно научить роботов

Быть человеком куда проще, чем создать человека. Возьмите, к примеру, процесс игры в мяч в детстве с другом. Если разложить эту деятельность на отдельные биологические функции, игра перестанет быть простой. Вам нужны датчики, передатчики и эффекторы...

дальше...

Последние новости

Новости на сегодня 22 июля 2018 г.