Этика для терминатора

18 февраля украинский информационно-аналитический интернет-ресурс «Військова панорама», специализирующийся на военной тематике, опубликовал статью об испытаниях исследовательским центром ВМС США уникального робота-разведчика GuardBot, имеющего форму шара. Смещая центр тяжести, встроенный механизм придаёт роботу импульс к движению, и тот катится в нужном направлении подобно мячу, развивая скорость до 30 км/ч. Кроме того, робот может двигаться в гору, преодолевая подъем до 30 градусов. Герметичный корпус аппарата позволяет ему преодолевать водные преграды и исследовать пересечённую местность, производя видеосъёмку и передавая данные оператору.

Сообщается, что поначалу разработчики предполагали использовать робота необычной формы для исследования Марса, но позже этим проектом заинтересовались в военно-морском ведомстве США, испытывающем потребность в мобильных и всепогодных амфибиях, способных одинаково хорошо передвигаться по различным видам поверхности – воде, грунту, песку и снегу.

В публикации не сообщается о том, будет ли робот-шар иметь какое-либо вооружение, но очевидно, что эта задача осуществима. В таком случае несложно предвидеть возможную смену военной специализации робота, который вполне может превратиться в боевую единицу, способную поражать цели. Кроме того, разработчики сообщают о возможном масштабировании прототипа GuardBot в диапазоне от десяти сантиметров до трёх метров в диаметре.

Причины, побуждающие военных обращать повышенное внимание на роботов, в целом понятны. Боевые аппараты обладают отменной дисциплиной, не нарушают приказы и не совершают преступления. Там, где военнослужащего могут подвести эмоции или одолеть усталость, робот будет продолжать выполнять свои функции. К тому же, потеря на войне даже сотен таких аппаратов не вызовет волны общественного недовольства внутри страны.

Несмотря на относительную дороговизну робототехники, её использование уже стало привычным для многих армий. Если трактовать термин «робот» как механизм, запрограммированный на выполнение заранее заданных действий при наступлении определённых событий или получении команд от оператора, то таковыми можно признать, в том числе, и современные ракеты, способные самостоятельно принимать решение по выбору цели, ориентируясь на сигналы своих датчиков и данные от центра управления. Обладают признаками робота и некоторые виды мин, запрограммированные на сортировку поступающих извне сигналов и взрыв после получения «своего» сигнала, например, определённого частоты и силы звука или характерного изменения магнитного поля. Кроме того, признаки роботов имеют современные беспилотные летательные аппараты, управляемые дистанционно, но способные самостоятельно выполнять некоторые действия (взлёт, посадку, самостоятельный полёт в режиме автопилота).

В сухопутных родах войск роботы представлены первыми образцами самоходных аппаратов-манипуляторов на колёсном или гусеничном ходу, используемых, главным образом, для разминирования и разведки. На вооружение некоторых армий стали поступать действующие образцы боевых мобильных роботов, вооружённых стрелковым и противотанковым оружием. Пока такие машины управляются дистанционно, но специалисты прогнозируют скорый рост их автономности. Таким образом, часть действий такие роботы будут планировать сами, корректируя заданную программу, исходя из меняющейся обстановки. Примерами таких самостоятельных действий могут стать: выбор оптимального пути следования к цели; поиск укрытия; изменение скорости передвижения при обстреле; выбор цели из нескольких перед выстрелом.

В связи с перспективой появления боевых роботов, которыми не будут управлять операторы, но которые смогут выбирать цель и поражать её, остро встаёт вопрос о том, как научить машину отличать врага от своего. Весьма вероятным является риск возникновения ситуации, когда такой аппарат станет обстреливать все движущиеся цели вокруг себя – такие случаи уже имели место с роботизированными артиллерийскими платформами. Первой с подобным инцидентом вошла в историю компания Oerlikon, чья артиллерийская установка, поставленная в ВС ЮАР и управляемая бортовым компьютером, в 2007 году расстреляла 35-миллиметровыми снарядами группу южноафриканских военнослужащих.

Трагические инциденты имели место и с другой высокотехнологичной боевой техникой. Так, ударные дроны ВС США наносили удары в Афганистане и Пакистане не только по вооружённым экстремистам, но и по гражданским лицам и солдатам войск коалиции. Отдельно стоит проблема возможности перехвата управления беспилотниками со стороны противника. В целом, дистанционное управление является слабым местом роботов и служит одной из главных причин того, что военные стремятся предоставить им больше автономности. Кроме того, даже секундные отставания команд операторов, управляющих роботами порой с расстояния в тысячи километров, в условиях быстротекущих боевых столкновений становятся причиной серьёзных ошибок и жертв среди гражданского населения.

Предоставление техническим устройствам всё большей автономности ставит на повестку дня ещё один важный вопрос. Сегодня многие учёные указывают на необходимость создания своего рода этики для машин, ведь в ситуации, когда роботу придётся принимать самостоятельное решение, он должен руководствоваться определенной системой ценностей и приоритетов. Сегодня наиболее известны главные принципы этики для роботов, предложенные еще в 1940-х годах американским писателем-фантастом и футурологом Айзеком Азимовым:

1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
2. Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому и Второму Законам.

Однако полноценного решения данной проблемы не найдено до сих пор. В частности, остаётся открытым один из главных вопросов – нужна ли этика боевому роботу и применима ли она в отношении механизма, изначально созданного для уничтожения людей. Некоторые специалисты указывают на то, что здесь имеет место подмена понятий, когда этикой для боевого робота называют техническую систему-определитель «свой-чужой». Очевидно, что неэффективная работа такой системы, случайный сбой в её работе или умышленное враждебное вмешательство извне могут превратить боевого робота в неконтролируемого убийцу.

Учёные многих стран мира ищут способы решения подобных проблем. В частности, Рональд Аркин из Технологического института Джорджии разработал специальное программное обеспечение для боевых роботов, призванное помочь им в принятии правильных решений в условиях боя. Программа уже была апробирована в условном бою и продемонстрировала, что беспилотные дроны, снабжённые ею, корректируют своё поведение и стараются свести случаи применения оружия к минимуму, особенно во время боевых действий рядом с гражданскими объектами. Насколько эффективными будут эти разработки в условиях настоящего боя, покажет время. Пока же проблема остается нерешённой, что приводит к случаям ведения роботами так называемого «дружественного огня» и жертвам среди мирного населения.