В прошлом году Стюарт Руссел, инженер-программист Калифорнийского
университета в Беркли, написал открытое письмо с воззванием к запрету «летального автономного оружия».

Для тех, кто далёк от военно-промышленного комплекса, это может
показаться несколько надуманным и преждевременным опасением, вроде
призывов к запрету фазеров из Стар Трека или Звезды Смерти. Однако
реальность говорит об обратном.

Человечество всегда стремилось автоматизировать военное дело. К
примеру, мины являются своего рода роботами, хотя и простейшими. Ракеты с
тепловым наведением умнее их, хотя и не намного.

Сегодня существуют уже полностью автономные машины-убийцы: например, южнокорейский Super aEgis II
способен распознавать людей и целиться в них. Перед тем как выстрелить
из своего 12,7-миллиметрового пулемёта, он требует разрешения живого
оператора — но это скорее правила этикета, чем технические требования.

Руссел пишет, что «автономное оружие станет «калашниковым» будущего —
дешёвым и доступным». И это полностью изменит правила ведения войны.

«Умное оружие сможет изменить масштаб влияния малых групп людей на
мир, — пишет он. — Оно может нанести урон, сравнимый с ядерным оружием, с
гораздо меньшими финансовыми затратами и требованиями к
инфраструктуре».

Сторонники умного оружия указывают на некоторые преимущества
автономных машин-убийц: использование роботов на войне значительно
снизит человеческие жертвы. Однако для подписавших письмо Руссела 20
тысяч людей (из которых большинство учёных) недостатки умного оружия
значительно перевешивают его достоинства.

Позже в этом году Руссел вместе со своими сторонниками собирается
добиться изменений в международном праве, аналогичных запрету на
использование биологического оружия. Обсуждение этого вопроса состоится в
ООН и на Мировом экономическом форуме.

Ведь если когда-нибудь появится полностью автономный робот-убийца, пути назад уже не будет.