Ключевые идеи книги: Ничья армия: автономное вооружение и будущее войны. Пол Шарр

Оригинальное название:

Army of None: Autonomous Weapons and the Future of War

Автор:

Paul Scharre

Тема:

Обязательное чтение

Правовую поддержку обеспечивает юридическая фирма AllMediaLaw www.allmedialaw.ru

Кто кого: роботы Азимова vs Скайнет из «Терминатора»?

Книга «Ничья армия: автономное вооружение и будущее войны» – это не просто наблюдение за возрастающей независимостью машин от людей. Это руководство к действию. Машины не могут стать автономными и выбросить человека из процесса принятия решений, если только мы сами им этого не позволим. Автономию как «когнитивный механизм, приводящий роботов в действие» человек проектирует по своему образу и подобию. Без автономии роботы – это «просто оболочка, ожидающая, пока люди наполнят ее смыслом». Так почему же тогда мы так боимся будущего, которое разворачивается на наших глазах?

Эксперты по робототехнике и искусственному интеллекту (ИИ) и представители неправительственных организаций призывают запретить автономное наступательное оружие в рамках кампании «Остановим роботов-убийц». Среди выступающих такие видные деятели, как Илон Маск, Стив Возняк, Стивен Хокинг. У них нет единого мнения о том, что такое автономия, где она точно будет применяться, а где нет. Однако их объединяет общий пессимизм относительно будущего.

Идут дискуссии, кипят страсти: одни футурологи предсказывают глобальную гонку ИИ-вооружений, другие желают избежать мрачного сценария из фильма «Терминатор», где система общего искусственного интеллекта «Скайнет» обрела самосознание и решила, что если люди хотят ее уничтожить, то человечество можно спасти лишь через уничтожение всех людей.

Пол Шарр, привлеченный политический аналитик Пентагона, который с 2008 года участвовал во множестве экспертных форумов на тему смертоносной автономии, предлагает нам взглянуть на происходящее более трезво. Он разбивает определение «автономии» на несколько элементов и подкрепляет повествование множеством примеров. Автор опрашивает специалистов из самых различных сфер, чтобы понять, где автономия уже идет полным ходом и как люди к ней относятся. Он также рассматривает некоторые аспекты ИИ, которые могут применяться или уже применяются для автономизации машин. Наконец, Полл Шарр дополняет основные законы робототехники своими рекомендациями, предлагает сценарии развития, чтобы будущее, полное технологий и машинной автономии, все равно оставалось нашим будущим.

Предписания для роботов, взаимодействующих с людьми. Разработаны научным фантастом Айзеком Азимовым. Вкратце звучат как: 1. Не навреди человеку. 2. Подчиняйся, но не навреди человеку. 3. Защищай себя, но не навреди и подчиняйся человеку.

От картечи до ВТО, от робота-пылесоса до израильской «Гарпии»

История автономного оружия началась в 1861 году во время Гражданской войны в США, когда сердобольный врач Ричард Гатлинг создал так называемую картечницу Гатлинга, предшественницу работавшего от отдачи пулемета. Она делала более трехсот выстрелов в минуту, а для ее обслуживания требовалось всего четыре человека. По мнению Гатлинга, таким образом можно было значительно уменьшить количество солдатских смертей. Он ошибся, и скоро опыт его изобретения стал основой для создания еще более смертоносного оружия.

Вторая мировая война, в которой ковровые бомбардировки привели к колоссальному сопутствующему урону, доказала, что мощного оружия недостаточно, – нужно высокоточное оружие (ВТО). Однако при его использовании грань между автоматическим и автономным оружием окончательно размывается. Некоторые ВТО управляются через беспроводную связь, некоторым оператор лишь обозначает цель (хотя всегда может ее поменять или прервать операцию вообще). В редких случаях запущенное ВТО уже не остановить вовремя, так как эти типы оружия используют радары, GPS и так далее для самостоятельного нахождения цели после запуска. Тем не менее это все еще машины, программируемые человеком. Тогда что же такое полная автономия и автономное вооружение?

Автономия: три измерения

Одно из определений автономии, предложенное Полом Шарром, звучит как «способность машины выполнять задачу или функцию самостоятельно». Но в таком случае робот-пылесос, который вы запускаете в доме, когда уходите, тоже делает автономную работу?