Недавняя статья Павла Шарре «Почему вы не должны бояться «Slaughterbots», видеоролик, созданный Институтом Future of Life, для пропаганды». Шарр — эксперт по военным вопросам и важный советник по обсуждению автономного оружия. В этом случае, однако, мы почтительно не согласны с его мнением.
Почему мы сделали видео
Несколько лет мы работаем над проблемой автономного оружия. Мы представили в Организации Объединенных Наций в Женеве и на Всемирном экономическом форуме; мы написали открытое письмо, подписанное более чем 3700 исследователями ИИ и робототехники и более 20 000 других и охваченных более чем 2000 медийными статьями; один из нас (Рассел) подготовил письмо от ведущего мирового ИИ президенту Обаме и привел делегации в Белый дом в 2016 году ; мы представили Соединенные Штаты и разведывательное сообщество; и мы обсуждали этот вопрос на многочисленных панелях и академических форумах по всему миру.
«Поскольку автономное оружие не требует индивидуального контроля людьми, это потенциально масштабируемое оружие массового уничтожения
Наше основное послание было последовательным: поскольку они не требуют индивидуального контроля людьми, это потенциально масштабируемое оружие массового уничтожения (ОМУ); по меньшей мере, неограниченное количество может быть запущено небольшим числом людей. Это неизбежное логическое следствие автономии. В результате мы сможем снизить уровень безопасности человека на индивидуальном, местном, национальном и международном уровнях.
Несмотря на это, мы стали свидетелями того, что «Скайнет», скорее всего, произойдет. Скайнет, конечно же, является вымышленной системой управления и контроля в Терминаторе. Риск возникновения «Скайнет» полностью не связан с риском людей, использующих автономное оружие, или любого другого риска, упомянутого нами и Шарре. Это стало серьезной проблемой и недостаточно для того, чтобы передать сообщение. Если нет, то мы не можем ожидать основных проблем, тогда мы не можем ожидать широкой публики.
Основная причина, по которой мы сделали видео, заключалась в том, чтобы дать понятную иллюстрацию того, что мы имеем в виду. Это не «научная фантастика»; автономное оружие не должно быть гуманоидным, сознательным и злым; переговоры Организации Объединенных Наций в Женеве. Наконец, мы помним о прецеденте, установленном фильмом ABC «День после» в 1983 году, который, руководствуясь последствиями ядерной войны для отдельных лиц и семей, оказал прямое влияние на национальную и международную политику.
В чём мы согласны
Шарро согласен с зарождающейся реальностью технологии; он пишет: «Поэтому, пока никто еще не объединил технологию в том, как изображено в видео, все компоненты реальны». Он заключает, что террористические группы смогут объединять автономное оружие, независимо от того, подпадает ли это оружие к международному договору о контроле над вооружениями. Это, вероятно, верно в небольших масштабах; но в небольших масштабах нет большого преимущества для террористов в использовании автономии. Крайне маловероятно, что он сможет проектировать и производить тысячи эффективных автономных вооружений без обнаружения, особенно если режим проверки договора, такой как Конвенция о химическом оружии, предусматривает сотрудничество производителей, которые производят дроны и другие компоненты-прекурсоры.
Свежие комментарии