Босс Амазон и миллиардер Джефф Безос на законных основаниях боится возможности автономного оружия.
В то же время он говорит, что понятие о том, что цифровой повелитель будет контролировать нас или что роботы возьмут на себя нашу работу, — это нонсенс.
Безос поделился своими мыслями об искусственном интеллекте на George W. Bush Presidential Center’s Forum в апреле.
«Я думаю, что автономное оружие чрезвычайно страшно, — сказал Безос.
Технологии искусственного интеллекта, которые «мы уже знаем и понимаем, совершенно адекватны» для создания таких видов оружия, сказал Безос, «и это оружие, некоторые из идей, которые люди имеют для этого оружия, на самом деле очень страшно».
Эксперты прогнозируют, что вредоносные атаки ИИ могут включать синтез речи для олицетворения; анализ поведения людей, настроений и убеждений для манипуляций; автоматическое хакерство и физическое оружие, например, стаи микродронов.
Безос сказал, что должен быть некоторый надзор. «Я не знаю, какое решение должно быть, — сказал он, — но умные люди должны думать об этом».
Возможно, это будет смоделировано после Женевской конвенции, предложил Безос, которая представляет собой ряд общепризнанных международных законов, защищающих медицинских работников в конфликтных регионах и военнопленных.
«Это должен быть большой договор, — сказал он, — что-то, что поможет регулировать это оружие, потому что на самом деле у них много проблем.
«Так что я думаю, что это действительно страшно», — повторил Безос.
С другой стороны, Безос не обеспокоен тем, что какой-то всемогущий искусственный интеллект покорит людей.
«Идея о том, что будет общий повелитель ИИ, который подчинит или убьет всех нас, я думаю, не о чем беспокоиться. Я думаю, что это слишком неправдоподобно, — сказал Безос.
«Прежде всего, мы нигде не знаем, как построить общий ИИ — что-то, что могло бы установить свои собственные цели», — сказал глава Amazon.
Сейчас у нас есть «узкий ИИ», объяснил Безос, где машинный интеллект помогает в конкретной задаче. По словам Илона Маска, он сделал такое же различие: узкий функциональный искусственный интеллект — это то, что используется в самоходных автомобилях, в то время как общий ИИ «буквально имеет в миллион раз больше вычислительной мощности и открытую полезную функцию. »
Далее, продолжал Безос, «я думаю, маловероятно, чтобы такие первые инстинкты были для нас истреблены. Это мне показалось удивительным».
Вместо этого Безос сказал, что «гораздо более вероятно, что это нам поможет … Мы вполне способны причинить вред себе. Мы могли бы использовать некоторую помощь. Поэтому я с оптимизмом смотрю на это и, конечно, не думаю, что нам нужно беспокоиться об этом сегодня».
Напротив, генеральный директор Tesla и SpaceX Маск сказал на фестивале South by Southwest в Остине: «Мы должны выяснить, каким образом появление цифрового супер-интеллекта является симбиотическим с человечеством. Я думаю, что это самый большой экзистенциальный вопрос, с которым мы сталкиваемся, и самый насущный».
Свежие комментарии