Маск, хокинг и другие ученые: использование ИИ в военных целях приведет к армагеддону.
Ведущие исследователи искусственного интеллекта выражают опасения по поводу "Гонки по Созданию Военного ИИ" и тех последствий, которые она может принести для всего человечества. Свои опасения ведущие специалисты в этой области выразили на странице открытого письма к организации объединенных наций (оон), чтобы та рассмотрела "Вопрос Запрета Разработки Автоматизированного Вооружения".
В своем открытом письме, опубликованном на официальном сайте организации Future of Life Institute (FLI), такие известные фигуры, как Стивен хокинг, Элон маск и Ноам хомски выражают свои опасения по поводу того, что оружие, способное автоматически "Выбирать и Атаковать Цели без Человеческого Вмешательства", может стать "автоматом Калашникова завтрашнего дня" и обернуться триггером к развязыванию новых войн, терроризма и глобальной неустойчивости.
"Технология Искусственного Интеллекта Достигла Точки, После Которой Возможность Развертывания и Применения Подобных Систем Становится Вопросом уже не Десятилетий, а Всего Нескольких лет", - указывается в открытом письме, в котором в качестве примере приводятся военные квадрокоптеры (их технология уже разработана и даже использовалась.
В письме также указывается, что несмотря на мнение о том, что технология автономного оружия может снизить человеческие потери на полях боя, это мнение является ошибочным, так как эта технология сама по себе может стать причиной новых войн.
"В Отличие от Атомного Оружия, Автономное Вооружение не Потребует Использования Дорогостоящего Сырья и Сверхтонкой Ручной Сборки, а Следовательно, Такое Оружие Станет Массовым для Любой Крупной Военной Державы Мира", - говорится в письме.
"Появление автономного оружия на черном рынке, в руках террористов и диктаторов, желающих подчинить себе волю народов, безумных палачей, которые будут выступать за этнические чистки, - все это в таком случае станет лишь вопросом времени. Автономное вооружение может идеально подходить для проведения убийств по политическим мотивам, использоваться в операциях по дестабилизации стран, подчинения населения и выборочного уничтожения конкретных этнических групп".
Заканчивается письмо предупреждением о том, что развитие автономного вооружения может наложить большую тень на область исследования искусственного интеллекта и вызвать "Бурную и Негативную Реакцию Общества", поставит крест на разработках тех технологий ИИ, которые действительно могли бы принести пользу человечеству. Авторы открытого письма выводят заключение, в котором говорят о "Необходимости Запрета на Разработки Автономного Оружия, Которое Полностью бы Исключало Контроль со Стороны Человека" и взывают к помощи оон.
Организация Future of Life Institute сама занимается вопросами искусственного интеллекта и указывает на то, что, по мнению специалистов ВВС США, "к 2030 Году Способности Машин Возрастут до Такой Степени, что Человек Станет Самым Слабым Звеном в Функционировании Подобных Систем". Сторонники, как и критики автономных систем вооружения, сходятся во мнении, что будет очень сложно установить четкую черту между тем, что можно, а что нельзя считать автономными системами вооружения.
Помимо хокинга, маска и хомски и многих других видных ученых и деятелей, под открытым письмом, опубликованном на сайте FLI, подписались соучредитель компании Apple Стив Возняк, соучредитель Skype Ян Таллин, а также Демис хассабис, исполнительный директор британской компании Deepmind, которая занимается исследованиями и разработками искусственного интеллекта (была куплена Google в прошлом году. Ранее на портале FLI уже публиковались аналогичные открытые письма. В одном из последних, например, опубликованных в январе этого года, звучали призывы к исследованию вопросов "Общественной Пользы", которую может принести развитие ИИ.