Лайфхаки

Маленькие, полезные хитрости

Ieee предложил стандарт производства и создания "Благонадежных" роботов и ИИ.

07.01.2017 в 15:24

Новости о том, что автоматизация рано или поздно начнет массово лишать людей их работы и оставит за забором социальной полезности, вряд ли вызовут положительные эмоции у человека, с перспективой смотрящего в будущее. Масла в огонь подливают такие шоу, как "Терминатор" или, например, свежий "мир дикого Запада", которые тоже вносят свой вклад в общую копилку опасений, но уже с точки зрения разработки "недружелюбного" искусственного интеллекта.


Ли эти страхи под собой реальную основу имеют? Возможно. А возможно, это всего лишь надуманная истерия. Но как бы там ни было, институт инженеров электро техники и электроники (Ieee) уверен в том, что развитие ИИ и автоматизационных систем должно "Согласовываться с Полным Учетом и Соответствием Человеческим Моральным Ценностям и Этическим Принципам".

Свои идеи институт представил в виде 136-страничного документа с названием "Ethically Aligned Design", являющегося своего рода "стандартом" для разработок, производства и развития роботов и искусственного интеллекта. Документ разработан при содействии более 100 мировых экспертов в сфере ИИ, законов, этики, философии и политики. Другими словами, при участии самых видных академиков, ученых и представителей правительственного сектора.

"Благодаря Обеспечению Экспертов и Разработчиков Практическими Рекомендациями для Создания Автоматизированных и Интеллектуальных Продуктов, Сервисов и Систем с Учетом Соблюдения Выработанных Этических Человеческих Принципов мы Сможем Справиться с Нашими Страхами, Связанными с Этими Технологиями и Сосредоточить Свое Внимание на тех Преимуществах, Которые эти Технологии Смогут Принести Человечеству не , внимание, Только в Будущем, но уже и Сегодня", - говорится в заявлении Константиноса карачалиоса, управляющего директора ассоциации по вопросам стандартизации в Ieee.

В Ieee отмечают, что инициатива является полностью открытой и они готовы к предложениям и обсуждениям интересующих вопросов со стороны инженеров, разработчиков и дизайнеров систем автоматизации и развития ИИ. При этом они готовы вести полноценный диалог, так как обратная связь в этом вопросе является одним из важнейших аспектов в выработке обсуждаемых стандартов.

Что касается предложений, описанных в самом документе, то в них включены соображения по вопросам методологии проведения исследований и разработок; описываются опасения по поводу создания "Черных Ящиков". Другими словами, документ предостерегает сферу ИИ и автоматизации от проведения закрытых разработок.

С более фундаментальной точки зрения то, что предлагает Ieee, приводит к появлению сразу нескольких интересных вопросов, важнейшим из которых, пожалуй, является следующий: а можно ли вообще запрограммировать мораль? Возможно ли на самом деле подстроить технологии ИИ и автоматизации под те "Стандарты и Человеческие и Социальные Ценности", о которых говорится в документе Ieee?

Однако Ieee настаивает на своем и говорит о важности и необходимости стандартов. Ведь благодаря им мы сможем быть уверены в том, что при создании и развитии новых технологий в конечном итоге не пострадают люди.

"Стандарты смогут обеспечить производственный контроль интеллектуальных и автономных технологий. Интеллектуальные системы становятся все сложнее и потому их незапрограммированное поведение может стать опасным. Для решения этого вопроса необходим надзор за процедурой разработки интеллектуальных и автономных систем".

"Исследователям и разработчикам, занимающимся развитием и внедрением автономных и интеллектуальных систем, придется столкнуться с более прогрессивным и сложным набором мер соответствия по вопросам моральной и технической безопасности. Следовательно, к своей работе им придется подходить более ответственно".

Таким образом, если смотреть на ситуацию в целом, то Ieee сделала очень важный и действительно необходимый шаг на пути к "Очеловечиванию" автономных и интеллектуальных систем.