Единственный закон робототехники: улучшить благосостояние человека

•  робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред;
•  робот должен подчиняться приказам человека, за исключением тех, которые противоречат первому закону;
•  робот должен защищать себя, если только его действия не противоречат первому и второму законам.

Как с этим в Украине?

Создание, обслуживание и ремонт робототехники популярно и в Украине. До недавнего времени в нашей стране наблюдался дефицит комплектующих для создания робототехники, но с выходом на рынок специализированного интернет-магазина робосторюа эта проблема была устранена. На сайте robostore.com.ua можно найти практически все, что нужно для создания и ремонта робототехники, станков с ЧПУ, 3D-принтеров, квадрокоптеров и дронов.

Поработят ли машины людей?

Однако, как это часто бывает в жизни, научная фантастика стала научным фактом. Британская академия наук опубликовала доклад, в котором предлагают три закона сократить до одного. Системы искусственного интеллекта (ИИ), с которыми уже совсем скоро мы будем сосуществовать, должны руководствоваться одним-единственным принципом: "Улучшать благосостояние человека".

Леди Оттолин Лейзер, британский профессор и один из руководителей консультативного подразделения Королевского общества по научной политике, считает, что благосостояние человека должно быть ключевой основой для управления системами ИИ.

"Процветание людей и общества должно быть прерогативой. А принципы Азимова, по нашему мнению, в нем также заложены", - считает ученый.

В докладе также говорится о необходимости создать новую организацию, которая будет следить за тем, чтобы интеллектуальные машины служили людям, а не стремились подчинить их себе. Система демократического надзора, которая будет регулировать развитие интеллектуальных систем с самообучением, является жизненной необходимостью. Без нее работы способны причинить большое горе, утверждают авторы доклада.

Это не оговорка, машины поработят людей. По крайней мере на этом этапе.

И когда системы, сами учатся и принимают решения, начнут работать в домах людей и в коммерческих и государственных учреждениях, может произойти немало неприятностей.

Авторы доклада призывают обезопасить робототехнику. На первом месте должны быть интересы людей, а не машин.

Исключительно по техническим стандартам разрабатывать такие системы нельзя. Работам также следует прививать этико-демократические ценности, утверждает Энтони Уокер, заместитель генерального директора лоббистской группы TechUK и один из авторов данного доклада.

"Эти технологии во многом облегчат нам жизнь. Однако общественность должна чувствовать доверие к этим системам и уверенность в том, что они продуманы и хорошо управляемы", - сообщил он.

Эпоха Азимова уже наступила?

Авторы доклада призывают изменить подход полностью. Они рекомендуют создать "наблюдательный совет", в который войдут эксперты и заинтересованные стороны. Вместе они создадут этические основы развития технологий искусственного интеллекта.

Рекомендуется воплотить четыре высокоуровневых принципа защиты благополучия человека и искать новый способ управления работами нужно как можно быстрее. Ведь эпоха Азимова уже наступила. В частности, развитие автономных транспортных средств ставит перед нами вопрос - какими будут их приоритеты безопасности людей?

Что произойдет в ситуации, когда машина вынуждена будет выбирать между безопасностью пассажиров и пешеходов?

Есть также проблема поиска виновных в случае ДТП. Кто за него отвечать - владелец транспортного средства или машина?

Другой пример - развитие интеллектуальных преподавательских систем персонализированного обучения. Они определяют слабые и сильные стороны ученика и соответственно к ним подают материал.

Должны ли такие системы с самообучением преподавать разный материал людям, не имея при этом соответствующих руководящих принципов?

Как нам обеспечить себе комфорт при мысли о том, почему эта машина научит ребенка? (Ведь мы проникаемся тем, как репетитор учит нашего ребенка.

И решать эти задачи должны не технологические компании-разработчики систем. Их должно решать мировое сообщество коллективно. В докладе указано, что это веское основание для рассекречивания подробностей разработки систем искусственного интеллекта.

Они не могут быть коммерческой тайной - общественность должна иметь к ним доступ, чтобы в случае, если что пойдет не так, можно было выявить проблему и все исправить.

Имеющиеся нормативные требования сейчас в основном касаются защиты личных данных.

Но в них ничего не сказано об информации, которую мы предоставляем за день позволяя отслеживать свои мобильные телефоны, покупательские преференции, электрические измерительные смарт-приборы и "лайки" в соцсетях.

Существуют системы, которые из кусочков этих публичных данных составляют профиль лица. А его, в свою очередь, могут использовать страховые компании, чтобы установить размер страхового взноса, или работодатели для оценки способности человека выполнять ту или иную работу.

Такие системы могут иметь огромные преимущества. Но если дать им полную свободу, то в конечном итоге может оказаться, что наши шансы в жизни зависят от решения машины.

Профессор Лейзер утверждает: ответом здесь должно быть регулирование в индивидуальном порядке.

"Алгоритм для прогнозирования того, какие книги следует рекомендовать вам на Amazon, очень отличается от алгоритма диагностирования болезни в больнице, - сообщила она, - Поэтому рассудительно регулировать алгоритмы в одиночку, а не как единое целое, пренебрегая их назначением".

Парламенты стран должны принять цифровые хартии, а также создать комиссии, которая будет регулировать вопросы этики и использования данных. Сейчас риторика правительств больше связана с тем, чтобы предотвратить использование интернета как орудие терроризма и насилия. Но некоторые считают, что измененное законодательство сможет также позаимствовать некоторые идеи, изложенные в докладе об управлении данными.

Мэтт Хэнкок, министр цифровой экономики Великобритании, сообщил , что "критически важно" установить правила относительно того, каким образом общество использует данные.

"Надлежащее управление данными, эффективное и этическое их использования жизненно необходимы для будущего экономики и общества. Мы и дальше будем тесно сотрудничать с представителями отрасли для реализации всех необходимых наработок", - отметил он.

По сути, широкое распространение системы искусственного интеллекта начнут приобретать только тогда, когда люди будут доверять им, знать, что они надежно управляемые. Без этого весь огромный потенциал улучшения благосостояния человека, который несут в себе эти системы, невозможно будет реализовать в полном объеме.

По теме:

• СМИ: Сервера для приложения "Дія" арендуют в Amazon
• Верховная Рада продлила блокировку российских соцсетей и IT-сервисов