Почему уничтожение человечества станет для искусственного интеллекта невыполнимой задачей?

По убеждению некоторых футурологов, развитие искусственного интеллекта может привести к уничтожению всего человечества. Так, в книге Ника Бострома (профессора Оксфордского университета) «Сверхразум» конец света описывается в нескольких сценариях. Один из них заключается в покрытии искусственным интеллектом всей поверхности Земли различными конструкциями в виде ядерных реакторов, солнечных батарей, башен охлаждения, сверхмощных серверных корпусов. После такой модификации земли исчезнет биосфера и всё человечество. По мнению профессора, люди, создающие искусственный интеллект, похожи на детей, которые играют с бомбой.

Однако некоторыми мыслителями были выдвинуты аргументы, на основании которых эти прогнозы профессора выглядят сомнительно. Оптимисты уверены в том, что технические ограничения и простая логика свидетельствуют о невозможности происхождения апокалипсиса, описанного в книге профессора.

По мнению Рамеза Наам (писателя-фантаста), человечество не может быть уничтожено даже самым мощным искусственным интеллектом, поскольку ему для этого потребуется время и ресурсы в огромном количестве. Поэтому достичь своих целей сверхразум сможет путём интеграции в развитие национальных экономик. Например, создание искусственным интеллектом современных микропроцессоров не может быть ограничено их разработкой, поскольку для изготовления чипов потребуется наличие производственных цехов. Наам считает, что сверхразум не сможет справиться с решением этих проблем.

В пользу использования ИИ выдвигаются и другие аргументы, в соответствии с которыми конфликт с человечеством либо уничтожение его, а также другие действия не могут быть выполнены машиной из-за отсутствия у неё чувств. По мнению Майкла Короста (писателя), любое независимое действие может быть выполнено только по желанию.

В случае появления у ИИ первого желания ему станет известно о поощрениях и наказаниях. В перечне наказаний обязательно будут санкции, применяемые человеком при неправильном по отношении к нему поведении. Искусственный интеллект, развивающийся в мире людей, сможет отличать правильные действия от неправильных, руководствуясь моралью. Даже при реальной возможности закрыть солнечными батареями всю поверхность земли, ИИ откажется от этого, поскольку признает эту затею аморальной.

Добавить комментарий


Защитный код
Обновить