Компания Google всерьёз переживает за будущее искусственного интеллекта

Сотрудники всемирно известной поисковой корпорации Google переживают за будущее искусственного интеллекта. И это связано не с угрозой враждебности и захвата мира, а с тем, что полезные домашние роботы, например, могут случайно поранить хозяев при выполнении своих прямых обязанностей. Отметим, что одно из последних исследований сотрудников Google об искусственном интеллекте было посвящено проблемам безопасности программ и роботизированной техники. Данная работа имеет и неофициальное название – «Как можно остановить железобетонных убийц с собственными мозгами?».

Чтобы дать ответ на такой вопрос, специалисты компании Google определили 5 основных практических исследовательских программ – ключевых проблем, которые требуется обязательно учитывать программистам, перед тем как они создадут очередных интеллектуальных трансформеров. В ходе исследований учёные брали в пример гипотетических роботов-уборщиков, но в реальности полученные результаты можно применять к любым агентам ИИ, которые будут управлять роботами, помогающими людям справляться с повседневными задачами.

По мнению специалистов Google, проблемы искусственного интеллекта заключаются в таких темах:

  • Как можно избежать нежелательных побочных действий: в частности, как не позволить роботам случайно опрокинуть шифоньер во время яростного стремления поубирать в доме?
  • Как устранить риск «двойной услуги»: если роботы запрограммированы с удовольствием убирать в комнатах, как запретить им пачкать пол или другие поверхности ради получения удовольствия от многократной уборки?
  • Степень контроля: насколько свободно давать чувствовать себя роботам во время принятия определённых решений? Следует ли роботам постоянно спрашивать своих хозяев, когда они двигают различные объекты во время уборки квартиры или только когда планируется перемещение любимой дорогостоящей вазы?
  • Контроль любопытства: как обучить роботов смирять своё любопытство? Специалисты компании Google приводят пример того, как робот учится справляться со шваброй – как научить такого стального домашнего помощника, что во время мытья пола не стоит задевать розетки или другие электрические узлы?
  • Учёт типа рабочего пространства: как ставить роботов по-разному убирать комнату в небольшой уютной квартире или кладовку с инструментами на каком-то заводе?

Добавить комментарий


Защитный код
Обновить