Какую опасность для человечества может представлять искусственный интеллект

Какую опасность для человечества может представлять искусственный интеллект

Развитие искусственного интеллекта однажды приведёт к превосходству его над умственными способностями человека. Однако не станет ли это опасным для человечества? Изучить ситуацию можно в результате более точного определения понятия ИИ, взяв за основу для сравнения естественный интеллект. Может ли в одном человеке сочетаться ум и интеллект одновременно? Или же умный человек не может быть интеллектуалом и наоборот?

Такие вопросы возникают в связи с приближением эры ИИ, о возможной опасности которого человечество должно знать заранее и своевременно принять меры для обеспечения своей безопасности. В первую очередь опасность ИИ будет связана с его самостоятельностью и неконтролируемым принятием решений. На данный момент уже выделены средства для изучения этой проблемы. В институте OpenAI изучаются перспективы развития ИИ. На теперешней стадии развития систем ИИ опасность его применения может быть связана со следующим факторами:

  • ошибками ПО (программного обеспечения). Любому программному обеспечению может угрожать такая опасность;
  • самостоятельной активностью ИИ, вредной для человека. Опасность от ИИ может исходить после изобретения умного компьютера. Поэтому необходимо определиться со степенью ума для компьютера, которая способна быть допустимой, а также чрезмерной, представляющей опасность для человека. Эти свойства должны быть точно измерены из-за сближения умственных способностей человека и компьютера, которые неизбежны. Информационные системы, существующие сегодня, представляют собой человеко-машины, которые могут работать благодаря интеллекту пользователя либо эксперта по компьютерам.

Например, какая опасность будет исходить от интеллектуальной бухгалтерской системы, которой может выдаваться неверная информация? Опасность может возникнуть, когда у такой системы появятся элементы личности, например, собственная заинтересованность, не имеющая ничего общего с человеческой. Решением такой проблемы может быть запрет на создание систем, отличающихся возможностью эволюции.

Кроме того, опасность может быть связана с содержанием в ИИ логических ошибок. Он может использоваться для решения достаточно сложных задач, список которых сразу неизвестен. Поэтому должны быть предусмотрены специальные меры для подтверждения правильности решение, которое будет получено. Скорее всего, возникнет необходимость в разработке всевозможных способов контроля таких систем, например, специальных программных средств, которыми будет автоматически проверяться правильность решения и при этом участие человека не потребуется.


Если у вас есть статья, заметка или обзор, которыми вы хотите поделиться с аудиторией нашего сайта, присылайте информацию на: neuronus.com@yandex.ru.
Гость, оставишь комментарий?
Имя:*
E-Mail:


Свежее новое
  • Ракеты «Циркон» и «Кинжал» разгонят до скорости более 10 Махов
  • Российские разработчики занимаются усовершенствованием гиперзвуковых ракет «Циркон» и «Кинжал». Их скоростные характеристики будут улучшены до
  • Разум искусственный – утопия
  • Мышление – это процесс манипулирования информацией в формате трехмерного, полимодального образа. Оперировать подобной информацией может лишь головной
  • В Эфиопии найден древний город Аксумского царства
  • Аксумское царство, существовавшее в древности на территории современной Эфиопии и соседних государств, таит много загадок. Недавно археологам
  • Россия потратила в 2019 году 1,5 трлн рублей на вооружение
  • Итоги обновления в Вооруженных Силах России впечатляют. Только за 2019 год на эти цели было потрачено около полутора триллионов рублей.
  • Ученые определились с оптимальным местом высадки будущего десанта землян на Марс
  • Местом будущей высадки марсонавтов ученые назвали равнину Аркадия. Одно из ее базовых преимуществ — наличие доступных залежей льда.
Последние комментарии
Китайцы показали, какого цвета Луна на самом деле, и заподозрили американцев во лжи
Советую пересмотреть фильм"Козерог-1",и мультфильм"Незнайка на луне"!Оба именно про схему обмана NASA простых граждан!!Чем больше шумихи вокруг
Китайцы показали, какого цвета Луна на самом деле, и заподозрили американцев во лжи
Ты почти прав.Только на орбите могло их дерьмо болтаться,а не ракета!:) До сих пор ни единого грамма этого псевдо"лунного"грунта не было передано
Китайцы показали, какого цвета Луна на самом деле, и заподозрили американцев во лжи
В США было прогрессивное надувательство всего мира!!:)))Ради доказательства"широких возможностей капиталистического мира"!!:)))
Китайцы показали, какого цвета Луна на самом деле, и заподозрили американцев во лжи
Реокмендую пересмотреть ещё два фильма!"Козерог-1",и мультфилм"Незнайка на луне"!Оба прямо сняты по событиям мистификации полёта америкосов!!!:)
Китайцы показали, какого цвета Луна на самом деле, и заподозрили американцев во лжи
Невозможно дезертировать с объекта,на котором ты не был никогда!!:))))))))))))
Мы в социальных сетях
Статистика
1  
Всего статей 2279
1  
Всего комментариев 628
0  
Пользователей 165