Человеческий мозг непрерывно занимается обработкой информации, поступающей от органов чувств: звуки, запахи, изображения и т. д. Бо́льшая часть такой информации не представляет интереса или неважна и поэтому игнорируется. Однако та небольшая ее составляющая, что имеет ценность, должна быть не только обработана, но и сохранена в долговременной памяти. Важно понимать, что при этом не только новые образы должны запоминаться, но также должны идентифицироваться ранее встречавшиеся. В свою очередь, запоминание новых образов не должно влиять на образы, хранящиеся в памяти.
Приведенные особенности работы человеческого мозга отражены в теории адаптивного резонанса. Несмотря на существование в настоящее время сравнительно большого количества вариантов архитектур искусственных нейронных сетей адаптивного резонанса, основными остаются две:
– АРТ-1 (от англ. ART – AdaptiveResonanceTheory) – для кластеризации, хранения и идентификации образов в форме двоичных сигналов;
– АРТ-2 – для кластеризации, хранения и идентификации образов, представленных как в форме двоичных сигналов, так и в форме аналоговых сигналов, в том числе с использованием обоих типов сигналов в одной структуре.
В отличие от большинства существующих архитектур нейронных сетей АРТ-сети не предусматривают строгого деления жизненного цикла на стадии обучения и практического использования. Они продолжают обучаться на протяжении всего времени их практического использования, включая этап практической эксплуатации.
Структура любой АРТ-сети содержит единственный слой нейронов. Количество входных переменных равно количеству двоичных или вещественных признаков, характеризующих объект. Количество выходов непостоянно. В момент начала функционирования сети выходов нет вовсе. Постепенно их количество возрастает с каждым новым незнакомым входным образом, образующим, по сути, новый кластер. Таким образом, очевидно, что АРТ-сети – самоорганизующиеся.
Рассмотрим структуру и алгоритм работы нейронной сети АРТ-1 (рис. 1).
В отличие от большинства структур других нейронных сетей входы АРТ-1 связаны с выходами не одним, а парой синапсов: wij – синапсы кратковременной памяти; tij – синапсы долговременной памяти. Назначение кратковременной памяти – установление кластеров, к которым может быть отнесен входной образ. Назначение долговременной памяти – установление степени соответствия входного образа кластерам, определение нейрона-победителя или принятие решения о создании нового кластера.
Рис. 1. Структура нейронной сети АРТ-1
Поскольку АРТ-1 работает с бинарными входами (0 или 1), никакая дополнительная нормализация или масштабирование входных данных не требуются.
Алгоритм функционирования АРТ-1 включает 3 стадии жизненного цикла: инициализацию сети, распознавание образа, кластеризацию образа (сравнение). На стадии инициализации последовательно выполняются следующие этапы:
1.1. Устанавливается параметр сходства Rкр (0 < Rкр < 1), причем чем он больше, тем выше должно быть сходство образа и кластера для отнесения к последнему.
1.2. Для первого поданного на входы сети образа создается первый нейрон (кластер), значения синаптических связей которого устанавливаются согласно следующим соотношениям: