Адаптивные нейросети

Введение

Мозг человека постоянно занят информационной обработкой, а именно обработкой информации, которую ему поставляют органы чувств. Это могут быть звуковые данные, различные картинки, запахи и тому подобное. Значительная доля этой информации является неважной и по этой причине мозг её просто игнорирует. Но оставшуюся незначительную часть информации, имеющую какую-то ценность, мозгу нужно не только обработать, но и сохранить в зоне постоянной, то есть долговременной памяти. Следует отметить, что не просто запоминаются новые объекты, а выполняется их идентификация с уже имеющейся из предыдущего опыта информацией. Но с другой стороны, занесение в память новых объектов не должно отражаться на образах объектов, уже имеющихся в ней. Указанные моменты, характеризующие работу мозга человека, нашли отражение в теории адаптивного резонанса.

Адаптивные нейросети

Сегодня существует довольно большое число вариантов архитектурных построений искусственных адаптивных нейронных сетей, но главными считаются два:

1. АРТ-1 — это сеть на основе адаптивной резонансной теории (в английском варианте ART, то есть Adaptive ResonanceTheory), которая служит для разбиения объектов на кластеры, сохранения и идентификационных процедур над образами в двоичном сигнальном формате.
2. АРТ-2, также служит для разбиения объектов на кластеры, сохранения и идентификационных процедур над образами, но уже как в двоичном сигнальном формате, так и в аналоговом сигнальном формате. Возможно применение пары этих сигнальных форматов в единой структурной организации.

В большинстве известных архитектурных организаций нейронных сетей заложено чёткое деление жизненного цикла на две стадии, а именно обучения и применения на практике. В сетях типа АРТ такого строго разделения не предусматривается. Эти сети выполняют обучение в течение всего временного интервала их применения на практике, в том числе и на стадии практической эксплуатации.

В структурном построении всех сетей типа АРТ содержится только один нейронный слой. Число входных переменных равняется числу бинарных или вещественных параметров, которые характеризуют объект. Число выходных сигналов является переменной величиной. При начале работы нейросети выходных сигналов нет совсем. Но с течением времени их число начинает расти по мере появления новых неизвестных входных образов, формирующих фактически новый кластер. Это означает, что сети типа АРТ являются самоорганизующимися. На рисунке ниже приведена структурная организация и алгоритм функционирования нейронной сети типа АРТ-1:

Рисунок 1. Структурная организация и алгоритм функционирования нейронной сети типа АРТ-1. Автор24 — интернет-биржа студенческих работ

Структура сети АРТ-1 отличается от общеизвестных структур тем, что у неё входы соединяются с выходами не при помощи одного, а при помощи двух синапсов (точка контакта между двумя нейронами, или между нейроном и принимающей сигнал клеткой):

1. Wij — это синапсы памяти, предназначенной кратковременного хранения.
2. Tij — это синапсы памяти, предназначенной для долговременного хранения.

Кратковременная память предназначена для установления кластеров, к которым можно отнести входной образ.

Долговременная память предназначена для определения степени соответствия образа на входе кластерам, а также определения нейрона, который считается победителем, или выработки решения о формировании нового кластера.

Так как АРТ-1 использует двоичные входные сигналы, то есть нуль или единица, то никакого добавочного преобразования или изменения масштаба входной информации выполнять не нужно. В алгоритме работы АРТ-1 имеется три этапа жизненного цикла:

1. Выполнение инициализации сети.
2. Выполнение распознавания образа.
3. Осуществление кластеризации образа.

При осуществлении инициализации поочерёдно проходятся такие этапы:

1. Задаётся условие сходства Rкр (0
2. Первый нейрон (кластер) образуется для образа, первым попавшим на входы сети.

Стадия, где выполняется распознавание образа, состоит из следующих этапов:

1. Новый образ поступает на входы сети. Для всех нейронов выполняется расчет значения его выходного сигнала при учёте коэффициентов памяти, предназначенной для кратковременного хранения:

   
   
   Рисунок 2. Формула. Автор24 — интернет-биржа студенческих работ

2. Выходы нейронов, имеющие положительные значения, показывают на кластеры, которые имеют аналогию по качественным показателям с входным образом. Когда выходы равны нулю, то это означает, что входной образ не может быть включён ни в один из кластеров. Поэтому выполняется создание нового нейрона, обладающего требуемыми синаптическими коэффициентами. Далее согласно алгоритму выполняется возврат к первому пункту.

Количественная аналогия входного образа с кластерами должна определяться на этапе кластеризации образа (его сравнения):

1. Выполняется расчёт количественной меры похожести входного образа с кластером, который имеет максимальную величину выхода нейрона в первом пункте предыдущей операции.
2. В случае выполнения условия Rj > Rкр, j-й нейрон назначается победителем, а образ на входе принимается как соответствующий j-му кластеру. В таком случае для нейрона осуществляется перерасчёт его коэффициентов веса.
3. Когда условие Rj > Rкр не выполнено, то выполняется возврат к первому пункту и проверяются другие кластеры, идущие по убыванию их значений выхода. Эта операция выполняется до момента определения победившего нейрона или пока не будут пройдены все кластеры, имеющие положительный выход нейрона.
4. В случае, когда победивший нейрон не определён, выполняется формирование нового кластера, имеющего синаптический коэффициент нейрона, рассчитанный по нужным соотношениям. После этого согласно алгоритму выполняется переход снова на распознавание образа.