Глубинные нейронные сети
Глубинное обучение – это совокупность методов машинного обучения, которые основаны на обучении представлениям, а не специализированных алгоритмах под конкретные задачи.
Глубинные нейронные сети – это искусственные нейронные сети с несколькими слоями между входными и выходными слоями.
Глубинная нейронная сеть находит корректный метод математического преобразования с целью превращения входных данных в выходные, вне независимости от линейной или нелинейной корреляции. Такая сеть продвигается по слоям и рассчитывает вероятность каждого выхода. Например, глубинная нейронная сеть, которая обучена распознавать породы собак, пройдет заданному изображению и рассчитает вероятность того, что собака на изображении относится к определенной породе. Пользователь сети может рассмотреть результаты и выбрать вероятности, которые должна отображать сеть и вернуть в сеть приложенную метку. Каждое математическое преобразование считается одним слоем, а сложная глубинная нейронная сеть имеет большое количество слоев.
Глубинная нейронная сеть может моделировать сложные нелинейные отношения. Архитектурой глубинной нейронной сетью генерируются композиционные модели, где объект выражается в виде композиции примитивов с большим количеством уровней. Дополнительные уровни предоставляют возможность для составления элементов из более низких уровней, посредством потенциального моделирования сложных данных с меньшим количеством единиц, чем маленькая сеть с аналогичными показателями. Глубокая архитектура состоит из большого количества вариантов основных подходов. Как правило, глубинная нейронная сеть представляет собой сеть с прямой связью, где данные передаются от входного уровня к выходному без обратной связи. Сначала глубинная нейронная сеть создает виртуальную карту нейронов, а затем назначает числовые значения соединениям между ними. Числовые значения соединений и входные данные умножаются и возвращают выходной сигнал от 1 к 0. В том случае, если сеть не точно распознала шаблон, то алгоритм будет корректировать числовые значения соединений до тех пор, пока не определит те, которые правильно обрабатывают информацию.
Методы и алгоритмы глубинного обучения
Глубокое обучение характеризуется как класс алгоритмов машинного обучения, который:
- во время обучения формирует слои на нескольких уровнях представлений, соответствующие различным уровня абстракции. Слоями образуется иерархия понятий;
- использует многослойную систему нелинейных фильтров с целью извлечения признаков с преобразованиями. Каждый следующий слой на выходе получает выходные данные от предыдущего слоя. В системе глубокого обучения могут сочетаться алгоритмы обучения с учителем и без него. В данном случае анализ образца - обучение без учителя, классификация - обучение с учителем;
- является частью более широкой области машинного обучения изучения представленных данных;
- обладает несколькими слоями для выявления параметров или признаков представления данных. В данном случае признаки организованы иерархически, признаки более высокого уровня являются производными от признаков более низкого уровня.
Вышеприведенные определения констатируют следующее: наличие нескольких слоев нелинейной обработки; обучение с учителем или без учителя признаков каждого слоя, формируя иерархию к высокому уровню от низкого. К глубинному обучению относятся следующие методы, а также их вариации:
- Определенные системы обучения с учителем, например, сверточная нейронная сеть, выведшая на новый уровень технологию распознавания образцов.
- Рекуррентные нейронные сети, которые позволяют обучаться на процессах во времени.
- Рекурсивные нейронные сети, которые позволяют включать обратную связь между цепочками и элементами схемы.
- Определенные системы обучения без учителя, например, глубокая сеть доверия, автоматический кодировщик, генеративно-состязательная сеть, а также ограниченная машина Больцмана.
Рекурсивные нейронные сети – это нейронные сети, которые работают с данными переменной длины.