ТЕХНИЧЕСКОЕ ЗРЕНИЕ

      Еще недавно роль видеосистем в роботизированных платформах являлась скорее продолжением интерфейса человека и машины, нежели полноправным устройством, функционирующим в контуре автоматического регулирования. Примером таких систем являются многочисленные разработки для видеонаблюдения, видеофиксации или полуавтоматического управления с обязательным присутствием человека — оператора. Вычислительной мощности встраиваемых систем просто не хватало для глубокого анализа потока видеоданных, и проводимые вычислительные операции были ограничены в основном цифровой фильтрацией и стабилизацией изображений. Это неудивительно, так как объем информации, вырабатываемый видеосенсорами, велик и обычно многократно превышает суммарный объем данных с других датчиков.

      В последнее время стало возможным проводить более глубокий анализ видеоданных и встраивать видеосенсоры в автоматические системы управления без необходимого присутствия человека в контуре. Во-первых, это обусловлено тем, что вычислительные способности встраиваемых систем постоянно растут, во-вторых, последние успехи сверточных нейронных сетей (СНС) в задачах классификации изображений можно рассматривать как революционные. Следует отметить, что принцип работы сверточных нейронных сетей был заимствован у природы, особенности функционирования первичной зрительной коры находят отражение в архитектуре сверточных сетей.

      Вместе с тем задачи управления не ограничены задачами классификации, при управлении динамическими объектами важно получать информацию не только о классе объекта, но и о его положении, скорости и других параметрах. Решение таких задач, как определение своей позиции в пространстве или расчет положения и ориентации каких-либо сторонних объектов является одним из самых востребованных направлений развития подходов в управлении на данный момент. Помимо этого, решение практических задач технического зрения зачастую характеризуется  отсутствием возможности заранее классифицировать обучающую выборку изображений. Соответственно, в части практических задач применение подхода обучения с учителем невозможно, и целесообразно адаптировать нейросетевые архитектуры к применению методики обучения с подкреплением.

      В нашей работе мы ориентируемся на адаптацию текущих наработок в области сверточных сетей и в области методик обучения с подкреплением к применениям данных наработок в практических задачах управления динамическими объектами.

 

Рис.2.  Синтез нейроконстроллеров.

ВИЗУАЛИЗАЦИЯ НЕЙРОННЫХ СЕТЕЙ

     Особенностью работы с искусственными нейронными сетями (ИНС) является их функционирование по принципу черного ящика. То есть, после того как ИНС сформирована на основе какого-либо рецепта, ее функционирование скрыто от взгляда исследователя, за исключением того, что можно продолжать наблюдать сигналы на входе и на выходе сети, ну и, если ИНС встроена в систему управления и принимает участие воздействии на объект управление, качество ее работы может быть оценено по анализу поведения управляемого объекта в окружающем пространстве. В некоторых случаях этого может быть достаточно, особенно когда количество гиперпараметров (параметров настройки) сети мало и приемлемого результата можно добиться, делая итерационные эксперименты по взаимодействию сети с объектами управления или с его моделью. Но в случае если количество гиперпараметров велико, то проведение большого количества итерационных экспериментов является малоэффективным. Это происходит по причине того, что проводимая область поиска поневоле ограничена количеством экспериментов, которое может выполнять исследователь за разумное время. Это является своего рода «проклятием размерности» области поиска при построении нейросетевых архитектур.

      Одной из возможностей увеличения эффективности работы с нейросетевыми структурам является использование подхода, заимствованного из нейрофизиологии. Нейрофизиологи уже некоторое время в своей работе широко используют 3D-визуализацию. Ярким примером такого подхода является международный проект The Blue Brain Project. В нем исследователи-нейрофизиологи совместно с инженерами из области компьютерного моделирования и визуализации воссоздают точную модель колонки неокортекса млекопитающего. Причем основной акцент делается на получении информации в процессе наблюдения за симуляцией 3D-моделей. Исследователь в этом случае находится в постоянном интерактивном взаимодействии с симулируемой моделью. Это позволяет вырабатывать и проверять гипотезы более быстро и продуктивно. Данный подход позволяет отойти от методики работы с черным ящиком и повысить эффективность работы путем постоянного интерактивного взаимодействия с тестируемой моделью.

      Характер задач при синтезе нейроконтроллеров для систем управления существенно отличается от задач, решаемых нейрофизиологами. Нейрофизиологи стараются изучить принципы работы естественных биологических нейронных сетей и механизмы работы памяти для того, чтобы впоследствии применять полученные знания для создания новых медикаментов и решения других задач из области медицины и биологии. С другой стороны, области управления требуется возможность построения эффективных нейроконтроллеров для решения конкретных инженерных прикладных задач. Помимо этого, создаваемые нейросетевые модели должны быть адекватны прежде всего решаемым задачам в области управления и не содержать заведомо лишних деталей.

      Мы заимствуем у нейрофизиологов их подход к 3D-визуализации, при этом из модели сети исключаются те детали, где есть основания полагать, что они не влияют непосредственно на обработку и передачу информации. Упрощение требований к сложности моделей позволяет разрабатывать инструментарий 3D-анализа работы нейронных сетей на персональных ЭВМ без привлечения вычислительных кластеров и суперкомпьютеров. На данный момент ведется работа над комплектом программ для визуализации нейросетей на основе технологии OpenGL и над набором расширений для популярных 3D-платформ для детальной, более качественной офлайн-визуализации. Работа с 3D-моделями зарекомендовала себя как мощный инструмент анализа и разработки нейросетевых моделей.

 

 

 

 

Рис.1. Техническое зрение.

СИНТЕЗ НЕЙРОКОНТРОЛЛЕРОВ

      На данный момент существует большое количество подходов к построению нейроконтроллеров, эти подходы различаются по принципам функционирования. Можно выделить подходы подражающего нейроуправления, инверсного нейроуправления, обратного пропуска ошибки, приближенного динамического программирования и пр. Вместе с тем существует большое многообразие типов нейросетей, что значительно увеличивает количество возможных вариантов построения нейроконтроллеров.

    Помимо этого, определившись со структурой нейроконтроллера и типом применяемой нейросети, разработчик сталкивается с проблемой настройки параметров сети (гиперпараметров) и способов ее обучения. Все это делает задачу более или менее оптимального управления на основе искусственных нейронных сетей (ИНС) даже для простых прикладных задач практически неосуществимой. Можно выделить большое количество публикаций, в которых авторы останавливаются на том или ином подходе, по их собственным словам, используя зачастую просто интуитивные предположения.

    Оптимизация гиперпараметров нейросети дает возможность в некоторой степени формализовать подход к построению нейроконтроллеров, близких к оптимальным, для конкретных прикладных задач. При этом предлагается сделать акцент на методах, в которых целесообразно подвергать оптимизации все параметры, включая структуру контроллеров, морфологию и параметры обучения нейросети. Одним из подходов к решению данной задачи является эволюционная оптимизация по множественным параметрам, при этом отмечается возможность одновременной оптимизации совмещенных нейронных сетей различного типа для решения одной задачи. Между тем следует отметить, что оптимизации подвергается не «фенотип» сети, а ее «генотип», то есть рецепт ее построения. Этот подход позволяет удерживать область поиска в разумных пределах, при этом практически не ограничивая результирующую сеть по сложности.

      К примеру, можно рассмотреть синтез участка неполносвязной рекуррентной спайковой сети, в которой ее пространственное строение описывается всего несколькими параметрами. Схожим образом определяется механизм кодирования методики соединения нейронов, методики обучения, параметров функционирования и пр. Следует отметить, что при таком подходе, даже при синтезе относительно сложной сети, список параметров, определяющих рецепт ее создания, может состоять всего из нескольких десятков величин, которые легко поддаются оптимизации.

Рис.3. Визуализация нейронных сетей.