Организация функционирования нейросети

При использовании гиперплоскостей каждый нейрон j с пороговой функци­ей активации, j Î EMBED {1, ..., N}, N — число нейронов в сети, задает ги­перплоскость значениями весов своих входов:

a_j - = 0 ,

где n(j) — число входов нейрона j , a_j — величина порога.

В этом случае запоминание примеров выполняется путем формирования нейронной сети и заданием весов входов. Изменение весов входов, числа нейронов, графа межнейронных связей меняет набор и положение разде­ляющих гиперплоскостей, разбивающих многомерное пространство на об­ласти.

На рисунке приведено схематичное изображение возможностей сетей с дву­мя входами по разбиению областей двумерного пространства. Одноуровне­вая сеть, известная также как простой персептрон, не способна разделить на два класса точки, соответствующие нулевым и единичным значениям буле­вой функции "исключающее ИЛИ". Двухуровневые сети и сети с большим числом уровней способны справиться с этой задачей. Посредством нейросетей с числом уровней, превышающим два, и с n входами может быть задана произвольная булева функция от n переменных.

Двухуровневая нейронная сеть способна аппрок­симировать с любой наперед заданной погрешностью EMBEDe > 0 любую непрерывную функцию f(x₁, x₂, ..., х_n), определенную на ограниченном множестве:

f(x₁, x₂, ..., х_n) =

где n_iEMBED — веса входов нейрона второго слоя с линейной функцией активации; EMBEDw_ij — вес j-го входа, j = 1, ..., n, i-го нейрона, i = 1, ..., N, первого слоя с сигмоидной функцией активации; N — число нейронов пер­вого слоя.

Такие сети называются многоуровневыми персептронными сетями.

В случае покрытия гипершарами каждый нейрон задает значениями весов
своих входов координаты центра гипершара, а также запоминает радиус этого гиперкуба.

Эти сети называются сетями с радиусными базисными функциями.

Как видно, в обоих случаях имеет место реализация распределенного кол­лективного запоминания нейронами при обучении предъявленных сети примеров. Естественно, что этими двумя случаями разнообразие нейронных сетей не должно исчерпываться, т. к., например, в качестве разделяющих поверхностей могут использоваться не гиперплоскости, а гиперповерхности второго и более высоких порядков.

В ходе функционирования сеть относит предъявленный на ее входы набор значений к той или иной области, что и является искомым результатом. За­метим, что предъявляемый сети набор входных значений мог не подаваться на входы сети при обучении. Но, в силу сформированных посредством других наборов входных значений совокупности областей, этот набор попа­дет в одну из них. Если результат правильный, то имеет место правильно функционирующая сеть, иначе сеть обучена или сконструирована с ошиб­кой. Поэтому смысл процедуры обучения или конструирования — отделе­ние множеств точек каждой области без включения посторонних точек и потери своих.