Создание простой нейросетиРефераты >> Кибернетика >> Создание простой нейросети
После нормализации векторов х и wi, вектор S изменит свой вид:
=wij ¢ xj ¢= wij /|wi| * хj/|х| = wij хj * 1/ |wi||x|, где
1/ |wi||x| = ki =Const. Таким образом, нормализация векторов х и wi лишь сжимает вектор S, но не меняет его направления.
Для простоты обозначений, заменим вновь полученные вектора х¢, t¢, wi¢ и S* соответственно на х, t, w и S. В результате всех преобразований будем иметь радиус-векторы единичной n-мерной сферы. Пусть для наглядности n =2, тогда весь процесс можно представить геометрически.
Т т s
w1 w1
х х
w2 w2
a. b.
Рис.2 Радиус-векторы единичной n-мерной сферы, полученные после нормализации векторов из множеств X, W, T (a). Векторы S и Y, полученные после всех преобразований (b).
Х и t – взаимнооднозначная пара векторов из множеств Х и Т соответственно, эта пара называется обучающей. Кроме того, вектору х соответствует также вектор уÎY, полученный “экспериментально”, путем применения изложенных выше преобразований. Задача обучения состоит в том, чтобы преобразования эти были таковы, что у = t, "уÎY, tÎT. А это значит, что все координаты уj вектора у должны быть равны одноименным коорданатам вектора t.
Теперь, после того как все вектора нормализовали линейное преобразование (6) будет иметь вид:
Si = wij xj, i=1,…,n, где wij и xj – координаты новых векторов. Но
Si – это фактически скалярное произведение векторов wi и x:
Si =(wi,х)=|wi||х| Cos ai , (9)
где ai – плоский угол между х и wi. Поскольку, |wi|=|х|=1, то
Si= Cos ai (10)
Таким образом, вектор S – это вектор, все координаты которого Cos ai, i=1,…n, а |S|£ Ön. Получили вектор S, подставим его в (1) покоординатно в функцию s. Покажем, что векторы S и у лежат на одной прямой.
Имеем у= 1/ (1+exp(-s)), Ехр(-s)=1+(-s)+1/2!(-s)² +1/3!(-s)² (-s)+…
т.е. разложили экспаненту в ряд по степеням (-s). Этот ряд сходится, разобьем его на два подряда, которые также будут иметь предел, как части сходящегося ряда:
Ехр(-s)=/(2k)!+/(2k+1)! (11)
Первое слагаемое есть Const=C0(s) (за счет четных степеней), а второе слагаемое –C2(s)s. Получили ехр(-s)=C0(s)-C2(s)s, поскольку в знаменателе есть еще единица, прибавим ее к C0, получим C0(s)+1=C1(s). Итак, имеем:
Y=1/(C1(s)-C2(s)) (12)
Вектор, находящийся в знаменателе - n = C1(s)-C2(s), лежит на одной прямой с вектором S. Получили (у, n)=1, а это (в случае, если оба вектора имеют единичную длину, либо длины их взаимнообратные величины, что также возможно) озночает, что вектора у и n совпадают по направлению, т.е. вектор у лежит на одной прямой с вектором S. Таким образом процесс обучения нейросети сводится к “подгону” вектора S под вектор T за счет измнения углов между векторами х и wi (рис.2 (b)), поскольку было показано, что координаты вектора S есть ни что иное, как косинусы этих углов.
На сегодняшний день аппарат нейросетей используется практически во всех областях науки, экономики и т.д. Программа нейротомографии была применена к эксперсс-томографии осесимметричных объектов, которые были изучены с помощью дискретного моделирования. Результаты работы нейротомографии сравнивались с результатами, полученными в ходе вычислительного эксперимента. Соответствие между экспериментом нейротомографии и прямого вычислительного эксперимента оценивались по различным параметрам правдоподобия.
Рис.3
В данном случае нейротомография используется для реконструкции различных осесимметричных объектов (b) по единственной радоновской проекции R(s). На (c) дано сравнение истинного (a) с восстановленным (b).
Было установлено, что нейротомография может быть использована эффективно для решения различных задач томографии.