Накопители на магнитной ленте

- справочно-обучающую.

Развитие технологии проектирования и специального программного обеспечения связано с внедрением бригадного метода. Его существо заключается в одновременной работе нескольких проектировщиков на с Рис.5. Структура технических средств АРМ (а) и состав аппаратуры рабочих мест (б).

Таблица 4

КОМПЛЕКСИРОВАНИЕ АРМ

Состав базового программного обеспечения и технических средств АРМ позволяет использовать АРМ автономно или в нескольких вариантах сопряжения с другой аппаратурой.

АРМы с одним или несколькими рабочими местами могут объединяться в последовательный комплекс. Комплекс настраивается на решение одной или ряда последовательных на маршруте проектирования задач (рис.7.б).

Например, ввод задания на разработку печатных плат, синтаксический контроль и размещение элементов выполняют на первом АРМе и по каналу связи передают на второй АРМ. На нем проводится трассировка, корректировка и передача информации для изготовления комплекта конструкторской документации на третий АРМ.

Подобная маршрутно-специализированная конфигурация позволяет устранить непроизводительные затраты времени на смену магнитных носителей, загрузку систем и ограничить количество периферийных устройств.

Построение информационно-графических комплексов для САПР на базе АРМ (рис.7.а, б, в, г) расширяет возможности и увеличивает эффективность применения САПР. НА ЦВК выполняются программные модули по директивам с АРМов, а ввод, контроль, вывод и редактирование производится пользователем на средствах АРМ.

В этом случае требуется удаленное размещение технических средств АРМ и ЦВК. Для этого используются устройства сопряжения (групповые устройства сопряжения - ГУС и индивидуальные ИУС), телефонные каналы связи , мультиплексоры и аппаратура передачи данных.

Рис.7. Варианты использования АРМ в САПР:

а - групповое АРМ;

б - маршрутно-ориентированное АРМ;

в - иерархически связанные ЦВК-АРМ;

г - удаленные АРМ в иерархических САПР.

ПЕРСПЕКТИВЫ РАЗВИТИЯ АРМ

Дальнейшее развитие АРМ связано с:

- использованием новых технических средств,

- разработкой нового базового и прикладного программного обеспечения,

- развитием технологии автоматизированного проектирования,

- объединением АРМ в иерархические и сетевые структуры.

Широкое распространение получают профессиональные персональные ЭВМ с использованием процессоров 386 и 486 и специализированных, а также соответствующего программного обеспечения.

Параметры новых АРМ:

- быстродействие - 5-10 млн.оп/сек,

- объем внешней памяти - до 500 Мбайт,

- скорость обмена информацией по каналам связи - свыше 2 Мбайт/сек.

Рабочие места будут оборудованы цветными графическими дисплеями с регенерацией или растровыми с размерами экрана до 50 см по диагонали и проекционных с площадью экранов в несколько квадратных метров.

Базовое программное и лингвистическое обеспечения должны включать в себя:

- средства создания многомашинных сетевых и иерархических структур;

- мониторную систему;

- операционную систему реального времени;

вязанных друг с другом АРМами по разработке логики и схемотехники БИС, топологии БИС и печатных плат, конструкций узлов и блоков изделий РЭА.

КОМПЛЕКСИРОВАНИЕ ТЕХНИЧЕСКИХ СРЕДСТВ САПР

Комплектование технических средств САПР производится на основе следующих требований:

- полноты,

- унификации,

- расширяемости,

- резервируемости,

- экономичности разработки и эксплуатации,

- эксплуатационного удобства и технологичности.

Полнота технических средств означает наличие в САПР набора технических средств всех групп для выполнения операций по всему циклу автоматизированного проектирования.

Унификация технических средств означает использование однотипных единиц оборудования для выполнения одних и тех же функций на различных уровнях САПР.

Расширяемость (открытость) технических средств означает возможность количественных и качественных изменений в составе технических средств по изменению требований к производительности и степени автоматизации проектирования, а также появления новых более совершенных типов оборудования.

Резервируемость технических средств реализуется дублированием тех или иных средств и позволяет снизить влияние их сбоев и отказов на функционирование САПР. Избыток технических средств не только повышает живучесть САПР, но и является обязательным условием успешной обработки потока задач, интенсивность которого изменяется во времени.

Экономичность разработки технических средств позволяет удешевить создание и внедрение САПР за счет последовательного многоэтапного ввода оборудования и наращивания мощности САПР с небольшим опережением относительно роста текущих потребностей.

Экономичность эксплуатации технических средств позволяет снизить непроизводительные потери за счет сочетания режимов реального времени с пакетной обработкой, коллективного использования рабочих мест.

Эксплуатационное удобство технических средств позволяет увеличить производительность разработчика и снизить уровень ошибок при взаимодействии оператора с ЭВМ за счет совершенства программно-аппаратного обеспечения.

Технологичность технических средств характеризуется степенью соответствия состава оборудования перечню проектных операций, свойственных применяемой технологии проектирования заданного объекта.

В соответствии с этими требованиями в последнее время признаны наиболее целесообразными САПР из унифицированных модулей. Они имеют достаточно развитые технические и базовые программные средства. В составе периферийных модулей широкое распространение получили "интеллектуальные терминалы" и "инженерные графические станции", создаваемые на основе микропроцессорных вычислительных средств.

Выводы:

1. Рассмотрены назначение, структура САПР, технические средства.

2. Рассмотрены назначение, структура автоматизированных мест проектировщиков и их возможности по созданию аппаратуры.

3. Определены перспективы развития технических средств автоматизированного проектирования.

НЕЙРОСТРУКТУРЫ

ВВЕДЕНИЕ

Теоретические основы нейросетевого подхода к изучению процессов переработки информации в мозге были заложены Маккалоком и Питтсом .Они изучили модельную нейронную сеть, представляющую

собой совокупность элементов( названных формальными нейронами),обменивающихся между собой информацией с помощью направленных связей. Каждый из формальных нейронов представляет собой простой процессор, осуществляющий суммирование сигналов, которые поступают на его входы. Его состояние характеризуется внутренней переменной , принимающей значение 0 ( пассивное состояние), если сумма сигналов на входах меньше фиксированного порога, и 1 ( активное состояние, в котором нейрон способен посылать сообщения другим нейронам в сети ), если указанная сумма превышает порог. Авторами

показано, что сеть таких нейроподобных элементов в принципе способна выполнять различные логические функции и по своей вычислительной мощности сопоставима с вычислительными машинами фон

неймановского типа.

Позднее Ф. Розенблатт предложил архитектуру нейронной сети, получившую название персептрона . Это вызвало большой интерес, поскольку открывалась возможность создания технических устройств, способных решать интеллектуальные задачи, такие как распознавание образов.

Основным элементом персептрона является пороговый вентиль, аналогичный формальному нейрону Мак-Коллака и Питтса. Он осуществляет суммирование с определенными весами сигналов, поступающих

от других нейронов, и переходит в состояние логической единицы(или наоборот, нуля), если эта сумма превышает пороговое значение.

В последние годы наблюдается рост активности в области теории и технической реализации искусственных нейронных сетей, в идейном отношении близких к персептрону Розенблатта. В работах Андерсона, Гроссберга, Кохонена, Хопфилда и др., выполненных в конце 70-х - начале 80-х годов, были разработаны более сложные и гибкие архитектуры сетей, составленных из нейроподобных элементов, и изучены функциональные возможности таких систем. Следует отметить, что этот процесс происходил на фоне общего возрастания интереса к многопроцессорным системам(к которым относятся в том числе и нейронные сети) и к реализации на них параллельных процессов обработки информации. Сочетание в архитектуре нейронных

сетей массированного параллелизма при обработке информации с использованием элементов-связей ( аналогов синапсов в биологии ) на стадии обучения системы выделило нейронные сети в самостоятельный

класс многопроцессорных вычислительных устройств.

Здесь рассмотрим основные архитектуры нейронных сетей, их общие и функциональные свойства и наиболее распространенные алгоритмы обучения сетей.

ОСНОВНЫЕ АРХИТЕКТУРЫ И ОСОБЕННОСТИ

На рис.1 приведена классификация нейросетевых систем.

Рис.1. Диаграмма, иллюстрирующая связь нейросетевых структур с многопроцессорными архитектурами.

FAN - процессор с распространением возбуждения.

Среди признаков, отличающих нейронные сети, часто называют массированный параллелизм при вычислениях, а также возможность программирования сетей путем обучения или адаптации. Выделяют

также локальность памяти каждого из нейронов.

ЭЛЕМЕНТЫ ИСКУССТВЕННЫХ НЕЙРОННЫХ СЕТЕЙ - НЕЙРОНЫ И СВЯЗИ

Нейронная сеть представляет собой совокупность элементов двух типов-процессоров, называемых нейронами, и элементов ( в общем случае также процессоров) - называемых связями между нейронами.

Нейрон - процессор специального вида, который имеет один выход и некоторое число входов (N) (рис.2.). Как правило, предполагается, что все нейроны выполняют одинаковую, сравнительно простую функцию

( либо существует небольшое число типов нейронов с различными функциями), например, сложение величин сигналов , i = 1, .,N , поступающих на его входы ( возможно, с некоторыми весами ). Выходной сигнал нейрона определяется с помощью суммы i вида

­­ = g [] ,

где g - нелинейная функция, определенная для каждого типа нейрона, О - порог. Пороговому элементу

i Маккалока и Питтса соответствует функция g(x), имеющая вид ступеньки ( рис.3.а)

g(x) = O (x) , O(x) = .

Для моделирования некоторых нейроподобных элементов подходит функция, представленная на рис.3 г, вида g(x) = 1 - O (x).Нелинейные функции более общего вида, в которых переходная область имеет конечную ширину а , изображены на рис.3. б и в. Нейроны такого типа удобны для моделирования аналоговых нейронных сетей.

Рис.3. Примеры нелинейных функций отклика нейронов, используемых для моделирования сетей.

Между каждыми двумя нейронами в сети ( с номерами i и j)могут быть установлены две направленные связи: (ij) и (ji) (рис.4).В некоторых случаях, например в модели Хопфилда, эти связи считаются равными. Каждой связи в сети присваивается вес . Это можно выполнить двумя способами. В первом случае считается , что собственно связи между нейронами представляют собой пассивные проводники, параметры которых неизменны. В процессе обучения изменяются веса ( см. рис.1 ), с которыми суммируются входные сигналы на каждом нейроне. При этом нумерация входов всех нейронов предполагается согласованной с нумерацией нейронов в сети. При втором способе все входы в нейрон предполагаются эквивалентными, при обучении изменяются свойства связей ( например, их сопротивления, емкости или коэффициенты усиления входящих в них усилителей ). С точки зрения математического моделирования эти способы могут не различаться. Однако при технической реализации в зависимости от используемой технологии может оказаться предпочтительней один из указанных способов. Например, пороговый вентиль относится

к первому типу, а сеть из аналоговых усилителей с насыщением - ко второму.

ТИПЫ АРХИТЕКТУР

а) Сети Хопфилда

Модель, предложенная Хопфилдом, относится к типу бинарных (или как вариант, биполярных, когда, переменная, описывающая внутреннее состояние нейронов, может принимать и отрицательное значение, например +1 и -1), а ее обучение представляет собой вариант обучения с супервизором. Она основывается на некоторых аналогиях с физическими системами, в частности, со спиновыми стеклами , а также с нелинейными динамическими системами, обладающими подходящей структурой аттракторов в фазовом пространстве. Каждый такой аттрактор может рассматриваться как отдельная запись информации ( образа ) в памяти системы. Релаксация системы из произвольного начального состояния ( имеющего смысл предъявленного

стимула) к устойчивой точке представляет собой физическую аналогию восстановления информации по достаточной ее части - распознавания образов.

В модели Хопфилда состояние системы описывается N -мерным вектором V = (), где

= 0 или 1 - описывает состояние i-го нейрона. Состояние системы, которому соответствует

одна из вершин единичного гиперкуба в N- мерном пространстве, меняется во времени по следующему алгоритму. Каждый нейрон изменяет свое состояние в случайный момент времени со средней скоростью w так, что в следующий момент случайно выбранный элемент с номером i принимает значения

= 1, если и

= 1, если (2)

Здесь - порог срабатывания i-го нейрона. В дальнейшем, как правило, предполагается, что для всех i либо =1/2 .

В последнем случае выбор порогов соответствует переходу к "биполярным" нейронам, состояния которых описываются спиновыми переменными . Поэтому в большинстве случаев можно

просто говорить о моделях (0,1) и (+_1), определяя тем самым возможные состояния элементов при нулевых порогах.

Для хранения образов памяти , s= 1, ., n используется матрица связей следующего вида:

, i-=j , (3)

В такой сети воздействие на i-нейрон будет определяться выражением для "силы"( являющейся аналогом мембранного потенциала в нейробиологии)

i-=j, = 0.

Для случайно выбранных векторов среднее значение члена в скобках равно нулю, если s-=s'. Тогда справедливо выражение:

принимает положительные значения при = 1 и отрицательные при =0.

Поэтому при пренебрежении шумом, даваемым членами с s-=s', состояние образов памяти устойчиво

( во всяком случае , при n < N ). Возможно появление дополнительных устойчивых состояний сети, не совпадающих с векторами памяти - "ложные образы ".

Динамика нейронной сети, описываемая уравнениями (2)-(3), имеет в качестве аттракторов только устойчивые стационарные точки. В случае симметричной матрицы Т в системе возможно наличие

большого числа стационарных состояний. Теория дискретных сетей Хопфилда получила в последнее время

значительное развитие. Возможность введения функции, имеющей смысл энергии, уменьшающейся в процессе релаксации начального состояния системы, позволила применить для исследования системы

хорошо разработанный аппарат статистической физики. В частности, введение сопряженной к энергии величины - эффективной "температуры" - позволило исследовать структуру устойчивых состояний и воз-

можности их изменения в процессе обучения .

Возможна реализация нейронной сети на аналоговых элементах (операционных усилителях). Это позволяет использовать их для решения задач комбинаторной оптимизации, коммивояжере, задаче о

раскраске карт, задаче оптимизации размещения электронных элементов на чипе.

б) СЕТЬ КОСКО

Коско предложил модель нейронной сети с синхронной динамикой, которая получила название двунаправленной ассоциативной памяти ( bidirectional associative memory, BAM). Она представляет инте-

рес для оптических реализаций нейронных сетей. В этой модели вся совокупность нейронов разделена на подмножества ( вообще говоря, различной мощности) - А и В . Сеть устроена таким образом, что

выходы нейронов подсети А связаны с входами нейронов подсети В и наоборот( см. рис. ). Матрица связей строится по правилу:

оно имеет вид суммы прямых произведений векторов памяти

Рис. Схема модели двунаправленной ассоциативной памяти Коско.

Динамика этой системы описывается парой уравнений

,

.

Так же, как и в случае модели Хопфилда, для ВАМ единственными аттракторами в фазовом пространстве являются устойчивые стационарные точки, называемые парой ( ). Эти точки достигаются

из произвольного начального состояния - пары векторов ( ).

Имеются модификации нейронной сети Коско:

- за счет введения матриц связи общего вида ( ассиметричных, удовлетворяющих принципу "детального баланса"),

- за счет введения ненулевых порогов, что позволяет увеличить число устойчивых состояний системы ( их число в общем случае N находится между 1 и 2 ).

в) ХЕММИНГОВА СЕТЬ

Хеммингова сеть представлена на рис. .

Она состоит из двух частей. Нижняя подсеть служит для формирования по входу - бинарному вектору длиной N - начального состояния для нейронов верхней подсети. Число нейронов в ней M.

Веса связей для нижней подсети и для верхней, а также пороги для нижней подсети устанавливаются по следующим правилам:

, = N/2 , i=1, .,N , j=1, ., M, (4)

.

Пороги для верхней подсети устанавливаются равными нулю. В выражении (4) - i-ый элемент j-го вектора памяти (число нейронов в среднем слое M совпадает с числом записанных образов).

Рис. Схематическое изображение хемминговой сети.

В данной сети выполняются итерации для нейронов верхней подсети

при начальном условии

.

Функция g в этих выражениях соответствует рис.3б, причем динамика чувствительна к выбору величины переходной области а. Процесс итераций продолжается до тех пор, пока выходы всех нейронов,

за исключением одного, не станут отрицательными.

Имеется другое название сети Хемминга - сеть с латеральным торможением ( явление латерального торможения широко распространено в нейрофизиологии).

г) ПЕРЦЕПТРОНЫ

Простейший персептрон состоит из одного слоя нейронов, соединенных связями с N входами. Соответствующая схема представлена на рис. .

Веса связей обозначены , i=1, .,N , j=1, .,M (M - число нейронов - пороговых элементов в слое). Каждый из нейронов осуществляет нелинейное преобразование сигналов, поступающих на его вход, согласно выражению (1)

, (6)

где g - пороговая функция, изображенная на рис.3а, - входные значения, = 0,1 - переменные характеризующие выходы нейронов. Переменные могут принимать произвольные значения ( в частности, могут быть аналоговыми). Согласно ( 6 ), персептрон разделяет все N -мерное пространство входных переменных { } на классы посредством гиперплоскостей. Они определяются уравнениями вида:

Может существовать не более 2 таких классов. Веса связей и пороги могут быть фиксированными либо изменяться адаптивно. Простейший алгоритм адаптации был предложен Розенблаттом.

Рассмотрим случай, когда М=1.

В этом случае персептрон осуществляет разбиение множества всех входов на два класса

A ( y= +1 ) и B ( y= -1 ). Модификация весов связей (j= 1 ) производится после каждого вычисления

выхода нейрона в соответствии с выражением ( 6 ) при подаче на вход сети очередного вектора обучающей выборки:

где 0 < n <= 1, y (t) - состояние выхода нейрона при входном векторе x(t), для которого желаемым вектором является d(t). Если выход совпадает с желаемым вектором, связи не изменяются.

Розенблатт показал, что если входные векторы , принадлежащие поочередно одному из двух классов, разделимы в пространстве входов некоторой гиперплоскостью, то указанный алгоритм сходится.

Недостатком простых однослойных персептронов является невозможность построить сложную разделяющую гиперповерхность в пространстве входов. Для того, чтобы это сделать, используют более

сложные модели - многослойные персептроны ( см. рис. ). В этих моделях вводятся "скрытые" слои нейронов, элементы которых не связаны непосредственно с входами и выходами системы.

Двухслойные персептроны позволяют формировать выпуклые оболочки в пространстве входов

(отвечающие тому или иному классу).

Трехслойные персептроны дают возможность построить области произвольной сложности. При этом ограничение только на число используемых в сети нейронов.

Однако, обучение таких сетей является весьма трудоемким процессом и для формирования необходимых матриц связей необходимо применять специальные алгоритмы.

АЛГОРИТМЫ ОБУЧЕНИЯ НЕЙРОННЫХ СЕТЕЙ

Возможность обучения является важнейшей отличительной особенностью нейросетевого подхода к построению систем обработки информации. Имеется большое число вариантов процедур обучения ней-

ронных сетей. Они могут быть разделены на два класса: обучение с супервизором и обучение без супервизора или самообучение. Использование того или иного алгоритма обучения в значительной мере

определяется архитектурой сети.

ОБУЧЕНИЕ С СУПЕРВИЗОРОМ

В этом случае формируется обучающая выборка - совокупность входных векторов { , s=1, .,N }, каждому из которых поставлен в соответствие определенный выходной вектор из множества

{ , p, .M }. Размерности входного N и выходного M векторов могут не совпадать. Процедура обучения производится при заданной топологии связей между нейронами. При этом необходимо подобрать

их веса таким образом, чтобы при подаче на вход сети любого входного вектора из обучающей выборки на ее выходе формировался правильный выходной вектор.

Сеть, удовлетворяющая этому требованию, является обученной.

Одним из первых алгоритмов, предложенных для обучения персептронов еще в 60-х годах, был алгоритм Уидроу-Хоффа.

Рассмотрим его. Алгоритм предполагает выполнение последовательности шагов. Каждый шаг в свою очередь состоит из двух этапов.

ЭТАП 1. На вход сети подается один из векторов обучающей выборки. На выходе сети задается желаемый выходной вектор. Веса всех связей, соединяющих активные входные и выходные нейроны, увеличиваются на малую величину del.

ЭТАП 2. На вход сети подается тот же вектор из обучающей выборки. Нейронной сети предоставляется возможность в соответствии с имеющимися весами связей самой установить на выходе определенный вектор. Если нет соответствия между входным и выходным векторами, то веса связей, соединяющих активные входные и выходные нейроны, уменьшаются на ту же величину del.

Если сеть правильно установила выходной вектор, то обучение завершается. В противном случае - обучение продолжается.

Принципиальная трудность, присущая рассматриваемому подходу, состоит в том, что для многих обучающих выборок невозможно провести необходимое распределение связей между нейронами персептрона. Указанное ( невозможность обучения произвольному набору образов) присуще, по-видимому, всем нейронным сетям. Обратное справедливо лишь для сетей, содержащих бесконечное число нейронов,

имеющих два слоя и если выполняются ограничения на характеристики выход-вход нейрона.

Даже при существовании искомого отображения проблема обучения нейронной сети сталкивается с серьезными трудностями. Они связаны с тем, проблема обучения нейронных сетей относится к классу

NP-сложных. Т.е. не существует алгоритма, который бы за полиномиальное время ( время, растущее с размером сети не быстрее полинома конечной степени) решил задачу требуемой модификации связей

сети. Поэтому , при практическом обучении нейронных сетей ( в частности, многослойных сетей) неизбежно использование различных эвристик, позволяющих за ограниченное время найти приближенное

решение задачи обучения.

Имеется достаточное количество эвристических методов, среди них наибольшее распространение получил метод "обратного распространения ошибки" ( back- propagation error, BPE ).

Алгоритм BPE представляет собой обобщение метода наименьших квадратов применительно к многослойным персептронам. В данном методе минимизируется среднеквадратичная ошибка между фактическим выходом персептрона и желаемым выходным вектором. Начальные веса и пороги принимаются равными случайно выбранным числам. Затем на вход сети последовательно подаются векторы из обучающей выборки и модифицируются связи между нейронами, начиная с последнего слоя.

Представим ценностную функцию в виде:

где V - фактические значения состояния нейронов, вычисленные с учетом текущих значений связей между нейронами. В этом выражении сумма распространяется на нейроны последнего ( выходного) слоя.

Изменение весов связей на каждом шаге алгоритма производится по правилу:

где > 0 - параметр. Вычисляя производную в этом выражении, для выходного слоя нейронов получим:

.

Затем последовательно вычисляются изменения коэффициентов на предшествующих слоях.

Такой способ модификации связей в сети позволяет значительно сократить время, необходимое для обучения сети. Вообще , время обучения существенно зависит от требуемой сложности разбиения

пространства возможных входов сети на подклассы ( например, если построить несвязные области ).

3.2. ОБУЧЕНИЕ БЕЗ СУПЕРВИЗОРА

Подобный подход применим к нейронным сетям Гроссберга-Карпентера и Кохонена. Такие сети имеют другое название - самоорганизующиеся сети. Процесс их обучения выглядит как процесс возникновения определенных свойств при взаимодействии системы с внешним миром. Сети такого типа наиболее близки по своим свойствам к неравновесным физическим, химическим или биологическим системам, в которых возможно образование диссипативных структур. Распознание образов и обучение, по-видимому, тесно связаны с вопросом о коллективном поведении систем, включающим множество частиц.

Сущность обучения без супервизора можно пояснить следующим образом. Для этого рассмотрим динамическую систему, элементы которой ( нейроны) взаимодействуют между собой и термостатом.

Состояние i-го нейрона будем описывать непрерывной переменной m (t) ( t - время ), изменяющейся в интервале - m<= m <=+m .

Предположим также, что энергия системы является квадратичной функцией вида

( 7 )

Будем рассматривать величину

( 8 )

В дальнейшем al - параметр или лагранжиан взаимодействия системы, являющейся функционалом независимых переменных и .

Учитывая взаимодействие нейронов с термостатом, приводящее к появлению "сил трения" (m / gam ,

T/ gam ) из (8)получим динамические уравнения для и

( 9 )

( 10 )

Добавленные в эти уравнения нелинейные слагаемые (f, F) препятствуют неограниченному возрастанию абсолютных величин m и Т: в рамках лагранжевой схемы они могут быть включены в выражение (9 ) в виде потенциалов, быстро возрастающих вблизи точек + -m и + - T ( предельное значение для коэффициентов матрицы связей).

Величины и представляют собой ланжевеновские источники шума. В нейробиологии шум возникает вследствие несинаптических взаимодействий между нейронами и выделением нейромедиаторов. В электронных моделях нейронных сетей источником шума могут быть электрические флуктуации в цепях. В простейшем случае шум можно охарактеризовать введением эффективной температуры:

< > = < > , < > = < > = 0 ,

где скобки обозначают усреднение по времени.

Уравнения (9) и (10) описывают существенно различные физические процессы, которые в рассматриваемом контексте можно назвать "обучением" и "распознаванием образов". Рассмотрим первое из них. Обучение состоит в том, что в (9) включается сильное внешнее поле, действующее в течение времени t . В результате того вектор m(t) принимает стационарное значение fi , соответствующее "образу" с компонентами m . После "обучения" элементы матрицы , со временем в соответствии с уравнением (10), получат приращение ( при этом предполагается, что t значительно больше времени релаксации на внешнем поле вектора m к своему стационарному значению fi ). Процедуру обучения можно повторить многократно, используя образы fi , s=1, .,n. Считая, что до начала обучения = 0, после окончания этого процесса получим

,

где коэффициенты nu зависят от длительности обучения. Таким образом, уравнения (9) и (10) описывают процесс запоминания поступающей в систему информации в виде матриц связей хеббовского вида.

Ранее предполагалось, что до начала обучения нейронная сеть не содержит никакой информации, = 0. Можно рассмотреть противоположный случай, когда до начала обучения нейронная сеть имеет большое число устойчивых состояний. Предполагается, что доминируют глубокие энергетические минимумы, которые могут образовывать структуру дерева. Процедура обучения должна приводить к селекции образов . В процессе обучения заучиваемый образ задается в качестве начального состояния сети и эволюционирует к некоторому аттрактору, энергия которого уменьшается за счет синоптических изменений ( в частности, если время релаксации меньше времени обучения), а область притяжения смещается и увеличивается за счет

присоединения соседних областей. Таким образом, процесс селекции отличается от режима обучения, рассмотренного ранее тем что используется внешнее поле.

ОСНОВНЫЕ ФУНКЦИИ НЕЙРОННЫХ СЕТЕЙ

АССОЦИАТИВНАЯ ПАМЯТЬ И КАТЕГОРИЗАЦИЯ

Под ассоциативной памятью ( или памятью, адресуемой по содержанию) понимается способность системы нейронов, например, мозга млекопитающих восстанавливать точную информацию по некоторой

ее части. К этому определению близок процесс категоризации - отнесение предъявленного объекта к одному из классов. Многие из предложенных в настоящее время сетей способны фактически осуществлять эти функции. При этом критерии, по которым осуществляется отнесение объектов к тому или иному классу ( распознавание) , различны в разных моделях.

Рассмотрим в качестве примера модель Хопфилда.

Пусть сначала n=1 b и в матрице Т записан всего один образ fi . Скалярноe произведение произвольного вектора m и fi задается выражением (fi , m ) = N - 2 m, где m - хеммингово расстояние между векторами m и fi, равное числу элементов, отличающих эти векторы. Подставляя это выражение в ( 7 ), получим следующее выражение для энергии:

.

Из данного выражения видно, что Е принимает минимальное значение при m=0. При этом вектор М совпадает с записанным образом либо, когда m=N ( в этом случае m совпадает с "негативом" ). Поэтому эволюция любого начального состояния системы заканчивается в состояниях m = fi .

В случае n = 2 выражение для энергии имеет вид

.

Здесь N - число позиций, в которых компоненты записанных в Т векторов совпадают: fi= fi , N- число несовпадающих компонент этих векторов, для которых fi=- fi , m и m - число компонент вектора m в первой и во второй группе нейронов соответственно, отличающих m от fi . Из последнего выражения видно, что система нейронов имеет четыре устойчивых состояния, отвечающих m = 0,N , m =0,N . При этом они совпадают с одним из векторов fi,= fi.

Функцию категоризации могут осуществлять нейронные сети других типов, при этом каждая из сетей делает это по разному. Так, если сеть Хопфилда относит к одному устойчивому вектору все стимулы, попавшие в область его зоны притяжения, то сеть Хемминга относит каждый входной вектор к ближайшему вектору, записанному в память.

ВЫРАБОТКА ПРОТОТИПА И ОБОБЩЕНИЕ

Различные типы нейронных сетей допускают возможность их обучения для выполнения алгоритмов обработки входной информации. При этом в обучающей выборке может не содержаться полного описания

предлагаемых алгоритмов.

Рассмотрим два примера:

- выработка прототипа в модели Хопфилда ( образование устойчивого образа в памяти, не содержавшегося среди обучаемых векторов),

- обобщение по индукции.

При увеличении числа образов в памяти минимальные значения энергии, вычисленные с помощью выражения (7) и соответствующие различным записанным векторам, могут начать сливаться.

Рассмотрим группу образов fi ( s=1, .,n) , получающихся при небольших случайных искажениях del некоторого вектора fi .

При изменении вектора fi на величину del происходит изменение энергии, соответствующей этому вектору, на величину del E.

При и случайном искажении исходного вектора fi при построении группы образов может выполняться неравенство del E 0 и следовательно, исходный вектор отвечает минимуму энергии системы. В психологии образ, аналогичный fi ( т.е. являющийся в определенном смысле усреднением некоторого числа образов и остающийся в памяти человека наряду с действительно предъявлявшимися образами) , получил название прототипа.

Сущность обобщения по индукции можно понять на следующем примере. Предположим, что множество входов сети разделено на две части, кодирующие соответственно два "образа". Например, это могут быть два числа либо два изображения предметов. Выходной слой персептрона пусть содержит один бинарный нейрон. При обучении будем стремиться к тому , чтобы на выходе сети была 1, если образы на входе совпадают и 0 , в противном случае. Установлено, что трехслойная сеть может быть обучена по указанному правилу, и способна определять совпадение образов на входе ( или симметрию входного вектора, что в данном случае одно и то же). Таким образом, сеть по индукции обучается устанавливать совпадение двух

векторов, хотя при обучении явное определение понятия совпадение не приводилось. По этому же принципу можно обучить нейронную сеть складывать числа.

ЗАКЛЮЧЕНИЕ

Практические процедуры обучения нейронных сетей часто сталкиваются с невозможностью добиться от сети желаемого поведения. Ранее упоминались некоторые проблемы такого рода:

- отсутствие сходимости процесса обучения персептронов,

- ложная память в модели Хопфилда.

Причины этого могут разделены на две группы.

1. Значительное время обучения нейронных сетей в сложных случаях.

2. Принципиальная невозможность получения необходимой структуры фазового пространства в заданной модели нейронной сети.

Область приложения нейронных сетей значительна и расширяется.

Этот процесс идет по ряду направлений. К их числу можно отнести следующие:

- поиск новых нелинейных элементов , которые могли бы реализовывать сложное коллективное поведение в ансамбле,

- разработка новых архитектур нейронных сетей, перспективных с точки зрения их реализации на электронной, оптической и оптоэлектронной элементной базе,

- поиск областей приложения нейронных сетей в системах управления, робототехнике, системах обработки изображений, распознавания речи.

ЛЕКЦИЯ №3

СИСТЕМА АВТОМАТИЧЕСКОГО ВВОДА ИНФОРМАЦИИ В ЭВМ

1. Необходимость создания системы автоматического ввода

Cоздатели САПР помимо выявления множества задач, решаемых системой, и распределения их между человеком и ЭВМ должны также на основе анализа требования пользователя определить способы общения человека с машиной. Последнее предполагает выбор подходящих средств диалога и установление языков общения.

Продуманный выбор языка играет существенную роль в создании творческой обстановки для человека в процессе автоматизированного проектирования. Желательно, чтобы оператор, находящийся за терминалами АРМа, общался с системой в привычной для него форме представления информации. Всякая замена привычных и удобных языков на менее удобные приводит к снижению производительности труда.

В качестве языков общения естественно использовать языки изображений. Примерами подобных языков являются языки, образованные графическими документами (принципиальными, функциональными, электрическими схемами, схемами размещения элементов, эскизами топологии слоев печатного монтажа и др.).

Другие способы описания того, что изображено на графическом документе, затрудняют процесс восприятия информации человеком.

Очевидно, что и в случае, когда информация графического типа передается от человека к ЭВМ , этот процесс должен быть для человека столь же простым и легким. Однако наиболее распространенная в современных САПР технология ввода графической информации представляет собой трудоемкую и длительную процедуру. Серийно выпускаемые устройства, предназначенные для обеспечения процесса ввода в ЭВМ графической информации, позволяют делать это в полуавтоматическом режиме.

Полуавтоматические графические устройства ввода данных требуют, чтобы оператор при помощи специального устройства (щупа) обошел все характерные точки документа и сообщил машине характеристики этих точек.

Данный труд лишен признаков творчества и его обычно поручали оператору. Такое разделение труда между разработчиком и оператором сколочного автомата нарушает единство творческого процесса и создает дополнительное звено в цепочке его общения с ЭВМ. Эта цепочка служит источником дополнительных ошибок, которые в дальнейшем необходимо отыскивать и исправлять.

Проводились оценки трудоемкости процесса ввода графической информации в полуавтоматическом режиме ввода графической информации с чертежа печатной платы размером 150*300 мм, содержащей до 1500 контактных площадок и до 1200 соединяющих их линий. Время ввода информации в этом случае - 16 часов.

При этом предполагалось, что процесс включает также и редактирование изображения.

Альтернативой технологии считывания графической информации и использованием сколочных планшетов является технология, основанная на применении системы автоматического чтения изображения непосредственно с графического документа.

В этом случае достигается существенный выигрыш во времени ввода информации. Применительно к устройству ТС-6030 (автоматического считывания и кодирования графической информации) ввод осуществляется в 12 раз быстрее.

Рассмотрим различные аспекты построения системы автоматического чтения графической информации, требование к документам, описания алгоритмов реализации основных этапов обработки изображений, а также обеспечения высокой достоверности считывания информации.

2.Требования к документам, автоматически считываемым системой

2.1. Общие сведения

Документ является носителем информации, которая должна быть введена в ЭВМ в качестве исходных данных для той или иной программы, входящей в пакет прикладных программ САПР.

Например, принципиальная электрическая схема определенного узла радиоаппаратуры может рассматриваться как исходные данные для таких программ, как моделирование, генерация диагностических тестов узла, алгоритмическое конструирование платы печатного монтажа, на которой будет реализован узел и др.

К документам, предназначенным для автоматического чтения, предъявляются противоречивые требования. С одной стороны, изображение на нем должно легко восприниматься человеком, а с другой - системой автоматического чтения. Это означает, в первую очередь, что условные графические обозначения, используемые как фрагменты изображения, должны быть привычными для человека.

В случае принципиальных электрических схем это условные графические обозначения элементов схемы, обозначения электрических связей, символы и строки символов, регламентируемыми соответствующими ГОСТами.

Необходимо отметить, что документы, предназначенные для ввода в ЭВМ, как правило, изготавливаются человеком вручную. Вследствие этого изображение может существенно отличаться от идеального. Конкретные отклонения от идеального появляются, в частности, в том, что вместо прямой линии на эскизе, чертеже или схеме присутствует волнистая или встречаются "недоводы", "переводы" линий. Характер написания символов также изменяется в широких пределах. При этом часто их начертание значительно отличается от регламентируемого стандартами, однако человек не испытывает затруднений в восприятии информации.

В свою очередь системы автоматического чтения графической информации весьма чувствительны к отклонениям изображения от идеального. Это не означает, что они не могут правильно воспринимать изображения, содержащие дефекты.

Однако следует отдавать отчет в том, что сложность систем, обладающих способностью игнорировать дефекты исполнения документа человеком и правильно считывать информацию, существенно выше по сравнению с системами, такими способностями не обладающими.

Конкретно это может трансформироваться в более высокие аппаратурные затраты или в увеличение затрат времени на реализацию алгоритмов обработки. Тем не менее никакая из технических систем сегодняшнего дня или ближайшего будущего не в состоянии конкурировать с человеческими способностями в восприятии реальных графических изображений. Любой системе автоматического чтения можно предложить для обработки документ такого исполнения, что она не справится с его обработкой, в то время как человек легко прочитает этот документ.

На основе отмеченного можно сделать вывод о том, что документы, предназначенные для автоматического ввода должны удовлетворять ряду требований.

При разработке требований необходимо учитывать:

- технические характеристики растровой аппаратуры считывания,

- приемлемость требований к исполнению документа для конструктора его разрабатывающего,

- сложность и быстродействие алгоритмов обработки.

Опишем требования к изображениям на эскизах слоев топологии плат печатного монтажа.

Необходимость в считывании информации с эскизов слоев топологии плат печатного монтажа связана с автоматизацией проектирования и изготовления их фотошаблонов.

Изображение на эскизе слоя топологии платы печатного монтажа состоит из условных графических обозначений контактных площадок для выводов навесных элементов (микросхем), границ областей металлизации требуемой формы, указателей трасс проложения печатных проводников. С помощью перечисленных изобразительных средств можно создать рисунок топологии слоя любой платы.

Изображения символов можно создать средствами описания трасс печатного проводника. Особенностью эскиза является то, что в нем применяется координатная сетка для метрической привязки элементов изображения. Шаг координатной сетки равен 5 или 2.5 мм, если для исполнения эскиза слоя топологии выбран масштаб 4:1 или 2:1 соответственно. Метрическая привязка контактных площадок для условных графических обозначений осуществляется путем помещения центра условного графического обозначения в узел координатной сетки. Для остальной части изображения эскиза привязка производится лишь для точек излома линий рисунка. Такие точки должны быть помещены в узлы координатной сетки.

Рассмотрим,что представляют собой изобразительные средства для элементов рисунка на эскизах слоев топологии.

а) Контактные площадки

Контактные площадки круглой формы изображаются в виде крестов, центры которых совпадают с узлами координатной сетки. Горизонтальный и вертикальный штрихи креста имеют длину 1 дискреты.

Различают контактные площадки нескольких типов в зависимости от диаметра области, которую они занимают. Это выполняется с помощью группы точек. Они помещаются в узлах координатной сетки и располагаются на сторонах минимального по размеру квадрата из линий координатной сетки, который охватывает центр креста контактной площадки круглой формы. Размер стороны квадрата - 2 дискреты . Число точек в группе указывает тип координатной площадки.

а) б) в) г)

Рис. 1. Изображения контактных площадок круглой формы на эскизах слоев топологии.

Таблица 1.

Таблица 2

б) Печатные проводники

Печатные проводники изображаются на эскизе отрезками прямых линий четырех направлений: горизонтальное, вертикальное и два диагональных, т.е. проходящие под углом 45 градусов к линиям координатной сетки. Горизонтальные и вертикальные отрезки проводятся только по линиям координатной сетки, а диагональные - через узлы координатной сетки.

Точки изломов, разветвлений линий, изображающих печатные проводники должны совпадать с узлами координатной сетки. В связи с тем, что ширина проводника на различных участках должна может отличаться, необходимо разделять изображение печатных проводников на участки однородности. При этом имеются в виду участки одинаковой ширины, они снабжаются указателями ширины.

Разделение изображения печатных проводников на участки однородности осуществляется с помощью указателей границ однородности. Они бывают условными и абсолютными. Условными могут служить излом проводника и разветвление проводника.

Абсолютный указатель границ однородности представляет собой отрезок прямой линии, имеющий длину 1 дискрету. Такой отрезок одним концом исходит из точки, лежащей на проводнике и являющейся границей изменения однородности. Граница изменения однородности обязательно должна располагаться в одном из узлов координатной сетки. Направление проведения штриха абсолютного указателя границы однородности должно выбираться перпендикулярно к ориентации проводника в точке, из которой он исходит.

В случае, если в точке нарушения однородности проводник претерпевает излом или разветвляется, достаточно, чтобы штрих указателя границ однородности был перпендикулярен одной из ветвей проводника, подходящей к этой точке.

Указатель ширины представляет собой группу точек, размещаемых в разрыве линии печатного проводника. Число точек связано со значением ширины (табл.2). Если одна из точек группы заменена штрихом (длина 1 дискреты), направленным перпендикулярно линии проводника, то тогда указатель ширины рассматривается как доминирующий, в противном случае - как простой. Действие доминирующего указателя распространяется в обе стороны от него и прекращается при встрече с абсолютным указателем и при переходе через условный указатель, содержащий простой указатель ширины.

Действие простого указателя ширины, как и в случае доминирующего указателя, распространяется в обе стороны от него и прекращается при встрече с абсолютным указателем и при встрече с условным указателем, если по другую сторону указателя действует доминирующий указатель ширины.

На рис.2 показан фрагмент эскиза слоя топологии для печатного проводника и соответствующий ему фрагмент вида печатного проводника.

			а)

						б)

Рис. 2. Печатный проводник, а - фрагмент эскиза, б - фрагмент печатной платы.

Особенностью реальных плат печатного монтажа является то, что в большинстве случаев печатные проводники на них выполняются одной и той же ширины. С учетом этого обстоятельства любая указанная в табл.2 ширина может быть объявлена основной. Объявление ширины печатного проводника основного типа осуществляется пользователем перед сеансом ввода документа в форме соответствующего сообщения программе обработки изображения.

Аналогично для контактных площадок.

в) Области металлизации

Области металлизации изображаются системой замкнутых контуров. Контура могут быть внутренними либо внешними. Это определяется указателем контура. В качестве его служит отрезок прямой линии длиной в 1 дискрету. Один из его концов должен находиться на линии контура в узле координатной сетки и составлять с ней угол 45 градусов. Свободный конец указателя контура показывает область металлизации.

Линии контуров изображаются отрезками вертикальных, горизонтальных и диагональных линий, проходящих по линиям координатной сетки. Любые отрезки должны начинаться и завершаться в узлах координатной сетки.

При разработке слоя топологии платы печатного монтажа конструктору часто приходится использовать типовые фрагменты изображения, которые сами могут быть достаточно сложными рисунками. Для упрощения задачи вводятся дополнительные средства изображения - элементы библиотечного типа.

Под ними подразумеваются группы элементов, форма и взаимное расположение которых фиксированы. Примерами таких групп могут служить ряд контактных площадок, микросхемы определенного типа или совокупность контактных площадок для разъема. На эскизе такие группы изображаются в виде площадки, вместо которой в конечный результат обработки эскиза подставляется подразумеваемая группа.

Для простоты изложения ограничимся примерами элементов библиотечного типа для изображения одного ряда контактных площадок микросхем с планарными выводами.

Рис. 3. Изображение области металлизации

Границы элементов библиотечного типа одного ряда контактных площадок имеют вид прямоугольника, ширина которого равна 1 дискрете. Длина прямоугольника зависит от типа корпуса микросхем.

Рис . 4. Элементы библиотечного типа для контактных площадок (фрагмент эскиза).

Крайние контакты в группе контактных площадок изображаются короткими сторонами прямоугольников, остальные предполагаются отстоящими от соседних на 1 дискрету. Если какие-либо смежные контакты группы соединены между собой, то такая связь изображается наклонным отрезком, проведенным внутри прямоугольника слева направо, сверху вниз и соединяющим узлы, лежащие на линиях координатной сетки, соответствующих соединяемым контактным площадкам.

При разработке требований к эскизам слоя топологии необходимо учитывать особенности аппаратуры растрового считывания. В частности разрешающая способность устройства накладывает ограничения на минимальную толщину линии изображения. При этом необходимо, что на интервале длины, равной минимальной толщине линии, укладывалось два отсчета устройства. Так, например, для аппаратуры растрового считывания ширина линии должна быть не менее 0.5 мм.

Существенную роль играет цвет красителя, которым наносятся линии на документ. Большая часть устройств, предназначенных для считывания документов, способна воспринимать лишь черно-белые изображения. При использовании желтого, светло-оранжевого цветов они будут восприниматься как белый.

Возникает проблема восприятия координатной сетки.

Выходом из положения является применение системы базовых линий, снабженных координатной разметкой. Система базовых линий представляет собой прямоугольник, внутри которого заключено поле изображения документа. От каждой из базовых линий, перпендикулярно ей, внутрь прямоугольника, составленного из базовых линий, отходят риски длиной 5 мм. Расстояние между соседними рисками, расположенными на одной и той же базовой линии, равно шагу координатной сетки. Назначение рисок -обозначать линии координатной сетки.

Учет особенностей аппаратуры растрового ввода оказывает влияние и на выбор условных графических изображений, применяемых на документе. В частности, принятая система обозначений для эскизов слоев топологии не допускает углов схождения линий, меньших 45 градусов. Это существенно уменьшает эффектзаплывания области, размещаемой внутри острого угла при его вершине. Последнее упрощает обработку изображений после растрового считывания. Предложенные для эскизов слоев топологии основные элементы изображения сконструированы из таких компонентов, как отрезки прямых. Причем эти прямые могут иметь только одно из четырех направлений, что создает существенные предпосылки для более простой алгоритмической обработки.

При формировании требований к эскизам слоев топологии конкретизация положения о том, что изготовление эскиза должно удовлетворять определенным требованиям, заставляет включать в их число пункты, дисциплинирующие исполнителя эскиза. При этом разрывы в линиях не должны превышать 1 мм, переводы линий не должны быть больше 1 мм, отрезки прямых не должны отклоняться от идеальных прямых более чем на 1 мм.

Отмеченное относительно эскизов слоев топологии плат печатного монтажа дает представление о том, каким должен быть документ, предназначенный для автоматического чтения. Создание системы автоматического чтения для другого типа документа в каждом случае требует, как отмечено ранее, специального рас