ОПТИЧНА РЕАЛІЗАЦІЯ НЕЙРОННОЇ МЕРЕЖІ ДЛЯ АСОЦІАТИВНОГО РОЗПІЗНАВАННЯ ОБРАЗІВ

ВІСНИК КРСУ / № 5, 2003 р

УДК 778.38: 621.397 (575.2) (04)

Experimental outcomes of optical realization for associative recognition of binary images as the holograms, are obtained.

Нейронні мережі привертають увагу як метод здійснення операцій розпізнавання і оптимізації [1]. Для отримання нейронних мереж з широкими можливостями істотно наявність великого числа з'єднань між вузлами. У зв'язку з цим застосування оптичних систем, що володіють можливістю паралельної обробки сигналу, є перспективним. В [2] розглянуто оптичний пристрій множення вектора на матрицю із застосуванням просторових модуляторів світла і систем лінз. В [3, 4] описані пристрої з голографічними сполуками, які можуть виявитися найбільш підходящими для мереж з двовимірними гратами вузлів.

У даній роботі запропонована оптична нейронна мережа на основі голограми, що володіє високою селективністю, що дозволяє створити елементи для межсвязей в оптичних пристроях, підвищити щільність запису інформації і асоціативного розпізнавання образів.

Асоціативна пам'ять - це пам'ять з адресацією за змістом, тобто вибірка і запис в осередку такої пам'яті виконуються в залежності від їх вмісту. Асоціативну пам'ять можна успішно реалізувати як нейронну мережу, яка повинна відновлювати пред'явлений на вхід злегка змінений образ, наприклад, з накладеним шумом або містить лише важливу частину вихідного образу. На основі таких нейронних мереж створюються бази знань, ефективний пошук в яких здійснюється не по ключу, а на основі пред'явленого фрагмента необхідного образу. У зв'язку з цим з'єднання між двовимірними вузлами асоціативної пам'яті, заснованої на моделі Хопфілда, забезпечені за допомогою оптичної системи на принципах голограми. За допомогою такої мережі можна виробляти одночасне векторно-матричне множення синаптичної ваговій матриці і вхідного вектора. Нами розглянуті сполучні мережі з 252 сполуками для бінарних картин, введених в пам'ять.

Розглянемо коротко, як описана модель Хопфілда для асоціативної пам'яті [1]. Набір М бінарних векторів v (m) довжиною по N біт кожен вводиться в синаптичну вагову матрицю, формулою:

(1)

В процесі пошуку для вхідного вектора v проводиться оцінка введеного в пам'ять вектора такої процедури:

і операція діскрімінірованія, тобто поріг

Вихідний сигнал, якщо відповідний до шуканого вектора не знайдений, знову вводиться назад в мережу. Ці асоціативні ітерації продовжуються до тих пір, поки не досягається стійкий стан виходу. Оскільки введена в пам'ять матриця в моделі Хопфілда є симетричною, описана вище динаміка системи гарантує збіжність. У разі, коли вхідний вектор дорівнює одному з введених в пам'ять векторів V (m0), то оцінку вектора, що знаходиться в пам'яті, можна переписати як:

Перший член представляє вектор в пам'яті, зважений на автокореляцію між вектором в пам'яті і вхідним вектором. Другий член представляє небажаний шум, що дається крос кореляцією з іншими векторами в пам'яті.

Була досліджена оптична нейронна мережа, що складається з оптичної системи на принципах голограми зв'язуючих мереж, двовимірної матриці решітки SiPIN- фотодіодів. Для того щоб описати принцип роботи, розглянемо матрицю передачі потужності Pij даної сполучною мережі на виході матриці фотодіода, яка представляє собою частку потужності кожної j-й осередки, що отримується на i-м вихідному елементі. Сумарна вихідна потужність на цьому елементі запишеться як:

де Lj - потужність на j-м вихідному елементі матриці фотодіода. Формула (5) є твором Pij і вихідний бінарної величини, яка визначається картиною сигналів фотодіода. У разі відсутності втрат маємо

Для реалізації біполярної матриці на основі алгоритму Хопфилда були сформовані взаємно перехрещуються оптичні мережі. Одна з мереж представляла матрицю з позитивними елементами Tij, друга - матрицю з негативними елементами. Вихідна напруга i-го фотодіода, пропорційне Pi, аналізувалося за допомогою комп'ютера, який порівнює вихідні напруги i-х фотодіодів мережі і здійснює коригування за допомогою різницевого сигналу до току інжекції лазера. Порогова операція і операція зворотного зв'язку виконуються одночасно для всієї оптичної системи.

На згадку оптичної нейронної мережі вводилися зображення букв В, Н і C у вигляді прозорого транспаранта в форматі 5 × 5. Відстані Хеммінга між У і Н, Н і C, C і В рівні відповідно 9, 18 і 11.

Для зручності обробки на комп'ютері кожне зображення представляється у вигляді одновимірного вектора

В = (11110 10001 11110 10001 11110),

Н = (10001 10001 11111 10001 10001), (7)

С = (01110 01001 01000 01000 01111).

Мал. 1. Синаптична матриця Tij

На рис. 1 представлена ​​матриця [Tij], побудована для трьох зображень відповідно до формули (1). Для реалізації цієї матриці були зібрані комутаційні сполучні мережі, відповідні Tij з позитивними елементами, показані на рис. 2.

Мал. 2. Комутаційні сполучні мережі
з позитивними елементами Tij

Аналогічно можна зібрати мережі з негативними елементами. Для одного з трьох зображень букв проходження сигналу або дозволено, або заборонено. При одночасному розгляді трьох малюнків можливо 8 груп відгуків. Наприклад, нейрон 1 відкритий для букв В і Н і закритий для літери C. Відповідно до цього, вузлу 1 приписується символ. Для M малюнків число груп одно 2М або менше. Ваги з'єднань між вузлами з однаковими символами рівні. Все що зв'язують лінії однієї групи з'єднуються між собою, а з'єднання між групами робляться у відповідності зі знаком Tij. Експериментально показано, що розглянутий метод по межсоединения вузлів мережі найбільш ефективний при меншій кількості бінарних векторів з довжиною N бітів, тобто 2М

Розглянемо деякі властивості матриці відносин [Pij] [5]. Вона має ненульові діагональні елементи, хоча в моделі Хопфілда Tij = 0. На рис. 2 видно, що [Pij] в ідеалі повинна бути симетричною за умови, що відносини розгалужень повністю однорідні і втрати відсутні. В реальній ситуації відносини відрізнялися в середньому на 1-2 дБ. Втрати залежали від числа входів і виходів: приблизно на 1-3дБ.

Мал. 3. Результати експерименту при аналізі трьох фрагментів зображень, введених в мережу.

На рис.3 представлені результати експериментів і чисельних розрахунків, отримані при аналізі фрагментів зображень, введених в мережу. На рис. 3 видно, що введені в пам'ять частково зашумлені входи розпізнавалися з незначними відхиленнями, коли оригінал образу букв має істотне схожість зі порівнюваними знаками по відстані Хеммінга.

Для уніполярних вхідних векторів здійснювалося зважування вхідного вектора по бітам шляхом введення

де Rj - повне число вузлів в групі, до якої належить j-й вузол: wj - значимість біта. У даній модифікованої моделі Хопфілда синаптическая матриця [Tij] стає асиметричною. Однак можна показати, що збіжність забезпечується при малому wj.

Якщо вхідний вектор біполярний, то, підставляючи (8) в (9), можна висловити амплітуду шуму в (4) таким чином:

Підсумовування ΣR виконується по восьми групах кутів, до яких належить кожен біт vj (m), оскільки

дорівнює 1 для чотирьох груп і -1 для решти чотирьох груп, шуми можна зменшити до нуля шляхом введення значущості біта. Цей метод визначення значущості біта придатний для мінімізації шуму, якщо число груп дорівнює або близько до 2М, тобто коли з'являються всі можливі комбінації груп. Шум зануляют також для уніполярних вхідних векторів. За допомогою (8, 9) можна показати, що шуми в запам'ятовуються картинах стають нульовими і різко поліпшується відсоток розпізнавання. Це підтверджується результатами моделювання. У розрахунках Tij бралися рівними (1, -1) і вхідний вектор був уніполярним. Поліпшення відсотка розпізнавання при введенні wj перевірялося експериментально. Для отримання еквівалента значущості біта здійснювалася регулювання інтенсивності вхідного світла шляхом зміни струму інжекції лазерів і коефіцієнта посилення підсилювачів вихідної напруги фотодіодів. Потужність випромінювання лазерів в залежності від значимості біта змінювалася в межах 0,1-0,8 мВт.

Мал. 4. Амплітуда вихідних сигналів фотодіода мережі.

На рис. 4 представлені амплітуди вихідних сигналів на фотодіоді: 1 - вхід, 2 - вихід, 3 - фотострум. кожна група представляє вихідні сигнали, що входять в групу ВНС. Наприклад, з першого рядка рис. 4 випливає, що включення лазера 12 фотодіода, означає групування ВНС,, і дають вихідні сигнали з приблизно рівними амплітудами.

Час кожної ітерації складає ≈0,4 с, причому більша частина часу витрачається на перенесення інформації між комп'ютером і матрицею решітки фотодіода. Множення вектора на матрицю проводиться паралельно, а порогова операція здійснюва-ляется біт за бітом.

За допомогою чисельного моделювання було досліджено вплив відхилення відносин розгалуження на відсоток розпізнавання. Чи не виявлено помітного погіршення відсотка розпізнавання при відхиленнях в межах 1дБ. При відхиленні 1дБ розпізнавання погіршувався на 10%. Це визначає необхідну точність розпізнавання образів в оптичній нейронної мережі.

література

1. Hopfield JJ Neural Networks and Physical Systems with Emergent Collective Computational Abilities // Proc. Natl. Acad. Sci. USA 79, 1982. - Р. 2554-2558); Takeda M. and Goodman JW // Neural Networks for Computation: Number Representations and Programming Complexity / Appl. Opt. 25, 1986. - Р. 3033-3046.

2. Farhat NH, Psaltis D., Prata A. and Peak E. Optical Implementation of the Hophield Model // Appl. Opt. 24, 1985. - Р. 1469-1475.

3. Psaltis D., Brady D. and Wagner K. Adaptive Optical Networks Using Photorefractive Crystals // App. Opt. 27, 1988. - Р. 1752-1759.

4. Jang J., Lee S., and Shin S. Optical Implementation of the Hopfield Model for Two-Dimensional Associative Memory // Opt. Lett. 13, 1988. - Р. 248-250.

5. Jeenbekov AA, Jumaliev KM Sarybaeva AA Processing the massive data in holographic associative memory // Proceedings of the international seminar "Holography and optical information processing". - Bishkek, September 2-4, 1997. - Р. 47-50.

Назад до змісту випуску