Анотація до роботи:

Олешко Д.М. Інформаційна технологія прискорення синтезу нейронних мереж для вирішення задач прогнозування при прийнятті рішень. – Рукопис.

Дисертація на здобуття наукового ступеня кандидата технічних наук за фахом 05.13.06 – Автоматизовані системи управління та прогресивні інформаційні технологій – Одеський національний політехнічний університет, Одеса, 2005.

У роботі запропоновано ряд характеристик НВ, які дозволяють оцінити міру її якості. Виявлені залежності якості та швидкості параметричного синтезу від встановлених характеристик НВ. Розроблено комплексний критерій оцінки НВ, заснований на цих характеристиках та залежностях, який дозволяє автоматизувати процес побудови якісної НВ. Запропонований підхід до формалізації структурного синтезу ШНМ, заснований на аналізі характеристик ПС, який дозволяє в процесі навчання нейронної мережі робити реструктуризацію її прихованого шару. Розроблені механізми, які дозволяють істотно прискорити процес параметричного синтезу при збереженні якості навчання й функціонування ШНМ. Розроблена інформаційна технологія прискорення синтезу прогнозуючих НМ моделей для систем обробки інформації та управління в задачах ЕБ і ЕМ, яка поєднує розроблені методи та механізми в єдиний формалізований процес. Розроблена автоматизована комп'ютерна система, що реалізує розроблені методи й механізми, яка орієнтована на використання, як у корпоративних мережах, так й у мережі Internet.

1. Аналіз існуючого підходу до синтезу прогнозуючих НМ моделей виявив ряд істотних недоліків, пов'язаних з відсутністю конструктивних кількісних критеріїв оцінки якості побудованої НВ, значною евристичністю або трудомісткістю підходів, розроблених для прискорення етапів структурного та параметричного синтезу, відсутністю формальної єдиної технології синтезу прогнозуючих НМ моделей.

   Розглянуто ПД, в якості механізму, що дозволяє управляти якістю рішення задачі прогнозування на всіх етапах синтезу прогнозуючих ШНМ шляхом цілеспрямованого підвищення точності за рахунок збільшення витрат часу і, навпаки, скорочення часу синтезу за рахунок обґрунтованого зниження точності.

   Запропоновано ряд характеристик НВ, на основі яких розроблений комплексний критерій оцінки якості побудованої НВ. Даний критерій дозволив формалізувати процедуру побудови НВ, врахувати умови конкретної задачі, дати кількісну оцінку якості НВ і зробив евристичність процесу побудови НВ виявленою та вираженою показниками ступенів важливості кожної з характеристик.

   На основі розробленого комплексного критерію оцінки якості НВ запропоновано метод автоматизованої побудови якісної НВ. Використання даного методу дозволяє автоматизувати процес побудови НВ, знизити ймовірність одержання неякісної вибірки, скоротити витрати часу на синтез НМ моделей в цілому та підвищити вірогідність прогнозу.

   Запропоновано формалізацію процесу структурного синтезу НМ моделей для рішення задач прогнозування. Дано рекомендації з вибору початкової кількості нейронів у прихованому шарі мережі та запропоновані правила для коректування цієї кількості, засновані на принципах конструктивних алгоритмів та алгоритмів скорочення.

   Подальший розвиток у рамках навчання ШНМ одержав метод навчання зі зворотним поширенням помилки. На основі розглянутих у роботі типів помилок, що виникають при навчанні ШНМ, запропонований критерій розпізнання НН і ряд правил обчислення ВК нейронної мережі, які дозволяють:

   визначити момент зупинки процесу параметричного синтезу ШНМ, задаючи значення границь і , виходячи із ПД;

   скоротити обчислювальні витрати алгоритму навчання в середньому
   на 50 %;

   збільшити швидкість збіжності методу в 2 – 3 рази;

   донавчити навчену НМ модель, використовуючи тільки нові дані з НВ, і вносити мінімально-достатні зміни в навчену мережу.

   Розроблено інформаційну технологію прискорення синтезу прогнозуючих НМ моделей, яка об'єднала окремі етапи синтезу в єдиний формалізований процес. Скорочення витрат часу фактично на порядок досягається:

   за рахунок формалізації послідовності дій, які необхідно виконати для одержання ШНМ, здатної прогнозувати;

   за рахунок формалізації раніше неформалізованого етапу побудови НВ, що дозволяє в автоматизованому режимі сформувати якісну НВ, яка відповідає умовам поставленої задачі;

   за рахунок формалізації етапів структурного та параметричного синтезу, що дозволило автоматизувати процес структурного синтезу і знизити трудомісткість навчання.

   На основі розробленої інформаційної технології створена програмна прогнозуюча система "FORECAST". Система була використана для розв’язання задачі прогнозування залишків на банківських рахунках (вірогідність прогнозу склала 94 %) і прогнозування курсів валют на міжнародному ринку електронної торгівлі валютами "FOREX" (вірогідність прогнозу 97 %).

   Отримані в роботі наукові розробки й програмні засоби впроваджені в навчальний процес кафедри системного програмного забезпечення Одеського національного політехнічного університету.

Публікації автора:

1. Крисилов В.А. Применение нейронных сетей в задачах интеллектуального анализа информации / Крисилов В.А., Олешко Д.Н., Трутнев А.В. // Тр. Одес. политехн. ун-та. – Одесса: 1999. – Вып. 2 (8). – С. 134 – 140.

   Крисилов В.А. Методы ускорения обучения нейронных сетей / Крисилов В.А., Олешко Д.Н., Лобода А.В. // Вест. СевГТУ. Информатика, электроника, связь. – Севастополь, 2001. – Вып. 32. – С. 19 – 26.

   Крисилов В.А. Двухэтапное обучение нейронных сетей в задачах прогнозирования временных рядов / Крисилов В.А., Олешко Д.Н. // Искусств. интеллект. – 2002. – № 4. – С. 742 – 746.

   Krissilov V.A. Acceleration of neural-network model training by application of sufficiency principle / Krissilov V.A., Oleshko D. N. // Тр. Одес. политехн. ун-та. – Одесса: 2002. – Спецвыпуск. – С. 89 – 90.

   Decision Making rules for situations with dependent features / Krissilov V.A., Krissilov A.D., Blyukher B., Оleshko D.N // Вестник Херсонского ГТУ. – Херсон: 2003. – Вып. 3(19). – С. 190 – 193.

   Олешко Д.Н. Построение качественной обучающей выборки для прогнозирующих нейросетевых моделей / Олешко Д.Н., Крисилов В.А., Блажко А.А. // Искусств. интеллект. – 2004. – № 3. – С.567 – 573.

   7. Экономико–экологическое прогнозирование: методология, методы, приложения / Степанов В.М., Крисилов А.Д., Крисилов В.А., Олешко Д.М. др. – Одеса, ИПРЭЭИ НАН Украины, 2004. – 238 с.

   8. Krissilov V.A. Application of the sufficiency principle in acceleration of neural networks training / Krissilov V.A., Krissilov A.D., Oleshko D.N. // Information Theories & applications. – 2003. – Vol.10. – № 2. – P. 179 – 183.

   9. Крисилов В.А. Система прогнозирования поведения сложных процессов "FORECAST" / Крисилов В.А., Олешко Д.Н. // Тр. второй МНПК СИЭТ – 2001. – Одесса. – 2001. – С.90 – 91.

   10. Крисилов В.А. Повышение качества и скорости обучения нейронных сетей в задаче прогнозирования поведения временных рядов / Крисилов В.А., Олешко Д.Н. // Міжнар. конф. з індуктивного моделювання. – Львів, 2002. – Т. 2. – С. 76 – 80.

   11. Ускорение синтеза прогнозирующих нейронных сетей / Крисилов В.А., Олешко Д.Н., Кондратюк А.В., Чумичкин К.В. // Сб. тр. рос.-укр. науч. семинара "Интеллектуальный анализ информации" (ИАИ–2003). – Киев: КПИ, 2004. – С. 12.

   12. Олешко Д.Н. Информационная технология синтеза прогнозирующих нейросетевых моделей // Зб. пр. міжнар. семінару з індуктивного моделювання. – Київ: Міжнар. наук.-навч. центр інформ. технологій та систем НАН та МОН України, 2005. – С. 242-249.