Структурне налаштування згорткової нейронної мережі для ідентифікації дикторів у просторі мелчастотних кепстральних коефіцієнтів

Анотація

Аналіз літератури дозволив виділити основні методи ідентифікації дикторів за мовними сигналами. Це статистичні методи на основі моделі суміші гауісівських розподілів та універсальної фонової моделі, також нейромережеві методи, зокрема із використанням згорткових або сіамських нейронних мереж. Основними характеристиками цих методів є якість розпізнавання, кількість параметрів і час навчання. Високої якості розпізнавання дозволяє досягти застосування згорткових нейронних мереж, однак кількість параметрів цих мереж значно вища, ніж для статистичних методів, хоча і нижча, ніж для сіамських нейронних мереж. Значна кількість параметрів вимагає великої навчальної вибірки для навчання мережі, яка не завжди є в розпорядженні дослідника. Крім того, незважаючи на ефективність згорткових нейронних мереж, розмір моделі та ефективність виведення остаються важливими для пристроїв з обмеженим джерелом обчислень, а саме периферійних або мобільних пристроїв. Тому аспекти налаштування структури існуючих згорткових нейронних мереж є актуальними для дослідження. У роботі проведено структурне налаштування існуючої згорткової нейронної мережі на основі архітектури VGGNet для ідентифікації дикторів у просторі мелчастотних кепстральних коефіцієнтів. Метою роботи було зменшення кількості параметрів нейронної мережі і, як наслідок, скорочення часу навчання мережі за умови достатньої якості розпізнавання (правильне розпізнавання вище за 95 %). Запропонована у результаті структурного налаштування нейронна мережа має менше шарів, ніж архітектура базової нейронної мережі. Замість функції активації ReLU застосовано споріднену до цієї функції функцію Leaky ReLU з параметром 0.1. Змінено кількість фільтрів та розмірність ядер в згорткових шарах. Збільшено розмірність ядер для пулінгового шару з обранням максимального елементу. Запропоновано використання усереднення результатів кожної згортки для переходу від двовимірної згортки до повнозвязного шару з функцією активації Softmax. Експеримент показав, що кількість параметрів запропонованої нейронної мережі менша на 29 % кількості параметрів базової нейронної мережі за умови майже однакової якості розпізнавання дикторів. Окрім того, на п'яти датасетах аудіозаписів, що відповідали різної кількості дикторів, оцінювався час навчання запропонованої та базової нейронної мережі. Було отримано скорочення часу навчання запропонованою мережею на 10-39 % у порівнянні з базовою нейронною мережею. Результати дослідження показують доцільність застосування структурного налаштування згорткової нейронної мережі для пристроїв з обмеженим джерелом обчислень, а саме периферійних або мобільних пристроїв.