78677

Автор(ы): 

Автор(ов): 

2

Параметры публикации

Тип публикации: 

Доклад

Название: 

Особенности инициализации сверточных слоев с функцией активации Relu в нейросетевых моделях для распознавания шумовых сигналов

Электронная публикация: 

Да

ISBN/ISSN: 

978-5-91450-276-5

Наименование конференции: 

  • 14-е Всероссийское совещание по проблемам управления (ВСПУ-2024)

Наименование источника: 

  • Труды 14-го Всероссийского совещания по проблемам управления (ВСПУ-2024)

Город: 

  • Москва

Издательство: 

  • ИПУ РАН

Год издания: 

2024

Страницы: 

3071-3076
Аннотация
В работе рассматривается проблема обучаемости многослойных сверточных нейросетей с функцией активации Relu в задаче распознавания шумовых сигналов. При малом количестве нейронов в сверточных слоях обучаемость сети существенно зависит от ее инициализации, особенно эта зависимость проявляется в глубоких сверточных сетях. Предложены новые стратегии инициализации весов в сверточных слоях, позволяющие повысить обучаемость сетей. Проведен сравнительный анализ стратегий инициализации весов на основе характеристик обученных нейросетей.

Библиографическая ссылка: 

Порцев Р.Ю., Макаренко А.В. Особенности инициализации сверточных слоев с функцией активации Relu в нейросетевых моделях для распознавания шумовых сигналов / Труды 14-го Всероссийского совещания по проблемам управления (ВСПУ-2024). М.: ИПУ РАН, 2024. С. 3071-3076.