|
ИСТИНА |
Войти в систему Регистрация |
ФНКЦ РР |
||
Метод чередования обучаемых параметровстатья
- Автор: Хусаенов Артем Азатович
- Журнал: Интеллектуальные системы. Теория и приложения (ранее: Интеллектуальные системы по 2014, № 2, ISSN 2075-9460)
- Том: 27
- Номер: 2
- Год издания: 2023
- Издательство: [б.и.]
- Местоположение издательства: М.
- Аннотация: В работе предлагается метод повышения качества обучения сверточных искусственных нейронных сетей (ИНС) за счет разделения параметров по их возможности расширения рецептивного поля. При обучении ResNet50 достигается увеличение точности за счет чередуемой остановки обучения в 4-х слоях, расширяющих рецептивное поле. Показано, что повышение обобщающей способности модели при использовании предложенного метода достигается за счет устранения избыточного вклада отдельных существенных (окклюзивных) элементов изображения при формировании карт признаков. В пользу указанных предположений приводятся результаты экспериментов в задаче transfer learning и рассуждения относительно существования указанной проблемы. Предлагаемые подходы могут оказаться полезными, в частности, при обучении ИНС на малых данных или дистилляции обучающего множества, где проблемы переобучения на отдельных окклюзивных признаках имеют высокую значимость.
- Добавил в систему: Хусаенов Артем Азатович