82618

Автор(ы): 

Автор(ов): 

2

Параметры публикации

Тип публикации: 

Тезисы доклада

Название: 

Неявная регуляризация векторного представления текстов в подходе многозадачного обучения

ISBN/ISSN: 

978-5-317-07438-8

Наименование конференции: 

  • 22-я Всероссийская конференция с международным участием "Математические методы распознавания образов" (Муром, 2025)

Наименование источника: 

  • Тезисы докладов 22-й Всероссийской конференции с международным участием "Математические методы распознавания образов" (Муром, 2025)

Город: 

  • Муром

Издательство: 

  • МАКС Пресс

Год издания: 

2025

Страницы: 

78-79
Аннотация
Большое количество алгоритмов глубокого обучения оптимизируют про странство параметров моделей в режиме решения одной задачи (single-task). За частую этого может быть недостаточно в попытке получить устойчивую модель с высокой обобщающей способностью. Для повышения качества и информативности векторных представлений примеров в модели применяется многозадачное (multi-task) обучение. Данный подход предполагает одновременное обучение модели на нескольких сопутствующих задачах, что способствует эффективному использованию общей информации между ними. При совместном использовании заданного количества параметров сети модель вносит структурные особенности в компактное представление данных, производя неявную регуляризацию, что в свою очередь повышает скорость обучения и позволяет повысить показатели качества. В проведенном эксперименте подход многозадачного обучения позволил улучшить качество модели бинарной классификации, предназначенной для детектирования сгенерированных фрагментов. Классификаторы, уточняющие внутренние особенности данных, позволили сблизить эмбеддинги текстов одного автора в векторном пространстве, а также сформировать кластерную структуру, что положительно повлияло на показатели качества.

Библиографическая ссылка: 

Грицай Г.М., Грабовой А.В. Неявная регуляризация векторного представления текстов в подходе многозадачного обучения / Тезисы докладов 22-й Всероссийской конференции с международным участием "Математические методы распознавания образов" (Муром, 2025). Муром: МАКС Пресс, 2025. С. 78-79.