Применение больших языковых моделей как универсального интерфейса для задач классификации по табличным данным : магистерская диссертация

Abstract

In recent years, large language models (LLMs) have been increasingly used not only for text processing but also for working with tabular data. However, their effectiveness in classifying structured information compared to traditional machine learning methods remains understudied. This work explores how well the T0_3B LLM performs in tabular data classification tasks. We focus on its ability to handle incomplete and noisy data, as well as how its performance scales with training dataset size. We compare it against classical algorithms (CatBoost, Random Forest) on various datasets, measuring accuracy, F1-score, and ROC-AUC.

В последние годы большие языковые модели (БЯМ) активно применяются не только для обработки текста, но и для работы с табличными данными. Однако их эффективность в классификации структурированной информации по сравнению с традиционными методами машинного обучения, изучена недостаточно. В данной работе мы исследуем, насколько БЯМ T0_3B пригодна для решения задач классификации табличных данных. Основное внимание уделяется ее способности работать с неполными и зашумлёнными данными, а также зависимости ее производительности от размера обучающей выборки. Мы сравниваем модель с классическими алгоритмами (CatBoost, Random Forest) на различных наборах данных, оценивая точность, F1-меру и ROC-AUC.