Genetic algorithm-based approach for building decision trees

Abstract

При работе с очень большими наборами данных построение дерева решений с использованием всех примеров может быть затруднительно. Даже в случаях, когда это возможно, это может быть не лучший способ использовать данные. В качестве альтернативы исходный набор данных может быть разделен на выборки, дерево может быть построено на каждом подмножестве, а затем отдельные деревья могут быть интеллектуальным образом объединены для получения окончательного оптимизированного дерева. В этой статье мы предлагаем случайным образом разделить исходные данные на выборки, произвести скрещивание и мутацию (с использованием генетического алгоритма) для ряда поколений выборок, чтобы получить более точные деревья.

In dealing with a very large data set, it might be complex to construct a decision tree using all of the examples. Even when it is possible, this might not be the best way to utilize the data. As an alternative, subsets of the original data set can be extracted, a tree can be constructed on each subset, and then individual trees can be combined in a smart way to produce an improved final tree. In this paper, we suggest dividing data set to randomly generated subsets and allowing them to crossover and mutate (using a genetic algorithm) for a number of generations in order to yield more accurate trees.