NEGATIVE-SAMPLING WORD-EMBEDDING METHOD

Abstract

Одним из самых известных авторов метода является Томас Миколов. Его программное обеспечение и метод теоретического применения являются одними из основных для нашего сегодняшнего рассмотрения. Стоит отметить, что он более математически ориентирован. Сам автор, Томас Миколов, имел больше отношения к математике, и его метод касается прежде всего математического решения для теоретического, а затем практического решения для создания этого и метода, который мы анализируем. Плотные векторные представления слов в последнее время приобрели популярность в качестве функций фиксированной длины для алгоритмов машинного обучения, и система Миколова в настоящее время широко используется. Мы исследуем один из его основных компонентов, отрицательную выборку, и предлагаем эффективные распределенные методы, которые позволяют нам масштабировать, чтобы указать и исключить возможность потери вероятности при аналогичном значении. Говоря о развитии нейронной сети, не стоит забывать о математической базовой теории понимания вероятности выбора слова. Кроме того, этот метод сфокусирован на одном действии в широком смысле для обработки распознавания вышеупомянутого вектора или слов.

One of the most famous authors of the method is the person Thomas Mikolov. Its software and method of theoretical application is one of the major ones for our consideration today. It is better to pay attention that it is more mathematically oriented. The author himself had more to do with mathematics and his method concerns first of all a mathematical solution for a theoretical, and then a practical solution for creating this and the method we are analyzing. Dense vector word representations have lately gained popularity as fixed-length features for machine learning algorithms, and Mikolov’s system is now widely used. We investigate one of its main components, Negative Sampling, and offer efficient distributed methods that allow us to scale to indicate and exclude the possibility of probability loss in a similar value. Furthermore, this method is laser-focused on a single action in the broad sense for processing the recognition of the above-mentioned vector or words.