RusVectōrēs 2.0: Christmas Edition

В канун праздников мы хотим сделать подарок всем, кто занимается дистрибутивной семантикой, и выпускаем новую версию нашего сервиса - RusVectōrēs 2.0.

Для тех, кто не знал или забыл: RusVectōrēs вычисляет семантические отношения между словами русского языка c помощью векторных семантических моделей, обученных на больших текстовых корпусах. Семантическая карта

Что это такое? В дистрибутивной семантике слова обычно представляются в виде векторов в многомерном пространстве их контекстов. Семантическое сходство вычисляется как косинусная близость между векторами двух слов и может принимать значения в промежутке от -1 до 1. Значение 0 означает, что у этих слов нет похожих контекстов и их значения не связаны друг с другом. Значение 1, напротив, свидетельствует о полной идентичности их контекстов и, следовательно, о близком значении.

RusVectōrēs позволяет на основе нейронных моделей, обученных нами на НКРЯ, новостном и веб корпусах работать с векторами слов: вычислять ближайших семантических соседей слова, находить коэффициент сходства между парами слов, складывать и вычитать лексические вектора. Модели обучаются при помощи алгоритмов Skip-Gram и CBOW, реализованных в широко известной утилите word2vec.

Мы рассказывали о нашем сервисе на семинаре "Quantitative Approaches to the Russian Language" в Хельсинки в августе и на тьюториале по дистрибутивной семантике на конференции AINL-FRUCT в Санкт-Петербурге в ноябре. С тех пор функционал RusVectōrēs существенно расширился, и теперь у вас есть ещё больше возможностей для исследований. Основные изменения в новой версии таковы:

  1. Визуализация лексического вектора Появился API, так что теперь к сервису можно обращаться автоматически! С помощью API можно для любого слова получить список слов, семантически близких к данному в выбранной модели. Для этого необходимо выполнить GET-запрос по адресу следующего вида: http://rusvectores.org/MODEL/WORD/api, где MODEL - идентификатор для выбранной модели, а WORD - слово запроса. По запросу отдаётся текстовый файл в формате tab-separated values, в котором перечислены ближайшие десять соседей слова.
  2. Создан инструментарий для визуализации данных. Сервис строит карту взаимного расположения слов, которые ввёл пользователь, в выбранной модели, а затем отображает двумерную проекцию этой карты (поскольку изначально мы имеем дело с векторным пространством высокой размерности).
  3. Доступна также визуализация вектора для каждого слова в выбранной модели, которая находится по уникальной для этого слова ссылке.
  4. Семантический калькулятор теперь может выполнять операции двух видов: решение пропорции вида "найти слово D, связанное со словом C таким же образом, как слово A связано со словом B" (analogical inference) и алгебраические операции над векторами (сложение, вычитание, нахождение центра лексического кластера)
  5. Конечно, как и раньше, пользователи могут обучать нейронные модели с заданными параметрами на собственных корпусах, чтобы затем использовать их в работе.
  6. Вы всегда можете быть в курсе текущих изменений в работе сервиса, подписавшись на нашу новостную ленту!

Желаем, чтобы для ваших исследований не существовало технических преград! Счастливых праздников!

Команда RusVectōrēs:
Андрей Кутузов (Университет Осло, Высшая школа экономики)

Елизавета Кузьменко (Высшая школа экономики)