ДОСЛІДЖЕННЯ МЕТОДІВ ВЕКТОРИЗАЦІЇ ТЕКСТІВ У ЗАДАЧАХ ВАЛІДАЦІЇ ВІДПОВІДЕЙ, ПОДАНИХ ПРИРОДНОЮ МОВОЮ

Анотація

Інтелектуалізація процесу обробки природномовних текстів у задачах автоматизованого тестування зумовлює актуальність дослідження. Оскільки відповіді відкритого типу в системах тестування є природномовними текстами, то завдання їх обробки належить до прикладної задачі обробки текстів. Усі прикладні задачі обробки текстів, рішення яких відбувається з використанням машинного навчання, нейромереж, вимагають векторизації – перетворення тексту на цифрові послідовності. Метою статті є дослідження моделей, методів векторизації текстів у задачах обробки відповідей, поданих природною мовою. На першому етапі досліджено базові прикладні задачі обробки текстів і наведено їх класифікацію. Обґрунтовано віднесення задачі перевірки природномовних відповідей у межах цього дослідження до задач класифікації текстів і семантичного аналізу. На другому етапі проаналізовано базові моделі представлення тексту в цифровому вигляді: bag-of-words та дистрибутивну семантику. Обґрунтовано застосування моделі bag-of-words для задачі обробки відповідей відкритого типу, оскільки для визначення класу відповіді досить складу словника, який застосовується для кодування колекції правильних відповідей, і частоти слів, з якою вони застосовуються у відповідях «навчального» та «тестового» наборів даних. Зауважено, що вектором ознак у цій задачі є частоти появи токенів (символьні або словесні уні-, бі-, n-грами) словника, сформованого за навчальною вибіркою, у відповідях «навчального» та «тестового» наборів даних. На третьому етапі досліджено підходи до обчислення вектора ознак: абсолютну частоту (TF), відносну частоту (TF-IDF), сумісну інформацію (PWI), визначено переваги та недоліки кожного з них. На останньому етапі для векторизації текстів у задачах обробки відповідей, поданих природною мовою, запропоновано такі комбінації наборів ознак: модель bag-of-words та TF; модель bag-of-words та TF-IDF; словесні n-грами та TF-IDF; символьні n-грами та TF-IDF; модель bag-of-words та TF-PWI. Запропоновані набори ознак та їх комбінації є засобами покращення моделі машинного навчання для задачі перевірки відповідей, поданих природною мовою. Подальші дослідження будуть спрямовані на розробку моделі машинного навчання цієї задачі та її експериментальне тестування із запропонованими наборами ознак для отримання ефективної математичної моделі.