EVALUATION OF ONLINE MORTGAGE APPLICATIONS WITH MACHINE LEARNING ALGORITHMS
A.V. Shipitsyn, N.V. Zhuravleva · Herald of the Belgorod University of Cooperation Economics and Law · 2016
В статье рассмотрен процесс автоматической классификации онлайн-заявок на выдачу ипотечного кредита в реальном времени с помощью алгоритмов Machine Learning. Приме- нены алгоритмы Logistic regression, Neural Networks, Decision trees, Random forest, Support Vector Machines, k-Nearest Neighbors, Naive Bayes, Bayesian decision trees, Gaussian Process. Проблема не- сбалансированности классов массива данных решена методами специального сэмплинга: under- sampling, over-sampling, equal-sampling. Приведен код процедур сэмплинга на языке программиро- вания R. Установлено, что сэмплинг выравнивает ошибку классификации по классам, увеличивая ее для мажорных классов и уменьшая ее для минорных. Разные методы классификации в комбинации с разными методами сэмплинга ведут себя непредсказуемо и проявляют разную эффективность. Эта проблема была решена с помощью агрегации нескольких моделей классификации методом голосо- вания по большинству. Классификаторы Naive Bayes, Logistic regression, Neural Network реагируют на сэмплинг положительно и существенно выравнивают ошибку по классам. Другие классификато- ры, такие как SVM и Decision trees, слабо чувствительны к сэмплингу для балансирования. Класси- фикатор Naive Bayes в комбинации с under-sampling или over-sampling проявляет наилучшую эффек- тивность, превосходя агрегированную модель. Агрегированная модель проявляет эффективность в комбинации с over-sampling.