Разработка прозрачных и интерпретируемых моделей искусственного интеллекта для образовательной диагностики в вузе и оценка доверия пользователей к результатам

Аннотация

Статья рассматривает разработку и внедрение прозрачных, интерпретируемых моделей искусственного интеллекта для образовательной диагностики в вузе в условиях роста цифрового следа обучающихся и связанного с ним риска черного ящика при принятии решений высокой значимости (отчисление, стипендии, адресные интервенции). На массиве деперсонализированных данных трех университетов за четыре семестра 2021-2023 годов (4250 студентов, 128 преподавателей, свыше 15 млн событий LMS Moodle/Blackboard, результаты аттестаций и социодемографические признаки) сопоставлены диагностические модели логистической регрессии, CART, Random Forest и XGBoost, а также модель-агностические и шеплиевские механизмы объяснения (LIME, SHAP). Показано, что выигрыш сложных ансамблей в метриках качества (для XGBoost AUC-ROC 0,9432; F1 0,8968) сопровождается приемлемым разрывом по сравнению с более простыми моделями для задач педагогической диагностики, тогда как добавление SHAP сохраняет точность, но более чем удваивает время инференса (до 142,56 мс), формируя инфраструктурные требования при пакетной обработке. Психометрическая оценка восприятия результатов преподавателями выявляет критически низкое доверие к прогнозам без объяснений (3,45/10) и существенный рост доверия при локальных и контрфактических объяснениях (до 7,89-8,12), при этом вербальные нарративы обеспечивают максимальную субъективную понятность (8,67), но уступают контрфактическим сценариям по доверительности; углубление объяснений увеличивает время принятия решения (до 41,56 с), фиксируя компромисс между доказательностью и когнитивной нагрузкой. Корреляционный анализ показывает слабую связь доверия с возрастом и стажем и сильную зависимость от цифровой грамотности и опыта аналитики данных, а также влияние сопротивления инновациям через рост тревожности. В режиме преподаватель + интерпретируемый ИИ повышается точность прогноза рисков (в среднем до 0,8330) и проявляется эффект выравнивания компетенций с наибольшим приростом у менее уверенных преподавателей (до +0,2413) и высоким коэффициентом смены мнения (68,4%), что интерпретируется как переход к калиброванному доверию и двусторонней валидации решений; обоснована необходимость адаптивных интерфейсов объяснений и развития культуры критического использования алгоритмических рекомендаций в университете.