Статья рассматривает разработку и внедрение прозрачных, интерпретируемых моделей искусственного интеллекта для образовательной диагностики в вузе в условиях роста цифрового следа обучающихся и связанного с ним риска черного ящика при принятии решений высокой значимости (отчисление, стипендии, адресные интервенции). На массиве деперсонализированных данных трех университетов за четыре семестра 2021-2023 годов (4250 студентов, 128 преподавателей, свыше 15 млн событий LMS Moodle/Blackboard, результаты аттестаций и социодемографические признаки) сопоставлены диагностические модели логистической регрессии, CART, Random Forest и XGBoost, а также модель-агностические и шеплиевские механизмы объяснения (LIME, SHAP). Показано, что выигрыш сложных ансамблей в метриках качества (для XGBoost AUC-ROC 0,9432; F1 0,8968) сопровождается приемлемым разрывом по сравнению с более простыми моделями для задач педагогической диагностики, тогда как добавление SHAP сохраняет точность, но более чем удваивает время инференса (до 142,56 мс), формируя инфраструктурные требования при пакетной обработке. Психометрическая оценка восприятия результатов преподавателями выявляет критически низкое доверие к прогнозам без объяснений (3,45/10) и существенный рост доверия при локальных и контрфактических объяснениях (до 7,89-8,12), при этом вербальные нарративы обеспечивают максимальную субъективную понятность (8,67), но уступают контрфактическим сценариям по доверительности; углубление объяснений увеличивает время принятия решения (до 41,56 с), фиксируя компромисс между доказательностью и когнитивной нагрузкой. Корреляционный анализ показывает слабую связь доверия с возрастом и стажем и сильную зависимость от цифровой грамотности и опыта аналитики данных, а также влияние сопротивления инновациям через рост тревожности. В режиме преподаватель + интерпретируемый ИИ повышается точность прогноза рисков (в среднем до 0,8330) и проявляется эффект выравнивания компетенций с наибольшим приростом у менее уверенных преподавателей (до +0,2413) и высоким коэффициентом смены мнения (68,4%), что интерпретируется как переход к калиброванному доверию и двусторонней валидации решений; обоснована необходимость адаптивных интерфейсов объяснений и развития культуры критического использования алгоритмических рекомендаций в университете.
The article examines the development and implementation of transparent, interpretable artificial intelligence models for educational diagnostics in universities amid the growing digital footprint of students and the associated risk of the black box in high-stakes decision-making (expulsion, scholarships, targeted interventions). On a dataset of depersonalized data from three universities over four semesters of 2021-2023 (4250 students, 128 instructors, over 15 million LMS Moodle/Blackboard events, assessment results, and sociodemographic characteristics), diagnostic models of logistic regression, CART, Random Forest, and XGBoost were compared, along with model-agnostic and Shapley-based explanation mechanisms (LIME, SHAP). It is shown that the advantage of complex ensembles in quality metrics (for XGBoost AUC-ROC 0.9432; F1 0.8968) is accompanied by an acceptable gap compared to simpler models for pedagogical diagnostics tasks, while adding SHAP preserves accuracy but more than doubles inference time (up to 142.56 ms), forming infrastructure requirements for batch processing. Psychometric evaluation of instructors perception of results reveals critically low trust in predictions without explanations (3.45/10) and a substantial increase in trust with local and counterfactual explanations (up to 7.89-8.12), with verbal narratives providing maximum subjective comprehensibility (8.67) but yielding to counterfactual scenarios in trustworthiness; deepening explanations increases decision-making time (up to 41.56 s), fixing a trade-off between evidentiality and cognitive load. Correlation analysis shows a weak link between trust and age/experience and a strong dependence on digital literacy and data analytics experience, as well as the influence of resistance to innovations through increased anxiety. In the instructor + interpretable AI mode, the accuracy of risk forecasting improves (on average up to 0.8330) and a competence alignment effect emerges with the greatest gain among less confident instructors (up to +0.2413) and a high opinion change coefficient (68,4%), interpreted as a transition to calibrated trust and bilateral validation of decisions; the need for adaptive explanation interfaces and the development of a culture of critical use of algorithmic recommendations in the university is substantiated.