DATA SCIENCE В УПРАВЛЕНИИ ОБРАЗОВАТЕЛЬНЫМ ПРОСТРАНСТВОМ

Верить или нет: о галлюцинациях ИИ в образовательном процессе

Авторы

  • Александр Александрович Николаев https://orcid.org/0000-0003-1687-2332 Университет науки и технологий МИСИС, 119049, г. Москва, Ленинский проспект, д. 4
  • Михаил Юрьевич Кузнецов https://orcid.org/0000-0002-4701-4595 Научно-исследовательский институт организации здравоохранения и медицинского менеджмента Департамента здравоохранения города Москвы, 115184, г. Москва, ул. Большая Татарская, д. 30
  • Виталий Александрович Николаев https://orcid.org/0000-0002-3611-9332 Российский национальный исследовательский медицинский университет имени Н.И. Пирогова, 117997, г. Москва, ул. Островитянова, д. 1
DOI: 10.25726/b0302-1872-4517-g

Как цитировать

ГОСТ Николаев А. А., Кузнецов М. Ю., Николаев В. А. Верить или нет: о галлюцинациях ИИ в образовательном процессе // Управление образованием: теория и практика. 2026. Т. 16. № 3-1. С. 91-101. DOI: 10.25726/b0302-1872-4517-g
APA Николаев, А. А., Кузнецов, М. Ю. & Николаев, В. А. (2026). Верить или нет: о галлюцинациях ИИ в образовательном процессе. Управление образованием: теория и практика, 16(3-1), 91-101. https://doi.org/10.25726/b0302-1872-4517-g

Аннотация

Развитие технологий ИИ привело к использованию больших языковых моделей (LLM, MLLM) в системе образования. Однако, актуальной остается проблема галлюцинаций ИИ при использовании таких моделей в образовательном процессе. В статье рассмотрена проблема галлюцинаций LLM и MLLM в контексте образовательного процесса. Показано, что в результате галлюцинаций ИИ может генерировать информацию с ошибками, недостоверный, вымышленный контент, фальсификации и дезинформацию. Это может негативно влиять на всех участников образовательного процесса и систему образования в целом. Для решения проблемы галлюцинации ИИ в системе образования необходим комплексный подход, заключающийся в совершенствовании технологий, обучении использованию ИИ, развитии педагогических практик, создании регуляторных мер.

Ключевые слова

галлюцинации ИИ в образовании LLM в образовательном процессе ошибки чат-ботов проблемы ИИ в решении учебных задач эпистемическая ошибка ИИ ошибки ИИ ложное убеждение ИИ

Библиографические ссылки

Маджумдер М.Ш., Бегунова Д.Д. Причины искажения контента: Анализ и классификация галлюцинаций в больших языковых моделях GPT // Искусственный интеллект и принятие решений. 2024. № 3. С. 32-41.

Понкин И.В., Лаптева А.И. Методология научных исследований и прикладной аналитики. Издание 3-е, дополн. и перераб. М.: Буки Веди, 2022. С. 754.

Промпт: запрос к языковой модели // Грамота.ru. URL: https://gramota.ru/journal/stati/zhizn yazyka/prompt-zapros-k-yazykovoy-modeli (Дата обращения: 18.01.2026).

Aljamaan F., et al. Reference hallucination score for medical artificial intelligence Chatbots: Development and usability study // JMIR Med Inform. 2024. Vol. 12. № 1. e54345.

Bai Z., et al. Hallucination of multimodal large language models: A survey // Comp. Vis. Patt. Recog. 2025. Vol. 1. № 1. pp. 1-40.

Bewersdorff A., et al. Taking the next step with generative artificial intelligence: The transformative role of multimodal large language models in science education // Learn. Individ. Differ. 2025. Vol. 118. № 102601. pp. 1-13.

Gutierrez J.A.A., et al. From error to insight: Pedagogical reflections on AI hallucinations and prompt engineering // J. Hunan Univ. Nat. Sci. 2025. Vol. 52. № 12. pp. 161-170.

Huang L., et al. A survey on hallucination in large language models: Principles, taxonomy, challenges, and open questions // ACM Trans. Inf. Syst. 2025. Vol. 43. № 2. pp. 1-55.

Kamel H. Understanding the impact of AI hallucinations on the university community // Cybrarians Journal. 2024. № 73. pp. 111-134.

Küchemann S., et al. On opportunities and challenges of large multimodal foundation models in education // NPJ Sci. Learn. 2025. Vol. 10. № 1. pp. 1-11.

López-Borrull A., Lopezosa C. Mapping the impact of generative AI on disinformation: Insights from a scoping review // Publications. 2025. Vol. 13. № 3. pp. 1-18.

Park S., Nan X. Generative AI and misinformation: A scoping review of the role of generative AI in the generation, detection, mitigation, and impact of misinformation // AI and Soc. 2025. pp. 1-15.

Rashid A.B., Kausik A.K. AI revolutionizing industries worldwide: A comprehensive overview of its diverse applications // Hybrid. Adv. 2024. Vol. 7. № 100277. pp. 1-34.

Shi Y., et al. Large language models in education: A systematic review of empirical applications, benefits, and challenges // Comput. Educ. Artif. Intell. 2025. Vol. 10. № 100529. pp. 1-16.

Sun S., et al. Hallucinations of large multimodal models: Problem and countermeasures // Inform Fusion. 2025. Vol. 118. № 102970. pp. 1-9.

Sun Y., et al. AI hallucination: Towards a comprehensive classification of distorted information in artificial intelligence-generated content // Humanit. Soc. Sci. Commun. 2024. Vol. 11. № 1278. pp. 1-14.

Torres R. AI Hallucination in the context of education: Exploring college students’ use of generative AI for academic tasks // 16th International Conference on E-Education, E-Business, E-Management and E-Learning (IC4e). Instit. Electr. Electron. Eng. Inc. 2025. pp. 445-449.

Wenjuan M.A., et al. The who, why, and how of AI-based chatbots for learning and teaching in higher education: A systematic review // Educ. Inf. Technol. 2025. Vol. 30. pp. 7781-7805.

Yeung L.K.C., et al. In ChatGPT they trust: A study of students’ perceptions and misuse of ChatGPT in higher education // AI Ethics. 2026. Vol. 6. № 11. pp. 1-20.

Yingzhe L.I. Addressing hallucinations in AI-generated content: Strategies for developing student fact-checking and information evaluation skills // Artificial Intelligence Education Studies. 2025. Vol. 1. № 2. pp. 48-62.

Zhou J., et al. Integrating AI into clinical education: Evaluating general practice trainees' proficiency in distinguishing AI-generated hallucinations and impacting factors // BMC Med. Educ. 2025. Vol. 25. № 1. pp. 1-9.

Выпуск

Том 16 № 3-1 (2026): Управление образованием: теория и практика

Раздел

DATA SCIENCE В УПРАВЛЕНИИ ОБРАЗОВАТЕЛЬНЫМ ПРОСТРАНСТВОМ

Метрики

181 просмотров
0 скачиваний
JATS XML
Хотите опубликоваться?
Подать статью

Наиболее читаемые статьи этого автора (авторов)