Раннее выявление риска расстройств аутистического спектра у детей на основе zero-shot-моделей визуально-текстового анализа неструктурированных видео
К.О. Гнидко, А.А. Былинская
Научный центр информационных технологий и искусственного интеллекта АНОО ВО «Университет «Сириус», Российская Федерация, 354340, Краснодарский край, федеральная территория «Сириус», Триумфальный проезд, 1
Рассматривается задача выявления рисков возникновения расстройств аутистического спектра у детей на основе анализа поведенческих паттернов в неструктурированных видеоданных. Данная задача носит сложный, слабоформализованный характер и традиционно требует значительных экспертных усилий, что затрудняет ее масштабирование и применение в раннем скрининге. В настоящее время универсальные технические подходы, обес-печивающие автоматизированный анализ таких данных в условиях ограниченной разметки, остаются недостаточно разработанными.
Осуществлена проверка гипотезы о возможности достоверного выявления риска расстройств аутистического спектра у детей на основе анализа спонтанных домашних видеозаписей с использованием методов глубокого обучения, не требующих дополнительного обучения на специализированных размеченных выборках. Предложен метод zero-shot-распознавания поведенческих паттернов на видеозаписях на основе мультимодальных моделей визуально-языкового сопоставления. Метод опирается на ансамбль текстовых промптов, специализированный дизайн текстовых описаний поведения и иерархическую агрегацию поведенческих признаков. Стратегия ансамбля текстовых промптов обеспечивает устойчивое сопоставление видеоданных и текстовых представлений за счет использования нескольких лингвистически вариативных формулировок для каждой категории поведения. Предложенная схема иерархической агрегации позволяет учитывать семантическую близость различных типов поведения и повышает устойчивость zero-shot классификации.
Полученные результаты демонстрируют применимость предложенного подхода для анализа редких и слабо представленных форм поведения, характерных для ранних проявлений расстройств аутистического спектра. Также показано, что метод способен формировать интерпретируемый временной профиль поведенческих признаков, что позволяет не только выполнять классификацию, но и локализовать поведенческие паттерны во времени. Это расширяет возможности использования подхода в задачах более детального анализа структуры поведения.
Научная новизна работы заключается в применении zero-shot-парадигмы к задаче анализа поведенческих паттернов в домашних видеозаписях, а также в разработке стратегии ансамблирования текстовых промптов и иерархической агрегации признаков. Предложенный подход позволяет снизить эпистемическую неопределенность при интерпретации поведенческих проявлений, уменьшить зависимость от субъективных факторов и создать основу для разработки доступных и масштабируемых решений в области раннего выявления рисков расстройств аутистического спектра.
- Современное состояние проблемы расстройств аутистического спектра – некоторые медико-биологические и социально-гуманитарные аспекты / И.И. Семина, Л.М. Мухарямова, И.С. Сабиров, Е.В. Валеева, Л.Р. Сафиуллина, Д.О. Никитин // Казанский медицинский журнал. – 2019. – Т. 100, № 6. – С. 918–929. DOI: 10.17816/KMJ2019-918
-
- Аналитическая справка о состоянии современных научных исследований расстройств аутистического спектра в России [Электронный ресурс] // Аутизм: Федеральный ресурсный центр. – URL: https://autism-frc.ru/ckeditor_assets/attachments/1351/analiticheskaya_s... (дата обращения: 03.03.26).
- Разработка и психометрическое обоснование методики диагностики симптомов РАС у детей 5–7 лет / А.Д. Наследов, Л.О. Ткачева, С.А. Мирошников, Е.О. Пахомова, О.В. Защиринская // Вестник Санкт-Петербургского университета. Психология. – 2025. – Т. 15, № 2. – С. 218–239.
- Automated AI based identification of autism spectrum disorder from home videos / D.Y. Kim, R. Do, Y. Shin, H. Sim, H. Kim, S. Cho, G. Lee, S. Park [et al.] // NPJ Digit. Med. – 2025. – Vol. 8, № 1. – P. 607. DOI: 10.1038/s41746-025-01993-5
- Home videos for remote assessment in children with disabilities: a scoping review / S. Steinhart, Y. Gilboa, R.-T. Sinva-ni, N. Gefen // Telemed. J. E Health. – 2024. – Vol. 30, № 6. – P. e1629–e1648. DOI: 10.1089/tmj.2023.0437
- Radiomics vs. Deep Learning in Autism Classification Using Brain MRI: A Systematic Review / K. Nalentzi, G.S. Ioannidis, H. Bougias, S. Bisdas, M. Balafouta, C. Sgouropoulou, M.E. Klontzas, K. Marias, P. Papavasileiou // Appl. Sci. – 2025. – Vol. 15, № 19. – P. 10551. DOI: 10.3390/app151910551
- Transparent deep learning to identify autism spectrum disorders (ASD) in EHR using clinical notes / G. Leroy, J.G. An-drews, M. KeAlohi-Preece, A. Jaswani, H. Song, M.K. Galindo, S.A. Rice // J. Am. Med. Inform. Assoc. – 2024. – Vol. 31, № 6. – P. 1313–1321. DOI: 10.1093/jamia/ocae080
- Using Machine Learning for Motion Analysis to Early Detect Autism Spectrum Disorder: A Systematic Review / R. Simeoli, A. Rega, M. Cerasuolo, R. Nappo, D. Marocco // Rev. J. Autism Dev. Disord. – 2024. – Vol. 13. – P. 278–297. DOI: 10.1007/s40489-024-00435-4
- Comprehending body language and mimics: An ERP and neuroimaging study on Italian actors and viewers / A.M. Proverbio, M. Calbi, M. Manfredi, A. Zani // PLoS One. – 2014. – Vol. 9, № 3. – P. e91294. DOI: 10.1371/journal.pone.0091294
- Aviezer H., Trope Y., Todorov A. Body cues, not facial expressions, discriminate between intense positive and negative emotions // Science. – 2012. – Vol. 338, № 6111. – P. 1225–1229. DOI: 10.1126/science.1224313
- de Gelder B., de Borst A.W., Watson R. The perception of emotion in body expressions // Wiley Interdiscip. Rev. Cogn. Sci. – 2015. – Vol. 6, № 2. – P. 149–158. DOI: 10.1002/wcs.1335
- Putting “context” in context: The effects of body posture and emotion scene on adult categorizations of disgust facial expressions / P.J. Reschke, J.M. Knothe, L.D. Lopez, E.A. Walle // Emotion. – 2018. – Vol. 18, № 1. – P. 153–158. DOI: 10.1037/emo0000350
- Yuan T., Wang L., Jiang Y. Cross-channel adaptation reveals shared emotion representation from face and biological motion // Emotion. – 2025. – Vol. 25, № 1. – P. 158–173. DOI: 10.1037/emo0001409
- Morency L.P. What is multimodal? // ICMI '22: Proceedings of the 2022 International Conference on Multimodal In-teraction. – 2022. – P. 1. DOI: 10.1145/3536221.3565369
- Themistocleous C.K., Andreou M., Peristeri E. Autism Detection in Children: Integrating Machine Learning and Natural Language Processing in Narrative Analysis // Behav. Sci. (Basel). – 2024. – Vol. 14, № 6. – P. 459. DOI: 10.3390/bs14060459
- Rathod S., Rathod M. Review on Autism Spectrum Disorder Assessment in Pediatric Neurodevelopment to Identify the Biomarkers: Conference paper // ICT for Intelligent Systems: Proceedings of ICTIS 2025. – 2026. – Vol. 11. – P. 61–72. DOI: 10.1007/978-981-96-8796-1_6
- Rajagopalan S.S., Ghosh S. Recent Developments in the Application of Artificial Intelligence and Machine Learning in Early Screening and Diagnosis of Autism // Methods Mol. Biol. – 2025. – Vol. 2952. – P. 233–242. DOI: 10.1007/978-1-0716-4690-8_13
- Che Y.M., Zhou H.Y. Difficulties in Emotion Recognition from Body Movements in Autism Spectrum Disorder: A Systematic Review and Meta-Analysis // Review Journal of Autism and Developmental Disorders. – 2025. DOI: 10.1007/s40489-025-00524-y
- Вариомный анализ высокофункционального аутизма (синдрома Аспергера) / И.Ю. Юров, С.Г. Ворсанова, М.А. Зеленова, Т.А. Строганова, Ю.Б. Юров // Российский вестник перинатологии и педиатрии. – 2015. – № 4. – С. 193–194.
- Протеомный анализ белкового профиля сывороток крови больных аутизмом детей / А.Л. Кайшева, А.Т. Ко-пылов, Р.А. Галиуллин, А.С. Анашкина, А.И. Арчаков, Ю.Д. Иванов, И.Ю. Юров, С.Г. Ворсанова, Ю.Б. Юров // Вопро-сы практической педиатрии. – 2016. – Т. 11, № 5. – С. 12–17. DOI: 10.20953/1817-7646-2016-5-12-17
- Спектр вариаций числа копий гена MECP2 в российской когорте детей с нарушением интеллекта, врожденными пороками развития, эпилепсией и аутизмом / С.Б. Ворсанова, Ю.Б. Юров, В.Ю. Воинова, А.Д. Колотий, И.А. Демидова, О.С. Куринная, М.А. Зеленова, И.Ю. Юров // Российский вестник перинатологии и педиатрии. – 2016. – Т. 61, № 4. – С. 190–191.
- Молекулярное кариотипирование в группе детей с макроцефалией, умственной отсталостью и/или аутизмом и врожденными пороками развития / М.А. Зеленова, Ю.Б. Юров, К.С. Васин, О.С. Куринная, С.Г. Ворсанова, И.Ю. Юров // Российский вестник перинатологии и педиатрии. – 2016. – Т. 61, № 4. – С. 193.
- Трипликация длинного плеча хромосомы Y (Yq11.223q11.23) у мальчика с задержкой психоречевого развития и аутизмом / А.Д. Колотий, С.Г. Ворсанова, Ю.Б. Юров, К.С. Васин, С.Ю. Кузнецова, М.Л. Гордеева, В.С. Кравец, И.Ю. Юров // Российский вестник перинатологии и педиатрии. – 2017. – Т. 62, № 4. – С. 171.
- Дупликация длинного плеча хромосомы 1, ассоциированная с аутизмом и микроаномалиями развития / О.С. Куринная, С.Г. Ворсанова, Ю.Б. Юров, В.Ю. Воинова, И.Ю. Юров // Психиатрия. – 2015. – № 4. – С. 64а–65.
- Анализ вариаций числа копий последовательностей ДНК у 12 мальчиков с высокофункциональным аутизмом (синдром Аспергера) / М.А. Зеленова, С.Г. Ворсанова, Ю.Б. Юров, Т.А. Строганова, И.Ю. Юров // Психиатрия. – 2015. – № 4. – С. 60–61.
- Геномика аутизма: современные интерпретационные технологии поиска молекулярных механизмов нарушения психики у детей / И.Ю. Юров, С.Г. Ворсанова, М.А. Зеленова, К.С. Васин, А.М. Ратников, Ю.Б. Юров // Российский вестник перинатологии и педиатрии. – 2017. – Т. 62, № 4. – С. 173.
- Жукова М.А. Особенности ЭЭГ-ритмов у людей с РАС // Психологическая наука и образование. – 2016. – Т. 21, № 3. – С. 47–55. DOI: 10.17759/pse.2016210306
- Сорокин А.Б., Зотова М.А., Коровина Н.Ю. Скрининговые методы для выявления целевой группы «спектр аутизма» педагогами и психологами // Психологическая наука и образование. – 2016. – Т. 21, № 3. – С. 7–15. DOI: 10.17759/pse.2016210302
- Модернизация идей исследования аутизма и развития системы помощи людям с аутизмом в России: от регио-нальной инициативы к глобализации решений / Е.А. Черенева, О.Б. Богдашина, М.Ф. Казанова, С. Ли // Психологическая наука и образование. – 2016. – Т. 21, № 3. – С. 131–140. DOI: 10.17759/pse.2016210315
- Переверзева Д.С., Горбачевская Н.Л., Благовещенский Е.Д. Разработка протокола обследования зрительной когнитивной функции у детей с расстройствами аутистического спектра различной этиологии // Психологическая наука и образование. – 2016. – Т. 21, № 3. – С. 34–46. DOI: 10.17759/pse.2016210305
- Ильченко Н.В. Отбор психодиагностического инструментария для изучения представлений о мире у детей с расстройствами аутистического спектра // Дефектология. – 2015. – № 4. – С. 54–62.
- Применение метода анализа вербального поведения для обучения и психологического сопровождения детей с аутизмом / С.А. Эстербрук, Р.Л. Эстербрук, Е.А. Орлова, Т.А. Карпекова // Психология обучения. – 2016. – № 4. – С. 102–115.
- Хаустов А.В., Руднева Е.В. Выявление уровня социализации у детей с расстройствами аутистического спектра (РАС) // Психологическая наука и образование. – 2016. – Т. 21, № 3. – С. 16–24. DOI: 10.17759/pse.2016210303
- Давыдова Е.Ю., Сорокин А.Б. Жизненные компетенции в контексте планирования обучения детей с рас-стройствами аутистического спектра // Психологическая наука и образование. – 2016. – Т. 21, № 3. – С. 120–130. DOI: 10.17759/pse.2016210314
- Altered thalamotemporal structural connectivity is associated with autistic traits in children with ASD / A. Minnigulova, V. Karpychev, E. Davydova, D. Pereverzeva, A. Sorokin, S. Tyushkevich, U. Mamokhina, K. Danilina [et al.] // Behav. Brain Res. – 2025. – Vol. 481. – P. 115414. DOI: 10.1016/j.bbr.2024.115414
- Learning Transferable Visual Models From Natural Language Supervision / A. Radford, J.W. Kim, C. Hallacy, A. Ramesh, G. Goh, S. Agarwal, G. Sastry, A. Askell [et al.] // arXiv. – 2021. DOI: 10.48550/arXiv.2103.00020
- Sigmoid Loss for Language Image Pre-Training / X. Zhai, B. Mustafa, A. Kolesnikov, L. Beyer // arXiv. – 2021. DOI: 10.48550/arXiv.2303.15343

fcrisk.ru

