Skip to content
DSML.KZ
Publications

Article · Научный журнал "Вестник Актюбинского регионального университета имени К Жубанова" · September 30, 2026

EXPLAINABLE ARTIFICIAL INTELLIGENCE IN HEALTHCARE: A MULTI-CRITERIA BENCHMARK OF EXPLANATION FAITHFULNESS, STABILITY AND CONSENSUS IN CLINICAL RISK PREDICTION

Arulmurugan Ramu, TESHOME D.A.

Arulmurugan Ramu
Open via DOIPDF

Abstract

Объяснимый искусственный интеллект (XAI) регулярно предлагается в качестве механизма, который сделает клиническое машинное обучение заслуживающим доверия, однако сами объяснения почти никогда не проверяются: в прикладной медицинской литературе график SHAP или LIME представляется как доказательство, а не проверяется как утверждение. В настоящем исследовании ставится вопрос о том, являются ли апостериорные объяснения клинических моделей риска достоверными, устойчивыми и воспроизводимыми и можно ли измерять эти свойства в рутинном порядке. Предложен протокол CLARA (Clinical Explanation Reliability Assessment) — четырёхосевая процедура оценки, которая характеризует метод объяснения по достоверности (площадь над кривой возмущения при последовательном удалении и добавлении признаков в сравнении со случайным контролем), устойчивости (совпадение множеств top-k при возмущении входных данных), согласованности (ранговое согласие независимых методов объяснения) и вычислительной стоимости, а затем объединяет их в индекс качества объяснений. Протокол применён к трём общедоступным клиническим выборкам (Кливлендская выборка ишемической болезни сердца, n = 297; диабет Пима, n = 768; Висконсинская диагностическая выборка рака молочной железы, n = 569), четырём семействам моделей (логистическая регрессия, случайный лес, градиентный бустинг, многослойный перцептрон) и двум локальным методам объяснения (SHAP и локальная суррогатная модель в формулировке LIME); получено 14 400 объяснений на уровне отдельных наблюдений в 24 конфигурациях. Оба метода существенно превзошли случайное упорядочение признаков; SHAP оказался достоверно точнее в шести из двенадцати сочетаний «модель — выборка» (критерий Уилкоксона, p < 0,01), суррогатная модель — в двух. Основной результат состоит в том, что согласованность объяснений определяется моделью, а не методом объяснения: среднее ранговое согласие снижается с 0,91 для логистической регрессии до 0,54 для градиентного бустинга, тогда как AUROC на отложенной выборке не связан с качеством объяснений (ρ = 0,08, p = 0,70).

Explainable Artificial Intelligence (XAI)Artificial Intelligence in HealthcareMachine Learning in Healthcareexplainable AIclinical risk predictionexplanation reliability

More by Arulmurugan Ramu