Обнаружение выбросов

Обнаружение и обработка выбросов

Инструменты выявления аномальных значений и пошаговый мастер их обработки

Валидация данных
Таблица данных
Модальное окно обнаружения выбросов

Открывается из панели валидации данных. Позволяет выявить выбросы по всем количественным переменным.

Основные функции:

  • Выбор метода обнаружения из 4 доступных
  • Настройка порогового значения для каждого метода
  • Запуск анализа по всем переменным сразу (батч-обработка)
  • Сводная таблица найденных выбросов с указанием переменной, строки и значения
  • Визуальная подсветка выбросов в таблице данных
  • Переход к мастеру обработки выбросов
Доступные методы обнаружения
IQR (межквартильный размах)

Выбросы вне диапазона Q1 − 1.5·IQR … Q3 + 1.5·IQR. Устойчивый непараметрический метод.

Рекомендован для большинства медицинских данных с ненормальным распределением

Z-score (стандартизованное отклонение)

Значения с |z| > 3 считаются выбросами. Предполагает нормальное распределение.

Данные с нормальным или близким к нормальному распределением

Тест Граббса (Grubbs)

Статистический тест для обнаружения одного выброса в нормально распределённой выборке.

Когда нужно статистически подтвердить наличие выброса

ROUT

Метод Robust regression and Outlier removal. Комбинирует робастную регрессию с тестом Q.

Для данных с множественными выбросами

Мастер обработки выбросов (Outlier Wizard)

Пошаговый инструмент для принятия решений по каждому найденному выбросу. Открывается из окна обнаружения выбросов.

Шаги мастера:

  1. Выбор метода обнаружения и порога
  2. Просмотр списка всех найденных выбросов
  3. Для каждого выброса — выбор действия:
    • Оставить — значение корректно, оставить как есть
    • Заменить медианой — заменить значение медианой переменной
    • Заменить средним — заменить значение средним переменной
    • Заменить границей — заменить ближайшей допустимой границей
    • Удалить строку — удалить наблюдение из датасета
    • Пропустить (NA) — заменить пропущенным значением
  4. Предварительный просмотр изменений
  5. Применение выбранных действий
Рекомендации по выбору метода

Для большинства медицинских показателей рекомендуем метод IQR как наиболее устойчивый к форме распределения. Метод Z-score подходит только при нормальном распределении. Для сомнительных одиночных значений используйте Grubbs.

Перед обработкой выбросов всегда проверяйте: возможно, значение является клинически значимым и не должно быть удалено.