Обнаружение и обработка выбросов
Инструменты выявления аномальных значений и пошаговый мастер их обработки
Открывается из панели валидации данных. Позволяет выявить выбросы по всем количественным переменным.
Основные функции:
- Выбор метода обнаружения из 4 доступных
- Настройка порогового значения для каждого метода
- Запуск анализа по всем переменным сразу (батч-обработка)
- Сводная таблица найденных выбросов с указанием переменной, строки и значения
- Визуальная подсветка выбросов в таблице данных
- Переход к мастеру обработки выбросов
Выбросы вне диапазона Q1 − 1.5·IQR … Q3 + 1.5·IQR. Устойчивый непараметрический метод.
Рекомендован для большинства медицинских данных с ненормальным распределением
Значения с |z| > 3 считаются выбросами. Предполагает нормальное распределение.
Данные с нормальным или близким к нормальному распределением
Статистический тест для обнаружения одного выброса в нормально распределённой выборке.
Когда нужно статистически подтвердить наличие выброса
Метод Robust regression and Outlier removal. Комбинирует робастную регрессию с тестом Q.
Для данных с множественными выбросами
Пошаговый инструмент для принятия решений по каждому найденному выбросу. Открывается из окна обнаружения выбросов.
Шаги мастера:
- Выбор метода обнаружения и порога
- Просмотр списка всех найденных выбросов
- Для каждого выброса — выбор действия:
- Оставить — значение корректно, оставить как есть
- Заменить медианой — заменить значение медианой переменной
- Заменить средним — заменить значение средним переменной
- Заменить границей — заменить ближайшей допустимой границей
- Удалить строку — удалить наблюдение из датасета
- Пропустить (NA) — заменить пропущенным значением
- Предварительный просмотр изменений
- Применение выбранных действий
Для большинства медицинских показателей рекомендуем метод IQR как наиболее устойчивый к форме распределения. Метод Z-score подходит только при нормальном распределении. Для сомнительных одиночных значений используйте Grubbs.
Перед обработкой выбросов всегда проверяйте: возможно, значение является клинически значимым и не должно быть удалено.