Bias в машинном обучении: три значения, которые легко перепутать

Слово bias в машинном обучении используется в нескольких смыслах. Им могут назвать систематическое смещение оценки, свободный член уравнения или предвзятость системы по отношению к определённым группам и ситуациям.

Поэтому фраза «у модели высокий bias» требует уточнения. Исправления будут разными: изменить класс модели, проверить расчёт, изучить выборку или разобрать работу системы на отдельных группах объектов.

Статистическое смещение и сложность модели

В обсуждении bias-variance рассматривают, как ограничения модели и изменчивость обучения влияют на ошибку. Слишком ограниченный метод может не уловить зависимость даже при достаточном количестве обучающих примеров. Более гибкий способен сильнее зависеть от случайных особенностей выборки.

Для диагностики сравнивают результаты на обучении и проверке, изучают кривые обучения и изменения при настройке сложности. Одного неудачного прогноза недостаточно, чтобы установить причину. Руководство scikit-learn по кривым валидации показывает, как оценивать такие изменения.

Плохое качество и на обучении, и на проверке может указывать на недостаточную гибкость, но также на слабые признаки, ошибочную цель или шумные данные. График помогает сформулировать гипотезу, а не освобождает от проверки исходника.

Bias как свободный член

В простом уравнении вида прогноз = коэффициент × признак + свободный член последнюю величину иногда называют bias или intercept. Она позволяет сдвигать результат при неизменном входном признаке.

Это часть устройства модели, а не самостоятельное свидетельство предвзятости. Положительный свободный член сам по себе не означает дискриминацию или систематическую ошибку. Его смысл зависит от шкалы, преобразований признаков и общей формулы.

В отчёте лучше использовать точное название «свободный член», если речь идёт именно о параметре. Так обсуждение не смешается с вопросами качества и справедливости.

Систематическая ошибка в рабочем процессе

Представим вымышленный прогноз времени сборки заказов. Для небольших заказов он регулярно завышает время, для крупных - занижает. Средняя знаковая ошибка по всей таблице может приблизиться к нулю, потому что отклонения компенсируются.

Проверка по размеру заказа обнаружит проблему, которую скрыл общий итог. Аналогично стоит разбирать склады, периоды и другие значимые условия процесса. При этом каждый сегмент должен содержать достаточно наблюдений для содержательного вывода.

Уточните, как измеряется факт. Если время на одном складе включает ожидание, а на другом считается только активная сборка, модель сравнивает разные величины. Исправлять алгоритм до согласования определения будет преждевременно.

Предвзятость данных и результата

История может неполно представлять часть объектов или отражать прежние решения сотрудников. Тогда модель способна воспроизвести эти особенности. Одного общего показателя ошибки недостаточно, чтобы подтвердить одинаково хорошую работу во всех важных условиях.

Сначала определите, какие различия имеют значение для конкретного использования. Затем проверьте покрытие данных, ошибки и последствия решения. Выбор критерия справедливости требует понимания задачи; универсальный переключатель «убрать bias» такую работу не заменяет.

Как обсуждать проблему без путаницы

Вместо общего ярлыка запишите наблюдение: «модель недооценивает время крупных заказов в проверочном периоде» или «в таблице отсутствует часть объектов из нового склада». После этого можно проверить возможную причину и способ исправления.

Зафиксируйте метрику, сегмент, размер выборки и период. Для ограничений сложности пригодится разбор регуляризации, а для выбора показателя - руководство по метрикам.