Суть проблемы
«Дилемма Whac-a-mole» — отсылка к аркадной игре, где при нажатии на одного «крота» тут же выскакивает другой, — описывает хорошо известный, но до сих пор нерешённый эффект в области дебайасинга: устранение одного вида предвзятости в модели влечёт за собой формирование или усиление иного смещения. Это делает традиционные методы борьбы с bias в лучшем случае частичным решением, а в худшем — источником новых проблем.
В контексте моделей компьютерного зрения предвзятость (bias) может проявляться по-разному: модель хуже распознаёт объекты определённого цвета, фона, угла съёмки или принадлежащие к недостаточно представленным в обучающей выборке категориям. Попытка скорректировать одно такое смещение через существующие техники дебайасинга нередко перекашивает другие распределения внутри модели.
Метод WRING
Новый метод получил название WRING. Его ключевое заявленное преимущество перед существующими подходами к дебайасингу состоит в том, что он не формирует и не усиливает смещений в процессе коррекции — то есть целенаправленно избегает эффекта Whac-a-mole.
Конкретные технические детали реализации WRING в предоставленных материалах не раскрываются, однако само позиционирование метода указывает на более точечный, менее инвазивный механизм воздействия на модель по сравнению с существующими техниками дебайасинга.
Контекст для отрасли
Задача дебайасинга в CV-системах стоит перед разработчиками давно: модели, используемые в распознавании лиц, медицинской диагностике, автономном вождении и промышленной инспекции, демонстрируют устойчивые систематические ошибки, связанные с перекосами в обучающих данных.
Если заявленные свойства WRING подтвердятся в независимых оценках, метод может стать практически значимым инструментом для команд, которым требуется улучшить справедливость (fairness) CV-моделей без риска неконтролируемого перераспределения ошибок.
