Ложное срабатывание
Живого посетителя приняли за бота. Самая дорогая ошибка защиты: человек уходит и не сообщает об этом.
Защита ошибается в обе стороны. Пропущенный бот стоит немного трафика. Заблокированный покупатель уходит навсегда — и, что важнее, молча.
Заблокированный человек не пишет в поддержку. Он видит отказ, пожимает плечами и идёт к конкуренту. В статистике владельца сайта такого визита нет: счётчик не сработал. Проблема существует и не видна.
Из этой несимметричности следует всё остальное в устройстве хорошей защиты:
- вес одиночного признака ограничивают так, чтобы его не хватало для блокировки;
- спорные случаи отправляют на проверку, а не под запрет;
- перед включением дают посмотреть, кого система блокировала бы;
- каждое решение показывают с разбором, чтобы ошибку можно было найти;
- при резком росте доли блокировок защиту откатывают автоматически.
Все эти механизмы существуют ради одного числа, которое нельзя измерить напрямую, — количества людей, которых защита прогнала.