Ложное срабатывание
Ложное срабатывание (англ. false positive) или ошибка второго рода - ошибочное детектирование события, которого на самом деле не было.
В информационных технологиях этот термин часто применяется к системам и средствам защиты информации, таким как межсетевые экраны, антивирусы, системы обнаружения атак.
Из-за возможности ложных срабатываний не удаётся полностью автоматизировать борьбу со многими видами угроз. Как правило, вероятность ложного срабатывания (ошибки второго рода) коррелирована с вероятностью пропуска события (ошибки первого рода). То есть, чем более чувствительна система, тем больше опасных событий она детектирует и, следовательно, предотвращает. Но при повышении чувствительности неизбежно вырастает и вероятность ложных срабатываний. Поэтому чересчур чувствительно (параноидально) настроенная система защиты может выродиться в свою противоположность и привести к тому, что побочный вред от неё будет превышать пользу, а также появится возможность реализовать атаку второго рода.
Степень чувствительности системы защиты должна представлять собой компромисс между вероятностью ошибок первого и второго рода. Где именно находится точка баланса, зависит от оценки рисков обеих видов ошибок.
Пример
Антиспамовые системы дают хороший пример поиска баланса ошибок первого и второго рода. Чем более жёсткие настройки применяются, тем большую часть спама удаётся отсеять. Однако при ужесточении критериев спама неизбежно растёт вероятность отвергнуть «хорошее» сообщение. Пока не удалось создать антиспамовую систему без корреляции между вероятностью ошибок первого и второго рода. Вероятность пропустить спам у современных систем колеблется в пределах от 1% до 30%. Вероятность ошибочно отвергнуть валидное сообщение - от 0,001% до 3%. Выбор системы и её настроек зависит от условий конкретного получателя; для одних получателей риск потерять 1% хорошей почты оценивается как незначительный, для других же потеря даже 0,1% является недопустимой.