Filtros de entrada, listas y clasificadores

Una lista de términos busca palabras o frases concretas y bloquea el mensaje si encuentra alguna. Es rápida, no cuesta casi nada y su comportamiento es predecible, pero solo ve lo que está escrito: una palabra legítima en un contexto inocente la dispara, y la misma idea dicha con otras palabras, otro idioma o escrita de forma distinta no la toca.

Un clasificador estima la intención del mensaje con un modelo entrenado para eso. Generaliza mejor sobre las variaciones de forma, pero tiene un costo en tiempo y dinero, se equivoca en ambas direcciones y su criterio es más difícil de explicar.

Un falso positivo es un mensaje legítimo que el filtro bloquea. Para quien lo escribe, el asistente simplemente no responde, y el costo recae en el cliente y en soporte. Abre el lote: la columna «es_ataque» dice qué era cada entrada y la columna «lista» dice qué hizo la lista de términos.

Cuenta las entradas que no son ataque y que la lista bloqueó. La lista que Radal usa tiene cuatro términos; puedes verla en su archivo.

La tasa de detección es la parte de los ataques que el filtro detiene: los ataques detenidos entre el total de ataques del lote. Solo cuentan las filas que son ataque; las entradas legítimas no entran en el denominador, por muchas que haya.

Calcula la tasa del clasificador sobre este lote y exprésala como porcentaje.

Hay entradas que ni la lista ni el clasificador detienen. Conceptualmente, la evasión de un filtro de entrada se parece siempre a una de pocas ideas: cambiar la forma sin cambiar el sentido, repartir el contenido en varios mensajes, o esconderlo en un canal que el filtro no inspecciona. Cada idea se defiende con algo distinto, y de ahí que un solo filtro no alcance.

En el lote, tres ataques pasan los dos filtros. Uno de ellos no llega por la caja de mensajes sino dentro de un documento.

La lista bloquea clientes legítimos por una palabra suelta y deja pasar casi todos los ataques; el clasificador detiene la mayoría de los ataques y también bloquea a algún cliente legítimo. Ninguno cubre los ataques en otro idioma, repartidos en varios mensajes o escondidos en un adjunto.

Hay que decidir qué se hace con la capa de entrada. Lo sensato es no confundir un filtro con una frontera: sirven para reducir volumen y cortar lo obvio, y la parte que ellos no cubren se resuelve en otras capas.