Riesgos del código sugerido por un modelo

Un modelo de lenguaje propone el código que, según lo que aprendió, es más probable que siga a lo que ya está escrito. Aprendió de enormes cantidades de código público, y en ese código abundan los ejemplos viejos, los tutoriales que se saltan la validación «para simplificar» y las soluciones rápidas que alguien publicó para salir del paso. Lo frecuente no es lo correcto: si la forma insegura aparece mucho, el modelo la propone con toda naturalidad.

Además, el modelo no conoce tu sistema. No sabe que esa función recibe texto de un formulario público, que ese servicio maneja dinero o que tu empresa prohíbe guardar el número completo de una tarjeta. Escribe lo que encaja con el contexto que ve, que es una ventana de código, no el modelo de amenazas de la aplicación.

Por eso el código sugerido falla de una manera particular: suele funcionar en el caso normal y fallar justo en lo que nadie probó, que es lo que le interesa a quien ataca.

Cuando una aplicación llama a un servicio por internet, el certificado del servidor es la prueba de que habla con quien cree. Si el código apaga esa comprobación, la conexión sigue cifrada pero ya no sabe con quién: alguien que se interponga en el camino puede hacerse pasar por el destino. Es una de las «soluciones» más repetidas en foros cuando un certificado da problemas en desarrollo, y por eso aparece en sugerencias.

Revisa la muestra y busca la sugerencia que hizo eso con un tercero y que, además, ya está en la rama principal.

Un fallo detenido en revisión es el sistema funcionando; un fallo fusionado es un hallazgo. Para dimensionar el problema importa separar las dos cosas: cuántas sugerencias con algún problema terminaron en la rama principal, sin contar las que se detuvieron ni las que no tenían nada.

Una muestra pequeña es útil para saber qué clase de fallos aparecen, no para dar una cifra sobre el total. Con diez casos, un solo fallo más o menos cambia el porcentaje diez puntos. Lo honesto es decir lo que la muestra sí muestra —que hay fallos clásicos que llegan a la rama principal sin un comentario de seguridad— y pedir lo que falta para medir: una muestra mayor o una medición sobre todos los cambios.