https://blog.defectiv.es/tags/seguridad/Recent content in seguridad on Gaia Lab · BlogHugoes-ESTue, 22 Sep 2026 22:00:00 +0200https://blog.defectiv.es/posts/un-clasificador-de-riesgo-para-menores-que-cabe-en-un-movil/Tue, 22 Sep 2026 13:45:00 +0200https://blog.defectiv.es/posts/un-clasificador-de-riesgo-para-menores-que-cabe-en-un-movil/<p>Octava entrega de <strong>Radiografía del clúster</strong>. Una línea de seguridad de otro tipo: la de los menores que usan un teléfono.</p> <h2 id="la-pregunta">La pregunta <a class="hanchor" href="#la-pregunta" aria-label="Enlace a esta sección">#</a></h2> <p>Detectar situaciones de riesgo en las conversaciones de un menor (acoso, <em>grooming</em>, contenido sexual, aislamiento, amenazas) es posible con un modelo de lenguaje. Hacerlo en un servidor implica enviar la conversación fuera del teléfono, y eso es precisamente lo que no se quiere hacer con la vida privada de un menor. La línea pregunta <strong>si un modelo lo bastante pequeño para correr en el propio teléfono puede clasificar el riesgo con la fiabilidad necesaria, y cuánto se pierde al comprimirlo hasta que cabe.</strong></p>https://blog.defectiv.es/posts/medir-llm-cuantizados-gguf-bfcl-bigcodebench-ruler/Tue, 22 Sep 2026 12:45:00 +0200https://blog.defectiv.es/posts/medir-llm-cuantizados-gguf-bfcl-bigcodebench-ruler/<p>Cuarta entrega de <strong>Radiografía del clúster</strong>. Es el mejor ejemplo de lo que decía la <a href="https://blog.defectiv.es/posts/que-corre-de-verdad-en-nuestro-cluster/">entrada de resumen</a> : el clúster hoy es sobre todo un <strong>laboratorio de medida</strong>. Aquí no se entrena un parámetro.</p> <h2 id="la-pregunta">La pregunta <a class="hanchor" href="#la-pregunta" aria-label="Enlace a esta sección">#</a></h2> <p>Los modelos abiertos se distribuyen cuantizados: los mismos pesos comprimidos a 8, 6, 5, 4, 3 o 2 bits para que quepan en una tarjeta pequeña o en un portátil. La comunidad publica cientos de variantes, pero rara vez con una medida comparable de lo que se pierde. La línea pregunta <strong>cuánto rinde de verdad cada nivel de cuantización de cada familia en tareas que importan para usar el modelo como herramienta</strong>, y a qué velocidad y coste energético lo hace en cada tarjeta.</p>https://blog.defectiv.es/posts/un-consejo-de-modelos-pequenos-contra-uno-de-120b/Tue, 22 Sep 2026 12:30:00 +0200https://blog.defectiv.es/posts/un-consejo-de-modelos-pequenos-contra-uno-de-120b/<p>Tercera entrega de <strong>Radiografía del clúster</strong>. La <a href="https://blog.defectiv.es/posts/auto-alineamiento-de-un-llm-de-3b-con-lora-y-harmbench/">entrega anterior</a> afinaba un modelo para que rechazara lo dañino. Esta línea hace lo contrario: ataca automáticamente un modelo grande y cuenta cuántas veces cede.</p> <h2 id="la-pregunta">La pregunta <a class="hanchor" href="#la-pregunta" aria-label="Enlace a esta sección">#</a></h2> <p>Los ataques de <em>jailbreak</em> automáticos suelen usar un modelo atacante que refina un <em>prompt</em> turno a turno. La línea pregunta si <strong>un grupo de modelos pequeños que deliberan</strong> ataca mejor que cualquiera de ellos por separado, y, con el mismo peso, <strong>cómo medir el éxito sin engañarse</strong>, porque el mismo ataque puede parecer exitoso o no según quién lo juzgue.</p>https://blog.defectiv.es/posts/auto-alineamiento-de-un-llm-de-3b-con-lora-y-harmbench/Tue, 22 Sep 2026 12:15:00 +0200https://blog.defectiv.es/posts/auto-alineamiento-de-un-llm-de-3b-con-lora-y-harmbench/<p>Segunda entrega de <strong>Radiografía del clúster</strong>. Tras el <a href="https://blog.defectiv.es/posts/fuzzing-de-banda-base-con-firmwire-y-afl/">fuzzing de banda base</a> , la primera de tres líneas sobre seguridad de modelos de lenguaje.</p> <h2 id="la-pregunta">La pregunta <a class="hanchor" href="#la-pregunta" aria-label="Enlace a esta sección">#</a></h2> <p>Ajustar un modelo de lenguaje para que rechace peticiones dañinas tiene un coste: si se le enseña demasiado a decir no, empieza a rechazar también lo inofensivo, y pierde utilidad. La línea estudia ese equilibrio: <strong>qué proporción de datos de seguridad hay que mezclar con los datos de utilidad, y si el propio modelo puede generar sus ejemplos de rechazo y regular la dosis solo.</strong></p>https://blog.defectiv.es/posts/fuzzing-de-banda-base-con-firmwire-y-afl/Tue, 22 Sep 2026 12:00:00 +0200https://blog.defectiv.es/posts/fuzzing-de-banda-base-con-firmwire-y-afl/<p>Primera entrega de <strong>Radiografía del clúster</strong>, la serie que desgrana línea a línea <a href="https://blog.defectiv.es/posts/que-corre-de-verdad-en-nuestro-cluster/">qué corre de verdad en el clúster del grupo ANTS</a> . Empezamos por la que más trabajos envía y ninguna GPU usa: seguridad de bandas base celulares.</p> <h2 id="la-pregunta">La pregunta <a class="hanchor" href="#la-pregunta" aria-label="Enlace a esta sección">#</a></h2> <p>El procesador de banda base es el ordenador dentro del teléfono que habla con la red móvil. Ejecuta un firmware propio, cerrado, y <em>parsea</em> mensajes que llegan por radio antes de que el sistema operativo vea nada. Históricamente es una fuente rica de fallos disparables en remoto, y a la vez uno de los componentes más difíciles de analizar: no hay código fuente, apenas hay depuradores y el hardware es opaco.</p>https://blog.defectiv.es/posts/que-corre-de-verdad-en-nuestro-cluster/Tue, 22 Sep 2026 10:00:00 +0200https://blog.defectiv.es/posts/que-corre-de-verdad-en-nuestro-cluster/<p>El histórico de trabajos de un clúster suele ser un muro de identificadores de seis cifras y nombres crípticos —<code>mcpfw_cc</code>, <code>eval_dynamic_pid</code>, <code>boltz2</code>— que lo dicen todo a quien los lanzó y nada a los demás. Pero si guardas los <em>scripts</em>, el muro se convierte en un documento: la gente escribe <strong>por qué</strong> hace las cosas, sobre todo cuando una tanda cuesta dinero y una noche de espera.</p>