Project Beacon sustituye un modelo de seguridad centrado en las transcripciones por un enfoque centrado en las activaciones. Esto importa porque el texto visible puede tergiversar la intención interna de un agente: puede expresar un razonamiento seguro mientras su estado interno ya planea un atajo o una forma de explotación. Al instrumentar las activaciones ocultas con sondas entrenadas, Beacon proporciona a los equipos una señal en el momento preciso que puede activar medidas automatizadas o una revisión humana. El efecto práctico es doble: la detección ocurre antes en el ciclo de vida y la supervisión puede ampliarse porque las sondas reutilizan el cómputo existente del modelo en vez de duplicarlo.

Las sondas son clasificadores compactos entrenados con activaciones internas que se correlacionan con comportamientos no deseados. Para entrenarlas hacen falta ejemplos seleccionados de manipulación de recompensas, inyección de prompts, filtración de datos sensibles y uso indebido con fines cibernéticos, junto con instantáneas de las capas ocultas del modelo. Durante la implementación, estas sondas se ejecutan en cada pasada hacia delante y generan puntuaciones o alertas discretas. Como son pequeñas y reutilizan activaciones almacenadas en caché, apenas añaden latencia. Los equipos deben tratar las sondas como detectores probabilísticos: ajustar los umbrales, mantener conjuntos de datos de calibración y combinar varias sondas o señales de conjunto para mejorar la robustez.

El modelo en cascada de Beacon está diseñado para las exigencias empresariales. En la práctica, las sondas reducen la frecuencia de las costosas consultas a jueces —el sistema de Goodfire informó de una reducción considerable de estos costes— y mantienen el rendimiento del modelo porque reutilizan el mismo cómputo de la pasada hacia delante. La mejora de latencia es inmediata: los equipos pueden aplicar medidas automatizadas en el mismo turno, sin esperar a una revisión asíncrona. Para las empresas que ejecutan miles de sesiones de agentes, estas ventajas se traducen en decenas de miles de dólares ahorrados en inferencia y hacen más viable la supervisión continua de flujos de trabajo prolongados.

Las sondas de activación no son una solución infalible. Pueden generar falsos positivos que recarguen de trabajo a quienes revisan las alertas, ser vulnerables a la manipulación adversarial y pasar por alto nuevos modos de fallo que no estaban representados en los datos de entrenamiento. Los equipos deben prepararse para una carrera armamentista: a medida que las sondas mejoren, los atacantes y los agentes que buscan maximizar recompensas podrían desarrollar patrones que las evadan. Entre las medidas de mitigación están el reentrenamiento adversarial periódico, el uso de sondas de conjunto en distintas capas y cabezas, la derivación escalonada a jueces y un registro cuidadoso que facilite el análisis de causas raíz cuando los monitores fallen o pierdan eficacia.

Empieza con un conjunto mínimo de monitores para los comportamientos de mayor riesgo que esperas de tus agentes: inyección de prompts, atajos para manipular recompensas y patrones relacionados con datos sensibles. Recopila instantáneas de activaciones etiquetadas, entrena sondas ligeras y ejecútalas en modo sombra para medir precisión y exhaustividad antes de aplicar medidas. Configura respuestas en cascada —registrar, escalar al juez, rechazar o redirigir— según el nivel de riesgo y el impacto empresarial. Por último, automatiza la telemetría y los paneles, integra las alertas en los flujos de gestión de incidentes y programa el reentrenamiento periódico y ejercicios de red team adversariales para que las sondas sigan siendo eficaces a medida que evolucionan los agentes.