El marco fronterizo-AI de la administración de Trump omita el proceso de informes de incidentes públicos

Una brecha de divulgación en el sistema de revisión de modelos de EE.UU.

El nuevo marco de la administración de Trump para los modelos avanzados de inteligencia artificial no establece un proceso para que las empresas reporten públicamente incidentes en el mundo real, informó Axios el 9 de septiembre. Los participantes de la industria mostraron el marco final durante una reunión de agosto, pero no se les permitió copiarlo, según el informe. Un funcionario de la Casa Blanca dijo que el trabajo de implementación con la industria estaba continuando, indicando que el sistema podría seguir evolucionando.

La omisión es importante porque el marco se dirige a modelos con capacidades cibernéticas extraordinariamente poderosas. El informe público de incidentes puede revelar si un sistema liberado contribuyó a una violación grave, pérdida de control o otro evento dañino. Axios informó que el Congreso no ha adoptado una norma federal completa que define qué incidentes deben ser divulgados, cuánto rápido deben proceder las investigaciones o qué órgano debe evaluarlas.

La orden publicada es voluntaria y en gran parte confidencial.

La base legal de la política es un orden ejecutivo de junio. Esta orden dirige a los funcionarios federales a crear un proceso de referencia clasificado para designar modelos de fronteras cubiertos. También requiere un acuerdo voluntario en el que los desarrolladores puedan preguntar si un modelo cumple el límite y proporcionar acceso del gobierno durante hasta 30 días antes de liberarlo a los socios seleccionados. La orden dice expresamente que no crea un régimen de licencia obligatorio o preclaranza.

Por lo tanto, la orden publicada y la cuenta de Axios describen diferentes capas de la política. La orden establece un compromiso privado de pre-release y una evaluación de la ciberseguridad; Axios identifica lo que el marco de ejecución no publicado se dice que falta. La ausencia de un canal público no significa que las empresas no puedan informar al gobierno. Esto significa que el sistema disponible no establece un proceso claro para informar al público después de fallos consecutivos.

El contraste con Europa es cada vez más importante para los desarrolladores multinacionales. La orientación de la Comisión Europea requiere que los proveedores de modelos de uso general que lleven el riesgo sistémico rastreen, documenten y reporten incidentes graves a la Oficina de IA de la UE y, en su caso, a las autoridades nacionales. Los siguientes puntos a ver son si Washington publica su marco, define los modelos cubiertos con más precisión, añade las reglas de divulgación, o deja el informe de incidentes a las políticas de las compañías voluntarias y a la ley del estado fragmentada.