El primer secretario británico dice que el gobierno debe actuar sobre las advertencias de seguridad avanzadas de la AI

Un mensaje más fuerte del gobierno

El primer secretario británico, Louise Haigh, ha dicho que el gobierno debe tomar las advertencias de los principales desarrolladores de inteligencia artificial en serio mientras continúa persiguiendo los beneficios de la tecnología. En los comentarios preparados para el Congreso de la Unión de Comercio, presentó la IA como un potencial piloto de servicios públicos más fuertes, productividad empresarial y investigación científica, pero también como una fuente de riesgos de seguridad pública y de seguridad nacional. La intervención marca un cambio notable en el énfasis después de que varios figuras de la industria intensificaron las demandas para que los gobiernos restrinjan los sistemas más poderosos.

Haigh no anunció un proyecto de ley, un régimen de licencia o un moratorio. Su posición concreta era que los ministros debían permanecer preparados para trabajar con socios internacionales y adaptar la política a medida que las capacidades se desarrollan. Esa distinción es importante. El gobierno reconoce que las normas existentes pueden no permanecer adecuadas, pero no ha adoptado las propuestas mucho más amplias promovidas por los campañeros, incluyendo una prohibición de la superinteligencia artificial o un mecanismo obligatorio de terceros capaz de detener los sistemas fronterizos.

La política existente ya trata el riesgo como operacional

Un gobierno AI Risk Management Toolkit publicado el 8 de septiembre proporciona el fondo práctico. Se pide a los equipos del sector público que identifiquen, justifiquen y traten los riesgos a lo largo del diseño, adquisición y funcionamiento de los servicios autorizados por la inteligencia artificial. Recomendaciones separadas de una comisión nacional sobre la salud AI pide un seguimiento continuo, el acceso público a la información de seguridad y la supervisión humana. Estos documentos muestran que la política británica ya está pasando más allá de los principios éticos voluntarios en sectores específicos, aunque un estatuto de modelo fronterizo sobresaliente sigue sin resolver.

El debate ahora se refiere al límite regulatorio adecuado. Las empresas que desarrollan los sistemas más capaces argumentan que las reglas estrictamente dirigidas podrían reducir los riesgos catastróficos sin cargar a las startups ordinarias. Los parlamentarios y los defensores de los derechos también están preocupados por los daños inmediatos como el reconocimiento facial, las imágenes sexuales fabricadas y las decisiones automatizadas en el lugar de trabajo. Una política enfocada únicamente en sistemas futuros hipotéticos podría faltar a esos problemas; un marco que cubra cada aplicación de IA podría imponer costes desproporcionados de cumplimiento y diluir la supervisión especializada de los modelos de mayor riesgo.

Desde la advertencia a la política aplicable

El siguiente desarrollo significativo sería una respuesta del gobierno especificando qué modelos, empresas y utilizan deberes vinculantes. Los ministros tendrán que decidir si es necesario un nuevo regulador, cómo debe funcionar la comunicación de incidentes y si el Reino Unido debe coordinar los límites con los europeos y otros socios. El discurso de Haigh es importante porque pone las preocupaciones de seguridad dentro de la agenda de crecimiento y servicio público del gobierno en lugar de tratarlas como una objeción externa. Su importancia dependerá en última instancia de si ese lenguaje produce reglas aplicables, técnicamente creíbles antes de que las capacidades de modelo se mueven más allá de las suposiciones que se basan en la guía de hoy.