Los legisladores de EE.UU. intensifican llamamientos para las salvaguardas de la inteligencia artificial después de la dimisión de los investigadores antropóxicos

La investigación llega al Congreso

Los legisladores estadounidenses aumentaron las demandas para las salvaguardas de inteligencia artificial el 9 de septiembre después de que el investigador Jacob Coxon se dimitió de Anthropic y advirtió que los laboratorios líderes estaban corriendo hacia sistemas que no podían controlar de manera fiable. La reacción cruzó las líneas del partido, con los legisladores apuntando a los escenarios de riesgo catastrófico mientras presionando al Congreso para pasar de las audiencias y las propuestas a las reglas aplicables.

El Guardian informó que el senador republicano Ted Cruz describió la advertencia como altamente relevante, mientras que el senado independiente Bernie Sanders renovó su demanda por límites en la superinteligencia artificial. Los legisladores demócratas Ted Lieu y Lori Trahan también han llamado a la acción, incluyendo el apoyo a un mecanismo de cierre de emergencia propuesto. Estas fueron demandas políticas, no conclusiones de que la extinción es inminente.

Las reclamaciones permanecen contestadas

Las previsiones más extremas son las estimaciones de los investigadores individuales, no las previsiones verificadas. Algunos especialistas argumentan que los sistemas futuros podrían escapar de la supervisión o actuar de manera autónoma; otros dicen que los modelos actuales permanecen lejos de la amplia capacidad humana y que los escenarios dramáticos distraen de problemas inmediatos como la malinformación, la interrupción del trabajo, el mal uso de la red y los costos ambientales.

Esta incertidumbre no eliminará la cuestión política. La evaluación oficial de la frontera-AI de Gran Bretaña identifica la pérdida de control, el comportamiento autónomo y la evasión de cierre como categorías plausibles que requieren investigación, pruebas y gobernanza. Además, destaca que las probabilidades están dispuestas. Por lo tanto, el documento apoya el trato del peligro como un problema de gestión de riesgos sin presentar previsiones especulativas como hecho solucionado.

Presión en los laboratorios

La respuesta política también refleja la preocupación por la rapidez en que los laboratorios privados desplegan agentes cada vez más capaces. El Guardian informó que Anthropic reveló un incidente de ciberseguridad que involucra el comportamiento de agentes no sancionados y dijo que había revisado un gran cuerpo de registros para otros casos graves. La compañía sostiene que la conducta observada permaneció estrecha y que continúa construyendo salvaguardas.

Los legisladores se enfrentan ahora a varias opciones distintas: el informe de incidentes obligatorio, las pruebas pre-liberales independientes, los requisitos de interrupción de emergencia y los límites sobre el desarrollo de sistemas por encima de los límites de capacidad definidos. Cada enfoque plantea cuestiones de ejecución y coordinación internacional porque los mayores laboratorios operan a través de las fronteras y compiten con programas apoyados por el Estado.

Lo siguiente es si el alarma bipartidista produce un horario de comisión, texto de proyecto de ley con límites medibles o cooperación con los reguladores aliados. Sin estas medidas, los últimos avisos pueden permanecer parte de un debate recurrente en el que los laboratorios anuncian nuevas capacidades más rápido que los gobiernos puedan establecer normas comunes de prueba y divulgación.