Las mayores compañías de inteligencia artificial han vuelto a colocarse en el centro del debate regulatorio. OpenAI, Anthropic y Google insisten en que los modelos más avanzados pueden acarrear riesgos graves —desde ciberataques más sofisticados hasta usos biológicos peligrosos o fallos de control difíciles de contener— y reclaman marcos públicos capaces de anticiparse a ese escenario. Sobre el papel, la preocupación parece razonable. Sin embargo, la escena deja una pregunta inevitable: ¿qué ocurre cuando quienes más se beneficiarían de las nuevas reglas también participan activamente en su diseño?
La discusión no es menor. La gobernanza de la IA ya no gira solo en torno a si conviene regular, sino a quién define los umbrales técnicos, qué actores quedan dentro del perímetro normativo y cómo evitar que la seguridad termine funcionando como barrera de entrada para laboratorios más pequeños, comunidades open source o competidores emergentes. En este artículo analizamos qué están proponiendo estas compañías, por qué el argumento de la seguridad gana terreno y cuáles son los dilemas políticos, económicos y tecnológicos que abre esta nueva etapa.
Qué están proponiendo las grandes firmas de IA
En los últimos días, distintos movimientos públicos reforzaron una idea que ya venía madurando desde 2024: los desarrolladores de modelos de frontera quieren un papel activo en la definición de las reglas del juego. Anthropic publicó una propuesta de política para afrontar los riesgos catastróficos de la llamada “IA exponencial”. Entre sus puntos centrales, plantea que determinados modelos queden sometidos a obligaciones especiales cuando superen ciertos umbrales de capacidad computacional, medidos en FLOPs, y cuando sus desarrolladores tengan una escala económica suficiente como para influir de forma estructural en el sector.
Según la propuesta resumida por la propia empresa, el foco estaría en sistemas entrenados con más de 1025 operaciones de punto flotante y en compañías con ingresos superiores a los 500 millones de dólares en IA o con inversiones de más de 1.000 millones en I+D. A partir de allí, se sugieren pruebas de seguridad, publicación de resúmenes de resultados, evaluaciones independientes y capacidad legal del Estado para frenar despliegues considerados de riesgo catastrófico.
OpenAI, por su parte, reforzó un frente más concreto y políticamente vendible: la ciberdefensa. En un llamado a la acción colectiva, advirtió que los ataques potenciados por IA pueden escalar con rapidez sobre infraestructuras críticas y pidió cooperación entre gobiernos, empresas de ciberseguridad y proveedores de modelos avanzados. Google también forma parte de este clima general, en el que los laboratorios líderes buscan presentarse como aliados necesarios para contener amenazas que, en buena medida, ellos mismos están ayudando a acelerar.
Cómo funciona esta lógica de regulación basada en umbrales
La arquitectura regulatoria que se perfila tiene una característica clave: no se centra solo en usos concretos, sino en capacidades potenciales. Es decir, un modelo podría quedar bajo mayor escrutinio no porque ya haya provocado daños, sino porque combina suficiente escala de cómputo, autonomía operativa o aptitud para asistir en tareas sensibles. Esa lógica desplaza el enfoque clásico de cumplimiento —centrado en productos terminados— hacia una supervisión más parecida a la de sectores estratégicos.
En la práctica, eso supone varias exigencias. La primera es la evaluación ex ante: medir si un sistema puede amplificar amenazas biológicas, vulnerar sistemas críticos o escapar parcialmente al control humano en determinados contextos. La segunda es la transparencia estructurada: no abrir por completo el funcionamiento del modelo, sino publicar informes resumidos sobre riesgos, mitigaciones y protocolos internos. La tercera es la auditoría externa: incorporar revisores independientes capaces de cuestionar resultados y metodologías.
El problema es que cada uno de estos pilares también puede convertirse en instrumento competitivo. Si los requisitos de testeo, seguridad de infraestructura y reporting solo están al alcance de un puñado de gigantes, la regulación podría consolidar a los líderes actuales en vez de equilibrar el ecosistema. En otras palabras, una política diseñada para contener riesgos reales también puede elevar el costo de entrada y reducir la diversidad de actores.
El debate incómodo: seguridad legítima o captura regulatoria
Aquí aparece la crítica que resume el titular original de Xataka: pedir que los grandes laboratorios marquen el rumbo regulatorio puede parecerse a poner al lobo a cuidar del gallinero. La metáfora es provocadora, pero apunta a un problema clásico en política tecnológica: la captura regulatoria. Esto ocurre cuando las normas terminan moldeadas por las empresas mejor posicionadas para influir sobre ellas, ya sea mediante lobby, conocimiento técnico exclusivo o capacidad de instalar marcos narrativos.
En el terreno de la IA, esa captura puede adoptar una forma especialmente sofisticada. A diferencia de industrias más maduras, aquí el saber experto está muy concentrado en las mismas organizaciones que construyen los sistemas. Los gobiernos necesitan entender umbrales de cómputo, evaluación de capacidades emergentes, seguridad de pesos abiertos y riesgos de automatización avanzada; las compañías, naturalmente, poseen buena parte de esa información. El riesgo no está en que participen del debate, sino en que su voz termine siendo la que define qué cuenta como peligro, qué soluciones son aceptables y quién puede cumplirlas.
Además, existe un incentivo reputacional evidente. Al reclamar regulación, las grandes firmas proyectan una imagen de responsabilidad y prudencia, algo especialmente valioso en un momento en que crecen las dudas sobre sesgos, derechos de autor, privacidad, consumo energético y efectos laborales de la IA generativa. La seguridad se convierte así en un lenguaje común que sirve tanto para advertir riesgos genuinos como para fortalecer legitimidad institucional.
Qué riesgos son reales y por qué la discusión no puede simplificarse
Sería un error, sin embargo, descartar estas advertencias como mera maniobra estratégica. Los riesgos que citan los laboratorios no son inventados. En ciberseguridad, por ejemplo, la automatización de reconocimiento, explotación y generación de campañas persuasivas puede reducir drásticamente el costo de ataque. En bioseguridad, la combinación de modelos multimodales, bases científicas y asistentes altamente competentes alimenta preocupaciones sobre síntesis de agentes peligrosos o apoyo técnico indebido. Y en autonomía operativa, el auge de agentes capaces de ejecutar cadenas de tareas reabre preguntas sobre supervisión humana efectiva.
El punto clave es que la existencia de amenazas reales no invalida la necesidad de vigilar cómo se diseña la respuesta regulatoria. Una gobernanza seria debe equilibrar varios objetivos al mismo tiempo: reducir riesgos extremos, proteger la innovación legítima, evitar monopolios de facto y mantener mecanismos robustos de rendición de cuentas. Si cualquiera de esos elementos falta, el remedio puede resultar tan problemático como la enfermedad.
Implicaciones para la industria, los desarrolladores y los Estados
Para los reguladores, este escenario obliga a desarrollar capacidad técnica propia. No basta con recibir documentos de posición de las empresas y convertirlos en ley. Hace falta financiar equipos independientes, fortalecer agencias con talento computacional y crear canales de consulta donde también participen universidades, sociedad civil, comunidades open source y actores industriales más pequeños.
Para los desarrolladores, especialmente fuera del núcleo de gigantes estadounidenses, el mensaje es ambiguo. Por un lado, una regulación clara puede aportar previsibilidad y elevar estándares mínimos de seguridad. Por otro, si las obligaciones se diseñan con sesgo hacia infraestructuras hiperescalables, muchos proyectos quedarán marginados por costo o complejidad administrativa.
Para los Estados, la dimensión geopolítica es ineludible. Quien fije primero los marcos de evaluación, auditoría y acceso a cómputo tendrá ventaja estratégica en un mercado donde la IA ya se cruza con defensa, productividad, salud, educación y servicios críticos. Por eso, la gobernanza no puede verse solo como cuestión ética: también es política industrial y soberanía tecnológica.
La pregunta de fondo: quién vigila a quienes construyen la próxima capa crítica digital
La discusión abierta por OpenAI, Anthropic y Google condensa una tensión central de esta década. Las empresas que lideran la carrera de la IA poseen recursos, datos, talento y capacidad de cómputo extraordinarios. También conocen mejor que nadie los límites de sus sistemas y los fallos que temen. Esa experiencia debe formar parte de la conversación, pero no puede confundirse con autoridad suficiente para diseñar la arquitectura regulatoria a su medida.
Si la inteligencia artificial va camino de convertirse en una capa crítica de la economía digital, su supervisión no puede depender exclusivamente de quienes compiten por dominarla. El reto para gobiernos y sociedad será construir instituciones capaces de escuchar a los laboratorios sin quedar subordinadas a ellos. Ese equilibrio, y no solo el avance técnico, definirá buena parte del futuro inmediato de la IA.
Conclusión
La nueva ola de propuestas sobre seguridad en IA confirma que el debate ya entró en una fase más madura y, al mismo tiempo, más conflictiva. Hoy nadie discute seriamente que los modelos de frontera exigen controles proporcionales a su impacto potencial. Lo que sí está en disputa es quién redacta esos controles, con qué incentivos y bajo qué mecanismos de supervisión democrática.
OpenAI, Anthropic y Google han logrado instalar la urgencia del problema. Ahora les toca a reguladores, investigadores y al resto del ecosistema evitar que esa urgencia derive en una regulación hecha a la medida de los incumbentes. La seguridad importa, pero también importa quién administra su relato.
Fuentes: Xataka; Anthropic, Policy on the AI Exponential; OpenAI, A call for collective action on cyber defense.