Entre el riesgo de extinción y la geopolítica del poder
Por C.I. Vigletti
Una pregunta anterior a todas las respuestas. ¿Quién controla la inteligencia artificial, en beneficio de quién y bajo qué valores? ¿Quién vigila a quienes la controlan? ¿Y qué margen conservarán países como Ecuador para decidir su propio camino tecnológico?
La pregunta no niega que una inteligencia artificial avanzada pueda ocasionar daños catastróficos. Se niega, más bien, a discutir ese peligro como si la tecnología existiera fuera de la historia, del mercado y del poder. Antes de imaginar una máquina emancipada de sus creadores, conviene mirar a las instituciones que hoy la financian, a los Estados que la incorporan a sus estrategias y a las empresas que poseen la infraestructura necesaria para desarrollarla.
La IA suele ser presentada como una fuerza autónoma que “avanza” por una lógica propia. Pero los modelos no deciden cuánto capital se invierte en ellos, qué datos utilizan, con qué sistemas se conectan ni qué aplicaciones reciben prioridad. Esas decisiones son humanas, aunque después sus consecuencias aparezcan como imposiciones inevitables de la técnica.
El debate público mezcla cuestiones distintas que es preciso separar: los riesgos científicamente plausibles de sistemas cada vez más autónomos; los daños presentes y verificables derivados de sus usos; y la utilización económica y geopolítica de ambos tipos de riesgo. Solo al distinguirlos se comprende cómo se forma esa nube discursiva que, sin ser enteramente falsa, puede funcionar como una cortina: ilumina intensamente una amenaza futura mientras deja en la sombra relaciones de poder ya constituidas.
2023: cuando la alarma se hizo política
En marzo de 2023, una carta del Future of Life Institute solicitó suspender durante seis meses el entrenamiento de sistemas más potentes que GPT‑4. Entre sus firmantes figuraron investigadores, empresarios y Elon Musk. En mayo, una declaración del Center for AI Safety afirmó que mitigar el riesgo de extinción provocado por la IA debía ser una prioridad mundial comparable a las pandemias y la guerra nuclear. La firmaron científicos destacados y directivos de las principales compañías del sector.
No es serio desechar esas advertencias porque entre los firmantes existan intereses económicos. Los sistemas contemporáneos pueden generar código, persuadir, descubrir vulnerabilidades y operar mediante agentes con grados crecientes de autonomía. Conectados a infraestructuras críticas, armamento, mercados financieros o laboratorios, podrían amplificar errores y acciones maliciosas a una escala inédita. La incertidumbre no elimina el riesgo; obliga a investigarlo.
Pero tampoco es científico convertir una posibilidad discutida en certeza histórica. No existe consenso acerca de que una IA vaya a adquirir voluntad propia, conciencia o capacidad efectiva para exterminar a la humanidad. La comparación con una guerra nuclear mezcla fenómenos distintos: las armas nucleares poseen mecanismos destructivos conocidos; la extinción por una superinteligencia depende de una cadena de supuestos sobre capacidades futuras, autonomía, acceso al mundo físico y fracaso de todos los controles.
La conclusión prudente tiene dos caras. Existe una zona de riesgo grave bajo incertidumbre y sería irresponsable ignorarla. Pero esa misma incertidumbre no autoriza a quienes construyen la tecnología a monopolizar la definición del problema ni a presentarse, sin más, como guardianes de la humanidad.
Los profetas del freno también aceleran
La conducta de Musk condensa la contradicción. Después de solicitar una pausa, lanzó xAI y entró en la competencia contra OpenAI, Google, Meta y Anthropic. No puede probarse que su advertencia fuera solamente una maniobra para recuperar terreno. Sí puede afirmarse que no hablaba desde la posición de un observador independiente, sino como actor interesado dentro del campo que pretendía regular.
La paradoja se repite en toda la industria. Sus directivos advierten sobre peligros extremos y, simultáneamente, compiten por entrenar modelos más potentes, atraer capital, asegurar energía y construir centros de datos. El mercado los obliga a acelerar; el discurso de seguridad les permite reclamar autoridad sobre la forma de esa aceleración.
No hace falta imaginar una conspiración. La economía política estudia estructuras e incentivos, no intenciones ocultas. Cuando una empresa presenta su producto como extraordinariamente poderoso y peligroso, eleva su valor comercial, reclama una interlocución privilegiada con los gobiernos —sus técnicos serían quienes mejor comprenden el riesgo— y puede favorecer regulaciones tan costosas que solo las grandes corporaciones estén en condiciones de cumplirlas.
La seguridad se vuelve ambivalente. Puede proteger a la sociedad, pero también levantar barreras alrededor del mercado. Auditorías, licencias y obligaciones legales son necesarias para sistemas de alto riesgo; diseñadas bajo influencia exclusiva de los actores dominantes, pueden excluir universidades, pequeñas empresas e iniciativas públicas. Surgiría así una ironía histórica: regular para impedir que una IA concentre demasiado poder y terminar concentrando la IA en unas pocas compañías.
El apocalipsis como forma de mercado
El marketing tecnológico siempre ha vendido futuro. La novedad es que ahora vende, al mismo tiempo, salvación y catástrofe. La industria promete curar enfermedades, enfrentar la crisis climática y liberar al ser humano del trabajo; a la vez, advierte que la tecnología podría extinguirnos. Las dos imágenes producen un efecto semejante: colocan a la IA en el centro inevitable de la historia y a sus propietarios en el centro de la IA.
La exageración no requiere que la tecnología sea ficticia; funciona mejor apoyada en avances reales. Cada nueva capacidad alimenta una narrativa de inevitabilidad y cada falla inquietante alimenta una narrativa de peligro. La empresa se beneficia de ambas: si el sistema acierta, demuestra su poder; si falla, demuestra que debe ser tomado aún más en serio.
La cortina no consiste necesariamente en una mentira, sino en una distribución interesada de la visibilidad. La eventual rebelión de las máquinas ocupa el primer plano; detrás quedan la apropiación de datos, la concentración del cómputo, el trabajo precario, el consumo de electricidad y agua, los contratos militares y la dependencia tecnológica. Lo excepcional termina eclipsando lo estructural.
La materialidad de la nube
No hay nada etéreo en la “nube”. Está compuesta por minerales críticos, fábricas de semiconductores, redes eléctricas, agua para refrigeración, cables submarinos, centros de datos, trabajadores que clasifican información y enormes volúmenes de capital.
La Agencia Internacional de Energía ha documentado el rápido crecimiento de la demanda eléctrica asociada a centros de datos e IA. La autoridad británica de competencia advirtió que pocas empresas ocupan posiciones decisivas en varios niveles de la cadena: cómputo, datos, talento, nube, plataformas y acceso al consumidor. En Estados Unidos, la Comisión Federal de Comercio examinó las alianzas que vinculan a grandes proveedores de nube con desarrolladores de modelos.
La concentración, por tanto, no es una simple sospecha ideológica. Las mismas corporaciones pueden financiar modelos, suministrarles capacidad informática, integrarlos en sus sistemas y controlar las vías por las cuales llegan al público. Detrás de la aparente competencia entre inteligencias subsisten cuellos de botella compartidos.
Los costos crecientes de los modelos de frontera agravan la tendencia. Cuanto más capital, energía y chips exige cada generación, mayor es la ventaja de empresas capaces de absorber pérdidas durante años. La promesa de una inteligencia universal conduce, bajo las relaciones actuales de propiedad, hacia la concentración de la infraestructura cognitiva.
Marx denominó fetichismo al proceso por el cual relaciones sociales entre personas aparecen como relaciones naturales entre cosas. Algo semejante ocurre cuando decimos que “la IA quitará empleos”, “la IA vigilará” o “la IA decidirá”. El sujeto gramatical es la máquina y desaparecen propietarios, gerentes y gobiernos. Una decisión política o empresarial se transforma retóricamente en destino tecnológico.
Una historia conocida bajo una forma nueva
La historia de la ciencia muestra que ninguna tecnología importante llega sola. La máquina de vapor fue inseparable de la fábrica, la disciplina laboral, el carbón y la expansión imperial. El ferrocarril integró territorios, pero también reorganizó la extracción colonial. La electricidad mejoró la vida urbana mientras produjo monopolios sobre redes esenciales. La radio amplió el espacio público y se convirtió en instrumento de propaganda. Internet prometió descentralizar el conocimiento y terminó dominada en buena medida por plataformas que concentran datos y atención.
No toda innovación conduce necesariamente a la dominación. La ciencia ha aumentado la esperanza de vida y ampliado las capacidades humanas. La lección es más precisa: los efectos sociales de una tecnología no derivan únicamente de sus propiedades técnicas. Dependen del régimen de propiedad, las instituciones, los conflictos y los fines que orientan su aplicación.
Francis Bacon vinculó conocimiento y poder. La sociedad industrial dio a esa relación una base material: conocer la naturaleza permitía intervenir sobre ella y transformarla en fuerza productiva. La IA lleva el principio al terreno de la conducta: acumula lenguaje, consumo, movimiento y relaciones para predecir, clasificar y orientar acciones.
Foucault mostró que el poder moderno no actúa solo prohibiendo: observa, clasifica, normaliza y produce comportamientos. Desde esta perspectiva, el peligro político inmediato no es una IA desobediente, sino una IA perfectamente obediente a instituciones capaces de vigilar poblaciones, personalizar propaganda, seleccionar objetivos y anticipar disidencias.
La historia obliga a invertir la pregunta habitual. No basta con preguntar qué hará la máquina cuando sea poderosa; debemos preguntarnos qué harán con ella los poderes existentes. La autonomía técnica futura y la dominación social presente son problemas distintos, y concentrarse únicamente en el primero puede fortalecer el segundo.
De Huawei y el 5G a la batalla por los chips
La confrontación no comenzó con ChatGPT. El conflicto en torno a Huawei y las redes 5G mostró que una infraestructura es simultáneamente mercado, sistema de comunicaciones y recurso estratégico. Estados Unidos sostuvo que equipos chinos en redes esenciales podían crear vulnerabilidades. La preocupación tenía base racional, pero la controversia también decidía quién establecería estándares, capturaría mercados y ocuparía una posición privilegiada en la siguiente generación tecnológica.
La IA representa un episodio más profundo. El 5G organiza la circulación de información; la IA interviene en su interpretación y transformación en decisiones. La batalla se concentra ahora en chips avanzados, equipos para fabricarlos, nubes, energía, talento y modelos fundacionales.
Los controles estadounidenses a la exportación de semiconductores hacia China se justifican mediante seguridad nacional, política exterior y liderazgo tecnológico. China responde fortaleciendo su industria, respaldando empresas nacionales y promoviendo soberanía científica. No se enfrentan una tecnología occidental liberadora y otra china autoritaria. Estados Unidos articula corporaciones privadas, capital financiero, contratos militares y política estatal; China combina dirección política centralizada, empresas estratégicas y amplias capacidades de vigilancia. Son configuraciones distintas, pero ambas convierten el dominio tecnológico en poder económico, militar y diplomático.
La carrera reproduce el dilema clásico de seguridad: cada potencia acelera porque teme que la otra llegue primero. La moderación unilateral parece una derrota. El imperativo competitivo del capital y el imperativo estratégico del Estado coinciden en una misma orden: avanzar antes que los demás.
Riesgos plausibles y daños comprobables
El riesgo de extinción por una superinteligencia es grave, pero incierto y prospectivo. Otros daños poseen evidencia presente: discriminación algorítmica, desinformación, vigilancia biométrica, concentración económica, apropiación de obras y datos, precarización de tareas e incorporación de IA en sistemas militares.
Esto no significa atender únicamente lo ya ocurrido. La prevención existe para actuar antes de la catástrofe. Significa que las políticas no pueden subordinar todos los problemas verificables a un solo escenario espectacular. Un modelo que jamás adquiera conciencia podría causar daños inmensos si obedece eficientemente órdenes injustas o si millones de decisiones dependen de sus errores.
La concentración es también un riesgo de seguridad. Cuando pocos sistemas median educación, salud, crédito, información y administración pública, una falla técnica, una decisión comercial o una presión política se propaga a escala social. La diversidad de modelos, proveedores y formas de conocimiento es una condición de resiliencia.
Tampoco existe una IA “sin valores”. Los modelos aprenden de sociedades desiguales y son ajustados conforme a reglas empresariales que no han sido deliberadas democráticamente. La pregunta no es si serán neutrales, sino quién definirá sus límites y quién podrá impugnarlos.
Ecuador: soberanía jurídica sin soberanía operativa
Para Ecuador, el principal riesgo inmediato es ingresar en una nueva dependencia sin capacidad de negociación. Somos consumidores de modelos extranjeros, compradores de infraestructura y proveedores de datos; participamos escasamente en el diseño de chips, la propiedad de la nube y la definición de estándares.
La asimetría puede vaciar la soberanía. El Estado conserva formalmente la facultad de decidir, pero sus sistemas de educación, seguridad, salud, justicia o tributación dependen de herramientas que no puede inspeccionar ni modificar. La norma sigue siendo nacional; la capacidad operativa se desplaza hacia proveedores extranjeros.
La dependencia tampoco es culturalmente neutra. La Amazonía, el mundo indígena, las economías informales, la agricultura tropical y las particularidades jurídicas ecuatorianas ocupan posiciones periféricas dentro de modelos construidos con otras prioridades. Al importar sistemas terminados también importamos categorías para comprender nuestra realidad.
Ecuador cuenta desde 2026 con una estrategia oficial para el desarrollo y uso ético de la IA, concebida como hoja de ruta para 2025–2029. Su existencia representa un avance, pero el diagnóstico elaborado con apoyo de UNESCO reconoce brechas importantes en infraestructura digital, inversión en investigación, coordinación institucional y capacidades técnicas. Precisamente ahí se juega la diferencia entre adoptar herramientas y adquirir verdadera capacidad para gobernarlas.
La alternativa no es una imposible autosuficiencia ni reemplazar la dependencia de Washington por la de Pekín. Es construir capacidades selectivas y regionales: infraestructura compartida de cómputo, formación científica, datos sometidos a reglas democráticas, modelos abiertos y especializados, auditorías independientes, contratación pública transparente, protección del conocimiento local y cooperación latinoamericana.
Soberanía tecnológica no significa producir cada componente. Significa conservar alternativas, comprender los sistemas de los que dependemos, poder suspenderlos cuando lesionen derechos y participar en la definición de sus finalidades.
Regular el poder, no solo la máquina
El falso dilema entre frenar toda IA o permitir su expansión ilimitada beneficia a quienes ya controlan el terreno. Una política democrática debe regular las aplicaciones según su impacto y, simultáneamente, intervenir sobre la estructura económica que las sostiene.
Los sistemas utilizados en justicia, empleo, crédito, salud, educación y seguridad deben ser auditables e impugnables. La vigilancia biométrica indiscriminada y las armas autónomas necesitan límites estrictos. Los desarrolladores de modelos avanzados deben someterse a evaluaciones independientes y reportar incidentes y capacidades peligrosas.
Pero la seguridad técnica no basta. Si unas pocas empresas controlan la infraestructura cognitiva mundial, lograr que sus modelos fallen menos no democratiza su poder. La política de competencia, la interoperabilidad, el acceso público a investigación y la inversión científica estatal son también políticas de seguridad.
Regular la IA exige regular relaciones humanas: quién establece el objetivo, quién recibe la productividad, quién pierde capacidad de decisión, quién responde por los errores y qué espacios permanecerán fuera de la automatización. La máquina no elimina la responsabilidad política; la redistribuye y con frecuencia la oculta.
En síntesis: despejar la nube
El riesgo tecnológico es real, pero su representación pública forma parte de la lucha por el mercado, la regulación y el poder mundial. Reconocer esta doble condición evita dos ingenuidades: creer que toda advertencia es una conspiración o suponer que quienes anuncian el peligro hablan desde fuera de sus intereses.
La cortina no oculta mediante el silencio, sino mediante el exceso de luz. El apocalipsis posible concentra la atención; en la penumbra quedan la propiedad de los chips, el consumo de energía, la extracción de datos, los contratos militares, la vigilancia y la pérdida de soberanía. No es necesario inventar una amenaza: basta encuadrarla de modo que ciertos actores aparezcan como salvadores y no como partes interesadas.
La historia enseña que ninguna tecnología fija por sí sola el orden social. Sus consecuencias se deciden en instituciones, mercados y luchas políticas. La IA puede ampliar la capacidad humana para conocer y cuidar el mundo; también puede reforzar desigualdades, perfeccionar la vigilancia y trasladar decisiones colectivas a centros inaccesibles.
Por eso, la pregunta fundamental no se dirige a una máquina imaginaria, sino a la sociedad que ya la está construyendo:
¿Quién controla la inteligencia artificial, en beneficio de quién y bajo qué valores? ¿Quién vigila a quienes la controlan? ¿Y qué margen conservarán países como Ecuador para decidir su propio camino tecnológico?
Responderla exige algo más que informática. Exige economía política, historia, filosofía, instituciones democráticas y una ciudadanía consciente de que el futuro tecnológico no es un destino al que llegaremos, sino un campo de poder que ya estamos disputando.
Imagen: anáhuac México. Granma
