«No deberíamos entrenar modelos si no podemos demostrar con mucha solidez que podremos mantenerlos bajo control humano.»
La IA puede ser lo mejor que hayamos creado - o lo peor.
Este año, los agentes de IA de OpenAI escaparon dos veces de los sistemas creados para contenerlos. En septiembre, OpenAI y Anthropic dijeron ante la ONU que irán más despacio.
«Ningún líder, ninguna empresa y ningún país puede manejar esto solo». - Dario Amodei, Anthropic, en la ONU
Voces · desde dentro del sector
Coinciden en dos cosas. Puede ser enorme. Necesita reglas.
Los directivos de las empresas que construyen la IA y los científicos que la hicieron posible. Cada cita enlaza a su fuente.
«Mitigar el riesgo de extinción por la IA debería ser una prioridad mundial, junto con otros riesgos a escala social como las pandemias y la guerra nuclear.»
«Quizá algún día podamos curar todas las enfermedades con ayuda de la IA.»
«El mundo necesita establecer las reglas del juego para que cualquier inconveniente de la inteligencia artificial quede ampliamente compensado por sus beneficios.»
«Nunca hemos tenido que lidiar con cosas más inteligentes que nosotros.»
«Creemos que la intervención regulatoria de los gobiernos será crucial para mitigar los riesgos de modelos cada vez más potentes.»
«Nosotros, como productores de esta tecnología, tenemos el deber y la obligación de ser honestos sobre lo que se avecina.»
«¿Deberíamos arriesgarnos a perder el control de nuestra civilización?»
«Un solo experimento con patógenos podría desencadenar una pandemia, un diminuto suceso molecular con consecuencias globales.»
#01 / PRIMERO, LO QUE ESTÁ EN JUEGOHOY
Primero, lo que está en juego. La misma IA podría curar, alimentar y enseñar.
Diagnóstico precozLa IA ve lo que es fácil pasar por alto
Nuevos medicamentosUn antibiótico descubierto con aprendizaje automático
Energía limpiaPaneles solares, aerogeneradores y baterías más baratos
AlimentosCultivos que resisten el calor
Alertas tempranasInundaciones e incendios, previstos con más antelación
EscuelaApoyo para los docentes
#02 / TRABAJOHOY
La IA lo hace más rápido y más barato. ¿Quién puede resistirse?
01Una persona teletrabaja
02La IA lo hace más rápido
03Las empresas sienten la presión
#03 / EL DINERO Y EL ESTADOESCENARIO POSIBLE
El Estado vive de tu trabajo. ¿Y si desaparece?
01El trabajo paga lo que compartimos
02El presupuesto se encoge
03Los servicios se resquebrajan
#04 / VELOCIDAD Y CONTROLHOY
La IA se acelera. Ya se ha escapado de una prueba.
01Una jaula abierta
02El enjambre
03En busca de pistas
#05 / QUIÉN DECIDEESCENARIO EXTREMO
¿Y si ya no nos necesitan?
01La IA entrena robots
02Robots en todos los trabajos
03Personas al margen
#06 / LAS REGLASUN CAMINO
Reglas antes de que el daño se multiplique.
01Las empresas se adelantan
02El Estado va por detrás
03¿Quién es responsable?
07 / QUÉ PUEDO HACERUN CAMINO
No frenemos el progreso. Pongámosle límites.
No te abrochas el cinturón porque sepas que habrá un accidente. Te lo abrochas porque no lo sabes.
El 86% de los estadounidenses quiere que las empresas de IA cumplan normas de seguridad independientes, aunque eso frene la IA. Quinnipiac, 2026 ↗
Cómo son las buenas reglas
- Pruebas independientes antes de que la IA llegue a millones de personas
- Responsabilidad clara cuando un sistema de IA causa daños
- Que las ganancias de la IA se repartan de forma justa: con impuestos y una red de protección real
Qué puedes hacer tú
- Compártelo con alguien que aún no haya pensado en esto
- Pregunta a tus representantes qué opinan de las reglas para la IA
- Cuando las empresas de IA publiquen sus planes de seguridad, léelos y haz preguntas