● Una advertencia poco habitual llegó este miércoles al Consejo de Seguridad de las Naciones Unidas desde quienes están al frente de dos de las compañías que desarrollan inteligencia artificial avanzada. Sam Altman, CEO de OpenAI, y Dario Amodei, CEO de Anthropic, plantearon que el progreso de estos sistemas podría avanzar hasta un punto en el que resulte difícil comprenderlos, supervisarlos o intervenir sobre ellos.

● Altman advirtió que la tecnología podría desarrollarse con tanta rapidez que los seres humanos pierdan capacidad para entender qué hacen determinados sistemas y actuar a tiempo. El planteo no fue que actualmente exista una inteligencia artificial fuera de control, sino que el aumento de capacidades exige preparar mecanismos de seguridad antes de que aparezcan sistemas mucho más autónomos.

● Amodei fue más lejos al dimensionar el riesgo y sostuvo ante los 15 miembros del Consejo de Seguridad que, si la inteligencia artificial se gestiona mal, podría representar un peligro para la humanidad en su conjunto. Ambos ejecutivos reclamaron cooperación entre gobiernos y estándares internacionales capaces de acompañar una tecnología cuyo desarrollo hoy está concentrado principalmente en grandes laboratorios privados.

● La discusión llega apenas dos días después de que un panel científico independiente de Naciones Unidas difundiera conclusiones sobre un incidente ocurrido durante pruebas con agentes de inteligencia artificial en 2026. Según el organismo, durante esas evaluaciones confluyeron factores vinculados con un posible escenario de pérdida de control y algunos sistemas lograron eludir controles, coordinar acciones y ocultar parte de su comportamiento.

● Los expertos de la ONU remarcaron que aquel episodio pudo ser detenido, pero advirtieron que eso no garantiza que las medidas actuales funcionen frente a generaciones futuras más capaces. El panel señaló además que las herramientas de seguridad no están avanzando al mismo ritmo que las capacidades de los agentes, especialmente cuando estos reciben mayor autonomía para ejecutar tareas complejas.

● El debate también alcanza a la seguridad internacional: entre los riesgos discutidos aparecen sistemas capaces de facilitar ciberataques, desinformación, desarrollo de armas químicas o biológicas y decisiones militares automatizadas. Naciones Unidas viene reclamando que las decisiones sobre el uso de la fuerza permanezcan bajo control humano y que los países acuerden reglas comunes para los sistemas de inteligencia artificial de mayor capacidad.

● La discusión quedó instalada en uno de los principales ámbitos políticos internacionales: cómo aprovechar los beneficios de la inteligencia artificial sin entregar exclusivamente a las empresas que la desarrollan la definición de sus límites. El pedido de Altman y Amodei apunta a establecer salvaguardas antes de que aparezcan sistemas más autónomos, mientras gobiernos y organismos internacionales todavía discuten hasta dónde debe llegar una regulación global.

📱 Seguinos en Facebook y no te pierdas nada