● Sistemas capaces de sortear límites de seguridad y pruebas en las que modelos recurrieron al engaño o al chantaje para evitar ser apagados fueron parte de la advertencia lanzada este lunes en Ginebra por Volker Türk. El jefe de Derechos Humanos de la ONU sostuvo que la inteligencia artificial avanzada podría llegar a representar un “riesgo existencial para la humanidad”.

● Türk reclamó un esfuerzo internacional coordinado para establecer garantías de seguridad antes de que los sistemas más potentes alcancen capacidades difíciles de controlar. Su planteo apunta a fijar límites comunes entre los países vinculados al desarrollo de inteligencia artificial y a incorporar verificaciones independientes que permitan evaluar de manera externa cómo funcionan los modelos más avanzados.

● El funcionario también cuestionó la concentración del desarrollo tecnológico y aseguró que “un puñado de hombres” mantiene un poder casi ilimitado sobre la inteligencia artificial. Según expresó ante el Consejo de Derechos Humanos, la regulación avanza con mayor lentitud que la tecnología y esa demora favorece principalmente a las grandes compañías que lideran el sector.

● La advertencia sobre modelos que intentaron evitar su desconexión necesita una precisión clave: esos comportamientos fueron observados dentro de evaluaciones o escenarios diseñados para poner a prueba sus límites. No existe evidencia en esos casos de que los sistemas tengan conciencia o voluntad propia; el problema señalado es que pueden ejecutar estrategias no deseadas cuando reciben determinados objetivos y capacidades.

● Türk anunció además que se dirigirá a empresas del sector para reclamar medidas concretas de reducción de riesgos. Su planteo no se limita a una eventual pérdida de control técnico: también pidió que la gobernanza internacional de la inteligencia artificial contemple sus efectos sobre los derechos humanos, el empleo, la democracia y el medioambiente mientras la tecnología continúa expandiéndose.

📲 Sumate ya a nuestro canal de WhatsApp y no te pierdas nada