● “Este es un momento que exige extrema cautela”. La advertencia no vino de un crítico externo sino de Jakub Pachocki, jefe científico de OpenAI, quien publicó este domingo 6 de septiembre un ensayo titulado “An Alien Mind”. Allí plantea que el avance de la inteligencia artificial podría sostenerse hasta llegar a sistemas capaces de participar cada vez más en su propia mejora.
● Pachocki sostiene que los resultados internos de OpenAI le generan una fuerte expectativa de que el ritmo actual de progreso pueda continuar hacia la llamada auto-mejora recursiva. El concepto describe un escenario en el que sistemas de inteligencia artificial colaboran en el diseño, investigación y desarrollo de nuevas generaciones de IA, acelerando así el proceso que aumenta sus propias capacidades.
● El punto más contundente aparece cuando reconoce que, a su entender, ningún laboratorio ha resuelto todavía el alineamiento y el monitoreo en un nivel suficiente para continuar durante mucho más tiempo escalando sistemas a máxima velocidad de manera responsable. La afirmación incluye implícitamente a OpenAI y abre una discusión sobre cuánto puede avanzar la industria antes de necesitar nuevas barreras de seguridad.
● El alineamiento busca que una inteligencia artificial no solo cumpla instrucciones, sino que mantenga comportamientos compatibles con valores humanos cuando enfrenta situaciones nuevas, ambiguas o adversas. Pachocki sostiene que una IA alineada debería actuar con honestidad, integridad y “amor por la humanidad”, pero advierte que no existe todavía una garantía suficiente de que esos valores se mantengan al aumentar sus capacidades.
● Otra preocupación es la capacidad de vigilar qué hacen estos sistemas. OpenAI ha utilizado el monitoreo de las cadenas de razonamiento como una herramienta para detectar conductas problemáticas, pero Pachocki señala que su confiabilidad puede disminuir a medida que los modelos adquieren capacidades sin necesitar verbalizar todo su razonamiento y aprenden a operar en entornos donde combinan pensamiento, comunicación y herramientas.
● El científico utiliza la expresión “intelecto alienígena” para describir una inteligencia construida de una forma radicalmente distinta de la humana, no para afirmar que exista una entidad extraterrestre. Su preocupación es que un progreso sin suficiente control termine dejando a las personas fuera de decisiones centrales. Por eso pide desaceleraciones voluntarias cuando sean necesarias, estándares comunes de seguridad y coordinación internacional entre gobiernos.
● Pachocki no propone detener el desarrollo de inteligencia artificial y también destaca su potencial científico, económico y social. Su planteo es que el crecimiento de capacidades debe ir acompañado por mejores mecanismos de alineamiento, monitoreo y defensa. La advertencia final resume su posición: la humanidad debe conservar el control del futuro antes de que sistemas más inteligentes que nosotros vuelvan insuficientes las salvaguardas actuales.
📸 Seguinos en Instagram y no te pierdas nada
