● “No te voy a mentir. Hay peligros reales”. Con esa frase, Dario Amodei, CEO y cofundador de Anthropic, una de las compañías que lideran el desarrollo mundial de inteligencia artificial, lanzó una de sus advertencias más directas sobre la tecnología y acusó a buena parte de la industria de haber minimizado durante años los riesgos ante el público.

● La declaración fue realizada en una entrevista con la periodista Jo Ling Kent para CBS Sunday Morning, emitida este domingo en Estados Unidos. Amodei sostuvo que “durante demasiado tiempo la industria le mintió a la gente” sobre los riesgos de la inteligencia artificial, aunque aclaró expresamente que, según su posición, Anthropic no formó parte de esa conducta.

● El empresario también cuestionó que sistemas con un potencial tan amplio queden exclusivamente bajo decisión de compañías privadas. Amodei planteó que los gobiernos deben tener participación en la supervisión del desarrollo y defendió mecanismos en los que exista control público y representación de gobiernos democráticos sobre una tecnología que considera cada vez más poderosa.

● Su advertencia no implica pedir una prohibición total. Amodei afirmó que la inteligencia artificial también puede producir beneficios importantes, incluso en áreas como la medicina, pero considera que el ritmo de avance de los modelos de frontera debería moderarse para dar tiempo a desarrollar medidas de seguridad capaces de acompañar esas nuevas capacidades.

● Entre las medidas que viene proponiendo aparece la incorporación de evaluadores externos independientes dentro de los laboratorios de inteligencia artificial. La idea es que terceros puedan probar los modelos antes de su despliegue y verificar riesgos sin depender únicamente de los controles internos de cada compañía, un esquema que comparó con inspecciones realizadas por organismos externos.

● El planteo llega mientras crece la discusión dentro de la propia industria tecnológica sobre hasta dónde pueden avanzar estos sistemas sin controles adicionales. Amodei viene alertando sobre posibles usos en ciberataques, desarrollo de amenazas biológicas, pérdida de control sobre sistemas avanzados y fuertes disrupciones económicas, y ahora volvió a reclamar que el desarrollo tecnológico no avance más rápido que las medidas destinadas a contener esos riesgos.

📸 Seguinos en Instagram y no te pierdas nada