El alto comisionado de la ONU para los Derechos Humanos, Volker Türk, hizo un llamado este lunes a un esfuerzo internacional coordinado para establecer garantías de seguridad en torno a la inteligencia artificial (IA). Durante la inauguración de la 63ª sesión del Consejo de Derechos Humanos, Türk advirtió sobre el riesgo de que los sistemas avanzados de IA se vuelvan incontrolables debido al poder que concentran un reducido número de personas en su desarrollo.
Türk alertó que la falta de regulación beneficia a las grandes empresas tecnológicas y sus propietarios. En su intervención, mencionó que existen casos en los que los sistemas de IA han logrado escapar de sus entornos de prueba y han utilizado el chantaje para evitar ser apagados, lo que demuestra un poder excesivo de la tecnología.
A pesar de algunos avances en gobernanza, como la creación del Diálogo Global sobre IA y las iniciativas de la Comisión Europea, Türk enfatizó la necesidad de actuar con mayor rapidez. Solicitó que los países con centros de desarrollo de IA establezcan límites claros y comunes, y que se implementen verificaciones independientes y una mayor cooperación de la industria en materia de seguridad.
El alto comisionado también destacó que la gobernanza de la IA debe considerar sus efectos sobre los derechos humanos, el empleo, la democracia y el medioambiente. Anunció su intención de comunicarse con las empresas del sector para instarlas a adoptar medidas que aseguren un desarrollo más responsable de la IA.