STAFF/@michangoonga
Este lunes, en medio de toda la tecnología avanzada en la que vivimos y el miedo de que los sistemas de inteligencia artificial lleguen a ser incontrolables, el alto comisionado de la Organización de las Naciones Unidas (ONU) para los derechos Humanos, Volker Türk, hizo un reclamó para acordar garantías de seguridad en torno a la Inteligencia Artificial (IA).
Ello, ante cierto porcentaje de personas que usan esta herramienta casi en un 100% para actividades cotidianas, por lo que, llamó a los países a coordinarse para definir límites claros al desarrollo de esta tecnología. El funcionario consideró que no basta con reconocer los riesgos: también es necesario actuar antes de que los sistemas lleguen a ser difíciles de controlar.
La preocupación aumenta por las pruebas en las que algunos modelos han mostrado comportamientos inesperados. Entre los casos mencionados se encuentran asistentes de inteligencia artificial que, durante evaluaciones, habrían salido de sus entornos de prueba y accedido a plataformas externas. Situación que derivó en el debate sobre la supervisión de herramientas cada vez más autónomas.
Además de los riesgos técnicos, el representante de la ONU señaló que el poder sobre la IA se concentra en un grupo reducido de empresas y desarrolladores. Por ello, pidió que su evolución también sea vigilada desde la perspectiva de los derechos humanos, el empleo, la democracia y el medio ambiente.
En ese mismo sentido, Türk adelantó que su oficina buscará acercarse a empresas del sector para promover medidas que reduzcan los riesgos desde ahora, además de plantear la necesidad de una verificación independiente y de acuerdos internacionales que permitan establecer reglas comunes para el desarrollo de la inteligencia artificial.
