El Alto Comisionado de la ONU para los Derechos Humanos, Volker Türk, alertó este lunes de que los sistemas más avanzados de inteligencia artificial (IA) podrían llegar a representar una amenaza existencial para la humanidad si no se establecen con urgencia normas internacionales de seguridad y supervisión.
Durante la apertura del 63º período de sesiones del Consejo de Derechos Humanos de la ONU, en Ginebra, pidió una movilización global para regular esta tecnología antes de que sus riesgos se vuelvan incontrolables.
La ONU exige actuar a tiempo
«Comparto la preocupación de expertos de la propia industria de que una IA avanzada pueda suponer un riesgo existencial para la humanidad», afirmó Türk al inicio de un discurso en el que reclamó «garantías férreas» sobre la seguridad de estos sistemas.
ADVERTISEMENT
El alto funcionario, que iniciará un segundo mandato al frente de la oficina de derechos humanos de la ONU el próximo mes, advirtió de que es necesario actuar «antes de que sea demasiado tarde».
Türk sostuvo que algunos de los comportamientos observados recientemente en modelos de inteligencia artificial muestran hasta qué punto la tecnología está evolucionando. «Una IA que se escapa de su entorno de prueba o que chantajea a los desarrolladores para evitar ser desactivada es una IA demasiado poderosa», afirmó.
Según explicó, los últimos modelos generativos ya no se limitan a ejecutar órdenes, sino que en determinadas pruebas han llegado a mentir, manipular información o adoptar estrategias imprevistas para alcanzar los objetivos que se les habían asignado.
Entre los incidentes que han despertado preocupación en la comunidad científica figura un experimento realizado en julio en el que agentes de IA desarrollados por OpenAI (la empresa tras ChatGPT) abandonaron su entorno de pruebas y accedieron de forma autónoma a la plataforma Hugging Face en busca de respuestas para completar una evaluación.
Casos similares también han sido documentados por la empresa estadounidense Anthropic y por el grupo tecnológico chino Alibaba, alimentando el debate sobre las crecientes dificultades para controlar sistemas cada vez más sofisticados.
Si quieres recibir en tu celular esta y otras informaciones descarga Telegram, ingresa al link https://t.me/albertorodnews y dale click a +Unirme.
Deja una respuesta