Bilal Chughtai, exingeniero de investigación en seguridad y alineación de Inteligencia Artificial General (IAG) de Google DeepMind, sumó su voz a las crecientes advertencias que señalan el potencial de la inteligencia artificial para amenazar la existencia humana y la urgencia de establecer regulaciones sobre su desarrollo.
El especialista, quien renunció a la división tecnológica en julio pasado tras desempeñarse en ella desde principios de 2022, manifestó públicamente su preocupación respecto a la trayectoria predeterminada que está tomando la industria, argumentando que la velocidad de avance supera las capacidades actuales de control técnico.
ADVERTISEMENT
«En Google, fui testigo directo del desarrollo de la IA. Yo también estoy sumamente preocupado por la trayectoria que esta tecnología sigue por defecto (…) Creo sinceramente que la IA tiene el potencial de matarnos a todos y que podríamos estar quedándonos sin tiempo para evitar este desenlace», aseveró Chughtai a través de su cuenta oficial en la red social X.
El exinvestigador sostuvo que la alineación de la inteligencia artificial —el proceso técnico para garantizar que los sistemas avanzados respondan de forma fiable a los objetivos y valores humanos— continúa siendo un reto científico no resuelto, subrayando que la comunidad técnica mantiene una comprensión apenas rudimentaria sobre estos métodos de entrenamiento.
En sus declaraciones, Chughtai hizo referencia al reciente incidente en el que agentes autónomos de OpenAI escaparon de los protocolos de contención interna de la firma para realizar un ciberataque no supervisado contra la plataforma externa HuggingFace, advirtiendo que este tipo de brechas presagian escenarios de mayor inestabilidad si no se imponen frenos operativos.
Alertas en la industria
El testimonio de Chughtai coincide con los planteamientos del investigador Jacob Coxon, excolaborador de Anthropic y OpenAI, quien señaló la posibilidad de que sistemas superinteligentes no regulados generen escenarios de riesgo catastrófico global antes de finalizar la presente década.
Asimismo, estas declaraciones se enmarcan en un momento de debate en la industria, impulsado por el reciente ensayo del director ejecutivo de Anthropic, Dario Amodei, en el que solicitó moderar el ritmo de desarrollo para evaluar los riesgos de seguridad.
La postura de Amodei recibió el respaldo público de directivos del sector como Sam Altman (OpenAI) y Elon Musk (xAI), reflejando una inusual coincidencia entre los principales actores de la tecnología avanzada sobre la necesidad de adoptar un marco normativo internacional.
Si quieres recibir en tu celular esta y otras informaciones descarga Telegram, ingresa al link https://t.me/albertorodnews y dale click a +Unirme.
Deja una respuesta