La semana pasada, un exempleado de Anthropic llamado Jacob Coxon se volvió viral al advertir que un grupo de agentes de inteligencia artificial (IA) podría, en teoría, decidir crear y usar un arma biológica capaz de acabar con la humanidad. Su declaración reavivó un debate que lleva décadas circulando en el mundo de la tecnología, pero según reveló la BBC, no todos dentro de la industria se lo toman tan en serio.
Varios trabajadores actuales y exempleados de compañías como OpenAI, Meta y DeepMind, que hablaron bajo condición de anonimato, respondieron con burla a estas alarmas apocalípticas. Uno de ellos, que trabajó junto a Coxon, dijo que su reacción inicial fue de sorpresa e incredulidad, pues considera que este tipo de advertencias suelen ser vagas y basarse en saltos de razonamiento sin sustento técnico.
Rishub Jain, fundador de la firma de investigación en seguridad de IA Sampura Research y quien trabajó siete años en DeepMind, coincide en que el tono entre los especialistas ha sido «un poco de broma», ya que este tema no es nuevo. Por su parte, Colin Fraser, científico de datos en Meta, escribió en redes sociales que no hay evidencia real de que los modelos de lenguaje vayan a perseguir metas que lleven a la extinción humana, usando la frase informal de que estos sistemas simplemente «no traen ese instinto».
Aun con el humor, muchos expertos coinciden en que sí existen riesgos reales y actuales relacionados con la IA, como fallas de seguridad o su uso en contextos militares, que merecen atención inmediata.
Si quieres conocer todos los detalles de este debate, te invitamos a leer la nota original de la BBC.
Fuente: Not all AI workers think the tech could kill everyone (feeds.bbci.co.uk).
Imagen: arnoKath, BY-NC-SA 2.0 (vía Openverse).