Dario Amodei, cabeza de la empresa de inteligencia artificial Anthropic, publicรณ un ensayo en el que pide que el desarrollo de los modelos de IA se haga a un ritmo mรกs controlado y con supervisiรณn externa. Segรบn explicรณ, no se trata de detener el avance tecnolรณgico, sino de darle tiempo a empresas y gobiernos para atender riesgos que considera graves.
Amodei propuso un plan de tres puntos: monitoreo independiente de los modelos mientras se desarrollan, regulaciรณn conjunta de toda la industria y, eventualmente, reglas a nivel global. La propuesta llega despuรฉs de que dos empleados del รกrea de seguridad de Anthropic renunciaron alegando que la carrera entre empresas por crear mรกquinas mรกs inteligentes que los humanos podrรญa poner en riesgo la supervivencia de la humanidad.
La idea encontrรณ eco incluso entre competidores: Sam Altman, director de OpenAI, dijo estar de acuerdo en ‘poner ritmo a la frontera’ tecnolรณgica, mientras que Elon Musk respaldรณ pรบblicamente a Amodei. Sin embargo, el presidente estadounidense Donald Trump ha restado importancia a estas advertencias, pues considera que Estados Unidos no puede quedarse atrรกs en la carrera por la IA frente a otros paรญses.
Algunos analistas seรฑalan que, mรกs que una preocupaciรณn genuina por la seguridad, la propuesta de Amodei podrรญa buscar consolidar el control de Anthropic sobre esta tecnologรญa en plena competencia con OpenAI, empresa que รฉl mismo ayudรณ a fundar antes de separarse para crear la suya.
Si quieres conocer todos los detalles de esta historia, te invitamos a leer la nota original de la BBC.
Fuente: Anthropic boss Dario Amodei calls for AI development to slow down (feeds.bbci.co.uk). Versiรณn en espaรฑol elaborada con asistencia de IA.
Imagen: Chris Devers, BY-NC-ND 2.0 (vรญa Openverse).