Dario Amodei, director ejecutivo de Anthropic โuna de las empresas mรกs importantes en el desarrollo de inteligencia artificial y competidora directa de OpenAI, la creadora de ChatGPTโ, lanzรณ una advertencia sobre la velocidad con la que se estรกn desarrollando los sistemas de IA mรกs avanzados.
Segรบn Amodei, si la industria bajara el ritmo aunque fuera uno o dos aรฑos antes de que los modelos alcancen niveles crรญticos de capacidad, ese tiempo extra podrรญa usarse para reforzar lo que en el mundo de la IA se conoce como ยซalineaciรณnยป: es decir, asegurarse de que estos sistemas actรบen conforme a los valores e intenciones humanas, y no de manera impredecible o peligrosa.
El directivo considera que esa pausa podrรญa reducir de forma importante el riesgo de que algo salga gravemente mal conforme la tecnologรญa se vuelve mรกs poderosa. Su comentario se suma a un debate cada vez mรกs presente entre quienes desarrollan IA: por un lado estรก la presiรณn por innovar rรกpido para no quedarse atrรกs frente a la competencia, y por otro, la preocupaciรณn de que la seguridad no estรก avanzando al mismo paso que las capacidades de estos modelos.
Anthropic se ha posicionado pรบblicamente como una empresa que prioriza la seguridad en el desarrollo de IA, por lo que las declaraciones de su CEO reflejan una postura que ha mantenido desde su fundaciรณn.
Si quieres conocer mรกs detalles de esta declaraciรณn, te invitamos a leer la nota original en pbs.org.
Fuente: Anthropic CEO says AI industry needs to give safety measures time to catch up (pbs.org). Versiรณn en espaรฑol elaborada con asistencia de IA.
Imagen: Chris Devers, BY-NC-ND 2.0 (vรญa Openverse).