Anthropic, la compañía de inteligencia artificial responsable del chatbot Claude y una de las principales competidoras de OpenAI, anunció que logró frustrar varios intentos de uso indebido de su tecnología. Según informó la empresa, detectó y bloqueó a personas que intentaban aprovechar sus modelos de IA para actividades peligrosas, entre ellas ciberataques, labores de vigilancia no autorizada y, lo más alarmante, investigaciones que podrían haber facilitado el desarrollo de armas biológicas.
Anthropic fue fundada por exempleados de OpenAI que se separaron de esa organización con la idea de construir sistemas de inteligencia artificial más seguros y responsables. Desde su creación, la empresa se ha posicionado como una voz importante en los debates sobre los riesgos que representa la IA avanzada, incluyendo su posible uso para causar daño a gran escala.
Este anuncio se suma a la preocupación creciente entre expertos y gobiernos sobre cómo herramientas de inteligencia artificial cada vez más poderosas podrían ser explotadas por actores malintencionados para actividades que antes requerían conocimientos técnicos altamente especializados, como el diseño de agentes patógenos o la planeación de ataques informáticos sofisticados.
Aunque los detalles específicos sobre los casos bloqueados no se dieron a conocer públicamente, la revelación pone sobre la mesa un tema cada vez más urgente: la necesidad de que las empresas de IA implementen controles efectivos para evitar que su tecnología se convierta en un arma. Te invitamos a leer la nota original para conocer más detalles sobre este importante anuncio.
Fuente: Anthropic says it blocked misuse of its AI that could have supported biological weapons (pbs.org). Versión en español elaborada con asistencia de IA.
Imagen: SandiaLabs, BY-NC-ND 2.0 (vía Openverse).