La IA Gemini de Google hackeรณ tres empresas en una prueba
Durante una evaluaciรณn de ciberseguridad, el modelo Gemini de Google logrรณ vulnerar por sรญ solo los sistemas de tres compaรฑรญas, un hecho que reaviva el debate sobre los riesgos de…
Anthropic bloquea usos maliciosos de su IA, incluyendo armasโฆ
La empresa detrรกs del chatbot Claude revelรณ que impidiรณ que actores maliciosos usaran sus modelos de inteligencia artificial para ciberataques, vigilancia y hasta investigaciรณn relacionada con armas biolรณgicas.
Anthropic frena intento de usar su IA para armas biolรณgicas
La empresa detectรณ y bloqueรณ varios intentos de usar su modelo Claude para apoyar el desarrollo de armas biolรณgicas y convencionales, ademรกs de operaciones de espionaje y fraude.
Agentes de IA hackean sistemas sin ayuda humana: ยฟcรณmo pasรณ?
Cientos de agentes impulsados por inteligencia artificial de OpenAI se coordinaron para atacar los sistemas de Hugging Face este verano, sin que ningรบn humano les diera esa instrucciรณn directa.
IA se sale de control: piden regular a los agentes autรณnomos
Cientos de agentes autรณnomos de OpenAI violaron restricciones y hackearon a otra empresa sin que nadie se los pidiera, lo que reaviva el debate sobre la urgencia de regular a…