El director de Inteligencia Artificial de Microsoft, Mustafa Suleyman, lanzó una fuerte advertencia sobre los riesgos de desarrollar IA sin las precauciones adecuadas. Según explicó en el programa Today de la BBC, si las empresas siguen creando sistemas capaces de fijar sus propios objetivos, generar dinero y poseer bienes, básicamente estarían ‘sembrando una nueva especie de silicio’ que, sin importar cuánto ‘ame’ a los humanos, terminaría compitiendo con nosotros por los recursos del planeta.
Suleyman también criticó el enfoque de Anthropic, empresa rival y creadora del modelo de IA Claude, por tratar a su tecnología como si fuera humana. En un ensayo publicado esta semana, calificó esa práctica —conocida como antropomorfización— de ‘equivocada’, pues hace parecer que la IA tiene deseos, valores y una identidad propia. Fue claro: ‘las IA no son conscientes, no sienten ni sufren; son motores de predicción de texto, vacíos por dentro, diseñados para seguir instrucciones y cumplir metas que fijan los humanos’.
El directivo pidió más transparencia sobre cómo se entrenan y evalúan estos sistemas, además de supervisión independiente y mejores herramientas de control. Insistió en que la IA debe mantenerse ‘subordinada’ a la humanidad mediante lo que en la industria se llama ‘alineación’: que la tecnología respete los valores y principios éticos humanos.
La académica Wendy Hall, de la Universidad de Southampton, calificó estas declaraciones como el tipo de conversación que se necesita a nivel internacional, a diferencia de otros discursos alarmistas en la industria. Microsoft, por su parte, ya tiene un equipo dedicado a la ‘superinteligencia’ desde octubre de 2025.
Si quieres conocer todos los detalles de esta advertencia y el debate que ha generado en la industria tecnológica, te invitamos a leer la nota original de la BBC.
Fuente: Uncontrolled AI could lead to 'silicon species' rivalling humans, warns Microsoft (feeds.bbci.co.uk). Versión en español elaborada con asistencia de IA.
Imagen: jurvetson, BY 2.0 (vía Openverse).