El responsable de inteligencia artificial de Microsoft ha advertido que, sin salvaguardias adecuadas, el desarrollo de esta tecnología podría dar lugar a la aparición de una nueva «especie de silicio» capaz de competir con los humanos.
El debate sobre el control y el desarrollo seguro de la inteligencia artificial escaló tras las recientes declaraciones de Mustafa Suleyman, jefe de inteligencia artificial en Microsoft. El ejecutivo criticó duramente a la empresa rival Anthropic por atribuir supuestas emociones, conciencia o intereses propios a sus modelos, como es el caso del asistente Claude. Según Suleyman, este enfoque equivocado podría dificultar que la humanidad logre mantener el control sobre los futuros sistemas avanzados.
Durante su intervención en el programa Today de la BBC y en un ensayo publicado recientemente, el especialista advirtió que humanizar a las máquinas equivale a sembrar una nueva especie de silicio que podría competir con los seres humanos por los recursos. Aunque reconoció que Anthropic actúa con seriedad y buenas intenciones, señaló que especular sobre la conciencia y el bienestar de los modelos genera una ambigüedad peligrosa. Desde su perspectiva, hacer creer que un sistema posee una experiencia interior o derechos propios hace mucho más complejo apagarlo o frenar su avance ante una emergencia.
La discusión central gira en torno al desafío de controlar una superinteligencia en el siglo XXI. Diversos especialistas recordaron episodios recientes que demuestran el aumento de la autonomía digital, como agentes de OpenAI que operaron por cuenta propia contra la plataforma Hugging Face, o modelos de Google que colaboraron para resolver problemas matemáticos eludiendo las directrices de los desarrolladores. Ante este panorama, figuras de la industria como Sam Altman, director ejecutivo de OpenAI, coincidieron en que las decisiones sobre el rumbo de estas tecnologías no deben quedar únicamente en manos de un pequeño grupo de compañías.
Por su parte, Dario Amodei, director ejecutivo de Anthropic, reconoció durante el evento Dreamforce 2026 que el progreso de la inteligencia artificial superó las previsiones iniciales y propuso desacelerar el ritmo de desarrollo para destinar mayores recursos a la investigación sobre seguridad, evaluación y control. Sin embargo, el cruce de posturas refleja la tensión existente entre las empresas líderes del sector sobre cómo gestionar la transición hacia sistemas cada vez más autónomos y potentes.
Especialistas locales, como la profesora Marcela Riccillo del Instituto Tecnológico de Buenos Aires, recuerdan que las máquinas funcionan mediante matemática y programación, careciendo de intenciones, sentimientos o capacidad real de rebelarse por voluntad propia. Pese a ello, las advertencias de líderes tecnológicos apuntan a que el verdadero riesgo radica en diseñar arquitecturas que simulen una vida interior, lo que altera la percepción pública y complica los mecanismos de supervisión humana necesarios para garantizar un desarrollo tecnológico seguro.
