El responsable de inteligencia artificial de Microsoft ha advertido que, sin salvaguardias adecuadas, el desarrollo de esta tecnología podría dar lugar a la aparición de una nueva «especie de silicio» capaz de competir con los humanos.
Mustafá Suleyman criticó que la empresa rival Anthropic está tratando a la IA como si fuera humana, un enfoque que calificó de «equivocado» y que, en su opinión, podría conducir a la creación de sistemas que la humanidad no pueda controlar.
En declaraciones al programa Today de la BBC, el directivo afirmó que es «razonable» que exista preocupación en torno a la inteligencia artificial, aunque subrayó que también hay «medidas muy prácticas que podemos tomar» para mantenerla bajo control.
Sus palabras se suman a una creciente serie de advertencias desde la propia industria tecnológica sobre los posibles riesgos asociados al rápido avance de la IA.
La BBC se ha puesto en contacto con Anthropic para solicitar comentarios.
En su entrrevista con el programa Today de la BBC, Suleyman advirtió este jueves sobre los riesgos de que las empresas continúen desarrollando sistemas de inteligencia artificial capaces de fijar sus propios objetivos, generar ingresos y poseer activos.
Advirtió que eso sería «sembrar esencialmente una nueva especie de silicio», que «podría competir con los humanos por los recursos, más allá de cualquier preocupación o ‘afecto’ por la humanidad».
Las declaraciones del directivo se producen después de que, a principios de esta semana, publicara un ensayo en el que cuestiona el enfoque de Anthropic para entrenar su modelo de IA, Claude, aunque elogió a su director ejecutivo, Dario Amodei, y a su equipo como «personas intelectualmente honestas».
En ese texto, Suleyman criticó a la empresa por atribuir cualidades humanas a sus sistemas —una práctica conocida como antropomorfización—, que, según argumentó, puede dar la impresión de que Claude tiene deseos, valores o una identidad propios.
También advirtió de que las empresas tecnológicas corren el riesgo de crear sistemas «imposibles» de controlar si tratan a la IA como si fuera un ser humano.
Superinteligencia «humanista»
«Las IA no son conscientes», escribió.
«No sienten, no experimentan ni sufren. No tienen preferencias innatas ni motivaciones propias».
«Son máquinas diseñadas para completar secuencias, internamente vacías, que siguen instrucciones y persiguen objetivos definidos por humanos».
El debate sobre cuánta autonomía deberían tener los sistemas de inteligencia artificial divide cada vez más a la industria.
En declaraciones a la BBC con motivo de una próxima cumbre sobre IA, Suleyman pidió mayor «alineación» para desarrollar tecnologías que permanezcan «subordinadas» a la humanidad.
La alineación es un campo que busca integrar principios y valores humanos en los sistemas de IA, con el objetivo de que su comportamiento se mantenga en consonancia con ellos.
«Creo que la buena noticia es que todos los seres humanos tenemos un interés común en garantizar que los sistemas que creamos y utilizamos en todo el mundo, en todas las naciones, sean seguros, controlables y estén subordinados a la humanidad», afirmó
«Todos deben estar alineados».
Microsoft creó su propio equipo de superinteligencia en octubre de 2025.
Al igual que su rival Anthropic, está intensificando sus esfuerzos en el desarrollo de IA avanzada.
Las declaraciones de Suleyman reflejan el borrador inicial del Código de Conducta de Microsoft para una IA humanista, un «manual de capacitación» publicado esta semana que detalla cómo la empresa está desarrollando sus sistemas y plantea la idea de una «superinteligencia humanista».
Según el documento, se trata de «una IA muy avanzada que siempre trabaja para las personas, se mantiene dentro de límites definidos y permanece bajo control humano».
La visión de Microsoft sobre una IA «humanista» pone de relieve uno de los principales desafíos de esta tecnología: cómo hacerla más potente sin perder de vista los valores a los que está destinada a servir.
¿Nadie ha roto el hielo todavía?
Tu opinión es importante para nosotros. Sé la primera persona en dejar un comentario.
Empezar conversación ahora