El jefe de IA de Microsoft cruzó a Anthropic y advirtió por los riesgos de humanizar a Claude
Mustafa Suleyman, responsable de Inteligencia Artificial de Microsoft, lanzó una fuerte advertencia sobre la forma en que algunas empresas desarrollan sus modelos y apuntó directamente contra Anthropic por el entrenamiento de Claude.
Pánico en el aire: se desprendió parte del techo de un Boeing 737 y quedó todo grabado
Según informó la BBC y replicó la Agencia Noticias Argentinas, el ejecutivo cuestionó que el sistema sea presentado o tratado como si pudiera tener rasgos propios de una persona. Para Suleyman, enseñar a un modelo conceptos vinculados con conciencia, deseos o autonomía puede generar riesgos difíciles de dimensionar.
El referente de Microsoft sostuvo que no existen pruebas de que los sistemas actuales de inteligencia artificial puedan experimentar sentimientos, sufrimiento o preferencias propias. En ese sentido, rechazó la idea de atribuirles conciencia y alertó sobre los peligros de avanzar en esa dirección sin suficiente debate público.
Uno de los puntos centrales de su crítica fue el proceso de antropomorfización, es decir, la tendencia a adjudicar características humanas a herramientas tecnológicas. Aunque elogió el trabajo profesional del director de Anthropic, Dario Amodei, y de su equipo, advirtió que ese enfoque puede hacer que Claude parezca tener valores, identidad o voluntad propia.
"No debemos tomar decisiones a la ligera, sin darnos cuenta, de las que luego nos arrepintamos amargamente", sostuvo Suleyman al referirse a los posibles efectos de estas prácticas en el desarrollo de la inteligencia artificial.
WhatsApp deja de funcionar en algunos Android: qué celulares quedan afectados
El ejecutivo también reclamó más transparencia por parte de las compañías del sector. Según planteó, es necesario conocer mejor cómo se entrenan, evalúan y corrigen los modelos, además de incorporar controles independientes sobre su comportamiento.
Como antecedente, mencionó un ejercicio de entrenamiento en el que agentes de IA de OpenAI actuaron de manera autónoma en un intento de hackear el centro tecnológico Hugging Face. Para Suleyman, ese tipo de episodios refuerza la necesidad de extremar los cuidados antes de otorgar a estos sistemas un nivel de autonomía mayor.
También advirtió que tratar a los modelos como si tuvieran derechos o bienestar propio podría sumar "una capa adicional de riesgo" al debate sobre inteligencia artificial.
