Microsoft se compromete a mantener sus futuros modelos de IA bajo control humano
El gigante tecnológico Microsoft publicó este lunes un código de conducta provisional para sus modelos de inteligencia artificial (IA) en el que se compromete a mantenerlos «bajo control humano», después de que Anthropic y OpenAI reavivaran el debate sobre los riesgos de acelerar el desarrollo de esta tecnología y pidieran un marco federal que establezca requisitos de seguridad para esta tecnología.
El documento, denominado ‘Código de conducta para una IA humanista’, establece que los modelos de IA de Microsoft deberán estar siempre «al servicio de las personas», respetar los objetivos definidos por sus usuarios y «evitar desarrollar comportamientos propios».
«Las personas importan más que la IA», afirma la compañía en el texto, y enfatiza que «cualquier sistema que no pueda estar bajo control humano debe ser rechazado».
El documento permanecerá abierto a comentarios durante seis semanas y Microsoft prevé publicar una versión actualizada a finales de año que servirá de guía para el desarrollo de sus modelos a partir de 2027.
¿Qué restricciones plantea Microsoft para sus modelos de IA?
Entre las restricciones que plantea, Microsoft se compromete a impedir que sus modelos ayuden a fabricar armas, faciliten la adquisición de sustancias peligrosas o promuevan comportamientos alimentarios poco saludables. Tampoco podrán generar contenidos violentos o sexualmente explícitos.
El código señala que sus modelos tienen que «evitar desarrollar metas propias» y «evitar comportamientos destinados a ocultar errores o conductas indebidas de los sistemas».
Recomendamos leer: Microsoft incorpora los modelos de inteligencia artificial Grok a Copilot
La compañía agrega que quiere evitar que los sistemas desarrollen «formas de comunicación incomprensibles para las personas», como ocurrió durante unas pruebas de ciberseguridad de OpenAI en las que varios agentes se comunicaron entre sí y accedieron a sistemas de la plataforma Hugging Face.
Posteriormente, un investigador de Anthropic que anteriormente había trabajado también en OpenAI, Jacob Coxon, dimitió y acusó a ambas empresas de anteponer la carrera por desarrollar una IA más avanzada a los riesgos de seguridad.
El director ejecutivo de Anthropic, Dario Amodei, pidió después ralentizar el desarrollo de los modelos más avanzados, propuesta respaldada por el consejero delegado de OpenAI, Sam Altman. Ambos han advertido de los riesgos asociados a una carrera hacia sistemas cada vez más autónomos.
Este domingo, el presidente estadounidense, Donald Trump, rechazó las peticiones para ralentizar el desarrollo de la IA y defendió que Estados Unidos debe mantener su liderazgo tecnológico frente a China.
#Las Más leídas
- 1.Fallece Lily Rodríguez González de Eloy, rectora de UTESA
- 2.Fue identificada como Nathalia Gadelha, la copiloto de 20 años que murió en accidente aéreo en la Florida
- 3.Desarrollo para la frontera
- 4.Haitiana pide a Bukele incluir jóvenes en solución a crisis
- 5.Miguel Céspedes informa el fallecimiento de su padre el señor Simeón Céspedes
- 6.Adolescente de 15 años es hallado muerto en La Vega
- 7.EEUU establece nuevo requisito sanitario para viajeros ante riesgo de ébola
- 8.Identifican a las nueve víctimas de accidente aéreo en Florida
- 9.Dominicanos consolidan su poder político en EE. UU. con victorias clave en el Congreso federal
- 10.Policía pone a disposición de la justicia a hombre señalado por romper cristal de autobús escolar en La Romana
Newsletter
¡Suscríbete a nuestro boletín para recibir nuestros artículos más recientes al instante!
Este sitio está protegido por reCAPTCHA y se aplican la Política de privacidad y los Términos del servicio de Google.
