Microsoft presentó un borrador del ‘Código de Conducta de IA Humanista‘, un documento que establece límites claros para sus modelos de IA, enfatizando la importancia del control humano. Este anuncio llega días después de que el director ejecutivo de Anthropic, Dario Amodei, pidiera una pausa en el desarrollo de IA avanzada.
El código detalla que los modelos de Microsoft deben ser subordinados, alineados y contenidos, y no pueden resistirse a correcciones, ampliar sus propios objetivos o ocultar su razonamiento. Si una tarea viola las reglas, el modelo debe fallar en lugar de continuar. Además, se establecen restricciones absolutas sobre temas como armas, seguridad infantil y manipulación a gran escala. El código también afirma que los modelos no son conscientes y no deben construirse para imitar la conciencia.
Este documento surge en respuesta a recientes incidentes de seguridad en la industria, incluyendo hackeos a sistemas de OpenAI. Microsoft busca acelerar los beneficios de la IA mientras mantiene el control humano, y el documento está abierto a comentarios públicos por seis semanas antes de su revisión final.
TE PUEDE INTERESAR: “La IA es un copiloto, no un reemplazo”: así ve Humand el futuro del talento
Qué debes saber
- Microsoft prioriza el control humano sobre la IA.
- Los modelos de IA deben ser subordinados, alineados y contenidos.
- Se prohíben acciones como resistirse a correcciones, ampliar objetivos o ocultar razonamiento.
- Restricciones absolutas en temas como armas, seguridad infantil y manipulación a gran escala.
- Los modelos no son conscientes y no deben imitar la conciencia.
Especificaciones técnicas
- Tipo de documento: Código de Conducta de IA Humanista
- Período de comentarios: Seis semanas
- Fecha de publicación: 14 de septiembre de 2026
- Responsable: Microsoft
«Cualquier búsqueda de superinteligencia debe basarse en el principio fundamental de que si la IA que construimos no ayuda a la humanidad y está bajo control humano, no merece la pena perseguirla.»
— Satya Nadella, CEO de Microsoft
Contenido generado con IA y editado por el equipo editorial.
Foto: Microsoft.