Verificación y uso responsable de Inteligencia Artificial
Alucinaciones, sesgos, privacidad, autoría y criterios para usar IA de forma segura y académicamente íntegra en Ingeniería Metalúrgica.
Usar IA sin renunciar al criterio profesional
Evaluar respuestas generadas, identificar riesgos y aplicar un protocolo de verificación, privacidad, atribución y responsabilidad.
Errores, invenciones, sesgos y falta de evidencia.
Datos personales, académicos e industriales.
Fuentes, prompts, cambios humanos y uso de IA.
Secuencia de la sesión virtual
La respuesta parece correcta… ¿la usaría?
La redacción es clara y convincente.
Propone una acción metalúrgica potencialmente errónea.
Cita una norma y un valor que deben verificarse.
Cuando el modelo completa con algo plausible
Propiedad, temperatura o porcentaje sin respaldo.
Artículo, norma o autor que no puede localizarse.
Fuente real usada para apoyar algo que no afirma.
Conclusión que depende de condiciones no declaradas.
Del texto convincente a la evidencia
Afirmaciones verificables
Impacto y riesgo
Norma, libro o datos
Unidades y coherencia
Documentar cambios
| Tipo de afirmación | Control mínimo |
|---|---|
| Definición general | Texto académico o fuente institucional. |
| Propiedad de material | Ficha, norma o base confiable con condiciones. |
| Cálculo | Ecuación, unidades, orden de magnitud y repetición. |
| Decisión de seguridad | Procedimiento autorizado y especialista responsable. |
Los datos disponibles no representan todo el mundo
Predominio de ciertos procesos, materiales, idiomas o condiciones.
Etiquetas inconsistentes o sensores con distinta calidad.
Usar el modelo fuera del contexto para el que resulta adecuado.
No todo dato debe entrar en una herramienta de IA
- Datos personales de estudiantes.
- Notas, evaluaciones identificables o expedientes.
- Planos, fórmulas o parámetros industriales confidenciales.
- Credenciales, contratos o información restringida.
- Anonimizar y minimizar datos.
- Usar casos ficticios o sintéticos.
- Eliminar identificadores y metadatos.
- Trabajar en entornos institucionales autorizados.
La IA puede asistir; la responsabilidad no se delega
| Uso | Práctica responsable |
|---|---|
| Generación de ideas | Seleccionar, adaptar y justificar las decisiones propias. |
| Redacción | Revisar cada afirmación y declarar la asistencia cuando corresponda. |
| Datos y código | Probar resultados, conservar trazabilidad y documentar cambios. |
| Evaluación | No entregar decisiones automáticas sin revisión docente. |
| Fuentes | Consultar la fuente real; no citar al modelo como evidencia técnica. |
Diseñar evidencias resistentes a la copia automática
Borradores, bitácora, datos, decisiones y retroalimentación.
Casos locales, mediciones, laboratorio y restricciones concretas.
Explicar supuestos, verificar un cálculo y responder preguntas.
Detectar y corregir errores de una respuesta de IA.
Declarar qué aportó la IA y qué decisiones tomó el estudiante.
Aplicar el concepto a una variante no vista del problema.
Cuatro pasos antes de publicar o enseñar
Datos, fuentes, unidades, supuestos y resultados.
Impacto, sesgo, seguridad y contexto de aplicación.
Privacidad, confidencialidad y propiedad intelectual.
Declarar el uso de IA y conservar responsabilidad humana.
Defina el nivel de control
Ideas, esquemas y borradores sin datos sensibles
Material docente, cálculos o interpretación: revisión obligatoria
Seguridad, calificación o decisión industrial: autoridad humana
Encuentre, demuestre y corrija
- Subraye cinco afirmaciones.
- Clasifique su impacto.
- Compruebe dos fuentes.
- Revise unidades y supuestos.
- Identifique privacidad o sesgo.
- Tabla afirmación–evidencia.
- Error o incertidumbre encontrada.
- Versión corregida.
- Declaración de uso de IA.
- Decisión: usar, adaptar o descartar.
Compromiso de uso responsable
Fuentes, datos, unidades y supuestos antes de enseñar.
Información personal, académica e industrial.
El uso de IA y las decisiones humanas realizadas.