Posts

Showing posts with the label Métricas

Herramientas de Detección de IA – su confiabilidad

Image
Herramientas de Detección de IA – su confiabilidad Mg. en Ing. Carlos Gerardo Said  Si desea leer directamente el resumen y conclusiones, los encontrará al final del artículo .  Los riesgos de usar herramientas de detección de IA actualmente superan los posibles beneficios. Si decide prohibir el uso de IA en su enseñanza,  no recomendamos "actualmente" (puede cambiar en cualquier momento)  utilizar herramientas de detección de IA para identificar plagio.  No, no  debemos confundir estas herramientas con las usadas para  ANTIPLAGIO .  Ya se han documentado casos de estudiantes inocentes acusados de deshonestidad académica debido a la complejidad de esta tecnología. Problemas con la Detección de IA Existen varias razones por las cuales las herramientas de detección de IA son hoy dudosas: ·    Los detectores de IA  no son confiables  y a menudo generan falsos positivos. Incluso OpenAI (desarrolladores de ChatGPT) no ha logrado pro...

Métricas aplicadas a GEN AI

Image
 Métricas aplicadas a GEN AI  Mg. en Ing. Carlos Gerardo Said  Ya sea que se trate de LLM, visión por computadora, agrupación, análisis predictivo, síntesis o cualquier otro problema de IA, el objetivo es ofrecer resultados de alta calidad en el menor tiempo posible.   Normalmente, la calidad del resultado se evalúa después de producir los resultados, utilizando métricas de evaluación del modelo.  Estas métricas también se utilizan para comparar varios modelos o para medir la mejora con respecto a la línea de base. En el aprendizaje no supervisado, como el LLM o el clustering, la evaluación no es trivial.  Las mejores métricas de evaluación pueden ser difíciles de implementar y calcular. Al mismo tiempo, casi todas las técnicas modernas se basan en minimizar una función de pérdida para lograr un buen rendimiento.  En particular, todas las redes neuronales son algoritmos de descenso de gradientes masivos que tienen como objetivo minimizar una funci...