scieee Science in your language
[sp] (orig)

Aplicación de modelos de regresión en la predicción de calificaciones de estudiantes de la ETSEIB

Abstract

El presente documento trata sobre el estudio de técnicas de regresión para la predicción de las calificaciones del tercer cuatrimestre de los alumnos del Grado en Ingeniería en Tecnologías Industrias de la Escuela Técnica Superior de Ingeniería Industrial de Barcelona. La minería de datos, conocida en inglés como data mining, es el proceso de búsqueda de información en grandes bases de datos por tal de identificar información o patrones que resulten útiles por tal de realizar predicciones futuras. Durante todo el proceso se ha seguido la metodología CRISP-DM, la cual comprende las etapas necesarias para la realización de un estudio de data mining. Se han utilizado diferentes herramientas de software que trabajan con el lenguaje Python, como las librerías Pandas y Scikit Learn, y el IDE Spyder. Las técnicas de regresión utilizadas han sido la regresión lineal, la regresión de cresta o ridge y el algoritmo K-Nearest Neighbors. Las principales conclusiones que se extraen del estudio son que los resultados de las predicciones son muy pobres y que no existe una mejora sustancial de los resultados entre los diferentes algoritmos. Esto puede deberse a que la calidad de los datos no sea suficiente para modelarlos mediante regresión y poder hacer predicciones numéricas precisas. Finalmente, se proponen diferentes alternativas de trabajo para el futuro con la finalidad de continuar con el estudio.

Read accessible full text

Aplicación de modelos de regresión en la predicción de calificaciones de estudiantes de la ETSEIB

Author: Sánchez Peláez, Antonio
Publisher: Universitat Politècnica de Catalunya
Year: 2021
Source: https://upcommons.upc.edu/bitstream/2117/339686/2/memoria-tfg-asp.pdf
T abajo Final de G ado
G ado en Ingenie ía en Tecnologías Indus iales
Aplicación de modelos de eg esión en la p edicción de
cali icaciones de es udian es de la ETSEIB
MEMORIA
Au o : An onio Sánchez Peláez
Di ec o : Luis José Tala e a Méndez
Con oca o ia: Ene o 2021
Escola Tècnica Supe io
d’Enginye ia Indus ial de Ba celona
Aplicación de modelos de eg esión en la p edicción de cali icaciones de es udian es de la ETSEIB 2
Aplicación de modelos de eg esión en la p edicción de cali icaciones de es udian es de la ETSEIB 3
Resumen
El p esen e documen o a a sob e el es udio de écnicas de eg esión pa a la p edicción de las
cali icaciones del e ce cua imes e de los alumnos del G ado en Ingenie ía en Tecnologías
Indus ias de la Escuela Técnica Supe io de Ingenie ía Indus ial de Ba celona.
La mine ía de da os, conocida en inglés como da a mining, es el p oceso de búsqueda de
in o mación en g andes bases de da os po al de iden i ica in o mación o pa ones que esul en
ú iles po al de ealiza p edicciones u u as.
Du an e odo el p oceso se ha seguido la me odología CRISP-DM, la cual comp ende las e apas
necesa ias pa a la ealización de un es udio de da a mining. Se han u ilizado di e en es he amien as
de so wa e que abajan con el lenguaje Py hon, como las lib e ías Pandas y Sciki Lea n, y el IDE
Spyde .
Las écnicas de eg esión u ilizadas han sido la eg esión lineal, la eg esión de c es a o idge y el
algo i mo K-Nea es Neighbo s.
Las p incipales conclusiones que se ex aen del es udio son que los esul ados de las p edicciones
son muy pob es y que no exis e una mejo a sus ancial de los esul ados en e los di e en es
algo i mos. Es o puede debe se a que la calidad de los da os no sea su icien e pa a modela los
median e eg esión y pode hace p edicciones numé icas p ecisas. Finalmen e, se p oponen
di e en es al e na i as de abajo pa a el u u o con la inalidad de con inua con el es udio.
Aplicación de modelos de eg esión en la p edicción de cali icaciones de es udian es de la ETSEIB 4
Aplicación de modelos de eg esión en la p edicción de cali icaciones de es udian es de la ETSEIB 5
Índice
ÍNDICE ______________________________________________________ 5
1. GLOSARIO _______________________________________________ 7
2. INTRODUCCIÓN __________________________________________ 8
2.1. Obje i os del p oyec o .................................................................................. 11
2.2. Alcance del p oyec o .................................................................................... 11
2.3. He amien as de abajo ............................................................................... 12
3. COMPRENSIÓN Y PREPARACIÓN DE LOS DATOS ____________ 15
3.1. Comp ensión de los da os ............................................................................ 15
3.2. P epa ación de los da os .............................................................................. 16
3.2.1. Depu ación ...................................................................................................... 17
3.2.2. T ans o mación ................................................................................................ 18
3.2.2.1. Ob ención de los Da aF ame ............................................................... 19
4. TÉCNICAS DE MODELAJE Y VALIDACIÓN ___________________ 23
4.1. Técnicas del ap endizaje au omá ico ........................................................... 23
4.2. Selección de modelos ................................................................................... 25
4.3. Validación ..................................................................................................... 30
4.4. Mé icas de endimien o ............................................................................... 31
4.5. Selección de hipe pa áme os ...................................................................... 33
4.6. Análisis de los esul ados ............................................................................. 35
4.6.1. Reg esión Lineal .............................................................................................. 35
4.6.2. Reg esión Ridge .............................................................................................. 38
4.6.3. K-Nea es Neighbo s ....................................................................................... 43
4.7. Análisis de las p edicciones .......................................................................... 48
4.7.1. In o má ica ....................................................................................................... 50
4.7.2. Ecuaciones di e enciales ................................................................................. 51
4.7.3. Elec omagne ismo .......................................................................................... 52
4.7.4. Ma e iales ........................................................................................................ 53
4.7.5. Mecánica ......................................................................................................... 54
4.7.6. Mé odos numé icos ......................................................................................... 54
4.7.7. Conclusiones del apa ado .............................................................................. 55
4.8. Discusión de los modelos seleccionados ..................................................... 56
5. PROGRAMACIÓN TEMPORAL ______________________________ 58
6. COSTOS ________________________________________________ 59

Aplicación de modelos de eg esión en la p edicción de cali icaciones de es udian es de la ETSEIB 6
7. IMPACTO AMBIENTAL ____________________________________ 61
8. CONCLUSIONES _________________________________________ 62
BIBLIOGRAFÍA_______________________________________________ 65
Aplicación de modelos de eg esión en la p edicción de cali icaciones de es udian es de la ETSEIB 7
1. Glosa io
A con inuación se de inen algunos é minos que se u iliza án ecu en emen e en el p esen e
documen o.
Da a mining: P oceso de búsqueda de iden i icación de in o mación en los da os con al de encon a
pa ones en es os pa a p edeci si uaciones u u as.
Machine lea ning: Disciplina del campo de la in eligencia a i icial (IA) que, a a és de algo i mos,
do a a los o denado es de la capacidad pa a ealiza p edicciones.
Da aF ame: Es uc u a de da os en o ma de abla con la que abaja la lib e ía Pandas.
‘NaN’: Del inglés ‘no a numbe ’. Fo ma o que oman las celdas que no ienen ningún alo asociado
cuando se p og ama con Py hon.
Py hon: Lenguaje de p og amación u ilizado.
Pandas: Libe ia de Py hon de la cual se u ilizan las he amien as pa a ealiza el a ado de da os
du an e el p oyec o.
Sciki Lea n: Lib e ía de Anaconda que con iene los modelos de eg esión u ilizados pa a la
ealización del es udio.
O e i ing: Fenómeno que se p oduce cuando el algo i mo de es udio se ajus a demasiado a los
da os de en enamien o.
Aplicación de modelos de eg esión en la p edicción de cali icaciones de es udian es de la ETSEIB 8
2. In oducción
G acias a los g andes y cons an es a ances du an e las úl imas décadas, la ecnología se ha
ins au ado como una pa e i al e imp escindible de la sociedad ac ual. La digi alización y
au oma ización de muchos p ocesos, ha pe mi ido acili a nos el día a día en mul i ud de aspec os.
Sin emba go, en los úl imos años, el g an in e és que susci an las ecnologías acos umb a a
in oluc a aquello que los usua ios pueden oca o sen i . Es deci : edes sociales, mobile apps,
ealidad i ual, disposi i os wea ables, e c.
Lo cu ioso de odos es os p ocesos o disposi i os, es que cuen an con una pa e común, que aunque
no malmen e es desconocida pa a la mayo ía de las pe sonas, es de igual o mayo impo ancia que
los p opios. Se a a del conjun o de ecnologías de ecogida masi a de da os, no malmen e
elacionadas con la expe iencia de los usua ios, las cuales se conocen como ‘Big Da a’.
Como consecuencia de es a ecogida de da os nace lo que hoy en día se conoce como da a mining
(mine ía de da os en español). Es a consis e en la aplicación de écnicas y ecnologías que pe mi en
explo a , de mane a au omá ica o semiau omá ica, g andes bases de da os. Una de sus g andes
i udes es la de de ec a pa ones de conduc a y/o endencias sob e algunos p ocesos, lo que
pe mi e p edeci si uaciones u u as, op imiza los, aumen a su e icacia y educi cos es. Es a ama
de la ingenie ía compu acional se combina con di e en es especialidades de la ciencia, como son la
es adís ica, el ap endizaje au omá ico o la in eligencia a i icial.
Hoy en día, podemos encon a da a mining en muchísimos ámbi os dis in os, como en banca,
ma ke ing, ele isión, adio, e c. Uno de los casos de aplicación de da a mining más signi ica i os hoy
en día, es el de la emp esa T anspo o London (TFL), la cual es el o ganismo del gobie no de
Lond es esponsable de la mayo ía de los aspec os de anspo e. T anspo o London ope a
millones de au obuses, axis, me os, a je as de anspo e, ca e e as y sis emas sema ó icos que
p opo cionan anspo e a un g an núme o de londinenses, ecopilando así una g an can idad de
da os. El análisis en p o undidad de es os, pe mi e a la emp esa e qué pasaje os iajan localmen e
y cuales ealizan u as la gas, que ca e e as y puen es es án más concu idos y que u as de
anspo e público ienen un á ico más pesado. La aplicación dia ia de es os da os pe mi e
implemen a es a egias de anspo e con al de minimiza los iempos de desplazamien o, mejo a el
lujo de á ico, ajus a el ciclo de los semá o os en ca e e as muy ocupadas y e i a a ascos de
á ico.
También es muy impo an e en el ámbi o de la medicina, ya que acili a la ealización de diagnós icos
más p ecisos pa a los pacien es. El hecho de con a con la in o mación del his o ial médico del
pacien e, ayuda a ece a a amien os médicos más e ec i os. También ayuda a ealiza una ges ión
más e icaz, e icien e y económica de los ecu sos sani a ios, ya que se pe mi en p edeci iesgos,
en e medades en cie os g upos de la población o la du ación del ing eso hospi ala io.
Aplicación de modelos de eg esión en la p edicción de cali icaciones de es udian es de la ETSEIB 9
A modo de esumen, podemos deci que la mine ía de da os ha esul ado se una he amien a
ex emadamen e e ec i a en la de ección de pa ones, anomalías y elaciones en e ac o es. La cual
nos pe mi e ap ende cosas sob e el en o no en el que nos encon emos y pode ac ua sob e él
di ec amen e pa a op imízalo, aumen a su e icacia, educi cos es u ob ene bene icios.
En la ac ualidad exis en di e sas me odologías a segui pa a pode lle a a cabo un p oyec o de da a
mining de o ma sa is ac o ia. Una de las más amosas y u ilizadas es la CRISP-DM.
Me odología CRISP-DM
Desa ollada en 1999 como conso cio de es emp esas (Dailme -Benz, ISL y NCR) y inanciada po
la Comisión Eu opea, CRISP-DM (CRoss-Indus y S anda d P ocess o Da a Mining) acili a una
desc ipción no malizada del ciclo de ida de un p oyec o de análisis de da os.
Como podemos obse a en la ilus ación 1, se a a de un p oceso cíclico comp endido po seis
ases dis in as. Mien as que las lechas en e ases indican las conexiones más usuales en e ellas,
el ci culo ex e io e e encia la ciclicidad del p oceso de ex acción y a ado de da os. Aun así, no se
a a de un p oceso ígido, y cualquie a puede de ini , en la medida de lo jus o, las o ien aciones de
sus lechas y el alcance de cada ase según sus necesidades.
Ilus ación 1: Fases del ciclo de la me odología CRISP-DM
1. Comp ensión del p oblema
La ase p incipal del p oceso consis e en la comp ensión del p oyec o a ealiza y los
obje i os iniciales, con el obje i o de pode hace una desc ipción más écnica de es e.
Es a ase cons i uye la base de cualquie p oyec o de mine ía de da os, y pe mi e ealiza
las ases de comp ensión y p epa ación de los da os de o ma más sencilla.
Aplicación de modelos de eg esión en la p edicción de cali icaciones de es udian es de la ETSEIB 16
Los o os dos iche os, con ienen los da os de los alumnos elacionados con sus cali icaciones en la
escuela. El p ime o de ellos con iene la in o mación e e en e a las asigna u as de la ase inicial
mien as que el segundo con iene la del es o de asigna u as del g ado. Las a iables que con ienen
son:
• CODI_PROGRAMA: Código iden i icado de la i ulación cu sada.
• CODI_EXPEDIENT: Código de expedien e del alumno.
• CODI_UPD_UD: Código de la asigna u a.
• CREDITS: Núme o de c édi os de la asigna u a cu sada.
• CURS: Año en el que se ma icula la asigna u a.
• QUAD: Cua imes e en el que se cu sa la asigna u a.
• SUPERA: Indica si el alumno ap ueba (S) o suspende (N).
• NOTA_PROF: No a inal asignada po el p o eso .
• NOTA_NUM_AVAL: No a asignada as e aluación cu icula .
• NOTA_NUM_DEF: No a inal de ini i a.
• GRUP_CLASSE: G upo donde se ma iculó el alumno.
CODI_PROGRAMA CODI_EXPEDIENT CODI_UPC_UD CREDITS CURS QUAD SUPERA NOTA_PROF NOTA_NUM_AVAL NOTA_NUM_DEF GRUP_CLASSE
753 232121 240214 62010 1 S CONV
752 232295 240014 62010 1 S 6,5 6,5 6,5 CONV
752 239833 240025 7,5 2010 2 N 1,4 1,4 1,4 52
752 239834 240025 7,5 2010 2 S 6,5 6,5 6,5 52
Tabla 2: Ejemplo de la dis ibución de los da os en los iche os ‘q aseini.xlsx’ y ‘q asenoini.xlsx’.
3.2. P epa ación de los da os
Una ez analizados los iche os y sus a iables, es amos lis os pa a p epa a los. La e apa de
p epa ación, cub e odas aquellas ac i idades necesa ias pa a cons ui lo conjun os inales de da os.
Como ya se comen ó an e io men e, Pandas abaja con una es uc u a de da os llamada
Da aF ame. Po es e mo i o, los iche os iniciales se ans o man a es e elemen o, con al de abaja
con ellos.
El obje i o inal de es e apa ado, es ob ene es Da aF ame dis in os, los cuales se u iliza án pa a la
ase de modelado. Así pues, du an e es a e apa se desc ibi á el p oceso seguido pa a ans o ma los
iche os iniciales en los conjun os inales. El apa ado se di idi á en dos secciones, una de
depu ación y o a de ans o mación.

Aplicación de modelos de eg esión en la p edicción de cali icaciones de es udian es de la ETSEIB 17
3.2.1. Depu ación
El p opósi o de ealiza una depu ación de los da os, es la de elimina egis os con enidos en los
da os iniciales, po al que la in o mación necesa ia pueda se accesible más ácilmen e a la ho a de
manipula y ans o ma es os.
En el caso que nos ocupa, as analiza los dis in os alo es con enidos en las a iables iniciales de
cada iche o, emos que es necesa io elimina algunos, ya que no apo an ningún ipo de in o mación
necesa ia según los obje i os plan eados.
En p ime luga , como únicamen e se conside an aquellos alumnos que cu sen el g ado de ingenie ía
en ecnologías indus iales, se elimina án el es o de alumnos. Es a in o mación se encuen a
con enida en la a iable CODI_PROGRAMA, y el iden i icado pa a los alumnos del GETI es el ‘752’.
De es a o ma, se elimina án aquellos alumnos que cu sen o as i ulaciones.
Seguidamen e, encon amos que la a iable QUAD oma el alo 0 en algunos casos, lo cual es
ex año. El cua imes e ce o ( ambién conocido como cu so in oduc o io), es un cu so que o ecen
algunas uni e sidades, en el cual se ealiza un pequeño epaso de concep os académicos de
ma e ias básicas, con la inalidad de acili a a los alumnos la adap ación a sus u u os es udios. Los
da os de es e cua imes e nos esul an innecesa ios, ya que no apo an ningún ipo de in o mación
ú il pa a el p oyec o. De es a o ma, odos los egis os co espondien es a es e cua imes e se án
eliminados.
Po o a pa e, exis en alumnos que con alidan algunas asigna u as, ya que han cu sado la misma o
alguna simila en con enidos ue a de la escuela. Es os casos los podemos encon a ácilmen e, ya
que en las a iables NOTA_NUM_DEF o GRUP_CLASE apa ecen como ‘Con ’. Es impo an e
elimina es os egis os po dos mo i os: po una pa e, no podemos asumi el g ado de conocimien o
eal del alumno, y po la o a, no se puede ealiza el es udio a los alumnos que ienen ‘Con ’ como
no a inal, ya que no es un alo de ipo numé ico.
También, sabemos que el iche o ‘q asenoini’ con iene la in o mación académica co espondien e a
las asigna u as de la ase no inicial, es deci , del cua imes e es en adelan e. Como el obje i o de
nues o p oyec o, es ealiza un es udio de eg esión pa a p edeci las cali icaciones de los alumnos
en el e ce cua imes e, se elimina án aquellos egis os co espondien es a asigna u as que no
pe enezcan a es e. Es o se consigue eliminando las ilas del iche o que engan como
‘CODI_UPC_UD’ alguna asigna u a que no nos in e ese.
En úl imo luga , as analiza los da os una ez depu ados, se ha obse ado que, pa a el segundo
cua imes e del año 2017, enemos únicamen e los egis os co espondien es a 35 alumnos. Es e
núme o dis a mucho de los 2500 alumnos de media que enemos pa a cada cua imes e. Es o
puede debe se a un e o al ex ae los da os, o que aún no se hubie an in oducido los da os cuando
se gene ó el iche o. Es o puede esul a un p oblema más adelan e, ya que el núme o de mues as
pa a ese cua imes e no es consis en e, así que se ha decidido elimina esos egis os.
Finalmen e, es impo an e comen a que, una ez acabado el p oceso, aún con a emos con a iables
que no se án necesa ias. Aun así, las he amien as que nos p opo cionas Pandas, nos pe mi en
ans o ma los da os sin necesidad de ene las en cuen a, con lo cual se ob ia án de aho a en
adelan e.
Aplicación de modelos de eg esión en la p edicción de cali icaciones de es udian es de la ETSEIB 18
3.2.2. T ans o mación
Una ez eliminados los egis os incensa ios de nues os da os, es amos lis os pa a ans o ma los.
En amos de es a o ma en la e apa inal del ‘da a p epa a ion’. Es a ase cub e odas las ac i idades
necesa ias pa a cons ui los conjun os de da os inales que se u iliza án en la e apa de modelaje.
En el caso de nues o p oyec o, se ha decidido c ea es conjun os de da os a pa i de los da os de
pa ida. La idea es c ea un Da aF ame inicial, y a pa i de es e, c ea o os dos añadiendo
in o mación adicional, con enida en los da os iniciales. Se ha decidido op a po es a es a egia, ya
que los da os iniciales con ienen mucha in o mación que puede se analizada. De es a o ma, una
ez ealizado odo el es udio, se emos capaces de e si los modelos son sensibles a la adición de
nue as a iables, y como a ec an es as a los esul ados inales.
La es uc u a de los es se á común, y co esponde á a un Da aF ame, donde cada ila ep esen a la
in o mación asociada con un único alumno, y en las columnas se encon a án las di e en es a iables
conside adas.
El p ime Da aF ame, con end á únicamen e la in o mación elacionada con la no a inal y la no a
media de cada alumno pa a cada asigna u a de la ase inicial, y la p ime a no a ob enida en cada
asigna u a del Q3.
Codigo Expedien e ALG M-ALG FONINFO
M-FONINFO
…MEC EDOS
Alumno 1 5 4,3 7 7 …2 6
Alumno 2 9 9 6 5 …5 5
Alumno 3 6,3 4,8 5,1 5,1 …0 4,7
Tabla 3: Ejemplo de la es uc u a del Da aF ame 1
El segundo, con end á ambién la in o mación asociada al núme o de con oca o ias ealizadas de
cada asigna u a de la ase inicial an es de supe a la.
Codigo Expedien e ALG M-ALG C-ALG FONINFO
M-FONINFO
C-INFO …MEC EDOS
Alumno 1 5 4,3 2 7 7 1 …2 6
Alumno 2 9 9 1 6 5 2 …5 5
Alumno 3 6,3 4,8 3 5,1 5,1 1 …0 4,7
Tabla 4: Ejemplo de la es uc u a del Da aF ame 2
Finalmen e el úl imo Da aF ame con a á, además, con la no a de selec i idad ob enida po el alumno.
Codigo Expedien e Selec i idad ALG M-ALG C-ALG FONINFO
M-FONINFO
C-INFO …MEC EDOS
Alumno 1 10,73 5 4,3 2 7 7 1 …2 6
Alumno 2 9,85 9 9 1 6 5 2 …5 5
Alumno 3 12,45 6,3 4,8 3 5,1 5,1 1 …0 4,7
Tabla 5: Ejemplo de la es uc u a del Da aF ame 3
Aplicación de modelos de eg esión en la p edicción de cali icaciones de es udian es de la ETSEIB 19
3.2.2.1. Ob ención de los Da aF ame
Cálculo de nue as ca ac e ís icas
Pa a ealiza el es udio de eg esión de las asigna u as del Q3, nos in e esan únicamen e aquellos
alumnos que hayan supe ado oda la ase inicial, y hayan cu sado alguna de las asigna u as del
e ce cua imes e.
De es a o ma se de ine la unción ‘no a’, la cual de uel e la no a inal si es a es supe io a cinco, y
‘NaN’ en caso con a io. Una ez de inida la unción, se aplica es a sob e la a iable
NOTA_NUM_DEF, y se almacenan los esul ados en una nue a columna llamada ‘No aFinaFI’.
Es a nue a a iable, nos acili a á la iden i icación de es os alumnos en las p óximas ases, siendo
más ácil elimina los.
Pi o a da os
Los iche os de las ases inicial y no inicial, ienen en un o ma o donde cada ila, co esponde a una
con oca o ia de un alumno pa a una de e minada asigna u a. Es e o ma o puede esul a muy
complicado de comp ende , ya que es muy poco in ui i o a la ho a de abaja con él.
Así pues, se desea ans o ma es a con igu ación de nues o ma co de da os a una más simple que
pe mi a acili a el p oceso de manipulación de es os. Se ha decidido u iliza una es uc u a donde
cada ila co esponda únicamen e a los da os de un alumno. El p oceso de pasa de la es uc u a
inicial desc i a a la inal se conoce como pi o a .
Cuando hablamos de pi o a , nos e e imos al hecho de con e i los alo es únicos de una columna
en los da os de pa ida a columnas en el ma co inal. En la ilus ación 3 se ejempli ica cómo se á la
acción de pi o a una abla en el con ex o de es e p oyec o.
Ilus ación 3: Ejemplo de pi o e de asigna u as a los da os de la ase inicial.
Pandas cuen a con la unción pandas.pi o _ able, excelen e pa a ealiza es e ipo de ope aciones.
Pi o Table es una de las he amien as más popula es den o de la lib e ía Pandas, ya que es a nos
pe mi e ealiza ag upaciones de da os como la de la igu a an e io . Además, ambién nos pe mi e
ealiza ope aciones ma emá icas sob e las columnas que ocupa án las celdas, como suma o ios,
con ajes, medias, e c.
Aplicación de modelos de eg esión en la p edicción de cali icaciones de es udian es de la ETSEIB 20
Pi o Table dispone de múl iples a gumen os, pe o los más impo an es pa a es e es udio son los
siguien es:
• Da a: Da aF ame de en ada que se u iliza á pa a pi o a .
• Values: Columna de alo es que se añadi án a las celdas de la abla.
• Index: Columna del Da aF ame o iginal que se u iliza á como índice.
• Columnas: Columna del Da aF ame o iginal cuyos alo es se u iliza án como columnas.
• Agg unc: Pa áme o opcional. Si e pa a aplica unciones ma emá icas a la columna
aplicada en el pa áme o Values.
Pa a la ob ención del p ime Da aF ame, necesi a emos ob ene dos ablas dis in as, una que
con enga las no as inales en las celdas, y o a que con enga las no as medias. Pa a ob ene ambas,
pi o a emos la columna ‘CODI_UPC_UD’ de los da os de la ase inicial, man eniendo
‘CODI_EXPEDIENT’ como índice. Pa a ob ene la abla de no as inales, en las celdas
in oduci emos la no a máxima de la columna ‘No aFinalFI’ calculada p e iamen e, es a abla se
gua da en la a iable Taula1. Pa a ob ene la abla de no as medias, en las celdas in oduci emos la
no a media del alumno pa a cada asigna u a, es a abla se gua da en la a iable Taula2.
El segundo Da aF ame, con iene además el núme o de con oca o ias de cada alumno pa a cada
asigna u a. Así pues, necesi amos ob ene una nue a abla que con enga es a in o mación. Es o se
consigue pi o ando la columna ‘CODI_UPC_UD’ de los da os de la ase inicial, man eniendo
‘CODI_EXPEDIENT’ como índice, y se cuen an cuan as no as iene el alumno pa a cada asigna u a.
Es a abla se gua da en la a iable Taula3.
Finalmen e, nos queda solo ob ene la abla de las asigna u as de Q3, la cual es común pa a los es
Da aF ame. Pa a las asigna u as de es e cua imes e, nos in e esa sabe la p ime a no a ob enida
po cada alumno. De es a o ma, pi o amos la columna ‘CODI_UPC_UD’ de los da os de la ase no
inicial, man eniendo ‘CODI_EXPEDIENT’ como índice, y en las celdas in oduci emos la p ime a no a
ob enida po el alumno. Es a abla se gua da en la a iable Da a_FaseNoIni.
Eliminación de ‘NaN’
El é mino ‘NaN’ iene del inglés ‘no a numbe ’, en Py hon nos e e imos a es e cuando nos
encon amos con ‘missing alues’, los cuales son in e p e ados como acíos. Cuando se ealizan las
uniones en e iche os, es p obable que engamos egis os de alumnos que ienen algún alo ‘NaN’
en alguna celda. En nues o caso, nos in e esa e es os en la Taula1, ya que como se comen ó
an e io men e, cuando un alumno no supe a una asigna u a, se le asigna el alo ‘NaN’ a su celda
co espondien e en ‘No aFinalFI’. De es a o ma, si algún alumno no supe a nunca una asigna u a, en
la celda co espondien e de la abla nos encon a emos un ‘NaN’. Es impo an e elimina es os
alo es, ya que los modelos de la lib e ía Sciki Lea n con los que abaja emos pos e io men e no los
admi en.
Aplicación de modelos de eg esión en la p edicción de cali icaciones de es udian es de la ETSEIB 21
Unión de ablas
El siguien e paso, es uni las ablas ob enidas an e io men e en un único conjun o de da os. La
unción de Pandas que nos pe mi e ealiza es o se conoce como pandas.Da a ame.me ge.
En el caso del p ime Da aF ame, se unen Taula 1 y Taula2 y se gua da es a a iable como
Da a1_FaseIni. Pa a el segundo, se une Da a1_FaseIni con Taula3 o mando Da a2_FaseIni.
Finalmen e, pa a el e ce Da aF ame se une Da a2_FaseIni con la columna ‘NOTA_ACCES’ del
iche o de da os de p einsc ipción, es o añadi á una nue a columna con la no a de selec i idad de
cada alumno.
Pa a acaba Da a1_FaseIni, Da a2_FaseIni y Da a3_FaseIni se unen po sepa ado con
Da a_FaseNoIni. De es a mane a ya enemos los es conjun os de da os cons uidos.
Cambio de escalas
Pa a ealiza el pos e io modelaje, nos in e esa que odas las a iables explica i as de los
Da aF ame se encuen en en la misma escala. Es o se debe a que puede sucede que una a iable
esul e es adís icamen e signi ica i amen e debido a es a con igu ada en una escala dis in a (lo que
puede hace que enga una a ianza muy dis in a en compa ación con el es o de a iables
explica i as), en ez de que es é ealmen e elacionada con la espues a.
En nues o caso, enemos las a iables co espondien es al núme o de con oca o ias las cuales an
en e 1 y 4, las no as de selec i idad que an de 0 a 14, y las no as de las asigna u as que se
encuen an en el ango 0-10. Así pues, se ha decidido es anda iza los da os pa a que odas las
a iables se encuen en en la misma escala.
Cambio de nomencla u a
Pa a acaba con la ase de p epa ación, lo úl imo que se hace es enomb a el nomb e de las
columnas de las asigna u as. Inicialmen e, las asigna u as ienen dadas con el código que ienen
asignado po la escuela, lo cual di icul a el es udio ya que se a a de un o ma o menos isual y es
di ícil ap ende se odos los códigos de memo ia.
En la abla 6 se mues a la elación en e los códigos de las asigna u as, sus nomb es, y la
nomencla u a que se les ha asignado pa a abaja con ellas en los Da aF ame.

Aplicación de modelos de eg esión en la p edicción de cali icaciones de es udian es de la ETSEIB 22
CODI_UPC_UD
Nomb e
Asigna u a
Nomb e
asignado
240011
Àlgeb a Lineal
ALG
240015
Fonamen s
d'In o mà ica
FONINFO
240014
Química I
QUIM1
240012
Càlcul I
CALC1
240013
Mecànica
Fonamen al
MEC
240025
Exp essió G à ica
EXPRE
240023
Te modinàmica
Fonamen al
TERMO
240024
Química II
QUIM2
240022
Càlcul II
CALC2
240021
Geome ia
GEO
240132
In o mà ica
INFO
240133
Mecànica
MEC
240131
Equacions
Di e encials
EDOS
240033
Ma e ials
MATERIALS
240031
Elec omagne isme
ELECTRO
240032
Mè odes Numè ics
MÈTODES
Tabla 6: Relación código-nomb e asigna u as.
Finalmen e hay que comen a que, pa a los casos de las a iables asociadas a la no a media y el
núme o de epe iciones de una asigna u a, lo que se ha hecho es añadi los p e ijos ‘M’ y ‘C’,
espec i amen e, a sus nomb es asignados.
Aplicación de modelos de eg esión en la p edicción de cali icaciones de es udian es de la ETSEIB 23
4. Técnicas de modelaje y alidación
Una ez hemos ob enidos los conjun os inales de da os en amos en la e apa de modelaje, ambién
conocida como análisis p edic i o.
El análisis p edic i o es un á ea de la mine ía de da os que aplica di e en es écnicas analí icas,
es adís icas y de ap endizaje au omá ico (ya exis en es y ampliamen e conocidas) sob e un conjun o
his ó ico de da os, con el obje i o de p edeci e en os u u os.
4.1. Técnicas del ap endizaje au omá ico
Den o del análisis p edic i o exis en una g an can idad de écnicas de modelaje que pueden
aplica se. En unción del ipo de salida que p oduce el es udio y la o ma en la que se a an los
da os, los di e en es algo i mos pueden clasi ica se p incipalmen e en dos ap endizajes: los
supe isados y los no supe isados. De es a o ma, an es de escoge los algo i mos de es udio es
imp escindible conoce es os y sabe qué ipo de es udio que emos ealiza .
Ap endizajes supe isados
Se conoce como ap endizaje supe isado a aquellas écnicas que pe mi en p edeci alo es u u os a
pa i de un conjun o de da os. Es os basan su ap endizaje en un conjun o de da os que ha sido
p e iamen e e ique ado. Es o quie e deci que pa a cada combinación disponible de las a iables
explica i as conocemos el alo de la a iable espues a, es deci , conocemos su e ique a. Es e
hecho pe mi e al algo i mo es ablece una elación en e las a iables de en ada y la salida, la cual
pe mi e ealiza p edicciones cuando se in oducen nue os da os de en ada.
En es as écnicas, el algo i mo inicial se alimen a con una pa e del conjun o de da os ( aining se ),
g acias a los cuales se ealiza el ap endizaje y se ob iene el modelo inal. Una ez ob enido el
modelo, es e se alimen a con el es o de da os ( es se ) y se compa an los alo es espues a
ob enidos con los alo es obje i o. De es a o ma podemos ob ene las mé icas de endimien o, las
cuales nos indican cuan bueno es el modelo ob enido. La ilus ación 4 mues a un ejemplo de
p oceso de ap endizaje supe isado.
Cuando hablamos de es e ipo de ap endizajes, encon amos dos g andes amilias de algo i mos:
Los de eg esión y los de clasi icación. Los algo i mos de eg esión son ú iles cuando que emos
p edeci alo es con inuos de la espues a en unción de los alo es de unas en adas de e minadas.
Los algo i mos de clasi icación se u ilizan cuando se quie e p edeci alo es disc e os sob e los da os
de pa ida, es deci , pa a una combinación de da os de en ada la espues a se asigna den o de una
de e minada ca ego ía.
Aplicación de modelos de eg esión en la p edicción de cali icaciones de es udian es de la ETSEIB 24
Ilus ación 4: Ejemplo isual de las écnicas de ap endizaje supe isadas.
Ap endizajes no supe isados
En el caso de los ap endizajes no supe isados, los modelos solo ajus an un modelo p edic i o a
a és de los da os de pa ida, sin ene en cuen a la espues a. Es deci , los da os de en ada no se
encuen an e ique ados, con lo cual no se conocen las espues as. De es a o ma, solo podemos
in e i modelos po al de ex ae in o mación o pa ones de compo amien o de las a iables iniciales.
En unción del ipo de p edicciones que se desee ealiza , es e ap endizaje se di ide en dos
ca ego ías p incipales: El Clus e ing y la educción de dimensionalidad. El clus e ing iene como
obje i o clasi ica los egis os iniciales en di e en es g upos, donde el compo amien o de es os sea
simila . La educción de dimensionalidad se u iliza pa a educi el núme o de a iables a ene en
cuen a du an e el análisis, de es a mane a podemos educi conjun os de da os en n dimensiones, a
conjun os más simples con únicamen e dos o es dimensiones, lo cual acili a su análisis.
Ilus ación 5: Ejemplo isual de las écnicas de ap endizaje no supe isadas.
Aplicación de modelos de eg esión en la p edicción de cali icaciones de es udian es de la ETSEIB 25
La ilus ación 6 mues a un pequeño esquema- esumen de oda la in o mación desc i a
an e io men e.
Ilus ación 6: Esquema de los di e en es ap endizajes de machine lea ning.
El obje i o pa a es e p oyec o es ealiza la p edicción de la cali icación de los alumnos del e ce
cua imes e en unción de un conjun o de a iables explica i as. De es a o ma queda de mani ies o
que se a a de un es udio de ap endizaje supe isado, donde se u iliza án écnicas de eg esión pa a
ob ene los esul ados inales.
4.2. Selección de modelos
Una ez hemos iden i icado el ipo de es udio necesa io pa a nues o p oyec o, p ocedemos a
selecciona los modelos sob e los que se ealiza án las p edicciones. Pa a es a ase abaja emos
con los modelos de la lib e ía Sciki Lea n de Pandas. Es a posee los algo i mos ya p epa ados,
pudiendo de es a o ma cen a nos únicamen e en aplica los.
Sciki Lea n con iene más de ein e modelos dis in os pa a ealiza un es udio de eg esión. Es o es
un p oblema ya que no se dispone del iempo necesa io pa a abaja con odos ellos. De es a
mane a se ha decidido selecciona únicamen e es de es os.
Inicialmen e se ha decidido escoge el modelo de eg esión lineal ya que es un modelo muy u ilizado,
ela i amen e simple y ápido de ejecu a , además es e se u iliza mucho du an e el g ado con lo cual
ya es amos amilia izados en él. El segundo modelo escogido ha sido el Ridge. Ridge es una a ian e
del modelo de eg esión lineal, y se ha escogido es e pa a e si apo a mejo as signi ica i as sob e
los esul ados inales. Finalmen e, se ha decidido u iliza un modelo que no siga la hipó esis de que
exis a una elación lineal en e las a iables independien es y la espues a, pa a comp oba si los
da os se ajus an mejo sin segui es a hipó esis. El modelo no lineal seleccionado ha sido K-Nea es
Neighbo s.
Aplicación de modelos de eg esión en la p edicción de cali icaciones de es udian es de la ETSEIB 32
• Coe icien e de de e minación (R2)
Re leja la p opo ción de a ianza o al de la a iable espues a explicada po el modelo de
eg esión. Es e coe icien e oma alo es en e 0 y 1. Cuando es e se ace ca a 0 quie e deci
que el modelo no explica la a iabilidad de los da os en o no a la media. El caso con a io
ocu e cuando es e se ace ca a 1.
Ilus ación 11: Fó mula de cálculo de R2.
• Coe icien e de de e minación ajus ado (R2-adj.)
Es e iden i ica ambién la can idad de a iabilidad explicada po el modelo de eg esión, pe o
eniendo en conside ación las a iables de en ada. Es deci , iene en cuen a el núme o de
a iables incluidas en el modelo. R2 iende a aumen a en po cen aje con la adición de nue as
a iables, mien as que R2-adj no iene po qué hace lo. Únicamen e aumen a si la adición de
es as hace que el modelo p edic i o mejo e. Así pues, se a a de una mé ica in e esan e
pa a de e mina el e ec o eal de las a iables.
Ilus ación 12: Fó mula de cálculo de R2-ajus ado.
• E o cuad á ico medio (MSE)
Mide el e o cuad ado p omedio de las p edicciones ealizadas po el modelo. Se a a de
una mé ica muy sensible a la exis encia de ou le s o alo es a ípicos que el modelo no cap a
co ec amen e po que se alejan de la hipó esis de es e.
Ilus ación 13: Fó mula de cálculo de MSE.

Aplicación de modelos de eg esión en la p edicción de cali icaciones de es udian es de la ETSEIB 33
• Raíz cuad ada del e o cuad á ico medio (RMSE)
Se a a de la aíz cuad ada del MSE. Es a se in oduce pa a hace que la escala de los
e o es calculados sea igual que la escala de la a iable obje i o. Igual que el MSE, se a a
de una mé ica muy sensible a ou lie s o alo es a ípicos que el modelo no cap a
co ec amen e po que se alejan de la hipó esis de es e.
Ilus ación 14: Fó mula de cálculo de RMSE.
• E o medio absolu o (MAE)
Mide la media de las des iaciones de cada e o de p edicción. Se en iende que el modelo es
mejo con a más ce ca de 0 se encuen e.
Ilus ación 15: Fó mula de cálculo de MAE.
4.5. Selección de hipe pa áme os
En Machine Lea ning, cuando hablamos de hipe pa áme os nos e e imos a aquellos pa áme os del
modelo que no es posible ap ende a pa i de los da os de en enamien o, sino que deben se
de inidos po el p og amado . Los esul ados inales de un modelo, dependen en g an pa e del alo
que omen es os.
La selección de hipe pa áme os, es el p oceso de ajus a es os po al de e pa a que con igu ación
de alo es, o ca ac e ís icas, el modelo se ajus a mejo a los da os, o eciendo así un mejo
endimien o.
Es muy di ícil sabe de an emano que alo es deben oma es os pa áme os. De es a o ma, el
p oceso pa a encon a los alo es óp imos consis e en i p obando di e en es posibilidades.
La lib e ía Sciki Lea n p opo ciona dos he amien as gené icas po al de ealiza es e ipo de
es udios: g id sea ch y andom sea ch.
Aplicación de modelos de eg esión en la p edicción de cali icaciones de es udian es de la ETSEIB 34
• G id Sea ch: Consis e en de ini un conjun o de alo es pa a cada pa áme o y e alua el
modelo pa a odas las posibles combinaciones de es os. Se a a de una es a egia muy
simple y po en e, pe o puede esul a muy cos osa cuando enemos muchos hipe pa áme os.
• Random Sea ch: Consis e en e alua de o ma alea o ia una cie a can idad de alo es de
los pa áme os, de inidos den o de una dis ibución dada y unos lími es es ablecidos. Muy ú il
cuando enemos muchos hipe pa áme os a conside a .
Como se ha is o en el apa ado de modelaje, los modelos Ridge y K-Nea es -Neighbo s con ienen
cada uno un pa áme o que nos in e esa op imiza . Así pues, se ealiza á una selección de
hipe pa áme os sob e es os modelos y pa áme os, u ilizando la es a egia de g id sea ch.
Pa a ealiza es e p oceso, inicialmen e se di ide el conjun o de da os en aining se y es se , y se
ealiza un p oceso de K-Fold c oss alida ion sob e los da os de en enamien o. Así pues, una ez
acaba es e p oceso, se ob ienen los alo es óp imos de los hipe pa áme os jun o a los k alo es
ob enidos de la mé ica de es udio deseada pa a cada ase del K-Fold y a el alo medio de odas
es as.
La unción de Sciki Lea n que nos pe mi e ealiza odo es e p oceso, se conoce como
sklea n.model_selec ion.G idSea chCV. Pa a u iliza es a, debemos de ini los siguien es inpu s:
• Es ima o : Algo i mo sob e el cual que emos ealiza la op imización.
• Pa an_g id: Dicciona io con nomb es de pa áme os como cla es y lis a de alo es de
pa áme os a p oba como alo es.
• Sco ing: Mé ica que se in en a á op imiza . No malmen e pa a p oblemas de eg esión se
u iliza oo mean squa ed e o (RMSE).
• CV: Núme o de pliegues pa a la ealización de la alidación c uzada.
Ilus ación 16: Ejemplo de uncionamien o de K-Fold c oss alida ion pa a la selección de hipe pa áme os.
Aplicación de modelos de eg esión en la p edicción de cali icaciones de es udian es de la ETSEIB 35
Una ez acabado el p oceso, es a unción incluye di e en es a ibu os pa a obse a los esul ados
inales, como po ejemplo:
• c _ esul s: De uel e un dicciona io esumen del p oceso pa a cada combinación de
pa áme os. Es e puede pasa se a o ma o Da aF ame pa a isualiza se de o ma más
sencilla.
• bes _es ima o : De uel e el mejo alo ob enido pa a la mé ica de inida.
• bes _pa ams: De uel e la combinación de alo es de los hipe pa áme os que ob iene el
mejo es imado .
4.6. Análisis de los esul ados
Una ez hemos seleccionado los modelos y eniendo en cuen a los di e en es aspec os a conside a
du an e la e apa de alidación, es amos lis os pa a cons ui los modelos y analiza los esul ados
inales ob enidos.
4.6.1. Reg esión Lineal
El modelo de eg esión lineal no cuen a con pa áme os que el modelo no puede ap ende en la ase
de en enamien o. De es a mane a no hace al a pasa po la e apa de selección de hipe pa áme os,
así que se ha podido cons ui el modelo di ec amen e. A con inuación, se mues an los esul ados de
las p edicciones ealizadas po es e algo i mo pa a cada asigna u a.
In o má ica
MODELAJE
VALIDACIÓN
Da aF ame
RMSE
R2
R2-ADJ
RMSE
MAE
Da aF ame1
1,7275
0,3147
0,298
1,8309
1,4
Da aF ame2
1,7186
0,3163
0,291
1,8288
1,3992
Da aF ame3
1,7382
0,3147
0,2859
1,7887
1,3833
Tabla 7: Resul ados del algo i mo de eg esión lineal pa a in o má ica.
Como podemos obse a , los esul ados de RMSE du an e la ase de en enamien o son le emen e
mejo es que los de la alidación pa a odos los Da aF ame.
En cuan o a la alidación emos que no exis e mucha di e encia en e los es Da aF ame. Si nos
ijamos en el alo de R2 ajus ado, emos que el hecho de añadi a iables al modelo no esul a
de e minan e. En é minos de e o emos que ob enemos alo es de RMSE y MAE algo ele ados,
al ededo de 1.8 y 1.39 pun os, espec i amen e. Aun así, emos que el Da aF ame3 se compo a
lige amen e mejo en é minos de e o .
Aplicación de modelos de eg esión en la p edicción de cali icaciones de es udian es de la ETSEIB 36
Ecuaciones di e enciales
MODELAJE
VALIDACIÓN
Da aF ame
RMSE
R2
R2-ADJ
RMSE
MAE
Da aF ame1
1,4788
0,3109
0,2942
1,4174
1,037
Da aF ame2
1,459
0,315
0,2898
1,4127
1,0336
Da aF ame3
1,4174
0,2679
0,2374
1,4533
1,0591
Tabla 8: Resul ados del algo i mo de eg esión lineal pa a ecuaciones di e enciales.
Se obse a como el e o ob enido du an e el modelaje es mayo pa a los Da aF ame 1 y 2, mien as
que es in e io pa a el e ce o. Es o nos indica que se come e un poco de o e i ing en los dos
p ime os casos.
En la alidación podemos e como los dos p ime os Da aF ame mues an un compo amien o
bas an e simila , con alo es de R2 ajus ado en o no al 29%, un RMSE al ededo de 1.4 pun os y un
MAE de 1 pun o de media. El e ce Da aF ame mues a los peo es alo es pa a odas las mé icas,
lo que deja de mani ies o que pa a es a asigna u a, el hecho de añadi la in o mación de la
selec i idad empeo a el modelo.
Elec omagne ismo
MODELAJE
VALIDACIÓN
Da aF ame
RMSE
R2
R2-ADJ
RMSE
MAE
Da aF ame1
1,4161
0,3384
0,322
1,4261
1,0913
Da aF ame2
1,4091
0,3362
0,3112
1,4285
1,091
Da aF ame3
1,394
0,3441
0,3161
1,4131
1,0887
Tabla 9: Resul ados del algo i mo de eg esión lineal pa a elec omagne ismo.
Pa a elec omagne ismo se puede obse a como, pa a odos los conjun os, los e o es de la ase de
en enamien o son mejo es que los de la alidación, con lo cual su imos un poco de o e i ing.
En la alidación emos un compo amien o simila en e los es Da aF ame. En é minos de ajus e
emos que el hecho de añadi a iables al modelo no a ec a en el esul ado. En é minos del e o
emos que el e ce conjun o se compo a le emen e mejo que el es o.
Ma e iales
MODELAJE
VALIDACIÓN
Da aF ame
RMSE
R2
R2-ADJ
RMSE
MAE
Da aF ame1
1,3789
0,2744
0,2569
1,4184
1,0936
Da aF ame2
1,3706
0,2707
0,2439
1,4221
1,0939
Da aF ame3
1,3859
0,2741
0,244
1,3908
1,0756
Tabla 10: Resul ados del algo i mo de eg esión lineal pa a ma e iales.
Aplicación de modelos de eg esión en la p edicción de cali icaciones de es udian es de la ETSEIB 37
Vemos como se es á come iendo algo de o e i ing en los modelos, ya que los RMSE ob enido
du an e el modelaje son sensiblemen e mejo es que los ob enidos du an e la alidación.
En cuan o a la alidación, los esul ados del p ime Da aF ame son le emen e mejo es que los del
es o en cuan o al coe icien e de de e minación ajus ado, lo que implica que el hecho de añadi
nue as a iables al modelo no es un ac o de e minan e. Aun así, en é minos de e o el e ce
Da aF ame se compo a mejo .
Mecánica
MODELAJE
VALIDACIÓN
Da aF ame
RMSE
R2
R2-ADJ
RMSE
MAE
Da aF ame1
1,6522
0,3557
0,3398
1,6251
1,2849
Da aF ame2
1,6385
0,3563
0,3322
1,6243
1,2781
Da aF ame3
1,6081
0,3302
0,3017
1,6332
1,3036
Tabla 11: Resul ados del algo i mo de eg esión lineal pa a mecánica.
Pa a mecánica emos como pa a los dos p ime os Da aF ame el e o de la alidación es más bajo
que el ob enido du an e el en enamien o. El e ce Da aF ame, al con a io, ob iene mejo es e o es
du an e el modelaje, lo cual indica que pa a es e caso se come e o e i ing.
En la alidación, se e como las p edicciones del pa áme o R2 ajus ado son mejo es que pa a el
es o de asigna u as is as, aún y que con inúan siendo bas an e pob es. Los dos p ime os
Da aF ame mues an alo es muy simila es en e ellos, an o en ajus e como en e o . Se obse a
ácilmen e que el e ce o es el peo de los es.
Mé odos numé icos
MODELAJE
VALIDACIÓN
Da aF ame
RMSE
R2
R2-ADJ
RMSE
MAE
Da aF ame1
1,4887
0,2205
0,2016
1,5417
1,1349
Da aF ame2
1,4804
0,2188
0,19
1,5435
1,1348
Da aF ame3
1,4106
0,2076
0,1746
1,4525
1,0742
Tabla 12: Resul ados del algo i mo de eg esión lineal pa a mé odos numé icos.
Pa a los modelos cons uidos pa a cada Da aF ame emos que se es á come iendo o e i ing. En
cuan o a la alidación, emos que los alo es de R2 pa a mé odos son los más bajos en compa ación
con el es o de asigna u as. Vemos que el p ime Da aF ame se compo a mejo que el es o en
é minos de ajus e, y que cuando amos añadiendo a iables al modelo es e empeo a
p og esi amen e. En cuan o al e o , emos un compo amien o muy simila en e los di e en es
conjun os, pe o el e ce o mejo a sensiblemen e los esul ados.

Aplicación de modelos de eg esión en la p edicción de cali icaciones de es udian es de la ETSEIB 38
Conclusiones del modelo
De los esul ados ob enidos pa a el algo i mo de eg esión lineal, se ha podido obse a que hay
asigna u as como in o má ica, elec omagne ismo, ma e iales y mé odos numé icos donde en los
modelos ob enidos pa a cada Da aF ame se ha p oducido algo de o e i ing, ya que en odos es os,
los esul ados de e o a ojados du an e la ase de en enamien o han sido le emen e mejo es a los
ob enidos en la alidación inal. En ecuaciones di e enciales y mecánica obse amos que los
modelos pa a el e ce Da aF ame su en o e i ing, pe o pa a los dos p ime os es o no sucede ya
que los esul ados de la alidación han esul ado sensiblemen e mejo es que los de en enamien o.
En cuan o a los esul ados ob enidos du an e la ase de alidación, emos que no son muy
p ome edo es. Ya que como se ha ido obse ando, los modelos p esen an ajus es muy bajos y
e o es demasiado al os pa a lo que pod íamos es a dispues os a asumi .
Las asigna u as Elec omagne ismo y Mecánica, son las que p esen an alo es más al os pa a el
coe icien e de de e minación ajus ado, quedando de mani ies o que pa a es as asigna u as el modelo
explica la a ianza o al exis en e, siendo la segunda de es as la que mejo ajus a es a mé ica. El
es o de asigna u as p esen an ajus es más bajos, y en el caso de Mé odos Numé icos emos que
ob enemos el peo de odos.
También podemos e que pa a odas las asigna u as hemos ob enido alo es de RMSE bas an e
ele ados, los cuales oscilan en e 1.4 y 1.8 pun os de media. Es o nos indica que los modelos es án
su iendo po la exis encia de ou lie s o alo es ex emos que no se ajus an a la hipó esis lineal del
modelo.
4.6.2. Reg esión Ridge
En el caso de Ridge, an e io men e se ha comen ado la impo ancia de de e mina el alo co ec o
del pa áme o α pa a ob ene el mejo endimien o del modelo cons uido.
El algo i mo de Sciki Lea n que ealiza es e ipo de eg esión se conoce como
sklea n.linea _model.Ridge. Es e cuen a con el inpu ‘alpha’, que hace e e encia a es e
hipe pa áme o y oma alo 1.0 po de ec o. Se a a de un pa áme o impo an e, ya que a medida
que aumen amos es e se limi an los alo es de las β, lo cual educe la a ianza o al, diluye los
e ec os de co elación en e a iables y minimiza el iesgo de su i ‘o e i ing’. Cuando ‘alpha’ se
es ablece en 0, el modelo se compo a como el de eg esión lineal. Pa a encon a el alo óp imo de
es e se han conside ado odos los alo es en e os de ‘alpha’ en e 1 y 800, con el obje i o de
minimiza la aíz cuad ada del e o cuad á ico medio (RMSE).
A con inuación, se mues an los esul ados ob enidos du an e la selección del hipe pa áme o, la ase
de en enamien o y la de alidación pa a cada asigna u a y Da aF ame.
Aplicación de modelos de eg esión en la p edicción de cali icaciones de es udian es de la ETSEIB 39
In o má ica
Da aF ame1
Da aF ame2
Da aF ame3
In o má ica
α
194
363
392
RMSE
1,7475
1,7456
1,7746
Tabla 13: Resul ados del p oceso de selección de α pa a in o má ica.
HIPERPARÁMETRO
MODELAJE
VALIDACIÓN
Da aF ame
α
RMSE
R2
R2-ADJ
RMSE
MAE
Da aF ame1
194
1,7301
0,3182
0,3016
1,8262
1,3933
Da aF ame2
363
1,7244
0,321
0,2959
1,8224
1,391
Da aF ame3
392
1,7467
0,3255
0,2971
1,7746
1,3699
Tabla 14: Resul ados del algo i mo Ridge pa a in o má ica.
En in o má ica podemos e como a medida que aumen amos el núme o de a iables el pa áme o α
aumen a, dejando de mani ies o que pa a ob ene los mejo es esul ados es necesa io penaliza cada
ez más el modelo. Aun así, si compa amos los esul ados de e o ob enidos du an e la selección
del hipe pa áme o y los ob enidos du an e la alidación, podemos e que es os son bas an e
simila es, lo que nos indica que es os son co ec os.
Obse ando los e o es ob enidos du an e la ase de en enamien o y alidación, emos que se
p oduce o e i ing en los modelos inales ob enidos pa a cada Da aF ame.
El p ime Da aF ame cap a mejo la a ianza de los da os, pe o ambién ob iene los peo es alo es
de e o . Mien as que el e ce Da aF ame es sensiblemen e mejo en é minos de e o . Aun así,
emos que los es es án muy pa ejos en e sí. Los ajus es se encuen an al ededo del 30% y los
alo es de e o son conside ables, eniendo un RMSE de 1.8 pun os de media.
Ecuaciones di e enciales
Da aF ame1
Da aF ame2
Da aF ame3
EDOS
α
277
133
248
RMSE
1,4982
1,4915
1,4513
Tabla 15: Resul ados del p oceso de selección de α pa a ecuaciones di e enciales.
HIPERPARÁMETRO
MODELAJE
VALIDACIÓN
Da aF ame
α
RMSE
R2
R2-ADJ
RMSE
MAE
Da aF ame1
277
1,4828
0,3125
0,2958
1,4157
1,0324
Da aF ame2
133
1,4639
0,3151
0,2899
1,4127
1,0338
Da aF ame3
248
1,4252
0,2743
0,2441
1,447
1,055
Tabla 16: Resul ados del algo i mo Ridge pa a ecuaciones di e enciales.
Aplicación de modelos de eg esión en la p edicción de cali icaciones de es udian es de la ETSEIB 40
Pa a la selección de α emos como el Da aF ame 2 es el que necesi a una penalización más baja
pa a ob ene los mejo es esul ados, mien as que el p ime o y el e ce o ob ienen un alo más al o
de es e y bas an e simila en e ellos, siendo el del Da aF ame 1 el mayo . Se obse a ambién que
los alo es ob enidos de RMSE de la alidación son muy simila es a los ob enidos du an e la
selección del hipe pa áme o, de es a o ma podemos e que es os son co ec os.
Los modelos inales pa a los Da aF ame 1 y 2 mues an alo es de e o más bajos du an e el
modelaje que en la alidación, con lo que se ha p oducido o e i ing. En el modelo del e ce
conjun o de da os ocu e lo con a io.
En los esul ados de alidación de Ecuaciones Di e enciales, podemos e como a medida que
aumen amos el núme o de a iables el ajus e a bajando. Los dos p ime os conjun os mues an
alo es muy simila es, con ajus es al ededo del 29% y un RMSE de 1.41 pun os de media. El e ce
Da aF ame ob iene los peo es esul ados con di e encia espec o a los o os dos, en es e caso el
ajus e baja has a un 24% y el RMSE es á al ededo de 1.45 pun os.
Así pues, podemos e que el hecho de añadi la in o mación elacionada con la no a de acceso de
los alumnos, empeo a el modelo.
Elec omagne ismo
Da aF ame1
Da aF ame2
Da aF ame3
Elec o
α
248
560
470
RMSE
1,4327
1,4333
1,4192
Tabla 17: Resul ados del p oceso de selección de α pa a elec omagne ismo.
HIPERPARÁMETRO
MODELAJE
VALIDACIÓN
Da aF ame
α
RMSE
R2
R2-ADJ
RMSE
MAE
Da aF ame1
248
1,4192
0,339
0,3227
1,4254
1,0921
Da aF ame2
560
1,4155
0,3399
0,3151
1,4244
1,0855
Da aF ame3
470
1,4007
0,354
0,3265
1,4023
1,0805
Tabla 18: Resul ados del algo i mo Ridge pa a elec omagne ismo
Pa a Elec omagne ismo, emos que se ob ienen ambién penalizaciones muy al as po al de
ob ene los mejo es esul ados de los modelos, donde el Da aF ame 2 iene el alo más ele ado.
También se obse a como los e o es ob enidos du an e la selección de α y la alidación son muy
simila es, con lo cual los alo es de ‘alpha’ seleccionados son co ec os.
En cuan o a la ase de en enamien o, emos que en los es modelos los e o es son meno es que
en la alidación, con lo cual se ha p oducido o e i ing en odo ellos.
Aplicación de modelos de eg esión en la p edicción de cali icaciones de es udian es de la ETSEIB 41
Analizando los esul ados del p oceso de alidación, en é minos de ajus e emos como el e ce
conjun o de da os es el mejo , aún y que los es ob ienen alo es muy pa ejos. Respec o al e o
podemos obse a ambién que el e ce o es el que o o ga mejo es esul ados, con lo cual pa a es a
asigna u a el e ce Da aF ame es sensiblemen e mejo al es o, ob eniendo un ajus e del 32% y un
RMSE de 1.4 pun os de media.
Ma e iales
Da aF ame1
Da aF ame2
Da aF ame3
Ma e iales
α
169
556
650
RMSE
1,3971
1,3936
1,413
Tabla 19: Resul ados del p oceso de selección de α pa a ma e iales.
HIPERPARÁMETRO
MODELAJE
VALIDACIÓN
Da aF ame
α
RMSE
R2
R2-ADJ
RMSE
MAE
Da aF ame1
169
1,3811
0,2789
0,2615
1,4141
1,0894
Da aF ame2
556
1,3767
0,2818
0,2554
1,4112
1,0844
Da aF ame3
650
1,3926
0,2832
0,2535
1,3821
1,0709
Tabla 20: Resul ados del algo i mo Ridge pa a ma e iales.
Con la inclusión de nue as a iables en el conjun o de pa ida, es necesa io ealiza una penalización
más es ic i a del modelo, pasando de 169 pa a el Da aF ame1 a 556 y 650 pa a los Da aF ame 2 y
3, espec i amen e. Pa a los dos p ime os conjun os, el RMSE del modelo empeo a espec o a la
selección del hipe pa áme o, y pa a el e ce conjun o ocu e lo con a io. Aun así, es as di e encias
son muy pequeñas, así que podemos alida los alo es ob enidos pa a ‘alpha’.
En cuan o al modelaje se obse a que, al igual que du an e la selección de α, los alo es de RMSE
de los dos p ime os conjun os son peo es que los del modelo, mien as que en el e ce caso ocu e
lo con a io.
Los esul ados de la alidación pa a ma e iales dejan de mani ies o que el algo i mo cap a mejo la
a ianza o al pa a el Da aF ame1 con un 26%, aún y que el alo ob enido no dis a mucho de los
ob enidos pa a los o os dos conjun os. Los alo es de RMSE ambién son muy simila es en e los
conjun os, aunque son sensiblemen e mejo es pa a el e ce o, con un alo de 1.38 pun os.
Mecánica
Da aF ame1
Da aF ame2
Da aF ame3
Mecánica
α
379
582
344
RMSE
1,6764
1,6735
1,6508
Tabla 21: Resul ados del p oceso de selección de α pa a mecánica.
Aplicación de modelos de eg esión en la p edicción de cali icaciones de es udian es de la ETSEIB 48
Se ha obse ado que pa a las asigna u as de in o má ica, elec omagne ismo, mecánica y mé odos
numé icos en los modelos inales cons uidos pa a cada Da aF ame ha apa ecido o e i ing. Po o a
pa e, en la asigna u a ma e iales se ha come ido o e i ing en los modelos de los dos p ime os
Da aF ame, mien as que en ecuaciones di e enciales no ha apa ecido es e enómeno pa a ninguno
de los es conjun os de da os.
En cuan o al ajus e, podemos iden i ica como hay dos asigna u as que des acan, Mecánica y
Mé odos. La p ime a ob iene los alo es de R2 más ele ados, mien as que la segunda p esen a la
peo pun uación de es e es imado . Aun así, emos que la di e encia es únicamen e del 10%.
En cuan o al e o , emos que ob enemos alo es bas an e ele ados, an o de RMSE como de MSE.
Los alo es más ele ados los encon amos en In o má ica y Mecánica, mien as que los meno es son
los de Ecuaciones Di e enciales y Ma e iales. La di e encia en e los alo es más al os y los más
bajos es de p ác icamen e medio pun o (hablando del MAE), lo cual es bas an e p eocupan e cuando
es amos in en ando p edeci la no a de los alumnos.
Pa a la elección de los pa áme os k óp imos, emos como ap oximadamen e se cumple la egla que
in odujimos a la ho a de desc ibi el hipe pa áme o, y es que el alo óp imo de es a acos umb a a
encon a se al ededo de la aíz cuad ada del núme o de obse aciones.
No encon amos e idencias de que haya e o es en es os alo es, ya que en odas las asigna u as
podemos e como el e o come ido du an e la selección del alo óp imo de es e pa áme o es muy
simila al de alidación, lo cual pone de mani ies o que es os han sido calculados co ec amen e.
Un mo i o po el cual podemos es a ob eniendo es os esul ados an pob es con K-Nea es
Neighbo s, es el hecho de que es e algo i mo es muy sensible cuando se abaja con conjun os de
da os con una dimensión ele ada. Cuando se aumen a la dimensionalidad del espacio, los da os
ienden a es a más dispe so, lo cual p o oca que el modelo necesi e consul as más da os de
en enamien o pa a ob ene esul ados iables. Es o puede p o oca que los modelos ob enidos se
acaben ajus ando a pa icula idades de los da os de en enamien o.
4.7. Análisis de las p edicciones
En el apa ado an e io hemos podido e que los modelos cons uidos se ajus an de o ma muy
pob e a nues os da os, ob eniendo e o es muy al os. Así pues, podemos e que a ni el explica i o
no es án uncionando co ec amen e.
Aun así, se ía in e esan e e si aún y que los esul ados sean poco p ome edo es, pod íamos llega
a u iliza el modelo pa a pode p edeci el endimien o de de e minados alumnos de in e és, po
ejemplo, aquellos que ap ueben jus o o se encuen en ce ca del ap obado, y aquellos que ob engan
las mejo es no as. A los p ime os se ía in e esan e o ece les más apoyo o ayuda po al de que
ap ueben sin p oblemas, y a los segundos po al de o ece les he amien as pa a pode po encias
más aún sus conocimien os.

Aplicación de modelos de eg esión en la p edicción de cali icaciones de es udian es de la ETSEIB 49
Pa a ello, ca ac e iza emos a los alumnos en di e en es ca ego ías según las no as ob enidas:
• Ca ego ía 0: En es a se encon a án los alumnos que ob ienen muy malos esul ados y se
encuen an lejos del ap obado. Con end á los alumnos con no as en e 0 y4.
• Ca ego ía 1: Es a á o mada po aquellos alumnos que se encuen en ce ca del ap obado.
Con end á los alumnos que hayan ob enido no as en e 4 y 6.
• Ca ego ía 2: La o man los alumnos que ap ueban de o ma cómoda. Se encuen an los
alumnos con cali icaciones en e 6 y 8.
• Ca ego ía 3: En es a encon a emos a los mejo es alumnos, es deci , los que ob ienen las
mejo es cali icaciones. En es a ca ego ía in oduci emos los alumnos que hayan ob enido
cali icaciones en e 8 y 10.
Es o lo lle a emos a cabo disc e izando los alo es de la a iable espues a y de las p edicciones
conseguidas. Pa a cada una de es as, asigna emos los alo es ob enidos a una ca ego ía según la
no a ob enida, y inalmen e se mos a án los esul ados en o ma de ma iz de con usión.
La ma iz de con usión es una he amien a que se u iliza pa a isualiza el desempeño de algo i mos
de clasi icación, desc ibiendo como se dis ibuyen los alo es eales y sus p edicciones. La ilus ación
17 mues a como in e p e a es a en el caso de un p oblema donde solo enemos dos posibles
alo es de la salida, posi i o y nega i o.
Ilus ación 17: Ejemplo de in e p e ación de una ma iz de con usión.
Pa a nues o es udio, ealiza emos la ma iz de con usión de los esul ados después de habe sido
codi icados, y además se añadi á in o mación de las mé icas de eg esión pa a cada ca ego ía. De
es a o ma p o undiza emos más sob e los modelos ob enidos y pod emos e que es á ocu iendo
en ellos.
Se ha ealizado es e es udio pa a cada asigna u a y Da aF ame (los esul ados se pueden e en el
Anexo 2), pe o solo se mos a án los esul ados del mejo Da aF ame pa a cada asigna u a en cada
uno de los algo i mos.
Aplicación de modelos de eg esión en la p edicción de cali icaciones de es udian es de la ETSEIB 50
4.7.1. In o má ica
Reg esión Lineal
Da aF ame 3
0-4
4-6
6-8
8-10
RMSE
MAE
Media Tes
Media P edicciones
0-4
23
86
21
0
2,9383
2,6162
2,3387
4,9234
4-6
21
165
79
3
1,0913
0,8611
5,2911
5,5
6-8
5
100
132
15
1,3698
1,0821
6,9671
6,2174
8-10
1
14
73
31
2,1473
1,8567
9,0542
7,2391
Tabla 37: Ma iz de con usión y mé icas po amos pa a in o má ica con eg esión lineal.
Reg esión Ridge
Da aF ame 3
0-4
4-6
6-8
8-10
RMSE
MAE
Media Tes
Media P edicciones
0-4
20
90
19
0
2,9532
2,6482
2,3387
4,9671
4-6
15
174
78
2
1,0175
0,8091
5,2911
5,5142
6-8
4
103
135
11
1,3255
1,0543
6,9671
6,2088
8-10
1
15
74
29
2,1915
1,9136
9,0542
7,1727
Tabla 38: Ma iz de con usión y mé icas po amos pa a in o má ica con Ridge.
K-Nea es Neighbo s
Da aF ame 3
0-4
4-6
6-8
8-10
RMSE
MAE
Media Tes
Media P edicciones
0-4
9
103
17
0
3,1382
2,8608
2,3387
5,1977
4-6
3
187
77
0
0,9013
0,6931
5,2911
5,6412
6-8
1
110
131
10
1,2135
0,9859
6,9671
6,2183
8-10
1
17
78
23
2,2835
2,0549
9,0542
7,005
Tabla 39: Ma iz de con usión y mé icas po amos pa a in o má ica con K-Nea es Neighbo s.
Vemos un compo amien o p ác icamen e idén ico pa a los es algo i mos es udiados.
Se obse a que se come e un e o muy conside able pa a aquellos alumnos que se encuen an en
el ango de 0 a 4, ya que el algo i mo iende a p edeci los en su g an mayo ía como ap obados. Es o
queda de mani ies o al obse a que se come e un e o medio de es pun os p ác icamen e, y que la
media de las p edicciones es mucho mayo que la media de los alo es o iginales.
El ango 4-6 es el que mejo ca ac e iza el modelo. En es e se come e el meno e o de odos, y
emos como las medias de es y p edicciones son muy simila es. Vemos que el 60-70% de los
alumnos que han ob enido no as den o de es e ango ob ienen no as simila es en las p edicciones.
Pa a los mejo es alumnos, emos que los modelos ienden a ealiza p edicciones a la baja,
come iendo un e o medio de p ác icamen e dos pun os, lo cual hace que la mayo ía de es os
acaben pe eneciendo al e ce g upo.
Aplicación de modelos de eg esión en la p edicción de cali icaciones de es udian es de la ETSEIB 51
4.7.2. Ecuaciones di e enciales
Reg esión Lineal
Da aF ame 1
0-4
4-6
6-8
8-10
RMSE
MAE
Media Tes
Media P edicciones
0-4
10
95
2
0
2,8829
2,513
2,2441
4,7565
4-6
8
353
48
0
0,7342
0,6012
5,265
5,1963
6-8
2
175
108
5
1,2939
1,0764
6,7996
5,8732
8-10
0
4
19
16
1,5826
1,2449
8,7881
7,5938
Tabla 40: Ma iz de con usión y mé icas po amos pa a ecuaciones di e enciales con eg esión lineal.
Reg esión Ridge
Da aF ame 1
0-4
4-6
6-8
8-10
RMSE
MAE
Media Tes
Media P edicciones
0-4
5
100
2
0
2,9105
2,5479
2,2441
4,792
4-6
6
357
47
0
0,7041
0,5784
5,265
5,195
6-8
0
179
106
5
1,2854
1,0779
6,7996
5,8602
8-10
0
4
20
16
1,6115
1,2791
8,7881
7,5482
Tabla 41: Ma iz de con usión y mé icas po amos pa a ecuaciones di e enciales con Ridge.
K-Nea es Neighbo s
Da aF ame 1
0-4
4-6
6-8
8-10
RMSE
MAE
Media Tes
Media P edicciones
0-4
10
96
1
0
2,9037
2,529
2,2441
4,7731
4-6
14
360
35
0
0,7023
0,5643
5,265
5,1505
6-8
1
184
103
3
1,3052
1,0997
6,7996
5,7785
8-10
0
4
25
10
1,7796
1,5473
8,7881
7,2409
Tabla 42: Ma iz de con usión y mé icas po amos pa a ecuaciones di e enciales con K-Nea es Neighbo s.
Se obse a un compo amien o muy simila en e los di e en es algo i mos.
Los modelos se ajus an muy bien pa a aquellos alumnos que ob ienen no as den o del ango 4-6, ya
que ob enemos ap oximadamen e un 85% de acie o. Podemos ap ecia es o iendo que el e o
medio ob enido es de unas seis décimas y las medias de es y p edicciones son p ác icamen e
idén icas.
Sin emba go, podemos e que el hecho de que los modelos se ajus en an bien pa a es os alumnos,
es á haciendo que los alumnos en e 0-4 y 6-8 acaben siendo mayo i a iamen e p edichos den o de
es a clase. Pa a los alumnos de la úl ima clase, emos que el modelo iende a p edeci no as
in e io es, con un e o medio de 1.5 pun os, lo cual acaba haciendo que la g an mayo ía de alumnos
acaben ob eniendo no as en e 6 y 8.
Aplicación de modelos de eg esión en la p edicción de cali icaciones de es udian es de la ETSEIB 52
4.7.3. Elec omagne ismo
Reg esión Lineal
Da aF ame 3
0-4
4-6
6-8
8-10
RMSE
MAE
Media Tes
Media P edicciones
0-4
56
141
4
0
2,0496
1,7058
2,7345
4,4019
4-6
32
263
34
0
0,8472
0,6751
5,1806
4,9968
6-8
6
118
81
4
1,3786
1,1367
6,7534
5,7745
8-10
0
0
17
2
1,3712
1,2043
8,6114
7,4155
Tabla 43: Ma iz de con usión y mé icas po amos pa a elec omagne ismo con eg esión lineal.
Reg esión Ridge
Da aF ame 3
0-4
4-6
6-8
8-10
RMSE
MAE
Media Tes
Media P edicciones
0-4
51
146
4
0
2,0541
1,7181
2,7345
4,4265
4-6
23
273
33
0
0,8081
0,6464
5,1806
5,0017
6-8
5
119
81
3
1,3627
1,1324
6,7534
5,7523
8-10
0
0
16
2
1,441
1,295
8,6114
7,3179
Tabla 44: Ma iz de con usión y mé icas po amos pa a elec omagne ismo con Ridge.
K-Nea es Neighbo s
Da aF ame 3
0-4
4-6
6-8
8-10
RMSE
MAE
Media Tes
Media P edicciones
0-4
22
176
2
0
2,1688
1,8682
2,7345
4,5987
4-6
13
291
25
0
0,7244
0,5823
5,1806
5,0636
6-8
3
138
68
0
1,3555
1,1424
6,7534
5,6966
8-10
0
1
17
0
1,6754
1,5729
8,6114
7,0385
Tabla 45: Ma iz de con usión y mé icas po amos pa a elec omagne ismo con K-Nea es Neighbo s.
En é minos gene ales, emos como los modelos se ajus an bas an e bien pa a los alumnos que se
encuen an en e el 4 y el 6, ca ac e izando co ec amen e más o menos el 80% de pa a los modelos
de eg esión lineal y idge, y llegando has a el 88% en el caso de KNN. Podemos e que pa a es e
in e alo el e o medio es muy pequeño y p ác icamen e coinciden las medias de es y p edicciones.
Como en el caso de Ecuaciones Di e enciales, se es á iendo que los modelos se ajus an muy bien
pa a los alumnos en o no al cinco, lo cual p o oca que las p edicciones de los alumnos de la p ime a
y e ce a clase iendan a coloca la g an mayo ía en la segunda. Es o ambién p o oca un e o pa a
los mejo es alumnos, ya que se ienden a p edeci alo es más bajos, y p ác icamen e odos los
alumnos acaban ob eniendo cali icaciones en e el 6 y el 8.
Aplicación de modelos de eg esión en la p edicción de cali icaciones de es udian es de la ETSEIB 53
4.7.4. Ma e iales
Reg esión Lineal
Da aF ame 3
0-4
4-6
6-8
8-10
RMSE
MAE
Media Tes
Media P edicciones
0-4
58
132
2
0
2,0513
1,6898
2,6734
4,3357
4-6
53
318
30
0
0,8697
0,7075
5,1941
4,8602
6-8
4
115
59
0
1,4283
1,2106
6,7186
5,5906
8-10
0
1
7
1
1,9112
1,7269
8,6671
6,9403
Tabla 46: Ma iz de con usión y mé icas po amos pa a ma e iales con eg esión lineal.
Reg esión Ridge
Da aF ame 3
0-4
4-6
6-8
8-10
RMSE
MAE
Media Tes
Media P edicciones
0-4
54
137
1
0
2,059
1,712
2,6734
4,3628
4-6
43
332
26
0
0,8225
0,6717
5,1941
4,8686
6-8
4
122
53
0
1,4376
1,2412
6,7186
5,5413
8-10
0
1
8
0
1,9804
1,8302
8,6671
6,8369
Tabla 47: Ma iz de con usión y mé icas po amos pa a ma e iales con Ridge.
K-Nea es Neighbo s
Da aF ame 3
0-4
4-6
6-8
8-10
RMSE
MAE
Media Tes
Media P edicciones
0-4
37
153
1
0
2,1561
1,8286
2,6734
4,4984
4-6
23
353
25
0
0,7497
0,6082
5,1941
4,9306
6-8
2
132
45
0
1,4345
1,256
6,7186
5,5015
8-10
0
1
8
0
2,1757
2,0272
8,6671
6,6399
Tabla 48: Ma iz de con usión y mé icas po amos pa a ma e iales con K-Nea es Neighbo s.
Los es modelos ajus an los da os de mane a muy simila . Los modelos ienden a p edeci las no as
al ededo del 5, de es a mane a ob enemos buenos esul ados cuando in en amos ca ac e iza los
alumnos de la segunda ca ego ía, con una p ecisión al ededo del 88%. Tal y como hemos is o en
las asigna u as de Elec omagne ismo y Ecuaciones di e enciales es o p o oca un e o muy g ande
en el es o de clases. Pa a los alumnos en e 0-4 y 6-8 los modelos ienden a ajus a los como si
o ma án pa e de es a segunda clase.
Finalmen e podemos obse a que pa a Ma e iales los algo i mos ob enidos ienen muy pocos
egis os de alumnos que hayan ob enido no as en e 8 y 10, y en ningún caso son capaces de
ajus a ninguno de es os co ec amen e.

Aplicación de modelos de eg esión en la p edicción de cali icaciones de es udian es de la ETSEIB 54
4.7.5. Mecánica
Reg esión Lineal
Da aF ame 1
0-4
4-6
6-8
8-10
RMSE
MAE
Media Tes
Media P edicciones
0-4
276
92
1
0
1,8037
1,3962
2,3208
3,5503
4-6
144
178
23
0
1,2691
1,0696
5,114
4,3486
6-8
12
57
31
4
1,7045
1,3895
6,7781
5,5105
8-10
0
7
8
1
2,9753
2,6739
9,0916
6,4243
Tabla 49: Ma iz de con usión y mé icas po amos pa a mecánica con eg esión lineal.
Reg esión Ridge
Da aF ame 1
0-4
4-6
6-8
8-10
RMSE
MAE
Media
Tes
Media P edicciones
0-4
281
87
1
0
1,8112
1,401
2,3208
3,5821
4-6
145
180
19
0
1,2452
1,0583
5,114
4,334
6-8
12
57
32
2
1,7129
1,4119
6,7781
5,4696
8-10
1
6
8
1
3,0179
2,7309
9,0916
6,3657
Tabla 50: Ma iz de con usión y mé icas po amos pa a mecánica con Ridge.
K-Nea es Neighbo s
Da aF ame 1
0-4
4-6
6-8
8-10
RMSE
MAE
Media Tes
Media P edicciones
0-4
277
91
1
0
1,8498
1,4217
2,3208
3,5959
4-6
141
188
14
0
1,2178
1,0255
5,114
4,3223
6-8
14
59
31
0
1,7838
1,5011
6,7781
5,3268
8-10
0
7
10
0
3,2946
3,1322
9,0916
5,9594
Tabla 51: Ma iz de con usión y mé icas po amos pa a mecánica con K-Nea es Neighbo s.
En mecánica nos encon amos en el caso donde los modelos es án siendo penalizados po la g an
can idad de no as bajas. Ob eniendo ajus es muy al os pa a los alumnos en e 0-4 pe o muy pob e
pa a las di e en es clases. Puede que nos encon emos an e es e hecho ya que encon amos a la
g an mayo ía de alumnos en e las dos p ime as clases, y las medias de las p edicciones son muy
bajas. Los e o es pa a las es p ime as clases son muy simila es, pe o el e o de la cua a ob iene
unos alo es que p ác icamen e doblan los an e io es.
4.7.6. Mé odos numé icos
Reg esión Lineal
Da aF ame 3
0-4
4-6
6-8
8-10
RMSE
MAE
Media Tes
Media P edicciones
0-4
3
56
15
0
3,2155
2,8522
2,4919
5,3355
4-6
4
184
115
1
0,9427
0,7606
5,3155
5,7776
6-8
0
133
204
6
1,0884
0,8728
6,9157
6,2653
8-10
0
6
43
7
1,8437
1,6355
8,6934
7,0621
Tabla 52: Ma iz de con usión y mé icas po amos pa a mé odos numé icos con eg esión lineal.
Aplicación de modelos de eg esión en la p edicción de cali icaciones de es udian es de la ETSEIB 55
Reg esión Ridge
Da aF ame 3
0-4
4-6
6-8
8-10
RMSE
MAE
Media Tes
Media P edicciones
0-4
1
57
16
0
3,2178
2,882
2,4919
5,3673
4-6
1
186
115
1
0,9044
0,7273
5,3155
5,7902
6-8
0
140
201
3
1,0579
0,8588
6,9157
6,2505
8-10
0
7
44
5
1,8859
1,6924
8,6934
7,005
Tabla 53: Ma iz de con usión y mé icas po amos pa a mé odos numé icos con Ridge.
K-Nea es Neighbo s
Da aF ame 3
0-4
4-6
6-8
8-10
RMSE
MAE
Media Tes
Media P edicciones
0-4
0
57
17
0
3,3601
3,0617
2,4919
5,5536
4-6
1
189
112
1
0,8532
0,6911
5,3155
5,8589
6-8
0
134
204
6
0,9934
0,8179
6,9157
6,2528
8-10
0
5
43
8
1,8972
1,7175
8,6934
6,9765
Tabla 54: Ma iz de con usión y mé icas po amos pa a mé odos numé icos con K-Nea es Neighbo s.
Podemos obse a como el núme o de suspensos en e 0 y 4 son muy bajos, y los modelos no son
capaces de adap a se a es os, llegando al pun o de K-Nea es Neighbo s no es capaz de p edeci
co ec amen e ningún alumno que se encuen a den o de es e ango.
La segunda y e ce a ca ego ía ienen p ác icamen e el mismo núme o de alumnos, y emos como
las p edicciones se epa en, ap oximadamen e, 50-50% en e ellas. Es o acaba haciendo que los
da os se ajus en al ededo del 6, con lo cual se come en e o es más bajos en es as.
4.7.7. Conclusiones del apa ado
De es e es udio hemos podido obse a que el hecho de que los e o es de los modelos hayan sido
an ele ados se deben a que exis en dis ibuciones desequilib adas de las asigna u as. Así pues, los
algo i mos ienden a ealiza mejo es p edicciones al ededo de las clases donde encon amos el
mayo núme o de alumnos, haciendo que los alumnos que se encuen an lejos de es os iendan a se
ajus ados hacia es as no as. Hemos podido e como pa a Mecánica e In o má ica los e o es an
g andes se es án come iendo debido a que hay una dis ibución mucho más desequilib ada de los
da os.
En mecánica, emos como la mayo ía de los alumnos se encuen an con no as en e 0 y 6, pe o las
no as ce canas al 2 es án eniendo mucha in luencia sob e los modelos, de es a o ma se ienden a
hace p edicciones muy bajas de las no as de los alumnos, lo cual acaba esul ando en un e o de
p edicción muy ele ado debido a los alumnos que ienen no as en e 6 y 10. En in o má ica se
come en e o es an g andes debido a que los modelos p edicen medianamen e bien las no as
al ededo del cinco, pe o podemos obse a que enemos muchos alumnos pa a odas las clases, lo
cual acaba haciendo que se come a un e o muy g ande ya que in en a ajus a los alumnos que
ob ienen no as ce canas a 0 o al 10 hacia el cinco.
Aplicación de modelos de eg esión en la p edicción de cali icaciones de es udian es de la ETSEIB 56
En el es o de asigna u as emos que ocu e como en in o má ica, ya que los modelos cons uidos
ajus an muy bien a aquellos alumnos que se encuen an en o no al 5. La di e encia de e o que
ob ienen es as es debido a que la g an mayo ía de alumnos se encuen an ce ca de es e alo , así
pues, el modelo se e poco a ec ado po alo es ex emos, ya que no hay muchos.
Así pues, ampoco se ía iable u iliza los modelos pa a a a de p edeci aquellos alumnos que
ap ueban jus o o los que ob ienen las mejo es cali icaciones, ya que podemos e que los algo i mos
simplemen e se es án ajus ando bien pa a las clases donde se encuen a la mayo concen ación de
egis os. Queda pa en e de es a mane a que el hecho de que haya asigna u as como EDOS,
Elec omagne ismo, Mé odos o Ma e iales, las cuales pa ecen ajus a mejo en o no al 5, no se ían
del odo iables ya que los esul ados no se deben a un hecho eal, sino que se deben a que la g an
mayo ía de alumnos se encuen an en o no a es a no a.
4.8. Discusión de los modelos seleccionados
Una ez compa ados y con as ados los esul ados, los modelos inales seleccionados se esumen
en la Tabla 55.
Algo i mo
Da aF ame
RMSE Tes
R2 Ajus ado
RMSE
MAE
In o má ica
Ridge
3
1,7467
0,2971
1,7746
1,3699
EDOS
Ridge
1
1,4828
0,2958
1,4157
1,0324
Elec o
Reg esión Lineal
1
1,4161
0,3161
1,4131
1,0887
Ma e iales
Ridge
3
1,3926
0,2535
1,3821
1,0709
Mecánica
Ridge
1
1,6571
0,3409
1,6237
1,2863
Mé odos
K-Nea es Neighbo s
3
1,4127
0,1926
1,4374
1,0493
Tabla 55: Resumen de modelos inales seleccionados pa a cada asigna u a.
En p ime luga , al a a se de un es udio de écnicas de eg esión, se ha decidido escoge pa a cada
asigna u a el conjun o de da os que a ojaba alo es de e o meno es. Así pues, pa a las
asigna u as EDOS, Ma e iales y Mé odos se ha decidido escoge los modelos que abajan con el
Da aF ame 3, mien as que pa a el es o de asigna u as se ha escogido abaja con el p ime o. Aun
así, hemos is o que pa a odas las asigna u as el compo amien o en e los Da aF ame e a bas an e
simila , de es a o ma emos que el hecho de añadi da os al modelo no se es á aduciendo, po lo
gene al, en una mejo a de es e.
En cuan o a los algo i mos, se puede e como pa a in o má ica, ecuaciones di e enciales, ma e iales
y mecánica el algo i mo que ha ob enido los mejo es alo es de RMSE ha sido Ridge. Pa a
elec omagne ismo el algo i mo escogido ha sido Reg esión Lineal y pa a Mé odos numé icos se ha
escogido K-Nea es Neighbo s. Vemos de es a mane a que po lo gene al Ridge es el algo i mo que
ob iene los mejo es esul ados.
Aplicación de modelos de eg esión en la p edicción de cali icaciones de es udian es de la ETSEIB 57
Compa ando los alo es ob enidos pa a cada asigna u a, emos como a ni el de coe icien e de
de e minación ajus ado, Elec omagne ismo y Mecánica son las que se ajus an mejo a la a ianza
o al de los da os, mien as que mé odos numé icos es la asigna u a pa a la cual el modelo explica
menos a iancia. En é minos de e o emos que in o má ica y mecánica son las que ob ienen
e o es más al os, mien as que el es o de asigna u as se compo an de o ma muy simila . Sin
emba go, gene almen e los alo es de e o ob enidos son bas an e ele ados, lo cual es algo
p eocupan e cuando se quie e p edeci el alo de la no a de un alumno.
Aún y los esul ados an pob es ob enidos, se ha in en ado e si pod íamos u iliza los modelos pa a
iden i ica alumnos de in e és, como aquellos que u iesen más p oblemas a la ho a de ap oba . Es e
es udio no solo ha dejado de mani ies o que los modelos no pueden u iliza se ampoco con es a
inalidad, sino que además da la sensación que los algo i mos es án a ando de ajus a los alumnos
al ededo de aquellas no as donde encon amos más egis os. De es a o ma emos que solo se
ajus an pa a algunos da os.
El hecho de que los esul ados ob enidos sean an pob es, y an simila es en e los di e en es
modelos, puede suge i nos que el p oblema no sea la al a de ajus e de los modelos, sino que la
calidad de los da os no es su icien e como pa a ealiza p edicciones numé icas p ecisas. En las
conclusiones se habla á más sob e es e hecho.
Finalmen e, se puede obse a que, en los modelos ob enidos pa a in o má ica, elec omagne ismo y
mé odos numé icos, se ha come ido algo de o e i ing.
Aplicación de modelos de eg esión en la p edicción de cali icaciones de es udian es de la ETSEIB 64
Finalmen e, como se ha comen ado, puede que el p oblema de los esul ados ob enidos enga ligado
con que la calidad de los da os no es su icien e pa a pode modela los con algo i mos de eg esión.
De es a mane a, se ía in e esan e de ca a al u u o que se pudie a almacena más in o mación
elacionada con los es udian es, como po ejemplo las ho as de es udio, no as de abajos, no as de
exámenes pa ciales, e c.

Aplicación de modelos de eg esión en la p edicción de cali icaciones de es udian es de la ETSEIB 65
Bibliog a ía
[1] Wi en, I. H., F ank, E., & Hall, M. A. (2012). Da a Mining: P ac ical Machine Lea ning Tools and
Techniques. (3.ª ed., p. 584). ISBN 978-0-12-381479-1
[2] Olson, D. L., & Delen, D. (2008). Ad anced Da a Mining Techniques (p. 39). Be lin.
ISBN: 978-3-540-76916-3.
[3] Paul Allison. P edic ion s. Causa ion in Reg ession Analysis.
h ps://s a is icalho izons.com/p edic ion- s-causa ion-in- eg ession-analysis
[4] Juan Ignacio Bagna o. Ap ende Machine Lea ning: h ps://www.ap endemachinelea ning.com/
[5] Va ios au o es. S acko e low: h ps://s acko e low.com/
[6] Sciki -lea n: Machine lea ning in Py hon (documen ación Sciki -Lea n):
h ps://sciki -lea n.o g/s able/
[7] Py hon Da a Analysis Lib a y (documen ación de Pandas): h ps://pandas.pyda a.o g/
[8] Cambio climá ico. Fac o de emisión de la ene gía eléc ica:
h ps://can iclima ic.genca .ca /es/ac ua/ ac o s_demissio_associa s_a_lene gia/