Predicción de la temperatura crítica de superconductores mediante técnicas de Machine Learning. Redes neuronales y algoritmos genéticos

T abajo de Fin de G ado
G ado en F´ısica
P edicci´on de la empe a u a c ´ı ica de supe conduc o es median e
´ecnicas de Machine Lea ning
Redes neu onales y algo i mos gen´e icos
Au o :
Ja ie He e o ´
Al a ez
Di ec o :
Ja ie Echanobe A ias
Leioa, 22 de junio de 2023
´
Indice
1. In oducci´on y obje i os 3
2. Supe conduc i idad y empe a u a c ´ı ica 5
2.1. Teo ´ıa BCS de la supe conduc i idad: los pa es de Coope . . . . . . . . . 5
2.2. Las eglasdeMa hias ............................. 6
2.2.1. Reglas de Ma hias pa a elemen os a ´omicos . . . . . . . . . . . . . 6
2.2.2. Reglas de Ma hias pa a compues os y aleaciones . . . . . . . . . . 7
3. T´ecnicas de Machine Lea ning 8
3.1. Aspec os undamen ales de las ´ecnicas ML . . . . . . . . . . . . . . . . . . 8
3.1.1. Clasi icaci´on gene al de los modelos ML . . . . . . . . . . . . . . . 8
3.1.2. Da os de en enamien o, alidaci´on y es . . . . . . . . . . . . . . . 8
3.1.3. Indicado es pa a la e iciencia de los modelos de eg esi´on . . . . . . 9
3.1.4. Gene alizaci´on, o e i ing yunde i ing de los modelos . . . . . . . 9
3.1.5. Hipe pa ´ame os de un modelo . . . . . . . . . . . . . . . . . . . . 10
3.1.6. No malizaci´on de los da os . . . . . . . . . . . . . . . . . . . . . . . 10
3.2. Redes neu onales FFN ( eed- o wa d ne wo ks)................ 10
3.2.1. Redes neu onales de una capa: el pe cep ´on . . . . . . . . . . . . . 11
3.2.2. Redes neu onales de a ias capas . . . . . . . . . . . . . . . . . . . 12
3.2.3. La unci´on de ac i aci´on . . . . . . . . . . . . . . . . . . . . . . . . 13
3.2.4. En enamien o de la ed: el algo i mo backp opaga ion ....... 14
3.3. Redes ELM (Ex eme Lea ning Machine)................... 15
3.3.1. La in e sa gene alizada de Moo e-Pen ose . . . . . . . . . . . . . . 15
3.4. Algo i mos gen´e icos . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 16
3.4.1. In oducci´on a los algo i mos gen´e icos . . . . . . . . . . . . . . . . 16
3.4.2. Selecci´on de ca ac e ´ıs icas con algo i mos gen´e icos . . . . . . . . . 18
3.4.3. Op imizaci´on de hipe pa ´ame os con algo i mos gen´e icos . . . . . 19
4. Expe imen os y esul ados ob enidos 20
4.1. Desc ipci´on del da ase u ilizado........................ 20
4.2. Selecci´on de ca ac e ´ıs icas con el coe icien e de co elaci´on . . . . . . . . . 21
4.3. Redes FFN con las 52 ca ac e ´ıs icas seleccionadas . . . . . . . . . . . . . . 22
4.4. Redes ELM con las 52 ca ac e ´ıs icas seleccionadas . . . . . . . . . . . . . 23
4.5. Selecci´on de ca ac e ´ıs icas con algo i mos gen´e icos (I) . . . . . . . . . . . 25
4.6. Redes FFN con 38 ca ac e ´ıs icas seleccionadas . . . . . . . . . . . . . . . 26
4.7. Selecci´on de ca ac e ´ıs icas con algo i mos gen´e icos (II) . . . . . . . . . . 27
4.8. Redes FFN con 35 ca ac e ´ıs icas seleccionadas . . . . . . . . . . . . . . . 28
4.9. Op imizaci´on de hipe pa ´ame os con algo i mos gen´e icos . . . . . . . . . 28
4.10. Redes FFN op imizadas con 35 ca ac e ´ıs icas . . . . . . . . . . . . . . . . 31
4.11. Compa a i a y discusi´on . . . . . . . . . . . . . . . . . . . . . . . . . . . . 33
5. Conclusiones y l´ıneas u u as 34
Glosa io 36
Re e encias 38
1
A. Algunos concep os de es ad´ıs ica 39
A.1. Va ianza y des iaci´on es ´anda . . . . . . . . . . . . . . . . . . . . . . . . 39
A.2. Co a ianza y co elaci´on . . . . . . . . . . . . . . . . . . . . . . . . . . . . 39
B. Desa ollo ma em´a ico del algo i mo backp opaga ion y el descenso del
g adien e 41
C. Relaci´on en e el e o cuad ´a ico medio de una a iable no malizada y
sin no maliza 43
2
1. In oducci´on y obje i os
El ´e mino Machine Lea ning (ML) hace e e encia a un conjun o de ´ecnicas compu-
acionales cuyo obje i o es que las m´aquinas ap endan a pa i de la expe iencia adqui ida.
Es ´a englobado den o de o o conjun o de ´ecnicas m´as amplio, denominado In eligencia
A i icial (IA). En sus inicios, la IA se cen ´o en esol e p oblemas complicados pa a
la men e humana pe o sencillos pa a los compu ado es, es deci , c´alculos ma em´a icos y
algo i mos. Hoy en d´ıa, el e o es ´a en la esoluci´on de p oblemas que son ela i amen e
´aciles e in ui i os pa a los humanos, pe o que no son sencillos de o mula en un con ex o
compu acional [1]. Po ejemplo, cuando un humano pasea po la calle, es capaz de eco-
noce de inmedia o si un obje o que es ´a iendo es un coche, una pe sona, e c. Encon a
un algo i mo compu acional (i.e. esc ibi el c´odigo de un p og ama de o denado adicio-
nal) pa a econocimien o de obje os a pa i de im´agenes, sin emba go, no es sencillo. La
di e encia cla e en e los humanos y las m´aquinas en es e con ex o es que los humanos,
al con a io que las m´aquinas, adquie en conocimien o y poseen in uici´on [1].
ML es un en oque de IA cuya iloso ´ıa es que los compu ado es adquie an expe iencia
y conocimien o a pa i de una g an can idad de da os, al igual que hacen los se es
humanos a lo la go de sus idas. Una de las cla es pa a ob ene un buen modelo ML es
escoge adecuadamen e la ep esen aci´on de los da os que se an a u iliza pa a en ena
( ain) a la m´aquina, es deci , cu´an as ca ac e ´ıs icas ( ea u es o p edic o es) se le an
a p opo ciona y en qu´e o ma o [1], buscando e i a ca ac e ´ıs icas edundan es que
aumen en la complejidad del modelo innecesa iamen e. Es o se conoce como selecci´on de
ca ac e ´ıs icas ( ea u e selec ion).
En es e abajo, se aplican dis in os modelos ML y ´ecnicas de selecci´on de ca ac-
e ´ıs icas al p oblema de la p edicci´on de empe a u as c ´ı icas de supe conduc o es. Los
supe conduc o es son ma e iales pa a los que a empe a u as meno es que una empe a-
u a c ´ı ica Tcla esis i idad el´ec ica se hace ce o. A la empe a u a Tcse p oduce una
ansici´on de ase, pasando b uscamen e de una esis i idad no nula a una esis i idad
nula [2]. Es e ipo de ma e iales, po an o, pe mi en el lujo de co ien e a a ´es de ellos
sin disipaci´on de po encia po e ec o Joule, lo cual esul a muy ´u il en aplicaciones de
elec o ecnia.
Sin emba go, a d´ıa de hoy el uso de los supe conduc o es no es ´a pa a nada ex endido.
Es o se debe undamen almen e a dos mo i os [3]:
Las empe a u as c ´ı icas son, po lo gene al, ex emadamen e bajas. El mayo alo
de Tc egis ado has a Julio de 2017 es de unos 203 K (unos −70 ◦C) [3].
No exis e un modelo e´o ico que explique la dependencia uncional de la empe a u a
c ´ı ica Tc, lo cual di icul a la b´usqueda de posibles ma e iales supe conduc o es a
empe a u a ambien e.
Algunos in es igado es han desa ollado modelos ML de eg esi´on pa a p edeci la
empe a u a c ´ı ica de supe conduc o es. Po ejemplo, Kam Hamidieh ob iene un modelo
con RMSE = 9.5 K (Roo Mean Squa ed E o ) y R2= 0.92 (coe icien e de de e minaci´on)
basado en una ´ecnica ML denominada XGBoos (conjun o de ´a boles p opulsado po
g adien e) [3]. O os modelos de eg esi´on p opues os en la li e a u a son el modelo andom
o es de Kaname Ma sumo o y Tomoya Ho ide (con R2= 0.92) [4] o el modelo bagged
ees de B. Ro e y S.V. Do de ic (con RMSE = 8.91 K y R2= 0.93) [5]. Los es
modelos mencionados pa en de la base de da os Supe con, del Ins i u o Nacional de
Jap´on de Ciencia de Ma e iales, Japan’s Na ional Ins i u e o Ma e ials Science (NIMS),
y p edicen la empe a u a c ´ı ica pa iendo de la ´o mula emp´ı ica del ma e ial.
3

En es e abajo se desa olla un modelo de eg esi´on pa a p edeci Tcpa iendo de los
p edic o es ex a´ıdos po Kam Hamidieh de la base de da os Supe con ( elacionados con
la ´o mula emp´ı ica del ma e ial). Sin emba go, el en oque seguido es dis in o: el modelo
que se desa olla es ´a basado en edes neu onales.
El p incipal obje i o de es e abajo es encon a un modelo ML que, a pa i de la
´o mula emp´ı ica de un ma e ial supe conduc o , p ediga su empe a u a c ´ı ica. Es e
modelo pod ´ıa se ´u il pa a encon a nue os supe conduc o es de al a empe a u a. En
es a l´ınea, se desa olla ´an dis in os modelos ML, y se compa a ´an sus esul ados. En
conc e o, se u iliza ´an modelos basados en edes neu onales FFN y edes ELM.
Un segundo obje i o del abajo es la ganancia de in uici´on ´ısica ace ca de qu´e p o-
piedades de los elemen os a ´omicos ienen mayo in luencia sob e la empe a u a c ´ı ica
de los supe conduc o es. Las ´ecnicas gen´e icas de selecci´on de ca ac e ´ıs icas u ilizadas
con e ge ´an hacia modelos con un n´ume o educido de p edic o es, p opo cionando la
mencionada in uici´on ´ısica, as´ı como una meno complejidad del modelo. Cabe des a-
ca que los algo i mos gen´e icos ambi´en se u ilizan en es e abajo pa a op imiza los
hipe pa ´ame os de los modelos de eg esi´on u ilizados.
Como ´ul imo obje i o, de ca ´ac e m´as amplio, se p e ende ilus a c´omo se pueden
aplica los dis in os algo i mos ML en la esoluci´on de p oblemas de ´ısica y demos a
su po encia pa a la esoluci´on de p oblemas que con m´e odos anal´ı icos o num´e icos
adicionales eque i ´ıan de una can idad excesi a de ecu sos y iempo.
El abajo comienza con una desc ipci´on cuali a i a del en´omeno de la supe conduc-
i idad en la secci´on 2, en base al modelo BCS y las eglas de Ma hias.
En la secci´on 3 se p esen an las ´ecnicas ML u ilizadas pa a el desa ollo del abajo.
T as explica los aspec os undamen ales del Machine Lea ning, se explican las ´ecnicas
basadas en edes neu onales FFN, edes ELM y algo i mos gen´e icos.
La secci´on 4 ecoge los expe imen os ealizados a lo la go del abajo u ilizando las
he amien as ML p esen adas en la secci´on p e ia, as´ı como los esul ados ob enidos y un
an´alisis de los mismos. El modelo que se ob iene inalmen e es una ed neu onal FFN con
35 p edic o es, educiendo los 81 que hab´ıa inicialmen e en el da ase en un 56.79 %. Los
indicado es de e iciencia p omedio ob enidos, RMSE = 11.66 K y R2= 0.8849, no llegan a
supe a a los de los modelos de e e encia p esen ados en es a in oducci´on. Sin emba go,
la educci´on del n´ume o de p edic o es conseguida p opo ciona in uici´on ´ısica sob e qu´e
a iables in luyen sob e la empe a u a c ´ı ica, adem´as de que el modelo FFN desa ollado
iene una es uc u a compu acional m´as sencilla que los u ilizados en los o os abajos
mencionados (basados en ´a boles de decisi´on).
Finalmen e, en la secci´on 5 se p esen an las conclusiones ex a´ıdas de los expe imen os
ealizados. Tambi´en se mencionan posibles l´ıneas u u as de in es igaci´on en el ´ambi o de
es e abajo.
Se incluyen ambi´en es ap´endices en los que se ealizan desa ollos ma em´a icos que,
si bien no son necesa ios pa a una lec u a de es a memo ia, pueden esul a in e esan-
es como p o undizaci´on. El ap´endice A con iene una in oducci´on a algunos concep os
b´asicos de es ad´ıs ica, el ap´endice B con iene el desa ollo ma em´a ico de los algo i mos
backp opaga ion y descenso del g adien e y el ap´endice C la elaci´on en e el MSE de
una a iable no malizada y de dicha a iable sin no maliza . Adem´as, se p opo ciona un
glosa io de siglas y ´e minos en ingl´es pa a acili a una consul a ´apida en caso necesa io.
4
2. Supe conduc i idad y empe a u a c ´ı ica
Los supe conduc o es son ma e iales que, po debajo de una empe a u a c ´ı ica Tc,
expe imen an una ansici´on a una ase de esis i idad el´ec ica nula. T adicionalmen e, se
han di idido en dos g andes g upos: los supe conduc o es de ipo I ienen una ansici´on
b usca a la ase supe conduc o a a la empe a u a c ´ı ica, mien as que los de ipo II
p esen an una ansici´on g adual. Es os segundos siguen p esen ando p opiedades supe -
conduc o as a empe a u as m´as al as, es po ello que los de ipo I ambi´en se denominan
de baja empe a u a y los de ipo II de al a empe a u a [2].
Es impo an e menciona que los ma e iales supe conduc o es p esen an p opiedades
(como el e ec o Meissne ) que no pueden explica se model´andolos como un ma e ial con-
duc o cuya esis i idad iende a ce o [2]. Es o sugie e que es necesa io el desa ollo de
una eo ´ıa de la supe conduc i idad independien e a la conduc i idad. La eo ´ıa de la
supe conduc i idad de Ba deen-Coope -Sch ie e (BCS) ha sido uno de los in en os m´as
ele an es po encon a una eo ´ıa de la supe conduc i idad. Po o a pa e, las di i-
cul ades mencionadas en la secci´on 1 pa a el desa ollo de un modelo e´o ico pa a los
supe conduc o es han mo i ado la b´usqueda de eglas emp´ı icas que ecogen las condicio-
nes pa a la supe conduc i idad y las a iables que a ec an sob e la empe a u a c ´ı ica.
Un ejemplo son las eglas de Ma hias que, aunque no son igu osas ni se cumplen siemp e,
p opo cionan in uici´on sob e las p opiedades que in luyen sob e Tc.
En la secci´on 2.1 se ealiza una b e e in oducci´on cuali a i a a la eo ´ıa BCS. En la
secci´on 2.2 se p esen an las eglas de Ma hias pa a a a de gana in uici´on sob e qu´e
p opiedades in luyen sob e la supe conduc i idad.
2.1. Teo ´ıa BCS de la supe conduc i idad: los pa es de Coope
La eo ´ıa BCS explica el en´omeno de la supe conduc i idad pa a supe conduc o es de
ipo I. La idea p incipal que hay de ´as de es a eo ´ıa es que, si exis e un es ado en el que
la esis encia es ce o, ha de exis i un bandgap en e dicho es ado y el es ado conduc o
no mal [6]. En un conduc o no mal, con esis encia el´ec ica ini a, los elec ones chocan
con los iones de la ed y, consecuen emen e, pie den ene g´ıa [7] (e ec o Joule). En un
supe conduc o , ambi´en hay un mo imien o de po ado es a a ´es de la ed, y la ´unica
posibilidad pa a que no haya una in e acci´on con los iones de la ed (con su consecuen e
p´e dida de ene g´ıa) es que no haya ning´un ni el ene g´e ico disponible en el ango de las
ene g´ıas de in e acci´on con la ed. Adem´as, como a empe a u as mayo es que Tcs´ı que
hay disipaci´on po e ec o Joule, el in e alo ene g´e ico de ni eles p ohibidos debe ´a se
del o den de la ene g´ıa ´e mica kBTc, siendo kBla cons an e de Bol zmann [6].
Po o a pa e, es un esul ado bien conocido de la mec´anica es ad´ıs ica que en un
sis ema de e miones el n´ume o de ocupaci´on de los ni eles dec ece mono ´onicamen e co-
mo una unci´on escal´on no del odo e ical (es ad´ıs ica de Fe mi-Di ac). Adem´as, seg´un
el p incipio de exclusi´on de Pauli, no es posible que haya dos e miones en un mismo
es ado cu´an ico. Como un elec ´on indi idual es un e mi´on ( iene esp´ın semien e o), los
elec ones quedan desca ados como posibles po ado es en un supe conduc o , ya que
el p incipio de exclusi´on impide que es ´en odos ellos en el es ado supe conduc o . As´ı,
los po ado es han de se bosones [6]. La eo ´ıa BCS p opone como po ado es del es a-
do supe conduc o pa es de elec ones de esp´ın opues o que quedan empa ejados en e
s´ı debido a una ue za a ac i a que es capaz de ence la epulsi´on de Coulomb, cono-
cidos como pa es de Coope . Es os pa es ienen, en e ec o, na u aleza bos´onica, ya que
5
su esp´ın esul an e es en e o po es a o mados po dos pa ´ıculas de esp´ın semien e o
[6]. Es p ecisamen e la na u aleza bos´onica de los pa es de Coope la que pe mi e que a
empe a u as bajas (meno es que Tc) odos los po ado es de ca ga o men un condensa-
do de Bose-Eins ein en el es ado supe conduc o que se o ma po debajo del in e alo
p ohibido.
En la igu a 2.1 se mues a un esquema del es ado supe conduc o y el bandgap pa-
a ilus a la explicaci´on de los dos p´a a os an e io es. El esquema mos ado es ´alido
solamen e pa a T < Tc, es o es, en la ase supe conduc o a.
Figu a 2.1: Esquema del es ado supe conduc o y el bandgap que se o ma en e ´es e y el es ado conduc o
no mal del ma e ial.
Pa a e mina con es a b e e desc ipci´on de la eo ´ıa BCS, al a desc ibi la na u aleza
de la in e acci´on a ac i a en e los elec ones:
En supe conduc o es de ipo I, la ue za a ac i a se debe al in e cambio de onones
(cuan os de ib aci´on de la ed) en e los dos elec ones del pa [7].
En supe conduc o es de ipo II, no es ´a an cla a la na u aleza de la in e acci´on,
pe o una posibilidad es que se deba a un apan allamien o de la in e acci´on epulsi a
de Coulomb. La p esencia de un elec ´on en una ed p o oca una de o maci´on de la
es uc u a c is alina, a ayendo los iones posi i os ce canos hacia ´el. Es a densidad
de ca ga posi i a ne a c eada en o no a un elec ´on apan alla su ca ga nega i-
a, pe mi iendo que los dos elec ones que o man el pa expe imen en una ue za
a ac i a [7].
2.2. Las eglas de Ma hias
Las eglas de Ma hias son un conjun o de obse aciones emp´ı icas que a an de
ecoge las condiciones pa a que un ma e ial sea supe conduc o y la dependencia un-
cional de Tc[8]. Son m´as bien una se ie de pau as pa a acili a la b´usqueda de nue os
supe conduc o es que unas eglas uni e sales. A pesa de sus e iden es y muy g andes
limi aciones, es as eglas dan pis as de qu´e p opiedades de los elemen os a ´omicos y de
las es uc u as c is alinas in luyen en la supe conduc i idad, y pueden u iliza se pa a de-
cidi qu´e a iables inclui como p edic o es en los modelos de Machine Lea ning que se
desa olla ´an.
2.2.1. Reglas de Ma hias pa a elemen os a ´omicos
Los expe imen os con supe conduc o es dan luga a las siguien es eglas, aunque no
siemp e se cumplen [8]:
1. Los elemen os supe conduc o es ienen un n´ume o de elec ones de alencia po
´a omo ncomp endido en e 2 y 8.
6
2. En gene al, los elemen os e omagn´e icos, an i e omagn´e icos, no me ´alicos, semi-
me ´alicos o semiconduc o es no son supe conduc o es.
3. La empe a u a c ´ı ica es p opo cional a una unci´on T(n) del n´ume o de elec ones
de alencia po ´a omo.
4. La empe a u a c ´ı ica es p opo cional a la siguien e unci´on del olumen a ´omico
Vy la masa a ´omica M:Tc∝Vx
M, siendo 4 <x<5.
5. Exis en cie as es uc u as c is alinas que son m´as p opensas a la supe conduc i i-
dad.
De ca a a es e abajo, lo m´as in e esan e de es as eglas emp´ı icas es que la exis encia
de una ase supe conduc o a pa a un elemen o y, en caso a i ma i o, su empe a u a
c ´ı ica, dependen de la es uc u a elec ´onica del elemen o, de sus pa ´ame os de escala
(masa y olumen) y de su es uc u a c is alina. O o apun e in e esan e es que la unci´on
T(n) iene m´aximos locales pa a nimpa y m´ınimos pa a npa en el caso de los me ales
de ansici´on, mien as que es c ecien e en el caso del es o de me ales. Es a dependencia
uncional sugie e que, adem´as de la in e acci´on mediada po onones p opues a en la eo ´ıa
BCS, posiblemen e haya in oluc ado un ´e mino de in e acci´on esp´ın-esp´ın [8].
2.2.2. Reglas de Ma hias pa a compues os y aleaciones
Las eglas de Ma hias pa a compues os y aleaciones son simila es a las a ´omicas, con
las siguien es modi icaciones [8]:
1. nse e ie e aho a al n´ume o de elec ones de alencia po ´a omo en la aleaci´on o
compues o.
2. Id´en ica al caso a ´omico, excep o algunos e omagn´e icos de esp´ın de o bi ales .
3. Id´en ica al caso a ´omico, pe o el pa ´on de picos es ´a desplazado pa a cada ma e ial.
4. En es e caso, Tc∝Vx.
5. Simila al caso a ´omico.
El hecho de que es as eglas sean simila es al caso a ´omico sugie e que un modelo de
p edicci´on de Tcbasado en la ´o mula emp´ı ica sea iable.
7
Sigmoide en (neu onas de las capas ocul as, ‘logsig’ en MATLAB):
(a) = 1
a+ exp (−a)(3.8)
Tiene es p opiedades que la hacen in e esan e como unci´on de ac i aci´on: su salida
es ´a aco ada al in e alo (0,1), su g adien e es m´aximo en alo es p ´oximos a ce o y
sa u a pa a alo es alejados del ce o. Una combinaci´on lineal de un n´ume o su icien e
de unidades sigmoides en una ´unica capa puede ap oxima cualquie unci´on [10].
Tangen e hipe b´olica (neu onas de las capas ocul as, ‘ ansig’ en MATLAB):
(a) = ea−e−a
ea+e−a(3.9)
Es simila a la sigmoide, sal o un eescalado ho izon al y que su salida es ´a aco ada
a (−1,1).
ReLU o Rec i ied Linea Uni (neu onas de las capas ocul as, ‘poslin’ en MATLAB):
(a) = 0a < 0
a a ≥0(3.10)
Es a unci´on acili a y acele a el p oceso de en enamien o en edes mul icapa.
3.2.4. En enamien o de la ed: el algo i mo backp opaga ion
El en enamien o de una ed comienza asignando alo es alea o ios a sus pesos y bias.
El p oceso de en enamien o subsiguien e es i e a i o, y iene como obje i o minimiza
una unci´on e o , como el MSE, median e la modi icaci´on de los pesos y bias de la ed. El
p incipal p oblema es que, si la ed p oduce una salida inco ec a, no hay mane a a p io i
de sabe qu´e neu onas son las culpables ni c´omo se han de modi ica sus pa ´ame os [12].
La soluci´on a es e p oblema iene dada po el algo i mo backp opaga ion. Si la unci´on
e o es de i able con espec o a las salidas y las unciones de ac i aci´on u ilizadas son
de i ables, en onces la unci´on e o es de i able con espec o a los pesos (y los bias).
Conociendo las de i adas del e o con espec o a los pesos, es posible u iliza ´ecnicas de
op imizaci´on como el descenso del g adien e pa a ac ualiza el alo de los pesos [12].
As´ı, el en enamien o de una ed es un p oceso i e a i o en el que cada i e aci´on cons a
de dos pa es:
1. Se calculan las de i adas de la unci´on e o con espec o a los pesos (y bias) [12]. Se
comienza calculando las salidas de la ed pa a los da os de en enamien o ( o wa d-
p opaga ion) y, con ellas, el MSE con espec o a los alo es obje i o. A con inuaci´on,
se u iliza el algo i mo backp opaga ion pa a p opaga el e o desde la salida hacia
las neu onas in e nas de la ed, po medio de la egla de la cadena de las de i adas.
2. Se u ilizan las de i adas calculadas en la ase an e io pa a ac ualiza los pesos de
mane a que se eduzca el e o . Pa a es a ase, hay una g an can idad de algo i mos
de op imizaci´on. Uno de los m´as u ilizados es el “descenso del g adien e” [12].
Pa a ac ualiza los pesos, exis en dos posibilidades. La p ime a, denominada on-line
lea ning consis e en ac ualiza los pesos as el c´alculo de las de i adas pa a una en ada de
los da os de en enamien o. Se denomina i e aci´on a la ac ualizaci´on ealizada pa a cada
en ada indi idual de los da os de en enamien o, y epoch al conjun o de ac ualizaciones
asociadas a una exposici´on comple a a odos los da os de en enamien o. La segunda
posibilidad es u iliza ba ch lea ning, que consis e en ac ualiza los pesos as suma las
14

de i adas pa a cada una de las en adas de odos los da os de en enamien o. En es e
caso, una ´unica ac ualizaci´on de los pesos ya cons i ui ´a una epoch.
En el ap´endice B se desa ollan en de alle las ma em´a icas de backp opaga ion y del
descenso del g adien e.
3.3. Redes ELM (Ex eme Lea ning Machine)
Las edes ELM (Ex eme Lea ning Machine, M´aquina de Ap endizaje Ex emo) son
un ipo de FFN de una ´unica capa ocul a. Es e en oque consis e en gene a alea o iamen e
los pesos de las neu onas ocul as y calcula los de la capa de salida imponiendo que las
salidas de la ed pa a odos los da os de en enamien o coincidan con su a ge [13].
La opolog´ıa de la ed consis e en una capa de en ada de nneu onas, una capa ocul a
de mneu onas con unci´on de ac i aci´on no lineal (sigmoide, po ejemplo) y una neu ona
de salida (en nues o caso) con ac i aci´on lineal (uni a ia). Los pesos de cada neu ona de
la capa ocul a se ecogen en las ilas de la ma iz Wy los de la neu ona de salida en el
ec o ila β. Los bias de la capa ocul a cons i uyen el ec o columna 
b. Las salidas de
la ´unica capa ocul a se ep esen an con el ec o columna 
h. As´ı, las ecuaciones de la ed
son:

h= Wx +
b
ˆy=β
h
(3.11)
Pa a en ena una ed ELM, se comienza asignando alo es alea o ios a los pesos Wy
bias 
bde la capa ocul a. Con dichos alo es, se calculan las salidas 
h(i)de la capa ocul a pa-
a cada da o idel subconjun o de da os de en enamien o (Nda os en o al). Con los ec-
o es columna ob enidos pa a cada da o, se o ma una ma iz H=h
h(1) 
h(2) ... 
h(N)i.
Po o a pa e, se o ma una ma iz ila T=y(1) y(2) ... y(N)con los a ge s y(i)de
los da os de en enamien o. A con inuaci´on, se exige que las salidas de la ed pa a los
da os de en enamien o sean los a ge s, es deci , que:
βH =T(3.12)
Pa a ello, los pesos de la capa de salida βhan de oma los siguien es alo es [13]:
β=TH†(3.13)
donde H†es la in e sa gene alizada de Moo e-Pen ose (secci´on 3.3.1) de la ma iz H[13]1.
La p incipal en aja de las edes ELM es la apidez de su en enamien o. En luga de
un en enamien o i e a i o, como en las edes FFN, bas a con ealiza un c´alculo ma icial.
3.3.1. La in e sa gene alizada de Moo e-Pen ose
Las ma ices no cuad adas, como H, no ienen una ope aci´on de in e si´on H−1bien
de inida. Exis e, sin emba go, una ma iz H†llamada pseudoin e sa o in e sa gene alizada
de Moo e-Pen ose que puede u iliza se como ap oximaci´on de una hipo ´e ica H−1[1].
Un m´e odo pa a ob ene la pseudoin e sa se basa en la descomposici´on en alo es
singula es (SVD), seg´un la cual una ma iz Hde ama˜no m×nse descompone como [1]:
1N´o ese que, pa a man ene la cohe encia con el es o del abajo, la no aci´on u ilizada es lige amen e
dis in a a la habi ual en edes ELM (las ma ices es ´an aspues as con espec o a la no aci´on habi ual).
15
H=UDV T(3.14)
Ues una ma iz m×mo ogonal, y sus columnas se llaman ec o es singula es de
salida de H. Dichos ec o es se calculan como los ec o es p opios de HHT.
Des una ma iz m×nque s´olo iene elemen os no nulos en su diagonal, denominados
alo es singula es de H. Los alo es singula es de Hson las a´ıces cuad adas de los
alo es p opios de HHToHTH.
Ves una ma iz n×no ogonal, y sus columnas se llaman ec o es singula es de
en ada de H. Dichos ec o es se calculan como los ec o es p opios de HTH.
Teniendo en cuen a SVD, la pseudoin e sa puede calcula se de o ma di ec a a pa i
de la gene alizaci´on de la p opiedad (ABC)−1=C−1B−1A−1de la in e si´on de ma ices.
Aplicando es a p opiedad a la ecuaci´on 3.14:
H†=UDV T†=VT−1D†U−1=V D†UT(3.15)
donde la pseudoin e sa D†de la ma iz diagonal Dse calcula in i iendo sus elemen os
no nulos y asponiendo el esul ado [1]. En la ´ul ima igualdad se ha enido en cuen a que
las ma ices UyVson o ogonales, es deci , que U−1=UTyV−1=VT.
La jus i icaci´on de que H†es una ap oximaci´on de una hipo ´e ica H−1se basa en que
si la ma iz H iene mayo n´ume o de columnas que de ilas, la ecuaci´on ma icial Hx =y
iene m´ul iples soluciones, siendo x =H†y la de meno no ma eucl´ıdea ||x||. Si H iene
mayo n´ume o de ilas que de columnas, la ecuaci´on ma icial no siemp e iene soluci´on,
pe o x =H†y es el ec o que minimiza la no ma eucl´ıdea ||Hx −y|| [1].
Se e i ican esul ados an´alogos conside ando que x yy son ec o es ila y la ecuaci´on
ma icial xH =y, in e cambiando las palab as ilas po columnas (y ice e sa).
3.4. Algo i mos gen´e icos
En es a secci´on se ealiza una in oducci´on a los algo i mos gen´e icos (secci´on 3.4.1). A
con inuaci´on, se explica c´omo es e conjun o de ´ecnicas ML puede aplica se a la selecci´on
de ca ac e ´ıs icas (secci´on 3.4.2) y a la op imizaci´on de hipe pa ´ame os (secci´on 3.4.3).
3.4.1. In oducci´on a los algo i mos gen´e icos
Los algo i mos gen´e icos son un conjun o de ´ecnicas ML de op imizaci´on inspi adas
en la eo ´ıa de la e oluci´on de Da win y en la gen´e ica molecula . En es e abajo, se
u ilizan indis in amen e los ´e minos algo i mo gen´e ico y e olu i o, aunque es e ´ul imo
hace no malmen e e e encia a un conjun o m´as amplio de algo i mos. Seg´un los p incipios
de la gen´e ica molecula , un de e minado se i o es ´a ca ac e izado po su geno ipo
(su conjun o de genes), que codi ica su eno ipo (el conjun o de ca ac e ´ıs icas ´ısicas
obse ables a ni el mac osc´opico). Cada gen puede oma di e en es alo es o alelos y, en
unci´on de ellos el se i o en cues i´on end ´a un eno ipo u o o. Seg´un la eo ´ıa de la
e oluci´on de Da win, si se conside a una poblaci´on de indi iduos dis in os en un en o no
conc e o, hay algunos con un eno ipo m´as a o able pa a la supe i encia y ep oducci´on,
y o os con mayo es di icul ades pa a sob e i i y ep oduci se. A medida que anscu e
el iempo, la poblaci´on e oluciona hacia geno ipos que codi ican eno ipos m´as ap os pa a
el en o no conside ado. Es o es lo que se conoce como selecci´on na u al: los indi iduos
“m´as adap ados” sob e i en y se ep oducen, ansmi iendo su geno ipo a la gene aci´on
siguien e, mien as que los “menos adap ados” mue en y su geno ipo se a pe diendo [14].
16
Inspi ados en es a analog´ıa biol´ogica, su gen los algo i mos e olu i os. En el caso en el
que el eno ipo se codi ica en o ma de genes, es os algo i mos se conocen ambi´en como
algo i mos gen´e icos. En es e abajo, los indi iduos a op imiza son edes neu onales, y
la unci´on obje i o a minimiza es el MSE pa a los da os de es . Con espec o a los genes
(que no son m´as que los pa ´ame os del modelo neu onal que el algo i mo e olu i o oma
como a iables independien es en el p oceso de op imizaci´on), se conside an dos casos:
Algo i mos de selecci´on de ca ac e ´ıs icas: los genes son bina ios. Pa a cada a iable
del da ase , un 1 indica su inclusi´on como p edic o en el modelo de eg esi´on, mien-
as que un 0 indica su exclusi´on. El obje i o del algo i mo es encon a un modelo
que incluya como p edic o es el subconjun o de a iables que minimice MSE es .
Algo i mos de op imizaci´on de hipe pa ´ame os: los genes son n´ume os en e os o
eales, o bien a iables ca eg´o icas (en es e abajo s´olo se conside an genes en e os).
Cada gen es un hipe pa ´ame o (secci´on 3.1.5) del modelo de eg esi´on cuyo MSE es
se desea minimiza .
N´o ese que el m´ınimo encon ado po un algo i mo e olu i o no iene po qu´e se un
m´ınimo global, pe o puede se su icien emen e bueno pa a la aplicaci´on conside ada [14].
Funcionamien o de un algo i mo gen´e ico
Los algo i mos gen´e icos se basan en dos pila es: la a iaci´on de los geno ipos y la
selecci´on de indi iduos seg´un la unci´on obje i o. En p ime luga , se inicializa una po-
blaci´on de modelos ML con alo es alea o ios pa a sus genes, y se e al´ua la e iciencia de
cada uno (MSE es ). A con inuaci´on, comienza el siguien e p oceso i e a i o [14], en el que
la k-´esima i e aci´on cons i uye una poblaci´on de indi iduos llamada k-´esima gene aci´on:
1. Selecci´on de los pad es de u u os indi iduos en base a su e iciencia.
2. Recombinaci´on de los genes de los pad es pa a da luga a indi iduos hijos.
3. Mu aci´on con cie a p obabilidad de los hijos esul an es del paso an e io .
4. E aluaci´on de los nue os candida os en base a su e iciencia.
5. Selecci´on de los indi iduos que o ma ´an pa e de la siguien e gene aci´on.
Componen es de un algo i mo gen´e ico
Los componen es undamen ales de un algo i mo gen´e ico son [14]:
Rep esen aci´on o codi icaci´on de los genes (bina ios, en e os, eales, e c.).
Funci´on obje i o (po ejemplo, MSE es a minimiza ).
Poblaci´on: conjun o de indi iduos en una gene aci´on.
Mecanismo de selecci´on de los p ogeni o es, los co espondien es ope ado es se apli-
can a ni el de poblaci´on. Es e mecanismo p opo ciona una mayo p obabilidad de
ep oduci se a los indi iduos con mejo alo de la unci´on obje i o.
Ope ado es de mu aci´on: ope an sob e un indi iduo esul an e del c uce de dos
p ogeni o es (hijo). Es un ope ado que, de o ma alea o ia y con una peque˜na
p obabilidad, modi ica el alo de algunos de los genes del hijo.
Ope ado es de ecombinaci´on o c uce: ope an sob e dos indi iduos, los p ogeni o es,
pa a da uno o m´as descendien es. El ope ado , que puede se alea o io o de e -
minis a, selecciona qu´e genes de cada p ogeni o end ´an los hijos. C uzando dos
indi iduos con buen alo de la unci´on obje i o es espe able ob ene e en ualmen e
alg´un descendien e que mejo e dicho alo .
17
Mecanismo de selecci´on de supe i ien es: ope a a ni el de poblaci´on. Se aplica
una ez gene ados los descendien es de una gene aci´on pa a decidi qu´e indi iduos
pasa ´an a o ma pa e de la siguien e gene aci´on. Exis en dis in as es a egias,
algunas de ellas son de e minis as (se cogen los indi iduos con mejo alo de la
unci´on obje i o) y o as ienen alg´un componen e alea o io. Algunas es a egias
ambi´en dan mayo peso a los indi iduos m´as j´o enes.
En la pa e izquie da de la igu a 3.4 se mues a un posible ope ado de c uce pa a un
geno ipo bina io. Las l´ıneas ojas (pi o es) di iden el geno ipo en di e en es egiones, y el
hijo con iene en cada egi´on la copia del geno ipo de uno de sus p ogeni o es de mane a
al e na. En la pa e de echa se puede e un posible ope ado de mu aci´on pa a geno ipo
bina io. De mane a alea o ia (seg´un una asa de mu aci´on), algunos de los genes del hijo
(ma cados en ojo) cambian su alo . Exis en o os ipos de ope ado es de a iaci´on. Pa a
in o maci´on m´as de allada puede consul a se el lib o de Eiben y Smi h [14].
Figu a 3.4: Ejemplo de ope ado es de a iaci´on pa a una ep esen aci´on bina ia. Izquie da: ope ado de
c uce de dos pi o es. De echa: ope ado de mu aci´on.
En eo ´ıa, si el ope ado mu aci´on u ilizado pe mi e que pa iendo de un geno ipo dado
se pueda ob ene cualquie o o (po muy peque˜na que sea la p obabilidad), en onces el
algo i mo e olu i o en cues i´on es capaz de encon a el ´op imo global de la unci´on
obje i o si se deja co e su icien e iempo [14].
3.4.2. Selecci´on de ca ac e ´ıs icas con algo i mos gen´e icos
Los algo i mos gen´e icos pa a selecci´on de ca ac e ´ıs icas ienen como in encon a
el subconjun o de p edic o es del da ase que da luga al modelo ML de eg esi´on con
meno e o de es . As´ı, cada indi iduo es un modelo de eg esi´on, y la unci´on obje i o
a op imiza es MSE es (o el p omedio de MSE es pa a unos pocos en enamien os del
modelo). El geno ipo del modelo consis e en qu´e p edic o es inco po a y cu´ales no.
La ep esen aci´on u ilizada es bina ia: se u iliza un ec o cuya longi ud coincide con
el n´ume o de p edic o es en el da ase . Cada elemen o del ec o (gen) co esponde a un
p edic o del da ase . El alo 1 indica que dicho p edic o se incluye como a iable de
en ada en el modelo de eg esi´on, mien as que el alo 0 indica que no se incluye.
Los ope ado es de c uce y de mu aci´on son simila es a los que se mues an en la igu a
3.4, aunque exis en o as posibilidades [14]. T as c ea una se ie de indi iduos de pa ida
alea o ios y espe a unas cuan as gene aciones, la dis ibuci´on de geno ipos que exhiba
la poblaci´on e olucionada indica ´a qu´e a iables de p edicci´on son m´as impo an es pa a
el p oblema de eg esi´on que se desea esol e . De es a mane a, los algo i mos gen´e icos
p opo cionan no s´olo una mejo a en el modelo de eg esi´on ML, sino que ambi´en apo an
in uici´on ´ısica sob e el p oblema que esuel e el modelo.
18
3.4.3. Op imizaci´on de hipe pa ´ame os con algo i mos gen´e icos
En es e caso, los indi iduos son un modelo de eg esi´on (o el p omedio de a ios)
y la unci´on a op imiza sigue siendo un indicado de e iciencia (como el e o ). Las
a iables del algo i mo gen´e ico son los hipe pa ´ame os del modelo. Pa a una ed FFN
hay algunos hipe pa ´ame os en e os (como el n´ume o de neu onas en cada capa ocul a),
o os ca eg´o icos (como la unci´on de ac i aci´on de cada capa) y o os eales (como el
lea ning a e). En es e abajo, a las a iables ca eg´o icas y eales a op imiza se les
asocia una a iable en e a pa a simpli ica el algo i mo y educi su iempo de ejecuci´on:
A cada una de las nca ego ´ıas de una a iable ca eg´o ica se le asigna un en e o
en e 1 y n.
En el caso de las a iables eales se escogen nposibles alo es eales pa a la a iable,
y a cada uno se le asigna un en e o en e 1 y n.
El algo i mo gen´e ico de op imizaci´on de hipe pa ´ame os iene un uncionamien o
simila al que se ha explicado en la secci´on 3.4.1, con la sal edad de que los ope ado es
de c uce y mu aci´on aho a ac ´uan sob e genes en e os (en luga de bina ios).
Los ope ado es de mu aci´on pa a genes en e os mu an cada gen de mane a indepen-
dien e seg´un una asa de mu aci´on (p obabilidad p), y se subdi iden en dos g upos [14]:
Mu aci´on alea o ia: pa a cada gen, en base a una p obabilidad p, se escoge un nue o
alo de mane a alea o ia de en e odos los posibles alo es del gen. Es e ope ado
es adecuado pa a a iables en e as que ep esen an ca ego ´ıas.
Mu aci´on c eep: consis e en suma una peque˜na can idad (posi i a o nega i a) a
cada gen con una p obabilidad p. Los alo es a suma se escogen alea o iamen e de
una dis ibuci´on cen ada en ce o, po ejemplo, una dis ibuci´on binomial. Es e ipo
de ope ado es es adecuado pa a genes que son en e os pe se.
Respec o a los ope ado es de ecombinaci´on, lo no mal suele se u iliza el mismo ipo
de ope ado es que pa a las ep esen aciones de genes bina ias, po ejemplo, el ope ado
basado en pi o es mos ado en la pa e izquie da de la igu a 3.4 [14].
19

4. Expe imen os y esul ados ob enidos
En es a secci´on se aplican las ´ecnicas explicadas en la secci´on 3 al desa ollo de
un modelo de eg esi´on pa a p edeci la empe a u a c ´ı ica de un supe conduc o (Tc)
pa iendo de su ´o mula emp´ı ica. En la secci´on 4.1 se p esen a el da ase u ilizado y los
81 p edic o es del modelo. En la secci´on 4.2 se ealiza una selecci´on de p edic o es en base
al coe icien e de co elaci´on.
En las secciones 4.3 y 4.4 se en enan, espec i amen e, modelos FFN y ELM con los 52
p edic o es seleccionados. Se desca a u iliza ELM en base a los esul ados ob enidos. En
las secciones 4.5 y 4.7 se ealiza una selecci´on de ca ac e ´ıs icas con algo i mos gen´e icos
u ilizando FFN como modelo de eg esi´on (dos ejecuciones consecu i as del algo i mo de
selecci´on). Las edes FFN con el n´ume o de p edic o es esul an e as la selecci´on (38 y
35, espec i amen e) se analizan en las secciones 4.6 y 4.8, espec i amen e.
A con inuaci´on, se ealiza una op imizaci´on de los hipe pa ´ame os del modelo FFN
con 35 p edic o es u ilizando, pa a ello un algo i mo gen´e ico (secci´on 4.9). La ed FFN
esul an e se es udia en la secci´on 4.10.
Finalmen e, en la secci´on 4.11 se ealiza una ecapi ulaci´on de los dis in os modelos
en enados a lo la go de la secci´on 4 y se ealiza una compa a i a en e sus e iciencias.
4.1. Desc ipci´on del da ase u ilizado
El da ase u ilizado pa a el desa ollo de los modelos ML pa a la p edicci´on de Tc ue
c eado po Kam Hamidieh siguiendo los pasos desc i os en la e e encia [3]. Es ´a basado
en la base de da os “Supe conduc ing Ma e ial Da abase” man enida po el Ins i u o
Nacional Japon´es de Ciencia de Ma e iales (NIMS). El da ase con iene 21263 en adas
o mues as co espondien es a dis in os supe conduc o es. Pa a cada en ada, hay 81
a iables o p edic o es (cada una en una columna) elacionadas con la ´o mula emp´ı ica
del supe conduc o . La ´ul ima columna con iene las empe a u as c ´ı icas Tc(en Kel in),
que son los a ge s de los modelos desa ollados. El iche o con los da os se llama ain.cs .
La p ime a columna con iene el n´ume o o al de elemen os (dis in os) en el supe -
conduc o . Las o as 80 columnas co esponden a ca ac e ´ıs icas ex a´ıdas a pa i de las
siguien es 8 p opiedades de los elemen os a ´omicos: masa a ´omica (a omic mass), p ime-
a ene g´ıa de ionizaci´on ( ie), adio a ´omico (a omic adius), densidad (densi y), a inidad
elec ´onica (elec on a ini y), calo de usi´on ( usion hea ), conduc i idad ´e mica ( he -
mal conduc i i y) y alencia ( alence). N´o ese que el au o se ha inspi ado en las eglas
de Ma hias (secci´on 2.2) pa a escoge es as p opiedades [3].
Pa a cada una de las 8 p opiedades de los elemen os, se calculan 10 p edic o es
conside ando la ´o mula emp´ı ica del supe conduc o (las 80 columnas es an es). Di-
chos p edic o es son: media (mean), media ponde ada (w d mean), media geom´e ica
(gmean), media geom´e ica ponde ada (w d gmean), en op´ıa (en opy), en op´ıa pon-
de ada (w d en opy), ango ( ange), ango ponde ado (w d ange), des iaci´on es ´anda
(s d) y des iaci´on es ´anda ponde ada (w d s d). Las exp esiones pa a el c´alculo de los
p edic o es y un ejemplo pueden e se con de alle en el a ´ıculo de Kam Hamidieh [3].
Se decide elimina cua o en adas con Tca m´as de 3 des iaciones ´ıpicas de la dis i-
buci´on de empe a u as c ´ı icas (ou lie s): H2S1(185 K), Hg0.66Pb0.34Ba2Ca1.98Cu2.9O8.4
(143 K), Hg0.7Pb0.3Ba2Ca2Cu3O8(143 K) y Tl0.8Hg0.2Ba2Ca2Cu3O9(137.4 K). As´ı, el da-
ase esul an e iene 21259 supe conduc o es. En la igu a 4.1 se mues a el his og ama
de Tcde los supe conduc o es del da ase . Como es de espe a , la mayo pa e de da-
20
os co esponden a Tcp ´oximos al ce o absolu o. La p opo ci´on de supe conduc o es con
Tc>95 K es peque˜na. El alo medio es de 34.3991 K y la des iaci´on ´ıpica de 34.2184 K.
Figu a 4.1: His og ama de empe a u as c ´ı icas de los supe conduc o es del da ase .
Finalmen e, cada una de las 81 ca ac e ´ıs icas y los a ge s se no malizan u ilizando
zsco es (ecuaci´on 3.2). Se ha comp obado que es e ipo de no malizaci´on da mejo es
esul ados que el escalado al ango [0,1] (ecuaci´on 3.3) median e p uebas p elimina es
con unas pocas edes FFN. A pa i de aho a se u iliza es e ipo de no malizaci´on.
4.2. Selecci´on de ca ac e ´ıs icas con el coe icien e de co elaci´on
Una ez p epa ado el da ase , se u iliza el coe icien e de co elaci´on (ap´endice A.2)
pa a educi el n´ume o de p edic o es. La ma iz de co elaci´on pa a las 81 a iables es
de ama˜no 81 ×81. En luga de abaja con dicha ma iz, se buscan co elaciones en
las subma ices 10 ×10 co espondien es a los 10 p edic o es asociados a cada p opiedad
a ´omica. Como c i e io pa a desca a una de dos a iables en e ayb, se u iliza Rab ≥0.9.
Tabla 4.1: Subma iz de co elaciones pa a los p edic o es elacionados con la masa a ´omica
.
En la abla 4.1 se mues a la subma iz de co elaciones pa a las a iables elacionadas
con la masa a ´omica. Se mues an en e de los coe icien es R≥0.90, en ama illo 0.85 ≤
R < 0.9 y en azul 0.80 ≤R < 0.85. Como ejemplo, se explica el p oceso de eliminaci´on
de ca ac e ´ıs icas edundan es pa a es a subma iz. U ilizando el c i e io R≥0.9:
mean a omic mass es ´a co elacionado con gmean a omic mass.
w d mean a omic mass con w d gmean a omic mass.
ange a omic mass con s d a omic mass y con w d s d a omic mass.
21
s d a omic mass con w d s d a omic mass.
As´ı, de las 10 a iables elacionadas con la masa a ´omica se seleccionan 6 eliminando
edundancias po co elaci´on: mean a omic mass,w d mean a omic mass,en opy a omic
mass,w d en opy a omic mass,w d ange a omic mass yw d s d a omic mass.
Tabla 4.2: Va iables seleccionadas (ma cadas con “X”) en base a los coe icien es de co elaci´on.
mean w d mean gmean w d gmean en opy w d en opy ange w d ange s d w d s d
a omic mass X X X X X X
ie X X X X X X
a omic adius X X X X X X
densi y X X X X X X
elec on a ini y X X X X X X X X X
usion hea X X X X X X
he mal conduc i i y X X X X X X X X
alence X X X X
En la abla 4.2 se mues an las a iables seleccionadas de la mane a explicada en los
p´a a os an e io es. A es as a iables hay que a˜nadi el n´ume o de elemen os. En o al, se
han seleccionado 52 ca ac e ´ıs icas de las 81 que se hab´ıan ex a´ıdo inicialmen e.
4.3. Redes FFN con las 52 ca ac e ´ıs icas seleccionadas
Una ez seleccionados los 52 p edic o es mencionados, se ha p ocedido al en enamien-
o de edes FFN (obje o “ eed o wa dne ” del “Deep Lea ning Toolbox” de MATLAB).
Se ha op ado po u iliza en un inicio los pa ´ame os mos ados en la abla 4.3, escogidos
as ealiza p uebas p elimina es. Pa a m´as in o maci´on sob e es os u o os pa ´ame os
de la ed cons´ul ese la documen aci´on de los obje os “ eed o wa dne ” de MATLAB [15].
Tabla 4.3: Pa ´ame os u ilizados pa a el en enamien o de las edes FFN.
Pa ´ame o Valo Desc ipci´on
hidden [18 10] N´ume o de neu onas en cada capa ocul a.
ainFcn ‘ ainscg’ En enamien o con backp opaga ion de g adien e
conjugado escalado.
pe o mFcn ‘mse’ E o cuad ´a ico medio como unci´on e o .
ainPa am.l 0.3 Lea ning a e, asa de ap endizaje.
ainPa am.max ail 300 M´aximo n´ume o de epochs du an e el que con in´ua
el en enamien o si no disminuye MSE al.
ainPa am.min g ad 1e-10 M´ınimo g adien e pa a que con in´ue el p oceso de
en enamien o.
ainPa am.epochs 10000 N´ume o m´aximo de epochs en el en enamien o.
Pa a acele a el p oceso de en enamien o de las edes, se u iliza de aho a en adelan e
el alo ‘ ue’ pa a la opci´on ‘UsePa allel’, que habili a la pa alelizaci´on del en enamien o
en e los dis in os n´ucleos de la CPU (Cen al P ocessing Uni ) de la compu ado a u ili-
zada. En los casos en los que se ha u ilizado un o denado que dispone de GPU (G aphics
P ocessing Uni ) ambi´en se ha usado el alo ‘ ue’ pa a la opci´on ‘UseGPU’.
Pa a e alua la e iciencia de las edes con es os pa ´ame os y las 52 ca ac e ´ıs icas, se
han en enado 20 edes con dis in as di isiones de da os y dis in os alo es iniciales de
los pesos, con el in de e i a el sesgo. En la abla 4.4 se mues an los alo es medios de
algunos indicado es de su e iciencia pa a los da os de en enamien o, alidaci´on y es :
e o cuad ´a ico medio pa a los a ge s no malizados (MSEno m), a´ız del e o cuad ´a ico
medio en Kel in (RMSE (K), ´ease ap´endice C), coe icien e de co elaci´on Ry coe icien e
22
de de e minaci´on R2. E iden emen e, los meno es e o es y mayo es alo es de R2se ob-
ienen pa a los da os de en enamien o. Los indicado es que ealmen e miden la e iciencia
son los co espondien es a los da os de es . Pa a los da os de es , los alo es p omedio
ob enidos son RMSE = 12.56 K y R2= 0.8651. Toda ´ıa hay ma gen de mejo a has a el
umb al R2≥0.9 habi ualmen e conside ado sa is ac o io.
Tabla 4.4: Valo es medios de algunos indicado es de e iciencia de en enamien o, alidaci´on y es pa a
20 edes FFN con 52 p edic o es y los pa ´ame os de la abla 4.3.
En enamien o Validaci´on Tes
Mejo Peo Medio Mejo Peo Medio Mejo Peo Medio
MSEno m 0.0913 0.1274 0.1075 0.1172 0.1489 0.1319 0.1212 0.1567 0.1348
RMSE (K) 10.34 12.21 11.22 11.71 13.20 12.43 11.91 13.55 12.56
R0.9535 0.9336 0.9448 0.9394 0.9217 0.9319 0.9381 0.9188 0.9301
R20.9092 0.8716 0.8926 0.8825 0.8495 0.8684 0.8800 0.8442 0.8651
En la igu a 4.2 se mues a el e o a lo la go del p oceso de en enamien o de una de las
20 edes en enadas pa a los da os de en enamien o, alidaci´on y es . La l´ınea discon inua
ep esen a la epoch con el meno e o de alidaci´on, que se u iliza pa a moni o iza el
comienzo del o e i ing. T as 300 epochs de paciencia se de iene el en enamien o.
Figu a 4.2: MSE ain, MSE al y MSE es (pa a los a ge s no malizados) en e al n´ume o de epochs pa a
una de las edes con 52 p edic o es y los pa ´ame os de la abla 4.3
En la igu a 4.3 se mues an las g ´a icas de eg esi´on (salida del modelo en e a alo
eal) con los a ge s no malizados pa a la misma ed que en la igu a 4.2. Si el modelo
de eg esi´on ue a pe ec o, se obse a ´ıan odos los pun os sob e la diagonal se˜nalada
con pun os discon inuos en las g ´a icas. Se obse a que, en gene al, es e modelo iende a
p edeci meno es alo es de Tcque los eales pa a los ma e iales con mayo Tc.
4.4. Redes ELM con las 52 ca ac e ´ıs icas seleccionadas
Con is as a educi el iempo de ejecuci´on de los algo i mos e olu i os que se p esen-
an m´as adelan e, se p ueba a en ena edes ELM, ya que su iempo de en enamien o
es conside ablemen e meno al de las edes FFN. Se ealizan p uebas con en e 1 y 1000
neu onas en la ´unica capa ocul a, u ilizando los 52 p edic o es seleccionados. N´o ese que,
como el en enamien o de las edes ELM es un c´alculo ma icial, sin necesidad de ealiza
23
Tabla 4.14: Opciones u ilizadas pa a el algo i mo gen´e ico de op imizaci´on de hipe pa ´ame os.
Opci´on Valo Desc ipci´on
‘Popula ionType’ Po de ec o
Codi icaci´on del geno ipo de los indi iduos. Po de-
ec o, los genes son eales sal o aquellos que se espe-
ci iquen en in con como en e os.
‘Popula ionSize’ Po de ec o m´ın (m´ax (10 ·n a s, 40),100) = 60
Figu a 4.9: Valo medio y meno alo de MSE es pa a cada gene aci´on del algo i mo gen´e ico.
la unci´on de ac i aci´on de la p ime a capa ocul a o el po cen aje de aining da a, es ´an
p ´ac icamen e homogeneizados pa a oda la poblaci´on, hay o os con mayo a iabilidad.
En la abla 4.15 se mues an los alo es (o angos de alo es) de los hipe pa ´ame os
pa a el mayo sec o de los g ´a icos y pa a el mejo indi iduo (meno MSE es ) de la
gene aci´on 34. Con espec o a las edes FFN de secciones an e io es, las edes op imizadas:
Tabla 4.15: Valo es de los hipe pa ´ame os pa a el mayo sec o del g ´a ico de sec o es y pa a el mejo
indi iduo (meno MSE es ) de la gene aci´on 34.
Hipe pa ´ame o Mayo Sec o Mejo Indi iduo
a) N´ume o de neu onas 1acapa ocul a [350,400) 422
b) N´ume o de neu onas 2acapa ocul a [30,60) 36
c) Funci´on de ac i aci´on 1acapa ocul a ‘poslin’ ‘poslin’
d) Funci´on de ac i aci´on 2acapa ocul a ‘logsig’ ‘logsig’
e) lea ning a e 0.1 0.01
) Po cen aje de aining da a 70 % 70 %
Tienen un n´ume o de neu onas mayo que las an e io es (hidden = [18,10]).
U ilizan una p ime a capa ocul a con unci´on de ac i aci´on ‘poslin’ ( ReLU) en luga
de ‘logsig’ (sigmoide).
El lea ning a e u ilizado es el mismo que en edes an e io es, 0.1, en el caso del
mayo sec o , y meno , 0.01, en el caso del mejo indi iduo.
Respec o al po cen aje de aining da a, cuan os m´as da os se u ilicen pa a en ena
el modelo mejo se ´a ´es e, luego no so pende que un 97 % de los indi iduos u ilicen el
mayo alo conside ado, 70 %. Sin emba go, se segui ´a u ilizando un alo de 60 %
po consis encia en la compa aci´on con o os modelos desa ollados en el abajo.
El iempo de en enamien o de las edes op imizadas es mayo (unos 10 min en e
a 3 min en las no op imizadas), po su mayo n´ume o de neu onas.
30

Figu a 4.10: Diag amas de sec o es de los geno ipos de los 70 indi iduos de la gene aci´on 34.
4.10. Redes FFN op imizadas con 35 ca ac e ´ıs icas
Una ez ealizada la op imizaci´on de hipe pa ´ame os, se en enan edes FFN conside-
ando los pa ´ame os op imizados de la abla 4.15. Pa a cada conjun o de pa ´ame os, se
en enan 20 edes y se oma el p omedio de sus MSE es como indicado de su e iciencia. En
ambos casos, se u iliza un 60 % de aining da a, po los mo i os expues os en la secci´on
4.9. Se ija, ambi´en, ainFcn =‘ ainscg’,pe o mFcn =‘mse’, ainPa am.max ail =
31
300, ainPa am.min g ad = 1e-10, ainPa am.epochs = 10000.
En la abla 4.16 se mues an los alo es de los hipe pa ´ame os op imizados pa a la
mejo ed ob enida, y en la abla 4.17 sus indicado es de e iciencia de en enamien o,
alidaci´on y es . Todos ellos mejo an con espec o a an es de la op imizaci´on de hipe -
pa ´ame os. Es con enien e des aca algunos de es os indicado es:
Tabla 4.16: Valo es de los hipe pa ´ame os op imizados pa a la mejo ed ob enida.
N´ume o de neu onas 1acapa ocul a 400
N´ume o de neu onas 2acapa ocul a 36
Funci´on de ac i aci´on 1acapa ocul a ‘poslin’
Funci´on de ac i aci´on 2acapa ocul a ‘logsig’
lea ning a e 0.01
Po cen aje de aining da a 60 %
Tabla 4.17: Valo es medios de algunos indicado es de e iciencia de en enamien o, alidaci´on y es pa a
20 edes FFN con 35 p edic o es y los pa ´ame os de la abla 4.16.
En enamien o Validaci´on Tes
Mejo Peo Medio Mejo Peo Medio Mejo Peo Medio
MSEno m 0.0628 0.0817 0.0714 0.1075 0.1338 0.1167 0.1042 0.1291 0.1161
RMSE (K) 8.58 9.78 9.14 11.22 12.52 11.69 11.05 12.29 11.66
R0.9683 0.9581 0.9637 0.9464 0.9298 0.9399 0.9464 0.9338 0.9407
R20.9376 0.9180 0.9287 0.8957 0.8645 0.8834 0.8957 0.8720 0.8849
Pa a la ed con 35 p edic o es sin op imiza , los p omedios pa a los da os de en-
enamien o son RMSE = 10.64 K y R2= 0.9033. T as la op imizaci´on, se ob iene
RMSE = 9.14 K y R2= 0.9287. Es a mejo ´ıa indica que el aumen o de la compleji-
dad del modelo (mayo n´ume o de neu onas) mejo a la e iciencia de en enamien o.
Es deci , que el modelo inicial es demasiado simple pa a el p oblema.
La ed con 35 p edic o es sin op imiza iene p omedios de es de RMSE = 12.21 K
yR2= 0.8733. T as la op imizaci´on, se ob iene RMSE = 11.66 K y R2= 0.8849.
El aumen o en la complejidad del modelo ealizado no disminuye su capacidad de
gene alizaci´on, sino que la aumen a.
El uso de unciones ReLU en la p ime a capa ocul a mejo a la e iciencia.
En la igu a 4.11 se mues an las g ´a icas de eg esi´on (salida p edicha en e a alo
eal) con Tcno malizada pa a una de las edes op imizadas. En compa aci´on con las
ob enidas en el p ime modelo FFN ( igu a 4.3), hay muchos menos pun os alejados de la
bisec iz del p ime cuad an e, luego la mejo ´ıa conseguida ha sido signi ica i a.
Figu a 4.11: G ´a icas de eg esi´on con los da os no malizados pa a una de las edes op imizadas.
32
4.11. Compa a i a y discusi´on
En la abla 4.18 se mues a una compa a i a de la e iciencia (p omedio de 20 edes)
de las dis in as edes en enadas en es e abajo, indicando la secci´on de la memo ia
co espondien e a dicha ed. Adem´as, se indican como ilas en e as los algo i mos de
selecci´on de ca ac e ´ıs icas y op imizaci´on de hipe pa ´ame os ejecu ados, de modo que
la abla sigue un o den c onol´ogico de a iba hacia abajo.
Tabla 4.18: Compa a i a del p omedio (20 edes) del RMSE y de R2de es pa a las dis in as edes.
Secci´on RMSE es (K) R2
es
Selecci´on de ca ac e ´ıs icas en base al coe icien e de co elaci´on (secci´on 4.2)
FFN con 52 ca ac e ´ıs icas 4.3 12.56 0.8651
ELM con 52 ca ac e ´ıs icas 4.4 14.35 0.8245
Selecci´on de ca ac e ´ıs icas con algo i mos gen´e icos (I) (secci´on 4.5)
FFN con 38 ca ac e ´ıs icas 4.6 12.36 0.8699
Selecci´on de ca ac e ´ıs icas con algo i mos gen´e icos (II) (secci´on 4.7)
FFN con 35 ca ac e ´ıs icas 4.8 12.21 0.8733
Op imizaci´on de hipe pa ´ame os con algo i mos gen´e icos (secci´on 4.9)
FFN op imizada con 35 ca ac e ´ıs icas 4.10 11.66 0.8849
Las p ime as edes en enadas, an o FFN como ELM, ienen 52 p edic o es, seleccio-
nados en base al coe icien e de co elaci´on. Se obse a que ELM a oja un RMSE casi 2 K
mayo que FFN y un R20.04 pun os meno .
La p ime a ejecuci´on del algo i mo gen´e ico de selecci´on con edes FFN educe los
p edic o es a 38. Tambi´en mejo an los pa ´ame os de e iciencia de es : RMSE disminuye
en 0.2 K, y R2aumen a unos 0.004 pun os. La segunda ejecuci´on del algo i mo educe los
p edic o es a 35, adem´as de disminui RMSE en 0.15 K y aumen a R2en 0.0034 pun os.
Finalmen e, la op imizaci´on de hipe pa ´ame os educe RMSE es o os 0.55 K y au-
men a R2
es o os 0.0116 pun os. Se obse a, as´ı, que el mayo aumen o de la e iciencia se
da con la op imizaci´on de hipe pa ´ame os. A´un as´ı, no se llega al umb al R2≥0.9.
Con espec o a la selecci´on de ca ac e ´ıs icas, inalmen e se han seleccionado 35 p edic-
o es, los 34 de la abla 4.10 jun o al n´ume o de elemen os dis in os en el supe conduc o .
Los p edic o es seleccionados p opo cionan in uici´on ´ısica sob e qu´e a iables a ec an a Tc
y sugie en que aquellas p opiedades a ´omicas pa a las que se inco po an como p edic o es:
La media a i m´e ica o la media a i m´e ica pesada (masa a ´omica, p ime a ene g´ıa de
ionizaci´on, adio a ´omico, densidad, conduc i idad ´e mica) in luyen en Tcmedian e
una elaci´on lineal.
La media geom´e ica pesada (a inidad elec ´onica y alencia) en an en la ´o mula
de Tccomo una a´ız n-´esima.
La en op´ıa o la en op´ıa ponde ada ( odas) apa ecen en la exp esi´on de Tccomo
sumas de loga i mos.
El ango ponde ado (p ime a ene g´ıa de ionizaci´on, adio a ´omico, a inidad elec ´oni-
ca) en an en la unci´on Tccomo es as ponde adas de los alo es ex emos.
La des iaci´on ´ıpica o la des iaci´on ´ıpica ponde ada (masa a ´omica, p ime a ene g´ıa
de ionizaci´on, adio a ´omico, a inidad elec ´onica, conduc i idad ´e mica y alencia)
en an en la ´o mula de Tccomo a´ıces cuad adas de sumas de ´e minos cuad ´a icos.
En base a es o, se con i ma que la hipo ´e ica unci´on ma em´a ica pa a Tces bas an e
compleja. Es po ello que los modelos ML esul an de u ilidad en con ex os como ´es e,
con una soluci´on anal´ı ica compleja.
33
5. Conclusiones y l´ıneas u u as
En es e abajo se ha desa ollado un modelo ML pa a la p edicci´on de la empe a u a
c ´ı ica de ma e iales supe conduc o es pa iendo de su ´o mula emp´ı ica. Se han u ilizado
dos ipos de modelos ML de eg esi´on, las edes FFN y ELM. Es as ´ul imas se han desca -
ado debido a su baja e iciencia. Adem´as de los modelos de eg esi´on, se ha u ilizado o o
conjun o de ´ecnicas ML, los algo i mos gen´e icos, pa a educi el n´ume o de p edic o es
en el modelo de eg esi´on y op imiza sus hipe pa ´ame os.
Pa a desa olla el modelo de eg esi´on, se ha u ilizado un da ase ealizado po Kam
Hamidieh [3]. Dicho da ase con iene 21263 mues as (de las que se han eliminado 4
ou lie s), cada una con 81 p edic o es ex a´ıdos a pa i de la ´o mula emp´ı ica de los
supe conduc o es y las empe a u as c ´ı icas co espondien es, ob enidas de la base de
da os Supe con. An es de comenza a en ena los modelos ML, se ha educido el n´ume o
de p edic o es a 52 eliminando aquellos con coe icien e de co elaci´on R > 0.9 con espec o
a alg´un o o p edic o .
T as en ena a ias edes FFN con 52 p edic o es, se ha educido el n´ume o de p e-
dic o es a 35 po medio del uso de algo i mos gen´e icos pa a selecci´on de ca ac e ´ıs icas.
Como esul ado de dicha selecci´on de ca ac e ´ıs icas se ha ob enido no s´olo un modelo
m´as simple sino ambi´en una mayo e iciencia, pues dicho modelo con meno n´ume o de
p edic o es iene mayo capacidad de gene alizaci´on que el modelo inicial con 52 p edic o-
es. Adem´as, la selecci´on de ca ac e ´ıs icas ha se ido ambi´en pa a gana in uici´on ´ısica
ace ca de qu´e a iables de las conside adas como p edic o es en a ´ıan y c´omo en una
hipo ´e ica ´o mula anal´ı ica pa a la empe a u a c ´ı ica. Se ha con i mado, de es a o ma,
la espe able complejidad de es a ´o mula que sigue sin encon a se a pesa de los es ue zos
ealizados po la comunidad cien ´ı ica.
Finalmen e, se han u ilizado algo i mos gen´e icos simila es a los u ilizados pa a la
selecci´on de ca ac e ´ıs icas pa a op imiza los hipe pa ´ame os del modelo de eg esi´on
FFN con 35 p edic o es. El algo i mo de op imizaci´on ha pues o de mani ies o que el
n´ume o de neu onas necesa io es mayo que el conside ado inicialmen e y que esul a
bene icioso pa a es e p oblema u iliza una unci´on de ac i aci´on ReLU, en luga de la
sigmoide, en la p ime a capa ocul a. Es e modelo op imizado con 35 p edic o es iene
unos indicado es de e iciencia p omedio pa a los da os de es de RMSE = 11.66 K y
R2= 0.8849. Es os indicado es no llegan a supe a a los ob enidos con los modelos basados
en XGBoos , andom o es obagged ees mencionados en la in oducci´on, aunque hay
que ene en cuen a que el modelo FFN es compu acionalmen e m´as sencillo que ´es os.
A pesa de no habe supe ado el umb al R2>0.9 y de habe o os abajos que
ob ienen mejo es indicado es de e iciencia, el modelo desa ollado esul a de in e ´es po que
ha conseguido educi el n´ume o de p edic o es en un 56.79 %, p opo cionando la in uici´on
´ısica ya mencionada. Adem´as, se ha ilus ado c´omo los algo i mos gen´e icos pa a selecci´on
de ca ac e ´ıs icas y op imizaci´on de hipe pa ´ame os pueden esul a ´u iles como modelos
auxilia es a la ho a de desa olla un modelo de eg esi´on, con esul ados sa is ac o ios.
G acias a es os algo i mos, es posible explo a un espacio de posibilidades mucho mayo
que el que se ´ıa iable explo a de mane a manual o i e a i a (p obando una po una
odas las posibilidades). Se ha comp obado, po o a pa e, que las edes neu onales son
ambi´en una po en e he amien a pa a a a de ap oxima unciones desconocidas (po
su complejidad u o os mo i os), como la unci´on pa a la empe a u a c ´ı ica. Es e abajo
es un ejemplo de c´omo las edes neu onales y los algo i mos gen´e icos, en e o as ´ecnicas
ML, pueden esul a de u ilidad como he amien a adicional a las he amien as anal´ı icas
34
y num´e icas en la esoluci´on de p oblemas ´ısicos complejos.
A ni el acad´emico pe sonal, es e abajo me ha se ido pa a sume gi me en el mundo
del ML y de la IA, que se es ´a desa ollando a una elocidad cada ez m´as e iginosa.
Con los modelos desa ollados he ap endido c´omo se pueden u iliza las edes neu onales
(y o os modelos de eg esi´on) jun o con los algo i mos gen´e icos pa a esol e p oblemas
de ´ısica, y que no s´olo se a a de una me a caja neg a que p edice un esul ado, sino que
ambi´en se puede gana in uici´on que pueda se i de ayuda en el desa ollo de una eo ´ıa
anal´ı ica. Adem´as, es e abajo me ha supues o una opo unidad pa a ap ende sob e el
en´omeno de la supe conduc i idad, de g an in e ´es en campos como el almacenamien o
y anspo e de la ene g´ıa o la c eaci´on de campos magn´e icos ue es que an en auge
es ´an ac ualmen e.
Pa a da in a es a secci´on, se p oponen una se ie de l´ıneas de abajo u u as que
pod ´ıan se in e esan es pa a con inua con el es udio ealizado en es e TFG:
Desa olla un modelo ML pa a p edeci la empe a u a c ´ı ica de supe conduc o es
que incluya como p edic o es pa ´ame os elacionados con la es uc u a c is alina
(que, seg´un las eglas de Ma hias, en la secci´on 2.2, in luye en la supe conduc i i-
dad).
Desa olla un modelo de clasi icaci´on que p ediga si un ma e ial es supe conduc-
o o no (el modelo desa ollado p edice Tcconside ando que la ´o mula emp´ı ica
p opo cionada co esponde a un supe conduc o ).
U iliza ´ecnicas de P og amaci´on Gen´e ica pa a a a de encon a una unci´on
anal´ı ica pa a la empe a u a c ´ı ica en unci´on de los p edic o es u ilizados en el
modelo de eg esi´on. Es as ´ecnicas an cons uyendo unciones en base a unas a ia-
bles de en ada y un conjun o de ope ado es, y dichas unciones an e olucionando
seg´un un algo i mo gen´e ico hacia una que minimice el e o .
Desa olla un modelo que sepa ex ae las ca ac e ´ıs icas a pa i de la ´o mula
emp´ı ica y los da os de los elemen os a ´omicos, pa a no pe de in o maci´on al eali-
za la ex acci´on de mane a manual. El p incipal es ue zo es a ´ıa en encon a una
ep esen aci´on de los da os que pe mi ie a, adem´as de la ´o mula emp´ı ica, p opo -
ciona al modelo la mul i ud de pa ´ame os a ´omicos necesa ios pa a la ex acci´on
de ca ac e ´ıs icas.
B´usqueda de modelos basados en l´ogica di usa (en ´e minos de conjun os bo o-
sos, de inidos po eglas imp ecisas) pa a gana in uici´on sob e qu´e ca ac e ´ıs icas
in luyen m´as sob e la empe a u a c ´ı ica.
Conside ando que a d´ıa de hoy los ´unicos supe conduc o es de al a empe a u a
que se han encon ado equie en ambi´en de condiciones de al a p esi´on, desa olla
modelos que ambi´en ecojan la in luencia de la p esi´on.
Es ´a cla o que el e o de la supe conduc i idad a empe a u a ambien e iene oda ´ıa
mucho camino que eco e . Pa a e mina de acla a qu´e a iables in luyen sob e la
empe a u a c ´ı ica y sob e si un ma e ial es supe conduc o o no, es necesa io un equipo
mul idisciplina de expe os en ´ısica de ma e iales y expe os en aplicaci´on de ´ecnicas
num´e icas y ´ecnicas ML a p oblemas de ´ısica.
35

Glosa io
backp opaga ion Algo i mo pa a p opaga el e o de una ed mul icapa desde la salida
hacia las capas in e nas.
bandgap In e alo p ohibido de ene g´ıas comp endido en e dos ni eles o bandas pe mi-
idos.
ba ch lea ning Ac ualizaci´on de los pesos conside ando el e o o al pa a odos los
da os de en enamien o.
BCS Teo ´ıa de la supe conduc i idad de Ba deen-Coope -Sch ie e .
bias T´e mino cons an e que se suma a una combinaci´on lineal.
classi ica ion Clasi icaci´on, e e ido a un algo i mo.
clus e Cada uno de los g upos de un algo i mo de clus e ing.
clus e ing Ag upaci´on, e e ido a un algo i mo.
CPU Cen al P ocessing Uni , Unidad de P ocesamien o Cen al.
da ase Base de da os.
ELM Ex eme Lea ning Machine, es un ipo de NN de una capa ocul a.
epoch Conjun o de an as ac ualizaciones sucesi as de pesos como da os de en enamien-
o, una pa a cada da o.
ea u e selec ion Selecci´on de ca ac e ´ıs icas.
ea u es Ca ac e ´ıs icas o a iables de una en ada de una base de da os.
FFN Feed-Fo wa d Ne wo k, ed neu onal en la que la in o maci´on luye solamen e en la
di ecci´on de en ada a salida.
o wa d-p opaga ion P opagaci´on de un da o desde la en ada de la ed hacia la salida..
gene aliza ion Gene alizaci´on, capacidad de un modelo de log a buenos esul ados con
da os no is os du an e el en enamien o.
gene ic algo i hm Algo i mo gen´e ico.
GPU G aphics P ocessing Uni , Unidad de P ocesamien o de G ´a icos.
hidden Ocul a, hace e e encia a una e apa in e na de un modelo ML.
hype pa ame e s Hipe pa ´ame os de un modelo ML.
IA In eligencia A i icial.
laye Capa de una ed neu onal.
lea ning a e Tasa de ap endizaje de un modelo ML.
ML Machine Lea ning, se aduce como Ap endizaje Au om´a ico.
MSE Mean Squa ed E o , E o Cuad ´a ico Medio.
mul ilaye De a ias capas, e e ido a una ed neu onal.
NN Neu al Ne wo k, Red Neu onal.
on-line lea ning Ac ualizaci´on de los pesos conside ando cada da o de en enamien o
indi idualmen e.
ou lie Da o de un conjun o es ad´ıs ico muy alejado del es o.
o e i ing Cuando un modelo se ajus a an o a los da os de en enamien o que no
gene aliza a da os nue os.
36
eg ession Reg esi´on, e e ido a un algo i mo.
ReLU Rec i ied Linea Uni , un ipo de unci´on de ac i aci´on.
RMSE Roo Mean Squa ed E o , Ra´ız del E o Cuad ´a ico Medio.
supe ised Supe isado, e e ido a un algo i mo.
SVD Singula Value Descomposi ion, Descomposici´on en Valo es Singula es.
a ge Obje i o, alo deseado de la salida en un algo i mo ML.
ask Ta ea o p oblema que esuel e un algo i mo ML.
es da a Subdi isi´on de los da os pa a es o p ueba.
ain En ena un modelo ML.
aining da a Subdi isi´on de los da os pa a en enamien o.
unde i ing Cuando un modelo es an sencillo que no se ajus a adecuadamen e a los
da os de en enamien o.
unsupe ised No supe isado, e e ido a un algo i mo.
alida ion da a Subdi isi´on de los da os pa a alidaci´on.
zsco e T´ecnica de no malizaci´on basada en es a la media y di idi en e la des iaci´on
´ıpica.
37
Re e encias
[1] I. Good ellow, Y. Bengio, and A. Cou ille, Deep lea ning. Camb idge (EE. UU.):
MIT P ess, 2016.
[2] C. Ki el, In oduc ion o Solid S a e Physics, 8 h ed. New Yo k: John Wiley and
Sons, 2005.
[3] K. Hamidieh, “A da a-d i en s a is ical model o p edic ing he c i ical empe a u e
o a supe conduc o ,” Compu a ional Ma e ials Science, no. 154, 2018.
[4] K. Ma sumo o and T. Ho ide, “An accele a ion sea ch me hod o highe Tc
supe conduc o s by a machine lea ning algo i hm,” Applied Physics Exp ess,
ol. 12, no. 7, p. 073003, jun 2019. [Online]. A ailable: h ps://dx.doi.o g/10.7567/
1882-0786/ab2922
[5] B. Ro e and S. V. Do de ic, “P edic ing new supe conduc o s and hei
c i ical empe a u es using machine lea ning,” Physica C: Supe conduc i i y and
i s Applica ions, ol. 575, p. 1353689, 2020, iD: 271531. [Online]. A ailable:
h ps://www.sciencedi ec .com/science/a icle/pii/S0921453420301374
[6] “BCS heo y o supe conduc i i y lec u e no es o engi-
nee ing physics,” 2016. [Online]. A ailable: h ps://semes e s.in/
ba deen-coope -sch i e -bcs- heo y-quali a i e-no es- o -enginee ing-physics-b ech/
[7] A. A. Shah and T. Bha naga , “Supe conduc o s - “ esis ance is u ile”,” in 5 h IEEE
In eg a ed STEM Con e ence, 2015.
[8] N. Ghazikhanian, “The Ma hias Rules,” Tech. Rep., Decembe 2017.
[9] L. Ma in, Neu al Ne wo ks wi h MATLAB, 2016.
[10] C. C. Agga wall, Neu al ne wo ks and deep lea ning : a ex book. Cham, Swi ze land:
Sp inge , 2018.
[11] A. Zell, Simula ion Neu onale Ne ze, 1s ed. Addison-Wesley, 1994.
[12] C. M. Bishop, Neu al Ne wo ks o Pa e n Recogni ion. New Yo k: Ox o d Uni e -
si y P ess, 1995.
[13] L. L. C. Kasun, H. Zhou, G.-B. Huang, and C. M. Vong, “Ex eme lea ning machi-
nes,” IEEE In elligen Sys ems, pp. 31–34, No embe /Decembe 2013.
[14] A. E. Eiben and J. E. Smi h, In oduc ion o E olu iona y Compu ing, 2nd ed. Be -
lin: Sp inge , 2015.
[15] “Re e ence page o eed o wa dne ,” ´
Ul imo acceso: 17/03/2023. [Online]. A ailable:
h ps://es.ma hwo ks.com/help/deeplea ning/ e / eed o wa dne .h ml?lang=en
[16] “Re e ence page o ga,” ´
Ul imo acceso: 10/04/2023. [Online]. A ailable:
h ps://es.ma hwo ks.com/help/gads/ga.h ml#d124e50955
[17] “How can I sa e e e y gene a ion’s bes posi ion using ga?” ´
Ul imo acceso:
10/04/2023. [Online]. A ailable: h ps://es.ma hwo ks.com/ma labcen al/answe s/
123459-how-can-i-sa e-e e y-gene a ion-s-bes -posi ion-using-ga
[18] K. F. Riley, M. P. Hobson, and S. J. Bence, Ma hema ical Me hods o Physics and
Enginee ing, 3 d ed. Camb idge Uni e si y P ess, 2006.
38
A. Algunos concep os de es ad´ıs ica
A con inuaci´on se explican algunos concep os b´asicos de es ad´ıs ica, con el in de
llega a de ini el coe icien e de co elaci´on de Pea son. Es e indicado se u iliza an o
pa a selecci´on de ca ac e ´ıs icas (secci´on 3.4.2) como pa a e aluaci´on de los modelos de
eg esi´on (secci´on 3.1.3). A lo la go de la explicaci´on, se conside an dos a iables ayb(o
ca ac e ´ıs icas) con alo es {ai}N
i=1 y{bi}N
i=1, donde Nes el n´ume o de da os en el da ase
o en alguna de sus subdi isiones, dependiendo del con ex o.
A.1. Va ianza y des iaci´on es ´anda
La a ianza s2y la des iaci´on es ´anda σ=s=√s2son medidas de la dispe si´on
de los N alo es {ai}de una a iable adel da ase . La des iaci´on ´ıpica es la a´ız de la
a ianza, y es a ´ul ima se de ine como [18]:
s2=1
N
N
X
i=1
(ai−a)2=a2−a2(A.1)
donde aes la media de los alo es en la mues a y a2la media de los cuad ados de los
alo es.
A.2. Co a ianza y co elaci´on
La co a ianza y co elaci´on son dos indicado es que ca ac e izan la elaci´on en e dos
a iables aybdel da ase . La co a ianza se de ine como [18]:
σab =1
N
N
X
i=1
(ai−a)bi−b=ab −ab (A.2)
donde la ba a sob e las a iables signi ica alo medio. Una p opiedad de la co a ian-
za es que dos a iables independien es en sen ido es ad´ıs ico ienen co a ianza nula. El
ec´ıp oco, sin emba go, no es cie o.
Resul a m´as ´u il en el con ex o de es e abajo el coe icien e de co elaci´on de Pea son,
de inido de la siguien e mane a [18]:
Rab =σab
σaσb
(A.3)
donde σab es la co a ianza en e las a iables ayb,σala des iaci´on es ´anda de ayσb
la des iaci´on es ´anda de b. Se puede demos a que Rab siemp e es ´a comp endido en e
−1 y 1 [18]. Po lo an o, la co elaci´on no es m´as que un escalado de la co a ianza. El
coe icien e Rab iene las siguien es p opiedades [18]:
Dos a iables o almen e independien es ienen Rab = 0.
Dos a iables elacionadas linealmen e en e s´ı ienen Rab = 1 si la pendien e de la
elaci´on es posi i a y Rab =−1 si la pendien e es nega i a.
Es as dos p opiedades jus i ican el uso de Rcomo medida de la e iciencia (secci´on 3.1.3)
de un modelo de eg esi´on: cuan o m´as p ´oximo a la unidad sea el alo de Rˆyy, mayo
se ´a la e iciencia del modelo. Se suele u iliza ambi´en el cuad ado de es e coe icien e, R2,
denominado coe icien e de de e minaci´on. Pa a que un modelo de eg esi´on se conside e
bueno, se u iliza el c i e io R2>0.90, que es equi alen e a R > 0.95.
39