Regresión sobre componentes principales

TRABAJO FIN DE GRADO REGRESIÓN SOBRE COMPONENTES PRINCIPALES Doble G ado en Ma emá icas y Es adís ica I ene Deduy Gue a Se illa, Junio de 2019 Índice gene al Resumen....................................... iii Abs ac ....................................... i 1. INTRODUCCIÓN 1 2. REGRESIÓN SOBRE COMPONENTES PRINCIPALES 3 2.1. Hipó esisP e ias ............................... 3 2.2. Análisis de Componen es P incipales . . . . . . . . . . . . . . . . . . . . 5 2.3. Fundamen o Teó ico de la Reg esión . . . . . . . . . . . . . . . . . . . . 6 2.4. Selección de Componen es P incipales en el Modelo . . . . . . . . . . . . 8 2.5. Eliminación de Va iables en Reg esión usando Componen es P incipales . 11 2.6. Ven ajas y Des en ajas de la Técnica . . . . . . . . . . . . . . . . . . . . 14 3. APLICABILIDAD DEL MÉTODO 17 3.1. Ag icul u a: Cambio Climá ico y Cul i os . . . . . . . . . . . . . . . . . 17 3.2. Dend ología: Da os “Pi p op” . . . . . . . . . . . . . . . . . . . . . . . . 19 3.3. Sociología: Despe dicio de Alimen os en el Hoga . . . . . . . . . . . . . 21 4. IMPLEMENTACIÓN EN R 23 4.1. In oducción.................................. 23 4.2. Ilus ación................................... 25 4.2.1. Análisis de Reg esión sob e Componen es P incipales . . . . . . . 30 Bibliog a ía 41 i Resumen La p esencia de mul icolinealidad en los Modelos de Reg esión Múl iple conduce a p oblemas en las es imaciones y esul ados poco iables. La aplicación de la Reg esión sob e Componen es P incipales puede e i a es os p oblemas, a la ez que lle a implíci o un p ocedimien o de selección de a iables, educiendo la dimensión del espacio p edic o . El obje i o de es e abajo es la desc ipción eó ica y me odológica de la écnica es adís ica y su implemen ación en R, con una ilus ación sob e da os eales. Además, con obje o de ilus a la aplicabilidad del mé odo, se incluye e e encias sob e abajos cien í icos ecien es en los que se ha hecho uso de la misma. Palab as cla es: Reg esión Múl iple, Mul icolinealidad, Componen es P incipales. iii Abs ac The exis ence o mul icollinea i y in Mul iple Reg ession Models leads o p oblems in es ima ion and un eliable esul s. The applica ion o P incipal Componen s Reg ession can a oid hese p oblems, while in ol ing a a iable selec ion p ocedu e, educing he dimension o he p edic o space. The aim o his wo k is he heo e ical and me hodological desc ip ion o he s a is ical echnique and i s implemen a ion in R, wi h an illus a ion on eal da a. In addi ion, in o de o illus a e he applicabili y o he me hod, e e ences o ecen scien i ic wo ks in which i has been used a e included. Key wo ds: Mul iple Reg ession, Mul icollinea i y, P incipal Componen s. i Capí ulo 1 INTRODUCCIÓN En el Modelo de Reg esión Lineal Múl iple, una de las hipó esis que deben cumpli las a iables p edic o as es la ausencia de elación lineal en e ellas. Sin emba go, en la p ác ica, es muy ecuen e que se p esen en cie as elaciones ap oximadamen e lineales en e las a iables p edic o as del modelo, p o ocando la ob ención de es imado es poco p ecisos e ines ables. Además, la elación en e las a iables di icul a cuan i ica con p ecisión el e ec o que cada a iable eje ce sob e la dependien e, y como consecuencia las a ianzas de los es imado es son ele adas. Es a ue e co elación en e las a iables explica i as del modelo se denomina “mul icolinealidad”. La Reg esión sob e Componen es P incipales (RCP) es un mé odo in oducido po Kendall (1957) pa a comba i la mul icolinealidad. Con es e mé odo, las a iables o iginales se ans o man en un nue o conjun o de a iables inco eladas llamadas componen es p incipales. Es a ans o mación clasi ica las nue as a iables o ogonales po o den de impo ancia, es deci , según la con ibución que o ezcan en el modelo, y el p ocedimien o implica elimina algunas de dichas componen es pa a log a una educción de la a ianza. A con inuación, se ealiza un análisis de eg esión múl iple de la a iable dependien e en unción del conjun o educido de componen es p incipales u ilizando la es imación de mínimos cuad ados o dina ios. Como las componen es p incipales son o ogonales, dicho mé odo es ap opiado. Finalmen e, una ez calculados los coe icien es de eg esión pa a el conjun o educido de a iables o ogonales, se ans o man en un nue o conjun o de coe icien es que co esponden al conjun o de a iables inicial. En es e T abajo de Fin de G ado, se desa olla el undamen o eó ico de la Reg esión sob e Componen es P incipales y se p esen a su implemen ación en R. Además, se ilus a la me odología con ejemplos de aplicaciones ealizadas en ámbi os an dis in os como lo son la ag icul u a, la sociología y la dend ología (es udio de plan as a boladas). 1 Capí ulo 2 REGRESIÓN SOBRE COMPONENTES PRINCIPALES 2.1. Hipó esis P e ias Se conside a el modelo de Reg esión Lineal Y=Xβ +(1) donde Y : ec o n− dimensional compues o po las obse aciones de la a iable dependien e. X : ma ix ( n×p )cuyo ( i, j )-ésimo elemen o ep esen a el alo de la j -ésima a iable p edic o a en la i-ésima obse ación. β: ec o p−dimensional de coe icien es de eg esión a es ima .  : ec o n− dimensional de e o es alea o ios, conside ados independien es e idén i- camen e dis ibuidos según N(0, σ2In). En p ime luga se es anda izan las a iables, an o la dependien e como las p edic o as, es ándole su media y di idiendo po su des iación ípica. Es e p oceso es necesa io pues las a iables pueden es a medidas en di e en es unidades, lo cual pod ía ocasiona con usión en la in e p e ación del análisis. Se hace no a que, consecuen emen e, los cálculos se basan en las a iables es anda izadas, luego los coe icien es de eg esión ob enidos del análisis deben se pos e io men e eajus ados a la escala o iginal. Po simplicidad de no ación, en adelan e se asume que las a iables del modelo (1) es án es anda izadas. Se u iliza el p ocedimien o de Mínimos Cuad ados O dina ios pa a es ima las cons an es desconocidas β median e ˆ β de modo que minimicen la suma de cuad ados de los esiduos. Si la ma ix ( X0X )es no singula , el p oblema iene solución y los coe icien es de eg esión se es iman a a és de: ˆ β= (X0X)−1X0Y 3 2.4. SELECCIÓN DE COMPONENTES PRINCIPALES EN EL MODELO Si po el con a io, el obje i o p incipal es consegui una buena p edicción de Y , en e los c i e ios p opues os des acan dos basados nue amen e en el e o cuad á ico medio. El c i e io débil es ipula elegi ˜ β en luga de ˆ β si el alo espe ado de la dis ancia euclídea en e X˜ β y Xβ es meno que en e Xˆ β y Xβ . Un c i e io más ue e sugie e usa el e dade o alo de Y en luga de su alo espe ado ( Xβ ). De es a o ma, se elige ˜ β en luga de ˆ β si el alo espe ado de la dis ancia euclídea en e X˜ βeYes meno que pa a Xˆ βeY. Median e alidación c uzada ambién se puede compa a los alo es obse ados y los ajus ados de Y . El c i e io p opues o po Me ens e al. (1995) es a a és de Pn i=1 ( yi− ˆyM(i) ) 2 donde ˆyM(i) es el es imado de yi ob enido a a és de eg esión sob e componen es p incipales basado en un subconjun o M y usando la ma ix X(i) , que es X eliminando su i−ésima ila. O a conside ación que iene en cuen a la a ianza y el sesgo, dada po Lo (1973), es median e el cálculo del coe icien e múl iple ajus ado de de e minación, basado en el coe icien e de de e minación usual R2 hallado pa a cada conjun o M de in e és. De es a o ma, se elige el subconjun o M que maximice ¯ R2= 1 −(n−1)(1 −R2) (n−p−1) Sin emba go, se ha demos ado que es e p ocedimien o unciona de o ma limi ada. Se obse a, as lo expues o, la complejidad en el in en o de p opo ciona una egla gene al pa a la elección del subconjun o de componen es p incipales M, pues no se puede basa la decisión únicamen e en el amaño de la a ianza, pe o ampoco p io iza el alo p edic i o de las componen es si és as ienen a ianzas pequeñas. En la p ác ica, habi ualmen e se usan o os c i e ios como son: Elimina las componen es del modelo asociadas a au o alo es muy pequeños has a que el es o de las CPs expliquen un de e minado po cen aje del o al de la a ianza, gene almen e un 80 %. El po cen aje de in o mación que p opo cionan las k ( k < p ) p ime as componen es p incipales iene dado po : Pk i=1 λi Pp i=1 λi × 100. Es e po cen aje a ía en unción del campo en que se abaje, ya que po ejemplo en un es udio de ámbi o social el po cen aje se encon a ía sob e el 60 %, mien as que en un es udio de ámbi o cien í ico el po cen aje es más p óximo a un 80%. Regla de Kaise (1960): elimina las componen es asociadas con au o alo es de alo es meno que 1, que es el alo ípico pa a las ma ices de co elación. Así se ga an iza que las componen es seleccionadas explican más a iabilidad que una a iable o iginal. 10 CAPÍTULO 2. REGRESIÓN SOBRE COMPONENTES PRINCIPALES 2.5. ELIMINACIÓN DE VARIABLES EN REGRESIÓN USANDO COMPONENTES PRINCIPALES 2.5. Eliminación de Va iables en Reg esión usando Componen es P incipales Como ya se ha mencionado an e io men e, una al e na i a pa a comba i la mul i- colinealidad es usa únicamen e un subconjun o de a iables p edic o as. Sup imiendo adecuadamen e a iables del modelo se mejo a la p ecisión de los pa áme os es imados, aunque se in oduce sesgo en los es imado es de los coe icien es de las a iables p edic o as y la a iable dependien e. Sin emba go, el e o cuad á ico medio de los es imado es sesgados es meno que la a ianza de los es imado es insesgados, es deci , la can idad de sesgo in oducido es meno que la educción de la a ianza. Exis en muchos mé odos de selección de a iables basados en la búsqueda sob e odos los subconjun os posibles de a iables con obje i o de encon a el mejo subconjun o de a iables p edic o as. Es os algo i mos suelen de e mina buenos subconjun os de a iables aunque, a eces, son cos osos compu acionalmen e debido a la can idad de pasos que se deben ealiza . Se p ocede a expone algunos de es os mé odos clásicos mencionados en Na a o (2009): Todas las eg esiones posibles (TRP) La opción más na u al, pe o labo iosa, consis e en c ea odos los posibles subconjun os de a iables p edic o as y ealiza odas las eg esiones posibles. Pos e io men e, se analiza la ganancia o pé dida de e iciencia de cada modelo con in oducción de alguna a iable. El p oblema con es a écnica se encuen a en el g an núme o de cálculos a ealiza ; si el núme o de a iables p edic o as es p, se ían necesa ias ealiza 2p−1 eg esiones. Mé odo de selección escalonada Es as écnicas de selección se basan en añadi o sup imi una única a iable p edic o a en cada paso según cie os c i e ios. Es e p oceso secuencial inaliza cuando se cumple una de e minada egla de pa ada. Se a a de un p oceso más sencillo en cálculo y e icien e que el an e io . Los es algo i mos más usados son los siguien es: 1. P ocedimien o de selección hacia delan e: “Fo wa d”. Se pa e de un modelo muy sencillo y en cada paso se añade la a iable más signi ica i a según cie o c i e io has a una cie a egla de pa ada. Una ez que una a iable ha sido añadida al modelo nunca se elimina. 2. P ocedimien o de eliminación hacia a ás : “Backwa d”. Al con a io que en el an e io , en es e mé odo se pa e de un modelo muy complejo, el que con iene odos los é minos, y en cada e apa se desecha la a iable menos signi ica i a, has a que se conside e no sup imi ningún é mino más. Una ez eliminada, ninguna a iable se puede ol e a inco po a se al modelo. CAPÍTULO 2. REGRESIÓN SOBRE COMPONENTES PRINCIPALES 11 2.5. ELIMINACIÓN DE VARIABLES EN REGRESIÓN USANDO COMPONENTES PRINCIPALES 3. Mé odo escalonado po pasos: “S epwise”. Se a a de una combinación de las dos écnicas an e io es. Se pa e de un modelo muy sencillo como en “ o wa d”, en cada paso se in oduce una a iable y pos e io men e se cues iona si odas las a iables in oducidas deben pe manece en el modelo. Pa a es as écnicas se necesi a es ablece la condición pa a añadi o sup imi un é mino. Se suelen conside a el C i e io de In o mación de Akaike (Akaike, 1974), el C i e io de In o mación Bayesiano (Schwa z, 1978) o la signi icación de cada coe icien e. Sin emba go, la expe iencia indica que es os algo i mos po pasos mencionados an e io - men e ienden a no selecciona buenos subconjun os de a iables p edic o as cuando se p esen an p oblemas de mul icolinealidad. La Reg esión sob e Componen es P incipales ambién puede se usada de o ma i e a i a pa a selecciona a iables. A con inuación se mues an algunos p ocedimien os que u ilizan componen es p incipales pa a p ocede a la selección de a iables. Considé ese el p oblema de Reg esión sob e Componen es P incipales an e io al que el es imado p opues o pa a βes ˜ β=X M λ−1 kaka0 kX0Y Se p e ende es udia si hay subconjun os de elemen os de ˜ β que sean signi ica i amen e dis in os de ce o, y aquellas a iables cuyos coe icien es no esul an signi ica i os pueden se eliminados del modelo. Siemp e que los e dade os coe icien es de las CPs eliminadas sean ce o y que los supues os de no malidad sean álidos, el es adís ico ap opiado es el F-es adís ico, usando -es adís icos si sólo una a iable es conside ada a la ez. Es e p ocedimien o se puede i e a de mane a que el siguien e paso se ía aplica eg esión sob e componen es p incipales en el subconjun o educido de a iables y obse a si pueden se eliminadas más a iables de dicho subconjun o usando el mismo azonamien o an e io . Es o se epe i ía has a que no se eliminen más a iables. Exis en dos a iaciones de es e p ocedimien o desc i as po Mans ield e al. (1977). La p ime a a iación busca una única a iable a elimina . A con inuación, el mejo pa de a iables a elimina , siendo una de ellas la a iable del p ime paso. Luego, busca el mejo ío de a iables a elimina , que inclui ía el mejo pa an e io ... y así sucesi amen e. La segunda a iación sugie e elimina sólo una a iable en cada paso y luego se uel e a calcula las CPs u ilizando el conjun o educido de a iables, en luga de pe mi i la eliminación de a ias a iables an es de que se uel an a calcula las CPs. 12 CAPÍTULO 2. REGRESIÓN SOBRE COMPONENTES PRINCIPALES 2.5. ELIMINACIÓN DE VARIABLES EN REGRESIÓN USANDO COMPONENTES PRINCIPALES Boneh y Mendie a (1994) p opusie on un p ocedimien o i e a i o di e en e que esul a se compu acionalmen e más e icien e. Siguiendo con la misma no ación has a el momen o, el algo i mo se desc ibe como sigue: 1. Selección de la p ime a a iable Se ealiza eg esión sob e las componen es p incipales: Y=Zγ + Se elige un subconjun o M de CPs que se conside e que con ibuyen signi ica i amen e a la eg esión. Dicha signi icación se basa en el uso de - es s, aunque dado que se ha mos ado que los - es s ienen una po encia educida pa a las CPs con a ianzas pequeñas (Mason y Guns , 1985), se ha in oducido una modi icación pa a ales CPs. Si M = ∅ , el p oceso de selección e mina concluyendo que no se deben inclui a iables p edic o as en el modelo. En caso con a io, sean SSEi, i = 1 , ..., p las sumas de cuad ados del e o cuando se hace la eg esión de Xi sob e el subconjun o de CPs incluidas en M , se selecciona como p ime a a iable Xi que iene asociada SSE mínima. Sin pé dida de gene alidad, se asume que la p ime a a iable seleccionada es X1. 2. Selección de la segunda a iable Se ealiza eg esión de Xksob e X1,k= 2, ..., p. Se ob ienen las componen es p incipales ( Z0 2, ..., Z0 p ) de ( 2, ..., p ) siendo i, i = 2 , ..., p el ec o de esiduos es anda izados de la eg esión de Xisob e X1. Se hace eg esión de Y sob e ( Z0 2, ..., Z0 p ) y, siguiendo un c i e io simila al an e io , se selecciona un subconjun o M0óp imo de (Z0 2, ...Z0 p) Sea M0 un subconjun o de Z0 2, ..., Z0 p ; si M0 = ∅ , el p oceso de selección e mina con la conclusión de que solo la a iable X1 debe se incluida en el modelo. En caso con a io, sean SSE0 i, i = 1 , ..., p las sumas de cuad ados del e o cuando se hace la eg esión de i en M0 , la segunda a iable p edic o a seleccionada es aquella pa a la cual la SSE0 isea mínima. La selección de a iables con inúa de o ma simila has a ob ene un subconjun o de componen es p incipales M∗que sea acío. Además de es os pasos de selección hacia adelan e, el p ocedimien o de Boneh y Mendie a incluye la opción de ol e hacia a ás, ya que las a iables seleccionadas p e iamen e pueden elimina se y nunca pod án ol e a se seleccionadas. La eliminación de una a iable se p oduce si su con ibución es su icien emen e disminuida po la inclusión pos e io de o as a iables. Daling y Tamu a (1970) p opusie on o a o ma de selecciona a iables basándose en una modi icación de la idea de asocia una a iable con cada una de las p ime as (úl imas) CAPÍTULO 2. REGRESIÓN SOBRE COMPONENTES PRINCIPALES 13 2.6. VENTAJAS Y DESVENTAJAS DE LA TÉCNICA componen es y luego e ene (elimina ) aquellas a iables asociadas con es as p ime as (úl imas) componen es. El mé odo de Daling y Tamu a sos iene elimina p ime o las úl imas CPs, luego o a las CPs es an es usando a imax y inalmen e seleccionando una a iable asociada con cada CPs o ada que enga una co elación signi ica i a con la a iable dependien e. La p incipal des en aja de es e mé odo se encuen a en el p ime paso del mismo, ya que la eliminación de CPs con baja a ianza puede hace desapa ece in o mación impo an e con espec o a la elación en e Yy las a iables p edic o as. 2.6. Ven ajas y Des en ajas de la Técnica Al aplica el mé odo de mínimos cuad ados pa a es ima γ en la ecuación Y = Zγ +  , el es imado de β calculado a a és de ˆ β = Aˆγ es equi alen e al ob enido aplicando di ec amen e mínimos cuad ados a la ecuación Y = Xβ +  . Sin emba go, una de las en ajas de la eg esión sob e componen es p incipales adica en la sencillez del cálculo; como las columnas de Z son o ogonales, calcula ˆγ de Y = Zγ +  es mucho más di ec o que halla ˆ βde Y=Xβ +. En caso de inclui odas las componen es p incipales en el modelo de eg esión, és e se ía equi alen e al ob enido po mínimos cuad ados, p esen ando mul icolinealidad, cuya e adicación e a el obje i o p imo dial de es a écnica. No obs an e, en caso de elimina componen es p incipales del modelo de eg esión, los es imado es ob enidos se án sesgados, aunque educen conside ablemen e las a ianzas de los es imado es de los coe icien es de eg esión p o ocados po la mul icolinealidad. Además, si se aplica eg esión a las componen es p incipales en luga de las a iables p edic o as, las con ibuciones de las a iables ans o madas en el modelo de eg esión pueden se in e p e adas más ácilmen e que las con ibuciones de las a iables o iginales. Más aún, la con ibución y los coe icien es es imados de una componen e p incipal no se en a ec ados según las componen es p incipales que ambién sean incluidas en la eg esión. Es o es debido a la inco elación, ya que pa a las a iables o iginales, an o las con ibuciones como los coe icien es pueden cambia conside ablemen e cuando alguna o a a iable es modi icada en la ecuación. Es deci , si se conside a el modelo de eg esión Y sob e las CPs Z1, Z2, ..., Zp con coe icien es de eg esión es imados ˆγ = [ ˆγ1, ..., ˆγp ] 0 y el modelo de eg esión Y sob e las CPs Z1, Z2, ..., Zm con m<p y coe icien es de eg esión es imados ˆγ∗= [ ˆ γ∗ 1, ..., ˆ γ∗ p]0en onces ˆ γ∗ j= ˆγj, j = 1, ..., m Incluso cuando la mul icolinealidad no es un p oblema, aplica eg esión sob e las componen es p incipales en luga de usa las a iables o iginales, iene en ajas en la in e p e ación y compu ación. 14 CAPÍTULO 2. REGRESIÓN SOBRE COMPONENTES PRINCIPALES 2.6. VENTAJAS Y DESVENTAJAS DE LA TÉCNICA Es os hechos se acen úan en p esencia de mul icolinealidad, siendo po an o de g an en aja el uso de la Reg esión sob e Componen es P incipales. En es e caso, se ob iene un es imado de β mucho más es able eliminando un subconjun o de las componen es p incipales con meno a ianza. CAPÍTULO 2. REGRESIÓN SOBRE COMPONENTES PRINCIPALES 15 Capí ulo 3 APLICABILIDAD DEL MÉTODO 3.1. Ag icul u a: Cambio Climá ico y Cul i os Los ac o es climá icos juegan un papel muy impo an e a la ho a de explica de e mina- dos p ocesos. Es os ac o es son ecuen emen e u ilizados como a iables independien es pa a explica la a iabilidad de cie os p ocesos sin ene en cuen a la posibilidad de que algunos alo es es én muy elacionados en e sí. Uno de los p incipales campos de es udio de los ac o es ambien ales es la ag icul u a. Desde el pun o de is a ag onómico, las al as empe a u as a ec an a los ni eles de humedad del suelo, lo que pod ía disminui los endimien os de los cul i os si el suminis o de agua pa a iego no es su icien e. Po o o lado, la p ecipi ación man iene la humedad del suelo necesa ia pa a el c ecimien o del cul i o. Di e en es empe a u as pueden cambia la du ación de la empo ada de c ecimien o induciendo a iaciones en el endimien o de los cul i os. Po ejemplo, las al as empe a u as ienden a aco a muchas empo adas de cul i o y los cul i os es án expues os a menos adiación sola necesa ia pa a la o osín esis. Resumiendo, a la go plazo, el cambio de empe a u a y p ecipi ación puede al e a los pa ones de cul i o. En 2011, la Uni e sidad de Geo gia publicó un es udio que su gió con el obje i o de compa a los e ec os del cambio climá ico en los endimien os de los cul i os en di e en es egiones de Es ados Unidos ( éase Cai e al. (2011)). Se p e endía es ima las elaciones en e el clima y los endimien os de los cul i os de maíz, soja, algodón y cacahue es pa a a ios es ados del no e (Minneso a, Neb aska, Indiana, Illinois y Iowa) y su (Geo gia, Alabama y Texas) de EE.UU., conside ados los p incipales es ados gene ado es de dichos p oduc os. El es udio con empla el pe iodo 1960 − 2009 y se seleccionó la empe a u a mensual y la p ecipi ación du an e la empo ada de c ecimien o como a iables climá icas pa a el modelo de endimien o. Pa a p edeci el cambio climá ico u u o con escena ios al e na i os de gases de e ec o in e nade o, los cien í icos han desa ollado muchos modelos de cambio 17 3.1. AGRICULTURA: CAMBIO CLIMÁTICO Y CULTIVOS climá ico. Los di e en es modelos p opo cionan dis in as p oyecciones de cambio climá ico basadas en di e en es en oques y escena ios posibles. En es e es udio, se conside a on es p oyecciones de cambio climá ico ( ío, cálido y medio). Una empo ada de c ecimien o ípica es de sie e u ocho meses, lo que supond ía conside a al ededo de 14 a16 a iables de p edicción an o pa a la empe a u a como pa a la p ecipi ación en el modelo, lo que lle ó a plan ea la necesidad de educi a iables. A lo la go de la his o ia, se han u ilizado muchas me odologías pa a es o en el ámbi o de la ag icul u a. Po ejemplo, en luga de usa los meses del calenda io, algunos in es igado es di iden la empo ada de c ecimien o po las e apas del c ecimien o de los cul i os. De es a o ma, como la empo ada de c ecimien o ac i o pa a el maíz en el es ado de Geo gia es de ab il a oc ub e, se conside an sie e a iables de empe a u a mensuales. Al di idi la empo ada de c ecimien o po las cua o e apas gene ales de c ecimien o pa a el maíz, se pod ía educi el núme o de a iables de empe a u a a cua o. Desde el pun o de is a ag ícola, es e mé odo iene más sen ido que el uso de meses de calenda io. Sin emba go, es di ícil especi ica el lími e exac o en e dos e apas de c ecimien o del cul i o, además de que el calenda io de c ecimien o del cul i o a ía de un año a o o y de una egión a o a. Al e na i amen e, se decidió usa écnicas de selección de a iables es adís icas pa a educi el núme o de meses como a iables p edic o as. Sin emba go, las a iables me eo o- lógicas es án co elacionadas, luego un en oque di ec o de selección de a iables conduci ía a esul ados ines ables. Pa a educi el núme o de a iables sin pé dida signi ica i a de in o mación y elimina un posible p oblema g a e de mul icolinealidad, se aplicó la Reg esión sob e Componen es P incipales. De es a o ma, cada componen e p incipal con iene in o mación sob e odas las a iables me eo ológicas y ningún mes de la empo ada de c ecimien o se omi i á po comple o, independien emen e de la écnica de selección de a iables que se aplique. En luga de simplemen e oma las p ime as componen es p incipales como a iables p edic o as, se usa on écnicas de selección de a iables es adís icas pa a selecciona un subconjun o ap opiado de CPs. A pa i de un único conjun o de da os me eo ológicos, se c ea on es modelos de eg esión sob e componen es p incipales di e en es pa a p onos ica la espues a del endimien o del cul i o basados en es conjun os de da os de p oyección del cambio climá ico y se gene ó un Índice de Impac o del Cambio Climá ico (CCII) que pe mi iese compa a los e ec os del cambio climá ico en di e en es egiones. Las es imaciones de cambio climá ico de es os es modelos climá icos p opo cionan una p oyección mensual de la empe a u a y la p ecipi ación has a el año 2100. Como en gene al, a medida que aumen a el ho izon e empo al, la p edicción de la espues a del endimien o de los cul i os se á menos con iable, sólo se usa on los da os del cambio 18 CAPÍTULO 3. APLICABILIDAD DEL MÉTODO 3.2. DENDROLOGÍA: DATOS “PITPROP” climá ico has a el año 2050. Dado que el obje i o p incipal del análisis e a el es udio de la p edicción del endimien o, no se hace mención sob e las ca gas de las a iables me eo ológicas en las CP especí icas y los coe icien es es imados en el modelo de eg esión sob e componen es p incipales. Pa a p opo ciona una e idencia más sólida, se eplica on análisis simila es sob e los p oduc os a ni el de condado pa a odos los condados disponibles en los ocho es ados esudiados. Los esul ados inales del es udio indica on que el clima más cálido en el u u o end á un impac o nega i o en los condados del su de los EE.UU., mien as que end á un impac o insigni ican e en los condados del no e de los EE.UU. en las p óximas cua o décadas. Es deci , los esul ados sugie en que los ag icul o es del su pod ían hace en e al cambio climá ico cambiando a cul i os con mejo ole ancia al calo . 3.2. Dend ología: Da os “Pi p op” En es a sección se conside a el conjun o de da os conocido como “ Pi p op ”, dado o igi- nalmen e po Je e s (1967) y el cual ha sido analizado po a ios au o es pos e io men e. Se a a de un es udio de la ue za de comp esión de los pun ales co ados a pa i de made a cul i ada, con el obje i o de de e mina las ca ac e ís icas, o combinación de a iables, que hacen que ales pun ales sean lo su icien emen e ue es pa a su uso en minas. Los da os consis en en 180 ajos co ados de made a de pino co so del es e de Anglia (Reino Unido) a los cuales se midie on las siguien es a iables: X1:TOPDIAM −diáme o supe io X2:LENGTH −longi ud X3:MOIST −humedad X4:TESTSG −g a edad especí ica en el momen o de la p ueba X5:OV ENSG −g a edad especí ica secada al ho no X6:RINGTOP −núme o de anillos anuales en la pa e supe io X7:RINGBUT −núme o de anillos anuales en la pa e base X8:BOWMAX −a co máximo X9:BOWDIST −dis ancia del pun o de a co máximo a lo al o del pun al X10 :WHORLS −núme o de espi ales de nudo X11 :CLEAR −longi ud del pun al cla o desde la pa e supe io del pun al X12 :KNOTS −núme o medio de nudos po espi al CAPÍTULO 3. APLICABILIDAD DEL MÉTODO 19 4.2. ILUSTRACIÓN 3 0.02729 0 7.07 0 0.469 7.185 61.1 4.9671 2 242 17.8 4 0.03237 0 2.18 0 0.458 6.998 45.8 6.0622 3 222 18.7 5 0.06905 0 2.18 0 0.458 7.147 54.2 6.0622 3 222 18.7 ipn po cb med 1 396.90 4.98 24.0 2 396.90 9.14 21.6 3 392.83 4.03 34.7 4 394.63 2.94 33.4 5 396.90 5.33 36.2 Pa a e i a con usiones y acili a la in e p e ación, en p ime luga se es anda izan las a iables. da os = as.da a. ame(scale(da os)) Pa a pode e alua la capacidad p edic i a del modelo, se di iden las obse aciones disponibles en dos g upos: uno de en enamien o pa a ajus a el modelo (70% de los da os) y uno de es (30% de los da os). aining<-da os[1:354,] es <-da os[355:506,] El Análisis de Reg esión Clásico se ealiza u ilizando la unción lm(). RegClas<- lm( o mula = med ~.+0, da a = aining) summa y(RegClas) Call: lm( o mula = med ~ . + 0, da a = aining) Residuals: Min 1Q Median 3Q Max -0.8193 -0.1882 -0.0383 0.1914 1.3701 Coe icien s: Es ima e S d. E o alue P (>| |) c im 0.21453 0.17568 1.221 0.22289 z esid 0.03089 0.02399 1.287 0.19880 indus 0.03550 0.03177 1.117 0.26462 j 0.02480 0.01769 1.402 0.16178 nox -0.05971 0.04029 -1.482 0.13926 nmh 0.70746 0.02939 24.068 < 2e-16 *** an ig -0.13572 0.02968 -4.572 6.76e-06 *** 26 CAPÍTULO 4. IMPLEMENTACIÓN EN R 4.2. ILUSTRACIÓN dis -0.19682 0.03249 -6.057 3.66e-09 *** ci cun 0.04531 0.10013 0.453 0.65115 ax -0.26538 0.05329 -4.980 1.01e-06 *** alp o -0.15975 0.02215 -7.213 3.57e-12 *** ipn 0.12605 0.04642 2.716 0.00695 ** po cb -0.07316 0.03768 -1.941 0.05304 . --- Signi . codes: 0 '***'0.001 '**'0.01 '*'0.05 '.'0.1 ' ' 1 Residual s anda d e o : 0.3357 on 341 deg ees o eedom Mul iple R-squa ed: 0.8813, Adjus ed R-squa ed: 0.8767 F-s a is ic: 194.7 on 13 and 341 DF, p- alue: < 2.2e-16 Al es udia el esumen del modelo, des aca el alo de R cuad ado 0 . 8767, indicando la ob ención de un buen modelo. Sin emba go, analizando los coe icien es de eg esión indi iduales se ap ecia que muchas de las a iables no son es adís icamen e signi ica i as a un ni el de signi icación del 0.05. La ecuación de eg esión se ob iene a a és de: Y= 0.21453 c im + 0.03089 z esid + 0.03550indus + 0.02480 j −0.05971 nox + 0.70746 nmh −0.13572 an ig −0.19682 dis +0.04531 ci cun −0.26538 ax −0.15975 alp o + 0.12605 ipn −0.07316 po cb Los in e alos de con ianza de los coe icien es de eg esión a un ni el del 95% se mues an a con inuación: (ICClas<-con in (RegClas,le el=0.95)) 2.5 % 97.5 % c im -0.131033202 0.5600922416 z esid -0.016300018 0.0780721589 indus -0.026988003 0.0979786878 j -0.009988527 0.0595850425 nox -0.138963759 0.0195390415 nmh 0.649641653 0.7652728838 an ig -0.194111148 -0.0773387575 dis -0.260737133 -0.1329063371 ci cun -0.151630198 0.2422579908 ax -0.370199659 -0.1605659906 alp o -0.203309319 -0.1161816309 ipn 0.034750786 0.2173485770 po cb -0.147283357 0.0009643296 CAPÍTULO 4. IMPLEMENTACIÓN EN R 27 4.2. ILUSTRACIÓN Todas las suposiciones pa a eg esión simple (linealidad, homocedas icidad, indepen- dencia y no malidad) ambién se aplican pa a eg esión múl iple con o a condición más; la ausencia de mul icolinealidad en los da os. Se asumen las hipó esis básicas con obje o de cen a es e abajo en la de ección y co ección de cie a dependencia en e algunas a iables p edic o as. Se p ocede, po an o, a analiza la posible exis encia de mul icolinealidad: G á icos de dispe sión ma icial pa a cada pa de a iables: pa (m ow = c(1,3)) plo ( aining$nmh , aining$med , xlab="Nºmedio de hab. po i ienda", ylab="Valo medio de la i ienda",col="da k blue") abline(lm( aining$med ~ aining$nmh )) plo ( aining$alp o , aining$po cb, xlab="P o eso es/alumno", ylab="% de pob. de clase baja",col="da k blue") abline(lm( aining$po cb ~ aining$alp o )) plo ( aining$nmh , aining$po cb, xlab="Nºmedio de hab. po i ienda", ylab="% de pob. de clase baja",col="da k blue") abline(lm( aining$po cb ~ aining$nmh )) −2 −1 0 1 2 3 −1 0 1 2 3 Nº medio de hab. po i ienda Valo medio de la i ienda −2 −1 0 1 −1 0 1 2 3 P o eso es/alumno % de pob. de clase baja −2 −1 0 1 2 3 −1 0 1 2 3 Nº medio de hab. po i ienda % de pob. de clase baja Figu a 4.3: G á icos de dispe sión ma icial De es os g á icos se puede ex ae un p ime indicio de p esencia de mul icolinealidad en los da os. 28 CAPÍTULO 4. IMPLEMENTACIÓN EN R 4.2. ILUSTRACIÓN Ma iz de co elación R: R1=co ( aining) lib a y(co plo ) co plo (R1) −1 −0.8 −0.6 −0.4 −0.2 0 0.2 0.4 0.6 0.8 1 c im z esid indus j nox nmh an ig dis ci cun ax alp o ipn po cb med c im z esid indus j nox nmh an ig dis ci cun ax alp o ipn po cb med Figu a 4.4: Ma iz de co elación En e ec o, en la ma iz R se obse an alo es p óximos a ± 1 ue a de la diagonal. Más aún, el de e minan e de la ma iz de co elación de las a iables p edic o as es p óximo a ce o: R2=co ( aining[,1:13]) de (R2) [1] 0.001806082 Cálculo del ac o de in lación de la a ianza: lib a y(ca ) ound( i (RegClas),3) c im z esid indus j nox nmh an ig dis ci cun 14.076 2.308 3.005 1.074 4.720 2.571 3.038 3.505 11.780 ax alp o ipn po cb 4.445 1.755 1.775 3.471 CAPÍTULO 4. IMPLEMENTACIÓN EN R 29 4.2. ILUSTRACIÓN Es udiando los elemen os de la diagonal de R−1 , o equi alen emen e, los FIVi , se ap ecian alo es conside ablemen e al os ( > 10) pa a 2de las 13 a iables p edic o as, lo que indica al a mul icolinealidad causada po dichas a iables. Índice de Condición de la ma iz R: au o = eigen(R2)$` alues` ound(sq (au o [1]/au o [13]),3) [1] 5.812 De nue o se p esen an indicios de mul icolinealidad al ob ene cond(R)>5. 4.2.1. Análisis de Reg esión sob e Componen es P incipales Pa a a a de co egi el p oblema de la mul icolinealidad en es e conjun o de da os, se p ocede al análisis de Reg esión sob e Componen es P incipales de los mismos. P ime o, se hallan las componen es p incipales y pos e io men e se decide el núme o de ellas a man ene en el modelo: cps=p incomp(~c im +z esid +indus +j +nox +nmh +an ig +dis + ci cun + ax +alp o +ipn +po cb, da a = aining,co =TRUE) summa y(cps) Impo ance o componen s: Comp.1 Comp.2 Comp.3 Comp.4 S anda d de ia ion 2.2001514 1.3267248 1.12700070 1.04349281 P opo ion o Va iance 0.3723589 0.1353999 0.09770235 0.08375979 Cumula i e P opo ion 0.3723589 0.5077588 0.60546118 0.68922097 Comp.5 Comp.6 Comp.7 Comp.8 S anda d de ia ion 0.96384547 0.85630483 0.81177267 0.69158815 P opo ion o Va iance 0.07146139 0.05640446 0.05069037 0.03679186 Cumula i e P opo ion 0.76068236 0.81708682 0.86777719 0.90456905 Comp.9 Comp.10 Comp.11 Comp.12 S anda d de ia ion 0.5982098 0.56327294 0.48704562 0.43005766 P opo ion o Va iance 0.0275273 0.02440588 0.01824719 0.01422689 Cumula i e P opo ion 0.9320963 0.95650223 0.97474941 0.98897631 Comp.13 S anda d de ia ion 0.37856046 P opo ion o Va iance 0.01102369 Cumula i e P opo ion 1.00000000 Las ep esen aciones g á icas son de g an ayuda a la ho a de p opo ciona una idea 30 CAPÍTULO 4. IMPLEMENTACIÓN EN R 4.2. ILUSTRACIÓN sob e el compo amien o de las CPs. A con inuación se mues an unos g á icos con es a inalidad. 37.2% 13.5% 9.8% 8.4% 7.1% 5.6% 5.1% 3.7% 2.8% 2.4% 0 10 20 30 12345678910 Componen es Po cen aje de a ianza explicada Figu a 4.5: P opo ción de a ianza explicada po componen es CAPÍTULO 4. IMPLEMENTACIÓN EN R 31 4.2. ILUSTRACIÓN 2 4 6 8 10 0 10 20 30 Componen e p incipal P opo ción de Va ianza Explicada 2 4 6 8 10 40 50 60 70 80 90 100 Componen e p incipal P opo ción de Va ianza Acumulada Figu a 4.6: P opo ción de a ianza explicada y acumulada po componen es El es udio de la p opo ción de a ianza explicada mues a que la p ime a componen e ecoge la mayo pa e de la in o mación (37 . 23%), decayendo d ás icamen e la a ianza en las sucesi as componen es. Pa a oma una decisión sob e las componen es a e ene basándose en el po cen aje de in o mación explicada, se plan ea emplea las seis p ime as componen es pues de es a o ma se consigue que, en conjun o, expliquen al menos el 80 % de a ianza. Aco de a la Regla de Kaise , se aconseja man ene las cua o p ime as componen es pues son las asociadas a au o alo es de alo es mayo que 1, como se ap ecia en el siguien e g á ico: 32 CAPÍTULO 4. IMPLEMENTACIÓN EN R 4.2. ILUSTRACIÓN 2 4 6 8 10 12 012345 Componen es P incipales Au o alo es Figu a 4.7: Au o alo es asociados a las CPs En la siguien e ep esen ación se isualiza la con ibución de las a iables en una de e minada componen e, es deci , la impo ancia de las a iables pa a las componen es p incipales. La línea discon ínua oja mues a el alo medio de con ibución, de o ma que una a iable con una con ibución que sob epase es a línea puede conside a se impo an e a la ho a de con ibui en la componen e en cues ión. En es e g á ico se mues an las 10 a iables que más con ibuyen en la p ime a CP, y en la abla la ca ga de cada una de las a iables en dicha CP. iz_con ib(cps, choice = " a ",axes = 1, op = 10) CAPÍTULO 4. IMPLEMENTACIÓN EN R 33 4.2. ILUSTRACIÓN 0 5 10 15 nox indus an ig c im dis po cb z esid ipn ax nmh Con ibu ions (%) Con ibu ion o a iables o Dim−1 Figu a 4.8: Con ibuciones en la p ime a componen e p incipal ound(cps$loadings[,1:6],3) Comp.1 Comp.2 Comp.3 Comp.4 Comp.5 Comp.6 c im 0.349 -0.259 0.221 0.028 0.011 0.105 z esid -0.294 -0.228 0.417 0.101 -0.096 -0.259 indus 0.368 0.053 0.044 0.047 0.020 -0.218 j 0.075 -0.208 -0.271 0.321 -0.830 -0.047 nox 0.401 -0.193 0.015 0.076 0.118 -0.044 nmh -0.210 -0.477 -0.336 -0.047 0.265 -0.002 an ig 0.354 -0.010 -0.257 0.069 0.131 -0.106 dis -0.347 0.099 0.367 -0.108 -0.249 0.038 ci cun 0.074 -0.202 -0.252 -0.739 -0.310 0.143 ax 0.218 -0.101 0.343 -0.481 -0.055 -0.498 alp o 0.022 0.600 -0.152 -0.247 -0.051 0.193 ipn -0.218 0.206 -0.396 0.013 0.030 -0.737 po cb 0.316 0.326 0.164 0.140 -0.187 -0.092 Tan o de la ep esen ación g á ica como de la abla, se obse a que la a iable con más peso en la p ime a componen e es nox. De es a o ma: Z1=0.349 c im −0.294 z esid + 0.368 indus + 0.075 j + 0.401 nox 34 CAPÍTULO 4. IMPLEMENTACIÓN EN R 4.2. ILUSTRACIÓN −0.210 nmh + 0.354 an ig −0.347 dis + 0.074 ci cun + 0.218 ax + 0.022 alp o −0.218 ipn −0.316 po cb El peso asignado en la quin a componen e a la a iable j ( − 0 . 830) es conside ablemen e supe io al asignado al es o de a iables. Además, la a iable ci cun es la segunda con mayo peso en dicha componen e ( − 0 . 310). Todo es o implica que la quin a componen e ecoge p incipalmen e la in o mación co espondien e a la ubicación de la i ienda. Sin emba go, la in e p e ación de las o as componen es no es an cla a. Finalmen e, se p ocede a ealiza Reg esión sob e Componen es P incipales, omando únicamen e las seis p ime as CPs, que acumulan el 81.80% de la a iabilidad: z1<- cps$sco es[,1] z2<- cps$sco es[,2] z3<- cps$sco es[,3] z4<- cps$sco es[,4] z5<- cps$sco es[,5] z6<- cps$sco es[,6] RegCP=lm(med ~z1+z2+z3+z4+z5+z6+0,da a= aining) summa y(RegCP) Call: lm( o mula = med ~ z1 + z2 + z3 + z4 + z5 + z6 + 0, da a = aining) Residuals: Min 1Q Median 3Q Max -0.70958 -0.00093 0.25505 0.46807 1.84222 Coe icien s: Es ima e S d. E o alue P (>| |) z1 -0.19030 0.01183 -16.093 < 2e-16 *** z2 -0.44842 0.01961 -22.866 < 2e-16 *** z3 -0.29431 0.02309 -12.749 < 2e-16 *** z4 0.05207 0.02493 2.088 0.0375 * z5 0.19836 0.02699 7.348 1.44e-12 *** z6 -0.01465 0.03038 -0.482 0.6299 --- Signi . codes: 0 '***'0.001 '**'0.01 '*'0.05 '.'0.1 ' ' 1 Residual s anda d e o : 0.4895 on 348 deg ees o eedom Mul iple R-squa ed: 0.7424, Adjus ed R-squa ed: 0.738 CAPÍTULO 4. IMPLEMENTACIÓN EN R 35 4.2. ILUSTRACIÓN Bibliog a ía Appl. S a is .,16, 225–236. Jolli e, I.T. (2002). P incipal componen analysis. Sp inge -Ve lag. Kaise , H. (1960). The applica ion o elec onic compu e s o ac o analysis. Educa ional and Psychological Measu emen ,20, 141–151. Kawano, S. (2016). spc : Spa se P incipal Componen Reg ession. Kendall, M. (1957). A cou se in mul i a ia e analysis. G i in, London. Kleinbaum, D.G., Kuppe , L.L., Mulle , K.E. (1988). Applied eg ession analysis and o he mul i a iable me hods. PWS-Ken , Bos on. Lo , W.F. (1973). The op imal se o p incipal componen es ic ions on a leas squa es eg ession. Commun. S a is .,2, 449–464. López-González, E. (1998). T a amien o de la colinealidad en eg esión múl iple. Psi- co hema,10(2), 491–507. Luque-Cal o, P.L. (2017). Esc ibi un abajo in de es udios con R ma kdown. Disponible en h p://des io.us.es/cal o. Mans ield, E.R, Webs e , J.T., Guns , R.F. (1977). An analy ic a iable selec ion echnique o p incipal componen eg ession. Appl. S a is .,26, 34–40. Ma dia, K.V., Ken , J.T., Bibby, J.M. (1979). Mul i a ia e analysis. London: Academic P ess. Mason, R.L., Guns , R.F. (1985). Selec ing p incipal componen s in eg ession. S a . P ob. Le .,3, 299–301. Me ens, B., Fea n, T., Thompson, M. (1995). The e icien c oss- alida ion o p incipal componen s applied o p incipal componen eg ession. S a is . Compu .,5, 227–235. Me ik, B.H., Weh ens, R. (2007). The pls package: p incipal componen and pa ial leas squa es eg ession in R. Jou nal o S a is ical So wa e,18(2), 1–23. Na a o, O. (2009). Selección de a iables en eg esión componen es p incipales. LAC- CEI. NCSS, LLC. P incipal componen eg ession. NCSS, LLC,34, 1–17. No au, J.C., Zozaya, M.B. (1996). La mul icolinealidad de los da os climá icos. La eg esión en componen es p incipales. Ins i u o Pi enaico de Ecología. Qi, D., Roe, B.E. (2016). Household ood was e: Mul i a ia e eg ession and p incipal componen s analyses o awa eness and a i udes among U.S. consume s. PLOS ONE, Public Lib a y o Science,11(7), 1–19. R Co e Team. (2018). R: A lenguage and en i onmen o s a is ical compu ing. R 42 CAPÍTULO 4. IMPLEMENTACIÓN EN R Bibliog a ía 4.2. ILUSTRACIÓN Founda ion o S a is ical Compu ing, Aus ia. RS udio Team. (2015). RS udio: In eg a ed de elopmen en i onmen o R. RS udio, Inc., Bos on, MA. Schwa z, G. (1978). Es ima ing he dimension o a model. The Annals o S a is ics, 6(2), 461–464. Vega-Vilca, J.C., Guzmán, J. (2011). Reg esión PLS y PCA como solución al p oblema de mul icolinealidad en eg esión múl iple. Re is a de ma emá ica: Teo ía y aplicaciones, 18(1), 9–20. Venables, W.N., Ripley, B.D. (2002). Mode n applied s a is ics wi h S. Sp inge , New Yo k. Ve loe , M., Kie s, H.A.L., Van den Noo ga e, W., Ceulemans, E. (2015). PCo R : An R package o p incipal co a ia es eg ession. Jou nal o S a is ical So wa e, 65 , 1–14. Zumel, N. (2016). P incipal componen s eg ession: Picking he numbe o componen s. R - Win-Vec o blog. CAPÍTULO 4. IMPLEMENTACIÓN EN R 43