scieee Science in your language
[lt] (orig) [de] [fr] [it] [es] [pt]

Lietuvių kalbos morfologija atvirojo kodo „Hunspell“ platformoje

Read accessible full text
Machine-translated document

This is a machine-generated translation of the original document and may contain errors, omissions, or changes in meaning. Do not rely on this translation for quotations, citations, or authoritative references. Please consult and cite the original document.

Lietuvių kalbos morfologija atvirojo kodo „Hunspell“ platformoje

Author: Virginijus Dadurkevičius
Year: 2017
Source: https://journals.lki.lt/bendrinekalba/article/download/156/147
BENDRINĖ KALBA 90 (2017) www.bend inekalba.l ISSN 2351-7204
VIRGINIJUS DADURKEVIČIUS
Uni e sidad de Vilna
LIETUVI LEGABOS MORFOLOGIA ATVIROJO CODO
HUNSPELL PLATFORMA DE la Comisión de las Naciones Unidas pa a la P o ección de las Naciones Unidas
1
ESMINIAI VOODŽIAI: compu ado ína ling is ica, lie u ių kalba, g ama ica,
mo ologija, mo ologinė analizė, esc i u a e i icimas, ex o indexación, paieška,
código abie o, Hunspell.
ĮVADAS
Hace más de 100 años Jono Jablonskio es o zados (1901, 1918, 1922) la lengua Li uania empezada
no min i y adap ada se p incipaline es ado Uni yjančia p iemone. Ya en la p ime a Jono Jablonskio
Li u iškos kalbos g ama ikoje (1901) la oné ica, mo ología y sin aksė de los li uanos ue on
o malizuados: de inidos concep os p incipales, p esen adas eglas de palab as cai ybos y sanda os
del ase (ž 1 igu a.).
1 PAV. Iš auka desde Jono Jablonskio Lie u iškos kalbos g ama ikos 1901
2
In aluable es el apo e de Jono Jablonski en no mina la lexis de la lengua li uanas,
acla ando las peculia idades seman ís icas de las palab as.
Lgą iempo eso comple amen e bas aba a alumnos y maes os, esc i o es y lec o ojos,
adminis inks y cien í icos. A si adus ci ilización cambiančiai inno ao ei compu ado es clásica
g ama ikai y leksikai le an ilo necesidadbė apsi ilk i nue o d abužį y con e i se isa e e nue os
1
El a ículo es á p epa ado según la p esen ación G amá ica de la lengua Li uania en el mundo de código abie o, lec ady ą
en la 24-oa con e encia in e nacional Jono Jablonskio Skai meniniai kalbos iš ekliai, hei de elopmen di ec ions and
usage possibili ies (2017 09 29); ją o ganizó Ins i u o de Li u ias del Cen o de In es igación Bend ines del idioma y Vilniaus Uni e sidad
de la lengua Lie u ių ka ed a.
2
Pa eikslas iš h p://www.epa eldas.l / bspi/biReco d.do?biReco dId=25383.
VIRGINIJUS DADURKEVIČIUS. mo ología de la lengua Li uania abie ojo código hunspell pla o moje |2
BENDRINĖ KALBA 90 (2017) www.bend inekalba.l ISSN 2351-7204
ecnología. P ime o de las cosas de lenguaje en compu ado as p ecisó codi icando ex o (keičian
aides en núme os), au omá icamen e co egiendo e o es del ex o in oducido, skiemenuando
abipusės ligiu skilo ėsčių eks ą. Qué más a de búsqueda de in o mación, análisis y sín esis de la
habla, aducción au omá ica de una lengua a o a, pe cepción au omá ica de con enido, ex o
sensominea análisis, y . . Las cosas del lenguaje obliga on se inulkmenicialmen e o malizadas y
apun adas a o ooki, a compu ado as pe cep ible mane a. El más impo an e de es os emas
mo ología, ya que es o es cualquie de p o undugnesnių compu ado inas ling is ikas abajos
(sin aksė, seman inė analizė y e c.) base. P ime á al abajo amžių sandū oje lo ealizó la
expe imen al áb ica de Bi as p og ama zaile Vy au as Zinke ičius (1996, 2000). Be eik dos décadas
ue es o nepamainoma y la única he amien a con empo aniškam idioma li uanos es udio y
compu acionales aplicaciones. Es e sis ema ha sido u ilizado con éxi o pa a de ec a e o es de
esc i u a de ec a ex os en p og amas de edacción, así como pa a análisis mo ológico y sín esis
ealizados en abajos cien í icos y aplicamos en el ins i u o de lengua Lie u ių, Vy au as Didžiojo
(allí sus abajos ecibie on Lemuoklio nomb e) y Vilniaus uni e si e uos. Fue incluso c eada una
a ian e de es e sis ema, adap ada a la ieja lengua li uana analiza (Gelumbeckai ė y k . 2012). Sin
emba go, al expandi las necesidades compu acionales lingüís icas comenza on a esal a los
de ec os de es e sis ema: nones anda e, no desc i a es uc u as de da os; ce ado código;
ne isa e is ik inių a dų, ilia i o, d iskai os, pi minių eiksmažodžių u u o iempo, su umpėjusių
bei e ų o mų ealiza imas. Especialmen e es e sis ema olimesniam despliegojimon obs aculizó
ce ado código da os y algo i mo p ac icamen e podía cambia solo el mismo au o .
Con el in de e i a an e io men e desc i os de ec os y c ea una nue a gene ación
compu acional de la lengua li uana mo ología, se han plan eado las siguien es exigencias:
1) usa y desa olla solo el código abie o;
2) sólo los da os, pe o no su o ma y in e p e a imas, pueden ene especí icos de los
li uanos cualidades del lenguaje;
3) odo el código p og amá ico debe se uni e salus, an i cualquie o a lenguaji; 4)
ap o echa a o as lenguas del mundo soluciones adap adas con éxi o. Minus equisi os
co esponde bien la pla a o ma Hunspell. Además, ealiza de es e modo ap ašius lengua, más
3
a de nocesiai.), se puede comp oba e o es de o og a ía en muchos (o e 50) aplicomųjų
p og amas (OpenO ice, Lib eO ice, Fi e ox, Ch ome, Sa a i, InDesign y . ealiza palab as
mo ología análisis y sin ezę, in elec ina paešką ex ual in o mación y pan.
3
P ieiga in e ne e: h ps://en.wikipedia.o g/wiki/Hunspell.
VIRGINIJUS DADURKEVIČIUS. mo ología de lengua Li uania código abie o hunspell pla a o maje |3
BENDRINĖ KALBA 90 (2017) www.bend inekalba.l ISSN 2351-7204
En es e a ículo se esumen nue os ealizándose mo ologías de lengua Li uania Hunspell
pla a o ma de base. Se discu en los p oblemas elacionados con ello y sus o mas de solución, se
p esen an ejemplos de exi osa p ueba y aplicación p ác ica.
1.LIETUVI KALBOS APRAŠYMO HUNSPELL FORMATU YPATYBS
1.1.Suposiciones de la apa ición de Hunspell pla a o ma y p incipios gene ales
El código abie o Hunspell pla a o ma expandecido de sencillos spelling e i ica ion ins umen os
Ispell, Aspell, MySpell y pan. Pamažu haciéndolas más complejas y adap ándolas cada ez di e sas
4
a lenguas (ypač agliu inacinėms suomios, eng ų, u kų, e c.), ue posible esol e no sólo la
5
e i icación de la esc i u a, sino ambién mo ologicas análisis y sin ezes. Es a pla a o ma
6
ex emadamen e popula en el mundo los au o es p incipalmen e cien í icos y
ingenie iaip og amado es de o igen hong ų (T ón e k . 2005). Noenues abo que su nomb e
p ime o démeno Hun- es é según Veng ijos nomb e inglés. Los mo ologías de lengua en la
pla a o ma Hunspell desc iben dos ex iniai ailai: plė iniu.a записываются kai ybos правила, y
plė iniu.dic записывается словарь сложных форм с начальной морфологиной информацией и
ссылками в одну или несколько групп правил каi yбо, которые дополнительно могут быть
применяются. A ski ą egla puede imagina se como ins ucción, en la que se indica: 1) Qué en qué
se puede cambia en palab a de o mas ocodyno. Ejem., egla en SFX 85 čias y [^š]čias
is:Masc_Sg_Voc SFX ma ca que se cambia la palab a pabaiga, y cambia se puede čias en y. PFX
ma ca ía que se cambia el comienzo de la palab a. Cambio del medio de la palab a no es á
p e is o. 2) El núme o del g upo de eglas de Cai yba a la que se asigna es a egla,. Un g upo puede
cons i ui una o a ias eglas, que siemp e se aplican jun as. En el an e io ejemplojía egla se
asigna a un g upo, cuya nume is es 85. 3) Condiciones, bajo las cuales, el cambio es posible (aplique
se cie o o malismo de exp esiones egula es). Nues o ejemplozdyje el cambio es posible sólo
con la condición de que la palab a de o mas e odino pabaiga no ščias ( ej., aikiščias). 4)
In o mación Mo ológica, elacionada con es e cambio. En nues o ejemplo con al cambio de
inal de palab a es asociado la ma ca mo ológica Masc_Sg_Voc ( y iškoji giminė, unaaskai a,
šauksmininko eselnis, ej., s e y).
4
P ieiga in e ne e: h ps://www.cs.hmc.edu/~geo /ispell.h ml.
5
Acceso en in e ne : h p://aspell.ne .
6
Acceso en in e ne : h ps:code.google.com/a chi e/a/apache-ex as.o g/p/ooo-myspell.
VIRGINIJUS DADURKEVIČIUS. mo ología de la lengua Li uania en la pla a o ma de código abie o
BENDRINĖ KALBA 90 (2017) www.bend inekalba.l ISSN 2351-7204
hunspell |4 En De alle con Hunspell cai ybos eglas de compilación y p incipios de indicación de
in o mación mo ológica se puede amilia iza en el si io web de es a pla a o ma, y la
7
desc ipción de la mo ología de di e sas lenguas en es a pla a o ma posibilidades bas an e
bien esnaga adas en la dise ación Tommi A. Pi inen (2014).
1.2. Requisi os especí icos Li u iškajam ealiza imui
Pa a que al o malizamien o del lenguaje si ie a a la análisis mo ológico, sín esis, in o mación
ex ual indexada y en busca, hay que sa is ace los siguien es dos equisi os: 1) Al dicciona io de
o mas de palab as pueden se insc i as sólo lemos ( o mas sub i ula es); 2) p iešdėlinė,
p iesaginė y sang ąžinė da yba iene a sispindė i ne.a , o.dic aile. El p ime equisi o en lenguas
li uanas no es ácil implemen a debido a g an acciónmajodžių cai ybos a iedadi o és (apie 170
a ios), pe o esol e es a p oblemá ayudó la posibilidad de Hunspell pla a o ma de una egla
cai ybos k ies is o a. Aunque ales cabilidos gylis puede se igual sólo a la unidad, es o
conside ablemen e educe el amaño del ailo de eglas de cambio desde a ios millones de has a
a iasolicas miles de eilucias.
El sa is acimien o del segundo equisi o cuán expande.dic ailo amaño, po que, po ejemplo, de las
mismas šaknis im i, paim i, suim i y nesiim idė p iešliniaip iesaginiaisang ąžiniai ediniai se á
g abado po sepa ado líneasu ėmis. Y es o es no la única consecuencia nega i a de es a exigencia
se puede ácilmen e ab iga se y no inclui de algún algún menos usados e ma- e bio o adje i o del
de i ado. Es e dad, es e p oblema es bas an e de alladamen e esuel a lemas a ayendo sob e
odo no de isleis as diccionynas, pe o de acumuladas ex ynas.
Lie u iškųjų.dic y 1.3..a ilesų agmen ai (pa yzdžiai) Keli lie u ių kalbos.dic
ailo (žodyno) agmen ai con pa yškin ais Jono Jablonskio ejemplos de palab as
de con o midad mos ados en 2 pa eiksle.
7
P iega en in e ne : h ps://gi hub.com/hunspell/hunspell.
VIRGINIJUS DADURKEVIČIUS. mo ología de la lengua Li uania en pla a o ma de código abie o
BENDRINĖ KALBA 90 (2017) www.bend inekalba.l ISSN 2351-7204
hunspell |5 laukakmenis/118,122,132,137,141,145,157,159,9999 po:noun laukan po:ad e b
laukas/1,3,7,10,14,12,20,21,30,9999 po:noun
Lauka ičienė,1038,740,745,9999 po:noun_ amily_name
...
s ečias/1467,1767,1775,1781,1784,1841,9999 po:adjec i e
s ečias1,73,85,93,94,98,1007,116,997 po:noun
s ečia imasis/1308,1310,131315,1313139979 po:noun_ e lexi e
S ečiulienė/738,740,745,999999 po:noun_ amily_name
...
Gaidulis/118,122,132,141,145,157,9999 po:noun_ amily_name Gaiduly ė38,740,745,754,760,9999 po:noun_ amily_name
gaidys,264,268,278,280,287,8,300,302,999999 po:noun Gaidys,264,268,278,994,284,288,300,9999 po:noun_ amily_name
peilinis,9936,9999 po:adjec i e peilis/1122,132,21,13,30,17,14,14,15,15,15,19,9999 po:noun peilis,20,20,20,20,14,999,99
po:noun peipus,444,454,444,996,992,999,99 po:noun_geog aphic_AV 2 P. F ag amo de la palab a o mų.dic ailo.
...
Skaičiai po pas i ojo b ūkšnio ma ca e e encias en di eccionuojamas cai ybos eglas g upos. En ojo
pa yškin os e e encias a g upos de eglas, que mos ados 3 PAV. Fig. 3 se p esen an algunos ex os de la
lengua li uanas kai ybos.a :
SFX 21 Y 1
SFX 21 as uosna. is:Masc_Pl_Il
...
SFX 98 Y 2
SFX 98 as ai. is:Masc_Pl_Nom
SFX 98 as ų. is:Masc_Pl_Gen
...
SFX 264 Y 6
SFX 264 is is. is:Masc_Sg_Nom
SFX 264 ys ys. is:Masc_Sg_Nom
SFX 264 is žio. is:Masc_Sg_Gen
SFX 264 ys žio. is:Masc_Sg_Gen
SFX 264 ai ai. is:Masc_Pl_Nom
SFX 264 ai ų. is:Masc_Pl_Gen
...
SFX 145 Y 12
SFX 145 is iams. is:Masc_Pl_Da
SFX 145 ys iams. is:Masc_Pl_Da
SFX 145 is iam. is:Masc_Pl_Da _sho
SFX 145 ys iam. is:Masc_Pl_Da _sho
SFX 145 is ius. is:Masc_Pl_Acc
SFX 145 ys ius. is:Masc_Pl_Acc
SFX 145 is iais. is:Masc_Pl_Ins
SFX 145 ys iais. is:Masc_Pl_Ins
SFX 145 is iuose. is:Masc_Pl_Loc
SFX 145 ys iuose. is:Masc_Pl_Loc
SFX 145 is iuos. is:Masc_Pl_Loc_sho
SFX 145 ys iuos. is:Masc_Pl_Loc_sho
3 PAV. Kai ybos eglas.a ailo agmen ai. Pa iškin os a ias eglas, que pos e io men e se u ilizan a
la análisis mo ológica ilus a .

VIRGINIJUS DADURKEVIČIUS. Lie u ių kalbos mo ologija a i ojo kodo hunspell pla o moje |6
BENDRINĖ KALBA 90 (2017) www.bend inekalba.l ISSN 2351-7204
U ilizoyendo la desc ipción del lenguaje dada en ejemplos y es ánda (nuo idioma independien e)
Hunspell análisis medios, Jono Jablonskio ejemplos palab as pa a ob end íamos al espues a (ž .
4 ig. ).
4 PAV. Mo ologicas ejemplo de análisis de palab as
2. OIGA DE TRABAJO Y RESULTATOS
Cuando ya se compone oda e is desc ipción del lenguaje Hunspell o ma o ( . y. c ean
co espondiami.dic e.a ailai), a enia p ác icamen e ilimi adas posibilidades p ác icas
aplicaciones comenzando po la esc i u a o g amá ica comp obimu y e minando ismaniosiomas
paeškos sis emas de in o mación. Debido bas an e compleja mo ología de la lengua li uanas (daug
eglas y sus g upios) y necesidad de lis a lemos con g andes (más de 1 ml d. palab as) ex ynis,
e lejinčiais ealią ac ual de la lengua esc i as li uanas condición, a dó ap oximadamen e 5 años
desde p ime os en amien os has a losamen e eikiancio a ian o mo ología c eū imo.
An e io men e en es e a ículo los ejemplos dados son más ilus a i os, des inados sólo idéis
en ende ; ealidad en ealidad las eglas y sus g upos son mucho más complejas, especialmen e las
que es án elacionadas con accionesmažodžiam. Con el in de acele a el iempo de c eación de
mo ología y e i a e o es al edac a miles de eglas y las asigna a lemomas, inicialmen e se
desa olló un p ima io, más abs ac o que las especi icaciones Hunspell eque idas desc ipción de
la mo ología (co ykles MS Excel abele a, lemos y su clasi icación MS Access base de da os).
También ue on c eadas he amien as p og amá icas a es as p ima ias, homb e más ácilmen e
legibles y p as amen e pe cep ibles es uc u as au omá icamen e pe a ky i en.a y.dic iles o
o a, aplicación especi icos nusaky ą o mą. Naujausia lie u iškųjų.a e.dic ileų e sión se
8
p esen a au o iaus Gi Hub si io web.
Du an e odo el p oceso de o malizacion de mo ología ue on u ilizadas las siguien es uen es p incipales:
8
P ieiga en in e ne : h ps://gi hub.com/dadu ka/hunspell_mo phology_l .
VIRGINIJUS DADURKEVIČIUS. mo ología de los idiomas Li uanos en pla a o ma de código abie o
BENDRINĖ KALBA 90 (2017) www.bend inekalba.l ISSN 2351-7204
hunspell |7 1) Daba inės lie u ių kalbos g ama ika (DLKG 2006);
2) Vy au o Didžiojo uni e si e o ( oliau – VDU) Daba inės lie u ių kalbos eks ynas
9
–
~140 mln. palab as;
3) Texyns de la aducción au omá ica
10
de Vilniaus uni e sidad ~800 mln. palab as, ~4 mln.
unikalių;
4) Seimo de la República de Li uania
11
( oliau LRS) documen osi ~400 mln. palab as, ~1 mln.
unikalių;
5) Ac ualmen e Las dicciona io de la lengua li uanas (DŽ 2006) ~60 1.000. lemų;
6) Dicciona io de la lengua
12
Li uánea ~500 mil. a ículos;
7) Dicciona io In e nacional de palab as (VTŽŽe) ~22 1.000. lemų; 8) Lie u os pa a džių
žodynas (LPŽ) (~80 ūks . pa a džių). En o al, se compi ió ap oximadamen e 5000 g upos
de eglas di eccionables (18 000 de eglas indi iduales). Como eglas g upos
seespa schiusios po pa e del lenguaje, pa odiada 5 imagenle. 5 PAV. Kai ybos eglas
g upías apa so amien o po pa e de la lengua.dic ileas (žodynas) ue compues o de
171 000 lemos. Como lemos seiski sčiusios según pa e del habla, puzducha 6 dibuiksle.
9
Acceso en In e ne : h p:// eks ynas. du.l / eks ynas/.
10
Acceso en in e ne : h ps://www. e s i.eu/.
11
Acceso en In e ne : h p://www.l s.l /.
12
Acceso en In e ne : h p://www.lkz.l /.
Dik a o džiai (370)
Būdu nijs (238)
Skai a džiai (55)
Į a džiai (64)
Veiksmažodžiai (4161)
P ie eiksmiai (13)
VIRGINIJUS DADURKEVIČIUS. mo ología de la lengua Li uania abie o de código hunspell pla o moje
BENDRINĖ KALBA 90 (2017) www.bend inekalba.l ISSN 2351-7204
|8 6 PAV. Lemų apascun amien o según pa e de la lengua kalidingų, nelie u iškų, ne eik inų,
Vykdan a anką bu o apsi ibojama ik ai aisyklinga šiuolaikine lie u ių kalba i engiama
įžeidžiančių, nebe a ojamų palab as. Ve inos obik a o džiai ue on adicionalmen e diso idos en
pau des, nomb es, nomb es geog á icos y o os casos. Tal selección acili a la aplicación de la
mo ología c eada a la esc i u a comp oba y pe mi e los esul ados de análisis aplica más
ácilmen e en las e apas pos e io es de análisis de ex o (sin axis, in í si os en es
econocimien o, indexación y pañuelo).
La p ecisión del nue o desa ollado analizado mo ológico es de al ededo 98 po cien o., i. i.
p omediomen e 98 de 100 palab as el analizado mo ológico in e p e a co ec amen e
(Kapočiū ė-Dzikienė y k . 2017). Los es an es 2 p oc. no econocidos palab as suelen compone
e o es de o og a ía, o as lenguas palab as (pa das, pa a dés, azios ci as, e c.),
ne eik ini, neno minas palab as y eglas palab as, que no ue on incluidas en lemų lis a.
3. PRACTICA TAIKYMAS
3.1. VDU Sin aksinės-seman inės analizės sis ema Nue os c eados mo ología de la lengua li uana
en pla a o ma Hunspell en 20112015 años ue adap ado en VDU Sin aksinės-seman inės analizės
sis ema a la esc i u a y g ama ika comp oba , ealiza ex o mo ologine y sin aksine análisis
13
(ž . ig. 7). Mo ologica análisisé ue aplejada mix a es adís ico-co ecclino uni eñšminim
(pascė ado modelo de Ma ko , según es anda e do ado ap oximimadas ig amas
p obabilidades, Vi e bio algo i mo, unas cuan as excepciones). Ampliamen e sob e
una eikšminimą en la análisis mo ológica esc ibe Ju gi os Kapočiū ės-Dzikienės, E ikos Rimku ės
y Loïc Boizou publicación (2017).
13
Acceso en in e ne : h p://seman ika.l /Syn a icAndSeman icAnalysis/Analysis.
Daik a a džiai (bend inas) (41820)
Daik a a džiai ( ik iniai) (73697)
Būd a džiai (14552)
Skai a džiai (153)
Į a džiai (53) Skai a džiai (153) Skai a džiai (153) Į a džiai (53)
Veiksmažodžiai (34662)
P ie eiksmiai (3850)
Oi i (2290)
VIRGINIJUS DADURKEVIČIUS. mo ología de la lengua Li uania abie o de código hunspell pla o moje |9 7
BENDRINĖ KALBA 90 (2017) www.bend inekalba.l ISSN 2351-7204
PAV. Hunspell aplicación de la mo ología de la lengua li uanas VDU Sin aksinės-seman inės analizės sis ema
3.2. LRS egis o de leyes sis ema paješkos
En 20112013 años pa aleločiai con nue a c eación de mo ología de la lengua li uanas se lle ó a cabo
su adap ación Teisės ak ų egis o paieškos sis emaemoje LRS kancelia ijoje. No malmen e en
14
ales odos los documen os de palab as cambiadas en sus lemas y įsidėmima, donde cuál lema ue.
sis emose da p ieš ykdan pi mąją paiešką isi dokumen ai y a indeksuojami lemuojan , . y.
An es lle ando a cabo paeškos zapklausą su ex o ambién lemu seamos al misma mane a, po lo
que más a de se encuen a no solo zapklausia insc i a o ma de la palab a, sino y cualquie a o a
o ma de esa palab a, que es é en e ieškomų documen os. Dado que en el sis ema no ue posible
u iliza di ec amen e en.dic.a los da os, el sis ema eque ido o iginalus o ma (a chi o ex ual,
cuyo cada hilu é es [lema] [pa e de la lengua] [lis a de o mas]) ue gene ándose an e io men e de
mencionado p ime ino desc ipción de la mo ología. Aunque de es e desc ipción se puede gene a
sob e 15 millones. eó icamen e posibles o mas de palab as, debido a las limi aciones in e nas del
sis ema paješkos de ellos ue on u ilizados sólo sob e 1 millón. pachas ecuniosos. Es a solución
si ió de bien, pajá ka unciona bas an e sua emen e y se u iliza has a a ui (c . ig. 8).
14
acceso en in e ne : h ps://www.e- a .l.