|
"text": "en dator att rent mekaniskt utsegmentera str\u00e4ngar av typ '-ade' i 'hoppade', '-er' i 'sitter', '-orna' i 'flickorna', etc, \u00e4r naturligtvis ytterligt trivialt ur datamaskinell synpunkt, och redan de f\u00f6rsta mer seri\u00f6st inriktade datalingvistiska p r o jekten vid mitten p\u00e5 50-talet hade avsev\u00e4rt mer sofistikerade m e toder \u00e4n s\u00e5 f\u00f6r morfologisk analys. Inom vissa till\u00e4mpningsomr\u00e5den av typ dokuments\u00f6kning har dock \"trunkering\", som metoden kallas, f\u00e5tt viss anv\u00e4ndning -och icke utan framg\u00e5ng. Naturligtvis \u00e4r det inte alltid \u00e4ndelser som man p\u00e5 s\u00e5 vis f\u00e5r utsegmenterade. \"Analyser\" av typ 'sp-ade', och 'sk-orna' kan u t g\u00f6ra exempel p\u00e5 hur absurda resultat man kan f\u00e5 om trunkeringen till\u00e4mpas helt mekaniskt, och \u00e4ven om det \u00e4r l\u00e4tt att rensa bort s\u00e5dana uppenbara absurditeter \u00e5terst\u00e5r m\u00e5nga, m\u00e5nga fall d\u00e4r man inte f\u00e5r r\u00e4tt resultat. Bara ett exempel: huru g\u00f6ra med '-er' i orden i satsen 'En mager neger niger s\u00f6nder alla b\u00f6nder', d\u00e4r '-er' utg\u00f6r \u00e4ndelse i blott tv\u00e5 av orden och dessutom verb\u00e4ndelse i det ena ordet och substantiv\u00e4ndelse i det andra? Dessa exempel torde r\u00e4cka f\u00f6r att f\u00f6ra trunkeringsmetoden helt \u00e5t sidan i varje seri\u00f6st projekt som syftar till n\u00e5got s\u00e5 n\u00e4r fullst\u00e4ndighet i analysen. Men, fr\u00e5gar man sig, varf\u00f6r skall man ha fullst\u00e4ndighet? Ja, sva ret m\u00e5ste bero p\u00e5 vad man skall ha analysen till, och \u00e4r syftet att man vill l\u00e4ra sig n\u00e5got om spr\u00e5ket, \u00e4r det inte alls s\u00e4kert att fullst\u00e4ndighct i sig \u00e4r s\u00e4rskilt efterstr\u00e4vansv\u00e4rd. I sj\u00e4lva verket kan det ur teoretisk synpunkt vara avsev\u00e4rt intressantare BETA-systemet som verktyg f\u00f6 r lingvistiska experiment -morfologisk analys enligt ytkriterier Benny Brodda Proceedings of NODALIDA 1979, pages 103-121 att f\u00e5 reda p\u00e5 att en rent mekanisk trunkering trots allt ger upp\u00e5t 70-procentig korrekt (eller rimlig) analys av l\u00f6pande text, \u00e4n att man med man\u00e5r av insatser kan visa att en datamaskin med tillg\u00e5ng till ett omfattande lexikon kan analysera ord, s\u00e4g till 98 % korrekt. Den senare siffran siiger egentligen ingenting om spr\u00e5ket, utan bara om det dataprogram som anv\u00e4nds, och det \u00e4r sedan 50-talet bekant att det \u00e4r ungef\u00e4r den niv\u00e4n man uppn\u00e5r. Trunkeringsexperiment leder dessutom fram mot intressanta nya experiment, experiment som kan belysa viktiga aspekter av spr\u00e5ket. L\u00e5t oss till att b\u00f6rja med s\u00e4tta upp den mera begr\u00e4nsade m\u00e5ls\u00e4tt ningen att f\u00f6rs\u00f6ka h\u00f6ja kvaliteten p\u00e5 analysen genom att l\u00e4gga in diverse kontextvillkor o dyl f\u00f6r utsegmenteringen av \u00e4ndelser och andra affix. H\u00e4r f\u00f6ljer n\u00e5gra exempel p\u00e5 typer av s\u00e5dana villkor: '-te* i 'vante' kan inte vara analogt med '-te' i 'k\u00f6pte' av fonologiska sk\u00e4l; med n\u00e5gra ytterligt f\u00e5 undantag m\u00e5ste preteritum\u00e4ndelsen '-te* f\u00f6reg\u00e5s av en fortiskonsonant. Analyser av typ 'undanb-er' och 'o-rdentlig' \u00e4r om\u00f6jliga av fonotaktiska sk\u00e4l; utsegmenteringen kvarl\u00e4mnar otill\u00e5tna konsonantkombinationer. 'ning' i 'b a n i n g e n j \u00f6 r ' kan inte utg\u00f6ra suffix (analogt 'betalnings balans') av morfotaktiska sk\u00e4l; ord p\u00e5 '-ning* r\u00e4knas som tunga och f\u00e5r normalt foge-s i f\u00f6rledsst\u00e4llning. Om man nu anstr\u00e4nger sig maximalt f\u00f6r att utnyttja ytkriterier av den art jag ovan antytt, hur pass bra kan man d\u00e5 f\u00e5 analysen? Sva ret p\u00e5 denna fr\u00e5ga beror i h\u00f6g utstr\u00e4ckning p\u00e4 vad man menar med \"riktig analys\", vilket man kan kvalifiera p\u00e5 m\u00e5nga olika s\u00e4tt, men grovt taget kan man faktiskt f\u00e5 analysen att n\u00e4rma sig 90-procentig korrekthet och v\u00e4l det. Nedan skall jag redog\u00f6ra f\u00f6r n\u00e5gra experiment av det slaget; ett som jag sj\u00e4lv utf\u00f6rt p\u00e5 svenskt material, och ett p\u00e5 finskt som jag utf\u00f6rt tillsammans med Fred Karlsson, Abo. de spr\u00e5kliga signalerna. Hj\u00e4rnan utnyttjar spr\u00e5k lig information av vad slag som lielst, varhelst denna p\u00e5tr\u00e4ffassemantisk, syntaktisk, fonetisk, etc -och den g\u00f6r det utan s\u00e4rskilt f\u00f6rutbest\u00e4md ordning, dvs varken enligt n\u00e5got \"bottomto-top\" eller ' top-to-liot tom\" f\u00f6tfarande. lin rimlig hypotes \u00e4r, att ytsignalerna (de grammatiska morfemen) sammantagna ger starka indicier om de syntaktiska relationerna i yttrandena. Med experi ment av det slag jag ovan beskrivit kan man komma \u00e5t fr\u00e5gan om hur mycket information som faktiskt finns i ytsignalerna (och, som sagt, det tycks finnas ganska mycket). En annan iakttagelse tycker jag mig ha kunnat g\u00f6ra vid dessa e x periment. I de spr\u00e5k som jag hitintills varit med om att unders\u00f6ka med dessa metoder -svenskan och finskan utf\u00f6rligast, men ocks\u00e5 prelimin\u00e4rt ungerskan (turkiskan hoppas jag kunna komma ig\u00e5ng med . under \u00e5ret) -s\u00e4 tycks totalm\u00e4ngden information i ytsignalerna vara ungef\u00e4r densamma p\u00e5 den morfologiska niv\u00e4n, men det tycks som om denna informationsm\u00e4ngd byggs upp p\u00e5 fundamentalt olika s\u00e4tt i de olika spr\u00e5ken. Med det programsystem -BETA -som jag arbetat med, kan jag l\u00e4tt plocka in och plocka ut den fonologiska ko m p o nenten, den fonotaktiska komponenten, etc, ur analysen, och genom att j\u00e4mf\u00f6ra k\u00f6rningar med resp utan dessa olika komponenter kan jag f\u00e5 en uppfattning om vilken \"b\u00f6rda\" varje komponent f\u00f6r sig b\u00e4r, och det verkar som om t ex svenskan och finskan avsev\u00e4rt skiljer sig h\u00e4r. I svenskan tycks fonotaxen spela en betydande roll men vara av t\u00e4mligen perifer betydelse i finskan d\u00e4r i \u00e5stadkomma ett t\u00e4mligen generellt system f\u00f6r lingvis tisk databehandling, s\u00e5 b\u00f6r man ha klart f\u00f6r sig att varje s\u00e5dant system m\u00e5ste komma att inneb\u00e4ra en kompromiss mellan m\u00e5nga i och f\u00f6r sig \u00f6nskv\u00e4rda men i dagens l\u00e4ge inkompatibla egenskaper. Visst vore det bra om man i samma system kunde utf\u00f6ra transformationer b\u00e5de framl\u00e4nges och bakl\u00e4nges, sl\u00e5 i stora lexika, bygga seman tiska n\u00e4tverk, simulera kognitiva processer, etc, etc, och detta dessutom med ett system som \u00e4r snabbt och billigt i drift och helst s\u00e5 enkelt att vem som helst kan l\u00e4ra sig det p\u00e5 n\u00e5gon timme. Visst, men var finna denna underbara cigarr? Jag tycker alltf\u00f6r m\u00e5nga system sett dagens ljus d\u00e4r man antingen inte haft klart f\u00f6r sig att ovan uppr\u00e4knade saker kanske inte g\u00e5r att f\u00f6rena, eller d\u00e4r man inte klargjort vilken aspekt av spr\u00e5klig databehand ling man f\u00f6rs\u00f6kt optimera. Huvudm\u00e5ls\u00e4ttningen med BETA-systemet var att enkla, ytn\u00e4ra, str\u00e4ng manipulationer skulle kunna utf\u00f6ras mycket enkelt och billigt, och p\u00e5 ett f\u00f6r utbildade lingvister n\u00e5got s\u00e5 n\u00e4r \"transparent\" s\u00e4tt. Systemet skulle dock vara s\u00e5 pass generellt att det i prin cip skulle vara m\u00f6jligt att \u00e5stadkomma vilken slags analys som helst. Resultatet blev -som ovan n\u00e4mnts -ett regelinterpreterande system, d\u00e4r kravet p\u00e5 generalitet tillgodoses genom att alla sorters \"action\" i systemet skall kunna styras av reglerna. Det exakta regel formatet best\u00e4mde jag efter en analys av vad som verkligen beh\u00f6vs och -minst lika viktigt -vad som inte beh\u00f6vs f\u00f6r simulering av t\u00e4mligen ytn\u00e4ra processer av fonologisk eller morfologisk natur (typ \"morfologisk analys utan lexikon\"), och det \u00e4r allts\u00e5 den typ av analys som systemet b\u00f6r vara optimerat f\u00f6r. Naturligtvis g\u00e5r det ocks\u00e5 att skriva t ex TG-mekanism har gjort att enskilda spr\u00e4kliga enheter mycket s\u00e4llan beh\u00f6ver anges mer \u00e4n en g\u00e5ng i en regelupps\u00e4ttning trots att enheterna som s\u00e5dana kan f\u00f6rekomma i de mest skilda omgivningar och funktioner. En annan mycket viktig egenskap hos systemet \u00e4r att icke-deterministiska situationer kan omh\u00e4ndertas p\u00e5 ett mycket \"geschwind\" s\u00e4tt. Vanligtvis utv\u00e4rderas reglerna i ett regelsystem strikt disjunktivt -den f\u00f6rsta till\u00e4mpbara regeln i en viss given situa tion till\u00e4mpas varefter systemet forts\u00e4tter med n\u00e4sta steg i enlighet med direktiven i den till\u00e4mpade regeln. Reglerna kan dock m\u00e4rkas s\u00e5 att de till\u00e5tes verka konjun k t i v t ; om tv\u00e5 eller flera olika regler samtidigt \u00e4r till\u00e4mpbara p\u00e5 samma situation s\u00e5 till\u00e4mpas ocks\u00e5 dessa regler den ena efter den andra, men p\u00e5 s\u00e5 s\u00e4tt att efter varje s\u00e5dan regeltill\u00e4mpning s\u00e5 sparas hela arbetsstr\u00e4ngen i en \"jobbk\u00f6\", arbetsstr\u00e4ngen \u00e5terst\u00e4lles d\u00e4refter i det skick den nyss hade, och n\u00e4sta till\u00e4mpbara regel kan nu f\u00e5 verka p\u00e5 samma ursprungssituation. Detta f\u00f6rfarande att omh\u00e4nderta icke-deterministiska situationer inneb\u00e4r f\u00f6rst\u00e5s att s\u00e5dana f\u00e5r en multiplikativ effekt, men genom att administrationen av den interna k\u00f6n \u00e4r mycket enkel och snabb s\u00e5 f\u00e5r man normalt \u00e4ndock rimliga analystider p\u00e5 m\u00e5ttligt l\u00e5nga str\u00e4ngar; s\u00e5ledes kan n\u00e4mnas att en str\u00e4ng som var approximativt 500-ambigu\u00f6s (enligt en enkel CF-grammatik) kunde analyseras i sin helhet p\u00e5 ca 30 sek (p\u00e5 en IM)P 11/34). Vad betr\u00e4ffar den tekniska uppbyggnaden av systemet har jag bl a anstr\u00e4ngt mig att f\u00e5 det mycket modul\u00e4rt och d\u00e4rmed flexibelt och anv\u00e4ndbart f\u00f6r andra saker \u00e4n ren str\u00e4ngmanipulation av h\u00e4r b e skriven typ. I Brodda -79b demonstreras hur BETA-systemet kan u t nyttjas som ett mycket avancerat excerperingshj\u00e4lpmedel. 3. Tre experiment med automatisk morfologisk a n a l y s . Jag skall nu g\u00e5 \u00f6ver till att presentera n\u00e5gra faktiska analyser 107 Proceedings of NODALIDA 1979 utf\u00f6rda med BETA-systemet. Det r\u00f6r sig om tre experiment som alla hade en till det yttre likartad m\u00e5ls\u00e4ttning, n\u00e4mligen auto matisk utsegmentering av morfer i l\u00f6pande text utan anv\u00e4ndande av (stam)lexikon, ja, i ett av dem -det p\u00e4 latin -saknades lexikon \u00f6ver huvud taget; morferna definierades d\u00e4r helt och h\u00e5llet genom ett strukturvillkor. Alla dessa morfologiska experiment \u00e4r eller kommer att bli p r e senterade i sin helhet i andra sammanhang, och det \u00e4r i vilket fall som helst uteslutet att p\u00e4 den plats som h\u00e4r st\u00e5r mig till f\u00f6rfogande g\u00f6ra annat \u00e4n en kort presentation och ge n\u00e5gra f\u00e5 exempel. Det gemensamma med dessa tre experiment \u00e4r att de varit avsedda att belysa teoretiska fr\u00e5gest\u00e4llningar betr\u00e4ffande respek tive spr\u00e5ks morfologi; i det latinska experimentet hypoteser av spr\u00e5khistorisk karakt\u00e4r, i de svenska och finska f\u00f6r att belysa hypoteser om ordstrukturer och ordperception. Det finska experi mentet kan ocks\u00e5 f\u00f6rmodas f\u00e5 betydande pedagogisk till\u00e4mpning. Ett annat gemensamt drag i dessa tre experiment \u00e4r att regel systemen \u00e4r framtagna och uttestade p\u00e4 grundval av omfattande testk\u00f6rningar p\u00e5 relativt stora datam\u00e4ngder (30-50.000 ord l\u00f6pande text). Jag har i olika sammanhang, n\u00e4r jag vid presentation av BETA-systemet betonat att jag lagt stor vikt vid att f\u00e4 systemet b\u00e5de l\u00e4ttarbetat och snabbt, f\u00e4tt h\u00f6ra den inv\u00e4ndningen att detta med snabbhet \u00e4r ointressant s\u00e4 l\u00e4nge man h\u00e4ller p\u00e4 med uttestandet av teoretiska modeller. Detta \u00e4r n\u00e5got jag inte vill h\u00e5lla med om. Det \u00e4r v\u00e4ldigt l\u00e4tt att s\u00e4tta upp snygga och prydliga modeller som behandlar ett litet antal, v\u00e4l valda exempel p\u00e5 ett mycket elegant s\u00e4tt, men det \u00e4r d\u00e4 ocks\u00e4 v\u00e4ldigt l\u00e4tt att man l\u00e5ter lura sig av modellens elegans att tro att spr\u00e5ket i sin helhet \u00e4r p\u00e5 det s\u00e4tt som modellen visar. Min definitiva erfarenhet \u00e4r att det \u00e4r f\u00f6rst d\u00e5 man l\u00e5ter modellen konfronteras med ett realistiskt spr\u00e5kligt material som man f\u00e4r n\u00e5gon uppfattning om modellens b \u00e4 righet. D\u00e4rf\u00f6r \u00e4r det inte ointressant, vare sig ur teoretisk eller praktisk synpunkt f\u00f6r den som h\u00e4ller sig inom ramen f\u00f6r n sitt s\u00e4tt att verka. N\u00e4r tlet g\u00e4ller latinexperi mentet \u00e4r detta kanske inte s\u00e4 underligt, eftersom uppgiften d\u00e4r var s\u00e4 annorlunda till sin karakt\u00e4r, men n\u00e4r det g\u00e4ller det svenska resp. finska experimentet kan man fr\u00e4ga sig om denna deras olikhet \u00e4r en ren slump, eller om det svarar mot en verklig skillnad vad betr\u00e4ffar deras ordstrukturer. Den skillnad jag talar om g\u00e4ller inte den rent ytliga skillnad som ligger i att analysen i det ena fallet g\u00e5r v\u00e4sentligen fr\u00e5n v\u00e4nster till h\u00f6ger inom ordet och i det andra fallet tv\u00e4rtom. I st\u00e4llet r\u00f6r det sig om en mer fundamental skillnad i hela den strategi med vilken orden attacke ras enligt de b\u00e5da regelsystemen. De valda strategierna k\u00e4ndes n a turliga och sj\u00e4lvklara b\u00e5de n\u00e4r det g\u00e4llde svenskan och n\u00e4r det g\u00e4llde finskan. Jag \u00e4r personligen helt \u00f6vertygad om att det \u00e4r n\u00f6dv\u00e4ndigt att analysera svenskan och finskan med helt olika al g o ritmer, och att detta svarar mot att orden i de b\u00e4gge spr\u00e5ken", |