Kuidas õpetada masinat eesti keelt mõistma? This text was transcribed automatically using jutusta.ee .
It is an interview from the „Kukkuv õun” radio show (Kuku Raadio,
1 July 2026), hosted by Marek Strandberg with guest Aivo Olev. The transcript below is in
Estonian.
Tutvustaja 0:00 Kuku Raadios välja öeldud seisukohad ei pea ühtima Kuku Raadio seisukohtadega. Marek Strandberg 0:20 Head kuulajad, Kukuv Õun eetris, mina saatejuht Marek Strandberg ja külla olen kutsunud keeletehnoloogia asjatundja Aivo Olevi. Kellel rida asju ette näidata ja ette kuulata lasta, isegi välja võib öelda. Aivo, ma saan aru, et sinu tee keeletehnoloogia juurde ei ole üldsegi olnud mitte otsene, et nüüd otsustasid ja nüüd hakkasid tegelema, vaid see on natuke pikem. Aivo Olev 0:51 Jah, tervist, tõepoolest, et ülikoolist oli kunagi täitsa kaheksa aastat pausi ja bakalaureuse oli hoopis psühholoogias. Aga pärast seda hakkasin IT-valdkonnas tarkvaraarenduses tööle ja ja mingi hetk lihtsalt tundsin, et võiks ennast rohkem harida ja läksin lihtsalt informaatikat õppima. Ja seal lõputöö tegin sellise praktilise asja nagu tekstiks.ee, mis on selline tänaseks kahekümne kahe tuhande kasutajaga tasuta platvorm, kus saab oma helisalvestisi siis tekstiks pöörata. Marek Strandberg 1:28 Need olid omal ajal väga edukad nagu üks esimesi, eks, mis eesti keeles olemas ja vist ainukene, mis on nagu ellu jäänud. Aivo Olev 1:36 Kas selle edu oli sulle üllatuseks või lootsid ka, et nii läheb? Jah, et selles suhtes see edu on võib-olla see, et et ülikool saab tähelepanu ja meie meie valdkonda ja ja vahel saame ka teaduslikke viiteid. Aga selles suhtes, ta on alati tasuta olnud, aga ta on kasulik olnud muidugi, et selles suhtes ei olnud üllatused, kui ma ise nägin esimest korda, kui hästi see seda tekstiks pöörab, seda kõne, et siis, siis nägin, et see on kasulik paljudele. Marek Strandberg 2:10 Kui suur see seltskond oli, kes selle tekstiks.ee tegemisega seotud oli ja kes seal veel olid? Aivo Olev 2:16 Kogu siis, mis välja paistab, on, on minu tehtud ja hiljem ka siis kogu see, mis seal taga on, on minuga tehtud, see lihtsalt põhines mu, mu tolleaegse juhendaja ja praeguse laborijuhataja professor Tanel Alumäe varasemal tööl, aga põhimõtteliselt jah, et tänase päevani, üle seitsme aasta, olen siis kõike ise alanud. Marek Strandberg 2:36 Nüüd kuulda on, et keeletehnoloogia valdkonnas oled sa osalenud siin üsna hiljuti kahel mingil võistlusel. Milliste võistlustega on tegemist ja ma saan aru, et sealt on tulnud head auhinnadki. Aivo Olev 2:51 Just, et, et esimene nendest oli täitsa selle aasta alguses, kus osalesin Interspeech nimelise konverentsi võistlusel, mis kindlasti nagu tavakuulajale midagi ei ütle, aga meie valdkonnas on siis kõige suurem konverents. Ja seal oli väljakutseks siis, et kui hästi nüüd suured keelemudelid või moodsas väljenduses agendid suudavad helist aru saada. Ja seal ei olnud enam ainult kõnest aru saamine, vaid ka muusikast ja, ja suvalistest helidest näiteks, et kas see salvestus on tehtud toas või õues või mitu korda siin ooperilaulja saavutab kõige kõrgema noodi või kas see on. Mis, mis masinaga on tegemist, et, et näiteks kui see on lõbustuspargis mingi sõiduk, et, et sellised väga lahtised küsimused olid küll vastuse variantidega ja siis pidi ka see agent suutma ära põhjendada, miks ta niimoodi arvab ja, ja hindaja oli siis samamoodi. Suur keelemudel, kes siis hindas, hindas omakorda, et kas ta korjas sealt need vaatlused, helilised nagu argumendid ülesse ja, ja tõi need ilusti välja ja, või põhjendas ära, et hinnati ka seda, et mitte sa ei arvanud õiget vastust, see oli ainult osa sellest, vaid, vaid ka kui hästi ta ära põhjendas, et miks, miks ta arvab, et selline, selline asi seal helis oli? Marek Strandberg 4:19 Ma küsin veel juurde, et keelemudelid arusaadavalt tekivad seetõttu, et tohutul hulgal andmeid korreleeritakse, luuakse nende põhjal siis neurovõrgustikud ja nende kaalukoefitsiendid ja mis kõik veel, kas see tähendas seda, et sa pidid eelnevalt ka seda keelemudelit või agenti siis õpetama moel, et kõikvõimalikud helijäljed, mis õnnestab mikrofoni kinni püüda, oleksid nagu seotud siis objektiga, mil need pärinevad. Aivo Olev 4:53 Selleks päris aega ei olnud ja, ja kui me räägime selliste suurte mudelite treenimisest, siis seal on ikka meeletud eelarved, et, et päris neid me algselt ei treeni ka, aga seal oli puhtalt selline insenrallik ülesanne, et kasuta mida vähegi leiad, peaasi, et on haavatud kaaludega nii-öelda nagu kui millal sa seda oma riistvarale ise tööle panna, see oli nagu põhiline piirang ja siis tee mida iganes, et mida, mis iganes annab, annab tulemuse ja siis ma proovisin umbes nelja erinevat, mis olid juba siis sellised keelemudelid, mis võtavad ka, suudavad ka helist aru saada, et, et tänapäeval me näeme, et pilte võib, on ju, keelemudelitele sisse sööta ja saavad väga hästi aru, teevad arved digitaalseks, et siis mõned mudelid suudavad ka helist aru saada. Minul oli seal insenerilik ülesanne, et uurida, mis ülesandega nad saavad hästi paremini hakkama ja siis panin mitu mudelit koos töötama ja siis nad ühiselt pidid otsustama, et mis siis õige vastus on. Ja kõik nagu argumendid välja töötama, et, et selline on puhas insenerilik ülesanne. Marek Strandberg 5:54 Ja tehisarvu pidas arvet ja andis siis sulle auhinna või oli seal ikkagi mõni inimese otsus ka veel küljes? Aivo Olev 6:01 Sellistel võistlustel lõpuks loeb puhtalt numbrid, et, et mitu vastust, kui hästi ära arvas, aga mina pidin tegema siis autonoomse agendi, et mille ma panen nupust tööle ja tema ragistab, lahendab tuhat ülesannet, kirjutab kõigile vastused. Juba see, kui ma sellist süsteemi üritasin aru saada, et kui hästi tal läheb, et siis see minu logid, logid, ma lugesin üle, oli üks koma kolm miljonit rida nagu logisid, et, et üldse aru saada sellest, mis seal toimub, see vajas ka juba tehisarvu. Marek Strandberg 6:32 Ehk et žürii inimestest koosnevana töötaks vist tänase päevani neid ridasid läbi. Aivo Olev 6:39 Jah, ja ütleme, kui ma peaks ise neid ülesandeid lahendama, neid tuhandeid, siis ma kukuks kohe läbi kõigis muusikaülesannetes, nii et ma ei ole üldse kindel, et kui ma sain seal mingi seitsekümmend kuus pool protsenti täpsuse, et ma nullist nagu ise seda paremini lahendaks. Marek Strandberg 6:54 Ja järgmine koht oli mitu? Aivo Olev 6:56 Selles suhtes küll, aga ütleme noh, see, need mudelid, mida kõik said kasutada, on nagu sarnased, aga siis, kui sa võtad ta lihtsalt nullist, et siis ta oleks saanud võib-olla seitsekümmend protsenti õigeks, et kõik see koostöö seal mitmega ja mitme nii-öelda tehisharuga siis ja, ja kõik tööriistad, mis sinna juurde, sellised traditsioonilisemad, mida on juba kümneid aastaid kasutatud võib-olla helianalüüsimisel, et kõik need juurde siis olid see, et mis andsid siis mõne protsendi pügala täpsust juurde. Marek Strandberg 7:32 Ehk et piltlikult öeldes lõid sa sellise väikse ökosüsteemi, kus tehisharulised agendid omavahel asju ajasid ja siis vastuseid andsid nii nagu nõutud? Aivo Olev 7:41 jah. niimoodi Võib öelda, Marek Strandberg 7:42 Nüüd võistutegelemine. teine Aivo Olev 7:45 Jaa, just sain sellega seoses siis Konverentsi ja Lissagonis eelmine nädal, et et ülesanne oli lihtne, et ütlemiskeelega on tegemist, et siis keele, keele äratundmine ja... Marek Strandberg 7:58 See on ikka päris keeruline ülesanne. Aivo Olev 8:00 Aga, aga siis, et, et raskem oleks, siis oli valitud selline andmestik, kus enamik inimesi rääkisid aktsendiga, et, et siis iga inimene oli rääkinud kahte kuni kümmet keelt ja see siis juba jaoks tähendabki, et nad räägivad enamasti võõrkeeles ja et see hästi õnnestuks. Ja siis meie lahendus oli seal juba, seal oli peaaegu üle, ütleme, et sai topelt parema täpsusega kui, kui teine võistkond ja ja seal me siis ka kasutasime väga loomingulisi meetodeid. Marek Strandberg 8:33 Küsin siia puht huvi pärast vahepeale, et kas sa oled kokku puutunud ka sellise inimesega nagu Indrek Parkiga, kes tegeleb valdavalt üle ookeani keelte päästmisega, kus rääkijaid on alles jäänud ülivähe, üks vahel isegi, ja siis ta püüab need keeled siis uuesti nii-öelda kirja panna, analüüsida ja anda lootust, et neil võib ka elujõudu veel olla. Aivo Olev 9:01 Jaa, see on, otseselt teda ei tea, aga ütleme, Eesti teadlased tihti keskenduvadki sellistele väiksematele keeltele ja eriti nendele väga väikestele. Ja meil on endalgi laboris mõned ideed, näiteks et kui on olemas helinäited, aga võib-olla seda kirjapilti nii väga ei ole, et kuidas treenida EIS-i algsed mingid kõnetuvastusmudelid ja siis selle pealt tekitada tekstiandmeid ja siis selle pealt treenida järgmine generatsioon, ja niimoodi tsüklis siis aretada need aina paremaks. Et see on põnev uus valdkond, et kuidas saaks ka sellistes peaaegu kadunud keeltes tekitada keeletehnoloogiat. Marek Strandberg 9:47 Indrek Park on käinud ka Kuku saates kõnelemas oma keele päästmise tegevusest ja mainis siis muuhulgas, et ka varem on ta kasutanud masinõpet ja, ja neurovõrkegi, Aga tema jaoks, ütles ta väga selgelt, oli OpenAir ja ei välja tulnud, chat GDP, nii-öelda igal juhul suur-suur üllatus. oli? sinuga Kuidas Kas sa ootasid, et midagi sellist tuleb või šokeeris see ka sind teatud määral? Aivo Olev 10:12 Ma ei oodanud, mõnes mõttes, mõnes mõttes need keelemudelid on meie valdkonnas olnud aastakümneid, nad on lihtsalt olnud lihtsamad ja siis nad tegidki seda, millest kõik räägivad, et ennustasid järgmist sõna, on ju. Et kõnetuvastuses on see väga tavaline probleem, et kui sa lihtsalt kuulad seda heli, siis sa ei tea otsustada, sul on konteksti vaja, et milline sõna see nüüd on, mõned sõnad kõlavad niivõrd sarnaselt. Või, või ulatuvad veel pikemalt, sa ei saagi hetkel veel otsustada esimese info pealt, et, et mis sõnaga on tegu, et siis me kasutasimegi keelemudeleid, et lahendada see, see dilemma, et millise sõma, sõnaga on tegemist. Aga see, et nad läksid aina, et sinna nüüd nii palju tarkust sisse pandi, et nad hakkasid nagu justkui mõtlema ja justkui nüüd inimesed peavad seda tehisintellektiks, et et see oli muidugi üllatav. Mõnes mõttes samas ma ei läinud asjaga vooluga kohe kaasa, et mina avastasin, et enda jaoks kasulikuna võib-olla poolteist aastat tagasi, kus ma siis hakkasin programmeerima kõvasti nendega. Marek Strandberg 11:14 Ehk et seda sa võid rahustada kuulajat, et mõtlemisega pole sellel tegevusel otsest mingit pistmist. Aivo Olev 11:22 Seda kutsutakse mõtlemiseks ja aga see on, ta toimib hoopis teistmoodi, ta üritab nagu mingit mõtlemisjada luua ja siis loeb selle uuesti justkui nagu läbi ja siis üritab sealt leida vastuolusid, et see on selline valjult mõtlemise, mõtlemise laadne protsess. Marek Strandberg 11:43 Mõnes mõttes ju meie ka praegu ju ei mõtle ennem lauset või teksti välja, vaid ju ka kuidagi sujuvalt ja soravalt räägime, lootes, et meie aju tekkinud õpetamise ja koolitamise ja kasvamise tagajärjel tekkinud ka ju ahel annab enam-vähem mõistetava teksti, juhul kui meil on mingi plaan, millest rääkida. Aivo Olev 12:03 Jah, justkui nagu me toimiks samamoodi, aga samas samas, kui me mõtleme, jah, siis me vahepeal ka kaalume erinevaid sõnasid natukene ette, seal on palju, palju sarnasust, jah, aga näiteks ma olen kunagi mingit improvatsiooni mingitel üritustel osalenud, kus pannaksegi mitu inimest järgmist sõna ennustama, et aga kui see järgmine sõna tuleb teiselt inimeselt, vot siis see, see teeb ikka selle väga raskeks, et kui sa iga kord pead täiesti uut sõna ennustama ja kogu see varasem sisend tuleb kellestki teiselt, et et siis, siis, siis saad aru, et me ikka päris niimoodi ei toimi, et me kogu aeg ühe sõna haaval nagu ennustame. Marek Strandberg 12:45 Siin kordame saatesse väikese pausi ja kuulake meid pärast vaheaega. Kuku Head kuulajad, Õun jätkub, mina, saatejuht Marek Stenberg, külas keeletehnoloogia Aivo Olev ja kõneleme keeletehnoloogiast, kõnelesime just tema kahest edukast võistlusest keeletehnoloogia valdkonnas ja Nüüd jõuame siis sinnamaale, et me ju näeme enda ümber väga ägedaid asju, me näeme seda, kuidas no enam-vähem reoolajas inglise keeles ja ka saksa keeles ja suuremates keeltes masin on suuteline nii-öelda enam-vähem korrektselt andma, räägitule kirjapildi, transkribeerima enam-vähem noh, nii-öelda õiges kiiruses, eesti keeles seda pole veel näha olnud või juba on. Aivo Olev 13:38 Jaa. Transkribeerima, kas mõte oli see, et sünteeshääled juba räägib välja? Marek Strandberg 13:45 Ei, mõte on selles, et ma räägin ja mul ilmub enam-vähem samal ajal see tekst ja sellepärast et kui meenutame seda tekstiks EE-dki, siis seal ikka Aivo Olev 13:53 see ketramine võtab aega, vahel tunde isegi, kui tekst on pikem ja noh, jälle ajakirjanikul oleks nagu kärsitust nii palju küll, et tahaks nagu kohe, et see tekst iiorvu ilmuks. Kaugel me sellest oleme või see on ka tänaseks lahendatud? Jaa, et nad on jah, natukene vajavad erinevat lahendust, kui tahta hästi kiiresti, siis reaalaja lähedaselt. Kindlasti nad on palju-palju paremaks saanud ja me tavaliselt teadlased mõõdame seal veamäära, et nüüd me suudame seal läheneda kuuele kuni üheksale protsendile, et sellises hea, hea akustikaga või hea ka mikrofoniga salvestuskohas on kindlasti, neid vigu palju-palju vähem. Raskusi tekib, kui on kõik segavad faktorid veel juures, aga ütleme, eesti keel enam ei ole selline väga vaene keel, selle vähemalt teadlased räägivad niimoodi, et ressursivaesed keeled ja siis ressursirikkad keeled, et mõnes mõttes meie keeletehnoloogia on päris arenenud juba. Et ka see reaalajas kõnetuvastus toimib juba päris hästi. Marek Strandberg 15:06 Millal see võiks olla, ma ei oskagi öelda, rutiinselt näiteks nutitelefonides, olgu siis Apple'i toodetud, või muudes Androidides sees sellisel moel, et et ei pea püüdma teksti kiireks tekitamiseks ilmtingimata inglise keeles kõneleda? Aivo Olev 15:26 Paraku, kuna me oleme siin alla ühe miljoni emakeeles eesti keelt kõneleva nagu riik või rahvus, et siis meil, me ei ole see põhisihtgrupp, et Androidides on näiteks Gema teisharu mudel sees, mis isegi natukene saab eesti keelest aru, aga see vigade arv on ikkagi liiga suur, et hetkel peaks nagu siis mingisuguse teenuse kaudu seda tarbima, et mina tulin jah, kolm nädalat tagasi sinna oma jutusta.ee tootega välja, mis, kus on siis see reaalajas kõnetuvastus, nii hästi kui seda on hetkel võimalik teha, on juba olemas ja seda saab veebibrauseri kaudu mobiilis kasutada. Et lihtsalt seda, ja tegelikkuses siis detsembris ma tegin ka Eesti Keele Instituudile sellise rakenduse nagu jutukuva ja selle saab oma arvutisse panna ja põhimõtteliselt saaks ka selle teha niimoodi, et ta ainult mobiilis, ilma internetiühendusteta toimiks. Marek Strandberg 16:22 Kuidas need tehtud on, kas selle puhul on kasutatud siis ka mingit õpetamisressurssi rohkem kui tavaliselt või samal moel, nagu sa kirjeldasid, helitundvate tarkvarasüsteemide puhul, kus sa oled lihtsalt pannud konkureerivalt ja üksteist täiendavalt erinevad agendid toimima? Aivo Olev 16:42 Need on ikkagi üks selline süsteem, mudel, mis on puhtalt siis kõne jaoks optimeeritud. Ja et siis sellised spets-süsteemid. Reaalajaline meil hetkel, mis kõige paremini toimib, on, on treenitud lihtsalt eestikeelsete andmete peal ja natuke inglise keelt, kuna eestlased kipuvad inglise keelt väga palju vahele rääkima, et, et, et siis selline inglisekeelsete sõnadega tuleks ka kuidagi toime. Lihtsalt ongi nüüd tänapäeval otsast lõpuni, et, et põhimõtteliselt me ei anna enam teisnärvivõrkudele andma ette grammatikareegleid ega midagi lingvistikast ja isegi kirevahemärgid tulevad puhtalt selle pealt, et ta näeb teksti ja ta näeb sellega kõrvutatud heli ja, ja treenitakse siis teatud heli peale väljastama teatud teksti. Marek Strandberg 17:36 Kas see on, kas see on midagi samasugust nagu kõnelevad näiteks atmosfääri füüsikutki või ka keemikud paljuski ja ka atmosfääri füüsikut sel moel, et kui lihtsalt anda keele mudelile treenimiseks ette piisavalt palju andmeid, aegridu, siis üllatus-üllatus, aga füüsikast ei olegi vaja sinna midagi kirja panna, ehk et keele mudel tuletab justkui need füüsikareeglid ise. Reegleid teada on vaja ühe asja tõttu, sellepärast et mudelid hakkavad luuletama vahel ja siis on hea, kui füüsikateadmised ütlevad, et kuulge, et sellist asja ikka nüüd päriselt ka juhtuda ei saa, kuna teatud reeglid keelavad selle ja loodusseadused päris nii ei ole. Kas nende keele mudelitega, mis tegelevad siis päriselt keelega, on midagi samasugust, ehk et grammatikat nagu ette anda pole vaja, aga et kas sinu kogemuses aeg-ajalt siis ta leiutab mingit grammatilisi konstruktsiooni, mis ei ole üldse tõele vastav, aga neid tuleb ikka ette. Aivo Olev 18:44 Jaa, kindlasti, et see, mida tavaliselt nimetatakse siis allutsineerimiseks, et seda tuleb nagu igas valdkonnas siis ette ja, ja kui on see luksus, et sa saad talle mingisuguse reegli kuhugi sisse kirjutada, et kontrollime füüsikaseaduste vastu, et siis see teeb selle treenimise lihtsaks, et teoreetiliselt, kui sul on lõputu arv treeningandmeid, siis sa saad kõike õpetada. Praktikas meil siis ei ole kunagi seda, et lõputult treeningandmeid mingi spetsiifilise asja jaoks, minu valdkonnas siis jah, et kui peab sõnu lauseid ennustama, siis mõnes mõttes ta peab järgima grammatikareegleid, aga samas tavalises kõnes, nagu inimesed räägivad, nüüd tihti ei pea ju grammatikareeglitest kinni, et selles suhtes ta teeb õigesti, et alati ei järgi ideaalset grammatikat. Marek Strandberg 19:34 Kui keel järgiks väga pingsalt kõikvõimalikke reegleid ja me pingutaks endid kõvasti sel teemal, et olla keeleliselt lõpuni ülikorrektne, siis ma kujutan ette, et kas mu oletus on väär või mitte, et et ega siis ka keel areneda ei saaks, kui mitte ühtegi viga ka igapäevakõnes ei teki ja kui kõrv ei võta kuulda, et oi, et see on väga huvitav viga, et ma ei teadnudki, et nii saab, aga näete, nii saab, ja see tuleb täitsa sujuvalt häälevaeltest välja. Aivo Olev 20:06 See on huvitav perspektiiv, pluss me kasutame kõne ikkagi suhtluseks väga pragmaatiliselt, ja nüüd me näemegi, et kui keegi genereerib teksti , seda kõne genereerimist on veel vähe, aga genereerib mingi teksti keelemudeliga, siis see tundub tihti veider, et, et sest selle on loonud miski, mis ei mõtle samamoodi, nagu meie mõtleme. Marek Strandberg 20:29 No ta ei mõtlegi, ta mõnes mõttes ju kas jääd nõusse sellega nagu tekstiarvuti, et noh, kunagi võis tunduda, kui me kasutasime erinevate, ma ei tea, logaritmide, trigonomeetriliste funktsioonide arvutamiseks, kas siis tabeleid või Leibniz-i leiutatud arvutuslükatit, siis ühtäkki, kui ilmus inimeste laua peale selline elektrooniline seade, kus sa vajutasid lihtsalt numbrid tehted ja klõpsti võrdus märgi peale ja tuli vastus, noh, ka see oli ju mõnes mõttes aritmeetiline arvuti, et nüüd meil on siis olemas grammatiline ja Aivo Olev 21:08 semantiline arvuti, veel vist mitte semiootiline, aga mine tea. Ja kindlasti põhimõtteliselt on tegemist matemaatilise mudeliga, mis ennustab järgmist sõnaosa ja näiteks keelemudelid pluss teatud riistvaral mõõdetakse hetkel, kui palju neid token'eid nad suudavad, ehk siis neid sõnaosasid nad suudavad sekundis toota, on ju, kas see inimese kohta ütleks, mõtleks niimoodi, et see inimene suudab toota nii palju sõna minutis, et... Marek Strandberg 21:38 Mis see arv täna on, mis sealt välja tuleb? See väga sõltub nendest riistvaradest, et hetkel see JDPT suuremad mudelid võivad seal kolmkümmend kuni viiskümmend seda token'it, mis on siis ütleme, mingi pool sõna Aivo Olev 21:51 korraga noh, minutis siis toota, et juba selline, et vahel ei, ei jõua, või noh, hetkel jõuab nagu ära lugeda, mis sealt tuleb, kui ta nagu reaalajas stream'ib seda sisse. Aga jah, et aga inimesel on ju mõttepausid vahel, et... Marek Strandberg 22:08 Nii ongi, ja nüüd teeme meie ka saatesse väikese pausi ja kuulake meid pärast vaheaega edasi. Head Kuku kuulajad, Kuku õun jätkub, mina saatejuht Marek Stenberg, kõlas keeletehnoloog Aivo Olev, kellega kõneleme keeletehnoloogiatest, väga erinevatest. Nüüd, kui tulla sellesama küsimuse juurde, et aja jooksul on ju kõikvõimalikke keeletehnoloogiaid katsetatud küll nii küll, naa, ma kujutan ette, et isegi ju mingid vast sellised täiesti mehaanilised masinad on olemas olnud noh, kas siis mingid sõnaosi mahamängivatena või siis ka kuidagi kirjulisel moel häälitsevatena, püüdes siis inimese enda kõneaparaati emiteerida. Millal see läbimurre siis keeletehnoloogiates toimuski, kas seda võibki öelda, et see oli nendesamade ja muude keelemudelite tulekuga, kui enam ei tegeletud selles peennüanssides meie artikulatsiooni tagava masinavärgi kopsude, heelepaelte ja mille iganes muu imiteerimisega, et saada tekstist ka kõne kätte. Aivo Olev 23:35 Mõnes mõttes küll sellega on see, et mul on natuke ajalugu puudu, kuna ma ise alustasin nagu selle teistpidi siis kõne tuvastamisega, nüüd sünteesiga ma olen hiljuti teinud tutvust, aga põhimõtteliselt küll, et nüüd me näeme, et needsamad transformerid ja see alustehnoloogia, mis seal suurte keelemudelite all on, et see on ka jõudnud sinna, sinna sünteesi poole ja kõik need mudelid on nii palju suuremaks läinud. Pluss siis arvutusvõimsus on ka niivõrd järgi jõudnud, et, et saab jooksutada niivõrd suuri mudeleid ja ja treenidagi neid mudeleid otsast otsa nii puhtalt näidete pealt, et, et sa annad heli ette ja ütled, et taasloo samasugune enam-vähem, on ju, või, või ja, ja lihtsalt teksti pealt. Et, et see sai jah võimalikuks siis, kui olid uued lähenemised ja ka see arvutusvõimsus, et selliseid asju treenida. Marek Strandberg 24:31 Ehk et tänasel hetkel ma mõtlen just nagu sellist ülesannet, et näe-vaata, see on kolp, näe-vaata, anatoomiliselt on tal häälepaelad umbes seal või midagi, mis häälepaelu meenutavad. Ja et ütle siis, et millist häält ta teeb, et sellist küsimust tänasel päeval enam ei tekigi. Aivo Olev 24:50 mõttes küll. Mõnes Sellised küsimused tekivad, kui on nüüd vaja video imitatsiooni teha kõnelejatest inimestest ja võimalikult imiteerida seda anatoomiat. Et ma olen näinud, sellise valdkonnaga tegeletakse. Aga see on vist ka väga edukaks osutunud, sellepärast et väga sageli ju telefonipetturid suudavad seda teha niimoodi, et inimene, kes ekraanile manatakse ja räägib nii-öelda sünteetilist juttu ja et keda ei olegi olemas, suudab vägagi ära veenda selle, kellega ta kõneleb. Jah, hetkel, ma ei tea, kas eesti keeles veel suudatakse hästi veel ka see video ja pilt, video ja hääl kokku viia, et see suu liiguks ka nagu õigesti anatoomiliselt, aga, aga inglise keeles on see kindlasti juba võimalik, aga jah, me oleme näinud neid süvavõltsinguid, kus kellelegi reaalajas genereeritakse täitsa teine nägu või ilme, on ju, et et see on tõesti ka juba võimalik, aga seda just samamoodi treenitakse siis juba videote pealt, filmide pealt, kõik ka niimoodi puhtalt, ilma midagi anatoomiast teadmata. Marek Strandberg 26:00 Milline selle igapäine rakendus olla võiks, me ju mäletame kõik Stephen Hawkingit, kellel oli ju roboti hääl Aivo Olev 26:09 üleilmselt tuntud süntesaator, mis aitas tal suhelda maailmaga ja oma tarkusi edastada, kas me võime ette kujutada, et samasuguse probleemiga silmitsi olevad inimesed Marek Strandberg 26:23 võiksid saada hoopis parema hääle tulevikus ja ma ei oska öelda, et ega keegi ju ei tea, mis meist saab, ükskõik millise juhtumuse tõttu, õnnetuse tõttu, et kas siis on äkki põhjust, nii nagu siin meditsiinis kõneletakse, et salvestage oma tüvirakke kuskil ja kõik mida veel, et kas siis võiks olla inimesel endal kasulik omada teatavat niisugust keelekonservi? Aivo Olev 26:51 Jaa, ja hetkel siis praegused mudelid, mida mina ise olen avalikuks teinud, need ei vaja üldse palju seda hääle näidet, et kümme sekundit juba. sekundit? Kümme Ja mõned on sellised, mis suu, noh, kasu, suudavad kasutada kolmkümmend sekundit, aga üllatavalt lühikese näite pealt saab juba päris usutavalt inimest imiteerida või nii-öelda kloonida siis. Et jah, aga et, et tänapäeva, kuna kõigil on telefoni, te ikka koduvideosid tehakse, et tõenäoliselt see, see kümme sekundit näidet on juba kuskil olemas. Et aga kindlasti need mudelid arenevad nii palju edasi, et sa saad aina sügavamaid ja sügavamaid koopiaid teha kellegi häälest, aga jah, et see on üpris lihtne juba tänapäeval. Videoga tõenäoliselt on palju rohkem näiteid vaja, et selle valdkonnaga on võib-olla nii kursis, aga, aga häälega on tõesti juba siin päris usutavaid kopiaid võimalik teha. Marek Strandberg 27:51 No fantaasiavaldkonda minnes, meenutagem kas või seda Elon Muski Eurolingi nimelist ajusiirikut, mida ta kõvasti reklaaminud on, ega ma ei teagi, mis sellest tänaseks hetkeks saanud on, kas see on jätkuvalt lootustandev või on seal mingeid muid katseid, aga arusaadavalt midagi sellist on ju tekkimas. Muidki ettevõtteid, kes sellega panistavad, kas selles kontekstis võiks ette kujutada, et inimese mõte võibki tema väljenduslaadi sõnades, mis ju inimese jaoks oluline, et temast aru saadaks, tulevikus, kui ta näiteks halvatud moel või teisel väga edukalt edastada? Aivo Olev 28:29 Nojah, teatud ju demonstratsioone on olnud jah, et suudetakse juba aju, aju mingite signaalide mustrite pealt lihtsamaid siis liigutusi majas teha või, või siis tõesti juba nii-öelda mõtteid lugeda. Aga ütleme, ei ole päris minu valdkond, aga tõenäoliselt sinna suunda meil, suunas meil liigume, jah. Marek Strandberg 28:52 No ma saan aru, et ega sinu valdkond tekibki su elulugu vaadates nagu üht äkki, et astub keegi sisse Aivo Olev 28:58 ja siis kas nädala pärast või võib-olla ka nädala pärast või mõne kuude pärast on juba lahendus olemas. Jah, põhimõtteliselt, miks ma neid võistlusi siin tegin, et minu laborijuhataja tahtis, et me nendest valdkondadest rohkem teaks ja anti mulle see asi ette ja kuna ma neid keelemudeleid kasutan programmeerimiseks, siis asjade ehitamiseks, siis see lahendus, millega ma selle esimese võistluse võitsin, seal, seal koodi baasis oli sada tuhat rida, et kui mõelda, et kui inimene, professionaal võib-olla kirjutab viiskümmend, sada rida päevas, et, et see on nagu hoomamatu kogus koodi, mis sai lühikese ajaga tehtud ja et mõned asjad saavad lihtsalt võimalikuks, sama, samamoodi ma siin kolm nädalat tagasi, neli nädalat tagasi tõestasin ühe teoreemi, et üks matemaatik seadis seal üles kolm päeva varem, nii et kahjuks ei ole mingi prestiižne teoreem, mida matemaatikud on kõvasti ragistanud, aga kuna ta oli seal, kirjutas sinna ühe provotseerivale lause, et seni tehisarv pole suutnud selle lahenduse suunas mingit mõistlikku edusammu teha, et siis ma ütlesin, et see ei ole metoodiliselt õige ja selle panin proovile. asja Ja õnnestus. Ja rakendasin circa kolmkümmend tundi järjest, vahepeal teda ümber suunatas ja ta kirjutas kakskümmend tuhat rida formaalset tõestust, millest umbes kaheksakümmend tuhat oli vajalik, ja tõestas teoreemi. Probleem on see, et see kasutab nii keerulist hulgateooriat, et inimesed ei ole veel suutnud sellest aru saada. Aga tõenäoliselt, kuna see on formaalselt tõestatud, siis ta võiks olla tõene. Marek Strandberg 30:42 Seni, kui me teeme saatesse pausi ja kuulake meid pärast vaheajaga edasi. Head kuulajad, Kukkuvõun jätkub, mina saatejuht Marek Strandberg, külas Aivo Olev, keeletehnoloog, kes sujuvalt erinevaid probleeme lahendab ja nagu teame, tänaseks vägagi edukalt. Nüüd seesama küsimus, et noh, võib ju pärida, et kas enda teadmiste hulgas või lootuste hulgas on ka see, et mis siis edasi, kogu selle keeletehnoloogiaga agentidega ja, ja mudelitega teha õnnestub. Kui palju sa näed oma tulevikku just nimelt keele kontekstis ja kui palju nende mudelite kontekstis, mida keele mudeliteks nimetatakse, millel keel on vaid üks aspektidest? Aivo Olev 31:42 Jaa, need keele mudelite baasile nüüd ehitataksegi nii kõnetuvastus kui ka kõne sünteesi, ehk siis seda tehis, tehiskõne. Et need on sellised alustehnoloogiad nii paljudele asjadele, et kuna nad juba suudavad mingis mõttes siis intelligentsed olla, et minu jaoks näiteks on hetkel kõige huvitavam on nendega tekitada treeningandmeid, et et kui meie laboris meil kahekümne aastaga tekkis tuhat nelisada tundi transkriptsioone ehk siis teksti, mis vastab täpselt inim, inimvõimete piires sellele kõnele, siis nüüd me suudame piisavalt hea kvaliteediga andmeid automaatselt juurde genereerida, mis, mida me saame siis kasutada järgmise, järgmiste mudelite treenimiseks, nende abil tekitada veel, veel täpsemini. Marek Strandberg 32:32 Gustav, kas ma saan õigesti aru, et nüüd on teil see mugavus, et kuna kõnesüntees on nii edukas ja ilmekas, võtate te teksti ja palute süsteemil sünteesida kõnet ja kasutate seda sama sünteesitud kõnet edasi õpetamiseks? Aivo Olev 32:50 See on teatud piirides, jah, kui meil on näiteks teatud valdkonda vaja kohandada midagi, aga ta ei, päris ei ole samaväärne ikkagi inimkõnega, seal on need nüansid, mida meie enam ei kuule, aga, aga mida siis mida, millest masin saab aru ja, ja mille pealt ta õpib ja siis, kui ta peab pärast seda inimkeelest, kõnest aru saama, siis ta enam ei ole nii hea, et aga teatud piiridest saab küll, et, et aga just, et, et sellist ma, masinatega nüüd märgendada andmeid, see, seda ma näen, et suured USA ja Hiina laborid väga palju teevad, et nad treeni, tekitavad treeningandmeid sellises koguses, mida noh, lihtsalt inimestega ei ole võimalik märgendada. See on minu jaoks praegu põnev, et kuidas siis treenida järgmist generatsiooni nendest keeletehnoloogia vahenditest, aga muidu, kui küsimus on minu kohta, jah, siis mina tahan nagu selle keeletehnoloogia tuua inimesteni, et miks ma siin teen neid praktilisi rakendusi, et need oleks reaalselt kasulikud, näiteks et keegi peaks koosolekuid enam käsitsi ülesse kirjutama, et see on nagu väga tüütu asi, mida ma olen paar korda elus pidanud tegema ja siis ma ei ole tahtnud enam uuesti teha. Marek Strandberg 34:16 Mõned asjad veel, kui me kuuleme seda, millise intensiivsusega soovitakse tehisarvulahendusi koolidesse viia kuni selleni välja, et vahel kostub ka mõte, et ohoo, et no näete, et meil on õpetajatest puudus, aga noh, pole midagi, et me võtame kasutusse tehisarvu, mis siis hakkab ka inimesi õpetama. Noh, jälle küsimusi, kui palju, hästi palju, mõnes mõttes nagu me ju saame aru, et inimene omaenda isiklikus arengus lapsest täiskasvanuks ja sealt edasi ka veel, areneb ju tänu sellele, et teine inimene on lähedal. Teine aju räägib temaga, suhtleb temaga, puudutab tema, kuidas iganes. Kui kaugel sinu ettekujutuses võiks olla see, kui tõepoolest me saamegi usaldada seda, et kõnealune tehisarvu, täpselt sellisel moel, nagu teda on arendatud tänaseks, on suuteline inimest õpetama või kas on? Aivo Olev 35:19 Ma väga eristaks seda, et kas on jah, noorte lastega siis tegemist või, või täiskasvanutega, et, et minul on sellest väga palju kasu, aga ma ei soovitaks seda üldse koolis kasutada sellel eesmärgil veel. Ainuke kasutusvaldkond, mis ma näengi, ongi võib-olla mingi personaliseeritud õpe, aga me räägime siis juba mingist keskkooli tasemest võib-olla. Aga senikaua ma hoiaks õpilased eemal sellest tehisarust, sest see on põhimõtteliselt nagu lasta kellelgi teisel asjad ära teha ja siis see ei pane enam lapsi proovile ja nad, nad ei õpi. See on nagu see põhimure, ta, ta on nii mugav asi, mis, mida saab kasutada enda õpetamiseks, aga. See peab tahe olema. Selleks peab tahe olema ja ma ei tea, minul kooliajal ei olnud sellist tahet ja, ja nii lihtne on jah, paluda seda järgmist asja, et tee minu eest ära ka. Marek Strandberg 36:17 No kui me võrdleme inimese aju, nagu ta toimib, energeetiliselt tohutult efektiivselt, töödeldes meeletul hulgal informatsiooni. Tuues välja kõikvõimalikke seoste marjundeid, mida nii-öelda selline digitaalne arvuti peab kõvasti vaeva nägema, et sellega toime tulla. Siis kui tõenäoliseks pead sa seda, et meie enda võime teha teistsuguseid kiipe kui täna, mis on, eks ole, digitaalsed, null ja üks pelgalt. Katseid on erinevaid, kus püütakse ka inimese enda aju rakkudest süsteeme liita siis kiipidega. Kas selline nii-öelda protsessori nihkumine suunas, kuidas toimib inimese aju, no kus hinnatakse olevat kaks pool kuni kolm tuhat erinevat rakutüüpi, üheksakümmend miljardit rakku kokku ja tont teab, kui palju omavahelisi seoseid ja kaale ja mida iganes. Kas midagi sellist võiks tekitada olukorra, kus nii-öelda teisharu, tõepoolest, teisharuks muutma? Aivo Olev 37:31 Jah, see on mulle väga võõras valdkond, et ma liigalt ei spekuleeriks, et ma arvan, et siin on praegu see liidestumise küsimus, et kuidas sa need kaks süsteemi omavahel liidestad või koos paned toimima. Minu vaatevinklist, las nad jäävad täitsa eraldi, et meil, ma hetkel näen, et teisharu mõtlebki teistmoodi või noh, toimetab, arvutab täitsa teistmoodi ja samas inimesed omamoodi ja need kaks süsteemi täiesti täiendavad üksteist, et minu fookus pole kuskil, et võiks inimesi asendada, vaid vastupidi teha, võimestada inimesi, et see on mulle palju huvitavam. Marek Strandberg 38:11 Kas selle võimestamise mõttes, et noh, püütud leida igasugu analoogiat ajaloos, milline murdepunkt on toimunud. Kõige rohkem võrreldakse teisharu sellises massiivses moel nagu kasutussevõttu, isegi mitte interneti tulekuga, vaid trükitehnika tulekuga, trükki, võimetrükkida raamatuid ja paljundada. Ma saan aru, et see on midagi samasugust, kus massiivselt on teatud tehnoloogia kasutusse võetud ja tänasel hetkel see ikkagi võimendab inimese enda oskusi ja vajadusi märkimisväärselt. Aivo Olev 38:44 Jaa, kindlasti, et esimene kasutus mul endal oli lihtsalt ideid põrgatada. Tollel hetkel tegelesin, oli väike paus ülikoolis, tegelesin Smart-ID plussi seal arendusega ja, ja täiesti keerulisi küberturbe ja, ja krüptograafia ideid sain põrgatada ja arutada ja nii kiiremini asjadest aru ja kogu aeg oli kuklas see, et ta võib mulle padaka ajada kogu aeg, on ju, et see, see on suur võimalus ja tihti ongi see, et avad uue akna ja saad teise vastuse või teise jutu sealt, on ju. Aga siiski, et minu jaoks ta võttis nii paljud piirangud maha, kus ma vahepeal lihtsalt mingi teemaga ei tegelenud, sest see oli liiga raske või see oli liiga keeruline, ma ei saanud aru, mul ei olnud kellelgi küsida, aga nüüd on alati kellegagi ka natukene põrgatada ja enam ei jää kinni ja meil on näiteks õppejõud ka seda märganud, et kui neil oli semestri lõpus, kõik tulid oma küsimustega ja vahepeal kuni hommikuni aidati tudengeid, siis nüüd enam ei tule keegi küsimustega, kõik lähevad oma küsimustele vastused, et et see on kindlasti üks viis jah, kuidas seda teise aru kasutada, on sellega ideid põrgatada. Marek Strandberg 40:00 On sul mingi hüpotees selle kohta, et asi ju, mida loodeti ja loodetakse ju siiamaani, et ei saa aru, tähendus majanduses, võrreldes sellega. Kui palju triljoneid tõenäoliselt on siin, siis sõltumata isegi raha kursist või raha tüübist, dollarit, eurot, naela, mida iganes, triljon on nii suur, et seda võib kõike sinna valada. Et sinna valatud on ja keegi ei oska täna näha veel seda majanduslikku efekti, et see kõik kuidagi tagasi toodetaks. Kas tegemist on selles mõttes majandusliku mulliga, noh, nii nagu oli ka .com-i mull kunagi olemas, või on sul mingi visioon, et kus on see koht, kus see teisharu majanduslikult oluliseks muutub? Aivo Olev 40:52 Esimene, üks suuremaid kasutusvaldkondi ongi see koodi kirjutamine ja aga see on mõnes mõttes sellele keelemudelile ideaalne rakendus, sest seal on võimalik kasutada olemasolevaid vahendeid nagu koodi kompilaatorid ja igasugused vahendid, mis annavad tagasisidet, kas see kood on käivitatav, kas see on mõistlik, ja siis ta suudab ka nüüd pilte võtta, näiteks kasutajaliidesest, siis saab teste kirjutada, mille vastu ta saab jällegi kinnitust, et kas ta tegi asju õigesti, ja pluss siis kõigis nendes tipplaborites on siis inimesed, kes mõid, mõistavad seda valdkonda, nad mõistavad koodi kirjutamist ja on palju treeningandmeid. Aga selle pealt nüüd paljud siis järeldavadki, et nüüd see on kõikvõimekas igas valdkonnas, aga, aga see ei ole nii, sest esiteks seal laborites pole neid valdkonna, spetsialiste kõigeks valdkondadeks, pluss need keelemudelid ei saa kontrollida, et kui me võrdleme loomingulise kirjatööga näiteks, kus ei ole mingit referentsvastust, et kas see nüüd on hästi kirjutatud asi, siis ikkagi see, et keelemudelid ei ole nii head, kuigi nad just ongi keele loomiseks loodud, on ju. Et ma arvan, et väga-väga kaugel veel universaalsest sellist kasulikkusest, kas see kõik ära tasub majanduslikult või või see mu, mull on natukene juba liiga suur, et selgelt siin nagu see, mullitunnused on, seda me veel näeme, et kindlasti on nii palju sellist hype ja, ja kõva eufooriat seal taga, mis on vajalik võib-olla selleks, et sinna rohkem investeeringuid saada, aga jah, ma ei, ma ei julge öelda, kas see kõik, kas sellega juhtub nagu kunagi USA-s raudteede väljaehitamisega, et kõik nägid, et raudteesid on väga vaja, aga kõik, kes sinna kõvasti investeerisid, investeerisid liiga palju ja, ja läksid uppi, et kindlasti vähemalt, mis sealt välja tuleb, on kõik need andmed, mis, kogemus, et et midagi väärtuslikku sinna jääb, isegi kui seal mõni suur mudelitootja pankrotti peaks minema? Marek Strandberg 43:11 Milline peaks olema tulevikuharidus, kas universaalne või spetsiifiline, millise kontekstis siis kõik need uued tehnoloogilised võimalused parimal moel kasutuse õnnestub? Aivo Olev 43:25 Ma arvan, et alguses ikkagi selline universaalne või noh, selline baasharidus on nagu vajalik, sest ma tean enda näitest, et ma kunagi tahtsin ühte asja teha, siis vahepeal tahtsin psühholoogiks saada ja siis lõpuks olen üldse nagu teadlane, kõik, kõigeks selleks olid need baasteadmised vajalikud ja, ja andsid mingisuguse paindlikkuse, et ütleme, kui sul juba on täiskasvanud see pinge, et sa nüüd pead juba elatist teenima, siis sa ei lähe enam matemaatikat õppima, on ju, mis on vajalik, et teatud erialadest üldse midagi aru saada, näiteks füüsikast, et et selline baasharidus universaalne on nagu vajalik, aga võib-olla me saame kunagi jah, rääkida rohkem sellest personaliseerimisest, et kui mõndadel lastel on omad huvid või kalduvus millegi suunas, et see, et siis see, ideaalis, nagu see tehisarv saaks sellele kõvasti kaasa edata. Küsimus on, kuidas seda teha ohutult, et mitte nagu seda teha liiga lihtsaks, et enam ei toimu nagu reaalset õppimist. Marek Strandberg 44:27 Aitäh, Aivo Olev, et said Kuku õuna tulla, kõnelema keeletehnoloogiatest ja selle rakendamisest ja võimalikust tuulehivikustki, aitäh ka kuulajatele, sellega on Kuku õuna saade läbi ja kuulake meid nädala pärast uuesti.