Piltide automaatne kirjeldamine eesti keeles - visuaalse ja semantilise ühisesituse õppimine neurovõrkudega

Selle töö eesmärgiks on treenida statistiline masin ehk algoritm, mis on võimeline pilte eesti keeles kirjeldama. Vastav mudel oleks kasulik nii pildiotsingul kui ka nägemisvaegustega inimestele navigeerimisel. Eesti keel on morfoloogiliselt rikas (palju käändeid ja pöördeid), mis teeb selle modelleerimise keeruliseks. Enne kui on võimalik genereerida grammatiliselt korrektset kirjeldust, tuleb osata lauseid ja sõnu informatiivselt esitada. Selleks uurin neurovõrkudel põhinevaid meetodeid. Lisaks on eestikeelsed andmekogud tihti väiksemad kui analoogilised ingliskeelsed korpused. Uurin, kuidas kanda tarkust üle suurtest ingliskeelsetest andmekogudest, et eesti keeletehnoloogia rakenduste tulemusi parandada. Treenin uudse neurovõrkudel põhineva tõlkesüsteemi ingliskeelsete lausete tõlkimiseks eesti keelde. Näitan, et analoogilise mudeliga saab tõlkida ka pilte tekstiks. Töö käigus valmib esimene mudel, mis on edukalt võimeline pilte loomulikus eesti keeles kirjeldama

Segumudeli õppimine osaliselt sildistatud andmetest

Töö koosneb kolmest osast. Esimeses kirjeldatakse kahte algoritmi osaliselt sildistatud andmete klassifitseerimiseks. Need meetodid põhinevad Gaussi segumudelil ja EM-algoritmil ning sobiv klastrite arv valitakse Bayesi informatsioonikriteeriumi põhjal. Seej ärel pöördume mitteparameetrilise Bayesi statistika valdkonda: andes Bayesi segumudeli korral komponentide osakaalude eeljaotuseks Dirichlet protsessi, järeldab mudel vajalike klastrite arvu automaatselt ja pääseme subjektiivsest mudeli valikust. Seda mudelit kutsume Dirichlet protsessi segumudeliks. Viimases osas on algoritmide headust testitud nii genereeritud kui ka reaalsetel andmestikel. Kõik kirjeldatud mudelid on implementeeritud ja joonised on koostatud statistikatarkvaras R

Deep model with built-in cross-attention alignment for acoustic echo cancellation

With recent research advances, deep learning models have become an attractive choice for acoustic echo cancellation (AEC) in real-time teleconferencing applications. Since acoustic echo is one of the major sources of poor audio quality, a wide variety of deep models have been proposed. However, an important but often omitted requirement for good echo cancellation quality is the synchronization of the microphone and far end signals. Typically implemented using classical algorithms based on cross-correlation, the alignment module is a separate functional block with known design limitations. In our work we propose a deep learning architecture with built-in self-attention based alignment, which is able to handle unaligned inputs, improving echo cancellation performance while simplifying the communication pipeline. Moreover, we show that our approach achieves significant improvements for difficult delay estimation cases on real recordings from AEC Challenge data set

Accurate Classification of Protein Subcellular Localization from High-Throughput Microscopy Images Using Deep Learning

High-throughput microscopy of many single cells generates high-dimensional data that are far from straightforward to analyze. One important problem is automatically detecting the cellular compartment where a fluorescently-tagged protein resides, a task relatively simple for an experienced human, but difficult to automate on a computer. Here, we train an 11-layer neural network on data from mapping thousands of yeast proteins, achieving per cell localization classification accuracy of 91%, and per protein accuracy of 99% on held-out images. We confirm that low-level network features correspond to basic image characteristics, while deeper layers separate localization classes. Using this network as a feature calculator, we train standard classifiers that assign proteins to previously unseen compartments after observing only a small number of training examples. Our results are the most accurate subcellular localization classifications to date, and demonstrate the usefulness of deep learning for high-throughput microscopy