Об одном методе восстановления пропущенных значений потокового временного ряда в режиме реального времени

The problem of the imputation of missing values in a streaming time series arises in a wide range of Industry 4.0 and Internet of Things applications. In the article, we propose a novel imputation method based on time series mining techniques and artificial neural networks. The method involves three steps of imputation: data preprocessing, recognition, and reconstruction. Preprocessing is a one-time preparation of training data samples. Recognition and reconstruction are implemented through two neural networks trained on the samples above. Preprocessing supposes the discovery of a set of typical subsequences (snippets) in a pre-stored fragment of the streaming time series without misses. Recognition is implemented through a Convolutional Neural Network, and its input is a vector of the elements preceding the current (missing) value. The Recognizer outputs the snippet that the input subsequence is most similar to. Reconstruction is implemented through a Recurrent Neural Network, and its input is a concatenation of the Recognizer's output and the vector of the elements preceding the missing value. The Reconstructor outputs the value to be imputed. The experimental results show high accuracy and the advantage of the proposed method over analogs.Проблема восстановления пропущенных значений потокового временного ряда в режиме реального времени возникает в широком спектре практических приложений цифровой индустрии и интернета вещей. В статье предложен новый метод восстановления на основе совместного применения технологий интеллектуального анализа временных рядов и искусственных нейронных сетей. Метод предполагает три этапа восстановления: предварительная обработка данных, распознавание и реконструкция. Предварительная обработка предполагает однократную предварительную подготовку обучающих выборок данных. Распознавание и реконструкция реализуются с помощью нейронных сетей, обучаемых на указанных выборках. Предварительной обработке подвергается заранее сохраненный фрагмент потокового временного ряда без пропусков, в котором выполняется поиск набора типичных подпоследовательностей (сниппетов). Распознавание реализуется с помощью сверточной нейронной сети, на вход которой подается вектор из элементов временного ряда, предшествующих пропуску. Распознаватель выдает сниппет, на который более всего похожа входная подпоследовательность. Реконструкция реализуется с помощью рекуррентной нейронной сети, на вход которой подается конкатенация вывода распознавателя и вектора элементов ряда, предшествующих пропуску. Реконструктор выдает восстановленное значение. Представлены результаты экспериментов, показывающих высокую точность восстановления и преимущество предложенного метода перед аналогами

Novel 3D bioprinting of biomaterials : application of statistical modeling & machine learning

3D bioprinting, a versatile biofabrication technique, has been widely used in various biomedical research fields. Statistical modeling and machine learning are powerful tools that can expedite the development of pharmaceutical and biomedical research. Within the scope of this dissertation, we applied statistical modeling and machine learning to different fields of bioprinting research. In Chapter 1, we reviewed the latest accomplishments in 3D printed drug delivery devices as well as the major challenges and future perspectives for additive manufacturing-enabled dosage forms and drug delivery systems. In Chapter 2, we provided a comprehensive analysis of 3D bioprinting process parameters that affect bioink printability and cell performance. We further analyzed how these parameters could be tailored to achieve the optimal printing resolution and cell performance. In Chapter 3, a combination of emulsion evaporation and extrusion-based bioprinting technique was employed to formulate polymeric microparticles. We also developed a systemic approach to assess the formulation factor significance and predict drug loading efficiency using comprehensive statistical analysis and machine learning modeling. In Chapter 4, we developed a stepwise approach to evaluate hydrogel printability qualitatively and quantitatively and employed machine learning modelling to predict ink printability. This systemic methodology demonstrates great promises in designing and predicting the properties of newly developed bioinks, expanding the potential of machine learning in biomedical fields. In Chapter 5, we performed the first global bibliometric analysis of the literature on bacteria-mediated cancer therapy from 2012 to 2021. This study provided critical insights into the historical development of this field from 2012 to 2021, which will be helpful for scientists to conduct further investigation into bacteria-mediated cancer therapy. In Appendix A, we provided an overview of the primary routes of bacteria administration for cancer treatment and discussed the advantages as well as limitations of each route. We also highlighted the application prospect of 3D bioprinting in cancer bacteriotherapy, which represents a new paradigm for personalized cancer treatment.  Pharmaceutical Science