Implementation of a Neural Network in FPGA

The rapid advancement of Artificial Intelligence, particularly in the realm of convolutional neural networks (CNNs), coupled with the favorable capabilities of Field Programmable Gate Arrays (FPGAs), has motivated this research project. The primary objective is to establish a foundational framework by designing an initial implementation of the Lenet5 neural network. In our pursuit of implementing the neural network, we carefully considered various alternatives. Given the nature of this initial project, we made a deliberate choice to develop the neural network from scratch. This approach enabled us to gain a deeper understanding of the intricate design principles underlying Convolutional Neural Networks (CNNs) and provided us with complete control over the hardware implementation. We designed the Lenet5 Neural Network, specifically designed for handwritten digit recognition, using VHDL and the Vivado tools. Concurrently, we developed a MATLAB simulation of the network to serve as a benchmark for comparing the results obtained from the hardware implementation. The accuracy of the system was found to be excellent, with a minimum confidence of 95.22% in digit recognition. However, further work is required to optimize resource utilization, as we have exceeded the capacity of the Zedboard FPGA, which was used for system simulation, particularly in terms of Look-Up Tables (LUTs) usage. The results obtained in this project provide a strong foundation for its continuation, showcasing the viability of the implemented system. These results also highlight three key areas to focus on in future developments. Firstly, there is a need for optimizing the bit utilization for coefficient and data representation within the network. Exploring more efficient methods of filter allocation outside the on-chip memory is also crucial. Lastly, the project opens up new avenues for implementing improved algorithms that can effectively reduce the latency of the system.El rápido avance de la Inteligencia Artificial, particularmente en el ámbito de las redes neuronales convolucionales (CNN), junto con las ventajosas capacidades de las FPGAs, ha motivado este proyecto de investigación. El objetivo principal es establecer un marco fundamental mediante el diseño de una implementación inicial de la red neuronal Lenet5. En nuestra búsqueda por implementar la red neuronal, consideramos diversas alternativas de manera cuidadosa. Dado el carácter inicial de este proyecto, tomamos la decisión de desarrollar la red neuronal desde cero. Este enfoque nos permitió adquirir un conocimiento más profundo de los intrincados principios de diseño que subyacen a las Redes Neuronales Convolucionales (CNN) y nos proporcionó un control absoluto sobre la implementación del hardware. Diseñamos la Red Neuronal Lenet5, especializada en el reconocimiento de dígitos escritos a mano, utilizando VHDL y las herramientas de Vivado. De forma paralela, desarrollamos una simulación en MATLAB de la red como referencia para comparar los resultados obtenidos de la implementación en hardware. La precisión del sistema resultó excelente, con una confianza mínima del 95,22% en el reconocimiento de dígitos. Sin embargo, aún se requiere trabajo adicional para optimizar la utilización de recursos, ya que hemos superado la capacidad de la FPGA Zedboard, utilizada para la simulación del sistema, especialmente en términos del uso LUTs. Los resultados obtenidos en este proyecto proporcionan una base sólida para su continuación, demostrando la viabilidad del sistema implementado. Estos resultados también destacan tres áreas clave en las que enfocarse en futuros desarrollos. En primer lugar, es necesario optimizar la utilización de bits para la representación de coeficientes y datos dentro de la red. Explorar métodos más eficientes de asignación de filtros fuera de la memoria interna es también crucial. Por último, el proyecto abre nuevas posibilidades para implementar algoritmos mejorados que puedan reducir eficazmente la latencia del sistema.El ràpid avanç de la Intel·ligència Artificial, especialment en l'àmbit de les xarxes neuronals convolucionals (CNN), juntament amb les capacitats favorables de les FPGAs, ha motivat aquest projecte de recerca. L'objectiu principal és establir un marc fonamental mitjançant el disseny d'una implementació inicial de la xarxa neuronal Lenet5. En la nostra cerca per implementar la xarxa neuronal, vam considerar diverses alternatives de manera minuciosa. Atès la naturalesa d'aquest projecte inicial, vam prendre la decisió de desenvolupar la xarxa neuronal des de zero. Aquest enfocament ens va permetre aprofundir en la comprensió dels principis de disseny intricats que subjeuen a les Xarxes Neuronals Convolucionals (CNN) i ens va proporcionar un control total sobre la implementació del maquinari. Vam dissenyar la Xarxa Neuronal Lenet5, especialment concebuda per al reconeixement de dígits manuscrits, utilitzant VHDL i les eines Vivado. Al mateix temps, vam desenvolupar una simulació en MATLAB de la xarxa per servir com a punt de referència per comparar els resultats obtinguts de la implementació en maquinari. Es va determinar que l'exactitud del sistema era excel·lent, amb una confiança mínima del 95,22% en el reconeixement de dígits. No obstant això, es requereix treball addicional per optimitzar l'ús dels recursos, ja que hem superat la capacitat de l'FPGA Zedboard, utilitzada per a la simulació del sistema, especialment en termes de l'ús de LUTs. Els resultats obtinguts en aquest projecte proporcionen una base sòlida per a la seva continuació, demostrant la viabilitat del sistema implementat. Aquests resultats també destaquen tres àrees clau en les quals cal centrar-se en futurs desenvolupaments. En primer lloc, és necessari optimitzar la utilització dels bits per a la representació dels coeficients i les dades dins de la xarxa. Explorar mètodes més eficients d'assignació de filtres fora de la memòria interna és també crucial. Finalment, el projecte obre noves vies per a la implementació d'algoritmes millorats que puguin reduir eficaçment la latència del sistema

Cut-offs and response criteria for the Hospital Universitario la Princesa Index (HUPI) and their comparison to widely-used indices of disease activity in rheumatoid arthritis

Objective To estimate cut-off points and to establish response criteria for the Hospital Universitario La Princesa Index (HUPI) in patients with chronic polyarthritis. Methods Two cohorts, one of early arthritis (Princesa Early Arthritis Register Longitudinal PEARL] study) and other of long-term rheumatoid arthritis (Estudio de la Morbilidad y Expresión Clínica de la Artritis Reumatoide EMECAR]) including altogether 1200 patients were used to determine cut-off values for remission, and for low, moderate and high activity through receiver operating curve (ROC) analysis. The areas under ROC (AUC) were compared to those of validated indexes (SDAI, CDAI, DAS28). ROC analysis was also applied to establish minimal and relevant clinical improvement for HUPI. Results The best cut-off points for HUPI are 2, 5 and 9, classifying RA activity as remission if =2, low disease activity if >2 and =5), moderate if >5 and <9 and high if =9. HUPI''s AUC to discriminate between low-moderate activity was 0.909 and between moderate-high activity 0.887. DAS28''s AUCs were 0.887 and 0.846, respectively; both indices had higher accuracy than SDAI (AUCs: 0.832 and 0.756) and CDAI (AUCs: 0.789 and 0.728). HUPI discriminates remission better than DAS28-ESR in early arthritis, but similarly to SDAI. The HUPI cut-off for minimal clinical improvement was established at 2 and for relevant clinical improvement at 4. Response criteria were established based on these cut-off values. Conclusions The cut-offs proposed for HUPI perform adequately in patients with either early or long term arthritis