Generalization by Computation Through Memory

Usually, generalization is considered as a function of learning from a set of examples. In present work on the basis of recent neural network assembly memory model (NNAMM), a biologically plausible 'grandmother' model for vision, where each separate memory unit itself can generalize, has been proposed. For such a generalization by computation through memory, analytical formulae and numerical procedure are found to calculate exactly the perfectly learned memory unit's generalization ability. The model's memory has complex hierarchical structure, can be learned from one example by a one-step process, and may be considered as a semi-representational one. A simple binary neural network for bell-shaped tuning is described

A neural network assembly memory model based on an optimal binary signal detection theory

A ternary/binary data coding algorithm and conditions under which Hopfield networks implement optimal convolutional and Hamming decoding algorithms has been described. Using the coding/decoding approach (an optimal Binary Signal Detection Theory, BSDT) introduced a Neural Network Assembly Memory Model (NNAMM) is built. The model provides optimal (the best) basic memory performance and demands the use of a new memory unit architecture with two-layer Hopfield network, N-channel time gate, auxiliary reference memory, and two nested feedback loops. NNAMM explicitly describes the dependence on time of a memory trace retrieval, gives a possibility of metamemory simulation, generalized knowledge representation, and distinct description of conscious and unconscious mental processes. A model of smallest inseparable part or an “atom” of consciousness is also defined. The NNAMM’s neurobiological backgrounds and its applications to solving some interdisciplinary problems are shortly discussed. BSDT could implement the “best neural code” used in nervous tissues of animals and humans.Описані тріарно-бінарний алгоритм кодування даних та умови за яких Хопфілдовські нейронні мережі реалізують для нього оптимальний конволюційний та Хемінгівський алгоритми декодування. Використовуючи запропонований підхід до кодування- декодування даних (оптимальну теорію детектування бінарних сигналів, ТДБС) будується нейросітьова ансамблева модель пам’яті (НСАМП). Ця модель забезпечує оптимальні (найкращі) основні характеристики пам’яті та вимагає використання нової архітектури елементу пам’яті що включає двошарову Хопфілдовську мережу, N-канальні часові ворота, додаткову еталонну пам’ять та дві вкладені петлі зворотнього зв’язку. НСАМП явно описує залежність від часу процессу видобування сліду пам’яті, дає можливість моделювання метапам’яті, узагальненного представлення знань та роздільного опису свідомих та підсвідомих ментальних процесів. Запропоновано також модель найменшої неділимої частки або “атому” свідомості. Коротко обговорюються нейробіологічні основи НСАМП та її застосування до вирішення деяких міждисциплінарних задач. ТДБС може реалізовувати “найкращий нейронний код” що використовується нервовими тканинами людей та тварин

Psychometric Functions Within the Framework of Binary Signal Detection Theory: Coding the Face Identity

Abstract. One of standard methods in vision research is measuring the psychometric functions (PFs) that are further analyzed implying the validity of traditional signal detection theory (SDT). This research paradigm contains essential inherent contradiction: in contrast to most empirical PFs the ones predicted by the SDT do not satisfy the Neyman-Pearson objective. The problem may successfully be overcome within the framework of recent binary signal detection theory (BSDT) providing PFs for which the objective required is always achieved. Here, the original BSDT theory for vision is for the first time applied to quantitative description of specific empirical PFs measured in experiments where the coding of facial identity has been studied. By fitting the data, some parameters of BSDT face recognition algorithm were extracted and it was demonstrated that the BSDT supports popular prototype face identification model. Results can be used for developing new high-performance computational methods for face recognition