A Novel Predictive-Coding-Inspired Variational RNN Model for Online Prediction and Recognition

This study introduces PV-RNN, a novel variational RNN inspired by the predictive-coding ideas. The model learns to extract the probabilistic structures hidden in fluctuating temporal patterns by dynamically changing the stochasticity of its latent states. Its architecture attempts to address two major concerns of variational Bayes RNNs: how can latent variables learn meaningful representations and how can the inference model transfer future observations to the latent variables. PV-RNN does both by introducing adaptive vectors mirroring the training data, whose values can then be adapted differently during evaluation. Moreover, prediction errors during backpropagation, rather than external inputs during the forward computation, are used to convey information to the network about the external data. For testing, we introduce error regression for predicting unseen sequences as inspired by predictive coding that leverages those mechanisms. The model introduces a weighting parameter, the meta-prior, to balance the optimization pressure placed on two terms of a lower bound on the marginal likelihood of the sequential data. We test the model on two datasets with probabilistic structures and show that with high values of the meta-prior the network develops deterministic chaos through which the data's randomness is imitated. For low values, the model behaves as a random process. The network performs best on intermediate values, and is able to capture the latent probabilistic structure with good generalization. Analyzing the meta-prior's impact on the network allows to precisely study the theoretical value and practical benefits of incorporating stochastic dynamics in our model. We demonstrate better prediction performance on a robot imitation task with our model using error regression compared to a standard variational Bayes model lacking such a procedure.Comment: The paper is accepted in Neural Computatio

オンライン学習可能なサルスケール人工小脳の構築と機械制御への応用

　脳は生命活動に必要不可欠な器官でありながらも，その機構について多くの未知が残る器官である．その解明の為に数値シミュレーションを利用することは有効だが，その為には脳のモデル化のために多くの情報が必要となる．小脳についてはその機能と構造についての文献が多く，例えば小脳は身体の運動制御を行い，学習機能を有していると言われ，神経回路のネットワークについても詳細が判明している．従ってそのデータに基づいて数理モデルを組み立て，数値計算を行うことで，計算機上に人工小脳を作成することができる．　人工の脳が必要とされる最たる理由として，動物に負担をかけてしまう動物実験を，人工脳を用いた実験に置き換える事が挙げられる．置き換えに堪える人工脳を開発する為には，脳を構成するニューロン数やシナプス数，更にはそれぞれのニューロンがどの様に結合しているかといった回路構造を緻密に再現し，実時間で動作させる必要がある．しかしながら実在の動物の脳は，例えばヒトでは約1千億個のニューロンから構成されていると言われており，実時間で動作する人工小脳を構築するためには莫大な計算資源が必要である為，スパコン等に実装されてきた．　アクセラレータの1種であるPEZY-SCの後継モデルである，PEZY-SC2 を使用したスーパーコンピュータ“Gyoukou”が海洋研究開発機構に設置されて利用可能になったことを受けて，本研究ではネコスケール小脳モデルのPEZY-SC2 向けの最適化とスケールアップを兼ねた移植作業を行った．Gyoukouの持つ10,000個のプロセッサの内，7,920個のプロセッサを使用して約80億ニューロンからなる人工小脳を構築し，眼球の単純反射運動のシミュレーションを行い，正しく学習を行える様子を確認した．この数字はサル2匹分の小脳が持つニューロン数と同等であるので，我々は今回構築したモデルを，サルスケール人工小脳と呼んでいる．さらに，構築した人工小脳が，単純な眼球の反射運動だけでなく，より複雑な運動制御も行えることを確認するために，多関節ロボットアームの制御とハンドロボットの制御を行った．小脳回路と同じ計算能力を持ち，小脳回路に構造が近しいEcho State Network(ESN) を用いて制御を行えることを確認し，人工小脳で運動制御を行うことができることを示した．　これらの結果は，構築した人工小脳を実際の運動制御に利用できることを示唆し，将来的には，事故等で小脳を損傷してしまった患者の運動制御を，人工小脳で補助することなどに応用されると期待される．電気通信大学201