The purpose of the project is to develop a new theoretically well justified probabilistic model of neural networks basd on mixtures of finite distributions and providing an acceptable neurophysiological interpretation of basic concepts. The model allows to reduce the design of a probabilistic neural network to the problem of maximumlikelihood estimation of finite distribution mixtures with product-type components corresponding to individual neurons. The signal transmission in this model is defined by means of mixture parameters as an information preserving transform minimizing the entropy of the output space. The method will be applied to design both the multilayer structures and the recurrent neural networks. The probabilistic model permits incomplete interconnections of neurons as well. By identifying finite mixtures by means of EM algorithm ona obtains maximum-likelihood estimates of the structure and of the functional parameters of neural networks. (en)
Cílem projektu je nový exaktně zdůvodněný pravděpodobnostní model neuronových sítí založený ma distribučních směsích a umožňující neurofyziologicky přijatelnou interpretaci základních pojmů. Model umožní převést návrh pravděpodobnostní neuronové sítě na problém maximálně věrohodného odhadu parametrů distribuční směsi s komponentami součinového typu, přičemž komponenty směsi odpovídají jednotlivým neuronům. Přenos signálu v síti je definován pomocí parametrů směsi jako zobrazení zachovávající rozhodovacíinformaci a minimalizující entropii výstupního prostoru. Bude vypracována aplikace modelu na návrh vícevrstvých struktur a rekurentních neuronových sítí připouštějící neúplné propojení neuronů při zachování exaktního pravděpodobnostího popisu. Identifikace směsí pomocí EM algoritmu umožňuje maximálně věrohodný odhad struktury i funkčních parametrů neuronové sítě. Odhad parametrů bude převeden na tvar sekvenční výpočetně jednoduché procedury učení.
Byla navržena neurofyziologicky interpretovatelná pravděpodobnostní neuronová síť umožňující neúplné propojení neuronů, optimalizaci struktury a paralelní kombinaci nezávislých řešení. Konstrukce sítě byla ověřena na úloze rozpoznávání číslic. (cs)