Výzkum v oblasti umělých neuronových sítí začal ve 40. letech, kdy byl zveřejněn jednoduchý matematický model neuronu. Ačkoliv počáteční motivací bylo modelovat nervové systémy živých organismů, neuronové sítě jsou především univerzálním výpočetním prostředkem. Jejich klíčovými vlastnostmi jsou schopnost učit se na základě impulsů z okolního prostředí a schopnost přizpůsobovat se tomuto prostředí. Nás zajímají především dopředné modely neuronových sítí, které mají navíc schopnost univerzální aproximace reálných funkcí. Nejznámějším zástupcem takových dopředných sítí jsou perceptornové sítě. My se v této práci budeme zabývat neuronovými sítěmi typu RBF, které patří mezi mladší modely dopředných sítí.
Naším cílem je navrhnout a prozkoumat různé metody učení neuronových sítí typu RBF. Při učení budeme často využívat metody z jiných oborů matematiky a informatiky (metody vektorové kvantizace, metody nejmenších čtverců apod.). Budeme zkoumat použití jak klasické gradientní minimalizační metody, tak poměrně mladých a v tomto kontextu méně známých genetických algoritmů.
Dalším úkolem je realizovat softwarový systém, který umožní testování jednotlivých metod. Tyto metody jsou implementovány jako autonomní softwaroví agenti v rámci multiagentního systému Bang2. Pomocí tohoto systému otestujeme vybrané metody a popíšeme jejich chování na konkrétních problémech.
Struktura této práce je následující. V kapitole 2 se seznámíme s modelem neuronové sítě typu RBF a uvedeme problém učení sítě.
Další tři kapitoly se zabývají třemi odlišnými přístupy k učení neuronové sítě typu RBF. Kapitola 3 popisuje použití gradientního učení, které bylo inspirováno algoritmem zpětného šíření (Backpropagation) pro vícevrstvé perceptronové sítě. Navrhneme originální zobecněný algoritmus pro gradientní učení RBF sítí. Jiným přístupem je třífázové učení, se kterým se seznámíme v kapitole 4. Tento přístup rozděluje problém učení na několik dílčích úloh, které pak řeší odděleně různými metodami. Kapitola 5 vysvětluje základní principy genetických algoritmů a možnosti využití těchto algoritmů pro učení neuronových sítí typu RBF.
Následuje popis implementace popsaných metod. Ten najdeme v kapitole 6. Protože je implementace součástí multiagentního systému Bang2, seznámíme se nejprve stručně s tímto systémem. Poté popíšeme vlastní realizaci metod učení a rozhraní agentů, kteří se na něm podílejí.
Kapitola 7 se věnuje experimentům. Budeme řešit
klasické aproximační a klasifikační úlohy, používané k testování metod umělé
inteligence. Aproximaci ilustrujeme na reálné funkci
. Klasifikační úlohou bude problém dvou spirál, kde
se jedná o klasifikaci dvou množin bodů v rovině. Na závěr vyzkoušíme možnost
učení na tréninkové množině obsahující šum.
Uživatelská dokumentace realizovaného softwaru je obsažena v příloze. K diplomové práci je přidáno CD, na kterém najdete text této diplomové práce, realizovaný software a pokyny k instalaci.