next up previous contents
Next: Literatura Up: main Previous: Závěr   Obsah

Závěr

V první -- teoretické -- části práce jsme se seznámili s různými přístupy k učení neuronových sítí typu RBF. Uvedli jsme model této neuronové sítě rozšířený o použití vážených norem.

Inspirovali jsme se algoritmem zpětného šíření pro vícevrstvé neuronové sítě a odvodili obecný gradientní algoritmus pro neuronové sítě typu RBF. Tento algoritmus je nezávislý na použité radiální funkci, umí adaptovat všechny parametry, včetně šířek a matic vážených norem. Navrhli jsme algoritmus pro výpočet derivací chybové funkce podle jednotlivých parametrů, které jsou během gradientního algoritmu potřeba. Ten jsme pak optimalizovali pro Gaussovu funkci.

Dále jse se zabývali třífázovým učením. To bylo nutné obohatit o možnost adaptace matic vážených norem. Gradientní algoritmus hledající vhodné hodnoty šířek, jsme tedy upravili tak, aby byl schopen adaptovat i tyto matice.

Posledním zkoumaným přístupem bylo použití genetického algoritmu. Kladli jsme důraz na srovnání kanonické a klasické verze tohoto algoritmu. Vyzkoušeli jsme jak pevné délky jedinců, tak použití volné délky jedince k nalezení vhodného počtu RBF jednotek. Genetické algoritmy jsme využili nejenom při učení všech parametrů sítě, ale navrhli jsme jejich začlenění do třífázového učení, kde slouží k hledání vhodných hodnot středů RBF jednotek.

Druhou částí práce je realizace softwarových komponent, které umožňují testování navržených metod. Tyto komponety jsou softwarovými agenty multiagentního systému Bang2. Využití agentů umožňuje snadné rozšiřování systému o nové metody nebo nové kombinace stávajících metod.

Třetí část práce se věnuje testování realizovaných metod. Uskutečnili jsme několik experimentů, na kterých jsme předvedli jednotlivé metody a srovnali jejich výsledky. Ukázali jsme schopnot RBF sítí řešit jak aproximační tak klasifikační úlohy.

Do budoucna se počítá především s možností použití libovolné radiální basické funkce. Tato funkce bude realizována pomocí dalšího agenta. Již v současnosti je možné vytvořit RBF síť používající obecnou radiální funkci. Učit tuto síť je však zatím možné pouze pomocí těch metod, které neobsahují gradientní metody. Gradientní metody využívají znalost derivace konkrétní radiální funkce. Protože Gaussova funkce je snadno derivovatelná a navíc hodnotu potenciálu vždy umocňuje, optimalizovali jsme gradientí algoritmy pro tuto funkci. Jsou však napsány tak, aby jejich rozšíření o spolupráci s agentem realizujícím konkrétní radiální funkci nebylo problémem.

Dále předpokládáme, že bude vytvořen agent, který bude realizovat rozhraní k nějakému pokročilému numerickému softwaru (např. knihovně LAPACK), který realizuje větší škálu metod. Pokud bude mít uživatel takový software nainstalován, bude moci použít tohoto agenta namísto současného agenta implementujícího metodu nejmenších čtverců.

Plánuje se také rozšíření genetických algoritmů o další sady operátorů využívající jak jiné druhy mutace a křížení, tak jiné možnosti kódování jedninců představujících neuronové sítě.

Dalším chystaným vylepšením genetických algoritmů je jejich paralelizace. Ta je u genetických algoritmů, na rozdíl od ostatních metod, velice snadno realizovatelná. Implementace pomocí několika softwarových agentů nám budoucí paralelizaci výrazně usnadní.

Realizovaný systém je tedy otevřený a rozšiřitelný. Doufáme, že se bude nadále vyvíjet a stane se odrazovým můstkem pro tvorbu různých hybridních metod učení RBF sítí, případně součástí rozsáhlých modelů umělé inteligence.


next up previous contents
Next: Literatura Up: main Previous: Závěr   Obsah
Petra Kudova
2001-04-19