Zadání diplomové práce

Evoluční algoritmy a aktivní učení

 

Evoluční algoritmy jsou v posledních 20 letech jednou z nejúspěšnějších metod pro řešení netradičních optimalizačních problémů, jako např. hledání nejvhodnějších dokumentů obsahujících požadované informace, hledání nejvhodnějších materiálů s požadovanými vlastnostmi či další typy optimalizačních úloh, při nichž lze hodnoty cílové funkce získat pouze empiricky. Protože evoluční algoritmy pracují pouze s funkčními hodnotami optimalizované funkce, blíží s k jejímu optimu podstatně pomaleji než optimalizační metody pro hladké funkce, které využívají rovněž informace o gradientu optimalizované funkce, případně o jejích druhých derivacích. Tato vlastnost evolučních algoritmů je zvláště nepříjemná ve spojení se skutečností, že empirické získání hodnoty optimalizované funkce bývá obvykle značně nákladné i časově náročné. Evoluční algoritmy však lze podstatně urychlit tím, že při vyhodnocování funkční hodnoty optimalizované funkce používají empirickou optimalizovanou funkci jen občas, zatímco většinou vyhodnocují pouze její dostatečně přesný regresní model. Právě přesnost modelu určuje, jak úspěšnou náhražkou původní empirické funkce bude. Proto se po získání každé nové generace bodů, v nichž byla empirická funkce vyhodnocena, model zpřesňuje opakovaným učením zahrnujícím tyto body. Lze však jít ještě dále a již při volbě bodů pro empirické vyhodnocení brát kromě hodnoty empirické funkce také v úvahu, jak při opakovaném učení modelu přispějí k jeho zpřesnění. Takový přístup se označuje jako aktivní učení. Používání aktivního učení k urychlení evolučních algoritmů je však teprve v úplných začátcích a měla by ho podpořit i navržená diplomová práce.

Student si k tomuto rámcovému tématu může vybrat z několika konkrétních diplomových prací podle toho, zda ho zajímá spíše aktivní učení nebo spíše evoluční algoritmy a také podle toho, jestli pracuje radši s benchmarkovými nebo reálnými daty.

 

Doporučená literatura

·       S. Abdullah, J.C. Allwright. An active learning approach for radial basis function neural networks. Jurnal Teknologi, 45: 77–96, 2006.

·       I. Couckuyt, D. Gorissen, H. Rouhani, E. Laermans, T. Dhaene. Evolutionary Regression Modeling with Active Learning: An Application to Rainfall Runoff Modeling. In Adaptive and Natural Computing Algorithms. Springer, 2009,  548–558.

·       D.R. Jones. A taxonomy of global optimization methods based on response surfaces. Journal of Global Optimization, 21: 345-383, 2001.

·       R.H. Myers, D.C. Montgomery, C.M. Anderson-Cook. Response Surface Methodology: Proces and Product Optimization Using Designed Experiment. John Wiley and Sons, 2009.

·       M. Sugiyama, N. Rubens. A batch ensemble approach to active learning with model selection. Neural Networks, 21: 1278–1286, 2008.