RationAI

Výzkumná skupina RationAI, založená výzkumníky z Fakulty informatiky MU a Ústavu výpočetní techniky, se zaměřuje na vývoj pokročilých metod umělé inteligence s aplikacemi v biomedicíně. Naším cílem je vytvořit vhodné prostředí podporující spolupráci doménových expertů a informatiků. Zaměřujeme se zejména na vysvětlitelnost metod umělé inteligence, reprodukovatelnost výsledků, detailní záznam historie učení a validace AI systémů, a robustní vizualizaci. Dále se zabýváme vývojem vhodných metrik pro evaluaci AI systémů pro jednotlivé aplikační domény.

RationAI research group, founded by researchers from the Faculty of Informatics and Institute of Computer Science at Masaryk University, concentrates on developing cutting-edge AI methods in biomedicine. We aim to create an appropriate environment that will maximally support cooperation between domain experts and computer science specialists, focusing on explaining the behavior of these AI methods (explainable AI, XAI). As an indispensable part of such an effort, we consider traceable development, training, and validation of the AI methods using automated provenance information generation and robust visualization systems. Furthermore, for specific domains, we also develop a trusted environment for the validation of AI methods using evaluation metrics developed in tight cooperation with the domain experts.