Centrum Wiarygodnej Sztucznej Inteligencji jest ogólnouczelnianą jednostką organizacyjną, prowadzącą działalność mającą na celu rozwijanie i wdrażanie systemów Sztucznej Inteligencji (SI) oraz rozwiązań, które zwiększają ich bezpieczeństwo, wyjaśnialność, przejrzystość oraz niezawodność.
- W dobie dynamicznego rozwoju generatywnej sztucznej inteligencji potrzebujemy niezależnych i interdyscyplinarnych centrów refleksji, które będą łączyć zaawansowane badania techniczne z analizą ich wpływu na społeczeństwo, gospodarkę i prawo. Centrum to nie tylko idea – to silny ośrodek naukowy, którego zespół publikuje swoje prace na najważniejszych światowych konferencjach z obszaru AI i ML, takich jak NeurIPS, ICML, ICLR, ECCV, ECAI, ECML. Działamy na styku informatyki, matematyki, inżynierii danych, nauk społecznych oraz nauk o zdrowiu – wierząc, że rzetelna AI wymaga zarówno precyzji technicznej, jak i weryfikacji domenowej – mówi prof. Przemysław Biecek, kierownik merytoryczny projektu.
Cele i zadania Centrum Wiarygodnej Sztucznej Inteligencji
Celem Centrum jest budowa AI, którą można: zrozumieć – dzięki technikom explainable AI i interpretowalności, zweryfikować – poprzez formalne testy i mechanizmy oceny ryzyka, a także kontrolować – dzięki mechanizmom typu SAE czy projektowaniu zgodnemu z wartościami. Jednostka będzie prowadzić projekty badawcze, rozwijać otwarte narzędzia i wspierać kształcenie nowej generacji specjalistów od wiarygodnej AI.
Do zadań CWSI należy m.in: opracowanie metod tworzenia systemów SI oraz rozwiązań zwiększających ich bezpieczeństwo, wyjaśnialność, przejrzystość, zrozumienie, zgodność z celami oraz niezawodność, a także rozwój kadry badawczej w tych obszarach, stosowanie i wdrażanie opracowanych rozwiązań oraz rozwój potencjału sprzętowego oraz infrastruktury, niezbędnych do realizacji podstawowych zadań.
