Hlavní řešitel: Ústav státu a práva AV ČR, v.v.i.
Disruptivní technologie mají na společnost výrazný vliv. V posledních letech se setkáváme zejména s technologiemi, které lidstvu umožňují získat obrovské množství informací, a to jednak pomocí inovativních senzorů, tak i nových metod zpracování dat. Patří mezi ně zejména umělá inteligence a kvantové technologie, přičemž obě technologie mají potenciál naprosto změnit fungování nejen informačních a komunikačních technologií, ale také celé společnosti. Vznikají tak otázky, jak se má společnost k těmto technologiím postavit, aby předešla celé řadě možných negativních dopadů do budoucna, a to jak na úrovni jednotlivce a jeho individuálního rozvoje, tak i na úrovni jednotlivých komunit a celého lidstva. Výzkumné téma se na tyto otázky zaměří komplexně a interdisciplinárně, a to od filozofických a etických otázek až po konkrétní právní regulaci.
Dílčí aktivity tématu:
1. Filosofie a budoucnost umělé inteligence
Aktivita zkoumá implikace AI pro vědění, inteligenci, etiku, vědomí, mysl, epistemologii, svobodu člověka ve společnosti a budoucnost lidstva.
AI se v posledních letech nedostala do popředí zájmu pouze matematiků, informatiků a robotiků, ale ve stále větší míře také filozofů a etiků. V ČR jsme v r. 2018 založili Centrum Karla Čapka pro studium hodnot ve vědě a technice (www.cevast.org), společné centrum Ústavu informatiky AV ČR, Filosofického ústavu AV ČR, Ústavu státu a práva AV ČR a Přírodovědecké fakulty UK. V rámci tohoto centra, jehož činnost je podpořena Strategií AV21, se věnujeme filozofické, etické a informatické reflexi výzev, které před nás vývoj na poli AI a robotiky klade. Za 3 roky naší činnosti jsme uspořádali řadu českých a zahraničních workshopů a přednášek, zapojili se do řady projektů, navázali rozsáhlou zahraniční spolupráci. Členové pracovali jako experti pro Evropskou komisi, podíleli se na přípravě zprávy o etice AI v UNESCO, jsou členy etických komisí a spolupracují s ministerstvy. Editují první komplexní publikaci o etice autonomních vozidel, která vyjde v Oxford University Press. Pro r. 2022 připravuje Centrum českou monografii o robotice.
Naše činnost je soustředěna do širší kategorie existenčních rizik, tj. rizik, která mají potenciál negativně ovlivnit existenci lidského společenství na Zemi a redukovat lidský život na podmínky pouhého přežívání. Identifikaci rizik využíváme jako východisko pro hledání způsobů, jak je minimalizovat a zároveň maximalizovat nepochybné benefity.
Plánujeme zejména identifikovat rizika využívání systémů AI, od individuálních (soukromí a ochrana osobních údajů, distribuce újmy, etika válečného zabíjení) přes společenské (ztráta zaměstnání, ohrožení demokracie, vliv AI na formování názorů, důsledky nahrazování lidí) až po globální (superinteligence, vojenští roboti, globální dopady AI na vztahy mezi státy).
2. Právo a veřejná politika v oblasti datové ekonomiky, umělé inteligence a kvantových technologií
Aktivita navazuje na aktivitu s názvem Centrum pro výzkum inovací a kyberpráva (CICeRo), která zajistila navázání úzké spolupráce mezi akademickou, veřejnou a soukromou sférou. Pod záštitou Strategie AV21 byla pořádána kolokvia obecně zaměřená na problematiku právních aspektů informačních a komunikačních technologií. Od r. 2018 je pořádána mezinárodní konference SOLAIR (Society, Law, Artificial Intelligence, and Robotics), která se v ČR stala nejdůležitější konferencí na problematiku regulace AI. Od r. 2020 je organizována činnost české expertní platformy AI Observatory & Forum zřízené na základě Národní strategie ČR na AI.
Nově se aktivita zaměří především na AI, společenský potenciál kvantové technologie a na datovou ekonomiku, a to z pohledu práva a veřejné politiky. V současnosti jde o vysoce relevantní společenská témata, ke kterým se vede diskuze na celosvětové, nadnárodní i národní úrovni. EU připravuje rozsáhlou legislativu pro regulaci využívání AI a zpracování dat. Evropský parlament rovněž zařadil kvantové technologie mezi technologie, u nichž je nutné posoudit společenské důsledky.
Tato aktivita přispěje k formování národní i mezinárodní politiky ve zmíněných oblastech, která se může promítnout i do právního řádu. Zajistí dialog mezi veřejnými orgány, akademickou obcí a soukromou sférou, a to prostřednictvím mezinárodních akcí zaměřených na aktivity mezinárodních organizací a evropské a národní právní iniciativy. Pozornost bude ve spolupráci s UTIA věnována specifickým fenoménům, jakým je zpracování obrazu pomocí AI, a to ve vztahu ke zpracování osobních údajů (biometrika, rozpoznávání emocí, všeobecné sledování, atd.) i ve vytváření fake news. Výsledky dialogů a navazujícího výzkumu se promítnou v expertních stanoviscích a v činnosti české AI Observatory & Forum.