Technologie si často představujeme jako neutrální nástroje. Jako stroje, které počítají rychleji než člověk a pracují bez emocí. V realitě ale digitální systémy, a zejména umělá inteligence, fungují spíš jako zesilovač světa, ve kterém vznikly. Neodstraňují nerovnosti samy od sebe. Naopak je přenášejí do kódu, procesů a rozhodnutí, která pak působí objektivně. A právě proto může být těžké je zpochybnit.
V České republice ženy dosahují vysoké úrovně vzdělání. Na vysokých školách tvoří většinu absolventek a studium dokončují častěji než muži. Jakmile se však podíváme na oblast technologií, obraz se láme. Podle dat Českého statistického úřadu tvoří ženy necelou pětinu studentů ICT oborů a jejich podíl zastoupení roste jen velmi pomalu. Ještě výraznější je rozdíl na trhu práce – v technologických profesích pracuje přibližně jen deset procent žen. Jinými slovy: technologie, které dnes čím dál více ovlivňují pracovní šance lidí, navrhují a nastavují převážně muži.
Nástup AI
Tento nepoměr by byl problémem už sám o sobě. S nástupem umělé inteligence ale nabývá nové dimenze. AI se dnes používá při třídění životopisů, předvýběru kandidátů nebo hodnocení uchazečů v náborových procesech. Řada výzkumů však upozorňuje, že tyto systémy nejsou neutrální, protože se učí z historických dat a ta odrážejí realitu. Tu, ve které byly ženy méně zastoupené v technických a manažerských rolích, častěji přerušovaly kariéru kvůli péči o rodinu a jejich práce je dlouhodobě podhodnocována. Algoritmus se tak může „naučit“, že ideální kandidát má určité znaky, odpovídá stereotypní představě a vše ostatní vyhodnotí jako méně vhodné.
Algoritmus vs. lidské rozhodování
Ještě méně viditelný, ale neméně důležitý je způsob, jakým AI ovlivňuje samotné lidské rozhodování. Psychologie dlouhodobě popisuje tzv. efekt prvotní informace, tedy informaci, kterou dostaneme jako první, a to nastaví rámec, ve kterém hodnotíme vše ostatní. Pokud tedy systém označí kandidátku nebo kandidáta jako „méně vhodné“ či je zařadí nízko v pořadí, lidský hodnotitel už často nehledá objektivně, ale podvědomě si toto hodnocení potvrzuje. Výzkumy navíc potvrzují fenomén tzv. automation bias – sklon lidí důvěřovat doporučení automatizovaných systémů více než vlastnímu úsudku. Rozhodnutí sice formálně činí člověk, ve skutečnosti je však často výrazně ovlivněno mentálním předvýběrem, který mu technologie předem připravila.
