Už i umělá inteligence může jednat nefér

AI Fairness Tool umí rychle vyhodnotit, zda systémy umělé inteligence produkují spravedlivé výsledky. Je to dobrá, či špatná zpráva? Možná bychom měli zvednout varovný prst a říci: pozor, neřítíme se do nějakého průšvihu?

Společnost Accenture vytvořila nový nástroj, který zákazníkům pomůže identifikovat a napravit nespravedlivé zkreslení algoritmů AI (Artifical Intelligence – umělé inteligence). Cílem je zachytit diskriminaci dříve, než začne infikovat modely AI a způsobovat škodu. Nástroj AI Fairness je součástí širšího balíčku, který poradenská firma nedávno nabídla svým zákazníkům jako podporu transparentnosti a etiky při zavádění strojového učení.

Počítačové algoritmy se dostávají do role, kdy v prvním sítu rozhodují o řadě záležitostí – dělají jakýsi předvýběr, který předkládají k dořešení „lidským“ kolegům. A tak umělá inteligence může rozhodovat o tom, zda určitý člověk dostane půjčku, nabídku zaměstnání, případně povolení k určité činnosti.

Umělá inteligence sama o sobě nemůže být spravedlivá nebo nespravedlivá, jde o to, že algoritmy, které pro rozhodování využívá, mohou kodifikovat nesprávné lidské chápání. Nový nástroj společnosti Accenture, nazvaný Fairness Tool, je určený k rychlé identifikaci a následné pomoci při řešení problémů v algoritmech. „Naším cílem je zpřístupnit tento nástroj non-tech společnostem z Fortune 500, které chtějí rozšířit své používání AI, ale obávají se rizika neúmyslný,“ říká Rumman Chowdhury, lídr v oblasti umělé inteligence společnosti Accenture.

Nástroj také hledá proměnné, které souvisejí s dalšími citlivými proměnnými. Algoritmus by například nemusel explicitně zohledňovat pohlaví, ale pokud se podívá na příjem, mohl by snadno oddělit výsledky pro ženy a muže. Vyšetřuje také míru chyb pro každou proměnnou, a zda jsou chyby vyšší pro některou skupinu. Po této analýze je nástroj schopen opravit algoritmus, ale protože tento typ korekce může způsobit snížení jeho přesnosti, navrhne řešení a umožní uživateli rozhodnout, nakolik se má změnit.

AI Fairness Tool může najít uplatnění v různých nejen průmyslových odvětvích, přičemž se předpokládá, že prvními uživateli budou ti, kteří se nacházejí v nejvíce regulovaných oborech – například finančních služeb a zdravotní péče, kde je potenciál nežádoucích dopadů AI velký.*

/TZ/

Napsat komentář

Vaše emailová adresa nebude zveřejněna. Vyžadované informace jsou označeny *