Technológia rozpoznávania tváre sa zavádza masovo a jej zástancovia tvrdia, že systémy fungujú mimoriadne dobre (a čoraz lepšie). Na ospravedlnenie zavádzania systémov na rozpoznávanie tváre v USA, Spojenom kráľovstve a inde sa zvyčajne používa hodnotenie technológie rozpoznávania tváre (FRTE – Facial Recognition Technology Evaluation) od amerického Národného inštitútu pre normalizáciu a technológiu (NIST – the US National Institute of Standards and Technology), ktoré slúži ako výkonnostný štandard. Akademici z Oxfordskej univerzity, Teo Canmetin, Luc Rocher a Juliette Zaccour tvrdia, že tento štandard je v skutočnosti problematický. Podľa ich príspevku na webovej stránke Tech Policy Press tieto testy odrážajú výkon v laboratórnych podmienkach, a nie úspechy v reálnom svete, pretože na ulici už táto technológia zlyhala viackrát.
Čítajte viac NSA spolupracuje s kybernetickými firmami na podpore obranných dodávateľov s obmedzenými zdrojmi
Napríklad čierny muž menom Robert Williams bol v roku 2020 neprávom zatknutý v Detroite po tom, ako ho nesprávne identifikoval softvér na rozpoznávanie tváre. Polícia neskôr priznala, že ich zaviedol nekvalitný záznam z bezpečnostnej kamery. V roku 2024 bol Shaun Thompson, aktivista z Londýna, tiež nesprávne identifikovaný živou technológiou na rozpoznávanie tváre ako podozrivý zo spáchania trestného činu a agresívne ho zastavila polícia.
Čítajte viac Umelá inteligencia redefinuje detekciu kybernetických hrozieb
Technológia na rozpoznávanie tváre sa už viackrát ukázala ako nespoľahlivá pre ľudí s farebnou pleťou, ženy a starších ľudí. Vedci a aktivisti dlhodobo tvrdia, že potenciál pre chyby je príliš veľký a omyly by mohli viesť k uväzneniu nevinných ľudí. Napriek tomu „napriek týmto opakovaným zlyhaniam sa technológia rýchlo integruje do našich každodenných životov, na letiskách, v obchodoch a v policajnej práci,“ zdôrazňujú oxfordskí akademici vo svojom článku. Okrem toho sa nasadenie tejto technológie často odôvodňuje pôsobivými štatistikami presnosti. Pri najnovších a najlepšie fungujúcich modeloch teraz štandardizované hodnotenia uvádzajú údaje s presnosťou až 99,95 %. To je už spomínaný štandard FRTE.
Čítajte viac Umelá inteligencia mení oblasť kybernetickej kriminality
„Hoci sú tieto štandardy neoceniteľné na sledovanie pokroku v tejto oblasti, nie sú nevyhnutne dobrou voľbou na predpovedanie toho, ako sa systémy vyrovnajú s problémami v reálnom svete,“ tvrdia však výskumníci. Je to preto, že ide o laboratórne hodnotenia vykonávané v kontrolovanom prostredí, ktoré „vytvárajú klamlivý obraz o tom, ako tieto systémy skutočne fungujú, keď sa stretnú s rozmanitým, neprehľadným a nepredvídateľným prostredím reálneho sveta.“ Podľa oxfordskej trojice tieto typy hodnotení nedokážu odrážať podmienky v reálnom svete, kde môžu byť obrázky rozmazané alebo nejasné – napríklad daždivá ulica alebo preplnený štadión. Informuje o tom server cybernews.
Čítajte viac Je umelá inteligencia hrozbou pre ľudstvo? Nie, Golema tiež zneškodnil jeho stvoriteľ
Okrem toho sú použité súbory údajov jednoducho príliš malé, čo zvyšuje pravdepodobnosť nesprávnej identifikácie. Napokon, štandardné súbory údajov neodrážajú demografickú rozmanitosť reálneho sveta. Niet divu, že používanie rozpoznávania tváre je už dnes celkom bežné v policajných zložkách po celom svete. V Londýne nezávislé preskúmanie testov živej technológie rozpoznávania tváre Metropolitnej polície nedávno zistilo, že len osem zo 42 zhôd bolo možné potvrdiť ako absolútne presné. Napriek tomu Ministerstvo vnútra minulý týždeň oznámilo nasadenie 10 nových dodávok so živým rozpoznávaním tváre pre sedem policajných zborov po celej krajine, čím vybaví policajtov touto špičkovou – a kontroverznou – technológiou na chytanie zločincov.
