Algorytmy stają się rasistami i seksistami
W Idaho komputery zdecydowały o obniżeniu wysokości wypłacanych zasiłków z systemu Medicaid dla 4 tys. niepełnosprawnych. Algorytmy Amazona z góry uznały, że wdrożenie usługi Prime nie ma sensu w dzielnicach zamieszkanych głównie przez mniejszości rasowe.
Zawulon z- #
- #
- #
- #
- #
- #
- 143
Komentarze (143)
najnowsze
Cóż, może ktoś przeczyta. :D
Problem "uprzedzeń" algorytmów jest coraz popularniejszy, ale daleko mu od prawdziwego rozpoznania.
Dodajmy że takie kiepskie artykuły jak ten wcale w tym nie pomagają.
Posługiwanie się stereotypami, które później prowadzą do uprzedzeń czy rasizmu to zachowanie wręcz wbudowane w ludzki mózg na poziomie bardzo prymitywnym. Bo to zwiększało szanse przetrwania w złożonym świecie.
Na szczęście z czasem wytworzyliśmy kulturę na tyle złożoną że zaczęliśmy analizować
To słowa pana Jarosława Szymczuka, dyrektora generalnego IBM Polska i Kraje Bałtyckie. Czy mam rozumieć, że dyrektor generalny
I np. o ile w 2007 czy 2008 bodaj roku, gdy w Google wpisało się frazę "jak", to na pierwszym miejscu w proponowanych
Te algorytmy nie kierują się dobrodusznością, bo nie zostały do tego stworzone xD to tak jakby poweidzieć, że woda jest mokra.
Zakop
Takie systemy nie działają tak, że AI jakoś magicznie "coś wymyśla".
Zazwyczaj działa to tak, że celem systemu jest automatyzacja podejmowania decyzji, podejmowanych dotychczas przez ludzi. Do systemu wprowadzane są wcześniejsze decyzje, wraz z danymi na podstawie których te decyzje podejmowali ludzie, jeśli to
@hellfirehe: lub logiczne - co czasami może stanowić jedno i to samo...
Ale co jeśli miał rację? Może w tych czarnych dzielnicach ludzie po prostu mniej korzystają z usług Amazona (pomijam powody, może mniejsze zarobki, może inne preferencje) więc ta usługa nie byłaby przez nich wykorzystywana w
Oczywiście - tak jak w biednej dzielnicy nie ma sensu ustawiać iSpotu :)