Amazon zarzuca narzędzie rekrutacyjne AL, bo nauczyło się dyskryminować kobiety

Algorytmy uczenia maszynowego służące do selekcji CV by wybrać najlepszych kandydatów, na podstawie 10-letnich doświadczeń nauczyły się dyskryminować kobiece koledże i aplikacje zawierające słowo "women's" w zawodach technicznych i IT j. angielski

[Dorth]

Dyskryminować? Czy po prostu dla systemu liczy się efektywność bez poprawnościowi politycznej itp.? (✌ ﾟ ∀ ﾟ)☞

[P.....6]

Czy po prostu dla systemu liczy się efektywność bez poprawnościowi politycznej

@Dorth: Wydaje się, że właśnie tak, dodatkowo AL prawdopodobnie miało wbudowaną neutralność płciową i musiało dobrać sobie dodatkowe kryteria charakterystyczne dla kobiet żeby móc dyskryminować kobiety.
Ale tutaj rodzi się pytanie, czy w takim razie takie systemy rekrutacyjne w ogóle powinny być dopuszczone
Już pomijając kwestię dyskryminacji na osi mężczyzna/ kobieta.
Wyobraźmy sobie że pochodzisz z Pcimia dolnego i aplikujesz do firmy która

[Balzat]

@Dorth: Ten moment kiedy sztuczna inteligencja zaczyna działać lepiej niż prawdziwa...

[KolejnyWykopowyJanusz]

Akurat to że AI nauczyła sie odrzucać absolwentów women's studies, jest bardzo spoko. I nie oznacza to wcale dyskryminowania kobiet ( ͡° ͜ʖ ͡°)

[P.....6]

@KolejnyWykopowyJanusz: Nie chodziło jakieś gender studies, chodziło o szkoły w szukanym zawodzie, ale dysedukacyjne- kobiece. A słowo "woman's" jak w "women's chess club captain". Są to tylko przykłady.
W każdym razie algorytmy nauczyły się dyskryminować kobiety ( ͡° ͜ʖ ͡°)

[P.....6]

ciekawe czy przyjmowala romow?

@notintine: Z tego co rozumiem analizie były poddawane aplikacje w formie pisemnej, zatem trzeba było umieć czytać i pisać. Myślę że nie było problemów z pamięcią ROM

[zakowskijan72]

nauczyły się dyskryminować

@PC86 :Powinienem zakopać za informację nieprawdziwą. Nie "nauczyły się dyskryminować", tylko - jako algorytmy posługujące się niczym innym jak logiką i matematyką - nauczyły się rzetelnie oceniać wartość "kobiecych" studiów, wbrew lewackiej logice i politpoprawności.

[Dorth]

@PC86: Czyli jak szukasz pracownika magazynu to rozladowowywania dostaw z Tirów to wg Ciebie 35 letni mezczyzna i 35 letnia kobieta powinny miec taka sama szanse na zdobycie stanowiska bo przepisy mowia o rownosci? ( ͡° ͜ʖ ͡°) Czy czasem aby te same przepisy nie mówią ze kobieta moze dźwigać mniej? ( ͡° ͜ʖ ͡°) W takik razie jak pracodawca moze swiadomie

[tutkarz]

Czyli prosty skrypt jest bardziej spostrzegawczy i inteligentny od przeciętnego politycznie poprawnego lewaka. No kto by się spodziewał.

[n.....d]

@gonorrhoea_:

[interface]

Czyli prosty skrypt jest bardziej spostrzegawczy i inteligentny od przeciętnego politycznie poprawnego lewaka. No kto by się spodziewał.

@tutkarz: AI nie zostało do niczego zaprogramowane, po prostu wrzucili do niego dane, nie chodzi wcale o to że dyskryminowało kobiety, tylko po prostu zatrudniało osoby do prac do których nie były wykwalifikowane.

[P.....u]

Jesli czujesz sie bezuzyteczny, pomysl ze Amazon wydaje gore kasy na AI zeby analizowac CV-ki przy rekrutacji na stanowiska jak... operator magazynowy.

[derylio1]

@Prezes_Wykopu: magazyn to tylko kawałek ich torcika. Mają duży kawałek rynku cloud, zatrudniają inżynierów, całkiem łebskich ;)

[FrasierCrane]

@Prezes_Wykopu: ja wiem, że tu jest każdy #programista15k, ale nawet na takie stanowisko magazynowe powinna być dobra selekcja, minimalizująca ryzyko i rotację.

[DrMonster]

Szach mat zwolennicy parytetów xD maszyna której zadaniem jest maksymalizacja efektywności widzi i bezlitośnie stosuje pewne zaobserwowane wzorce które są nie podważalne i nie da się tego inaczej nazwać jak dyskryminacją? Serio?

[Murgenpl]

@DrMonster: W tekście opisali w czym był problem. Nie była to maksymalizacja efektywności lecz kwestia statystyki.
Na stanowiska pojawiało się X razy więcej CV od mężczyzn i system uznał, że powodem są preferencje firmy, a nie kwestia rynkowa.
Na tej samej zasadzie mógłby się nauczyć w Chinach odrzucać kandydatur białych informatyków, bo większość CV byłaby z azji i wszystkie zawierałyby np. informację o rasie.

[SpeedFight]

A kiedy wprowadzą "wage cagies"?
Seba z karyną już nic nie ukradną z wnętrza takiej klatki ( ͡° ͜ʖ ͡°)

[mac1ek]

trzeba zgłosić problem z modułem poprawności politycznej w algorytmie ( ͡° ͜ʖ ͡°)

[milo1000]

Algorytmy się same nie nauczyły, kryteria "lepszości" w trenowaniu sieci neuronowej określa człowiek.

[P.....6]

@milo1000: Oczywiście masz rację że to człowiek ustala kryteria wartościowania uczenia maszynowego, ale zauważ, że tutaj nie doszło do dyskryminacji bezpośredniej (czyli wprost preferencji mężczyzn dlatego że zaznaczyli opcję "mężczyzna"), tylko SI "nauczyło się" "nie lubić" (znacie dobry antonim dla "preferować"?) takich fragmentów CV które akurat są charakterystyczne dla kobiet...

[milo1000]

@PC86: Możemy se gdybać, bo nie wiemy nic o zbiorach użytych do nauki, walidacji i kryteriach "lepszości" pracownika, ani nawet jak to stwierdzili, że "dyskryminuje" kobiety. Mogę przypuszczać, że wrzucili dwa identyczne CV różniące się tylko płcią i tak wykryli dyskryminację, ale to nadal nie wyklucza błędów przy uczeniu, bo moim zdaniem, trudno stworzyć odpowiednie zbiory kontrolne, które muszą mieć tysiące wpisów. Nie mówiąc o tym, że CV to bardzo

[hellfirehe]

Artykuł stara się wzbudzić sensację nośnym tematem, ale tak naprawdę trudno z niego wyciągnąć jakieś wnioski.

Nie napisali jakimi kryteriami kierował się algorytm podczas uczenia.
Bo tego rodzaju algorytmy, jeśli mają się nauczyć oceniać CV, to poza dużą bazą CV w zbiorze uczącym, potrzebują jeszcze jakiejś arbitralnej oceny tych CV ze zbioru uczącego.

Czyli algorytm potrzebuje żeby ktoś mu najpierw pokazał jak wyglądają "złe" CV, a jak wyglądają "dobre" - i tu najważniejsze pytanie jest

[deviator]

Czyli algorytm potrzebuje żeby ktoś mu najpierw pokazał jak wyglądają "złe" CV, a jak wyglądają "dobre"

@hellfirehe: Starczy sparować CV z wynikami oceny pracowniczej, a algorytm "nauczy się dyskryminować"

[deviator]

Niekoniecznie jest to dobry pomysł.

@hellfirehe: I niekoniecznie zły, metod jest wiele.