Zato je čas, da se ustavite slepo verjamejo v velikem podatkov
Življenje / / December 19, 2019
algoritmi zdaj odločiti, ki odobri posojilo, zavarovanje ali so prejeli vabilo na razgovor, vendar pogosto delajo tako nepravično. In to samo povečuje razlike med sloji prebivalstva.
Katie O'Neill (Cathy O'Neil)
Matematik, na analizi specialista finančnih trgov, avtor knjige "orožja matematične poraz."
Za izdelavo algoritem, moramo dve stvari: podatki (kar se je zgodilo v preteklosti) in opredelitev za uspešen izid (tisto, kar želite, da bi našli z uporabo tega algoritem). Nato določi, katera merila vodijo do uspešnega rezultata. Toda definicija uspeha ne more biti univerzalna.
Algoritem - je mnenje nekoga drugega, vgrajeno kodo.
Uporabili smo, da so algoritmi, objektivni in zanesljivi, vendar je to le marketinška prevara zasnovan tako, da nas ustrahovati in da nam zaupate v algoritmov in matematičnih podatkov.
O'Neill navaja primere, v katerih lahko algoritmi povzročijo resno škodo. To se zgodi pri ocenjevanju zaposlenih. Na primer, v letu 2011 na šoli v Washington County so zavrnilo več kot 200 učiteljev po svoje izločite algoritemČeprav so imeli odlične priporočila starši in vrstniki.
Poleg tega so algoritmi so pogosto razlog za odstranitev pristranska sodb. Novice organizacija ProPublica pred kratkim izvedla preiskavo in najdenihDa so algoritmi, ki določajo nevarnost ponovitve kaznivega dejanja, delo objektivno. Na istih kaznivih dejanj kazni pogosto vzeta iz črnih Američanov.
Vsi smo predmet odstopanj, in jih prinese v algoritme, ki se odločijo, ki potrebe po podatkih ki jih je treba upoštevati.
Algoritmi so preprosto ponavljanje naših preteklih napak, avtomatizacijo obstoječi red. Torej ne moremo slepo jim zaupamo, jih moramo preizkusiti, da je cilj: premisliti opredelitev uspešnega rezultata, napaka, niso zavarovana s katero koli algoritma. Kako pogosto se pojavljajo, in kdo je prizadet? Kakšen je strošek teh napak?
Strokovnjaki, ki delajo s podatki, ne bi smelo biti arbitri pravičnosti. To je čas, da prenehamo slepo verjeti velika podatki.