8. Monitoring

#Obrazki z komentarzem

8.19 ImageNet Roullette


#obrazki z komentarzem
 Widok ekranu z aplikacji ImageNet Roullete przedstawiający twórców aplikacji, Kate Crawford i Trevora Paglena. Crawford jest rudą kobietą w intensywnie niebieskim żakiecie, a Paglen szczupłym, łysym mężczyzną w szarej marynarce.

Widok ekranu z aplikacji ImageNet Roullette opublikowany na Twitterze Kate Crawford, jednej z twórczyni projektu.

Zobacz pojęcie normatywność w dziale Selfie.

 

Więcej na ten temat w dziale Archiwum.

 

Sztuczna inteligencja „uczy się” dzięki analizowaniu obrazów. Analizuje ich strukturę, a następnie przyporządkowuje do kategorii. Projekt ImageNet Roullette artysty Trevora Paglena oraz badaczki Kate Crawford ujawnił, że sztuczna inteligencja (służąca m.in. do automatycznego przyporządkowywania obrazów w bazach danych) powiela rasistowskie i seksistowskie stereotypy, których uczy się od ludzi. ImageNet Roullette pozwalała użytkownikom i użytkowniczkom internetu dodawać swoje zdjęcia (np. selfie) do bazy danych i sprawdzać, jak zostaną przyporządkowane do kategorii przez sztuczną inteligencję „wytrenowaną” przez analizę milionów obrazów dostępnych w sieci. Bardzo szybko okazało się, że osoby czarne przyporządkowywane są do kategorii określających je przez pryzmat wyłącznie koloru skóry, podczas gdy osoby białe były opisywane o wiele większą różnorodnością kategorii.

 Widok ekranu z aplikacji ImageNet Roullete. Na ekranie widać łysego mężczyznę w wieku trzydziestuparu lat. Mężczyzna został opisany przez aplikację jako „first offender”, czyli przestępca skazany po raz pierwszy.

Widok ekranu z aplikacji ImageNet Roulette przedstawiający Trevora Paglena, jednego z jej twórców.

Zobacz pojęcie dystynkcja.

 

Zobacz pojęcie słaby obraz w dziale Mem.

 

Co ciekawe, projekt zadziałał dzięki stworzeniu aplikacji umożliwiającej łatwe i szybkie załadowanie selfie. Efekty, czyli zdjęcia opatrzone kategoriami przez sztuczną inteligencję, były publikowane przez użytkowników i użytkowniczki w mediach społecznościowych i zadziałały jak viral. ImageNet Roullette stworzyła algorytm opisu zdjęć w oparciu o zasoby ImageNet – jednej z największych baz obrazów (14 milionów) służących do treningu sztucznej inteligencji. Projekt, w zamierzeniu krytyczny, doprowadził do tego, że ImageNet usunęła ze swojej bazy ponad 600 tysięcy fotografii (to połowa z kategorii „osoby”), których sposób przyporządkowania skutkował dyskryminującymi opisami.

Strona korzysta z plików cookie w celu realizacji usług. Możesz określić warunki przechowywania lub dostępu do cookie w Twojej przeglądarce lub konfiguracji usługi.