Skocz do zawartości
Forum Kopalni Wiedzy

Rekomendowane odpowiedzi

Technologia rozpoznawania twarzy Rekognition oferowana przez Amazona od dawna budziła kontrowersje. Teraz budzi jeszcze większe. Organizacja American Civil Liberties (ACLU) Union informuje, że uznała ona 28 kongresmenów za... skazanych przestępców.

Do przeprowadzenia naszego testu wykorzystaliśmy komercyjny system rozpoznawania twarzy Amazona. Każdy może użyć go do poszukiwania podobnych twarzy. Cały test kosztował nas w sumie 12,33 USD, mniej niż duża pizza, czytamy na stronie ACLU.

Najpierw badacze stworzyli bazę danych składającą się z 25 000 publicznie dostępnych fotografii osób aresztowanych. Następnie wydali oprogramowaniu polecenie, by sprawdziło, czy wśród członków Senatu i Izby Reprezentantów USA nie znajdują się osoby ze wspomnianej bazy. Sprawdzenia dokonano przy standardowych ustawieniach Rekognition. Okazało się, że oprogramowanie uznało, iż 28 członków Kongresu USA było wcześniej aresztowanych.

Okazuje się, że oprogramowanie szczególnie słabo radzi sobie z rozpoznawaniem osób innych niż Białe. Kolorowi stanowią 20% członków Kongresu USA, ale w fałszywie rozpoznanej próbie stanowili oni 39%.

To przykład pokazujący, jak bardzo niedoskonała jest to technologia. Wygląda jednak na to, że nie tylko rozpoznawanie twarzy poważnie kuleje. Niedawno w San Francisco policja zatrzymała samochód, a kierująca nim starsza kobieta została zakuta w kajdanki i klęczała podczas gdy policjanci mierzyli do niej z broni. Okazało się, że automatyczny system rozpoznawania tablic rejestracyjnych niewłaściwie uznał jej samochód za kradziony.

Test przeprowadzony przez ACLU pokazuje realny problem, gdyż Amazon bardzo intensywnie reklamuje Rekognition, chwaląc się, że w pojedynczego zdjęcia potrafi on wyłowić 100 twarzy oraz śledzić ludzi w czasie rzeczywistym korzystając z rozmieszczonych w mieście kamer CCTV. W stanie Oregon jedna z jednostek policyjnych już wykorzystuje Rekognition do porównywania wizerunków ludzi z bazą ze zdjęciami osób aresztowanych.

Warto jednak dodać, że przynajmniej jeden z rozpoznanych przez Rekognition członków Kongresu był wielokrotnie aresztowany. Członek Izby Reprezentantów, republikanin John Lewis, był kilkadziesiąt razy zatrzymywany przez policję. W październiku 2013 roku jego biuro poinformowało, że pan Lewis został zatrzymany po raz 45. w życiu. W latach 60. był zatrzymany około 40 razy, gdyż był działaczem ruchu praw człowieka. Pięciokrotnie był zatrzymywany już po zdobyciu mandatu posła: dwukrotnie pod ambasadą RPA, gdy protestował przeciwko apartheidowi, dwukrotnie pod ambasadą Sudanu w czasie protestów przeciwko ludobójstwu w Darfurze oraz raz w czasie protestu na rzecz imigrantów. Podczas tego samego protestu policja zatrzymała jeszcze kilku innych członków Izby Reprezentantów.


« powrót do artykułu

Udostępnij tę odpowiedź


Odnośnik do odpowiedzi
Udostępnij na innych stronach
2 godziny temu, KopalniaWiedzy.pl napisał:

uznała ona 28 kongresmenów za... skazanych przestępców.

Może ta AI wie o czymś o czym reszta z nas nie wie ;) 

  • Pozytyw (+1) 1

Udostępnij tę odpowiedź


Odnośnik do odpowiedzi
Udostępnij na innych stronach

Jeżeli uczysz sieć na przykładzie skazanych - którymi w USA są bardzo często Murzyni to nic dziwnego że każdego Murzyna zaczyna podejrzewać. Ludzie też tak robią.

Udostępnij tę odpowiedź


Odnośnik do odpowiedzi
Udostępnij na innych stronach

A mnie w tej informacji najbardziej zainteresowało jedno: zauważcie, że w USA policja ma prawo zatrzymać posła czy senatora, który zakłóca porządek/popełnia wykroczenie lub przestępstwo. Mimo tego, że są to ludzie o znacznie większej władzy i wpływach niż jakikolwiek polski poseł/senator, to w przeciwieństwie do naszych nie są nietykalni.

  • Pozytyw (+1) 1

Udostępnij tę odpowiedź


Odnośnik do odpowiedzi
Udostępnij na innych stronach
7 godzin temu, Mariusz Błoński napisał:

A mnie w tej informacji najbardziej zainteresowało jedno: zauważcie, że w USA policja ma prawo zatrzymać posła czy senatora, który zakłóca porządek/popełnia wykroczenie lub przestępstwo.

Zawsze  byłem za immunitetem dla posła, senatora, sędziego, prokuratora. Niestety coś się zdegenerowało i teraz immunitety są bardziej narzędziem bezkarności niż niezależności. Niezależność posła jest fikcją, zatem tak, myślę że immunitet powinien być znacznie ograniczony.

15 godzin temu, KopalniaWiedzy.pl napisał:

Niedawno w San Francisco policja zatrzymała samochód, a kierująca nim starsza kobieta została zakuta w kajdanki i klęczała podczas gdy policjanci mierzyli do niej z broni.

Stanowczo mają problem z oceną ryzyka. Jakie zagrożenie stwarza starsza pani zakuta w kajdanki? Nawet torebką nie mogła im przylać.

Udostępnij tę odpowiedź


Odnośnik do odpowiedzi
Udostępnij na innych stronach
16 godzin temu, KopalniaWiedzy.pl napisał:

Niedawno w San Francisco policja zatrzymała samochód, a kierująca nim starsza kobieta została zakuta w kajdanki i klęczała podczas gdy policjanci mierzyli do niej z broni. Okazało się, że automatyczny system rozpoznawania tablic rejestracyjnych niewłaściwie uznał jej samochód za kradziony.

 

Godzinę temu, Jajcenty napisał:

Stanowczo mają problem z oceną ryzyka.

Albo procedury tam takie.

Udostępnij tę odpowiedź


Odnośnik do odpowiedzi
Udostępnij na innych stronach
Napisano (edytowane)

Nie ma co robić afery:

1. Jeśli na 10000 osób 30 osób zostaje błędnie uznanych za przestępców, to jest to ledwo błąd 0,3%. A tutaj jest mowa o 25 tys(!)

2. Ludzie też się mylą: https://wiadomosci.wp.pl/agresywny-protestujacy-mial-byc-czlowiekiem-tvp-jest-reakcja-telewizji-polskiej-6278694855452289a

Jeśli człowiek pomylił osoby, to tylko dlatego, że są do siebie podobne. Program działa tak samo. Sama natura rozpoznawania jest statystyczna, więc zawsze zdarzą się błędy. Wniosek: Kopalnia Wiedzy obwinia błędnie komputer zamiast procedury, które powinny zawierać pewne zabezpieczenia. Równie dobrze można napisać, że człowiek błędnie rozpoznaje twarze. NIe dodaje się tylko, że to ułamek procenta rozpoznań. Wniosek końcowy: manipulacja.

Edytowane przez mankomaniak

Udostępnij tę odpowiedź


Odnośnik do odpowiedzi
Udostępnij na innych stronach
3 godziny temu, mankomaniak napisał:

Jeśli na 10000 osób 30 osób zostaje błędnie uznanych za przestępców, to jest to ledwo błąd 0,3%. A tutaj jest mowa o 25 tys(!)

25000 to dane uczące SI. Testowano na mniejszej próbce.

Izba reprezentantów to 435+5 osób. Senat to 100 osób.

Błąd to około 5.18%.

 

3 godziny temu, mankomaniak napisał:

Wniosek: Kopalnia Wiedzy obwinia błędnie komputer zamiast procedury, które powinny zawierać pewne zabezpieczenia.

KW tylko przetłumaczyła artykuł (tekst źródłowy). Winnych szukaj gdzie indziej.

Udostępnij tę odpowiedź


Odnośnik do odpowiedzi
Udostępnij na innych stronach
Napisano (edytowane)
44 minutes ago, Delor said:

Błąd to około 5.18%.

Krótko mówiąc 95% było dobrze, a 5% to typowy błąd przypadkowy.

Edytowane przez mankomaniak

Udostępnij tę odpowiedź


Odnośnik do odpowiedzi
Udostępnij na innych stronach

Oki, tylko jak antyterroryści wpadną Ci do domu, wywalą drzwi, zdemolują szafy, zastrzelą psa, a Ciebie, żonę i dzieciaki przez godzinę potrzymają w kajdankach na podłodze, to też powiesz "ok, rozumiem. Technologia, 95% skuteczności. Nie mam pretensji"?

 

Udostępnij tę odpowiedź


Odnośnik do odpowiedzi
Udostępnij na innych stronach

A czy teraz jest inaczej, mało to przypadków kiedy przez błędną identyfikację, albo z powodu fałszywych informacji ucierpieli niewinni ludzie - patrz niedawny przypadek, kiedy jeden gracz "wysłał" SWAT do domu drugiego, co skończyło się tragicznie.

Jestem jak najbardziej za takimi pomocami, ale pod pełnym nadzorem ludzi. Jak każdego narzędzia,  ich zadaniem jest służyć i ułatwiać życie, ale nie powinno zastępować człowieka.

P.S. Ciekaw jestem jaki jest odsetek błędnej identyfikacji dokonanej przez ludzi - mogę się założyć o dobrą flachę, że znacznie gorszy.

Udostępnij tę odpowiedź


Odnośnik do odpowiedzi
Udostępnij na innych stronach
11 godzin temu, Jajcenty napisał:

zauważcie, że w USA policja ma prawo zatrzymać posła czy senatora, który zakłóca porządek/popełnia wykroczenie lub przestępstwo.

To powiedz mi Mariusz czy policja w Polsce zatrzymała ówczesnego posła Wiplera czy nie? :)

11 godzin temu, Jajcenty napisał:

Stanowczo mają problem z oceną ryzyka. Jakie zagrożenie stwarza starsza pani zakuta w kajdanki? Nawet torebką nie mogła im przylać.

Nie rozumiesz ich systemu. Mają inne uwarunkowania. Tam nawet starsza babcia może mieć pistolet. I stąd inne postępowanie policji. Inne ryzyko.

Gdyby w Polsce była broń powszechnie dostępna to też policja inaczej musiałaby traktować podejrzanych.

Udostępnij tę odpowiedź


Odnośnik do odpowiedzi
Udostępnij na innych stronach

Skoro to zapamiętałeś, to był to wyjątkowy przypadek. A to tylko potwierdza moją tezę o nietykalności "wybrańców". Tym bardziej, że nie wiemy, czy Wipler okazał na miejscu legitymację.

Udostępnij tę odpowiedź


Odnośnik do odpowiedzi
Udostępnij na innych stronach
Napisano (edytowane)

Aha, czyli fakt przeczący temu co piszesz traktujesz jako potwierdzający to co piszesz :)

W Polsce poseł czy senator też może być zatrzymany i też bywa. Immunitet nie oznacza że nie można go zatrzymać.

Generalnie z wielu różnych powodów po prostu nie ma potrzeby zatrzymywania posłów.

Jeśli bowiem popełniają wykroczenia i przestępstwa to raczej takie które trzeba udowodnić w sądzie a nie poprzez złapanie na gorącym uczynku.

Podaj chociaż jeden przykład kiedy polskiego posła powinno się zatrzymać a nie zatrzymano :)

W dniu 30.07.2018 o 23:40, Mariusz Błoński napisał:

policja ma prawo zatrzymać posła czy senatora, który zakłóca porządek/popełnia wykroczenie lub przestępstwo. Mimo tego, że są to ludzie o znacznie większej władzy i wpływach niż jakikolwiek polski poseł/senator, to w przeciwieństwie do naszych nie są nietykalni.

Przypomnę Ci że pisałeś o prawie do zatrzymywania. Otóż wiedz że w Polsce policja też ma takie prawo.

Edytowane przez thikim

Udostępnij tę odpowiedź


Odnośnik do odpowiedzi
Udostępnij na innych stronach

Jeśli chcesz dodać odpowiedź, zaloguj się lub zarejestruj nowe konto

Jedynie zarejestrowani użytkownicy mogą komentować zawartość tej strony.

Zarejestruj nowe konto

Załóż nowe konto. To bardzo proste!

Zarejestruj się

Zaloguj się

Posiadasz już konto? Zaloguj się poniżej.

Zaloguj się

×