Jump to content
Forum Kopalni Wiedzy
KopalniaWiedzy.pl

Zawodna technologia rozpoznawania twarzy

Recommended Posts

Technologia rozpoznawania twarzy Rekognition oferowana przez Amazona od dawna budziła kontrowersje. Teraz budzi jeszcze większe. Organizacja American Civil Liberties (ACLU) Union informuje, że uznała ona 28 kongresmenów za... skazanych przestępców.

Do przeprowadzenia naszego testu wykorzystaliśmy komercyjny system rozpoznawania twarzy Amazona. Każdy może użyć go do poszukiwania podobnych twarzy. Cały test kosztował nas w sumie 12,33 USD, mniej niż duża pizza, czytamy na stronie ACLU.

Najpierw badacze stworzyli bazę danych składającą się z 25 000 publicznie dostępnych fotografii osób aresztowanych. Następnie wydali oprogramowaniu polecenie, by sprawdziło, czy wśród członków Senatu i Izby Reprezentantów USA nie znajdują się osoby ze wspomnianej bazy. Sprawdzenia dokonano przy standardowych ustawieniach Rekognition. Okazało się, że oprogramowanie uznało, iż 28 członków Kongresu USA było wcześniej aresztowanych.

Okazuje się, że oprogramowanie szczególnie słabo radzi sobie z rozpoznawaniem osób innych niż Białe. Kolorowi stanowią 20% członków Kongresu USA, ale w fałszywie rozpoznanej próbie stanowili oni 39%.

To przykład pokazujący, jak bardzo niedoskonała jest to technologia. Wygląda jednak na to, że nie tylko rozpoznawanie twarzy poważnie kuleje. Niedawno w San Francisco policja zatrzymała samochód, a kierująca nim starsza kobieta została zakuta w kajdanki i klęczała podczas gdy policjanci mierzyli do niej z broni. Okazało się, że automatyczny system rozpoznawania tablic rejestracyjnych niewłaściwie uznał jej samochód za kradziony.

Test przeprowadzony przez ACLU pokazuje realny problem, gdyż Amazon bardzo intensywnie reklamuje Rekognition, chwaląc się, że w pojedynczego zdjęcia potrafi on wyłowić 100 twarzy oraz śledzić ludzi w czasie rzeczywistym korzystając z rozmieszczonych w mieście kamer CCTV. W stanie Oregon jedna z jednostek policyjnych już wykorzystuje Rekognition do porównywania wizerunków ludzi z bazą ze zdjęciami osób aresztowanych.

Warto jednak dodać, że przynajmniej jeden z rozpoznanych przez Rekognition członków Kongresu był wielokrotnie aresztowany. Członek Izby Reprezentantów, republikanin John Lewis, był kilkadziesiąt razy zatrzymywany przez policję. W październiku 2013 roku jego biuro poinformowało, że pan Lewis został zatrzymany po raz 45. w życiu. W latach 60. był zatrzymany około 40 razy, gdyż był działaczem ruchu praw człowieka. Pięciokrotnie był zatrzymywany już po zdobyciu mandatu posła: dwukrotnie pod ambasadą RPA, gdy protestował przeciwko apartheidowi, dwukrotnie pod ambasadą Sudanu w czasie protestów przeciwko ludobójstwu w Darfurze oraz raz w czasie protestu na rzecz imigrantów. Podczas tego samego protestu policja zatrzymała jeszcze kilku innych członków Izby Reprezentantów.


« powrót do artykułu

Share this post


Link to post
Share on other sites
2 godziny temu, KopalniaWiedzy.pl napisał:

uznała ona 28 kongresmenów za... skazanych przestępców.

Może ta AI wie o czymś o czym reszta z nas nie wie ;) 

  • Upvote (+1) 1

Share this post


Link to post
Share on other sites

Jeżeli uczysz sieć na przykładzie skazanych - którymi w USA są bardzo często Murzyni to nic dziwnego że każdego Murzyna zaczyna podejrzewać. Ludzie też tak robią.

Share this post


Link to post
Share on other sites

A mnie w tej informacji najbardziej zainteresowało jedno: zauważcie, że w USA policja ma prawo zatrzymać posła czy senatora, który zakłóca porządek/popełnia wykroczenie lub przestępstwo. Mimo tego, że są to ludzie o znacznie większej władzy i wpływach niż jakikolwiek polski poseł/senator, to w przeciwieństwie do naszych nie są nietykalni.

  • Upvote (+1) 1

Share this post


Link to post
Share on other sites
7 godzin temu, Mariusz Błoński napisał:

A mnie w tej informacji najbardziej zainteresowało jedno: zauważcie, że w USA policja ma prawo zatrzymać posła czy senatora, który zakłóca porządek/popełnia wykroczenie lub przestępstwo.

Zawsze  byłem za immunitetem dla posła, senatora, sędziego, prokuratora. Niestety coś się zdegenerowało i teraz immunitety są bardziej narzędziem bezkarności niż niezależności. Niezależność posła jest fikcją, zatem tak, myślę że immunitet powinien być znacznie ograniczony.

15 godzin temu, KopalniaWiedzy.pl napisał:

Niedawno w San Francisco policja zatrzymała samochód, a kierująca nim starsza kobieta została zakuta w kajdanki i klęczała podczas gdy policjanci mierzyli do niej z broni.

Stanowczo mają problem z oceną ryzyka. Jakie zagrożenie stwarza starsza pani zakuta w kajdanki? Nawet torebką nie mogła im przylać.

Share this post


Link to post
Share on other sites
16 godzin temu, KopalniaWiedzy.pl napisał:

Niedawno w San Francisco policja zatrzymała samochód, a kierująca nim starsza kobieta została zakuta w kajdanki i klęczała podczas gdy policjanci mierzyli do niej z broni. Okazało się, że automatyczny system rozpoznawania tablic rejestracyjnych niewłaściwie uznał jej samochód za kradziony.

 

Godzinę temu, Jajcenty napisał:

Stanowczo mają problem z oceną ryzyka.

Albo procedury tam takie.

Share this post


Link to post
Share on other sites

Nie ma co robić afery:

1. Jeśli na 10000 osób 30 osób zostaje błędnie uznanych za przestępców, to jest to ledwo błąd 0,3%. A tutaj jest mowa o 25 tys(!)

2. Ludzie też się mylą: https://wiadomosci.wp.pl/agresywny-protestujacy-mial-byc-czlowiekiem-tvp-jest-reakcja-telewizji-polskiej-6278694855452289a

Jeśli człowiek pomylił osoby, to tylko dlatego, że są do siebie podobne. Program działa tak samo. Sama natura rozpoznawania jest statystyczna, więc zawsze zdarzą się błędy. Wniosek: Kopalnia Wiedzy obwinia błędnie komputer zamiast procedury, które powinny zawierać pewne zabezpieczenia. Równie dobrze można napisać, że człowiek błędnie rozpoznaje twarze. NIe dodaje się tylko, że to ułamek procenta rozpoznań. Wniosek końcowy: manipulacja.

Edited by mankomaniak

Share this post


Link to post
Share on other sites
3 godziny temu, mankomaniak napisał:

Jeśli na 10000 osób 30 osób zostaje błędnie uznanych za przestępców, to jest to ledwo błąd 0,3%. A tutaj jest mowa o 25 tys(!)

25000 to dane uczące SI. Testowano na mniejszej próbce.

Izba reprezentantów to 435+5 osób. Senat to 100 osób.

Błąd to około 5.18%.

 

3 godziny temu, mankomaniak napisał:

Wniosek: Kopalnia Wiedzy obwinia błędnie komputer zamiast procedury, które powinny zawierać pewne zabezpieczenia.

KW tylko przetłumaczyła artykuł (tekst źródłowy). Winnych szukaj gdzie indziej.

Share this post


Link to post
Share on other sites
44 minutes ago, Delor said:

Błąd to około 5.18%.

Krótko mówiąc 95% było dobrze, a 5% to typowy błąd przypadkowy.

Edited by mankomaniak

Share this post


Link to post
Share on other sites

Oki, tylko jak antyterroryści wpadną Ci do domu, wywalą drzwi, zdemolują szafy, zastrzelą psa, a Ciebie, żonę i dzieciaki przez godzinę potrzymają w kajdankach na podłodze, to też powiesz "ok, rozumiem. Technologia, 95% skuteczności. Nie mam pretensji"?

 

Share this post


Link to post
Share on other sites

A czy teraz jest inaczej, mało to przypadków kiedy przez błędną identyfikację, albo z powodu fałszywych informacji ucierpieli niewinni ludzie - patrz niedawny przypadek, kiedy jeden gracz "wysłał" SWAT do domu drugiego, co skończyło się tragicznie.

Jestem jak najbardziej za takimi pomocami, ale pod pełnym nadzorem ludzi. Jak każdego narzędzia,  ich zadaniem jest służyć i ułatwiać życie, ale nie powinno zastępować człowieka.

P.S. Ciekaw jestem jaki jest odsetek błędnej identyfikacji dokonanej przez ludzi - mogę się założyć o dobrą flachę, że znacznie gorszy.

Share this post


Link to post
Share on other sites
11 godzin temu, Jajcenty napisał:

zauważcie, że w USA policja ma prawo zatrzymać posła czy senatora, który zakłóca porządek/popełnia wykroczenie lub przestępstwo.

To powiedz mi Mariusz czy policja w Polsce zatrzymała ówczesnego posła Wiplera czy nie? :)

11 godzin temu, Jajcenty napisał:

Stanowczo mają problem z oceną ryzyka. Jakie zagrożenie stwarza starsza pani zakuta w kajdanki? Nawet torebką nie mogła im przylać.

Nie rozumiesz ich systemu. Mają inne uwarunkowania. Tam nawet starsza babcia może mieć pistolet. I stąd inne postępowanie policji. Inne ryzyko.

Gdyby w Polsce była broń powszechnie dostępna to też policja inaczej musiałaby traktować podejrzanych.

Share this post


Link to post
Share on other sites

Skoro to zapamiętałeś, to był to wyjątkowy przypadek. A to tylko potwierdza moją tezę o nietykalności "wybrańców". Tym bardziej, że nie wiemy, czy Wipler okazał na miejscu legitymację.

Share this post


Link to post
Share on other sites

Aha, czyli fakt przeczący temu co piszesz traktujesz jako potwierdzający to co piszesz :)

W Polsce poseł czy senator też może być zatrzymany i też bywa. Immunitet nie oznacza że nie można go zatrzymać.

Generalnie z wielu różnych powodów po prostu nie ma potrzeby zatrzymywania posłów.

Jeśli bowiem popełniają wykroczenia i przestępstwa to raczej takie które trzeba udowodnić w sądzie a nie poprzez złapanie na gorącym uczynku.

Podaj chociaż jeden przykład kiedy polskiego posła powinno się zatrzymać a nie zatrzymano :)

W dniu 30.07.2018 o 23:40, Mariusz Błoński napisał:

policja ma prawo zatrzymać posła czy senatora, który zakłóca porządek/popełnia wykroczenie lub przestępstwo. Mimo tego, że są to ludzie o znacznie większej władzy i wpływach niż jakikolwiek polski poseł/senator, to w przeciwieństwie do naszych nie są nietykalni.

Przypomnę Ci że pisałeś o prawie do zatrzymywania. Otóż wiedz że w Polsce policja też ma takie prawo.

Edited by thikim

Share this post


Link to post
Share on other sites

Create an account or sign in to comment

You need to be a member in order to leave a comment

Create an account

Sign up for a new account in our community. It's easy!

Register a new account

Sign in

Already have an account? Sign in here.

Sign In Now

  • Similar Content

    • By KopalniaWiedzy.pl
      Jeff Bezos, właściciel Amazona i najbogatszy człowiek na świecie, ogłosił, że założy fundację walczącą ze zmianami klimatu i dofinansuje ją kwotą 10 miliardów dolarów. Bezos Earth Fund będzie finansowała naukowców, aktywistów, organizacje pozarządowe oraz inne działania mające na celu ochronę środowiska naturalnego, napisał miliarder.
      Będę współpracował z innymi zarówno w celu poszerzenia naszej wiedzy w tej kwestii jak i w celu opracowania nowych metod walki ze zmianami klimatu. Na start przeznaczam 10 miliardów dolarów i już latem tego roku zostaną przyznane pierwsze granty. Ziemia to nasze wspólne dobro, chrońmy ją razem, dodał.
      Przy okazji stwierdził, że jednym z motywów, dla których założył działającą w przemyśle kosmicznym firmę Blue Origin było spowodowanie, by miliony ludzi mogły żyć i pracować w przestrzeni kosmicznej. Na stronach firmy czytamy, że w Blue Origin wierzymy, że aby uchronić Ziemię, nasz dom, i zachować ją dla wnuków naszych wnuków, musimy udać się w przestrzeń kosmiczną po jej nieskończone zasoby i energię. Tak, jak rewolucja przemysłowa pobudziła handel, pomyślność gospodarczą, pozwoliła na zbudowanie nowych społeczeństw i metod szybkiego transportu, tak przestrzeń kosmiczna otwiera nam drogę do pomyślności przyszłych generacji.
      Działania Bezosa pochwalili i jednocześnie skrytykowali pracownicy Amazona skupieni w organizacji Amazon Employees For Climate Justice. Pochwalamy działalność dobroczynną Jeffa Bezosa, ale nie można jedną ręką dawać tego, co zabiera się drugą.  Ludzie na Ziemi muszą w końcu poznać odpowiedź, kiedy wreszcie Amazon przestanie wspierać przemysł wydobywczy, który niszczy Ziemię budując kolejne szyby naftowe i gazowe. Kiedy Amazon przestanie finansować zaprzeczające istnieniu globalnego ocieplenia think-tanki w rodzaju Competetive Enterprise Institute? Kiedy Amazon weźmie na siebie odpowiedzialność za zdrowie dzieci mieszkających w pobliżu jego magazynów i przestanie używać ciężarówek napędzanych silnikami diesla?, pytają pracownicy.

      « powrót do artykułu
    • By KopalniaWiedzy.pl
      Amazon planuje powołać prezydenta Trumpa na świadka w pozwie przeciwko Pentagonowi. Koncern Bezosa twierdzi, że Pentagon nieuczciwie przyznał Microsoftowi kontrakt JEDI o wartości 10 miliardów dolarów. Zdaniem Amazona prezydent był osobiście zaangażowany w rozstrzygnięcie, a jego celem było uniemożliwienie przyznania kontraktu Amazonowi.
      Jak twierdzi w swojej autobiografii były sekretarz obrony, James Mattis, Trump osobiście prosił go by wyrzucić Amazon z grona firm starających się o przyznanie kontraktu.
      Jako, że Mattis nie był już sekretarzem obrony podczas ostatnich miesięcy przed przyznaniem kontraktu, Amazon chce też powołać na świadka obecnego sekretarza, Marka Espera.
      Amazon argumentuje, że bez przesłuchania prezydenta przed sądem nie będzie możliwe obiektywne i pełne zweryfikowanie twierdzeń, wysuwanych w sądowym wniosku przez firmę.
      Prezydent Trump wielokrotnie wyrażał swoją wolę wykorzystywania funkcji prezydenta i naczelnego dowódcy do wpływania na działania rządu, w tym na zakupy dokonywane przez agendy rządowe, w celach osobistych, stwierdził rzecznik prasowy Amazona. Pytanie brzmi, czy należy pozwalać prezydentowi Stanów Zjednoczonych na wykorzystywanie budżetu Departamentu Obrony do własnych celów osobistych i politycznych dodał.
      Faktem jest, że przyznanie kontraktu JEDI było sporym zaskoczeniem dla wielu specjalistów. Uważali oni bowiem, że pewnym zwycięzcą przetargu na Joint Enterprise Defense Infrastrukture jest Amazon. Faktem jest też, że prezydent Trump nie lubi Jeffa Bezosa, założyciela i dyrektora Amazona.
      W ubiegłym miesiącu Amazon złożył do sądu wniosek, w którym prosi, by ten nakazał Microsoftowi wstrzymanie wszelkich prac nad realizacją kontraktu do czasu, aż sąd rozstrzygnie pozew Amazona.

      « powrót do artykułu
    • By KopalniaWiedzy.pl
      Dwóch amerykańskich senatorów, demokrata Josh Hawley i republikanin Mark Warner, przygotowało projekt ustawy, której celem jest lepszy nadzór nad danymi osobowymi przechowywanymi przez wielkie koncerny. Ustawa ma zmusić Facebooka, Google'a, czy Amazona do ujawnienia ile danych osobowych przechowują oraz w jaki sposób – pośredni i bezpośredni – na nich zarabiają.
      DASHBOARD (Designing Accounting Safeguards to Help Broaden Oversight And Regulations on Data Act) dotyczyłaby przedsiębiorstw, które mają miesięcznie ponad 100 milionów unikatowych użytkowników i zobowiązybałaby je do ujawnienia szczegółów dotyczących zarabiania na danych użytkowników.
      Projekt ustawy zakłada, że raz na 90 dni wspomniane firmy miałyby obowiązek poinformowania każdego z użytkowników o szacowanej wartości danych tego użytkownika przechowywanych przez operatora.
      Gdy wielkie koncerny twierdzą, że ich produkt jest darmowy, tak naprawdę sprzedają konsumentów. Co więcej, firmy IT robią wszystko, by ukryć informacje o tym, ile warte są dane użytkownika i komu zostały sprzedane, oświadczył senator Hawley. Przez lata serwisy społecznościowe twierdziły, że ich usługi są darmowe. Jednak to nie jest prawda, użytkownik płaci za te usługi swoimi danymi, dodał senator Warner.
      Zdaniem twórców ustawy, nowe przepisy pozwolą konsumentom zrozumieć, jaka jest prawdziwa wartość ich danych, dadzą im nad nimi kontrolę i pokażą, że to co rzekomo darmowe, tak naprawdę słono kosztuje.
      Warto w tym miejscu przypomnieć, że od wielu lat pojawiają się próby powołania do życia czegoś, co można by nazwać „ekonomią danych osobowych”. To próby przekazania użytkownikom zarówno kontroli nad własnymi danymi oraz możliwości pobierania opłat za korzystanie z nich. Nad tego typu pomysłem, projektem o nazwie „Bali”, pracuje m.in. Microsoft.
      Gdyby ustawa DASHBOARD została przyjęta przez Kongres, z pewnością ułatwiłoby to powstanie „ekonomii danych osobowych”.

      « powrót do artykułu
    • By KopalniaWiedzy.pl
      Pet-Commerce to internetowy sklep brazylijskiej sieci Petz, w którym dzięki połączeniu technologii rozpoznawania twarzy oraz sztucznej inteligencji pies może kupić swoje ulubione produkty. Wystarczy ustawić kamerę internetową na pysk zwierzęcia. Gdy tylko AI wykryje produkt, który podczas przewijania strony wywołał u psa duże zainteresowanie, zostaje on automatycznie dodany do koszyka.
      By Pet-Commerce powstał, agencja reklamowa Ogilvy Brazil nawiązała współpracę z trenerem psów Leonardem Ogatą. To on "oświecił" wszystkich w kwestii wyrazów pyska różnych ras i ich znaczenia. Sztucznej inteligencji zaprezentowano tysiące zdjęć psów, tak by mogła się nauczyć lepiej wykrywać szczególiki związane z wyrażaniem zainteresowania przez psy.
      Stroną produkcyjno-techniczną przedsięwzięcia zajęły się firmy D2G Tecnologia i Hogarth.
      Produkty z witryny pogrupowano w 3 kategorie: kości, zabawki, piłki. Gdy człowiek klika na dany obiekt, wyświetlają się filmy. Tło jest żółte bądź niebieskie, bo wg Ogaty, to kolory, które psy najlepiej widzą. Poziom zainteresowania psa jest prezentowany za pomocą ikonek w kształcie kości.
      Witryna przekazuje też ludziom zalecenia, co zrobić, by czworonogowi jak najłatwiej było robić zakupy. Po pierwsze, należy włączyć dźwięk, bo to ważny dla psów zmysł. [Poza tym] pies musi być zrelaksowany, w zabawowym nastroju. Nie należy go podnosić bądź podtrzymywać głowy, bo to może drażnić. Wystarczy nakierować kamerę internetową na jego pysk [...].
      Zakup jest dokonywany po potwierdzeniu przez właściciela i wprowadzeniu niezbędnych danych. Na razie Pet-Commerce jest tylko dla psów, ale być może pewnego dnia projekt obejmie też np. koty.
       


      « powrót do artykułu
    • By KopalniaWiedzy.pl
      Jak dowiedzieli się reporterzy Reutersa, Amazon stworzył algorytm sztucznej inteligencji, który miał pomóc w rekrutacji pracowników. Narzędzie zostało jednak porzucone gdy okazało się, że... dyskryminuje kobiety.
      W 2014 roku w Amazonie powstał specjalny zespół, którego zadaniem było zbudowanie automatycznego asystenta biorącego udział w rekrutacji. Chcieli, by to działało w ten sposób, że dajesz mu do analizy 100 życiorysów, on wybiera 5 najlepszych i tych ludzi się zatrudnia, mówi osoba zaznajomiona ze sprawą. Narzędzie miało przyznawać każdemu z kandydatów od 1 do 5 gwiazdek i na tej podstawie wskazywać osobie prowadzącej rekrutację, na kogo warto zwrócić uwagę.
      Amazon stworzył 500 modeli komputerowych, które przeanalizowały CV znajdujące się w bazie danych firmy i wybrały z nich 50 000 kluczowych terminów. W 2015 roku narzędzie było gotowe. Miało ono przeczesywać sieć w poszukiwaniu odpowiednich kandydatów. Okazało się jednak, że SI najwyraźniej nie lubi kobiet. Stało się tak prawdopodobnie dlatego, że było trenowane na CV kandydatów do Amazona z ostatnich 10 lat. A o pracę starli się tam głównie mężczyźni. Sztuczna inteligencja doszła więc do wniosku, że to mężczyźni są preferowani i przyznawała mniej punktów tym CV, w których pojawiały się takie słowa jak "women's" (np. w stwierdzeniu women's chess club capitan), odfiltrowywała też kandydatki, które ukończyły dwie żeńskie szkoły.
      Inżynierowie Amazona naprawili te problemy, jednak postanowiono nie wdrażać narzędzia w obawie, że istnieją jeszcze inne elementy, które powodują, że przyznaje ono mniej punktów kobietom.
      Amazon twierdzi, że narzędzie nigdy nie zostało wdrożone. Nieudana próba pokazuje jednak, jak niedoskonała jest sztuczna inteligencja. To tym większy problem, że coraz więcej firm chce automatyzować część procesu rekrutacji. W 2017 roku przeprowadzono badania, z których wynika, że 55% amerykańskich menedżerów HR uważa, iż w ciągu najbliższych pięciu lat SI będzie standardowo wykorzystywane w ich pracy.
      Ze zdobytych przez Reutersa informacji wynika, że Amazon powołał nowy zespół, który tym razem ma stworzyć narzędzie wspomagające rekrutację pod kątem osiągnięcia jak największej różnorodności wśród kandydatów.

      « powrót do artykułu
×
×
  • Create New...