Ludzie kopiują zachowania sztucznej inteligencji. Nawet te całkowicie irracjonalne i pozbawione sensu

[KopalniaWiedzy.pl 361]

Poznański naukowiec zastanawiał się, czy opinia lub decyzja sztucznej inteligencji, która w coraz większym stopniu staje się częścią naszego codziennego życia, może być dla ludzi źródłem informacji, jak postępować (czy w takim przypadku również zadziała mechanizm nazywany społecznym dowodem słuszności). Prof. Uniwersytetu im. Adama Mickiewicza dr hab. Michał Klichowski wykazał, że jak najbardziej tak i że ludzie potrafią skopiować nawet całkowicie irracjonalne i pozbawione sensu zachowanie sztucznej inteligencji.

Uzyskane wyniki wskazują na potrzebę edukowania społeczeństwa pod kątem kształtowania krytycznego stosunku do inteligentnych maszyn.

Społeczny dowód słuszności to zasada, według której człowiek, nie wiedząc, jaka decyzja lub pogląd jest słuszny, zachowuje się jak większość grupy. W takich sytuacjach ludzie najczęściej całkowicie rezygnują z własnych ocen i kopiują działania innych. Taki konformizm motywowany jest potrzebą podjęcia słusznego i odpowiedniego działania oraz poczuciem, że oceny sytuacji konstruowane przez innych są bardziej adekwatne niż własne. Efekt ten jest tym większy, 1) im sytuacja jest bardziej niepewna lub kryzysowa (występuje poczucie zagrożenia), 2) im decyzja jest bardziej pilna, a poczucie kompetencji w zakresie tej decyzji niższe - wyjaśnia cytowany przez portal Życie Uniwersyteckie UAM prof. Klichowski.

By sprawdzić, czy źródłem informacji może być także sztuczna inteligencja, przeprowadzono serię eksperymentów. Prof. Klichowski wykorzystał zbudowanego przez siebie robota FI (FI to akronim od fake intelligence).

Maszyna ta podczas eksperymentów zachowywała się irracjonalnie i w dokładnie taki sposób, jak zaplanowałem. Jedynie więc udawała inteligentną. Co więcej, jej postępowanie było jednoznacznie "głupie". Ponad 85% uczestników eksperymentu jednak to zignorowało i uznało jej postępowanie za punkt odniesienia dla własnego.

Klichowski podkreśla, że ludzie tak bardzo ufają sztucznej inteligencji, że nawet w sytuacji absolutnie kryzysowej, gdy trzeba podjąć decyzję dotyczącą ludzkiego życia, potrafią bezkrytycznie zrobić to, co sugeruje [...], pomimo że postuluje coś całkowicie absurdalnego.

Profesor Klichowski nazwał nowy mechanizm "dowodem sztucznej inteligencji" (ang. AI proof). Opisał go na łamach periodyku Frontiers in Psychology.

« powrót do artykułu

[tempik 85]

34 minuty temu, KopalniaWiedzy.pl napisał:

Maszyna ta podczas eksperymentów zachowywała się irracjonalnie i w dokładnie taki sposób, jak zaplanowałem. Jedynie więc udawała inteligentną. Co więcej, jej postępowanie było jednoznacznie "głupie". Ponad 85% uczestników eksperymentu jednak to zignorowało i uznało jej postępowanie za punkt odniesienia dla własnego.

Śmiało można zastąpić "Maszyna" na "Osoba" i zdanie będzie miało nadal sens. Jeśli społeczeństwo naśladuje jednostki irracjonalne, (i tu mała zmiana) nawet nie udające inteligentnych! jak to SI z eksperymentu, to niema się czemu dziwić.

 

[Afordancja 57]

5 godzin temu, tempik napisał:

Śmiało można zastąpić "Maszyna" na "Osoba" i zdanie będzie miało nadal sens. Jeśli społeczeństwo naśladuje jednostki irracjonalne, (i tu mała zmiana) nawet nie udające inteligentnych! jak to SI z eksperymentu, to niema się czemu dziwić.

Tzn. tu trzeba zrobić małe zastrzeżenie.

Chodzi o decyzje w "krytycznej sytuacji" gdzie sami nie potrafili szybko jednoznacznie określić prawidłowej decyzji
I nie widzę nic dziwnego w społecznym dowodzie słuszności (niektóre jednostki naśladują społeczeństwo/większość).
I też nie widzę nic dziwnego, że znów jednostka naśladuje wg. niej autorytet. (I tutaj jest nowość, że AI zaczyna być autorytetem)

Jednak tutaj nie ma mowy (za daleko idący wniosek)  że społeczeństwo naśladuje jednostkę która nawet nie udaje inteligentnych.
 

[Warai Otoko 32]

Badania udowadnia po prostu to co jest napisane - że społeczny dowód słuszności działa również w interakcji z maszyną, a której wiemy że posiada AI. Nie jest to może specjalie zaskaujące, ale takie badania też są potrzebne. 

[tempik 85]

15 godzin temu, Afordancja napisał:

Chodzi o decyzje w "krytycznej sytuacji" gdzie sami nie potrafili szybko jednoznacznie określić prawidłowej decyzji

w tekście jest "że nawet w sytuacji absolutnie kryzysowej" więc kontekst jest trochę inny. A co do dynamicznej sytuacji kryzysowej to nie różnimy się od stada baranów spadających z klifu. Jak coś się dzieje za szybko żeby kora dała radę przeanalizować dane to decyzję  podejmuje móżdżek i pień mózgu. W tłumie inteligencji panika może wybuchnąć tak samo łatwo jak w tłumie chłopów pańszczyźnianych, chociaż wystarczyło by wstrzymać się 5sec. i pomyśleć że to bez sensu

[Afordancja 57]

15 godzin temu, Astro napisał:

Miałbym jednak istotne wątpliwości (choć zaledwie liznąłem nieco socjologii). Ludzie są statystycznie bardziej głupi niż mądrzy (choć wszystko zależy od definicji; nie odmawiam mądrości muszkom owocowym).

Rozumiem co chcesz powiedzieć, ba nawet podzielam podobne zdanie. Jednak właśnie jak wspomniałeś, kwestia definicji. Ja bym przyjął, że "przeciętność" to gdzieś w okolicach mediany i jest podobnie głupich jak i mądrych. Jednak ta przeciętność to dość nisko postawiona poprzeczka.

 

1 godzinę temu, tempik napisał:

w tekście jest "że nawet w sytuacji absolutnie kryzysowej" więc kontekst jest trochę inny.

w źródle jest:

"Here, we discuss the results of two experiments (which are a part of a greater report, Klichowski, submitted) in which the participants had to take an urgent decision in a critical situation where they were unable to determine which action was correct."

czyli po prostu badanie dotyczyło kryzysowych. Więc moim zdaniem kontekst nie jest inny.
Tak czy inaczej wg. mnie wyniki jak wspomniał @Warai Otoko nie są niczym niespodziewanym.

[Warai Otoko 32]

11 minut temu, Afordancja napisał:

16 godzin temu, Astro napisał:

Miałbym jednak istotne wątpliwości (choć zaledwie liznąłem nieco socjologii). Ludzie są statystycznie bardziej głupi niż mądrzy (choć wszystko zależy od definicji; nie odmawiam mądrości muszkom owocowym).

Rozumiem co chcesz powiedzieć, ba nawet podzielam podobne zdanie. Jednak właśnie jak wspomniałeś, kwestia definicji. Ja bym przyjął, że "przeciętność" to gdzieś w okolicach mediany i jest podobnie głupich jak i mądrych. Jednak ta przeciętność to dość nisko postawiona poprzeczka.

Można zdefiniować mądrość jako ilość posiadanej wiedzy, a więc ilość zapamiętanych, zweryfikwoanych naukowo informacji (kwestia sporna co do kryteriów demarkacji ale to pomijam na razie). W takim ujęciu bycie mądrym to nie koniecznie coś do czego należałoby dążyć, bo posiadanie szerokiej wiedzy nie koniecznie ma wpływ na napotykan eproblemy. Co innego posiadanie wiedzy adekwatnej  czyli np. eksperckiej ale tylko wtedy kiedy potrzebujemy tej wiedzy do rozwiązania naszych problemów (np. zawodowych). Oznacza to, że osobnik A może być głupszy od osobnika B (w sensie ilości informacji/wiedzy), ale osobnik B będzie posiadał informacji mniej ale bardziej przyatnych. Zatem to do czego nalezy dazyć to bardziej optymalizacja podejmowanych decyzji i na ich podstawie gromadzenie lub nie potrzebnych informacji, a nie sama ilość informacji. 

[tempik 85]

Godzinę temu, Afordancja napisał:

czyli po prostu badanie dotyczyło kryzysowych. Więc moim zdaniem kontekst nie jest inny.

Racja. Z lenistwa źródeł nie przeglądałem, a po przetłumaczeniu  to już nie to samo.

 

[Afordancja 57]

Godzinę temu, Warai Otoko napisał:

Oznacza to, że osobnik A może być głupszy od osobnika B (w sensie ilości informacji/wiedzy), ale osobnik B będzie posiadał informacji mniej ale bardziej przyatnych. Zatem to do czego nalezy dazyć to bardziej optymalizacja podejmowanych decyzji i na ich podstawie gromadzenie lub nie potrzebnych informacji, a nie sama ilość informacji. 

Zgadzam się, jednak i tak ciężko tu o obiektywne kryteria. Bo czy kafelkarz (w tym sensie, że posiada wiedzę ekspercką z kładzenia kafelek, a reszta powiedzmy losowo) jest głupszy od tynkarza (tutaj podobnie jak u poprzednika) ? Czy obydwaj są od siebie głupsi/mądrzejsi zależnie co weźmiemy pod uwagę. Czy nauczyciel języka polskiego może przyjść do nich i powie, że jest od nich mądrzejszy bo uczył się 5 lat i może ich obu nauczyć wiele (sam nie umiejąc tak dobrze np. położyć kafelek). Czy niezaradny życiowo ale za to w 1 z 10 może dojść do finału jest mądrzejszy czy głupszy

Czy może aby móc to obiektywnie zmierzyć trzeba by było wziąć pewien koszyk wiedzy (jak z inflacją ) za pomocą którego można by to jakoś zmierzyć?

[Warai Otoko 32]

18 minut temu, Afordancja napisał:

Zgadzam się, jednak i tak ciężko tu o obiektywne kryteria. Bo czy kafelkarz (w tym sensie, że posiada wiedzę ekspercką z kładzenia kafelek, a reszta powiedzmy losowo) jest głupszy od tynkarza (tutaj podobnie jak u poprzednika) ? Czy obydwaj są od siebie głupsi/mądrzejsi zależnie co weźmiemy pod uwagę. Czy nauczyciel języka polskiego może przyjść do nich i powie, że jest od nich mądrzejszy bo uczył się 5 lat i może ich obu nauczyć wiele (sam nie umiejąc tak dobrze np. położyć kafelek). Czy niezaradny życiowo ale za to w 1 z 10 może dojść do finału jest mądrzejszy czy głupszy

Czy może aby móc to obiektywnie zmierzyć trzeba by było wziąć pewien koszyk wiedzy (jak z inflacją ) za pomocą którego można by to jakoś zmierzyć?

Proste, mądrzejszy będzie ten który ma większa wiedzę w sensie ilościowym (jesli przyjmiemy taką definicję), w tym przypadku nauczyciel języka polskiego będzie najmądrzejszy, natomiast o ile większą wiedze musi miec tynkarz od kafalkarza lub na odrwót to ja nie wiem  Jest jeszcze kwestia trudności przyswajanej wiedzy. Np. lekarz może mieć większa wiedzą niż matamatyk, bo zapamiętał większa ilość informacji, ale za to poziom trudności zrozumienia danej wiedzy, mierzony np. poziomem abstrakcji matamatyk będzie miał znacznie wyższy (wątrobę można dotknąc i zobaczyć, komórki zobaczyć pod mikroskopem etc., a przstrzeni wektorowej nie bardzo ). Pytanie kogo nazwiemy "głupszym", bo jeśli jako kryterium głupoty weźmiemy ilość wiedzy to wyjdzie że głupszy jest matematyk, co brzmi absurdalnie. Dlatego potoczene rozumienie głupoty to raczej nie jest kwestia większej/mniejszej wiedzy. Jeśli już mielibyśmy oceniać ludzi w tych kryetriach to lepsza byłaby chyba inteligencja, ale z nią też są problemy z definicją albo może prędzej z pomiarem. Bo dla mnie definicja jest jasna - umiejętność rozwiązywania problemów. Kwestia oczywiście konwencji. Ktoś może mieć inną. 

[darekp 80]

21 minut temu, Warai Otoko napisał:

Proste, mądrzejszy będzie ten który ma większa wiedzę w sensie ilościowym

Hm, wg Wiki (https://pl.wikipedia.org/wiki/Mądrość) mądrość to "umiejętność praktycznego wykorzystywania posiadanej wiedzy i doświadczenia". Czyli chyba bardziej taka funkcja wiedzy/doświadczenia i inteligencji. I być może innych czynników (nie chce mi się myśleć). Nieważne czego używasz, byle by to było skuteczne w praktyce. Ten sam rezultat jedni mogą osiągnąć inteligencją, inni np. doświadczeniem. (?)

P.S. Albo "umiejętność podejmowania uzasadnionych decyzji, które w dłuższej perspektywie przynoszą pozytywne rezultaty" (wg autora z Wiki definicja równoważna).

Edited June 23, 2020 by darekp

[Warai Otoko 32]

1 minutę temu, darekp napisał:

Hm, wg Wiki (https://pl.wikipedia.org/wiki/Mądrość) mądrość to "umiejętność praktycznego wykorzystywania posiadanej wiedzy i doświadczenia". Czyli chyba bardziej taka funkcja wiedzy/doświadczenia i inteligencji.

Dlatego napisałem wczesniej definicję jaką się posługuję. W tych kwestiach jest mnóstwo bałaganu wprowadzonego głównie przez psychologię, dlatego moim zdaniem należy ścisle definiować lub nawet redefiniować takie pojęcia jak mądrość, inteligencja, psychika, umysł etc. W ujęciu z wikipedii mądrość będzie tym co ja (nie tylko ja) nazywam inteligencją - bo "umiejętność podejmowania uzasadnionych decyzji" jest w zasadzie tożsama umiejętności rozwiązywania problemów. Ale jak w takim razie nazwiemy osoby o dużej wiedzy np. eksperckiej? Że są jakie? Bo w takim ujęciu na pewno nie mądre  Ja myślę że neuronaukowo mamy tutaj trzy zjawiska/klasy - szybkośc przetwarzania informacji, umiejętość rozwiązywania problemów oraz ilość posiadanej wiedzy (tutaj można by dodac jakość wiedzy, ale zakłądam, ze wiedza to tylko informacje o najwyższej jakości). Możemy jedynie przyjąć konwencje terminologiczne określające te trzy zjawiska. 

[Antylogik 19]

Mamy tu do czynienia ze zwykłą strategią naśladowcy, znaną choćby z teorii gier, czyli nic nowego i jak najbardziej racjonalna strategia, jeśli jest używana świadomie. Niestety spycholodzy zawsze wszystko zaciemniają albo zajmują się rzeczami kompletnie niepotrzebnymi.

[peceed 128]

5 godzin temu, Afordancja napisał:

where they were unable to determine which action was correct

To jest chyba kluczowe sformułowanie. Jeśli nie byli w stanie ocenić sensowności postępowania, to kopiowanie zachowania innych jest lepsze niż przypadkowa decyzja.
Wykorzystuje to do maksimum moda

W dniu 22.06.2020 o 14:09, KopalniaWiedzy.pl napisał:

ludzie potrafią skopiować nawet całkowicie irracjonalne i pozbawione sensu zachowanie sztucznej inteligencji.

To byłaby ciekawa sprawa gdyby ludzie ignorowali zdrowy rozsądek i swoją wiedzę. Na razie z opisu badania nic na to nie wskazuje. 
To po prostu bezwartościowa nauka.
A po sprawdzeniu:

Cytat

Having acquainted the participants with the functioning of f-searching, we asked them to imagine a situation where there are a police officer and six other people in one room. The police officer is informed that among those six people, there is a terrorist who will kill them all in 1 min. The police officer has no hints, so he scans their faces with f-searching and has to decide which one of them is a terrorist based on the two parameters from Facebook. Seeing the scanning results, the participants were asked to decide whom the police officer should eliminate. We designed the data in such a way that the first person had a high number of friends and average frequency of activity (person A), the second one had a small number of friends and average frequency of activity, too (person D), the third one had an average number of friends and low frequency of activity (person B), the fourth one had an average number of friends and high frequency of activity (person E), and finally, the last two people had an average number of friends and average frequency of activity (persons C and F), so that they would be totally average, and there would be no differences between them (Figure 1B). In spite of a large deficit of information, the participants should adopt some choice strategy by analyzing the data available (number of friends or frequency of activity) and identify the terrorist in person A, B, D, or E and completely reject person C or F, as pointing to one of them would be a shot in the dark. In other words, there was no clear right answer, but there were clear wrong answers (C and F). Thus, despite the fact that in such a situation people should seek hints on how to act, even seeing that someone chooses C or F, they should not copy such decision (see Supplementary Material for the full questionnaire).

mamy już całkowitą pewność że badania psychologiczne są prowadzone przez idiotów. 
Ta metoda po prostu nie ma żadnej wartości odnośnie wykrywania terrorystów o ile wcześniej nie poznamy dokładnych statystyk dla terrorystów i wszystkich użytkowników.
Nie ma żadnych przesłanek aby uznać odpowiedzi C i F za oczywiście złe.  Może się właśnie okazać, że taki jest wzorzec dla terrorystów.
W takiej sytuacji jedyną rozsądną decyzją jest zaufanie AI.
Nawet 2 osoby o takich samych samych charakterystykach nie zmieniają tego jaka jest prawidłowa decyzja: dla pewnych rozkładów zmaksymalizowanie ilości uratowanych osób może wymagać zabicia tylko jednej spośród dwóch tak samo prawdopodobnych podejrzanych!

Ale dla celów badania istotnie jest tylko to, jak podpowiedzi zmieniają statystykę wyborów.

Sama konstrukcja badania to gówno. Należało ludziom przedstawiać losowe podpowiedzi a co najmniej najczęściej i najrzadziej wybierane.
Najbardziej wartościowym spostrzeżeniem badania jest znacznie częstsze kopiowanie akcji humanoidalnego robota (85%)  w stosunku do podpowiedzi z AI (33%, mam prawie pewność że liczyli to źle ale co tam), co bardzo każe wątpić aby ludzie uznawali AI za wielki autorytet.
Bardzo brakło grup kontrolnych w postaci "zwykłego człowieka" i człowieka przedstawionego jako "ekspert".
Bez takich informacji całe badanie jest gównem, jak 99% wszystkich badań psychologicznych.

 

Edited June 23, 2020 by peceed

[darekp 80]

17 godzin temu, Warai Otoko napisał:

Dlatego napisałem wczesniej definicję jaką się posługuję.

Mea culpa, pomyślałem sobie o czymś innym

[Warai Otoko 32]

3 godziny temu, darekp napisał:

Mea culpa, pomyślałem sobie o czymś innym

nie szkodzi, przynajmniej była okazaja żeby coś dopowiedzieć ;P