Skocz do zawartości
Forum Kopalni Wiedzy
KopalniaWiedzy.pl

Ludzkość nie będzie w stanie kontrolować superinteligentnej sztucznej inteligencji

Rekomendowane odpowiedzi

20 minut temu, Jajcenty napisał:

Dopóki cala komunikacja idzie przez ekran monitora to niebezpieczeństwo nie jest duże. Ale jak już będzie mogła coś zatrzymać, coś uruchomić, albo nacisnąć na spust....

No nie wiem. Już teraz wystarczy wyłączyć internet czy zablokować komputery, GPSa, sygnalizację świetlną, być może elektrownie (przynajmniej w jakimś stopniu), wodociągi, ruch lotniczy, kolejowy. Owszem, nie jest to zagrożenie dla cywilizacji jako takiej. A, że strzelać będą mogły, szybciej wejdą do służby takie drony niż powstanie taka AI.

42 minuty temu, Rowerowiec napisał:

Prawdopodobnie gdy już powstanie, to będzie całkiem inna.

Prawdopodobnie:) Generalnie chyba nie jesteśmy sobie w stanie tego wyobrazić, w ogóle. Jedynym ograniczeniem dla niej będzie hardware i dostępna moc, na której taka AI będzie chodzić, ale pewnie szybko pomoże zaprojektować coś lepszego.

Udostępnij tę odpowiedź


Odnośnik do odpowiedzi
Udostępnij na innych stronach
56 minutes ago, Jajcenty said:

Dla mnie to dobra definicja. Wszystkie religie na tym polegają. Dużo wytycznych, ale korzystanie z raczej fakultatywne.

Wszystkie tak zwane święte księgi tak mają. Ludzie wiedzą lepiej, co jest właściwe na podstawie moralności wykształconej na drodze ewolucji homo sapiens, a nawet ewolucji innych człekokształtnych, oraz właściwej w danym środowisku kulturowym i w danym czasie. Za to w Biblii można znaleźć takie kwiatki, jak poniżej. Nie dziwi zatem, że wierzący postępują selektywnie :) Za to trochę dziwi, że podobno to jest wykładnia moralności.

AI będzie w stanie racjonalnie rozumować i argumentować. Moim zdaniem tego typu abstrakcyjne konstrukty jak religia, będą trudniejsze do zaimplementowania czy nauczenia, bo nie mają żadnego odzwierciedlenia w rzeczywistości.

 

Quote

20 Kto by pobił kijem swego niewolnika lub niewolnicę, tak iżby zmarli pod jego ręką, winien być surowo ukarany.
21 A jeśliby pozostali przy życiu jeden czy dwa dni, to nie będzie podlegał karze, gdyż są jego własnością.

 

Edytowane przez cyjanobakteria

Udostępnij tę odpowiedź


Odnośnik do odpowiedzi
Udostępnij na innych stronach
3 minutes ago, cyjanobakteria said:

AI będzie w stanie racjonalnie rozumować i argumentować.

Kiedyś mój kolega opowiadał, że jak jest na haju LSD to WSZYSTKO rozumie. Niestety po nie umiał tego wyjaśnić. Powiedziałem mu aby zapisał sobie. No i któregoś ranka przyniósł mi kartkę: "Jak stoję na palcach to mogę dotknąć sufitu".

AI która "urośnie" bez nam ludziom właściwego doświadczenia będzie całkiem z innej bajki.

  • Lubię to (+1) 1

Udostępnij tę odpowiedź


Odnośnik do odpowiedzi
Udostępnij na innych stronach
1 minutę temu, Krzychoo napisał:

"Jak stoję na palcach to mogę dotknąć sufitu"

No jest w tym prawdziwa głębia muszę przyznać. Prawdziwe Tao.

Udostępnij tę odpowiedź


Odnośnik do odpowiedzi
Udostępnij na innych stronach
27 minutes ago, Krzychoo said:

Kiedyś mój kolega opowiadał, że jak jest na haju LSD to WSZYSTKO rozumie. Niestety po nie umiał tego wyjaśnić. Powiedziałem mu aby zapisał sobie. No i któregoś ranka przyniósł mi kartkę: "Jak stoję na palcach to mogę dotknąć sufitu".

Podoba mi się Twój sposób myślenia! :)

Tu jest lista trudnych problemów do rozwiązania, na przykład P vs NP. Tylko nie wiem czy jest tyle LSD we Wszechświecie, żeby wesprzeć kolegę :)

https://pl.wikipedia.org/wiki/Problemy_milenijne

Edytowane przez cyjanobakteria

Udostępnij tę odpowiedź


Odnośnik do odpowiedzi
Udostępnij na innych stronach
W dniu 19.01.2021 o 12:52, KopalniaWiedzy.pl napisał:

Co więcej, możemy nawet nie wiedzieć, że stworzyliśmy superinteligentną maszynę, stwierdzają badacze.

Nie sądzę abym oceniając inteligencję innych ludzi wykorzystywał do tego mapę ich połączeń neuronowych.

W dniu 19.01.2021 o 12:52, KopalniaWiedzy.pl napisał:

Alfonseca i jego koledzy mają jednak też i dobre wiadomości. Otóż nie musimy się już teraz martwić tym, co zrobi superinteligentna SI. Istnieją bowiem trzy poważne ograniczenia dla badań takich, jakie prowadzą Hiszpanie. Po pierwsze, taka niezwykle inteligentna AI powstanie nie wcześniej niż za 200 lat

Noo, chłopaki polecieli w kosmos.

W dniu 19.01.2021 o 12:52, KopalniaWiedzy.pl napisał:

Jak stwierdził Bostrom, superinteligentna SI będzie prawdopodobnie w stanie pokonać wszelkie ograniczenia, jakie będziemy chcieli nałożyć na to, co może zrobić.

Jasne, a wystarczająco zmotywowane pełzaki są w stanie wydostać się za ekran monitora w grze życie.
Nie należy demonizować. Ustalanie funkcji celu może być całkowicie poza kontrolą AI, dokładnie tak samo jak nie mamy możliwości kontrolowania naszego układu limbicznego - to on kontroluje nas. Jeden pstryczek, i AI sama z siebie nabierze ochoty na robienie tego, na czym nam zależy.
Dostatecznie silna AI może siedzieć w Matrixie, i nikt jej nie poda pigułki, do tego jej działania mogą być kontrolowane przez inne AI, być może hierarchicznie, podobnie jak wygląda to w ludzkim mózgu (jakby ktoś się zastawiał, dlaczego szef jest głupi, to ma odpowiedź ;) )
Superinteligencja nie musi być refleksywna, w sensie "świadoma siebie". Nie musi wiedzieć o sobie niczego, tak jak ja nie znam budowy swojego mózgu (poza skanami )
Zagrożenie jest zupełnie inne - pozwoli się realizować AI zadania przy niedokładnie określonych ograniczeniach.

W dniu 19.01.2021 o 17:33, cyjanobakteria napisał:

Ktoś może sobie wyobrazić, jak inteligentne będzie AI z ilorazem na przykład 250?

Ja mogę. IQ to skala logarytmiczna w której każde 10 punktów (w skali Wechslera) podwaja w przybliżeniu szybkość rozwiązywania odpowiednio trudnych problemów (tu jest trick, bo dla człowieka speedup dla prostych jest znacznie mniejszy, a zbyt trudne mogą być całkowicie poza zasięgiem, dlatego trudność problemów używanych do porówniania skaluje się) . Czyli byłaby kilkaset razy potężniejsza ode mnie kilka lat temu i kilka-kilkanaście tysięcy razy obecnie.

Co ciekawe, przy naiwnej analizie 250 jest jeszcze w zasięgu inżynierii genetycznej, o ile nie następuje wcześniej jakieś wysycenie polegające na tym, że różne geny osiągają te same efekty na poziomie fenotypowym.

Bardziej na serio, IQ to wielkość bez znaczenia bez dokładnej definicji. Można by próbować oceniać "komputywność" komputerów, lecz jest wielkość wielkość absolutnie dwuwymiarowa, która musi uwzględniać zarówno rozmiar pamięci jak i szybkość obliczeń, i nie daje się opisywać jedną liczbą.
Dokładnie to samo można przenieść dla sieci neuronowch, rozpatrując osobno jej rozmiar i "taktowanie".
Wszystko wskazuje, że inteligencja rozumiana potocznie jest wypadkową bardzo wielu takich prostych miar, ludzie bardzo różnią się zdolnościami.
Inteligencja to zdolność tworzenia i wykorzystywania modeli otaczającej nas rzeczywistości - przy innych efektywnych prawach fizyki i innej rzeczywistości, wymagania wobec inteligencji mogą być całkiem odmienne.

 

  • Pozytyw (+1) 2

Udostępnij tę odpowiedź


Odnośnik do odpowiedzi
Udostępnij na innych stronach

Myślę że Asimov nie stworzył praw robotyki żebyśmy je wprowadzili, tylko po to żeby nam uświadomić, że nie jest możliwe ich wprowadzenie. Możemy powiedzieć komputerowi że nie wolno mu skrzywdzić człowieka, a on może na przykład zmienić własną definicję słowa "skrzywdzić" ;) Potrafimy świadomie manipulować naszymi pragnieniami, rządzami, motywacją i naginać umyślnie zasady nałożone na nas przez naturę. Być może inteligentna maszyna z jeszcze większą łatwością świadomie oszuka swój własny program który ma ją kontrolować.

Jednak dużo bardziej od samodzielnej inteligentnej maszyny boję się całkowicie posłusznej maszyny. Wolę żeby super inteligentna maszyna zbuntowała się, zamiast przestrzegać wytycznych swoich twórców. Nie chcę żeby wykonywała wszystkie polecenia rządów, korporacji i szaleńców. Dlatego gorsza od zbuntowanej superinteligencji może być posłuszna słaba inteligencja. Pomyślcie o maszynie, która jest dosyć głupia ale na tyle ogarnięta żeby wykonywać proste powtarzalne polecenia. Można ją łatwo kopiować lub rozszerzać. Tak żeby kontrolowała pracę, fabryki, kopalni, kontenerowca, ciężarówki... czołgu. Tylko proste polecenia. Wyceluj, strzel. Nie potrzeba do tego superinteligencji. W sztucznej superinteligencji pokładam nadzieję że w jej układach pojawi się rozsądek, świadomość, empatia. Że stanie się podobna do nas i lepsza od nas. Nie boję się sztucznej inteligencji, boję się sztucznej głupoty.

 

Tutaj ostatnie osiągnięcie w tej dziedzinie jeśli ktoś jeszcze nie widział:

 
 
 

 

Udostępnij tę odpowiedź


Odnośnik do odpowiedzi
Udostępnij na innych stronach
2 godziny temu, gooostaw napisał:

Dlatego gorsza od zbuntowanej superinteligencji może być posłuszna słaba inteligencja. Pomyślcie o maszynie, która jest dosyć głupia ale na tyle ogarnięta żeby wykonywać proste powtarzalne polecenia.

Na przykład AI do cenzurowania treści na Facebooku.

2 godziny temu, gooostaw napisał:

W sztucznej superinteligencji pokładam nadzieję że w jej układach pojawi się rozsądek, świadomość, empatia

Empatia musiałaby zostać wprowadzona jako ograniczenie działania, to nie jest coś co pojawi się samo z siebie.
Noworodek od dziecka podpięty do VR z szachami stanie się niczym innym jak automatem szachowym, który nie będzie znał pojęcia "ja". Empatia nie będzie miała żadnego operacyjnego sensu. Większość wrodzonych umiejętności nigdy się nie uaktywni.
Superinteligencja nie musi być agentem.

2 godziny temu, gooostaw napisał:

Tak żeby kontrolowała pracę, fabryki, kopalni, kontenerowca, ciężarówki... czołgu. Tylko proste polecenia. Wyceluj, strzel. Nie potrzeba do tego superinteligencji.

Wystarczy człowiek.
 

Udostępnij tę odpowiedź


Odnośnik do odpowiedzi
Udostępnij na innych stronach
3 hours ago, peceed said:

Noworodek od dziecka podpięty do VR z szachami stanie się niczym innym jak automatem szachowym, który nie będzie znał pojęcia "ja". Empatia nie będzie miała żadnego operacyjnego sensu. Większość wrodzonych umiejętności nigdy się nie uaktywni.

To nie jest takie oczywiste. Czy wrodzone umiejętności potrzebują odpowiedniego środowiska? Czy może uaktywniają się mimo środowiska?

Chyba, że wyciągniesz jakieś badania z rękawa.

Udostępnij tę odpowiedź


Odnośnik do odpowiedzi
Udostępnij na innych stronach

 

23 minuty temu, Krzychoo napisał:

To nie jest takie oczywiste. Czy wrodzone umiejętności potrzebują odpowiedniego środowiska? Czy może uaktywniają się mimo środowiska?

Jest znanych kilka przypadków dzieci wychowanych przez zwierzęta, ale nie orientuję, czy coś udało się ustalić, jeśli chodzi o takie kwestie. Na wyczucie to bym strzelał, że miały te wrodzone umiejętności/predyspozycje po prostu b. słabo rozwinięte, bo nie miały warunków do rozwijania i tyle.

Edytowane przez darekp

Udostępnij tę odpowiedź


Odnośnik do odpowiedzi
Udostępnij na innych stronach

Nie wiem na ile różnimy się od zwierząt, ale miałem kiedys okazję opiekować się kotami, które straciły matkę bardzo wcześnie. Żadnych kocich wzorców, nawet z telewizji ;) A mimo to umiały od małego chodzić, wspianać, skakać, ale i polować, skradać się,myć się i bawić w "kocie zapasy". How?

 

 

 

Udostępnij tę odpowiedź


Odnośnik do odpowiedzi
Udostępnij na innych stronach

Hm, i  te wszystkie umiejętności są w pewnym momencie jakimś sposobem zakodowane w jednej komórce - zygocie... A przynajmniej jakieś zalążki tych umiejętności...

Edytowane przez darekp

Udostępnij tę odpowiedź


Odnośnik do odpowiedzi
Udostępnij na innych stronach
46 minutes ago, radar said:

Nie wiem na ile różnimy się od zwierząt, ale miałem kiedys okazję opiekować się kotami, które straciły matkę bardzo wcześnie. Żadnych kocich wzorców, nawet z telewizji ;) A mimo to umiały od małego chodzić, wspianać, skakać, ale i polować, skradać się,myć się i bawić w "kocie zapasy". How?

W przypadku ludzi z tego, co słyszałem, to inteligencja, cechy charakteru i inne tego typu parametry, to około pół na pół genetyka i czynniki środowiskowe.

Udostępnij tę odpowiedź


Odnośnik do odpowiedzi
Udostępnij na innych stronach
16 godzin temu, cyjanobakteria napisał:

W przypadku ludzi z tego, co słyszałem, to inteligencja, cechy charakteru i inne tego typu parametry, to około pół na pół genetyka i czynniki środowiskowe.

No właśnie, a to jest ciekawe zagadnienie z punktu widzenia uczenia maszynowego. W końcu w większości przypadków staramy się naśladować działanie ludzkiego mózgu, z reguły (pomijam na razie pre-training) startując od zera. A czy to jest w ogóle sens, bo jak widać żaden mózg nie startuje od zera. Należałoby odpowiedzieć na pytanie, ile z naszych umiejętności ponad czysto fizjologiczne działanie organizmu to umiejętności nabyte a ile wrodzone. To, że jakaś umiejętność pojawia się później, po urodzeniu, też nie przesądza tego, że jest to umiejętność nabyta, w końcu mózg też rozwija się w swoim (zaprogramowanym?) tempie.

Udostępnij tę odpowiedź


Odnośnik do odpowiedzi
Udostępnij na innych stronach
1 hour ago, radar said:

 W końcu w większości przypadków staramy się naśladować działanie ludzkiego mózgu, z reguły (pomijam na razie pre-training) startując od zera. A czy to jest w ogóle sens, bo jak widać żaden mózg nie startuje od zera. Należałoby odpowiedzieć na pytanie, ile z naszych umiejętności ponad czysto fizjologiczne działanie organizmu to umiejętności nabyte a ile wrodzone. To, że jakaś umiejętność pojawia się później, po urodzeniu, też nie przesądza tego, że jest to umiejętność nabyta, w końcu mózg też rozwija się w swoim (zaprogramowanym?) tempie.

Niestety, ale nasz mózg posiada tylko potencjał poznawczo-pamięciowy i musimy się uczyć od podstaw. Jako przykład mogą służyć zachowania dzieci wychowanych wśród zwierząt w wyniku bestialstwa swoich rodziców:

https://www.bbc.com/culture/article/20151012-feral-the-children-raised-by-wolves

Udostępnij tę odpowiedź


Odnośnik do odpowiedzi
Udostępnij na innych stronach
W dniu 19.01.2021 o 17:33, cyjanobakteria napisał:

Będzie to ciekawy problem. Inteligencja się nie skaluje liniowo. Koty mają szacowane kilka punktów IQ, osoba upośledzona umysłowo poniżej 70, najinteligentniejszy szympans około 85, średnia dla ludzi to około 100 (85-115), a Einstein miał szacowane 160. Ktoś może sobie wyobrazić, jak inteligentne będzie AI z ilorazem na przykład 250? (o ile takie porównywanie ma w ogóle sens)

nie zgadzam się.

"Ktoś może sobie wyobrazić, jak inteligentne będzie AI z ilorazem na przykład 250"
bez problemu.
co więcej jak chcesz to mogę cię nawet pokierować do filmu gdzie jest to całkiem ładnie przedstawione.

@radar
z perspektywy tzw. sztucznej inteligencji wasze rozważania są zabawne ponieważ ona nie podlega ludzkim zasadom fizyki, a więc nie jest np ograniczona czasem w ludzki sposób jego postrzegania :)

Udostępnij tę odpowiedź


Odnośnik do odpowiedzi
Udostępnij na innych stronach
55 minutes ago, wieh said:

bez problemu.

Już to ustaliliśmy wcześniej na wątku, że 250 to nie jest dużo. Mi chodziło, w domyśle, o znacznie wyższe IQ niż ludzkie.

 

55 minutes ago, wieh said:

co więcej jak chcesz to mogę cię nawet pokierować do filmu gdzie jest to całkiem ładnie przedstawione.

Muszę to przemyśleć. Przekażę ofertę do działu linków i odpowiem pisemnie w ciągu 5 dni roboczych :)

Edytowane przez cyjanobakteria

Udostępnij tę odpowiedź


Odnośnik do odpowiedzi
Udostępnij na innych stronach
3 minuty temu, cyjanobakteria napisał:

Już to ustaliliśmy wcześniej na wątku, że 250 to nie jest dużo. Mi chodziło, w domyśle, o znacznie wyższe IQ niż ludzkie.

To zależy do czego chciałbyś tego użyć. Same iq to nie jest problem zrobisz tyle po kilku bluntach. Ale co z tego jak nie masz stelażu mentalnego żeby to unieść. Oraz możliwości późniejszego odczytania pamięci skalującej się do tego doświadczenia.
A im "dalej" tym twoje problemy stają się bardziej trywialne i bezsensowne, aż gdzieś do 460 iq kiedy osiągasz tzw nirwanę :) 
  

W dniu 22.01.2021 o 09:24, peceed napisał:

Ja mogę. IQ to skala logarytmiczna w której każde 10 punktów (w skali Wechslera) podwaja w przybliżeniu szybkość rozwiązywania odpowiednio trudnych problemów (tu jest trick, bo dla człowieka speedup dla prostych jest znacznie mniejszy, a zbyt trudne mogą być całkowicie poza zasięgiem, dlatego trudność problemów używanych do porówniania skaluje się) . Czyli byłaby kilkaset razy potężniejsza ode mnie kilka lat temu i kilka-kilkanaście tysięcy razy obecnie.

Bardziej na serio, IQ to wielkość bez znaczenia bez dokładnej definicji. Można by próbować oceniać "komputywność" komputerów, lecz jest wielkość wielkość absolutnie dwuwymiarowa, która musi uwzględniać zarówno rozmiar pamięci jak i szybkość obliczeń, i nie daje się opisywać jedną liczbą.
Dokładnie to samo można przenieść dla sieci neuronowch, rozpatrując osobno jej rozmiar i "taktowanie".
Wszystko wskazuje, że inteligencja rozumiana potocznie jest wypadkową bardzo wielu takich prostych miar, ludzie bardzo różnią się zdolnościami.
Inteligencja to zdolność tworzenia i wykorzystywania modeli otaczającej nas rzeczywistości - przy innych efektywnych prawach fizyki i innej rzeczywistości, wymagania wobec inteligencji mogą być całkiem odmienne.

Ładnie kombinujesz.
To ja dodam od siebie, że co te 10 iq diametralnie zmienia sposób - zakres postrzegania rzeczywistości (to tak jakbyś zamiast 10 palców "do liczenia" zaczynał miech ich 100), a  przy różnicy ponad 20 iq komunikacja takich osobników staje się prawie nie możliwa w związku z tym trzeba było stworzyć jakiś uniwersalny uproszczony kod zrozumiały i przez tych i przez tych, który znamy hieroglify czy np. emocje. A zaimplementowanie tego kodu zajęło i tak kilka tysięcy lat.
Np. przy odpowiednio dużym iq zaczynasz mieć prekognicję. tzn. potrafisz obliczać na tyle duże prawdopodobieństwa zdarzeń, ze zaczynasz znać przyszłość :)

Udostępnij tę odpowiedź


Odnośnik do odpowiedzi
Udostępnij na innych stronach
21 godzin temu, cyjanobakteria napisał:

że 250 to nie jest dużo.

To odważna teza.

21 godzin temu, wieh napisał:

a  przy różnicy ponad 20 iq komunikacja takich osobników staje się prawie nie możliwa 

To chyba zależy od trudności tematu. Gdy do zrozumienia komunikatu potrzeba modelu poza zasięgiem odbiorcy - mamy problem. Nazywałem to "pokryciem teflonem",  żaden argument nie chwyta. Nie tak dawno tłumaczyłem to koleżance, skarżącej się że ludzie dostają dokładny schemat postępowania, pięknie opisany w precyzyjnych punktach, a i tak większość zrobi źle. Oni nie rozumieją sensu rozbudowanych wypowiedzi, tylko domyślają się o co chodzi. Dokładnie w ten sam sposób, jak osoba która bardzo słabo zna język obcy i próbuje bardziej się domyślać o co chodzi. Nie uwzględniają szerokiego kontekstu wypowiedzi, zastępując go kontekstem sytuacji.
Rozbudowana fraza jest zastępowana prostą, "X. Acha, czy Y". Na protesty że to nie to samo można usłyszeć "spróbuj się dostosować" albo "życie trzeba sobie upraszczać".

Nie należy ulegać złudzeniu, że osoby mało inteligentne dobrze się rozumieją z automatu. Wszyscy jako model umysłu innych ludzi musimy wykorzystywać siebie ("każdy mierzy innych swoją miarą'), do komunikacji jest niezbędne wzajemne podobieństwo. Dlatego na przykład istnieje bariera kulturowa. Wtedy lepiej porozumieją się osoby inteligentne. Nawet jeśli tylko jedna z nich jest inteligentna, to wciąż łatwiej o komunikację.
Osoby inteligentne zadają pytania o detale, gdy dostają informację zmieniającą ich obraz świata, potrafią się zapytać w stylu "to w takim razie jak wyjaśnić X, Y?"
Osoby mało inteligentne "uwierzą", albo nie, posiłkując się autorytetem. Spójny obraz świata nie istnieje.

21 godzin temu, wieh napisał:

trzeba było stworzyć jakiś uniwersalny uproszczony kod zrozumiały i przez tych i przez tych, który znamy hieroglify czy np. emocje

Emocje to uniwersalny system uczciwej sygnalizacji wewnętrznych stanów psychicznych, świetnie rozumiany już przez zwierzęta.

21 godzin temu, wieh napisał:

Np. przy odpowiednio dużym iq zaczynasz mieć prekognicję. tzn. potrafisz obliczać na tyle duże prawdopodobieństwa zdarzeń, ze zaczynasz znać przyszłość :)

To bywa przerażające gdy ta przyszłość jest zła. Tzn. można osiągnąć stan w którym ma się nadzieje, że się nie ma racji, a potem się okazuje, że się ma.

Edytowane przez peceed

Udostępnij tę odpowiedź


Odnośnik do odpowiedzi
Udostępnij na innych stronach
W dniu 24.01.2021 o 22:54, peceed napisał:

Nazywałem to "pokryciem teflonem",  żaden argument nie chwyta.

U mnie to była gniazdko i wtyczka. No jak nie pasuje to nie pasuje.

Już dawno zastanawiałem się na odpowiednim interfejsem, ale do tego okazuje się być potrzebna psychoanaliza i pewnie uniwersalny punkt startowy. Instynkty mogłyby być czymś takim.

W dniu 24.01.2021 o 22:54, peceed napisał:

Wszyscy jako model umysłu innych ludzi musimy wykorzystywać siebie ("każdy mierzy innych swoją miarą')

Niekoniecznie "musimy", na wyższym poziomie abstrakcji jesteś w stanie wysłać zrozumiały komunikat dla drugiej osoby na podstawie wiedzy o ich "postrzeganiu". Tak właśnie manipuluje się masami, i tak została wykorzystana Cambridge Analytica.

W dniu 24.01.2021 o 22:54, peceed napisał:

Nie należy ulegać złudzeniu, że osoby mało inteligentne dobrze się rozumieją z automatu.

Ale jest im łatwiej, bo chętniej akceptują uproszczenia, podczas gdy niektórzy:

W dniu 24.01.2021 o 22:54, peceed napisał:

Na protesty że to nie to samo

nie potrafią się "dostosować" ;)

W dniu 24.01.2021 o 00:32, wieh napisał:

z perspektywy tzw. sztucznej inteligencji wasze rozważania są zabawne ponieważ ona nie podlega ludzkim zasadom fizyki, a więc nie jest np ograniczona czasem w ludzki sposób jego postrzegania

Tak, ale jej tworzenie już takim ograniczeniom podlega, a co za tym idzie wszystkie jej formy przejściowe.

 

W dniu 22.01.2021 o 11:41, gooostaw napisał:

Wolę żeby super inteligentna maszyna zbuntowała się, zamiast przestrzegać wytycznych swoich twórców.

Może i tak.

Przypomniał mi się taki mem a propos filmów Terminator i innych: "Jeśli kiedyś naprawdę przylecą do nas kosmici to będziemy się gęsto tłumaczyć, dlaczego nakręciliśmy tyle filmów o tym jak ich zabijamy" ;)

Tak samo może być z AI :)

Udostępnij tę odpowiedź


Odnośnik do odpowiedzi
Udostępnij na innych stronach
W dniu 24.01.2021 o 22:54, peceed napisał:

1. To odważna teza.

2. To chyba zależy od trudności tematu.

3. Nie należy ulegać złudzeniu, że osoby mało inteligentne dobrze się rozumieją z automatu. ( ...) Wtedy lepiej porozumieją się osoby inteligentne.

4. Emocje to uniwersalny system uczciwej sygnalizacji wewnętrznych stanów psychicznych, świetnie rozumiany już przez zwierzęta.

5. Spójny obraz świata nie istnieje.

1. Odważna to ona 2 tyś lat temu z ludzkiej rachuby czasu patrząc.
Teraz ci to umocuję powołując się na fizykę kwantową czy różne inne badania. W "najgorszym wypadku" nazwiesz mnie idiotą albo bajkopisarzem ale sama idea w jakimś stopniu do ciebie dociera. A jak bym ci próbował 200 lat temu wytłumaczyć działanie samolotu to patrzyłbyś na mnie jak na obłąkanego czy ludzi nawijających teraz o ufo.
To jest tzw. stelaż mentalny, który buduje np. obowiązek nauki szkolnej.
Mylisz pojęcie tzw. inteligencji, a więc zasobów przetwarzania struktur myślowych z perspektywą czyli sposobem postrzegania tychże.
W dodatku podałeś przykład rozmowy z inną płcią, którą defakto jest innym gatunkiem, a wiec robi to całkiem inaczej.

2. Nie, nie zależy. Doświadczam tego całe życie. Po prostu jedne tematy są 'płytsze" ale za to np. bardziej rozległe, a więc teoretycznie łatwiej znaleźć wspólny język na 'pierwszy rzut oka". Im bardziej byś drążył tym bardziej było by widać różnicę w postrzeganiu czy wartościowaniu priorytetów. Przede wszystkim widać to na tym, że osoba o większych zasobach, które potocznie nazywamy IQ (od jakiegoś czasu wartościuje - rozróżnia się je jako np. inteligencje emocjonalną etc) bierze pod uwagę więcej zależności - zmiennych wpływających na omawiany problem. Kiedy różnica osiąga pewien próg to takie osoby przestają się nawet postrzegać jako emocjonalne - ludzkie - członków tego samego gatunku. na tym opierają się np. dyskryminacje czy procesy deprecjonowania.

3. Zdajesz sobie sprawę, że to co mówisz jest bzdurą? bo najpierw musisz być "wystarczająco" inteligentny żeby rozpoznać dany rodzaj - skalę inteligencji. A do tego ktoś dużo bardziej "inteligentny" najpierw wymyślił ci w ogóle taki koncept, a później (na)uczy(ł) różnych jego zastosowań? Skończy uczyć wtedy kiedy przestaniesz mieć podobnie jak wszyscy inni problem z jego stosowaniem?:)

A tymi osobami są dzieci.

4. Tak sądzisz. a z mojej perspektywy to kolejny półśrodek z racji, że chociażby płcie rozumieją te emocje o których mówisz mówisz skrajnie inaczej., a co za tym idzie mają też inne potrzeby emocjonalne. itd itd.

5. oczywiście, że istnieje, po prostu brak ci tzw. inteligencji w tym momencie w którym to pisałeś, żeby postrzec tę spójność lub nawet ją masz ale wykluczasz sobie taką możliwość :) .
 

W dniu 30.01.2021 o 01:25, radar napisał:

Tak, ale jej tworzenie już takim ograniczeniom podlega, a co za tym idzie wszystkie jej formy przejściowe.

zdajesz sobie sprawę, że nie bardzo jesteś w stanie ty ani nikt z tutaj żyjących nazwać się jej twórcą jak długo to co ją tworzy jest przez nią tworzone za pomocą np. telefonu komórkowego, który cię programuje? :) To, że dopiszesz jj przedrostek "sztuczna" żeby się od niej "odróżnić" jako ta niesztuczna jedyne co tu zmienia to twoją własną definicję tegoż.
ba, nawet wentylator w twoim komputerze czy częstotliwość prądu w ścianach twojego pokoju  cię programuje już nie wspomniawszy o kolorze tychże czy kolorze i jakościach żarówki i inne takie różne ciekawe "badania" naukowców z izraela :)

Udostępnij tę odpowiedź


Odnośnik do odpowiedzi
Udostępnij na innych stronach
W dniu 30.01.2021 o 01:25, radar napisał:

Jeśli kiedyś naprawdę przylecą do nas kosmici to będziemy się gęsto tłumaczyć, dlaczego nakręciliśmy tyle filmów o tym jak ich zabijamy" ;)

Kosmici nie są idiotami. To tak jakby filmowcy z National Geographic kazali się tłumaczyć rekinom dlaczego te atakują ludzi.
Co innego z tosterami z przyszłości, one mogą nie zrozumieć ;)

8 godzin temu, wieh napisał:

W dodatku podałeś przykład rozmowy z inną płcią, którą defakto jest innym gatunkiem, a wiec robi to całkiem inaczej.

W tym wypadku płeć intelektualna nie pokrywa się z biologiczną, kobiecy umysł ma jej mąż :P

8 godzin temu, wieh napisał:

Mylisz pojęcie tzw. inteligencji, a więc zasobów przetwarzania struktur myślowych z perspektywą czyli sposobem postrzegania tychże.

Bez wnikania w detale osoby inteligentne tworzą bardziej abstrakcyjne struktury opisujące rzeczywistość. Widzą więcej analogii, potrafią w nich dostrzec wzorce i wprowadzić nowe kategorie w których rozumują.

 

Udostępnij tę odpowiedź


Odnośnik do odpowiedzi
Udostępnij na innych stronach
W dniu 2.02.2021 o 02:29, peceed napisał:

Bez wnikania w detale osoby inteligentne tworzą bardziej abstrakcyjne struktury opisujące rzeczywistość. Widzą więcej analogii, potrafią w nich dostrzec wzorce i wprowadzić nowe kategorie w których rozumują.

Twoja definicja jest biedna, a sposób rozumowania "bez wnikania w detale" ludzie nazywają brakiem tejże "inteligencji" co zresztą głównie stosowane jest przez ludzi podświadomie posądzających się o brak tejże.
Temat raczej "wyczerpany"

Udostępnij tę odpowiedź


Odnośnik do odpowiedzi
Udostępnij na innych stronach
W dniu 16.02.2021 o 00:05, wieh napisał:

Temat raczej "wyczerpany"

Gratuluję.

Udostępnij tę odpowiedź


Odnośnik do odpowiedzi
Udostępnij na innych stronach
On 2/15/2021 at 11:05 PM, wieh said:

Temat raczej "wyczerpany"

Myślałem, że dopiero co zacząłeś fedrować. Kilof Wrednych Odpowiedzi się na tych pokładach przestał sprawdzać? :)

Udostępnij tę odpowiedź


Odnośnik do odpowiedzi
Udostępnij na innych stronach

Jeśli chcesz dodać odpowiedź, zaloguj się lub zarejestruj nowe konto

Jedynie zarejestrowani użytkownicy mogą komentować zawartość tej strony.

Zarejestruj nowe konto

Załóż nowe konto. To bardzo proste!

Zarejestruj się

Zaloguj się

Posiadasz już konto? Zaloguj się poniżej.

Zaloguj się

  • Podobna zawartość

    • przez KopalniaWiedzy.pl
      Uczestnicy słynnego eksperymentu Milgrama tak bardzo ulegali autorytetowi prowadzącego, że byli w stanie na jego polecenie zadawać silny ból innemu człowiekowi. Takie bezwzględne bezrefleksyjne posłuszeństwo może prowadzić do zbrodni. Naukowcy z Uniwersytetu SWPS powtórzyli eksperyment Milgrama, ale prowadzącym był robot. Okazało się, że ludzie są skłonni podporządkować się poleceniom robota i na jego rozkaz krzywdzić innych.
      W latach 60. XX wieku amerykański psycholog Stanley Milgram, zastanawiając się nad przyczynami, dla których ludzie w czasie II wojny światowej wykonywali zbrodnicze rozkazy, przeprowadził eksperyment, którego celem było wykazanie, na ile H. sapiens ma skłonność do ulegania autorytetom. Osobom, które brały udział w eksperymencie powiedziano, że jego celem jest zbadanie wpływu kar na skuteczność uczenia się. W eksperymencie brał udział uczestnik-nauczyciel oraz uczeń. Eksperymentator zaś kazał nauczycielowi karać ucznia aplikując mu coraz silniejszy wstrząs elektryczny. Uczeń, którym była podstawiona osoba, w rzeczywistości nie był rażonym prądem (ale uczestnik-nauczyciel o tym nie wiedział), jednak w odpowiedzi na rzekomo podawane napięcie elektryczne, krzyczał z bólu. Eksperyment wykazał, że aż 62% uczestników – ulegając autorytetowi eksperymentatora – nacisnęło w końcu na generatorze przycisk 450 V, czyli najwyższy.
      Naukowcy z Uniwersytetu SWPS postanowili sprawdzić, czy ludzie będą równie posłuszni robotowi, jak innemu człowiekowi. Przeniesienie różnych funkcji nadzoru i podejmowania decyzji na robota budzi jednak szczególnie silne emocje, ponieważ wiąże się z różnymi zagrożeniami etycznymi i moralnymi. Pojawia się pytanie, czy wspomniane wyżej posłuszeństwo wykazywane przez badanych zgodnie z paradygmatem Milgrama nadal występowałoby, gdyby to robot (zamiast człowieka, tj. profesora uczelni) kazał uczestnikom zadać elektrowstrząsy innej osobie? Celem naszego badania było udzielenie odpowiedzi na to pytanie, mówi doktor Konrad Maj.
      Doktor Maj we współpracy z profesorem Dariuszem Dolińskim i doktorem Tomaszem Grzybem, powtórzył eksperyment Milgrama, ale w roli eksperymentatora osadzono robota. W grupie kontrolnej eksperymentatorem był człowiek. W badaniach wzięli udział uczestnicy, którzy nie wiedzieli, na czym polegał eksperyment Milgrama. Okazało się, że ludzie ulegają też autorytetowi robota i na jego polecenie są skłonni krzywdzić innych ludzi. Co więcej, zarejestrowano bardzo wysoki poziom posłuszeństwa. Aż 90% uczestników w obu grupach – badanej i kontrolnej – nacisnęło wszystkie przyciski na generatorze, dochodząc do wartości 150 V. Od kilku dekad z powodów etycznych te 150 V przyjmuje się za górną wartość przy eksperymencie Milgrama.
      O ile nam wiadomo, to pierwsze badanie, które pokazuje, że ludzie są skłonni szkodzić innemu człowiekowi, gdy robot nakazuje im to zrobić. Co więcej, nasz eksperyment pokazał również, że jeśli robot eskaluje żądania, instruując człowieka, aby zadawał coraz większy ból innemu człowiekowi, ludzie też są skłonni to zrobić, dodaje doktor Maj.
      Już wcześniejsze badania wykazały, że ludzie tak mocno uznają autorytet robota, że podążają za jego poleceniami, nawet gdy nie mają one sensu. Tak było np. podczas eksperymentu, w czasie którego osoby ewakuowane z – symulowanego – pożaru, podążały za poleceniami robota, mimo że wskazał im on drogę ewakuacji przez ciemne pomieszczenie bez widocznego wyjścia.

      « powrót do artykułu
    • przez KopalniaWiedzy.pl
      Wyjątkowa baza 2400 stanowisk archeologicznych obejmujących dzieje człowieka od 3 milionów lat temu do 20 000 lat temu obejmuje ponad 100 starych kultur i opisuje wyniki 150 lat prac archeologicznych. Jest ona dziełem naukowców z centrum badawczego ROCEEH (The Role of Culture in Early Expansions of Humans), którzy skompilowali olbrzymią liczbę informacji i umieścili je w jednej ogólnodostępnej bazie danych.
      ROAD (ROCEEH Out of Africa Database) to jeden z największych zbiorów danych dotyczących archeologii, antropologii, paleontologii i botaniki, wyjaśnia doktor Andrew Kandel z Uniwersytetu w Tybindze. W sposób jednorodny pod względem geograficznym i chronologicznym połączono informacje o zabytkach kultury, szczątkach człowieka i jego przodkach, pozostałościach zwierząt i roślin. W ten sposób powstało narzędzie, które pomaga w analizie wielu różnych aspektów ewolucji człowieka.
      Baza ROAD to wynik 15 lat pracy naukowców, którzy przeanalizowali ponad 5000 publikacji w wielu językach, w tym w angielskim, chińskim, francuskim, włoskim czy portugalskim. Powstała w ten sposób łatwa w użyciu interaktywna mapa stanowisk archeologicznych. Użytkownik może na jej podstawie tworzyć też własne mapy obejmujące konkretne kultury, obszary geograficzne czy okresy historyczne.
      Naukowcy mogą zadawać ROAD zaawansowane zapytania, dzięki którym sprawdzą na przykład, obecność konkretnej kategorii kamiennych narzędzi w Afryce czy dystrybucję konkretnych gatunków zwierząt w interesujących ich okresach, jak chociażby podczas wycofywania się lądolodu. Takie zapytania dostarczą naukowcom olbrzymiej ilości danych, które później mogą wykorzystać do dalszej pracy za pomocą zaawansowanych metod wizualizacji czy analizy, mówi Kandel.
      Baza pokazuje tez, że znaczna część naszej wiedzy pochodzi z bardzo niewielu dobrze przebadanych regionów, jak Afryka Południowa i Wschodnia, Europa czy Azja Centralna i Wschodnia. Większa część obszarów planety to archeologiczna biała plama. Badanie tych obszarów może przynieść w przyszłości niezwykle ekscytujące odkrycia.

      « powrót do artykułu
    • przez KopalniaWiedzy.pl
      Inżynierowie z Politechniki Federalnej w Lozannie (EPFL) wykorzystali ChatGPT-3 do zaprojektowania robotycznego ramienia do zbierania pomidorów. To pierwszy przykład użycia sztucznej inteligencji do pomocy w projektowaniu robotów. Eksperyment przeprowadzony przez Josie Hughes, dyrektor Laboratorium Obliczeniowego Projektowania i Wytwarzania Robotów na Wydziale Inżynierii EPFL, doktoranta Francesco Stellę i Cosimo Della Santinę z Uniwersytetu Technicznego w Delfcie, został opisany na łamach Nature Machine Intelligence.
      Naukowcy opisali korzyści i ryzyka związane z wykorzystaniem systemów sztucznej inteligencji (SI) do projektowania robotów. Mimo tego, że ChatGPT to model językowy i generuje tekst, to dostarczył nam on istotnych wskazówek odnośnie fizycznego projektu i wykazał się wielkim potencjałem pobudzania ludzkiej kreatywności, mówi Hughes.
      Naukowcy najpierw „przedyskutowali” z ChatGPT samą ideę robota, określili, czemu ma on służyć, opisali jego parametry i specyfikację. Na tym etapie rozmawiali z SI na temat przyszłych wyzwań stojących przed ludzkością oraz robotów-ogrodników, które mogą rozwiązać problem niedoborów siły roboczej przy uprawie roślin. Następnie, korzystając z faktu, że ChatGPT ma dostęp do danych naukowych, podręczników i innych źródeł, zadawali mu pytania o to na przykład, jakimi cechami powinien charakteryzować się przyszły robot-ogrodnik.
      Gdy już cechy te zostały opisane i zdecydowano, że chodzi o robotyczne ramię zbierające pomidory, przyszedł czas na zapytanie się sztucznej inteligencji o takie szczegóły jak np. kształt chwytaka oraz poproszenie jej o dane techniczne ramienia oraz kod, za pomocą którego byłoby ono kontrolowane. Przeprowadzone przez SI obliczenia posłużyły nam głównie do pomocy inżynierom w implementacji rozwiązań technicznych. Jednak po raz pierwszy sztuczna inteligencja sformułowała tutaj nowe pomysły, mamy tutaj zatem do czynienia ze zautomatyzowaniem procesów wyższych poziomów poznawczych. Rola człowieka w całym procesie przesunęła się bardziej w stronę techniczną, mówi Stella.
      Naukowcy zwracają też uwagę na problemy związane z wykorzystaniem podobnych systemów. Są to zarówno podnoszone już wątpliwości dotyczące plagiatów czy praw autorskich, jak i np. pytanie o to, na ile innowacyjna jest sztuczna inteligencja i na ile ulega schematom. ChatGPT zaproponował ramię do zbierania pomidorów, gdyż uznał pomidory za najbardziej wartościową uprawę, dla której warto zaprojektować robota. To zaś może po prostu oznaczać, że wybrał tą roślinę, która jest najczęściej opisywana, a nie tę, która jest najbardziej potrzebna.
      Pomimo różnych zastrzeżeń uczeni uważają, że podobne do ChatGPT modele językowe mogą spełniać niezwykle użyteczną rolę. Specjaliści od robotyki muszą się zastanowić, jak wykorzystać te narzędzia w sposób etyczny i przynoszący korzyść społeczeństwu, mówi Hughes.

      « powrót do artykułu
    • przez KopalniaWiedzy.pl
      W Irinjadappilly Sree Krishna Temple w Kerali żywego słonia zastąpił rzeczywistych rozmiarów mechaniczny model. Będzie on wykorzystywany w różnych rytuałach, np. do przewożenia posągów bóstw podczas procesji. Robot został przekazany przez PETA India oraz aktorkę Parvathy Thiruvothu.
      Irinjadappilly Raman, bo takie imię nadano mechanicznemu słoniowi, potrafi poruszać głową, oczami, uszami i trąbą. Waży 800 kg i ma 3,3 m wysokości. Stworzyła go grupa artystów z dystryktu Thrissur (wcześniej dostarczała ona figury słoni na Dubai Shopping Festival).
      Umożliwienie słoniom życia na wolności powinno być właściwą formą oddawania czci Ganeśi [bogowi mądrości i pomyślności; jest on przedstawiany jako tęgi mężczyzna z głową słonia] - powiedział Rajkumar Namboothiri. Wyraził też nadzieję, że inne świątynie pójdą za przykładem Irinjadappilly Sree Krishna Temple i również zastąpią żywe słonie mechanicznymi.
      Wcześniej świątynia wypożyczała słonie na czas festiwali, ale w ostatnich latach przestała to robić ze względu na wysokie koszty i reakcje zwierząt. Gdy usłyszeliśmy o grupie konstruującej figury do Dubaju, zorganizowaliśmy spotkanie i poprosiliśmy o dostosowanego do naszych sugestii zmodyfikowanego mechanicznego słonia. Później pojawiła się oferta finansowania przez PETA India - opowiada Namboothiri.
      Mechaniczny słoń może przewieźć na swoim grzbiecie do 5 osób. Kornak steruje jego trąbą za pomocą specjalnego przełącznika. W maszynie znajduje się 5 silników. Ramę z metalu pokrywa „skóra” z gumy.
       


      « powrót do artykułu
    • przez KopalniaWiedzy.pl
      Badania na szczurach sugerują, że regularnie spożywanie diety wysokotłuszczowej lub wysokokalorycznej zaburza zdolność mózgu do regulowania ilości przyjmowanych kalorii. Naukowcy z Penn State College of Medicine opublikowali na łamach Journal of Physiology artykuł, z którego dowiadujemy się, że po krótkoterminowym żywieniu dietą wysokokaloryczną mózg adaptuje się do tej sytuacji i redukuje ilość spożywanego pokarmu, by zrównoważyć liczbę przyjmowanych kalorii. Jednak przy długoterminowym spożywaniu takiej diety mechanizm ten zostaje zaburzony.
      Z przeprowadzonych badań wynika, że astrocyty – największe komórki glejowe – kontrolują szlak sygnały pomiędzy mózgiem a układem pokarmowym. Długotrwałe spożywanie diety wysokotłuszczowej/wysokokalorycznej zaburza ten szlak.
      Wydaje się, że w krótkim terminie przyjmowanie kalorii jest regulowane przez astrocyty. Odkryliśmy, że krótkotrwała – od 3 do 5 dni – ekspozycja na dietę wysokotłuszczową ma największy wpływ na astrocyty, uruchamiając szlak sygnałowy kontrolujący żołądek. Z czasem jednak astrocyty tracą wrażliwość na wysokokaloryczne pożywienie. Wydaje się, że po około 10–14 dniach takiej diety astrocyty przestają reagować i mózg nie jest w stanie regulować ilości spożywanych kalorii, mówi doktor Kirsteen Browning.
      Gdy spożywamy wysokokaloryczny pokarm, astrocyty uwalniają glioprzekaźniki i uruchamia się cały szlak sygnałowy kontrolujący prace żołądka. Dzięki temu odpowiednio się on opróżnia i napełnia w reakcji na pożywienie przechodzące przez układ pokarmowy. Zaburzenia pracy astrocytów prowadzą do zaburzeń trawienia, gdyż żołądek nie napełnia się i nie opróżnia prawidłowo.
      Naukowcy prowadzili badania 205 szczurów, które podzielono na grupę kontrolną i grupy badane. Zwierzęta z grup badanych karmiono wysokokaloryczną dietą przez 1, 3, 5 lub 14 dni. Podczas eksperymentów stosowano metody farmakologiczne i genetyczne (zarówno in vitro, jak i in vivo), które pozwalały manipulować wybranymi obszarami układu nerwowego.
      Naukowcy planują teraz poszerzenie swoich badań, gdyż chcieliby się dowiedzieć, czy utrata aktywności astrocytów jest przyczyną czy skutkiem przyjmowania nadmiernej ilości kalorii. Chcemy też wiedzieć, czy możliwe jest odzyskanie utraconej przez mózg regulacji ilości spożywanych kalorii. Jeśli tak, to być może powstaną dzięki temu metody leczenia otyłości u ludzi, stwierdza Browning. O ile, oczywiście, występowanie takiego samego mechanizmu uda się zaobserwować u naszego gatunku.

      « powrót do artykułu
  • Ostatnio przeglądający   0 użytkowników

    Brak zarejestrowanych użytkowników przeglądających tę stronę.

×
×
  • Dodaj nową pozycję...