Skocz do zawartości
Forum Kopalni Wiedzy
KopalniaWiedzy.pl

Sztuczna inteligencja dla każdego. Prezent od Finlandii

Rekomendowane odpowiedzi

Mówiąc wprost, to prezent dla Unii Europejskiej. Dobiega końca prezydencja Finlandii w UE i nasz kraj zdecydował się przetłumaczyć ten kurs na oficjalny język każdego państwa Unii Europejskiej i udostępnić go obywatelom w prezencie. Nie będzie żadnych ograniczeń geograficznych, a zatem tak naprawdę to prezent dla całego świata, stwierdzili przedstawiciele Finlandii.

Mowa tutaj o kursie o podstawach sztucznej inteligencji. Niewielki nordycki kraj, który nie może konkurować w rozwoju sztucznej inteligencji z takimi potęgami jak USA czy Chiny, zdecydował, że nauczy podstaw tej technologii jak największą liczbę swoich obywateli. W styczniu bieżącego roku udostępniono więc online'owy kurs, w którym znalazły zagadnienia od kwestii filozoficznych i etycznych przez sieci neuronowe i uczenie maszynowe po prawdopodobieństwo subiektywne. Kurs składa się z kilku sekcji, nauka w każdej z nich trwa 5–10 godzin, a całość kursu jest rozpisana na sześć tygodni.

Podstawy SI odniosły w Finlandii spory sukces. W kursie wzięło udział ponad 1% populacji kraju. Teraz Finowie chcą, by i inni z niego skorzystali. W tej chwili kurs jest dostępny w językach angielskim, niemieckim, szwedzkim, fińskim i estońskim. Zgodnie z zapowiedzią za jakiś czas powinniśmy doczekać się też wersji polskiej.

Twórcy kursu, Uniwersytet w Helsinkach i firma Reaktor, stwierdzili, że SI to zbyt poważna kwestia, by pozostawiać ją w ręku wąskiej grupy programistów. Stąd też pomysł na świąteczny prezent dla obywateli Unii Europejskiej.

Z kursu można skorzystać na stronie elementstofai.com.


« powrót do artykułu

Udostępnij tę odpowiedź


Odnośnik do odpowiedzi
Udostępnij na innych stronach
Cytat

Twórcy kursu, Uniwersytet w Helsinkach i firma Reaktor, stwierdzili, że SI to zbyt poważna kwestia, by pozostawiać ją w ręku wąskiej grupy programistów

Kursów o AI/Machine Learningu za darmo jest mnóstwo. wg. mnie niewiele to zmieni w kwestii "wąskiej grupy" ("statystyków" i programistów). Po prostu większości ludzi to nie interesuje, w sensie praca na liczbach, i nie koniecznie fascynujących. Podobnie jest z wiedzą aby zostać programistą czy statystykiem, nie ma takich ograniczeń jeśli chodzi o dostęp do wiedzy.

 

  • Pozytyw (+1) 1

Udostępnij tę odpowiedź


Odnośnik do odpowiedzi
Udostępnij na innych stronach

Nie jestem pewien czy się z Wami zgodzić. Po pierwsze jeszcze nie widziałem tego kursu, więc nie wiem jak tłumaczone są w nim zagadnienia. Nie wiem, czy jest tam dużo trudnej matematyki. Wiem natomiast, że zagadnienia sztucznej inteligencji można wytłumaczyć bez matematyki. Przeczytałem wiele książek o sztucznej inteligencji i zaprogramowałem kilka sieci neuronowych. To nie jest takie trudne.

Sztuczna inteligencja i sztuczne sieci neuronowe wzorowane są na prawdziwej sieci neuronowej i prawdziwej inteligencji. Zrozumienie idei działania sieci neuronowych może dać ludziom zrozumienie funkcjonowania ich własnego mózgu. A to z kolei ułatwia uczenie się i zapamiętywanie. Co więcej, taka wiedza pomaga nawet rozpoznać, czy nie jest się przedmiotem manipulacji. Mówię to z własnej autopsji. Mnie ta wiedza, czyli to jak działa mózg i neurony dała bardzo dużo. I nie mówię tu tylko o kwestii zawodowej, ale przede wszystkim o codziennym życiu i sposobie rozumienia wielu spraw, od naukowych po nawet religijne. Chętnie opisałbym więcej swoich spostrzeżeń, ale w tak krótkim komentarzu trudno jest to zrobić.

Jedno Wam jeszcze powiem. Jestem przekonany, że ukończenie tego kursu wielu ludziom także otworzy oczy na wiele spraw. Tego, czy np. "kucharka z przedszkola" przebrnie przez ten kurs, to nie wiem, ale jeśli przebrnie i go zrozumie choćby tylko na poziomie sposobu funkcjonowania SI, to jestem pewien, że będzie miała z tego korzyści.

Edytowane przez Sławko

Udostępnij tę odpowiedź


Odnośnik do odpowiedzi
Udostępnij na innych stronach
23 minuty temu, Sławko napisał:

czy np. "kucharka z przedszkola" przebrnie przez ten kurs, to nie wiem, ale jeśli przebrnie i go zrozumie choćby tylko na poziomie sposobu funkcjonowania SI, to jestem pewien, że będzie miała z tego korzyści.

Jeśli kucharka z przedszkola zrozumie kurs na poziomie sposobu funkcjonowania SI, to znaczy że zdecydowanie minęła się z powołaniem.
Ludzie mają duży problem ze zrozumieniem jak funkcjonuje desktop w komputerze i czym są pliki.

Największe korzyści mogliby odnieść psycholodzy i psychiatrzy, ale oni też nie są w stanie zrozumieć jak działa SI na wystarczającym poziomie (dziś trudno uwierzyć że matematyczny model neuronu został zaproponowany przez przez psychiatrę).

31 minut temu, Sławko napisał:

sposobie rozumienia wielu spraw, od naukowych po nawet religijne

Chętnie dowiem się jak zrozumienie działania sieci neuronowych może pomóc rozumieć kwestie religijne, bo tutaj potrzeba raczej teorii replikatorów i teorii gier.

27 minut temu, Sławko napisał:

Wiem natomiast, że zagadnienia sztucznej inteligencji można wytłumaczyć bez matematyki. Przeczytałem wiele książek o sztucznej inteligencji i zaprogramowałem kilka sieci neuronowych. To nie jest takie trudne.

A dawał kiedyś kolega korepetycje innym ludziom, i nie mówię o zdolnych przypadkach, bo to sama przyjemność?

Obawiam się że co najwyżej można dać ludziom złudzenie zrozumienia. Nie wiem czy można wyjść poza "sztuczna inteligencja to zwykły nieświadomy program komputerowy który  rozwiązuje problemy naśladując funkcjonowanie mózgu".

 

Udostępnij tę odpowiedź


Odnośnik do odpowiedzi
Udostępnij na innych stronach

To jest świetna inicjatywa, ale zgadzam się z Afordancją. Jest sporo w sieci tego typu kontentu w sieci, a większość osób kurs ten przerośnie. Ale z drugiej strony, wiedzy nigdy zbyt wiele, i tłumaczenie na inne języki zwiększa dostępność.

Przejrzałem wersje angielska powierzchownie i wygląda na porządny merytorycznie i przystępny tekst. Na pewno bym go polecił, jako wstęp do tematu. Jednak jest tego sporo i bez solidnego samozaparcia ciężko będzie przebrnąć przez materiał zwykłemu śmiertelnikowi. Podali, że w Finlandii udział wzięło ponad 1%, co nie oznacza, że tyle kurs ukończyło. Wynik kilku procent całej populacji kraju to na pewno sukces. Nie sądzę, że to pobijemy, bo u nas w ciemnogrodzie z czytaniem jest co najwyżej średnio.

Edytowane przez cyjanobakteria

Udostępnij tę odpowiedź


Odnośnik do odpowiedzi
Udostępnij na innych stronach

tu mowa jest o jezykach calego swiata a nie tylko o polakach ktorzy  nos wyzej czola nosza a niestety intelektualnie sa 100 lat swietlnych za murzynami.

Z punktu widzenia populacji Swiata  mysle ze wniesie wiele dobrego i nalezy to pochwalac nie krytykowac. To takie moje skromne zdanie.

  • Pozytyw (+1) 1

Udostępnij tę odpowiedź


Odnośnik do odpowiedzi
Udostępnij na innych stronach
16 godzin temu, peceed napisał:

A dawał kiedyś kolega korepetycje innym ludziom

Dawno temu z chemii. Ale korepetycje związane są przede wszystkim ze wspomaganiem nauki, zgodnie z programem nauczania w danej szkole/klasie. Jak się nie zna tego programu, to udzielanie korepetycji przestaje mieć sens.

16 godzin temu, peceed napisał:

Jeśli kucharka z przedszkola zrozumie kurs na poziomie sposobu funkcjonowania SI, to znaczy że zdecydowanie minęła się z powołaniem.

Obecnie mam pracę, w której często kontaktuję się z ludźmi na różnym poziomie wykształcenia i w różnych zawodach. Uwierz mi, że nawet taka kucharka z przedszkola potrafi interesować się rzeczami kompletnie zaskakującymi. Ja przestałem szufladkować ludzi. Chociaż przyznaję, że część ludzi nie umie, albo raczej nie chce, a nawet nie wyobraża sobie wyjść poza ramki, które sobie narzucili. Mają umysły zamknięte (jak ja to mówię) w "czterech ścianach bez okien i drzwi". Do takich ludzi rzeczywiście trudno jest dotrzeć z jakąkolwiek wiedzą, poza tą, którą już mają w tych swoich "czterech ścianach".

16 godzin temu, peceed napisał:

jak zrozumienie działania sieci neuronowych może pomóc rozumieć kwestie religijne, bo tutaj potrzeba raczej teorii replikatorów i teorii gier

To temat dość rozległy. Ale ogólnie, bardziej chodzi o to, po co mózgowi religia i jak religia wpływa na działanie mózgu, a także dlaczego mózg może uzależnić się od religii. Okazuje się, że można to zrozumieć, gdy pozna się podstawy działania sieci neuronowych. To jest sprawa uświadomienia sobie pewnych zależności i nie potrzeba do tego teorii replikatorów i gier. Wystarczy zrozumieć, jak postrzeganie otaczającego nas świata wpływa na nasz własny mózg, na uczenie się i zapamiętywanie. A znajomość działania SI (a zwłaszcza to, jak uczy się sztuczna sieć neuronowa) bardzo w tym pomaga. To jest też temat z pogranicza psychologii i psychiatrii. Właściwie to już nawet powstało na ten temat kilka książek, ale nie spotkałem dotąd literatury, która pokazałby to w kompleksowy sposób.

16 godzin temu, peceed napisał:

dziś trudno uwierzyć że matematyczny model neuronu został zaproponowany przez przez psychiatrę

A mnie to zupełnie nie dziwi, wręcz przeciwnie.

16 godzin temu, peceed napisał:

Obawiam się że co najwyżej można dać ludziom złudzenie zrozumienia. Nie wiem czy można wyjść poza "sztuczna inteligencja to zwykły nieświadomy program komputerowy który  rozwiązuje problemy naśladując funkcjonowanie mózgu".

Co to są złudzenia, też można dowiedzieć się studiując sieci SI :), bo sztuczne sieci też doznają złudzeń. To, że te programy są nieświadome (póki co), w niczym nie przeszkadza. Okazuje się, że nasz własny mózg jest w wielu sprawach nieświadomy i po to właśnie uczymy się, aby był on świadomy(!) Dzięki temu jesteśmy też w stanie podejmować świadome decyzje. Gdy nam brakuje wiedzy i nie uświadamiamy sobie pewnych zależności, to popełniamy błędy, a także możemy paść ofiarą oszustwa i manipulacji ze strony innych lub wpaść we własny jakiś nałóg (i nie mam tu na myśli tylko psychotropy). Ale przecież wiele rzeczy robimy też nieświadomie(!) Uświadamiamy to sobie czasami dopiero później, albo gdy ktoś nas uświadomi. I tu dochodzimy do pytania kluczowego, "Czym jest świadomość?". Ja rozróżniam dwie świadomości: świadomość otoczenia i samoświadomość. To są dwie odrębne świadomości, chociaż mają też cechy wspólne. A także to, że samoświadomość raczej nie może istnieć bez świadomości otoczenia.

Kusi mnie, aby napisać na te wszystkie tematy jakiś większy artykuł, albo nawet książkę. Właśnie taką bez matematyki, bez programowania, jak to się mówi "zrozumiałą dla wszystkich". Tylko ten brak czasu, a do emerytury jeszcze daleko.

A się rozpisałem... prawie elaborat wyszedł :D

--

Godzinę temu, dzbanek1 napisał:

tu mowa jest o jezykach calego swiata

Dokładniej to o: "oficjalny język każdego państwa Unii Europejskiej", a nie całego świata. Reputację masz słabą, to pewnie przez stylistykę, a także pewną agresję wypowiedzi. Popracuj nad tym.

Ale za przedostanie zdanie daję ci pozytyw.

Edytowane przez Sławko

Udostępnij tę odpowiedź


Odnośnik do odpowiedzi
Udostępnij na innych stronach
5 godzin temu, Sławko napisał:

Okazuje się, że nasz własny mózg jest w wielu sprawach nieświadomy i po to właśnie uczymy się, aby był on świadomy(!) Dzięki temu jesteśmy też w stanie podejmować świadome decyzje. Gdy nam brakuje wiedzy i nie uświadamiamy sobie pewnych zależności, to popełniamy błędy, a także możemy paść ofiarą oszustwa i manipulacji ze strony innych lub wpaść we własny jakiś nałóg

Mylisz "świadomą decyzję" z "racjonalną decyzją". Maszyna jest zawsze racjonalna, na tyle ile może być, nie potrzebuje do tego żadnej świadomości, wystarczy, że uzyska odpowiednie informacje. Tak samo człowiek może być racjonalny bez świadomości. Prawdą jest, że programowi nie przeszkadza brak świadomości, dlatego że świadomość jest kompletnie nieistotna, gdy zadaniem jest rozwiązanie problemu za pomocą jakiegoś algorytmu. Łatwo to zrozumieć gdy przeanalizujemy dwie sytuacje. Jest zadanie matematyczne do rozwiązania.

1) nie znamy algorytmu, ale posiadamy zdolność logicznego rozumowania i ogólną świadomość tego co rozwiązujemy. Analizujemy więc założenia i wyciągamy za pomocą dedukcji lub indukcji wnioski. Dodatkowo dzięki świadomości stosujemy metodę prób i błędów, tworząc jakieś hipotezy, które weryfikujemy. W końcu stopniowo dochodzimy do rozwiązania. Później sami możemy odkryć algorytm, aby przyspieszyć rozwiązywanie.

2) Znamy od początku algorytm, ale nie mamy świadomości problemu. Nie rozumiemy o co chodzi w tym zadaniu, ale mamy wszystkie dane i wystarczy tylko wstawić je do wzoru. Jesteśmy jak uczeń, który nie rozumie dobrze zadania, ale nauczył się wzoru, który doprowadzi go do odpowiedzi, choć nie wie skąd ten wzór pochodzi.

Obydwie sytuacje prowadzą do tej samej odpowiedzi, a różnica polega tylko na tym, że w drugiej sytuacji problem rozwiązaliśmy dużo, dużo szybciej. I tylko do tego sztuczne sieci neuronowe są potrzebne - aby znacznie przyspieszyć rozwiązywanie problemów. Widać, że świadomość nie ma tu nic do rzeczy.

Udostępnij tę odpowiedź


Odnośnik do odpowiedzi
Udostępnij na innych stronach
16 minut temu, Antylogik napisał:

Mylisz "świadomą decyzję" z "racjonalną decyzją". Maszyna jest zawsze racjonalna, na tyle ile może być, nie potrzebuje do tego żadnej świadomości, wystarczy, że uzyska odpowiednie informacje. Tak samo człowiek może być racjonalny bez świadomości.

Na wstępie dzięki, za zainteresowanie.

Nie, nie mylę tych dwóch pojęć. To raczej twój sposób rozumienia pojęcia "racjonalny" wydaje się wypaczony. Świadczy o tym następne zdanie. "Maszyna jest zawsze racjonalna, na tyle ile może być". No wybacz, ale nie może być ona racjonalna "zawsze" i jednocześnie "na tyle na ile może być", czyli niby jak? Trochę racjonalna? W połowie racjonalna? Sprawdź pojęcie "racjonalny" w słowniku. Używanie pojęcia racjonalny w stosunku do maszyn to chyba nie najlepszy pomysł. O ile maszyna logiczna może (i powinna) dać  logiczny wynik (czyli wg ciebie racjonalny), o tyle maszyna z siecią SI (nawet ta nauczona) wcale nie musi dać zawsze logicznego i sensownego wyniku. Owszem będzie to wynik jakieś operacji wewnątrz sztucznych neuronów, ale czy ten wynik będzie logiczny, zaplanowany, "przemyślany"? Wg mnie Nie. A jeśli się mylę, to podaj mi proszę przykład człowieka, który jest pozbawiony świadomości, ale podejmuje jakąś racjonalną decyzję. Racjonalną, a nie wynikającą np. z potrzeb fizjologicznych, czy z odruchów bezwarunkowych.

Jeśli uwzględnić to moje powyższe zastrzeżenie, to z resztą komentarza mogę się zgodzić.

Udostępnij tę odpowiedź


Odnośnik do odpowiedzi
Udostępnij na innych stronach
13 minut temu, Sławko napisał:

No wybacz, ale nie może być ona racjonalna "zawsze" i jednocześnie "na tyle na ile może być", czyli niby jak? Trochę racjonalna? W połowie racjonalna?

Bo prawdopodobnie nie ma czegoś takiego jak racjonalność absolutna, która nie zależy od systemu, w którym jednostka egzystuje. Maszynę ograniczają informacje. To tak samo można mówić o świadomości. Człowiek trochę świadomy? W połowie świadomy? Może być świadomy w 100% tylko ze swojego punktu widzenia, w szerszym systemie (informacji lub wartości) może być tylko trochę świadomy. 

19 minut temu, Sławko napisał:

Sprawdź pojęcie "racjonalny" w słowniku.

Nie muszę, bo tym tematem zajmuję się od wielu lat.

21 minut temu, Sławko napisał:

Używanie pojęcia racjonalny w stosunku do maszyn to chyba nie najlepszy pomysł. O ile maszyna logiczna może (i powinna) dać  logiczny wynik (czyli wg ciebie racjonalny), o tyle maszyna z siecią SI (nawet ta nauczona) wcale nie musi dać zawsze logicznego i sensownego wyniku.

Widać, że po prostu nie rozumiesz pojęcia 'racjonalność', a to co w słowniku przeczytasz to trochę jednak za mało. To temat nie na słownik, ale na książkę. Sprawdź sobie w google scholar ile artykułów jest na temat racjonalności. Widać ewidentnie, że nomen omen nie masz świadomości na ten temat. Racjonalność w dużym skrócie oznacza maksymalizację korzyści czy zysków. Gdybyś to rozumiał, to rozumiałbyś też, że nie można tego utożsamiać z logicznością czy raczej sensownością.

26 minut temu, Sławko napisał:

A jeśli się mylę, to podaj mi proszę przykład człowieka, który jest pozbawiony świadomości, ale podejmuje jakąś racjonalną decyzję.

Przecież podałem - sytuację nr 2. Tego też nie zauważyłeś? Doucz więcej w temacie podejmowania racjonalnych decyzji, a potem możemy podyskutować, bo twój brak wiedzy mocno cię ogranicza.

Udostępnij tę odpowiedź


Odnośnik do odpowiedzi
Udostępnij na innych stronach
W dniu 20.12.2019 o 18:48, Sławko napisał:

Wiem natomiast, że zagadnienia sztucznej inteligencji można wytłumaczyć bez matematyki. Przeczytałem wiele książek o sztucznej inteligencji i zaprogramowałem kilka sieci neuronowych. To nie jest takie trudne.

Zgadzam się, dlatego uważam, że najpierw muszą być chęci.

 

W dniu 21.12.2019 o 10:08, dzbanek1 napisał:

Z punktu widzenia populacji Swiata  mysle ze wniesie wiele dobrego i nalezy to pochwalac nie krytykowac. To takie moje skromne zdanie.

hm.. w sumie tu raczej nikt tego nie krytykował (nie przeczytałem jeszcze wszystkiego, ale powyżej Twojej wypowiedzi nie odczułem krytyki).

Ciągle uważam, że motywacja do takiej tematyki jest słaba, znam wiele osób b. inteligentnych, ale to po prostu ich nie interesuje.

W dniu 21.12.2019 o 10:08, dzbanek1 napisał:

tu mowa jest o jezykach calego swiata a nie tylko o polakach ktorzy  nos wyzej czola nosza a niestety intelektualnie sa 100 lat swietlnych za murzynami.

eee? jakieś problemy w życiu? kompleks Polaka?

 

16 godzin temu, Antylogik napisał:

Mylisz "świadomą decyzję" z "racjonalną decyzją". Maszyna jest zawsze racjonalna, na tyle ile może być, nie potrzebuje do tego żadnej świadomości, wystarczy, że uzyska odpowiednie informacje. Tak samo człowiek może być racjonalny bez świadomości. Prawdą jest, że programowi nie przeszkadza brak świadomości, dlatego że świadomość jest kompletnie nieistotna, gdy zadaniem jest rozwiązanie problemu za pomocą jakiegoś algorytmu. Łatwo to zrozumieć gdy przeanalizujemy dwie sytuacje. Jest zadanie matematyczne do rozwiązania.

Jeśli mowa o sieciach neuronowych, to maszyna jest dokładnie tak samo racjonalna jak człowiek (upraszczając oczywiście), bazuje na danych wejściowych (obecnych i historycznych) i na tej podstawie informację zwrotną.

Jeżeli pominiemy sieci a klasyczne algorytmy bazujące na logice (znów upraszczając) to tak wtedy jest różnica w koncepcji.

 

Udostępnij tę odpowiedź


Odnośnik do odpowiedzi
Udostępnij na innych stronach
37 minut temu, Afordancja napisał:

Jeśli mowa o sieciach neuronowych, to maszyna jest dokładnie tak samo racjonalna jak człowiek (upraszczając oczywiście), bazuje na danych wejściowych (obecnych i historycznych) i na tej podstawie informację zwrotną.

To jest jedna sprawa, ale druga jest ważniejsza w tym kontekście, bo mnie chodziło o to, że nie można mieszać świadomości z AI. Człowiek może dokonywać całkiem świadomych decyzji, które nie będą racjonalne z jego punktu widzenia. Lub na odwrót (to będzie związane z tą pierwszą sprawą): może podejmować racjonalne decyzje (jak maszyna), nie będąc tego świadomym.

Udostępnij tę odpowiedź


Odnośnik do odpowiedzi
Udostępnij na innych stronach
18 godzin temu, Antylogik napisał:

Bo prawdopodobnie nie ma czegoś takiego jak racjonalność absolutna

Ciekawe zagadnienia poruszasz. Ale OK, nawet jeśli przyjmiemy, że racjonalność nie jest absolutna, to gdzieś musi leżeć granica między tym co jest racjonalne, a tym co nie jest racjonalne. Ktoś to musi rozstrzygnąć na jakimś etapie działań.

18 godzin temu, Antylogik napisał:

To tak samo można mówić o świadomości.

Tu bym polemizował. Świadomość raczej związana jest z jakąś konkretną wiedzą. Chyba, że rozpatrujemy świadomość w ogólnym sensie, ale wtedy powiedziałbym, że świadomość absolutna nie istnieje, bo nikt nie jest świadomy wszystkiego, chyba że mityczny "Bóg". Pomijając kwestię świadomości ogólnej, to jest ona związana z jakimś konkretem, np.

  1. jestem świadomy, że 2+2=4, bo takie są na to dowody i taka jest na ten temat wiedza matematyczna
  2. jestem świadomy, że pada deszcz, bo go widzę i czuję wilgoć
  3. jestem świadomy swojego istnienia, bo widzę siebie w lustrze, potrafię siebie rozpoznać i inne bodźce mnie do tego przekonują
  4. jestem świadomy tego, że w pobliżu czai się lampart, bo choć go nie widzę i nie słyszę, to czuję jego zapach i muszę mieć się na baczności (gdym nie miał zmysłu węchu, to nie byłbym świadomy tego, że jest w pobliżu, bo go nie widzę i nie słyszę, ale mam węch, więc jestem świadomy jego obecności)
  5. jestem świadomy, że ten budynek może się zawalić, bo widziałem pęknięcia na ścianach (oczywiście on nie musi się zawalić, ale mam świadomość, że może się tak stać z powodu tych pęknięć)
  6. ale także: nie jestem świadomy tego, że przewód elektryczny jest rozgrzany, bo tego nie widzę, a nie mam receptorów podczerwieni aby to dostrzec

W kontekście każdego z tych zdarzeń świadomość jest absolutna, bo albo jest się czegoś świadomym, albo nie jest. Jest to związane z konkretną wiedzą i znajomością przyczynowo skutkową (zresztą, to też jest wiedza). Czyli ogólnie mówiąc, świadomość ogólną (np. człowieka) można niejako "zatomizować" na poszczególne przypadki i dokładnie wykazać czego konkretnie dany człowiek jest świadomy, a czego nie jest świadomy.

A wracając do przypadku z lampartem (punkt 4). Skoro już jestem świadomy, że jest on w pobliżu, to mogę podjąć różne decyzje, np:

  1. Nic mnie lampart nie obchodzi, robię swoje
  2. Powinienem uciekać, bo może mnie pożreć
  3. Powinienem przestać się ruszać, to może mnie nie zauważy, a jak zauważy to pokażę, że się go nie boję
  4. Powinienem przestać się ruszać, udawać martwego

Każda z tych decyzji będzie świadoma, chyba że wpadniemy w panikę (wtedy możemy nieświadomie zrobić wszystko). Ale nie każda musi być racjonalna. Jeśli mamy świadomość tego, że jak zaczniemy uciekać, to lampart z pewnością nas zauważy i obudzimy w nim instynkt łowczy, to z pewnością uciekać nie będziemy (decyzja logiczna i racjonalna), a jeśli mimo tej świadomości zaczniemy uciekać, to decyzja będzie nieracjonalna.

Jak więc widać, nawet patrząc na "racjonalność" jako pojęcie słownikowe (a nie w szerszym zakresie jak ty uważasz), to nie mylę pojęć "świadomej decyzji" z "racjonalną decyzją". Tak naprawdę nie bardzo wiem, dlaczego uznałeś, że ja te pojęcia mylę.

19 godzin temu, Antylogik napisał:

Przecież podałem - sytuację nr 2. Tego też nie zauważyłeś?

Zauważyłem. Może nie do końca zrozumiałem o co ci chodzi, bo jeśli znamy algorytm, to już jesteśmy świadomi tego algorytmu i tego jak działa. Owszem w tym przypadku możemy mówić o tym, że uczeń podjął racjonalną decyzję nie mając pełnej wiedzy tego co robi. Ale nie powiedziałbym, że nie był świadomy tego co robi, nawet jeśli nie wszystko wiedział. Aby to zadanie wykonać racjonalnie, ów uczeń musiał przynajmniej świadomie wybrać właściwy wzór, spośród wielu dostępnych mu wzorów. Mało tego, dane z zadania musiał świadomie podstawić do wzoru we właściwy sposób, aby otrzymać racjonalny wynik. Jeśli zrobi to wszystko bez świadomości, to tylko losowy przypadek może sprawić, że wybierze właściwy wzór i otrzyma właściwy wynik. Podsumowując, przykład 2. nie jest do końca trafiony. Można nie mieć świadomości problemu. Można nie mieć świadomości, że podjęło się racjonalną decyzję. Ale do tego, aby ta decyzja była racjonalna trzeba podjąć na jakim etapie świadome działania! Dlatego nadal nie mogę zgodzić się z tobą, że:

21 godzin temu, Antylogik napisał:

Widać, że świadomość nie ma tu nic do rzeczy.

Bo widać, że świadomość nadal ma tu znaczenie i to ogromne!

Zastanawiam się, czy za chwile nie powiesz mi że mylę "świadomość" z "wiedzą"? Otóż uprzedzam, z góry, że nie mylę. Wiedza jest znacznie szerszym pojęciem. Można mieć wiedzę i być świadomym jej posiadania, ale nie być świadomym po co ona jest nam potrzebna. To zresztą dość częsty problem nauczania w szkołach.

Udostępnij tę odpowiedź


Odnośnik do odpowiedzi
Udostępnij na innych stronach
Godzinę temu, Sławko napisał:

Tu bym polemizował. Świadomość raczej związana jest z jakąś konkretną wiedzą. Chyba, że rozpatrujemy świadomość w ogólnym sensie, ale wtedy powiedziałbym, że świadomość absolutna nie istnieje, bo nikt nie jest świadomy wszystkiego, chyba że mityczny "Bóg".

Skoro mówiłem wcześniej o racjonalności absolutnej, to dość jasne, że porównałem ją później do świadomości absolutnej. W tym kontekście nie można było inaczej rozumieć świadomości. Dokładnie jak piszesz - punktem zaczepienia mogłaby być ta mityczna istota wyższa.

 

Godzinę temu, Sławko napisał:

Pomijając kwestię świadomości ogólnej, to jest ona związana z jakimś konkretem, np.

Nie można tak oddzielać, już to rozgraniczenie jest sztuczne, a nawet błędne. Przykładowo załóżmy, że istnieją tylko dwa elementy świadomości:

Godzinę temu, Sławko napisał:
  • jestem świadomy tego, że w pobliżu czai się lampart, bo choć go nie widzę i nie słyszę, to czuję jego zapach i muszę mieć się na baczności (gdym nie miał zmysłu węchu, to nie byłbym świadomy tego, że jest w pobliżu, bo go nie widzę i nie słyszę, ale mam węch, więc jestem świadomy jego obecności)
  • jestem świadomy, że ten budynek może się zawalić, bo widziałem pęknięcia na ścianach (oczywiście on nie musi się zawalić, ale mam świadomość, że może się tak stać z powodu tych pęknięć)

Jeżeli jesteś świadomy albo lamparta, albo budynku, to twoja świadomość jest ograniczona. Można powiedzieć tutaj, że jesteś w 50% świadomy. Natomiast, jeśli widzisz jedno i drugie, to zaczynasz analizować czy zdążysz uciec do budynku przed lampartem. Wtedy masz 100% świadomości w świecie tych dwóch faktów.

Godzinę temu, Sławko napisał:

Może nie do końca zrozumiałem o co ci chodzi, bo jeśli znamy algorytm, to już jesteśmy świadomi tego algorytmu i tego jak działa.

To że znamy wzór nie znaczy, że go rozumiemy, a świadomość jest bezpośrednio związana z rozumieniem. Tym bardziej nie musimy być świadomi jak działa. Używamy lodówki, nie zastanawiając się jak ona działa.

Godzinę temu, Sławko napisał:

Aby to zadanie wykonać racjonalnie, ów uczeń musiał przynajmniej świadomie wybrać właściwy wzór, spośród wielu dostępnych mu wzorów. Mało tego, dane z zadania musiał świadomie podstawić do wzoru we właściwy sposób, aby otrzymać racjonalny wynik. Jeśli zrobi to wszystko bez świadomości, to tylko losowy przypadek może sprawić, że wybierze właściwy wzór i otrzyma właściwy wynik.

Nie musiał niczego świadomie wybierać, tak jak SI niczego świadomie nie wybiera. Uczeń na podstawie skojarzeń dobiera wzór. Przypomina sobie, że podobne zadanie robił używając takiego wzoru. A jeśli było kilka podobnych, to sprawdza metodą prób i błędów, losowo, czy dany wzór pasuje do danych albo czy czy szukane rozwiązanie da się uzyskać za pomocą tego wzoru. Wygląda na to, że mieszasz zdolność kojarzenia ze świadomością. Gdyby tak było, że ANN powinny mieć świadomość. Czyli wg ciebie maszyna ma świadomość, co oznacza, że zaprzeczasz sam sobie, bo twierdziłeś, że nie ma.

Udostępnij tę odpowiedź


Odnośnik do odpowiedzi
Udostępnij na innych stronach
W dniu 21.12.2019 o 11:19, Sławko napisał:

Co to są złudzenia, też można dowiedzieć się studiując sieci SI :), bo sztuczne sieci też doznają złudzeń.

Być może moją myśl oddałoby lepiej "wrażenie zrozumienia". Każde zrozumienie jest związane ze stworzeniem modelu informacji. Jakość takowych może być różna, są osoby dla których zrozumienie to zapamiętanie bez żadnych abstrakcji - ale zapamiętanie też jest modelem informacji, tylko skrajnie nieefektywnym.

W dniu 20.12.2019 o 23:06, cyjanobakteria napisał:

Nie sądzę, że to pobijemy, bo u nas w ciemnogrodzie z czytaniem jest co najwyżej średnio.

Można zupełnie nie przejmować się ogonem, a głowa jest zdrowa.

W dniu 21.12.2019 o 11:19, Sławko napisał:

To jest sprawa uświadomienia sobie pewnych zależności i nie potrzeba do tego teorii replikatorów i gier. Wystarczy zrozumieć, jak postrzeganie otaczającego nas świata wpływa na nasz własny mózg, na uczenie się i zapamiętywanie

To zależy od tego do czego chcemy ograniczyć swoje rozumienie, bez tych dwóch teorii ciężko o rozumienie religii w szerszym kontekście.

Jeśli chodzi o kwestię neuronalne, to religia wyłącza krytyczne myślenie. Pewne prawdy objawione trzeba przyjąć, a potem trzeba im podporządkować jakiekolwiek inne rozumienie rzeczywistości. Zamiast procedury budowania świata bottom-up, dostajemy top-down. Który charakteryzuje się tym, że wszystkie niezgodności wymagają całkowitej przebudowy "klasyfikatora" co jest od pewnego momentu niemożliwe, więc zaczyna się naciąganie "liści". Obrazowo można powiedzieć, że zdanie "Trawa jest zielona" jest zastąpione przez "Jest Bóg. Jeśli jest Bóg, to trawa jest zielona".  Całkowicie równoważny system wiedzy z jednym małym detalem, którego usunięcie jest niemożliwe, bo wali się cały świat i wszystko traci sens.  Obserwowałem w rodzinie, jak staje się to furtką do przyjmowania jakichkolwiek bzdur skojarzonych z wiarą, do smoleńskiego helu włączenie, u ludzi z wykształceniem ścisłym i IQ na poziomie powyżej trzech odchyleń standardowych. W pewnym momencie cała para idzie w gwizdek.

W dniu 21.12.2019 o 11:19, Sławko napisał:

A mnie to zupełnie nie dziwi, wręcz przeciwnie.

Proponuję zatem poczytać sobie psychiatryczne publikacje naukowe. Klasyczny przykład pseudonauki który zdołał oswoić inne dziedziny swoją obecnością.

Tak aby się pośmiać:  http://www.cpn.or.kr/journal/view.html?doi=10.9758/cpn.2015.13.1.36  To nie jest wyjątek. Dramatem jest to że wszystkie teorie nie powstały na bazie rozsądnych badań tylko jako przykrywki uzasadniające sprzedaż środków farmaceutycznych. Pod tym względem medycyna chińska jest znacznie pewniejsza, bo zioła miały bardzo mały budżet na marketing farmaceutyczny.

W dniu 21.12.2019 o 11:19, Sławko napisał:

To, że te programy są nieświadome (póki co), w niczym nie przeszkadza.

To bardzo istotna informacja która pozwala na uniknięcie 90% nieporozumień i oczekiwań jakie ludzie mają w związku ze sztuczną inteligencją.

Niezależnie od tego czy jest ona prawdziwa w bardziej "filozoficznym" sensie.

W dniu 21.12.2019 o 18:35, Sławko napisał:

Sprawdź pojęcie "racjonalny" w słowniku.

Definicje słownikowe nie zastępują rozumienia pojęć. Brak zrozumienia tego faktu kończy się tak tragicznie jak program komputerów V generacji. Ale oczywiście warto najpierw ustalić o co jest jakikolwiek spór...

 

W dniu 21.12.2019 o 18:35, Sławko napisał:

Racjonalną, a nie wynikającą np. z potrzeb fizjologicznych, czy z odruchów bezwarunkowych.

Wszystkie niepatologiczne (typowe) potrzeby fizjologiczne, odruchy bezwarunkowe i popędy są racjonalne, jedynym kryterium jest "podtrzymanie życia", organizmy żywe które w tym rozumieniu nie są racjonalne giną.

 

 

Udostępnij tę odpowiedź


Odnośnik do odpowiedzi
Udostępnij na innych stronach
20 godzin temu, Antylogik napisał:
21 godzin temu, Sławko napisał:

Pomijając kwestię świadomości ogólnej, to jest ona związana z jakimś konkretem, np.

Nie można tak oddzielać, już to rozgraniczenie jest sztuczne, a nawet błędne.

Wcale nie jest błędne, ani sztuczne. Jest wręcz naturalne! To jest właśnie kwestia rozumienia samej istoty świadomości! Ja tak w każdym razie zacząłem ją postrzegać, co zaczęło mi wyjaśniać wiele zjawisk związanych ze świadomością. Wg mnie, kluczem do jej zrozumienia jest właśnie coś co nazwałem atomizacją świadomości, albo mógłbym nazwać inaczej "kwantowaniem świadomości", czyli rozbiciem jej na najmniejsze elementarne części. Wszystkie te elementarne świadomości składają się na naszą świadomość ogólną, a że nie jesteśmy świadomi wszystkich elementów składowych, to nasza świadomość nigdy nie jest stu procentowa.

20 godzin temu, Antylogik napisał:

Jeżeli jesteś świadomy albo lamparta, albo budynku, to twoja świadomość jest ograniczona. Można powiedzieć tutaj, że jesteś w 50% świadomy. Natomiast, jeśli widzisz jedno i drugie, to zaczynasz analizować czy zdążysz uciec do budynku przed lampartem. Wtedy masz 100% świadomości w świecie tych dwóch faktów.

Jeśli rozpatrywalibyśmy tylko te dwa elementy (czysto hipotetycznie), to masz rację. Ale w rzeczywistości, jest tu szereg innych świadomości, na które można rozbić "tą scenę". Np. świadomość tego, czy zdążę dobiec do budynku. Mogę mieć tą świadomość, jeśli wiem jak daleko znajduje się lampart ode mnie i jak daleko ja mam do budynku, a także świadomość tego jak ja szybko biegam i jak szybko biega lampart. Jeśli brakuje którejkolwiek z nich, to pojawia się obawa, czy aby na pewno zdążę itp.

20 godzin temu, Antylogik napisał:

Używamy lodówki, nie zastanawiając się jak ona działa.

Oczywiście. Często nie musimy znać zasad działania lodówki, ale żeby jej poprawnie użyć musimy znać przynajmniej wynik jej działania. Inaczej można się zdziwić, że lodówka mięso zamroziła, gdy myśmy chcieli mięso upiec. Nie można być kompletnie nieświadomym tego co się robi, bo uzyskane efekty staną się czysto losowe.

20 godzin temu, Antylogik napisał:

Nie musiał niczego świadomie wybierać, tak jak SI niczego świadomie nie wybiera. Uczeń na podstawie skojarzeń dobiera wzór. Przypomina sobie, że podobne zadanie robił używając takiego wzoru. A jeśli było kilka podobnych, to sprawdza metodą prób i błędów, losowo, czy dany wzór pasuje do danych albo czy czy szukane rozwiązanie da się uzyskać za pomocą tego wzoru. Wygląda na to, że mieszasz zdolność kojarzenia ze świadomością. Gdyby tak było, że ANN powinny mieć świadomość. Czyli wg ciebie maszyna ma świadomość, co oznacza, że zaprzeczasz sam sobie, bo twierdziłeś, że nie ma.

Chcesz sprowadzić tego ucznia do bezmyślnej maszyny, która coś tam przetwarza nie wiadomo po co i nie wiadomo w jakim celu. Sam dochodzisz do wniosku, że w tej sytuacji muszą zacząć się pojawiać elementy losowe. I znów posądzasz mnie o mieszanie "zdolność kojarzenia" ze "świadomością". Nic bardziej mylnego. Zdolność kojarzenie to działanie logiczne. Jest bardziej jak znak "+" we wzorze 2+3, a świadomość jest jak cyfra "2" lub "3" w nim zawarta (to oczywiście tylko uproszczenie).

Co do tego, czy ANN ma świadomość, czy nie to nie wypowiedziałem się jednoznacznie, a jeśli tak to odebrałeś, to może przez mój brak precyzji w skrótowej wypowiedzi:

W dniu 21.12.2019 o 11:19, Sławko napisał:

To, że te programy są nieświadome (póki co)

Kluczem jest tu zwrot "póki co". A powinienem był napisać "póki co tak myślę". To znaczy, że nie neguję możliwości posiadania świadomości przez ANN. Natomiast to, czy obecnie istniejące ANN mają świadomość na jakimś poziomie, to ja tego nie wiem. Myślę, że nie mają (nawet te największe), ale tak na 100% to ja tej pewności nie mam, w sumie z wielu powodów.

Jestem przekonany, że świadomość nie jest tylko cechą ludzką. Do niedawna uważano, że tylko ludzie ją mają i odmawiano jej zwierzętom. Myślę, że to z powodu samoświadomości, która bywa źle rozumiana. Ja obecnie uważam, że wiele zwierząt jest samoświadomych i dotyczy to nawet tych, które nie przechodzą "testu lustra" (który w mojej ocenie ma wiele wad). Do tego aby ANN były samoświadome, to droga jeszcze bardzo daleka (tak sądzę). Ale świadomość ma wiele poziomów związanych choćby z receptorami. Wąż może mieć świadomość istnienia pobliskiego gryzonia, bo widzi go w podczerwieni, a kot nie ma takich receptorów i gryzoń gdy się nie rusza (pomijam zapach) może zostać niezauważony. Świadomość jest więc związana z pewną porcją danych. Jeśli nie ma tych danych, to obiekt nie jest świadomy. I tu dochodzimy do zagadki. Czy w chwili gdy dostarczamy do sieci ANN dane, to czy jest ona świadoma tych danych? Jeśli to zadaję sobie pytanie, kiedy ta świadomość się pojawi? Czy zależy to od:

  • ilości wprowadzonych danych, ilości receptorów?
  • różnorodności wprowadzonych danych, różnych rodzajów receptorów?
  • budowy sieci neuronowej i jej złożoności?
  • istnienia sprzężeń zwrotnych i ich rodzaju?

A co jeśli największe sieci ANN już mają świadomość? Może ona już tam jest, tylko my nic o tym nie wiemy? Mamy problem ze zbadaniem świadomości zwierząt, więc co tu mówić o małych sieciach neuronowych. Może świadomość jest czymś znacznie prostszym niż nam się wydaje (nie mówię tu o samoświadomości). To jest właśnie przyczyna dlaczego mnie to zastanawia. Gdzie właściwie leżą granice? Czy pantofelek (Paramecium caudatum) jest świadomy, że w pobliżu czai się ameba, która może go pożreć? (biologów przepraszam, jeśli ameby nie żywią się pantofelkiem :)) Jeśli ma do tego odpowiednie receptory, to myślę, że może być świadomy!

Udostępnij tę odpowiedź


Odnośnik do odpowiedzi
Udostępnij na innych stronach
35 minut temu, Sławko napisał:

Wg mnie, kluczem do jej zrozumienia jest właśnie coś co nazwałem atomizacją świadomości, albo mógłbym nazwać inaczej "kwantowaniem świadomości", czyli rozbiciem jej na najmniejsze elementarne części.

To jest tylko analiza horyzontalna, a powinieneś nałożyć na nią też analizę wertykalną, tzn. coraz wyższe poziomy świadomości, jak uogólnienie wzoru czy też dostrzeganie podobieństw i różnic między jednym a drugim zjawiskiem (atomem). Wertykalna jest trudniejsza, bo wymaga myślenia a nie tylko obserwacji.

42 minuty temu, Sławko napisał:

Chcesz sprowadzić tego ucznia do bezmyślnej maszyny, która coś tam przetwarza nie wiadomo po co i nie wiadomo w jakim celu.

To czy bezmyślnej, to kwestia dyskusyjna, ale ogólnie racja - to tylko maszyna. Jej celem jest zdać egzamin, żeby rodzice i nauczyciele byli zadowoleni.

Udostępnij tę odpowiedź


Odnośnik do odpowiedzi
Udostępnij na innych stronach
41 minut temu, Antylogik napisał:

analizę wertykalną, tzn. coraz wyższe poziomy świadomości

O poziomach świadomości wspomniałem. Wydaje się, że najwyższym obecnie znanym poziomem świadomości jest samoświadomość. Natomiast te niższe póki co trudno jest mi tak jednoznacznie rozdzielić.

44 minuty temu, Antylogik napisał:

to tylko maszyna. Jej celem jest zdać egzamin, żeby rodzice i nauczyciele byli zadowoleni.

Ja bym aż tak nie radykalizował. W każdym razie ja taki nie byłem i nie sądzę abym był jakimś wyjątkiem. Każde zadanie starałem się zrozumieć. Uczenie się na pamięć i reagowanie jak "pies Pawłowa" na dzwonek, nigdy mnie nie satysfakcjonowało.

1 godzinę temu, peceed napisał:

Jeśli chodzi o kwestię neuronalne, to religia wyłącza krytyczne myślenie.

Zgadzam się z tym. Aczkolwiek mnie bardziej interesuje, jak religia kształtuje informacje w mózgu, że po jakimś czasie staje się on odporny na racjonalne bodźce, niejako zapętlając się na jednym temacie. Miałem w rodzinie osobę całkowicie podporządkowaną religii. Obserwowałem jej reakcję na różne argumenty. Umysł całkowicie "zabetonowany". Wiele ludzi wpada w tą pułapkę, a ja chciałbym zrozumieć, nie tylko jak temu zapobiec, ale także jak można człowieka z takiej pułapki wyprowadzić. Przeczytałem na takie tematy kilka książek (również te związane z uzależnieniami). Co więcej zauważyłem, że sztuczne sieci neuronowe również potrafią w taką pułapkę wpaść i potem niezwykle trudno jest taką sieć wyprowadzić z "błędnych przekonań". Eksperymenty w tym zakresie na sieciach neuronowych dają dużo do myślenia.

2 godziny temu, peceed napisał:

Proponuję zatem poczytać sobie psychiatryczne publikacje naukowe. Klasyczny przykład pseudonauki który zdołał oswoić inne dziedziny swoją obecnością.

W pseudonaukę raczej nie chciałbym wpaść. Kiedy dostrzegam błędy w swoim rozumowaniu, a także, gdy ktoś mi je udowadnia, traktuję to poważnie i staram się weryfikować swoją wiedzę. Nigdy też nie staram się udowadniać, że ja wszystko wiem najlepiej, bo to jedna z tych pułapek (jak religia), w którą łatwo wpaść, a potem trudno z niej wyjść. Można nawet stworzyć własną religię typu "płaskoziemcy".

2 godziny temu, peceed napisał:

Wszystkie niepatologiczne (typowe) potrzeby fizjologiczne, odruchy bezwarunkowe i popędy są racjonalne, jedynym kryterium jest "podtrzymanie życia", organizmy żywe które w tym rozumieniu nie są racjonalne giną.

Może i jest w tym racja. Nie pomyślałem o tym w takim kontekście.

Udostępnij tę odpowiedź


Odnośnik do odpowiedzi
Udostępnij na innych stronach
59 minut temu, Sławko napisał:

Ja bym aż tak nie radykalizował. W każdym razie ja taki nie byłem i nie sądzę abym był jakimś wyjątkiem. Każde zadanie starałem się zrozumieć. Uczenie się na pamięć i reagowanie jak "pies Pawłowa" na dzwonek, nigdy mnie nie satysfakcjonowało.

Ja nawet nie zacząłem jeszcze radykalizować, bo poszedłbym znacznie dalej. Bo tu nie chodzi tylko o nagrodę, ale też karę, o emocje. Skoro nie uważasz się za wyjątek jak byś zareagował, gdybym ci napisał:

Zabij się, dźgając się w serce dla większego dobra

Albo, co byś zrobił, gdybyś usłyszał to od robota z Amazona:

http://next.gazeta.pl/next/7,151243,25539618,alexa-kazala-kobiecie-sie-zabic-zabij-sie-dzgajac-sie-w-serce.html

Większość ludzi zacznie się denerwować, a robota będą chcieli wyłączyć albo oddać do naprawy. Stres to też tylko reakcja mechaniczna.

Udostępnij tę odpowiedź


Odnośnik do odpowiedzi
Udostępnij na innych stronach
57 minut temu, Sławko napisał:

jak religia kształtuje informacje w mózgu, że po jakimś czasie staje się on odporny na racjonalne bodźce, niejako zapętlając się na jednym temacie

To akurat jest proste. Przede wszystkim wykorzystuje wszystkie naturalne emocje, począwszy od lęku przed śmiercią. "Kryminalizuje" przyjemność. Wykorzystuje publiczne uroczystości aby przekonać mózg o powszechności swoich przekonań. Wykorzystuje doniosłe, silne emocjonalnie wydarzenia obecne w życiu każdego człowieka.

Jest "nauczana" wcześnie. Gdybym wierzył że żyję na łodzi podwodnej, i otwarcie zaworu mnie zabije przez zalanie wody, nigdy tego bym nie zrobił... Niezależnie od tego że może to być laboratorium pod ziemią.
Poglądy przejmowane od rodziców mają ogromną ważność bo zapewniły sukces reprodukcyjny, czego jesteśmy dowodem. Imprint.

Modlitwa jest praniem mózgu który technicznie chrześcijanie obchodzą co najmniej 2x dziennie, a muzułmanie 5x. Pochłania to cały dostępny czas na jakąkolwiek refleksję. Masz wolny czas - módl się.

Dlatego wiara to nie tylko system przekonań, ale też potężny trening który ma człowieka w wierze utrzymać wyłączając myślenie, aczkolwiek nie do końca. Mózg jest sprytny, i w końcu wyrobi sobie nieświadome metody postępowania które abstrachują indoktrynację i będzie je aplikował sam sobie.

49 minut temu, Astro napisał:

Czy przypadkiem nie jest tak, że spersonalizowana reklama i spersonalizowane treści nie zapętlają bardziej?

Nie, różnica jest taka jak pomiędzy dajmy na to żywą żabą a Kermitem Muppetem. Nawet jeśli wygląda tak samo, to jest wciąż mniej zaawansowana. 

 

Udostępnij tę odpowiedź


Odnośnik do odpowiedzi
Udostępnij na innych stronach
23 minuty temu, Antylogik napisał:

Zabij się, dźgając się w serce dla większego dobra

Albo, co byś zrobił, gdybyś usłyszał to od robota z Amazona:

Są trzy możliwości. Albo programista wplótł to w sieć neuronową jako "dowcip", albo faktycznie sieć neuronowa jakąś logiczną ścieżką powiązała ze sobą ten tekst z wcześniejszymi "doświadczeniami" i wyszło to co wyszło. Ja bym to zignorował, uznał że to głupoty. Z pewnością nie wystraszyłbym się.

19 minut temu, peceed napisał:

To akurat jest proste. Przede wszystkim wykorzystuje wszystkie naturalne emocje, począwszy od lęku przed śmiercią.

No tak, ale to już są pewne następstwa. Pierwszym etapem jest zapewne przeładowanie komórek nerwowych nadmiarem bzdurnych informacji.

Godzinę temu, Astro napisał:

Czy przypadkiem nie jest tak, że spersonalizowana reklama i spersonalizowane treści nie zapętlają bardziej?

Moim zdaniem nie ma różnicy. To jest dokładnie ten sam mechanizm. Siła "zapętlenia" zależy tylko od ilości i intensywności bodźców.

Udostępnij tę odpowiedź


Odnośnik do odpowiedzi
Udostępnij na innych stronach
47 minut temu, Astro napisał:

Nie doceniasz zaawansowania.

Ja zawsze z tym miałem kłopot. Możemy sobie wyobrazić np. ciężarówkę autonomiczną przewożącą jakieś towary, wyposażoną w jakieś sensory, wykrywające np. uszkodzenia, stacje benzynowe, albo np. złodziei chcących wykraść przewożony towar (albo samą ciężarówkę). Może mieć zawarty w swoim programie/algorytmie jakiś uproszczony model samej siebie, chociażby po to, aby obrabiać te informacje o uszkodzeniach i na tej podstawie wyznaczać jakąś wartość liczbową mówiącą (to mogłaby być może nawet pojedyncza zmienna w programie), jak pilnie potrzebna jest naprawa (przy wysokim poziomie uszkodzeń powinna zboczyć z zaplanowanego kursu i jechać do najbliższego punktu serwisowego, przy niskim może uszkodzenia ignorować i jechać dalej zgodnie z planem). I czy ona jest samoświadoma (jakiś model samej siebie, jako się rzekło, ma)? Czy jest świadoma zagrożeń z zewnątrz (tych złodziei)? Czy odczuwa ból (przetwarza przecież informacje o swoich uszkodzeniach)? Zgodnie z jedną hipotezą to jest tylko kwestia "zaawansowania" programu tej ciężarówki, jeżeli jest dostatecznie "zaawansowany", to jest istotą świadomą, jak człowiek, naprawdę odczuwa ból, strach itd.

Obojętnie jak zaawansowany jest "algorytm" ciężarówki i jej "komputer" i niezależnie od tego czy z siecią neuronową, czy bez, to i tak zawsze to będzie maszyna Turinga. Więc, jeśli chodzi o ścisłość, trzeba by się zastanowić, czy mózg ludzki może być komputerem nie-turingowym. Z tym jest taki problem, że istnieje hipoteza: https://pl.wikipedia.org/wiki/Hipoteza_Churcha-Turinga, mówiąca, że tak naprawdę nie da się niczego innego wymyślić oprócz maszyny Turinga. Przy założeniu, że używamy takich praw fizyki, jakie znamy obecnie. I teraz zaczyna się lekka "jazda", bo właściwie to wiadomo, że jeszcze nie wszystko odkryliśmy jeśli chodzi o prawa fizyki - brakuje teorii unifikującej mechanikę kwantową i teorię względności (fizycy znają szczegóły, ja nie bardzo) więc w zasadzie nie widać przeszkód. Każda żywa komórka na upartego mogłaby wykorzystywać jakieś zjawiska kwantowe, możliwe że i te jeszcze nie odkryte. Nie znamy na tyle dobrze budowy/sposobu działania komórek, żeby to wykluczyć (jak mi się zdaje). Wtedy mogłoby się okazać, że jest i taka możliwość, że istoty "żywe"/"świadome" różnią się od "nieświadomych programów komputerowych" tym, że wykonują jakieś obliczenia z wykorzystaniem tych jeszcze nieodkrytych zjawisk.

W każdym razie widać co najmniej dwie możliwości.

Edytowane przez darekp

Udostępnij tę odpowiedź


Odnośnik do odpowiedzi
Udostępnij na innych stronach
33 minuty temu, Sławko napisał:

Ja bym to zignorował, uznał że to głupoty. Z pewnością nie wystraszyłbym się.

W tym przykładzie chodziło mi o to, że są dwie ścieżki zachowania:

1) świadoma - może nawet odczuwamy stres, ale nie poddajemy mu się i podejmujemy kroki adekwatne do naszych dalszych celów czy preferencji (ignorujemy albo badamy sprawę, aby zrozumieć maszynę)

2) nieświadoma - przeżywamy stres i poddajemy mu się, czyli wyłączamy sprzęt i oddajemy do naprawy.

Obydwa podejścia są racjonalne. Stres przyspiesza nasze działanie, aby pozbyć się problemu (tak jak ból zęba - idziemy do dentysty). Świadome działanie też będzie racjonalne, ale z powodu braku albo mniejszych emocji, będzie cięższe do wykonania. Można wysnuć wniosek, że świadome działanie będą wiązały się z większym wysiłkiem (emocjonalnym).

Maszyna nie ma emocji. Dlatego można postawić hipotezę, że jakiś poziom świadomości pojawia się tam gdzie jest wysiłek - w tym przypadku emocjonalny.

Łącząc powyższe, racjonalność może, ale nie musi wiązać się z wysiłkiem, ponieważ może ale nie musi być świadoma. I tym bym chyba zakończył.

W sumie stworzyłem taki model:

1440610294_2019-12-2320_59_55-MicrosoftExcel-Zeszyt1.png.37a988e1d2a6e3c81df4cc0826fe4cf6.png

 

Wcześniej pisałem, że maszyna zawsze jest racjonalna. Jednak analizując ten model, zauważyłem, że może być też specjalny robot irracjonalny. Robot kontstruktywny oznacza zwykłego robota służącego ludzkości, a destruktywny dążącego do samodestrukcji.

Udostępnij tę odpowiedź


Odnośnik do odpowiedzi
Udostępnij na innych stronach
W dniu 21.12.2019 o 11:19, Sławko napisał:

Ale ogólnie, bardziej chodzi o to, po co mózgowi religia i jak religia wpływa na działanie mózgu, a także dlaczego mózg może uzależnić się od religii. Okazuje się, że można to zrozumieć, gdy pozna się podstawy działania sieci neuronowych. To jest sprawa uświadomienia sobie pewnych zależności i nie potrzeba do tego teorii replikatorów i gier. Wystarczy zrozumieć, jak postrzeganie otaczającego nas świata wpływa na nasz własny mózg, na uczenie się i zapamiętywanie. A znajomość działania SI (a zwłaszcza to, jak uczy się sztuczna sieć neuronowa) bardzo w tym pomaga.

Jako, w pewnym sensie, specjalista od SSN bardzo bym chciał rozwinięcia tego wątku. Pomijając wątek racjonalności/świadomości etc.

  • Haha 1

Udostępnij tę odpowiedź


Odnośnik do odpowiedzi
Udostępnij na innych stronach
6 godzin temu, peceed napisał:

Modlitwa jest praniem mózgu który technicznie chrześcijanie obchodzą co najmniej 2x dziennie, a muzułmanie 5x. Pochłania to cały dostępny czas na jakąkolwiek refleksję. Masz wolny czas - módl się.

Pomimo mojego ogromnego krytycyzmu do religii, to stwierdzenie uważam za krzywdzące uproszczenie. Bez refleksji nie byłoby  możliwe do zaistnienia dziesiątki ruchów, sekt, schizm czy też pojawienia się tak silnych prądów jak reformacja i kontreformacja - a te przecież ukształtowały w ogromnym stopniu oblicze współczesności. 

3 godziny temu, radar napisał:

Jako, w pewnym sensie, specjalista od SSN bardzo bym chciał rozwinięcia tego wątku. Pomijając wątek racjonalności/świadomości etc.

Przyłączam się. Oprócz tego mnie intersuje temat już kiedyś poruszany na forum - czy na kształtowanie religii nie ma/miały wpływ zażywane przez "ojców" czy też kapłanów religii   substancje psychoaktywne wpływające na biochemiczne działanie mózgu?

Edytowane przez venator

Udostępnij tę odpowiedź


Odnośnik do odpowiedzi
Udostępnij na innych stronach

Jeśli chcesz dodać odpowiedź, zaloguj się lub zarejestruj nowe konto

Jedynie zarejestrowani użytkownicy mogą komentować zawartość tej strony.

Zarejestruj nowe konto

Załóż nowe konto. To bardzo proste!

Zarejestruj się

Zaloguj się

Posiadasz już konto? Zaloguj się poniżej.

Zaloguj się

  • Podobna zawartość

    • przez KopalniaWiedzy.pl
      Gdy Deep Blue wygrał w szachy z Garri Kasparowem, a w 2016 roku AlphaGo pokonał w go Lee Sedola wiedzieliśmy, że jesteśmy świadkami ważnych wydarzeń. Były one kamieniami milowymi w rozwoju sztucznej inteligencji. Teraz system sztucznej inteligencji „Swift” stworzony na Uniwersytecie w Zurychu pokonał mistrzów świata w wyścigu dronów.
      Swift stanął do rywalizacji z trzema światowej klasy zawodnikami w wyścigu, podczas którego zawodnicy mają założone na głowy specjalne wyświetlacze do których przekazywany jest obraz z kamery drona i pilotują drony lecące z prędkością przekraczającą 100 km/h.
      Sport jest bardziej wymagający dla sztucznej inteligencji, gdyż jest mniej przewidywalny niż gra planszowa niż gra wideo. Nie mamy idealnej wiedzy o dronie i środowisku, zatem sztuczna inteligencja musi uczyć się podczas interakcji ze światem fizycznym, mówi Davide Scaramuzza z Robotik- und Wahrnehmungsgruppe  na Uniwersytecie w Zurychu.
      Jeszcze do niedawna autonomiczne drony potrzebowały nawet dwukrotnie więcej czasu by pokonać tor przeszkód, niż drony pilotowane przez ludzi. Lepiej radziły sobie jedynie w sytuacji, gdy były wspomagane zewnętrznym systemem naprowadzania, który precyzyjne kontrolował ich lot. Swift reaguje w czasie rzeczywistym na dane przekazywane przez kamerę, zatem działa podobnie jak ludzie. Zintegrowana jednostka inercyjna mierzy przyspieszenie i prędkość, a sztuczna sieć neuronowa, na podstawie obrazu z kamery lokalizuje położenie drona i wykrywa kolejne punkty toru przeszkód, przez które dron musi przelecieć. Dane z obu tych jednostek trafiają do jednostki centralnej – również sieci neuronowej – która decyduje o działaniach, jakie należy podjąć, by jak najszybciej pokonać tor przeszkód.
      Swift był trenowany metodą prób i błędów w symulowanym środowisku. To pozwoliło na zaoszczędzenie fizycznych urządzeń, które ulegałyby uszkodzeniom, gdyby trening prowadzony był na prawdziwym torze. Po miesięcznym treningu Swift był gotowy do rywalizacji z ludźmi. Przeciwko niemu stanęli Alex Vanover, zwycięzca Drone Racing League z 2019 roku, Thomas Bitmatta lider klasyfikacji 2019 MultiGP Drone Racing oraz trzykroty mistrz Szwajcarii Marvin Schaepper.
      Seria wyścigów odbyła się w hangarze lotniska Dübendorf w pobliżu Zurychu. Tor ułożony był na powierzchni 25 na 25 metrów i składał się z 7 bramek, przez które należało przelecieć w odpowiedniej kolejności, by ukończyć wyścig. W międzyczasie należało wykonać złożone manewry, w tym wywrót, czyli wykonanie półbeczki (odwrócenie drona na plecy) i wyprowadzenie go półpętlą w dół do lotu normalnego.
      Dron kontrolowany przez Swift pokonał swoje najlepsze okrążenie o pół sekundy szybciej, niż najszybszy z ludzi. Jednak z drugiej strony ludzie znacznie lepiej adaptowali się do warunków zewnętrznych. Swift miał problemy, gdy warunki oświetleniowe były inne niż te, w których trenował.
      Można się zastanawiać, po co drony mają latać bardzo szybko i sprawnie manewrować. W końcu szybki lot wymaga większej ilości energii, więc taki dron krócej pozostanie w powietrzu. Jednak szybkość lotu i sprawne manewrowanie są niezwykle istotne przy monitorowaniu pożarów lasów, poszukiwaniu osób w płonących budynkach czy też kręcenia scen filmowych.
      Warto tutaj przypomnieć, że systemy sztucznej inteligencji pokonały podczas symulowanych walk doświadczonego wykładowcę taktyki walki powietrznej oraz jednego z najlepszych amerykańskich pilotów.

      « powrót do artykułu
    • przez KopalniaWiedzy.pl
      W przypadku sztucznej inteligencji z Osaki powiedzenie „wyglądasz na swój wiek” odnosi się nie do twarzy, a do... klatki piersiowej. Naukowcy z Osaka Metropolitan University opracowali zaawansowany model sztucznej inteligencji, który ocenia wiek człowieka na podstawie zdjęć rentgenowskich klatki piersiowej. Jednak, co znacznie ważniejsze, jeśli SI odnotuje różnicę pomiędzy rzeczywistym wiekiem, a wiekiem wynikającym ze zdjęcia, może to wskazywać na chroniczną chorobę. System z Osaki może zatem przydać się do wczesnego wykrywania chorób.
      Zespół naukowy, na którego czele stali Yasuhito Mitsuyama oraz doktor Daiju Ueda z Wwydziału Radiologii Diagnostycznej i Interwencyjnej, najpierw opracował model sztucznej inteligencji, który na podstawie prześwietleń klatki piersiowej oceniał wiek zdrowych osób. Następnie model swój wykorzystali do badania osób chorych.
      W sumie naukowcy wykorzystali 67 009 zdjęć od 36 051 zdrowych osób. Okazało się, że współczynnik korelacji pomiędzy wiekiem ocenianym przez SI, a rzeczywistym wiekiem badanych wynosił 0,95. Współczynnik powyżej 0,90 uznawany jest za bardzo silny.
      Uczeni z Osaki postanowili sprawdzić, na ile ich system może być stosowany jako biomarker chorób. W tym celu wykorzystali 34 197 zdjęć rentgenowskich od chorych osób. Okazało się, że różnica pomiędzy oceną wieku pacjenta przez AI, a wiekiem rzeczywistym jest silnie skorelowana z różnymi chorobami, jak np. nadciśnienie, hiperurykemia czy przewlekła obturacyjna choroba płuc. Im więcej lat dawała pacjentowi sztuczna inteligencja w porównaniu z jego rzeczywistym wiekiem, tym większe było prawdopodobieństwo, że cierpi on na jedną z tych chorób.
      Wiek chronologiczny to jeden z najważniejszych czynników w medycynie. Nasze badania sugerują, że wiek oceniany na podstawie prześwietlenia klatki piersiowej może oddawać rzeczywisty stan zdrowia. Będziemy nadal prowadzili nasze badania. Chcemy sprawdzić, czy system ten nadaje się do oceny zaawansowania choroby, przewidzenia długości życia czy możliwych komplikacji pooperacyjnych, mówi Mitsuyama.
      Szczegóły badań opublikowano na łamach The Lancet.

      « powrót do artykułu
    • przez KopalniaWiedzy.pl
      Sztuczna inteligencja lepiej niż technik-elektroradiolog ocenia i diagnozuje funkcjonowanie serca na podstawie badań ultrasonograficznych, wynika z badań przeprowadzonych przez naukowców z Cedars-Sinai Medical Center. Randomizowane testy prowadzili specjaliści ze Smidt Heart Institute i Division of Articifial Intelligence in Medicine.
      Uzyskane wyniki będą miały natychmiastowy wpływ na obrazowanie funkcji serca oraz szerszy wpływ na całe pole badań obrazowych serca, mówi główny autor badań, kardiolog David Ouyang. Pokazują bowiem, że wykorzystanie sztucznej inteligencji na tym polu poprawi jakość i efektywność obrazowania echokardiograficznego.
      W 2020 roku eksperci ze Smidt Heart Institute i Uniwersytetu Stanforda stworzyli jeden z pierwszych systemów sztucznej inteligencji wyspecjalizowany w ocenie pracy serca, a w szczególności w ocenie frakcji wyrzutowej lewej komory. To kluczowy parametr służący ocenie pracy mięśnia sercowego. Teraz, bazując na swoich wcześniejszych badaniach, przeprowadzili eksperymenty, w ramach których wykorzystali opisy 3495 echokardiografii przezklatkowych. Część badań została opisana przez techników, część przez sztuczną inteligencję. Wyniki badań wraz z ich opisami otrzymali kardiolodzy, którzy mieli poddać je ocenie.
      Okazało się, że kardiolodzy częściej zgadzali się z opisem wykonanym przez sztuczną inteligencję niż przez człowieka. W przypadku SI poprawy wymagało 16,8% opisów, natomiast kardiolodzy wprowadzili poprawki do 27,2% opisów wykonanych przez techników. Lekarze nie byli też w stanie stwierdzić, które opisy zostały wykonane przez techników, a które przez sztuczą inteligencję. Badania wykazały również, że wykorzystanie AI zaoszczędza czas zarówno kardiologów, jak i techników.
      Poprosiliśmy naszych kardiologów, by powiedzieli, które z opisów wykonała sztuczna inteligencja, a które technicy. Okazało się, że lekarze nie są w stanie zauważyć różnicy. To pokazuje, jak dobrze radzi sobie sztuczna inteligencja i że można ją bezproblemowo wdrożyć do praktyki klinicznej. Uważamy to za dobry prognostyk dla dalszych testów na wykorzystaniem SI na tym polu, mówi Ouyang.
      Badacze uważają, że wykorzystanie AI pozwoli na szybszą i sprawniejszą diagnostykę. Oczywiście o ostatecznym opisie badań obrazowych nie będzie decydował algorytm, a kardiolog. Tego typu badania, kolejne testy i artykuły naukowe powinny przyczynić się do szerszego dopuszczenia systemów AI do pracy w opiece zdrowotnej.

      « powrót do artykułu
    • przez KopalniaWiedzy.pl
      Finlandia systematycznie znajduje się na szczycie rankingu World Happiness Report. Najszczęśliwszy kraj na świecie chce się podzielić z innymi swoim kluczem do szczęścia i zaprasza chętnych z całego globu na mistrzowską klasę szczęśliwości. Zajęcia będą się odbywać w czerwcu w leżącym na terenie Pojezierza Fińskiego Kuru Resort.
      Trenerzy pomogą 10 wybranym osobom odkryć wewnętrzne szczęście przez więź z naturą. Pokierują uczestników w stronę zrównoważonego życia, pomagając im być szczęśliwymi na fiński sposób. Jak tłumaczy organizator, oficjalna organizacja turystyczna Finlandii Visit Finland, kurs będzie się koncentrować na 4 obszarach: 1) naturze i stylu życia, 2) zdrowiu i równowadze, 3) dizajnie i codzienności oraz 4) pokarmach i dobrostanie.
      Organizatorzy uspokajają, że jeśli ktoś nie może wziąć udziału w zajęciach osobiście, jeszcze tego lata będzie miał szansę skorzystać z materiałów udostępnionych online.
      Odpowiadając na pytanie, z jakiego powodu Finowie są tak szczęśliwi, Heli Jimenez z rządowej organizacji Business Finland stwierdza, że chodzi o bliski związek z przyrodą oraz o podejście do życia (twarde stąpanie po ziemi). To nic mistycznego. Chodzi o zdolność, którą można opanować i się nią dzielić.
      Chcemy pomóc ludziom odkryć i wyszlifować fiński stan umysłu. Wybraliśmy najlepszych trenerów, jeden z najpiękniejszych fińskich ośrodków wypoczynkowych i piękną porę roku we wspaniałym otoczeniu [...] - dodaje Jimenez.
      Czterodniowe zajęcia są darmowe. Visit Finland pokrywa również koszty podróży w tę i z powrotem. Zgłoszenia są przyjmowane do 2 kwietnia; można aplikować indywidualnie, a także parami. Na początku wypełnia się kwestionariusz. Kolejnym etapem jest wyzwanie w mediach społecznościowych (należy stworzyć materiał, w którym wyjaśnia się, co sprawia, że dana osoba czuje się ukrytym Finem i z jakiego powodu pragnie wziąć udział w Masterclass of Happiness).
      Pierwsza masterklasa szczęśliwości odbędzie się między 12 a 15 czerwca. Dziesięć wybranych osób przyjedzie 11 czerwca, a opuści Kuru Resort 16 czerwca.

      « powrót do artykułu
    • przez KopalniaWiedzy.pl
      Na University of Leeds powstał system sztucznej inteligencji (SI), który analizuje skany oczu wykonywane podczas rutynowych wizyt u okulisty czy optyka i wskazuje osoby narażone na... wysokie ryzyko ataku serca. System analizuje zmiany w miniaturowych naczyniach krwionośnych siatkówki, o kórych wiemy, że wskazują na szerszy problem z układem krążenia.
      Specjaliści z Leeds wykorzystali techniki głębokiego uczenia się, by przeszkolić SI w automatycznym odczytywaniu skanów oraz wyławianiu osób, które w ciągu najbliższego roku mogą doświadczyć ataku serca.
      System, który został opisany na łamach Nature Machine Intelligence, wyróżnia się dokładnością rzędu 70–80 procent i zdaniem jego twórców może być wykorzystany przy diagnostyce chorób układu krążenia.
      Choroby układu krążenia, w tym ataki serca, to główne przyczyny zgonów na całym świecie i druga przyczyna zgonów w Wielkiej Brytanii. To choroby chroniczne, obniżające jakość życia. Ta technika może potencjalnie zrewolucjonizować diagnostykę. Skanowanie siatkówki to tani i rutynowy proces stosowany w czasie wielu badań oczu, mówi profesor Alex Frangi, który nadzorował rozwój nowego systemu. Osoby badane przez okulistę czy optometrystę mogą niejako przy okazji dowiedzieć się, czy nie rozwija się u nich choroba układu krążenia. Dzięki temu leczenie można będzie zacząć wcześniej, zanim pojawią się inne objawy.
      System sztucznej inteligencji trenowano na danych okulistycznych i kardiologicznych ponad 5000 osób. Uczył się odróżniania stanów patologicznych od prawidłowych. Gdy już się tego nauczył, na podstawie samych skanów siatkówki był w stanie określić wielkość oraz wydajność pracy lewej komory serca. Powiększona komora jest powiązana z większym ryzykiem chorób serca. Następnie SI, łącząc dane o stanie lewej komory serca z informacjami o wieku i płci pacjenta, może przewidzieć ryzyko ataku serca w ciągu najbliższych 12 miesięcy.
      Obecnie rozmiar i funkcjonowanie lewej komory serca jesteśmy w stanie określić za pomocą echokardiografii czy rezonansu magnetycznego. To specjalistyczne i kosztowne badania, które są znacznie gorzej dostępne niż badania prowadzone w gabinetach okulistycznych czy optycznych. Nowy system nie tylko obniży koszty i poprawi dostępność wczesnej diagnostyki kardiologicznej, ale może odegrać olbrzymią rolę w krajach o słabiej rozwiniętym systemie opieki zdrowotnej, gdzie specjalistyczne badania są bardzo trudno dostępne.
      Ten system sztucznej inteligencji to wspaniałe narzędzie do ujawniania wzorców istniejących w naturze. I właśnie to robi, łączy wzorce zmian w siatkówce ze zmianami w sercu, cieszy się profesor Sven Plein, jeden z autorów badań.

      « powrót do artykułu
  • Ostatnio przeglądający   0 użytkowników

    Brak zarejestrowanych użytkowników przeglądających tę stronę.

×
×
  • Dodaj nową pozycję...