Groteskowy

Rozumiem, że ludzie nie potrafią odrzucić wiary w Boga, ani nawet zmienić poglądów na temat przekonań jakie żywi Absolut? Fałszywe założenia. Zmienią poglądy i te nowe przypiszą Bogu. Taki już jego charakter, że nie może odpowiedzieć. Ale przecież nie o tym mowa. Rozmawiamy o badaniu, które stwierdza, że w mózgu osoby myślącej o poglądach Boga uaktywniają się obszary związane z własnymi przekonaniami. Odpowiadam na to - podobnie jest zapewne w przypadku, kiedy naukowiec myśli o poglądach swojego autorytetu naukowego. To, że X podważa konkretny pogląd Y, kiedy Y jest autorytetem X, nie oznacza, że X nie przypisuje sobie pewnej "zażyłości" z Y. Inaczej Y nie byłby autorytetem X. I jest psychologicznie (na zasadzie introspekcji) oczywiste, że myśląc o Newtonie - jeśli jest Twoim autorytetem - chociaż jego fizyka okazała się w wielu miejscach błędna, wyobrażasz sobie jego działalność naukową poprzez własne doświadczenia, cenisz go poprzez własne wyobrażenia i przypisywanie Newtonowi zbieżnych (choćby na poziomie "pracy z gęsim piórem" i oddania nauce). W innym wypadku - jeśli zaczynasz się z nim w ogóle nie zgadzać, całościowo, przestajesz go cenić i tym samym przestaje być twoim autorytetem. Nie widzę nic dziwnego w tym, że kiedy ktoś zrozumie głębiej pojęcie dobra, to gotów jest to głębsze zrozumienie przypisywać Bogu w którego wierzy; podobnie jak nie widzę nic dziwnego w tym, że człowiek, który głębiej zrozumiał rachunek różniczkowy gotów jest zaraz dostrzegać to rozumienie w pracach Newtona i pogłębiać sens autorytetu jakim Newtona darzy. To w pełni naturalne.

Trzeba zbadać naukowca i polecić mu myślenie o jego autorytecie naukowym. Można przypuszczać, że wynik będzie dokładnie ten sam. Człowiek zawsze jest skłonny przypisywać własne przekonania osobom które ceni. To naturalny mechanizm ochrony własnej wartości. Jeśli wierzysz w Boga jako byt doskonały, czyste dobro, a przypisujesz mu poglądy odrębne od swoich, to sam siebie tym samym określasz jako "niegodnego". Prosta droga ku nerwicy. I podobnie jeśli naukowiec ceni jakiś autorytet naukowy, to doznałby zawodu, gdyby okazało się, że ten autorytet nie podziela jego wizji świata, ma zupełnie inną filozofię nauki. Jak dla mnie - kolejne mętne badanie.

Oczywiście, że tak. Wspomnę jeszcze o konkretnym przypadku, bo formy takie były w tym wątku przytaczane jako przykład szkodliwego zapożyczenia. Chodzi mi o połączenia typu: KredytBank. W języku polskim formy takie rzeczywiście brzmią śmiesznie i psują system gramatyczny, jednak to bardzo prosta, a użyteczna cecha jęz. angielskiego. Sprawdza się doskonale np. w sitcomach; dla żartu b. ważne jest skupienie sensu i tego typu form - tak prostych - często nie da się na polski sensownie przetłumaczyć. Tworzy się z nich zabawne "wyzwiska-wiązanki" podobnie jak w polskim przy użyciu wulgaryzmów, tylko w ang. da się je składać z dowolnych właściwie słów.

Genialne. Rada dla osób z lękiem wysokości: podejdź bliżej krawędzi! ;D Zakrztusiłem się kolacją. Oni usiłują kogoś zabić, czy jak? Słyszeli o zawrotach głowy i panice z tym lękiem związanej? O odczuciu, że grunt usuwa się spod stóp?

I to porównujesz do resztek jakie zostały z Mininovej przeznaczonej - zarówno materialnie (pod względem udostępnianych plików) jak i formalnie (pod względem kodu np. kategoryzacji) - do udostępniania nielegalnych plików, z tego znanej i przez to popularnej? 1. Skąd znałeś TPB, gdzie znalazłeś linka itp. 2. Przypadkiem nie pisałem o stronach o konkretnym targecie? Nie pisałem, że marka Mininova miała zupełnie inny target? 3. Gdzie pójdziesz kupić rzadką książkę? Do Empiku, czy wyspecjalizowanej księgarni? Pod drogie wino idziesz do supermarketu? Mininova się skończyła. Można ją próbować przerobić na inny target, ale rynek jest już zajęty. Jeśli pożyje, to jako zombie. Wpływy spadną na łeb na szyję. Legalny soft na Mininovej to nie kwestia podaży popytu, lecz hobby, lub linkowania torrentów z innych stron. Nie jest to "twarz" Mininovej. Tyle.

Na jakiej podstawie sądzisz, że abstrakcje "podaży" i "popytu" mają jakiś sens w przypadku braku jakiegokolwiek dwukierunkowego przepływu dóbr (wymiany)? Moim zdaniem nie masz żadnych większych podstaw. Są tysiące torrentów, które nie cieszą się najmniejszą choćby popularnością i umierają równie szybko jak się pojawiają. Część torrentów tylko dlatego żyje, że wyszukiwana jest wraz z innymi - przypadkiem - i ściągana ot tak: jest mnóstwo osób, które ściągają byle co, bo "może się przyda". Jest oczywistym, iż istnieją ludzie zainteresowani np. przemowami Obamy. Mówimy jednak o stronie z torrentami. O ile nie będzie ona np, tematycznym zbiorem przemów z historii, a więc miejscem znanym dla "alternatywnych" konsumentów, to będzie - jako nieuporządkowane zbiorowisko - martwa. Stawiam, że 99,9 procent osób odwiedzających Mininovą znała ją tylko dlatego, że zawierała ona nielegalne dane.

PS. I jak tak siebie czytam, widzę, że z moich tekstów taki sam "nieporządek" i bełkot wyziera. Np. "swoistych dla siebie". Za dużo i-netu, za mało literatury

Zależy jak na to patrzeć. Ogólnie zakłada się raczej, że język z czasem zwiększa swoją efektywność. Możliwe więc, że fleksja - chociaż wydaje się czymś bardziej złożonym, niż pozycyjność - lepiej przystawała do nieoszlifowanej językowo psychologii, a z czasem naturalnie zaczynała zanikać. Osobiście spotkałem się ze stwierdzeniami, że procesy wiodące do zaniku fleksyjności w jęz. polskim od dawna są w nim zauważalne. Zauważmy zresztą, że owa "złożoność" fleksyjności, równie dobrze może być uznawana za toporność. Fleksja stopniowo się porządkuje eliminując wyjątki. Kolejnym krokiem jest zanik fleksji i ostateczne uogólnienie w postaci maksymalnego "usemantycznienia" samego porządku. ______________________________ W każdym razie osobiście uważam jęz. angielski za znacznie lepszy w zastosowaniach "abstrakcyjnych". Rozumiem przez to przede wszystkim, że język angielski jest bardziej "abstrakcyjny" w codziennym użyciu. Porządkowi relacji odpowiada w nim jasny i stały porządek gramatyczny oparty o relacje kolejności. Zgodzę się, że giętkość jęz. polskiego teoretycznie może umożliwiać większe bogactwo - nazwijmy to - operacji gramatycznych odpowiadających relacjom. Jednak... Po pierwsze - jęz. angielski posiada w mojej opinii wszelkie narzędzia jakie można uznać za niezbędne na poziomie jęz. rozumowań. Dalej i tak lepiej używać sformalizowanych i uniwersalnych narzędzi. Chociaż można się zastanawiać czy gombrowiczowska wizja świata byłaby możliwa, a przynajmniej równie łatwa, w jęz. angielskim. Po drugie - tak rozumiany jęz. polski (jako bogatszy od ang.) wymagałby niesamowitej dbałości; nie ma o niej mowy w praktyce językowej. Właśnie owa giętkość odpowiada w dużej mierze za to, że każdy mówi jak mu się żywnie podoba, co ostatecznie niweczy wszelkie subtelności jakie można by z naszego języka wydobyć. Niweczy również te elementarne. Gdybyśmy więcej mieli takich Gombrowiczów, to - owszem - głębia sensu w jęz. polskim byłaby szokująca. Niestety: sobiepaństwo likwiduje te możliwości, a owe sobiepaństwo sam język w olbrzymiej mierze proponuje. Ostatecznie giętkość jęz. polskiego sprowadza się do dowcipów i paru znamienitszych tekstów literackich, na co dzień mamy jeden wielki bełkot. ________________________ Osobiście - chociaż wybitny z jęz. angielskiego nie jestem - często sięgam po angielski tekst, ażeby lepiej zrozumieć abstrakcyjne zależności (np. w tekstach filozoficznych). Nie wiem czy to kwestia jakości tłumaczeń, czy też to obycie i ów wspomniany codzienny bełkot (który spłaszcza, zaciemnia strukturę) sprawiają, że mniej "przestrzennie" widzę teksty w jęz. polskim. Nierzadko łapię się też na tym, że szukam jakiegoś słowa, aż wreszcie dochodzę do wniosku, że go w jęz. polskim po prostu nie ma. Słowa czy też tej przestrzeni odniesień w jakiej zamyka się sens (w co wlicza się też gramatyka) - różnie. Więc nie jest tak, że jęz. angielski nie ma swoistych dla siebie atutów. Każdy język to inna wizja świata.

Nie zgadzam się z tym, że: 1. Język polski szczególnie dobrze nadaje się do wyrażania abstrakcyjnych idei. 2. Można powiedzieć, że zajmowanie się lingwistyką rozwija inteligencję ogólną, a tym bardziej, że rozwija ją szczególnie. Nie wiadomo czy w ogóle daje się tę inteligencję rozwijać. Zgadzam się z tym, że: 1. Język polski jest wspaniałym językiem. 2. Polacy mają skłonność do deprecjonowania samych siebie, własnej kultury i historii. Wątpię w to, że: 1. Języki fleksyjne są językami bardziej zaawansowanymi, niż pozycyjne. Czy przypadkiem jęz. angielski nie miał kiedyś fleksji?

Jest całkowicie niepoprawne składniowo. "Przeprowadzone po zakończeniu drzemki testy ujawniły, że ludzie pamiętali lepiej od pozostałych (X) lokalizację obiektów od (Y) słyszanych w czasie fazy NREM dźwięków." (X): Dźwięków/Uczestników? (ale to jeszcze daje się wywnioskować z ogólnego słówka "ludzie") (Y): Powinno być - "przypisanych/związanych z itp. dźwiękami słyszanymi w fazie rem". Oryginalne zdanie brzmi jak: Wiesz, ten Czesiek od Piotra. To kolokwializm. Można je zresztą zrozumieć tak, że badani lepiej pamiętali lokalizację, niż dźwięki.

Jedno ale - cały powyższy akapit to pobożne życzenia. Nie wiemy czy tak jest. Nie wiemy czy ilość przechodzi w jakość. Nie wiemy czy sieć neuronowa w ogóle może uświadomić sobie swoje istnienie. Najprostsze pytanie: co ma do rzeczy szybkość, jeśli algorytm działający na zwykłym komputerze w danym momencie czasu jest w jakimś stanie S i tylko i wyłącznie w tym stanie? Co za różnica, czy przejdzie ze stanu S do stanu S' za milionową część sekundy, czy za tysiąc lat? Jak już mówiłem - tak jest tylko dlatego, że my niemal nic z tego nie rozumiemy. Zakładając, że nigdy nie uda się nam pojąć "myśli". Olbrzymiej większości zwierząt właśnie NIE przypisuje się tej cechy. Świadomość (ludzką) można zresztą względnie ściśle zdefiniować: świadomość występuje wtedy kiedy nie tylko jesteś w stanie myśleć rzecz, ale i myśleć, że myślisz rzecz i samemu sobie przypisywać tę zdolność. Myślisz rzecz np. trenując się w arcade'owej gierce (jak Galaxy): im mniej myślisz o tym, że myślisz, a bardziej stajesz się algorytmem najskuteczniejszej odpowiedzi na obecny stan gry, tym bardziej myślisz rzecz. Po prostu: automatyzm versus nadrzędna kontrola, która przypisuje sobie poczucie "ja". I co niczego nie przesądza, ale może być jedyną opcją na jaką nas kiedykolwiek będzie stać. Pytaniem jest też - czy on może do takiego stanu dociągnąć. Echo, szum, to była tylko hipoteza, która miała pokazać, że istnieje możliwość, że materia z jakiej mózg jest zbudowany, a nie jedynie same formalne powiązania sygnału, może być niezbędna dla zaistnienia świadomości. Echo możesz sobie wyobrazić jako jakiś fizyczny pogłos nad siecią powiązań synaptycznych, który wynikając z tych powiązań (zbiór P w momencie T) tworzy sieć wyższego rzędu (P' w czasie T') działająca już na innych zasadach (np. jak zderzenia fal na wodzie po wrzuceniu garści kamieni) i w czasie T'' przez wyspecjalizowane neurony jest tłumaczony na jakieś dodatkowe dane wejścia do sieci synaptycznej. Między T, a T'' sieć powiązań synaptycznych cały czas działa itp. To oczywiście bajka. Chodzi o to, że nie wiemy, czy nie istnieją jakieś nieznane poziomy oddziaływań w mózgu (np. poziom kwantowy), które przecież mogą być niezbędne dla zaistnienia świadomości. Poziomy te mogą być zaś zależne od materii z jakiej zbudowana jest sieć powiązań, tym czasem w sieciach neuronowych zakłada się, że istotne są same te powiązania, ich formalny obraz. Gdyby tak w istocie było - to nie mój pomysł, ale moim zdaniem trafne spostrzeżenie - to można by sobie wyobrazić inteligencję zbudowaną z odpowiednio skonstruowanej sieci hydraulicznej. Nie pisałem, że z tego się rodzi świadomość, ale że może to być jeden z niezbędnych elementów układanki (i tak może być również wtedy, kiedy za świadomość odpowiadałyby same formalne związki, gdyż jak sam piszesz, to może być nowa forma przekazywania sygnału). Odkrycie jest bardzo świeże, nie uwzględnione w modelach sieci neuronowych. Chodzi mi o to, jak niewiele jeszcze wiemy, a jakie się ochocze zapowiedzi wygłasza. Zauważ, że sieć neuronowa - owszem - ewoluuje, ale w ustalonym modelu. Ewoluuje oznacza tu tylko, że "uczy się". Jest "mózgiem", który na pewnych ustalonych zasadach przyswaja dane. Tak jak człowiek uczy się przy użyciu wytyczonych granic własnego mózgu. Żeby zmienił się model konieczna zaś jest ewolucja sieci neuronowych (ewolucja mózgów). Nie zmienisz modelu działania własnego mózgu samym myśleniem. Stąd - jeśli błędny jest model sieci neuronowej ie. nie zawiera on elementu niezbędnego do uzyskania świadomości, to choćby ta sieć miała największą możliwą moc obliczeniową i uczyła się do końca czasu, nigdy tej świadomości nie uzyska. To jest ewentualność o której cały czas mówię.

Wystarczy poczytać Lema, ażeby stracić wszelką chęć na takie eksperymenty. Jest to z grubsza analogiczne do owego słynnego gdybania co by było gdyby: jesteś A, umierasz, na nieskończenie mały odcinek czasu przed utratą przytomności twoja świadomość zostaje przeniesiona do komputera, a następnie natychmiast przetransferowana do kopii twojego ciała. Czy zadowala Cię taka nieśmiertelność? To teraz wyobraź sobie, że oto okazuje się, że istnieje jednak lek i zostajesz odratowany. Nie wynika. Problem Chińskiego Pokoju to nie dowód, lecz dobre ujęcie całej masy wątpliwości związanych z AI. Program szachowy wygrywający z mistrzem świata nie zachowuje się równoważnie? Zachowuje. Myśli? Nie. I nie ma tutaj nic do rzeczy fakt, że język, a gra w szachy, to zupełnie różne czynności i program szachowy po prostu ma w bazie pamięci miliony możliwych rozwinięć rozgrywki i liczy prawdopodobieństwa. To samo bowiem może równie dobrze robić sieć neuronowa potrafiąca uprawiać pogawędki. Sedno jest takie, że z samych przejawów nie da się wnioskować o istocie, a osobiście nie widzę żadnych powodów, ażeby sieci neuronowe uważać za cokolwiek innego, niż zwykłe algorytmy, poza faktem, iż sieci te starają się naśladować mózg. W związku z tym trzeba się zapytać czy robią to dobrze. Otóż powszechnie się obecnie uważa, że póki co - nie. Sprzeczne wyniki w systemie 0/1 można otrzymać przy użyciu jednej zmiennej losowej i zróżnicowania zwracanej wartości np. względem podzielności przez 2. Żeby najzwyczajniejszy algorytm się nie zatrzymał, wystarczy się machnąć w warunku wyjścia z rekurencji. Tylko czy to oznacza, że nie możemy - jak Searle w swoim pokoju - przeprowadzić serii działań wymaganych przez algorytm języka? Wątpliwe. Poprawny algorytm języka musi się kończyć. Natomiast zmienne losowe można symulować chociażby nawet kostką. Czas wykonywania operacji w tym eksperymencie myślowym nie gra roli. Istotne jest to, że mimo tego, że zwracamy zawsze sensowne wyjście dla danego wejścia, to cały proces jaki za tym stoi jest bezmyślnym manipulowaniem znakami w czasie. Niemniej jednak - o ile jestem dobrze poinformowany - nie możemy go wykonać bez komputera kwantowego. Zwykła sieć neuronowa może być natomiast zmieniona w serię operacji, nie ma tutaj mowy o żadnej realnej równoległości. Może to w niej szukać "jaźni"? Podobnie jak wyniku wspomnianej funkcji z jedną zmienną losową i jednym warunkiem. Nie świadczy to ani o jakiejś tajemnej mądrości tych sieci, ani o tym, że nie możemy ich matematycznego mechanizmu zrozumieć. To czego nie możemy zrozumieć - zakładając, że jest to w ogóle możliwe - to jak ze zwykłych formalnych, krokowych operacji ma się niby rodzić jaźń.

Na koniec: uwierzę w możliwość przyszłej świadomości sieci neuronowych wtedy, kiedy ich natura nie będzie polegała na karmieniu ich danymi i oczekiwaniu jak w odpowiedzi na sygnał zwrotny te wagi będą się porządkowały względem danych w oparciu o przewidziane przez człowieka algorytmy (dla mnie to zwyczajna matematyka metody prób i błędów; nic więcej), ale kiedy sieć neuronowa po prostu i zwyczajnie stwierdzi - bez żadnych pobudzeń z wejścia, że jeśli A to B i sama z siebie zacznie badać "czy-A"

Oczywiście, że tego nie oznacza. Napisałem gdzieś inaczej? Nie zmienia to faktu, że naukowe nastawienie wymaga, ażeby nie sugerować bardziej skomplikowanych rozwiązań, kiedy nie zbadało się prostszych. W tym wypadku najprostsza odpowiedź narzuca się sama: sieć neuronowa, tak samo jak zwykły program komputerowy, nie posiada świadomości i rozumienia, lecz czysto formalnie operuje na symbolach. Żeby twierdzić inaczej trzeba mieć jakieś dodatkowe podstawy. Mógłbyś powiedzieć - i chyba to w dalszym ciągu swojej wypowiedzi sugerujesz - że w takim razie należy na początku badać najprostsze drogi, które mogłyby wieść do powstania sztucznej świadomości. Jestem jak najbardziej "za" - mówiłem już, że nie jestem w żadnym wypadku przeciwny takim badaniom. Nie można jednak zapominać, że mamy przesłanki, które każą wątpić, że sieć neuronowa może wytworzyć świadomość. Z sieciami neuronowymi tylko i wyłącznie dlatego wiązano nadzieje na stworzenie AI, iż miały one odpowiadać oddziaływaniom w mózgu. Z czasem jednak okazało się, że model jakim jest sieć neuronowa w żadnym wypadku nie może być uznany, za adekwatny model mózgu. Wnioski wyciągnij sam. Fascynaci AI są tutaj ofiarą czasowego porządku debaty - sieci neuronowe się utarły jako objawienie, mimo, iż nadzieje z jakich wypływały, okazały się złudne. I od dawna już takie twory mamy. Dyskusja idzie o świadomość i myślenie. Uczeń, który metodą prób i błędów dochodzi do metody rozwiązywania pewnych problemów matematycznych również się nauczył ich rozwiązywania. Niemniej nie można powiedzieć, że te problemy rozumie. A skąd te uporczywe założenie, że sama struktura synaptyczna odpowiada za rozumienie i - dalej - świadomość. Skąd ten nieodparty błąd myślowy? Bo sieci neuronowe są cool? Jedną z odpowiedzi na eksperyment myślowy Chińskiego Pokoju (odpowiedzią dość fantastyczną) było stwierdzenie, że istotna jest szybkość: gdyby Searle siedzący w pokoju manipulował tymi symbolami dostatecznie szybko, to dokonałoby się przejście fazowe ze stanów formalnych operacji, do stanów mentalnych. Fantastyka, ale podsuwająca ciekawe myśli. Co jeśli - czysto fantastycznie rozumując - świadomość rodzi się nie na poziomie przebiegu impulsów przez sieć neuronów, ale na poziomie wyższym. Np. gdyby impulsowi przypisać pewną bezwładność, albo powodowanie jakiegoś fizycznie uzasadnionego echa, których zderzenia kreują nowy poziom operacji (który zwraca dane, lub nie, do wyczulonych nań neuronów)? Do czego zmierzam? Do prostego pytania - czy krzemowy impuls elektryczny z konieczności musi, w swojej fizycznej naturze, umożliwiać powstanie echa analogicznego do owej hipotezy z mózgu naturalnego? Nie! Wnioski wyciągnij sam. Ja tylko zaznaczę, że już od dekad wiadomo, że za działanie mózgu odpowiada znacznie więcej, niż tylko formalne powiązania neuronów. I tak podział na struktury, jak sama materia z jakiej sieć neuronalna jest zbudowana i tysiące innych rzeczy mogą być warunkami koniecznymi dla zaistnienia rozumienia i świadomości. Przestają istnieć tylko w hipotezie speców od AI. Równie dobrze taki "mózg" nie tyle będzie "sztuczny", co nie będzie nigdy w pełnym tego słowa znaczeniu "mózgiem", bo immunologicznie odporny na bakcyla świadomości. Oczywiste no nie? To dlaczego komplikować rzeczy proste? Na przekór zasadzie na którą się sam powoływałeś, wychodzi się od prostego modelu który się rozbudowywuje, a nie od skomplikowanego który się upraszcza. Ja też nie rozumiem. I dlatego jej nie użyłem. Tak jest tylko dlatego, że my niczego nie wiemy o świadomości. Wielu tak to boli, że się ratują jakimiś absurdalnymi redukcjami, byle dalej "wierzyć" w AI. W porządku - zamknijmy więc to forum. I tak nie wiadomo, czy nowy Einstein nie podważył wszystkiego co wiemy.

Na wstępie: nie jestem specjalistą. Czytuję sporadycznie teksty popularyzatorskie. Co to znaczy "gorszy"? Nie możemy póki co z całą pewnością stwierdzić jak myśli realny kot, czy w ogóle posiada świadomość. Podobnie nie możemy stwierdzić jak myśli ten sztuczny i czy on posiada świadomość. Założenie, że jeśli rzeczywisty kot posiada świadomość, to posiada ją też ten sztuczny jest jeszcze bardziej wątpliwej natury, niż stwierdzenie, że kot sobie czasem "duma". Z paru powodów. Przykładowo: a) O sobie wiemy, że mamy świadomość. Mózg realnego kota jest nam bliższy materialnie, niż uruchomiona na krzemie sieć neuronowa. Możliwe, że materia mózgu ma znaczenie dla świadomości (m.in. o tym traktuje eksperyment Chińskiego Pokoju). Wiadomo, że sieci neuronowe strukturalnie nie są adekwatnym modelem realnego mózgu. Kolejne odkrycia różnice między nimi, a realnym mózgiem tylko pogłębiają. Nie chodzi nawet o to jak np. mózg jest podzielony na ośrodki i struktury, jakie zachodzą między nimi powiązania, jak działa system wejścia bodźców, jak produkowane i włączane do sieci są nowe neurony, ale nawet o samo działanie wyodrębnionego fragmentu sieci. Ostatnio - co jeszcze raz powtórzę - odkryto, że rozpylanie sygnałów, a nie ich przekazywanie przez połączenia synaptyczne jest w mózgu względnie powszechne. Co z interakcją materia biała, materia szara? Co z rozmaitymi równowagami chemicznymi w mózgu? To wszystko jest ISTOTNE dla działania mózgu. Nie mamy najmniejszego pojęcia jak to symulować, bo nie mamy większego pojęcia jak to w istocie działa. Jesteśmy w zarodku tej dziedziny nauki. Gdyby wszystko to udało się całkowicie odwzorować, to może, może sztuczny kot by zaczął myśleć. Możliwe, że by nie zaczął, bo np. materia mózgu ma znaczenie i nie da się odwzorować mózgu inaczej, jak go kopiując. Moim zdaniem w tym miejscu nie dokonujesz koniecznej - bo zakładanej przez ten eksperyment myślowy - abstrakcji. Nie jest istotne, czy algorytmizacja języka jest trudna czy łatwa. Jeśli jest możliwa - a skoro wierzysz w AI oparte o coś innego, niż komputery kwantowe, to zakładasz, że jest możliwa - to można ją rozpisać na papierze. Nie jest istotne, czy w ten sposób zasypiesz całą planetę fiszkami. Istotne jest to, że w ten sposób będziesz w stanie, dostając dane na wejściu, w sposób czysto formalny (bez żadnej semantyki ie. zrozumienia ie. świadomości) tak nimi manipulować, że otrzymasz dane na wyjściu sugerujące, że rozumiesz jęz. chiński. Tymczasem to będzie fałszywy wniosek. Póki nie znajdziemy jakiegoś mechanizmu jaki odpowiada za świadomość, należy przyjąć, że sieć neuronowa czy cokolwiek tam sobie wymyślimy, po prostu manipuluje symbolami, nie przejawiając przy tym świadomości, tak jak sortownia listów nie przejawia świadomości chociaż porządkuje przesyłki. Nie oznacza to, że możemy być pewni, że sieć nie ma świadomości; ale tak samo nie możemy być pewni, że ją posiada. I tutaj stosuje się słynną brzytwę, o której jakoś spece od AI zapominają. Różnicę intuicyjnie odczuwam, ale nie potrafię jej jasno ująć. Mam natomiast pytanie: podłączasz sieć neuronową do danych wejścia np. z kamery i co? Nic. Musisz przygotować ją do tego, ażeby zaczynała pewne dane interpretować jako obiekty. Jak to się dzieje, że ludzki mózg sam z siebie posiada odczucie "obiektu". Widzisz drzewo i wiesz, że nie jest to rosnący obok krzak. Odwracasz wzrok, ale wiesz, że to drzewo będzie tam nadal jak ponownie spojrzysz. Widzisz drugie drzewo i automatycznie wpasowujesz je w tę samą kategorię. Dziecko patrzy na przedmiot, przedmiot zostaje zasłonięty, zasłona opada, przedmiotu brak: zbadano, że to automatycznie rodzi w dziecku zdziwienie. Oczywiście - możemy np. stworzyć sieć, która jakoś tam kategoryzuje. Ale na Boga - przecież ona kategoryzuje w najlepszym razie tak, jak my rozumiemy kategoryzowanie na poziomie świadomym, bo w ten sposób tę sieć projektujemy. Decydujemy jakie cechy ma w ogóle zauważać, co w ogóle traktować jako przedmiot. W realnym umyśle jest to niesłychanie bardziej wysublimowane, na tyle, że nie wiemy jak to w ogóle działa. Zmierzam do tego - gdzie te aprioryczne tendencje ludzkiego (i nie tylko ludzkiego) umysłu są zakodowane i jak w ogóle można sądzić, że w najbliższym czasie, przy użyciu prymitywnych sieci neuronowych, skopiujemy umysł i świadomość, skoro nie rozumiemy na razie tak podstawowych problemów. Co dopiero problemów w rodzaju emocji, odczucia czasu, wreszcie świadomości. Całe AI to niesłychanie grube i toporne przybliżenia tego, co nam się wydaje, że nasz mózg robi. Nie pojmuję jak można wierzyć, że mając sieć neuronową o mocy obliczeniowej (o tyle o ile umiemy ją trafnie oszacować) kota, stworzymy zaraz coś, co myśli jak kot, albo chociaż w ogóle myśli. Neurony np. umieszczone w pożywce, automatycznie zaczynają się łączyć. Czy to przewidziano w tym modelu? Tę "zasadę ruchu" jaka tkwi w biologicznym mózgu? Tę jedną cechę neuronów - ich tendencję do łączenia się - można w model włączyć, ale tych cech są jeszcze tysiące (jeśli nie miliony); niezbadanych i na razie niepojętych. Tymczasem bierze się sam martwy szkielet formalnych połączeń i wierzy, że to odzwierciedla mózg. Bierze się przepływ prądu w bramkach logicznych i uważa, że to wystarczy za zasadę ruchu, kiedy ta w realnym mózgu jest oparta o niewyobrażalnie złożony system oddziaływań chemicznych pośród których oddziaływania synaptyczne (również co jakiś czas zaskakujące nas rewelacjami), to elementarny szkielet, szkolna arytmetyka przy teorii względności. Między innymi na naiwność takiego postępowania chciał na zwrócić uwagę Searle.

Do usunięcia!

Tę intuicję wyrażało wielu naukowców analizujących własne myślenie. Coś w tym jest. Emocja to bowiem nie tylko uczucie np. żalu, czy gniewu. Emocją jest również odczuwanie piękna, zaskoczenia, analogii itp. W depresji następuje otępienie emocji i upośledzenie procesów myślowych: wielu chorych intuicyjnie łączy jedno z drugim mówiąc np. o myślach pustych, pozbawionych sensu, bezbarwnych, a przez to "niekojarzących się" itp. O to właśnie chodzi. Sieci neuronowe nie przejawiają tego dodatkowego poziomu, który - moim zdaniem - odpowiada za myślenie abstrakcyjne i świadomość. Chodzi o "odczuwanie" przebiegu myśli, myślenie o myśleniu (które nie musi być od razu ludzką, językową refleksją, ale równie dobrze może odbywać się na poziomie bliższym uczuciom i wyobraźni, poziomie, który zresztą jest niesłychanie ważny także tam, skąd wielu chciałoby go wyrugować - w myśli naukowej). To właśnie specyficzne zderzenia myśli, odczuwane na poziomie uczuciowym jako takie, a nie inne (np. zaskakujące, analogiczne do, rozwiązujące napięcie, wzmagające je itp.), są - moim zdaniem - właśnie przez to, że są odczuwane, odpowiedzialne za powstanie jaźni. Nie ma też w sieciach neuronowych "zasady ruchu": nie wiemy na czym to polega, że naturalny mózg sam z siebie chłonie i uwewnętrznia świat. W sieciach neuronowych tą "zasadą ruchu" jest programista. Żeby sztuczny kot był choćby w pobliżu kota musielibyśmy znaleźć "zasadę ruchu", która napędza kota jako kota, jako istotę, która chłonie określone dane ze świata i chłonie je w określony sposób. Przede wszystkim warto pamiętać jedno: my naprawdę jeszcze niemal nic nie wiemy o działaniu mózgu. Dlatego stwierdzenia naukowców od AI muszą sprawiać wrażenie "pychy". Wiadomo, że mózg nie działa jak wirtualna sieć neuronowa - np. sygnały czasami nie idą przez powiązanie synaptyczne, lecz są rozpylane wokół. Oni jednak swoje - będziemy mieli sztucznego kota za kilkanaście lat.

Widzisz - a skąd Ty to możesz wiedzieć? Powtarzasz zwyczajne hipotezy oparte o badania, którym zawsze można wiele zarzucić. Z prostego powodu: nie mamy dostępu do tego, czym jest jaźń kota. W XIX wieku powszechnie zakładano - za Kartezjuszem - że żadne zwierze nie jest zdolne do abstrakcyjnych rozumowań. Nawet później wierzono też, że zwierze nie jest zdolne odczuwać. Z jednej strony jesteś skłonny - jak sądzę - zaakceptować Test Turinga (czy jego parafrazę: sztuczny kot zachowuje się w sposób nieodróżnialny od kota) jako kryterium, z drugiej nie jesteś. Nie jesteś, bo przeczysz obserwacjom tysięcy właścicieli kotów, którzy przypisują im zachowania analogiczne do ludzkich. I wierz mi - nie zawsze są to uczuciowi marzyciele gotowi wszystko personifikować. Prawda jest taka, że ten test to wierutna bzdura. Ściśle rzecz biorąc nie możemy stwierdzić, czy kot ma, czy też nie ma świadomości (chyba, że będziemy kotem, albo zdefiniujemy ściśle świadomość). Osobiście po prostu nie widzę powodu, ażeby sądzić, że zwierze tak zaawansowane jak kot nie ma żadnej świadomości, a człowiek ma. Możliwe, ale nie możesz zaprzeczyć, że sam o sobie sądzić, że masz świadomość, możesz spojrzeć spoza swojej aktualnej myśli, przeciwstawić siebie temu co myślisz. Nie wiesz czy kot nie potrafi tego na jakimś poziomie. Natomiast sieci neuronowe po prostu i zwyczajnie nie wykazują żadnych tego typu zachowań. One nawet wcale się same nie uczą. My je uczymy przypisując odpowiednie wartości (wagi) tendencjom na drodze od wejścia danych, do wyniku. Musimy zaplanować czego sieć będzie się uczyć itd. Zarówno kot jak i człowiek uczą się same przez się. O to właśnie chodzi - żywy mózg sam wytwarza przestrzeń mentalną w której operuje. Dlatego taka sieć neuronowa nie będzie kotem. Zawsze bowiem - przy obecnej naszej zdolności programowania takich sieci - coś co ją programuje nie jest w niej samej, ale w programiście. Nie jestem przeciwnikiem tych badań, lecz fałszywego obrazu jaki się zawsze wokół badań nad AI tworzy, w czym mają swój udział sami spece od AI (niepoprawni marzyciele).

Parę osób pisało o braku pokory. Ja bym raczej mówił o marketingu. Mamy system o mocy obliczeniowej równej mocy mózgu kota. Każdy zaraz myśli - stworzono sztucznego kota, jakiż to geniusz nauki. Tymczasem to dokonanie nie ma nic wspólnego ze sztucznym kotem. Bzdurą są również twierdzenia, że gdyby ta sieć posiadała środowisko kota, to zachowywałaby się jak kot. To jest naiwność. Sieci neuronowe uczy się konkretnych operacji, nikt nie stworzył sieci neuronowej, która po prostu i zwyczajnie by się UCZYŁA. Jak dla mnie jest to parafraza problemu świadomości. PO PROSTU SIĘ UCZY tylko istota świadoma, a o tym czym jest świadomość nauka nie ma jak na razie najmniejszego pojęcia. Weźmy przykład z kalkulatorem. Nie chodzi o to, że człowiek bierze pojęcie liczby, szuka algorytmu obliczania wyniku, dokonuje operacji. Chodzi o to, że zawsze jest tego ŚWIADOMY i może np. poszukując wyniku mnożenia dwóch liczb, zauważyć przy okazji zupełnie inną matematyczną zależność, dowieść jej i wtedy dokończyć mnożenie. Matematyk nie dostaje po prostu wejścia i nie daje wyniku na wyjściu: on widzi wykonywane operacje, ma system wyobrażeń, który w każdej chwili może świadomie korygować. Myślenie nie jest płaskie. Naukowcy chcieliby przypisać podstawowe jakości i uczyć sieć nimi operować. Tylko, że prawdziwy mózg sam kategoryzuje podstawowe jakości, sam tworzy przestrzeń mentalną w której działa. Jeśli istnieją jakieś podstawowe algorytmy które za tym stoją, to my nic o nich nie wiemy, a wygłaszamy jakieś brednie o bliskości powielenia mózgu (czy np. fakt, że niedawno dopiero odkryto, że pozasynaptyczny przekaz sygnałów w mózgu nie jest czymś marginalnym nie świadczy o tym jak niewiele możemy powiedzieć na temat tego, jak mózg w istocie działa?). Poza tym: problem Chińskiego Pokoju jest kluczowy (w różnych wersjach): żaden test Turinga nie przesądza o istnieniu świadomości, nawet identyczne zachowanie "wirtualnego kota" w idealnie odwzorowanym "sztucznym środowisku" w stosunku do zwykłego kota, nie oznacza, że "wirtualny kot" jest świadomy, że jest kopią kota. Odwrotne twierdzenie to mylenie behawioralnych przejawów myśli, z samą myślą. Świadomość, mózg, to coś więcej, niż płaska interakcja z otoczeniem, dawanie danych wyników przy danym wejściu, lub zdolność uczenia się konkretnych czynności. Świadomość to coś co to wszystko jednoczy.

Widzisz. Ja mam dokładnie takie samo wrażenie - czasem już tak jest. Po prostu to jest forum, a nie rozprawa doktorska i trudno oczekiwać, że w pełni wyrazimy to, co mamy na myśli. Ja również odniosę się jedynie do tej sytuacji, bo doskonale obrazuje ona, jak z kolei Ty nie odczytujesz tego, co ja staram się przekazać. I tutaj właśnie nie odczytujesz tego, że czarę określa się mianem "tarczy Donizosa", ażeby zamknąć w tych dwóch słowach całe bogactwo sensu. I Donizos i Ares są greckimi bogami. Ich atrybuty są jakbym "podpisem": Donizos jest bogiem wina i zabawy (czara), Ares bogiem wojny (tarcza). To są kosmiczne siły, odwiecznie władające wszechświatem. Wino i zabawa, a wojna to pozornie odległe rzeczywistości. Nazywając czarę "tarczą Donizosa" mówi się: czara jest tak samo wpisana w los, jak tarcza; dla boga wina czara jest tym samym, co tarcza dla boga wojny, a więc jest taką samą kosmiczną siłą, takim samym elementem rządzącym biegiem dziejów. I radość przy winie i wojna, są odwiecznym losem ludzkości. Po to jest właśnie metafora, ażebym nie musiał tego wszystkiego pisać, ani tak drobiazgowo o tym myśleć. Wystarczy, że przeczytam: "tarcza Dionizosa". I dlatego metafora pogłębia rozumienie i kompresuje myśl (co zresztą w pewnym stopniu jest jednoznaczne). Jak powiesz, że Drzewiecki znalazł swoją osobistą aferę Rywina, to nie będziesz mieszał pojęć i mącił - jak twierdzisz - lecz przeciwnie, w jednym zdaniu powiesz tyle, co wprost musiałbyś rozpisać na cały akapit. Tj. że prawdopodobnie jest skończony, że chciał załatwić interesy znajomych poprzez swoje wpływy na legislację, że został nagrany i nakryty, że wybuchła afera, że może skończyć się to komisją śledczą, że skoro znalazł, a więc szukał, a więc się "doigrał itp.

PS. Jeszcze odnośnie wątku metafory i analogii, małe poszerzenie, bo edycja się skończyła: Jak nazwiesz kierowcę, który na skrzyżowaniach równorzędnych, gdzie wszyscy stają i się zastanawiają, błyskawicznie ocenia sytuację, jedzie i w ten sposób rozwiązuje dylemat innych, "samcem alfa", to nie jest to jedynie jakoś tam dowcipne powiedzonko, ale ujęcie sytuacji drogowej poprzez znaną już sytuację panującą np. w stadzie wilków. Nie tylko "kompresuje" to myśl, ale pogłębia też zrozumienie np. tutaj odnosi do siebie odpowiednie sensy: taki kierowca jest "na górze", inni są dość bezwolni, ich skuteczność jest pochodną jego zdecydowania, tam gdzie się pojawi rozwiązuje z miejsca dylematy, możliwe też, że owo zdecydowanie przejawia się agresją na drodze, bo traktuje on innych z wyższością widząc ich bierność i niezdecydowanie, wie, że nikt nie może mu podskoczyć itp.

Niekoniecznie od razu zakrawającego na naukowy - w sensie zainteresowania naukami ścisłymi. To jest charakterystyczne dla hard sci-fi. Ale można przecież stworzyć dzieło, które daje nowe wejrzenie w ludzką psychologię, czy panujące stosunki społeczne. Bądź co bądź Freud sam przyznawał, że posiłkował się głębokimi obserwacjami mistrzów literatury Czy ja wiem czy nie mamy takich pisarzy... Choćby z własnego podwórka: Gombrowicz już co prawda nie żyje, ale nie jest jednak znowu tak odległą historycznie postacią, a jego książki są naprawdę odświeżające. Trans-Atlantyk czy Dzienniki to naprawdę ciekawa lektura. I to pomimo autorskiego przekonania o powszechnym relatywizmie. Niektórzy go nie lubią, ja się z nim po prostu nierzadko nie zgadzam, ale doceniam ciekawy punkt widzenia jakiego nam dostarcza. Wiele jego obserwacji społecznych jest nad wyraz trafnych. I ta dobra ukazuje. Najlepiej jednak gdy książka nie jest pisana pod tezę, lecz jakby z samego jej żywiołu wytryskuje sens (podobne rozróżnienie co w przypadku alegorii i symbolu); dlatego sztuka "edukacyjna" jak np. powieści tendencyjne z epoki pozytywizmu, jest raczej odrzucająca. Różnie z tym bywa. Wspomniany Gombrowicz pisał właściwie o sobie, o swoim spojrzeniu na świat, ale chociaż mam inną umysłowość, wiele jego spostrzeżeń uznałem za warte przemyślenia. No i ten specyficzny dowcip. Także nie można uogólniać - przecież mamy własny rozum i możemy ocenić co jest dla nas przekonujące. Chyba, że przez ekspresję rozumiesz wyrażanie jakichś ochów i achów, albo miłosnego cierpiętnictwa - tego też nie znoszę. Chyba rzeczywiście to właśnie miałeś na myśli Owszem. Ale zdolność myślenia analitycznego można porównać do warunku koniecznego bycia naukowcem. Natomiast zdolność dokonywania wielkich syntez i proponowania całkowicie nowych rozwiązań, to już maestria. Są i tacy, którzy rodzą się geniuszami. Oni już ćwicząc rzemiosło są mistrzami. Do głowy wchodzi im wszystko i od samego początku bawią się wiedzą: proponują własne rozwiązania, wyciągają dalekie wnioski, dostrzegają głębokie analogie, nigdy nie są na etapie samego jedynie "przyswajania". Nie mylmy działalności artystycznej z mistyką. No może ze strony szalonych naukowców rzeczywiście nikłe. Ale ze strony naukowców pazernych, czy skrzywionych ideologicznie i działających w odpowiednim miejscu, już nie tak małe. Swoją drogą - był taki Amerykanin polskiego pochodzenia, nazywał się Unabomber: http://ateizm.host.sk/texty/unamani.htm To prawda. Problem w tym, że wielu naukowców z oddaniem pracuje dla tych nieodpowiedzialnych, czy wręcz fanatycznych wojskowych i polityków. Według mnie w powyższym artykule dowiedziono korelacji między kreatywnością osobnika, a zapadalnością na choroby psychiczne. Vincent van Gogh spełnij jedynie rolę anegdotki. Tyle, że metafora służy właśnie wydajności. Podobnie analogia. Zamyka skomplikowane powiązanie w jednej myśli. Jak z tą 'tarczą Dionizosa' - od razu widzisz przed oczami Dionizosa, który tak operuje swoją czarą, jak Ares tarczą; te atrybuty określają ich bytowo: jeden jest bogiem wina i hulanki, drugi bogiem wojny; to jest ich natura, każdy ma swoją odwieczną rolę w systemie wszechświata; jak nieodzowna i wciąż powtarzająca się jest wojna, tak nieodzowna i wiecznie powracająca jest radość; wszystko przeplata się w czasie, aż po kres dziejów. A to wszystko w dwóch słowach Arystoteles uważał, że zdolność zręcznego posługiwania się metaforą jednoznacznie określa człowieka jako inteligentnego. S.Banach - jedyny polski geniusz matematyczny - stwierdził: dobry matematyk dostrzega analogie, genialny matematyk dostrzega analogie między analogiami. Bo należy odróżniać dzieło, od osoby twórcy. Naukowcy też mają swoje ułomności. Czy to, że R.Feynman eksperymentował z LSD i przez pewien czas nadużywał alkoholu skreśla jego dokonania? Więc nie popełniaj błędu oceny dzieła przez twórcę. Fakt, że ktoś szuka leku na raka nie oznacza, że on szuka tego leku by zbawić ludzkość. Jak już pisałem: ambicje, poczucie, że jest się w czymś dobrym, żądza sławy itd. są równie nieobce naukowcom, co artystom.

PS. Oczywiście miałem na myśli wirusa ospy, a nie bakterię

Sam to się on reguluje w ideologicznej bajce. Tak jak kapitalizm - aż przestanie się regulować z winy ludzi. Zakładasz tutaj bardzo wiele wątpliwych tez. Nieprawdą jest, że nie produkuje się nieselektywnej broni biologicznej. Produkowało się ja dawniej - np. w ZSRR czy USA - i wielu miejscach produkuje nadal. Zanim zresztą broń dopracuje się jako selektywną, to prowadzi się badania. Nie muszą to być również badania militarne - powszechnie znany jest przypadek australijskich naukowców, którzy bezmyślnie opublikowali w ogólnodostępnym magazynie naukowym sposób modyfikacji bakterii (bodajże ospy), który uodparniał ją na działania wszelkich dostępnych leków. Poniżej dalsze dziwne założenia. Oczywiście, że może, gdyż jest to broń cicha. Idealna do ataków terrorystycznych. Jak skazisz źródła wody wielkiej metropolii, to będziesz miał co najmniej dziesiątki tysięcy ofiar. Ponownie - co Ty z tym uciekaniem w kierunku otwartego konfliktu militarnego? Tutaj dokonujesz sztandarowego błędnego założenia. Że bronią tą posłuży się państwo; albo, że żadne państwo nie jest i nie może być rządzone przez szaleńca. Tym czasem przykładów szaleńców u władzy dostarcza historia - Hitler pod koniec życia popadł już w takie szaleństwo, że uważał, iż Niemcy jako naród nie zasługują na przetrwanie - gdyby w tym okresie mógł, użyłby broni masowej zagłady nawet gdyby skończyło się to totalną zagładą narodu. Natomiast Pakistan jest państwem tak zdestabilizowanym, iż od paru lat eksperci dwoją się i troją co zrobić, ażeby arsenał nuklearny tego państwa nie wpadł w ręce Talibów. USA pompują miliardy dolarów na ochronę tych arsenałów, a jakieś pół roku temu okazało się, że miast wzmacniać tę ochronę Pakistańczycy zaczęli poszerzać arsenał nuklearny. Pakistan jest również w stanie wysokiego napięcia ze swoim nuklearnym rywalem i sąsiadem - Indiami (konflikt kaszmirski). Więc pytam - jesteś pewien, że Talibowie nie użyliby broni nuklearnej? Albo, że np. w Iranie nie dojdzie do władzy całkowity szaleniec i fanatyk religijny (np. schizofrenik wierzący, że jest kolejnym wcieleniem Mahometa i święcie przekonany, że atakiem nuklearnym na Izrael zbawi cały naród)? Z Rosją jest coraz gorzej i wie to zarówno władza w Rosji - stąd rosnący nacjonalizm, jak eksperci na całym świecie. O tym, że arsenał nie jest tam dostatecznie chroniony nie ma co już nawet wspominać - tutaj kłócisz się z faktami; jak poszukasz to znajdziesz w necie zatrzęsienie artykułów i ekspertyz o tym zagrożeniu. Nie wiem, dla mnie oczywistym jest, że w zdestabilizowanym kraju, w którym panuje bieda i jest stosunkowo łatwa dostępność do nielegalnych materiałów, nietrudno o to, że jakiś naukowiec sprzeda się jakiemuś fanatycznemu reżimowi. To, że się sprzedają jest faktem. Kwestia czasu, aż sprzeda się odpowiedni naukowiec, odpowiednim ludziom i wyniesie odpowiednie materiały (lub zrobi to ktoś trzeci).

A kto mówi tutaj o polu walki? Wykradnie taki szaleniec zmodyfikowaną genetycznie bakterię z laboratorium i wpuści do miejskiej kanalizacji. Kropka. Oczywiście, że nie ma. Broń chemiczną i biologiczną mają przypadkiem, a Pakistan - kraj islamski - równym przypadkiem ma broń nuklearną. Z krajów z innego klimatu ideologicznego: Korea Płn. czy Indie (oba państwa w stanie zapalnym). Naprawdę? Dramatyczny kryzys gospodarczy, rosnące wyludnienie, oligarchiczny system władzy, zaangażowanie w kilka uśpionych konfliktów, niebotyczna korupcja, rosnące niezadowolenie społeczne (m.in. ataki na państwowe instytucje w paru republikach), nieunikniona konfrontacja z Chinami o południowe prowincje, zabójstwa polityczne, doniesienia wprost mówiące o zniknięciach postsowieckiego arsenału (ostatnio ktoś za kilkaset dolarów kupił myśliwce)... To nie jest niestabilność? To ja już nie wiem co nią jest. Ten monolit o którym mówisz, to próba pochwycenia wymykających się z rąk sznurków za pomocą propagandy nacjonalistycznej. A Rosja nie musi laboratoriów stawiać: ma wykształconą za sowietów kadrę - która gotowa jest się sprzedać jakimś chorym reżimom; postsowieckie placówki, magazyny (z niedostateczną ochroną, co od dawna uznawane jest za poważny problem) itd.