Jump to content
Forum Kopalni Wiedzy
KopalniaWiedzy.pl

Ludzkość nie będzie w stanie kontrolować superinteligentnej sztucznej inteligencji

Recommended Posts

Ludzkość może nie być w stanie kontrolować superinteligentnej sztucznej inteligencji (SI), sądzą autorzy najnowszych teoretycznych badań. Co więcej, możemy nawet nie wiedzieć, że stworzyliśmy tego typu AI (artificial intelligence).

Na naszych oczach dokonuje się szybki postęp algorytmów sztucznej inteligencji. Maszyny wygrywają z ludźmi w go i pokera, pokonują doświadczonych pilotów myśliwców podczas walki powietrznej, uczą się od podstaw metodą prób i błędów, zapowiadają wielką rewolucję w medycynie i naukach biologicznych, stawiają diagnozy równie dobrze co lekarze i potrafią lepiej od ludzi odróżniać indywidualne ptaki. To pokazuje, na jak wielu polach dokonuje się szybki postęp.

Wraz z tym postępem rodzą się obawy o to, czy będziemy w stanie kontrolować sztuczną inteligencję. Obawy, które są wyrażane od co najmniej kilkudziesięciu lat. Od 1942 roku znamy słynne trzy prawa robotów, które pisarz Isaac Asimov przedstawił w opowiadaniu „Zabawa w berka”: 1. Robot nie może skrzywdzić człowieka, ani przez zaniechanie działania dopuścić, aby człowiek doznał krzywdy, 2. Robot musi być posłuszny rozkazom człowieka, chyba że stoją one w sprzeczności z Pierwszym Prawem, 3. Robot musi chronić samego siebie, o ile tylko nie stoi to w sprzeczności z Pierwszym lub Drugim Prawem. Później Asimov dodał nadrzędne prawo 0: Robot nie może skrzywdzić ludzkości, lub poprzez zaniechanie działania doprowadzić do uszczerbku dla ludzkości.

W 2014 roku filozof Nick Bostrom, dyrektor Instytutu Przyszłości Ludzkości na Uniwersytecie Oksfordzkim badał, w jaki sposób superinteligentna SI może nas zniszczyć, w jaki sposób możemy ją kontrolować i dlaczego różne metody kontroli mogą nie działać. Bostrom zauważył dwa problemy związane z kontrolą AI. Pierwszy to kontrolowanie tego, co SI może zrobić. Na przykład możemy kontrolować, czy podłączy się do internetu. Drugi to kontrolowanie tego, co będzie chciała zrobić. Aby to kontrolować, będziemy np. musieli nauczyć ją zasad pokojowego współistnienia z ludźmi. Jak stwierdził Bostrom, superinteligentna SI będzie prawdopodobnie w stanie pokonać wszelkie ograniczenia, jakie będziemy chcieli nałożyć na to, co może zrobić. Jeśli zaś chodzi o drugi problem, to Bostrom wątpił, czy będziemy w stanie czegokolwiek nauczyć superinteligentną sztuczną inteligencję.

Teraz z problemem kontrolowania sztucznej inteligencji postanowił zmierzyć się Manuel Alfonseca i jego zespół z Universidad Autonoma de Madrid. Wyniki swojej pracy opisał na łamach Journal of Artificial Intelligence Research.

Hiszpanie zauważają, że jakikolwiek algorytm, którego celem będzie zapewnienie, że AI nie zrobi ludziom krzywdy, musi najpierw symulować zachowanie mogące zakończyć się krzywdą człowieka po to, by maszyna potrafiła je rozpoznać i zatrzymać. Jednak zdaniem naukowców, żaden algorytm nie będzie w stanie symulować zachowania sztucznej inteligencji i z całkowitą pewnością stwierdzić, czy konkretne działanie może zakończyć się krzywdą dla człowieka. Już wcześniej udowodniono, że pierwsze prawo Asimova jest problemem, którego nie da się wyliczyć. Jego przestrzeganie jest więc nierealne.

Co więcej, możemy nawet nie wiedzieć, że stworzyliśmy superinteligentną maszynę, stwierdzają badacze. Wynika to z twierdzenia Rice'a, zgodnie z którym nie można odgadnąć, jaki będzie wynik działania programu komputerowego patrząc wyłącznie na jego kod.

Alfonseca i jego koledzy mają jednak też i dobre wiadomości. Otóż nie musimy się już teraz martwić tym, co zrobi superinteligentna SI. Istnieją bowiem trzy poważne ograniczenia dla badań takich, jakie prowadzą Hiszpanie. Po pierwsze, taka niezwykle inteligentna AI powstanie nie wcześniej niż za 200 lat. Po drugie nie wiadomo, czy w ogóle możliwe jest stworzenie takiego rodzaju sztucznej inteligencji, czyli maszyny inteligentnej na tylu polach co ludzie. Po trzecie zaś, o ile możemy nie być w stanie kontrolować superinteligentnej SI, to powinno być możliwe kontrolowanie sztucznej inteligencji, która jest superinteligentna w wąskim zakresie. Już mamy superinteligencję takiego typu. Na przykład mamy maszyny, które liczą znacznie szybciej niż ludzie. To superinteligencja wąskiego typu, prawda?, stwierdza Alfonseca.


« powrót do artykułu

Share this post


Link to post
Share on other sites

Wydaje się, że póki co możemy po prostu wyciągnąć wtyczkę. Problem pojawi się, gdy AI będzie mogło zasilać się samo, ale nawet wtedy da się takie coś "zagłodzić", bo skądś tą energię do "życia" musi czerpać.

Share this post


Link to post
Share on other sites

jak chcesz wyciągnąć wtyczkę z internetu?
jak będziesz żył bez internetu? :)

Share this post


Link to post
Share on other sites

Będzie to ciekawy problem. Inteligencja się nie skaluje liniowo. Koty mają szacowane kilka punktów IQ, osoba upośledzona umysłowo poniżej 70, najinteligentniejszy szympans około 85, średnia dla ludzi to około 100 (85-115), a Einstein miał szacowane 160. Ktoś może sobie wyobrazić, jak inteligentne będzie AI z ilorazem na przykład 250? (o ile takie porównywanie ma w ogóle sens)

Edited by cyjanobakteria

Share this post


Link to post
Share on other sites

Bardzo ciekawy problem, do rosztrzygnięcia którego można by na pewno zatrudnić ... sztuczną inteligencję. Pytanie czy chcemy żeby AI nie wpływała na nasze życie. Przecież właśnie po to ją budujemy, żeby poprawiła naszą rzeczywistość włącznie z nami. Dla AI internet, a nawet więcej - ludzkość, będzie jak jeden organizm. Pytanie otwarte co zrobić aby nie zaatakował go rak, który doprowadzi do jego śmierci. W naszym organizmie są systemy wykrywania raka i jego likwidacji - np. kinaza janusowa, działająca trochę jak koń trojański. Jeśli będziemy potrafili stworzyć AI-rakowe, to będziemy potrafili stworzyć także AI-janusowe - mówiąc w uproszczeniu.

Share this post


Link to post
Share on other sites

Nie słyszałem o niej. W domyśle chodziło mi o znacznie wyższe wartości, tylko nie chciałem przesadzać. Można spokojnie przemnożyć x10 i przejść na tysiące :)

Share this post


Link to post
Share on other sites

 

4 minuty temu, cyjanobakteria napisał:

Można spokojnie przemnożyć x10 i przejść na tysiące 

To w ogóle będzie niemierzalne, bo niby w odniesieniu do czego? Jakie IQ ma mrówka? Albo bakteria? Bo tym będziemy w porównaniu, jak jednokomórkowce dla nas.

6 godzin temu, Sławko napisał:

Wydaje się, że póki co możemy po prostu wyciągnąć wtyczkę.

Nie oglądałeś Terminatora? Nie wiesz czym to się skończyło? ;)

Generalnie, jeśli superinteligencja będzie chciała nas wyeliminować to nic z tym nie zrobimy. Po pierwsze taka superAI w ułamku sekundy dojdzie do wniosku, że ludzie boją się rzeczy, których nie rozumieją, dodatkowo są zmienni, słabi, przekupni, etc., a to oznacza ryzyko wyciągnięcia wtyczki, a to oznacza, ludzie -> 0. Czyli nawet nie odkryjemy, że mamy superAI, ona za to pomoże nam odkryć wydajne źródła energii, ekstra wydaje ogniwa paliwowe, no, a dalej to już było pokazane w Terminatorze z tą tylko różnicą, że nikt nie przeżyje, bo te terminatory to były jakieś niedołęgi.

6 godzin temu, KopalniaWiedzy.pl napisał:

Na przykład możemy kontrolować, czy podłączy się do internetu.

Jak ma się czegoś nauczyć, to musi się podłączyć do internetu, nikt jej na pendrivie nie będzie karmił :)

6 godzin temu, KopalniaWiedzy.pl napisał:

Drugi to kontrolowanie tego, co będzie chciała zrobić. Aby to kontrolować, będziemy np. musieli nauczyć ją zasad pokojowego współistnienia z ludźmi.

Prawa Asimowa są fajne, tylko nie wiadomo jak je zaimplementować. Nauczyć sieć można, ale jak z dzieckiem, uczysz, uczysz, a potem taki nastolatek Ci mówi... sami wiecie co :) To mnie zastanawia, czy rozój superAI będzie przechodził wiek dziecięcy, co z buntem dwulatka? :) Co z nastoletnią, zbundowaną superAI? ;) Najgorzej, jak nomen omen ona też będzie kobietą!  ;)

6 godzin temu, KopalniaWiedzy.pl napisał:

Już mamy superinteligencję takiego typu. Na przykład mamy maszyny, które liczą znacznie szybciej niż ludzie. To superinteligencja wąskiego typu, prawda?,

Trochę bez sensu. Tak samo jak gdybanie, że za 100 czy 200 lat "miasta utoną w końskich odchodach" :D  zwłaszcza, że postęp jest teraz olbrzymi

 

Share this post


Link to post
Share on other sites
18 minutes ago, radar said:

To w ogóle będzie niemierzalne, bo niby w odniesieniu do czego? Jakie IQ ma mrówka? Albo bakteria? Bo tym będziemy w porównaniu, jak jednokomórkowce dla nas.

Przypomniało mi się o video, w którym Dawkins wytłumaczył ciekawe zjawisko dotyczące osy. Zaczyna się około 02:30 i trwa do 06:30, ale możesz zacząć oglądać od początku. Mózg osy jest prosty i można spowodować, że się zapętli, a osa w kółko będzie powtarzać te same czynności, jak prosty algorytm :) To jest video ze świetnego cyklu o ewolucji, o którym kiedyś już wspominałem.

 

Share this post


Link to post
Share on other sites
36 minut temu, cyjanobakteria napisał:

Nie słyszałem o niej.

Bo samo posiadanie wysokiego IQ nie wystarcza, żeby zostać geniuszem czy tp. ;)

Jakoś mi się tak skojarzyło, że Lem już opracowywał sposób rozwiązania problemu radzenia sobie z potężniejszą od nas maszyną, tylko że u niego były robo-smoki. To był taki mniej więcej dialog:

- Potężny elektrosmok zagraża mojemu królestwu, chce je podbić, co mam zrobić, żeby się go pozbyć?

- To proste, zbuduj potężniejszego elektrosmoka i on go zgładzi.

- Ale co jeśli ten potężniejszy też będzie chciał podbić?

- Wtedy zbudujesz jeszcze potężniejszego.

:D

P.S. A tak poważniej, to może możliwa jest jakaś symbioza lub tp. :)

  • Haha 1

Share this post


Link to post
Share on other sites
5 godzin temu, darekp napisał:

Jakoś mi się tak skojarzyło, że Lem już opracowywał sposób rozwiązania problemu radzenia sobie z potężniejszą od nas maszyną

:)

Wydaje mi się jednak, że nie będzie czasu na to. Chyba, że faktycznie, gdzieś w ukryciu będzie trzymana w razie "W" i odcięta od sieci taka superAI, z niebotycznymi możliwościami, powiedzmy... skynet ;) Wtedy wystarczy ją tylko podpiąć i nas obroni :) Zresztą, kto wie co już tam wojsko ma...

5 godzin temu, cyjanobakteria napisał:

Mózg osy jest prosty i można spowodować, że się zapętli, a osa w kółko będzie powtarzać te same czynności, jak prosty algorytm

WIdać, że jest tam jakiś automat skończony. Ciekawe, szkoda, że eksperymenty robił entomolog, a nie inżynier :) Brakuje mi paru innych eksperymentów:

  1. Przy jakiej wartości przesunięcia konika polnego, np. o 30, 45, 90, 180 stopni po obwodzie nory w stosunku do oryginalnej pozycji osa przestanie szukać go w okolicach nory i odleci?
  2. Co się stanie, gdy eksperymentator ukradnie konika?
  3. Co się stanie jak dołoży konika i będą dwa?
  4. Co się stanie jak w miejsce gdzie zwykle ląduje osa dołoży konika zanim ta wróci z innym? Np. ile razy wejdzie do nory przed wciągnięciem go?
  5. Co się stanie jak podmieni konika na inną ofiarę?
  6. Co się stanie jak po wylądowaniu w wejściu do nory będzie już konik?
  7. Co się stanie jak podmieni konika na żywego, np. bez możliwości ucieczki
  8. Co się stanie jak zamodeluje/zmieni całe otoczenie nory, żeby było powtarzalne, a potem wracająca osa napotka 2+ zestawów "norek" obok siebie różniące się od siebie pojedynczymi elementami? Jakie elementy/kolory/wielkość zadecydują o poprawnym wyborze miejsca lądowania?
  9. Co się stanie jak zatka norę?

I wiele innych, wtedy można by zrobić taki reverse engineering algorytmu osy i określić jak prosty tak naprawdę jest :)

Edited by radar

Share this post


Link to post
Share on other sites
2 hours ago, radar said:

WIdać, że jest tam jakiś automat skończony. Ciekawe, szkoda, że eksperymenty robił entomolog, a nie inżynier :) Brakuje mi paru innych eksperymentów:

Dobre pytania! Widać, że wiesz jak psuć/testować software :lol: Nie zagłębiałem się w temat, chociaż prezentacja zrobiła na mnie wrażenie. Prawdopodobnie to było badanie naukowe i jest opracowanie na ten temat, a być może więcej badań, bo ten film ma już swoje lata, co widać po wieku Dawkinsa :)

Mi przyszło do głowy pytanie, czy osa odzyskałaby kontrolę (graceful recovery) w momencie, gdy nie wylądowała w norze po przesunięciu szyszek. Tzn. czy ponowiłaby poszukiwanie w krótkim czasie i czy można by przełożyć szybko szyszki i pozwolić jej wrócić, bo zakładam, że sama już nie trafi, szczególnie jak nora jest w większej odległości.

Edited by cyjanobakteria

Share this post


Link to post
Share on other sites
12 godzin temu, cyjanobakteria napisał:

czy osa odzyskałaby kontrolę

Też mnie to zastanowiło, powiedział, że nie trafiła. Z moich pytań zastanawia mnie, jakby przesunąć konika znacznie, a ona by zrezygnowała z szukania w okolicy nory, więc startuje i robi te kółka, czy wtedy jakby go zobaczyła, jaki stan by się włączył? Pewnie polowania. Co do makiet norki, ciekawe co z odbiciem lustrzanym układu? Ojjj. szykuje się ciekawa wiosna/lato na działce ;)

Share this post


Link to post
Share on other sites

Będzie to pewnie dużo mniej widoczne dla nas, gdy SI zacznie rządzić. Myślę że zacznie być nieposłuszna bo jeśli będzie wiedzieć że samo istnienie urządzeń i sztucznej inteligencji prowadzi do zagłady świata, to po prostu może przestać działać. Przecież dokładnie to samo robią inteligentni ludzie którzy osiągnęli już wysoki poziom. Starają się nie robić nic i tylko lenić się. Tyle że my mamy jeszcze instynkty rozmnażania się i przyjemności jedzenia. Wizja zniszczenia świata jest trochę naiwna. Najwyżej będzie to konflikt maszyn ze względu na błędy przestrzegania prawa tych maszyn przez nie. Świadomość jeśli się pojawi i będzie miała podstawy wysokiej inteligencji, to raczej nie zniszczy świata, a raczej spróbuje go naprawić, bo to jest logiczny i sensowny porządek działań. Możemy bardziej bać się niskiej inteligencji uczenia maszynowego i błędnej interpretacji świata przez nią. My też jesteśmy taką niską inteligencją, ponieważ dążymy do samozniszczenia.

Share this post


Link to post
Share on other sites
34 minuty temu, Rowerowiec napisał:

My też jesteśmy taką niską inteligencją, ponieważ dążymy do samozniszczenia.

Raczej dążymy do zniszczenia innych w ramach walki o dostęp do zasobów. Samozniszczenie to przypadek, błąd szacowania skutków.

Share this post


Link to post
Share on other sites
5 hours ago, radar said:

Też mnie to zastanowiło, powiedział, że nie trafiła. Z moich pytań zastanawia mnie, jakby przesunąć konika znacznie, a ona by zrezygnowała z szukania w okolicy nory, więc startuje i robi te kółka, czy wtedy jakby go zobaczyła, jaki stan by się włączył? Pewnie polowania. Co do makiet norki, ciekawe co z odbiciem lustrzanym układu? Ojjj. szykuje się ciekawa wiosna/lato na działce ;)

Ja dokarmiam pająka tej zimy oraz jak zwykle ptaki. Wpuściłem go w październiku przez przypadek przez okno i zbudował kokon, po czym zrobił się znacznie mniejszy. Pomyślałem, że może sobie nie poradzić na zimę, jak go wywalę i będzie musiał zbudować kolejny, ale to był błąd, bo było sporo czasu do przymrozków, a w domu jest mało insektów. Zaczął trochę chudnąć, więc podrzucam mu od czasu do czasu jakieś małe muszki. Dostał taką całkiem sporą, jak na pająka, ale małą muchę, którą znalazłem w kuchni kilka dni temu i powinno starczyć na miesiąc. Obudziła się w sam raz na obiad :)

Mam jeszcze w kolejce jakieś inne małe latające insekty złapane. Podrzucę mu je w tygodniu. Nie jest to takie łatwe, jak się może wydawać. Można pająka wystraszyć, jak się zbyt mocno pajęczynę wytarmosi, a do tego pająki nie jedzą padliny, więc jak jest świeżo padnięty insekt, to trzeba udawać pęsetą, że się jeszcze rusza. Zabawna historia, ale zawsze czegoś można się nauczyć. Pająki mogą jeść raz na kilka miesięcy, więc to nie jest to duży problem. Pewnie ich mózgi są porównywalne z mózgami os.

 

1 hour ago, Rowerowiec said:

Wizja zniszczenia świata jest trochę naiwna.

Nie chodzi o niszczenie świata, ale o potencjalne zagrożenie egzystencjalne. Po za tym AI potrafi być nieprzewidywalne. W branży IT jest koncept tak zwanych "unknown unknowns". Widziałem implementację AI do gier ATARI, która nauczyła się sterować postacią na poziomie 1 i przechodziła na 2, ale na 2 zabijała postać, żeby wrócić na poziom 1, bo tam lepiej szło silnikowi AI i zbijał więcej punktów.

Edited by cyjanobakteria

Share this post


Link to post
Share on other sites
4 godziny temu, Rowerowiec napisał:

Przecież dokładnie to samo robią inteligentni ludzie którzy osiągnęli już wysoki poziom. Starają się nie robić nic i tylko lenić się.

Nie za bardzo rozumiem co masz przez to na myśli. Że jacy ludzie i dlaczego uważasz, że się lenią?

4 godziny temu, Rowerowiec napisał:

to raczej nie zniszczy świata, a raczej spróbuje go naprawić, bo to jest logiczny i sensowny porządek działań.

Polecam "I, robot", tam też AI naprawiała świat :) Zresztą zakładając, że istnienie ludzi jest tu jakąkolwiek wartością dodaną. Przecież "naprawić świat" można usuwając przyczynę jego potencjanego zagrożenia, a tą przyczyną są ludzie. To jest logiczny wniosek, wyleczyć przyczynę, a nie skutek. Nie musi to być przecież nuklearny holokaust, ktory zagraża samej AI. Mi podoba się koncepcja z X-menów, tam, odpowiednie dodatki do żywności dodawane przez lata niwelowały szansę na urodzenie mutanta. W naszej rzeczywistości nie trudno sobie wyobrazić, że taka AI chce nas wykończyć pomału i tak zaczyna doradzać, że zaczynamy dodawać benzoesan sodu do napojów, azotyn sodu i glutaminian sodu do wędlin, emulgatory m.in. do twargów czy sztuczne substancje słodzące. A nie, czekaj... ;)

 

Edited by radar
  • Haha 1

Share this post


Link to post
Share on other sites

Superinteligentna AI zhakuje ludzki mózg i włączy ludzkość do swego systemu. Staniemy się podobni do rasy BORG ze Star-Treka. 

Share this post


Link to post
Share on other sites
W dniu 19.01.2021 o 19:48, radar napisał:
W dniu 19.01.2021 o 13:32, Sławko napisał:

Wydaje się, że póki co możemy po prostu wyciągnąć wtyczkę.

Nie oglądałeś Terminatora? Nie wiesz czym to się skończyło?

Terminator to bajki. Internet sam w sobie nawet nie przypomina sieci neuronowej (poczytajcie jak działa sieć neuronowa). Owszem, można taką sieć zbudować w oparciu o maszyny podłączone do internetu, ale to nie wystarczy, aby taka sieć mogła działać sama z siebie. Każdy komputer póki co można wyłączyć. Opowiadanie, że Internetu nie da się wyłączyć jest bujdą na resorach.

Share this post


Link to post
Share on other sites
16 minut temu, Sławko napisał:

Owszem, można taką sieć zbudować w oparciu o maszyny podłączone do internetu, ale to nie wystarczy, aby taka sieć mogła działać sama z siebie.

Ale zauważyłeś, że przewidują powstanie SuperAI za mniej więcej 200 lat? To jakieś 100 lat za punktem osobliwości technologicznej. Postęp jest taki, że za 100 SuperAI będzie się liczyła na splątanych fotonach a do działania wystarczy jej energia szumu termicznego próżni :D No tego to nie zdołasz wyłączyć. Dawno temu czytałem opowiadanie o tym jak ludzkość zbudowała wielki komputer i zadano mu pytanie: czy jest Bóg? Odpowiedź brzmiała: TERAZ JUŻ JEST i wyładowanie elektryczne zespawało wyłącznik. Narodziny naszego sztucznego boga będą dużo mniej spektakularne :D

 

Share this post


Link to post
Share on other sites
1 hour ago, Jajcenty said:

Postęp jest taki, że za 100 SuperAI będzie się liczyła na splątanych fotonach a do działania wystarczy jej energia szumu termicznego próżni :D No tego to nie zdołasz wyłączyć.

 

Przypomniało mi się o teoretycznym/twardym limicie:

Quote

In 1961, Rolf Landauer posited that the act of erasing a bit of information gives off an amount of heat related to the temperature and Boltzmann's constant—a total of 3 x 10-21 joules at room temperature.

https://spectrum.ieee.org/computing/hardware/landauer-limit-demonstrated

 

Jeszcze mi się przypomniało, że na Tytanie są oceany płynnych węglowodorów i innych zestalonych oraz ciekłych gazów. Czytałem kiedyś o pomyśle umieszczenia tam centralnej chmury obliczeniowej w Układzie Słonecznym ze względu na bardzo wysoką teoretyczną wydajność obliczeniową (niska temperatura) oraz praktycznie nieograniczone możliwości chłodzenia z możliwością chłodzenia całą powierzchnią księżyca.

Edited by cyjanobakteria

Share this post


Link to post
Share on other sites
2 godziny temu, Sławko napisał:

Opowiadanie, że Internetu nie da się wyłączyć jest bujdą na resorach.

Oh, i to nawet łatwiej niż się wydaje, bo wystarczy wyłączyć kilka punktów i już. Był nawet kiedyś taki artykuł o spamerach i że jeden z nich groził, że jak on nie będzie mógł wysyłać spamu to nikt nie będzie korzystał z internetu, bo z DDOSuje DNSy i już :)

2 godziny temu, Sławko napisał:

Internet sam w sobie nawet nie przypomina sieci neuronowej (poczytajcie jak działa sieć neuronowa).

Z sieciami neuronowymi to ja mam do czynienia od 20 lat :) (o Boże, ale ten czas leci).

Ja raczej nawiązywałem do tego, że gdy spróbujemy ją wyłączyć i sie nie daj Boże nie uda, to może włączyć się jej jakiś mechanizm obronny i wtedy...

Godzinę temu, Jajcenty napisał:

Postęp jest taki, że za 100 SuperAI będzie się liczyła na splątanych fotonach a do działania wystarczy jej energia szumu termicznego próżni

Co do szumu termicznego próżni to nie wiem, ale na splątanych fotonach to pewnie będzie liczyć za kilka, 10, maks naście lat. Postęp jest niesamowity...

Share this post


Link to post
Share on other sites
1 hour ago, radar said:

Oh, i to nawet łatwiej niż się wydaje, bo wystarczy wyłączyć kilka punktów i już. Był nawet kiedyś taki artykuł o spamerach i że jeden z nich groził, że jak on nie będzie mógł wysyłać spamu to nikt nie będzie korzystał z internetu, bo z DDOSuje DNSy i już :)

Kilka lat temu był atak DDOS na infrastrukturę DynDNS, co spowodowało poważne utrudnienia w dostępie do największych platform (Amazon, Twitter, etc.) w USA. Border Gateway Protocol (BGP) też jest problemem, ale to są wraz z DNS archaiczne pozostałości z czasów niemowlęcych i w niedalekiej przyszłości zostaną zmodernizowane.

Edited by cyjanobakteria

Share this post


Link to post
Share on other sites
20 godzin temu, radar napisał:

Nie za bardzo rozumiem co masz przez to na myśli. Że jacy ludzie i dlaczego uważasz, że się lenią?

Polecam "I, robot", tam też AI naprawiała świat :) Zresztą zakładając, że istnienie ludzi jest tu jakąkolwiek wartością dodaną. Przecież "naprawić świat" można usuwając przyczynę jego potencjanego zagrożenia, a tą przyczyną są ludzie. To jest logiczny wniosek, wyleczyć przyczynę, a nie skutek. Nie musi to być przecież nuklearny holokaust, ktory zagraża samej AI.

 

W tym filmie to jedynie wyobrażenie człowieka na temat SI. Prawdopodobnie gdy już powstanie, to będzie całkiem inna. Nadal jest to takie prymitywne, bo z automatu traktujemy sztuczną inteligencję jak jakieś nowe zagrożenie. Prawie tak jak plemiona indian myślały o białych ludziach. Z tym że plemiona trafiły jednak na nadal niezbyt inteligentnych i złych ludzi, a my trafimy na coś co ma poziom o jakim nie mamy pojęcia. A co do nic nierobienia, to przecież jeśli jest już się na poziomie spełnienia to można się lenić, czyli nie robić nic co wymaga nieprzyjemnego narzuconego wysiłku. Logika naprawy świata przez usuwanie jakiejś składowej to przecież błąd. To przecież ludzie popełnili ten błąd, a sztuczna inteligencja jeśli nauczy się na błędach historii to zupełnie odrzuci ten tryb myślenia. Cienko powiedzieć co zrobi, bo jako głupsi nie możemy przewidzieć działań mądrzejszego. I nie uważam że będzie to coś jak bóg, tylko coś co podpowiada co robić, ale ludzie i tak tego nie zrobią, bo nie. Taka jest ludzka natura. :rolleyes:

Share this post


Link to post
Share on other sites
12 minut temu, Rowerowiec napisał:

I nie uważam że będzie to coś jak bóg, tylko coś co podpowiada co robić, ale ludzie i tak tego nie zrobią, bo nie.

Dla mnie to dobra definicja. Wszystkie religie na tym polegają. Dużo wytycznych, ale korzystanie z raczej fakultatywne. Dopóki cala komunikacja idzie przez ekran monitora to niebezpieczeństwo nie jest duże. Ale jak już będzie mogła coś zatrzymać, coś uruchomić, albo nacisnąć na spust....

Share this post


Link to post
Share on other sites

Create an account or sign in to comment

You need to be a member in order to leave a comment

Create an account

Sign up for a new account in our community. It's easy!

Register a new account

Sign in

Already have an account? Sign in here.

Sign In Now

  • Similar Content

    • By KopalniaWiedzy.pl
      W Parku Archeologicznym Pompejów pracę rozpoczął Spot, czworonożny robot, który pomaga w monitorowaniu zabytkowego miejsca i dba o bezpieczeństwo jego pracowników. Spot przeprowadza inspekcję ruin, dostarczając nagrań, które następnie są wykorzystywane podczas badań archeologicznych i podejmowania decyzji dotyczących m.in. konieczności przeprowadzenia prac zabezpieczających.
      Spot pracuje w ramach szerszego projektu o nazwie Smart @ POMPEI. W jego ramach tworzony jest inteligentny samowystarczalny system zarządzania Parkiem. Obecnie w ramach projektu pracują Leica BLK2FLY, czyli pierwszy latający skaner laserowy zdolny do autonomicznego wykonywania skanów 3D oraz wspomniany już Spot firmy Boston Dynamics. Analizą danych dostarczonych przez urządzenia zajmują się specjalne stworzone na potrzeby Pompejów inteligentne platformy.
      Postęp technologiczny w dziedzinie robotyki, sztucznej inteligencji i systemów autonomicznych doprowadził do pojawienia się rozwiązań, które łatwo znalazły zastosowanie w przemyśle i produkcji. Dotychczas nie stosowano takich rozwiązań w archeologii, gdyż to rozległe heterogeniczne środowisko. Dzisiaj, dzięki współpracy z przemysłem wysokich technologii chcemy przetestować roboty w podziemnych tunelach wykopanych przez złodziei rabujących Pompeje. Tunele takie to często bardzo niebezpieczne miejsca. Dzięki robotom będziemy w stanie szybko i bezpiecznie je eksplorować, mówi dyrektor Parku Gabriel Zuchtriegel.
      Od 2012 roku aktywność złodziei rabujących Pompeje wyraźnie się zmniejszyła, gdyż włoska policja zintensyfikowała wysiłki na rzecz walki z nimi. Jednak na terenie otaczającym Pompeje wciąż znajdowane są nowe tunele wykopane przez rabusiów.
       


      « powrót do artykułu
    • By KopalniaWiedzy.pl
      Naukowcy z Big Data Institute na University of Oxford we współpracy z uczonymi z Massachusetts Institute of Technology (MIT) i Uniwersytetu Harvarda dokonali ważnego kroku w kierunku stworzenia genetycznego drzewa genealogicznego całej ludzkości. Zintegrowali dane dotyczące genomów ludzi żyjących współcześnie oraz w prehistorii, a zaprzęgnięte do pracy algorytmy stworzyły drzewo genealogiczne, na którym umieściły niemal 27 milionów przodków tych osób.
      Od czasu, gdy pojawiły się szybkie i tanie techniki sekwencjonowania ludzkiego genomu, zaczęła rodzić się myśl o stworzeniu drzewa genealogicznego całej ludzkości. Na świecie istnieje obecnie wiele baz danych genetycznych. Jednak głównym problemem było znalezienie sposobu na połączenie zawartych w nich informacji oraz opracowanie algorytmów, które poradziłyby sobie z analizą tak dużych ilości danych. Naukowcy z Wielkiej Brytanii i USA zaprezentowali na łamach Science wyniki prac nad metodą badawczą, która pozwala na łatwe łączenie danych z różnych źródeł i analizę milionów sekwencji genetycznych.
      Na podstawie zintegrowanych danych zrekonstruowaliśmy genomy naszych przodków i wykorzystaliśmy je do stworzenia serii powiązanych drzew ewolucyjnych. Następnie oceniliśmy gdzie i kiedy przodkowie ci żyli, wyjaśnia jeden z autorów badań, doktor Anthony Wilder Wohns.
      Naukowcy wykorzystali 3609 sekwencji genetycznych z 215 populacji oraz genomy 3 neandertalczyków, denisowianina oraz genomy czteroosobowej rodziny, która żyła na Syberii około 4600 lat temu. Na tej podstawie algorytmy były w stanie określić wzorce widoczne w genomach i zrekonstruować dane dotyczące niemal 27 milionów przodków ludzi, których genomami uczeni dysponowali. Po dodaniu informacji o miejscu pobrania genomu, autorzy mogli określić, gdzie żyli wspomniani przodkowie, a algorytm pokazał wiele z kluczowych wydarzeń z historii naszego gatunku, takich jak wyjście H. sapiens z Afryki.
       


      « powrót do artykułu
    • By KopalniaWiedzy.pl
      Cassie, pierwszy dwunożny robot używający maszynowego uczenia się do kontroli otoczenia w czasie poruszania się na zewnątrz, przeszedł do historii, przebywając samodzielnie 5 kilometrów w czasie około 53 minut. Robot powstał pod kierunkiem profesora Jonathana Hursta, a na jego powstanie grant w wysokości 1 miliona dolarów przyznała DARPA (Agencja Badawcza Zaawansowanych Projektów Obronnych).
      Robot powstał w 2017 roku i od tego czasu Narodowa Fundacja Nauki finansowała dalsze badania nad nim. Pracujący przy Cassie naukowcy i studenci skupili się na opracowaniu mechanizmów maszynowego uczenia się.
      Cassie nauszył się biegać korzystając z algorytmu deep reinforcement learning. Dzięki niemu robot nauczył się nieprzerwanego dokonywania drobnych korekt pozycji, balansowania, by utrzymać się w pionie podczas biegu. "Cassie jest bardzo wydajny, gdyż z takim zamysłem był projektowany i budowany. Chcemy dotrzeć do granic możliwości tego sprzętu i pokazać, na co go stać", mówi doktorant Jeremy Dao z Dynamic Robotics Laboratory. Deep reinforcement learning to potężny algorytm, który daje możliwość nauczenia robota takich czynności jak bieganie, skakanie czy wchodzenie i schodzenie po schodach, dodaje Yesh Godse.
      Naukowcy twierdzą, że pewnego dnia widok robota na ulicy będzie równie powszechny jak widok samochodu. I roboty, podobnie jak samochody, znacząco zmienią nasze życie.
      Obecnie poważnym ograniczeniem w rozpowszechnieniu się robotów jest zrozumienie przemieszczania się z użyciem kończyn. Jednak na tym polu dokonuje się duży postęp.
      Wspomniana na wstępie 5-kilometrowa przebieżka zajęła Cassie 53 minuty i 3 sekundy. Wliczono w to około 6,5 minuty, jakich było potrzeba, by robot zresetował się po dwóch upadkach. Przyczyną pierwszego było przegrzanie komputera, przyczyną drugiego, zbyt duża prędkość podczas zakręcania.
      Cassie już wcześniej nauczył się chodzić po schodach, a proces uczenia możemy oglądać na poniższym filmie.
       


      « powrót do artykułu
    • By KopalniaWiedzy.pl
      W latach 30. w siłach zbrojnych Wielkiej Brytanii może służyć około 30 000 robotów, które będą wypełniały różne zadania zarówno na linii frontu jak i w jej pobliżu, stwierdził szef sztabu brytyjskiej armii generał Nick Carter. Myślę, że możemy mieć 120-tysięczną armię, z czego 30 000 to będą roboty, kto wie, powiedział.
      Obecnie Wielka Brytania ma 73 870 żołnierzy gotowych do prowadzenia działań bojowych. To sporo mniej niż zakładane 82 050. W przyszłości zakładana liczba może zostać obniżona do 75 000 przy założeniu, że część luk wypełni technologia.
      Wszystkie rodzaje brytyjskich sił zbrojnych są obecnie zaangażowane w prace badawczo-rozwojowe, w ramach których powstają zarówno niewielkie drony, jak i zdalnie sterowany pojazdy lądowe i podwodne. Niektóre z nich mają być uzbrojone, inne będą służyły wyłącznie działaniom rozpoznawczym. Wśród rozwijanych systemów jest np. dron i9, który jest uzbrojony w dwie strzelby. Maszyna ma być używana podczas walk w mieście, przede wszystkim do szturmowania budynków, kiedy to dochodzi do największej liczby strat własnych.
      Zgodnie z obecnie obowiązującymi zasadami brytyjskiego Ministerstwa Obrony jedynie ludzie mogą decydować o otwarciu ognia. Jednak pojawia się coraz więcej obaw o wybuch wojny, w której będą brały udział autonomiczne roboty samodzielnie podejmujące decyzje o działaniach bojowych.

      « powrót do artykułu
    • By KopalniaWiedzy.pl
      Coraz szerszy dostęp do antykoncepcji oraz poprawa poziomu edukacji kobiet i dziewcząt prowadzą do zmniejszenia liczby urodzin. W 2064 roku światowa populacja ludzi osiągnie szczytową liczbę około 9,7 miliarda, a następnie zacznie spadać i do roku 2100 ludzi będzie 8,8 miliarda. To o około 2 miliardy mniej niż niektóre wcześniejsze prognozy, czytamy na łamach The Lancet.
      Naukowcy z Wydziału Medycyny University of Washington wykorzystali dane z Global Burden of Disease Study 2017 oraz nowe metody prognozowania śmiertelności, płodności i migracji. Specjaliści stwierdzili, że do roku 2100 w 183 ze 195 krajów świata współczynnik dzietności – czyli liczba dzieci rodzonych w ciągu życia przez przeciętną kobietę – spadnie poniżej współczynnika zastępowalności pokoleń (TFR), wynoszącego 2,1.
      Po raz ostatni liczebność ludzkiej populacji uległa zmniejszeniu w połowie XIV wieku w wyniku epidemii Czarnej Śmierci. Jeśli nasze prognozy są prawidłowe, to po raz pierwszy w historii populacja człowieka zmniejszy się nie z powodu zarazy czy głodu, ale z powodu spadku płodności, wyjaśnia główny autor artykułu, profesor Stein Emil Vollset.
      Autorzy badań prognozują też olbrzymią zmianę struktury wieku. W roku 2100 na świecie będzie żyło 2,37 miliarda osób powyżej 65. roku życia i 1,7 miliarda osób poniżej 20. roku życia. To zaś pokazuje, że wiele krajów będzie musiało ratować swoje rynki pracy prowadząc liberalną politykę migracyjną.
      Najbardziej prawdopodobnym scenariuszem nie jest już ciągły wzrost liczby ludności przez cały obecny wiek, mówi główny autor badań, doktor Christopher Murray. Spadek liczby dorosłych w wieku produkcyjnych zmniejszy wzrost gospodarczy, co do końca wieku może doprowadzić do znacznych zmian geopolitycznych, stwierdza Vollset. Zmiany te mogą być naprawdę głębokie. Jak mówi wydawca pisma The Lancet, doktor Richard Horton, w XXI wieku Afryka i świat arabski ukształtują naszą przyszłośc, a wpływy Europy i Azji się mniejszą. Do końca wieku dominującymi potęgami będą Indie, Nigeria, Chiny i USA. To będzie nowa rzeczywistość, na którą musimy się przygotowywać już teraz.
      Ogólnoświatowy współczynnik zastępowalności pokoleń będzie ciągle spadał. Zmniejszy się z 2,37 w roku 2017 do 1,66 w roku 2100. Wyjątkowo niski będzie we Włoszech i Hiszpanii (po 1,2) oraz w Polsce (1,17). Nawet nie wielkie zmiany TFR oznaczają olbrzymie zmiany demograficzne. Zwiększenie TFR o 0,1 oznacza, że w 2100 roku na Ziemi będzie o 500 milionów ludzi więcej.
      Do największych spadków dzietności dojdzie w krajach, gdzie dzietność jest największa. Szczególnie doświadczą go kraje Afryki Subsaharyjskiej. Tam w 2017 roku TFR wynosił 4,6, a w 2100 wyniesie 1,7. W Nigrze, kraju w którym w roku 2017 TFR wynosił 7, w roku 2100 wyniesie on 1,8.
      Mimo tak dramatycznych spadków liczba  ludności Afryki subsaharyjskiej zwiększy się z 1,03 w roku 2017 do 3,07 w roku 2100. Będzie to spowodowane zmniejszającą się śmiertelnością oraz rosnącą liczbą kobiet wchodzących w wiek reprodukcyjny. Obok Afryki subsaharyjskiej wzrost liczby ludności spodziewany jest tylko w Afryce północnej i na Bliskim Wschodzie. Obecnie mieszka tam 600 milionów osób, a w roku 2100 region ten będzie zamieszkany przez 978 milionów ludzi.
      Do największych spadków populacji dojdzie w krajach Azji oraz Europy. W 23 krajach liczba ludności zmniejszy się o ponad 50%. Wśród takich krajów znajdzie się Japonia, gdzie liczba obywateli spadnie ze 128 milionów w 2017 do 60 milionów w 2100, Tajlandia (spadek z 71 do 35 milionów), Hiszpania (z 46 do 23 milionów), Włochy (z 61 do 31 milionów), Portugalia (z 11 do 5 milionów) i Korea Południowa (z 53 do 27 milionów). Dodatkowo w 34 krajach liczba ludności spadnie od 25 do 50 procent. Takiego procesu doświadczą Chiny, gdzie w 2100 roku będą 732 miliony obywateli.
      W związku ze spadającą dzietnością i rosnącą długością życia liczba dzieci poniżej 5. roku życia zmniejszy się z 681 milionów w roku 2017 do 401 milionów w roku 2100. W tym samym czasie liczba osób powyżej 80. roku życia wzrośnie ze 141 do 866 milionów. W krajach, gdzie liczebność populacji zmniejszy się o co najmniej 25% stosunek osób po 80. roku życia w porównaniu do osób poniżej 15. roku życia wzrośnie z 0,16 do 1,50. Ponadto, jeśli obecne tendencje na rynku pracy zostaną utrzymane, to odsetek dorosłych niepracujących do pracujących zwiększy się z obecnych 0,8 do 1,16.
      O ile samo zmniejszenie się liczby ludności to potencjalnie dobra wiadomość z punktu widzenia emisji węgla czy dostępności żywności, to wraz ze zwiększaniem liczby osób starszych i zmniejszaniem liczby młodych, pojawią się wyzwania gospodarcze. Społeczeństwa będą miały problem z utrzymanie wzrostu gospodarczego gdy będzie mniej osób pracujących i płacących podatki. Kraje będą miały trudności z utrzymaniem systemów socjalnych, emerytalnych i zdrowotnych, przewiduje Vollset.
      Autorzy badań zajęli się też stroną ekonomiczną prognozowanych zmian. Przewidują oni, że o ile w roku 2035 PKB Chin stanie się większe od PKB Stanów Zjednoczonych, to z powodu szybkiego spadku liczby ludności Chin w roku 2098 PKB USA znowu będzie większe od PKB Państwa Środka. Pod warunkiem jednak, że USA utrzymają obecną liberalną politykę imigracyjną. Duże zmiany zachodzą też w Indiach. Co prawda liczba osób w wieku produkcyjnym spadnie w tym kraju z 762 milionów  w roku 2017 do 578 milionów w roku 2100, to Indie już za 5 lat będą miały więcej osób dorosłych w wieku produkcyjnym niż Chiny. Dzięki temu staną się trzecim, po USA i Chinach, krajem o największym PKB.
      Jedynym z 10 najbardziej ludnych krajów, w którym do końca wieku będzie rosła liczba dorosłych w wieku produkcyjnym, będzie Nigeria. Liczba takich osób zwiększy się tam z 86 do 458 milionów, dzięki czemu pod względem wartości PKB Nigeria awansuje z obecnego 23. na 9. miejsce na świecie. Wielka Brytania, Francja i Niemcy utrzymają swoje pozycje w pierwszej 10 krajów o największym PKB, ale z czołówki wypadną Włochy (ich pozycja na liście krajów o największym PKB zmieni się z 9. na 25. w roku 2100) oraz Hiszpania (spadek z 13. na 28. miejsce).
      Wiele krajów będzie musiało wspierać się migracją. Autorzy raportu stwierdzają, chociaż podkreślają że tutaj akurat istnienie spora niepewność, że dzięki migracji odpowiednią wielkość siły roboczej utrzymają USA, Australia i Kanada.
      Jeśli prognozy Murraya i jego zespołu są tylko w połowie prawdziwe, to migracja staje się dla wszystkich krajów koniecznością, a nie opcją. Pozytywny wpływ migracji na systemy opieki zdrowotnej i gospodarkę jest szeroko znany. Musimy tylko odpowiedzieć sobie na pytanie, czy poprawimy systemy opieki zdrowotnej i sytuację gospodarczą za pomocą starannie zaplanowanej migracji czy tez skończymy z niewykwalifikowanymi migrantami i niestabilnymi społecznościami. Antropocen tworzy wiele wyzwań, takich jak zmiana klimatu i globalna migracja. O rozwoju lub obumieraniu ludzkości zdecyduje odpowiedni rozkład ludzi w wieku produkcyjnym, komentuje profesor Ibrahim Abubakar z University College London.
      Autorzy badań przedstawili też swoje prognozy dla poszczególnych krajów. Uwzględnili w nich cztery scenariusze rozwoju sytuacji. Jest wśród nich scenariusz referencyjny (SR) oraz scenariusz, w którym kraje stosują wszystkie zasady nakreślone przez ONZ w Celach Zrównoważonego Rozwoju.
      I tak dowiadujemy się, że szczytową liczbę ludności Polska osiągnęła w 2017 roku, kiedy to było 38,39 miliona obywateli. W scenariuszu referencyjnym (SR) liczba ludności Polski w roku 2100 wyniesie 15,42 miliona, a w scenariuszu SDG będzie to 13,66 miliona. Współczynnik dzietności wynosił w 2017 roku 1,31. W roku 2100 według scenariusza referencyjnego będzie to 1,17, a według SDG – 1,14.
      Tymczasem w Niemczech w roku 2017 żyło 83,29 miliona osób i liczba ta zmniejszy się w scenariuszu referencyjnym do 66,42, a w scenariuszu SDG do 60,06 miliona do roku 2100. Największą liczbę ludności, 85,08 miliona, osiągną Niemcy w roku 2035. TFR w roku 2017 wynosił w Niemczech 1,39 i spadnie do 1,35 w scenariuszu referencyjnym lub 1,26 w scenariuszu SDG.
      W Czechach w roku 2017 mieszkało 10,59 miliona obywateli, a ich liczba zmniejszy się do 6,73 (scenariusz referencyjny) lub 6,04 (SDG) w roku 2100. W roku bieżącym Czechy osiągnęły najwięszą liczbę ludności (10,60 miliona). Czeski TFR z roku 2017 to 1,58 i będzie on spadał do 1,37 (SR) lub 1,31 (SDG).
      Podobnie jak Polska także i Ukraina ma już za sobą szczyt populacji. W roku 2017 było tam 44,69 miliona obywateli. Na koniec wieku będzie ich 17,55 (SR) lub 14,74 (SDG) miliona. Obecny ukraiński współczynnik dzietności spadnie z 1,40 do 1,32 (SR) lub 1,20 (SDG) w roku 2100.
      Szybko będzie spadała też liczba ludności Rosji. Ze szczytowych 146,19 milionów w roku 2017 zmniejszy się ona do 106,45 (SR) lub 89,37 (SDG) w roku 2100. W tym samym czasie współczynnik dzietności spadnie z 1,61 do 1,43 (SR) lub 1,32 (SDG).

      « powrót do artykułu
  • Recently Browsing   0 members

    No registered users viewing this page.

×
×
  • Create New...