Skocz do zawartości
Forum Kopalni Wiedzy

Rekomendowane odpowiedzi

Podczas International Joint Conference On Artificial Intelligence, która odbywa się właśnie w Sztokholmie, Future of Life Insitute zaprezentował dokument, którego sygnatariusze zobowiązali się do nieprowadzenia prac nad śmiercionośnymi autonomicznymi systemami bojowymi. Dokument podpisało ponad 160 organizacji i ponad 2400 osób. Wśród sygnatariuszy znajdziemy m.in. google'owskie DeepMind u jego założyciele czy Elona Muska. DeepMind to twórca algorytmów sztucznej inteligencji, które pokonały człowieka w go.

My, podpisani poniżej, uznajemy, że decyzja o odebraniu życia człowiekowi nigdy nie powinna być podejmowana przez maszynę. Moralnym uzasadnieniem takiego stanowiska jest przekonanie, że decyzja o odebraniu życia nie może zostać podjęta przez maszynę, za którą to decyzję odpowiedzialni będą inni lub nikt. Argument praktyczny zaś brzmi: wprowadzenie do użytku śmiercionośnej, autonomicznej broni, która będzie wybierała cele bez interwencji człowieka, będzie miało destabilizujący efekt zarówno na państwa jak i na poszczególnych ludzi, czytamy w oświadczeniu.

My, niżej podpisani, wzywamy rządy do stworzenia międzynarodowego prawa zabraniającego istnienia autonomicznych systemów bojowych. [...] nie będziemy nigdy uczestniczyli ani wspierali rozwoju, wytwarzania, handlu ani użycia śmiercionośnych autonomicznych systemów bojowych. Wzywamy firmy technologiczne, organizacje, liderów politycznych i społecznych oraz prawodawców i wszystkich innych ludzi do przyłączenia się do nas.

Niezależnie od powyższego apelu 26 państw wezwało do nałożenia światowego zakazu tworzenia śmiercionośnych autonomicznych systemów bojowych. Państwa te to Algieria, Argentyna, Austria, Boliwia, Brazylia, Chile, Chiny, Kolumbia, Kostaryka, Kuba, Dżibuti, Ekwador, Egipt, Ghana, Gwatemala, Watykan, Irak, Meksyk, Nikaragua, Panama, Pakistan, Peru, Palestyna, Uganda, Wenezuela i Zimbabwe.

Wśród instytucji podpisanych pod zobowiązaniem znajdziemy University College London, Europejskie Stowarzyszenie Sztucznej Inteligencji, portugalski Universidade NOVA czy Polskie Stowarzyszenie Sztucznej Inteligencji. Apel podpisało wielu naukowców zajmujących się robotami, informatyką i sztuczną inteligencją. Znajdziemy tam uczonych z Uniwersytetu w Montrealu, Uniwersytetu Nowej Południowej Walii, New York University, MIT, Uniwersytetu Kalifornijskiego, Cornell University i wielu innych szacownych instytycji naukowo-badawczych.


« powrót do artykułu

Udostępnij tę odpowiedź


Odnośnik do odpowiedzi
Udostępnij na innych stronach

Nie oni, to kto inny.

Udostępnij tę odpowiedź


Odnośnik do odpowiedzi
Udostępnij na innych stronach
19 godzin temu, wilk napisał:

Nie oni, to kto inny.

Dobrze że chociaż niektórzy nie chcą tego robić.

Udostępnij tę odpowiedź


Odnośnik do odpowiedzi
Udostępnij na innych stronach

Problem polega na tym,co to jest ta broń autonomiczna,bo chyba nie jej definicji,poza tym nie powstrzymają postępu technologicznego,bo bez niego nie przetrwamy w przyszłości.

Udostępnij tę odpowiedź


Odnośnik do odpowiedzi
Udostępnij na innych stronach
2 godziny temu, Sławko napisał:

Dobrze że chociaż niektórzy nie chcą tego robić.

Tylko widzisz, problem jest taki, jak wspomniałem (albo też ktoś inny) już tutaj kiedyś. Dopóki zajmowałby się tym sektor cywilny, to „ludzie” mieliby jakiś wpływ na to, co powstanie. A tak zajmie się tym budżet wojskowy i czarne supertajne projekty i jedynie zobaczymy przy okazji któregoś konfliktu już gotowe takie autonomiczne roboty, wraz z niewiadomej jakości oprogramowaniem.

To że takie maszyny powstaną to raczej pewne, jak nie Amerykanie, to Rosjanie czy Chińczycy kiedyś zbudują i oni takich skrupułów mieć nie będą. A tak szlak byłby przetarty.

Udostępnij tę odpowiedź


Odnośnik do odpowiedzi
Udostępnij na innych stronach

Założę się, że o stosowaniu takich systemów dowiemy się, gdy one już będą działały od 20-30 lat. Tylko oficjalnie cały czas będzie, że to niby człowiek podjął decyzję a system tylko wykonał rozkaz.

Kiedy znajdzie się pierwszy, który się do tego przyzna nagle okaże się, że wszyscy z tego korzystali od dawna i nigdy nie stracili przewagi na polu walki.

Udostępnij tę odpowiedź


Odnośnik do odpowiedzi
Udostępnij na innych stronach
15 godzin temu, wilk napisał:

To że takie maszyny powstaną to raczej pewne, jak nie Amerykanie, to Rosjanie czy Chińczycy kiedyś zbudują i oni takich skrupułów mieć nie będą.

Teoretycznie można by postulować dopisanie autonomicznych systemów bojowych do tych samych porozumień, które zakazują np. produkcji i używania broni chemicznej czy biologicznej. Ja się zastanawiam, czy my chcemy AI czy nie? Bo jak chcemy i uważamy, że AI rozwiąże wszystkie nasze problemy, będzie za nas pracować, a co najważniejsze będzie za nas myśleć :), to zakaz wytwarzania takiej broni znacznie opóźni nadejście tej wielkiej szczęśliwości. 

Udostępnij tę odpowiedź


Odnośnik do odpowiedzi
Udostępnij na innych stronach
Napisano (edytowane)
1 godzinę temu, pogo napisał:

Założę się, że o stosowaniu takich systemów dowiemy się, gdy one już będą działały od 20-30 lat.

W kosmitów też wierzysz? :)

Technologie wojskowe bo do tych zapewne się odnosisz mają inne wymagania (na jakość i kompatybilność) i w związku z tym wojskowa technologia jest obecnie opóźniona o jakieś 10 lat (zależy od kraju) względem cywilnej.

W celach wojskowych zasadniczo nie można sobie pozwolić na ładowanie czegoś co jest niesprawdzone.

Edytowane przez thikim

Udostępnij tę odpowiedź


Odnośnik do odpowiedzi
Udostępnij na innych stronach
4 godziny temu, Jajcenty napisał:

dopisanie autonomicznych systemów bojowych

Tia, tylko czy obejmie to także autonomiczne systemy takie jak Phalanx (okręty), Trophy (czołgi) i inne. ;) Wątpię, by coś takiego dopisali. Obecne obostrzenia dotyczące broni ABC, min, bomb kasetowych, białego fosforu i in. wynikają z masowości lub niehumanitarności zastosowanego środka. Autoboty grozić mogą jedynie błędami w oprogramowaniu lub wysoką skutecznością w zabijaniu. Chociaż… z drugiej strony pamiętamy historię karabinów wyborowych (ale nie pamiętam(y) nazwy…), które po oznaczeniu celu same go śledziły, obliczały trajektorię, kompensację temperatury i wiatru, by w końcu samodzielnie oddać jak najlepszy strzał (zadaniem strzelca było tylko wyrażenie chęci likwidacji celu).

Udostępnij tę odpowiedź


Odnośnik do odpowiedzi
Udostępnij na innych stronach
W dniu 18.07.2018 o 23:43, KopalniaWiedzy.pl napisał:

My, podpisani poniżej, uznajemy, że decyzja o odebraniu życia człowiekowi nigdy nie powinna być podejmowana przez maszynę

vs.

Cytat

W trosce o byt i przyszłość naszej Ojczyzny,

odzyskawszy w 1989 roku możliwość suwerennego i demokratycznego stanowienia o Jej losie,

my, Naród Polski - wszyscy obywatele Rzeczypospolitej,

zarówno wierzący w Boga

będącego źródłem prawdy, sprawiedliwości, dobra i piękna,

jak i nie podzielający tej wiary,

a te uniwersalne wartości wywodzący z innych źródeł,

równi w prawach i w powinnościach wobec dobra wspólnego - Polski,

wdzięczni naszym przodkom za ich pracę, za walkę o niepodległość okupioną ogromnymi ofiarami, za kulturę zakorzenioną w chrześcijańskim dziedzictwie Narodu i ogólnoludzkich wartościach,

nawiązując do najlepszych tradycji Pierwszej i Drugiej Rzeczypospolitej,

zobowiązani, by przekazać przyszłym pokoleniom wszystko, co cenne z ponad tysiącletniego dorobku,

złączeni więzami wspólnoty z naszymi rodakami rozsianymi po świecie,

świadomi potrzeby współpracy ze wszystkimi krajami dla dobra Rodziny Ludzkiej,

pomni gorzkich doświadczeń z czasów, gdy podstawowe wolności i prawa człowieka były w naszej Ojczyźnie łamane,

pragnąc na zawsze zagwarantować prawa obywatelskie, a działaniu instytucji publicznych zapewnić rzetelność i sprawność,

w poczuciu odpowiedzialności przed Bogiem lub przed własnym sumieniem,

ustanawiamy Konstytucję Rzeczypospolitej Polskiej

jako prawa podstawowe dla państwa

 

Udostępnij tę odpowiedź


Odnośnik do odpowiedzi
Udostępnij na innych stronach

@thikim

Źle mnie zrozumiałeś. Chodzi mi o to, że takie technologie będą stosowane od 20-30 lat w momencie gdy oficjalnie się o nich dowiemy. Jak powstaną za 50 lat, to dowiemy się o nich za 70-80 itd... 

Udostępnij tę odpowiedź


Odnośnik do odpowiedzi
Udostępnij na innych stronach
W dniu 20.07.2018 o 12:50, pogo napisał:

Założę się, że o stosowaniu takich systemów dowiemy się, gdy one już będą działały od 20-30 lat.

Ja zmniejszyłbym ten okres (20-30 lat) bo...

W dniu 20.07.2018 o 12:50, pogo napisał:

Kiedy znajdzie się pierwszy, który się do tego przyzna nagle okaże się, że wszyscy z tego korzystali od dawna i nigdy nie stracili przewagi na polu walki.

... się nie przyzna tylko oponenci postarają się pokazać jakiej technologii użył.

Pierwszy będzie kozłem ofiarnym aby reszta, już oficjalnie, mogła pokazać i rozwijać swoje technologie.

Udostępnij tę odpowiedź


Odnośnik do odpowiedzi
Udostępnij na innych stronach

Jeśli chcesz dodać odpowiedź, zaloguj się lub zarejestruj nowe konto

Jedynie zarejestrowani użytkownicy mogą komentować zawartość tej strony.

Zarejestruj nowe konto

Załóż nowe konto. To bardzo proste!

Zarejestruj się

Zaloguj się

Posiadasz już konto? Zaloguj się poniżej.

Zaloguj się

×