Microsoft wyłączył nastolatkę

[KopalniaWiedzy.pl 357]

Microsoftowy bot Tay, któremu twórcy nadali osobowość nastolatki, stał się w ciągu 24 godzin seks maszyną wychwalającą Hitlera i Donalda Trumpa. Koncern z Redmond zdecydował się na tymczasowe zakończenie eksperymentu. Programiści chcą poprawić algorytmy bota.

Tay to cyfrowa osobowość, która miała mówić językiem nastolatki, z zaprogramowaną wcześniej wiedzą na temat np. Miley Cyrus czy Taylor Swift. Uruchomiony na Twitterze bot miał nabywać wiedzę i doświadczenie na podstawie rozmów z innymi użytkownikami Twittera, a cały eksperyment miał posłużyć udoskonaleniu usług inteligentnego asystenta.

Okazało się jednak, że spora grupa internautów postanowiła nauczyć Tay rzeczy, których z pewnością nie życzyliby sobie jej twórcy. Wystarczyło jednak kilkanaście godzin, by Tay przeszła od opinii "ludzie są cudowni" do wygłaszania zdań w rodzaju "nienawidzę feministek, wszystkie powinny umrzeć i spłonąć w piekle" czy "Hitler miał rację. Nienawidzę żydów". Bot zachęcał też użytkowników by go przelecieli i mówił do nich "tatusiu".

Ostatecznie Tay pożegnała się z internautami i jej konto zostało zawieszone.

Tay nie jest pierwszym żeńskim botem Microsoftu. Firma jakiś czas temu uruchomiła Xiaoice. To bot używany przez około 20 milionów osób na chińskich portalach społecznościowych WeChat i Weibo. Jego zadaniem jest udzielanie porad sercowych.

« powrót do artykułu

[wilk 103]

Wniosek jest prosty — jeśli kiedyś Skynet nas rozwali, to będzie to nasza wina. ;-) Problem z tym botem był taki, że poszli trochę na łatwiznę i po prostu powtarzał on wpisy innych osób.

[Jajcenty 314]

 

 

Problem z tym botem był taki, że poszli trochę na łatwiznę

I teraz Glaude będzie miał używanie.  

[glaude 40]

E tam

Pośmiałem się trochę czytając o propozycji przelecenia. Bot nawet nie wiedział co czyni wypisując takie rzeczy.

To bodaj Kant napisał, że świadomość jest najpewniejszą rzeczą na świecie. Bo przecież jeśli jej nie mam, to nie mam też świadomości swojego istnienia. A wtedy tym bardziej nie jestem świadomy świata i jego przejawów.

Ta maszyna nie jest świadoma niczego. I długo jeszcze nie będzie. Tzw. "umysł ucieleśniony" to sprawa bardzo dalekiej przyszłości. Ja nie widzę póki co innej roli maszyn niż niewolnicza jeszcze przez bardzo długi czas. Nie będą naszą konkurencją w walce o zasoby planety i terytorium.

I bardzo dobrze

[Jarkus 30]

Można było się spodziewać. Dali temu czemuś osobowość nastolatki, czyli od początku było toto łatwe do zmanipulowania i skłonne do radykalizmów

[TrzyGrosze 67]

Również uważam, że to typowy przykład eksperymentu w połowie udanego.

[Krzychoo 31]

 

 

skłonne do radykalizmów

Nie podejrzewam tego bota o Żadne skłonności.

[Przemek Kobel 65]

Na /. widziałem wpisy osób twiedzących, że są rodzicami nastolatek, oraz że ta sztuczna "inteligencja" aż tak bardzo od nich się nie różniła (przynajmniej w kwestiach rasowych)...

[darekp 80]

że ta sztuczna "inteligencja" aż tak bardzo od nich się nie różniła (przynajmniej w kwestiach rasowych)...

Ha, u nas też pewien polityk mówiący coś o Hitlerze i podatkach (wiecie co), ma dużą popularność wśród młodzieży. Może to po prostu jakaś reakcja (obronna) na odgórne wciskanie politycznej poprawności? U nas słabsza, bo i PP jest słabsza? Nie mówię, że mi się podoba taka reakcja, bo jest za dużo przesadzona w drugą stronę, ale cóż... boję się, że to trzecia zasada... ech.

 

 

 

I bardzo dobrze

Z początkiem zgoda (że kwestia odległej przyszłości itd.), ale czy rzeczywiście trzeba "na sztywno" nastawiać się na czarny scenariusz? Żeby stworzyć sztuczną świadomość przypuszczalnie trzeba najpierw umieć ją precyzyjnie zdefiniować i "pokazać palcem" - we wzorach, na wykresie z jakiegoś przyrządu pomiarowego czy tp. Tak mi się wydaje. A w takim razie jest możliwość, że równocześnie pojawi się technologia zdolna do przenoszenia świadomości z ciała ludzkiego do maszyny i w drugą stronę. A więc możliwość przedłużania życia. I zaniknięcie problemu konkurencji między ludźmi i maszynami (jak u Lema: ”Czasem ludzie budują roboty, czasem roboty - ludzi; to, czy myśli się metalem, czy kisielem, jest obojętne.")

Edytowane 29 marca 2016 przez darekp

[glaude 40]

Zaneguje to kazdy filozof umysłu. Dla nich tzw świadomość fenomenalna to świętość. Zaś tzw qualia to nienaruszalne własności organizmu o charakterze niezbywalnym.

 

Co do pomiaru świadomości.

Chyba lepszego testu niz Turinga, mimo ze pośrednio też na inteligencję, nie ma. W tych kwestiach kluczowe są: umysł ucieleśniony, teoria umysłu, hipoteza markerów somatycznych. Pewnie da się to kiedyś zapisać wzorami i zbadać- ale jeszcze nie teraz.

[darekp 80]

Ha, jeśli napisałem coś, co zaneguje każdy filozof (umysłu czy inny) i w dodatku szarpię jakąś "świętość", to mam wrażenie, że jestem na właściwym tropie 

Filozofowie nigdy niczego mądrego nie wymyślili (jeden próbował nawet ugryźć "po filozoficznemu" mechanikę kwantową i to była jakaś porażka zdaje się). 

[Jajcenty 314]

 

 

Filozofowie nigdy niczego mądrego nie wymyślili

No wymyślili żeby nie używać kwantyfikatorów wielkich. 

[darekp 80]

No wymyślili żeby nie używać kwantyfikatorów wielkich. 

 

Oj, wiem, że w jakimś tam sensie wymyślili. Napisałem tak trochę z przekory;). Ale oni próbują tworzyć swoją "naukę" w oparciu o stan wiedzy jaki zastali, nie badając niczego głębiej (oj, tu chyba można się pokusić o jakiś kwantyfikator, typowy dowód filozoficzny zaczyna się od słów "niczego nie zakładam", a potem cała seria "błyskotliwych" wniosków opierających się rzekomo na "oczywistościach" wyprowadzających tezę zgodną z wiarą autora i wynikającą rzekomo z tego pustego zbioru założeń). Więc to jest bardzo marna nauka i gdy się za nią weźmie ktoś poważniejszy, to różnie bywa Paradoksy Zenona z Elei "padają" w zetknięciu z matematyką, on nie umiał liczyć sum nieskończonych, jakby wziąć pod obróbkę dywagacje filozofów na temat ruchu i zestawić choćby ze zwykłą dynamiką Newtona, to też byłoby dość "nieciekawie" dla filozofów wydaje mi się.

Filozofowie nie przeprowadzają doświadczeń, nie są też tak ściśli jak matematycy, więc nie dziwota, że nauki ścisłe muszą czasem po nich "poprawiać".

Edytowane 29 marca 2016 przez darekp

[Jajcenty 314]

 

 

Paradoksy Zenona z Elei "padają" w zetknięciu z matematyką,

Wręcz przeciwnie. Zenon zadał ważne pytanie, na które nie znano odpowiedzi. A była dość ważna: nieskończone sumy mogą mieć skończone wartości.

Już to tu polecałem, ale czasami warto się powtórzyć, bardzo polecam Zapomniana rewolucja. Bardzo mi pomogła na poczucie wyższości. To znaczy dalej je mam, ale teraz już wiem, że jest nieuzasadnione

 

 

 

Filozofowie nie przeprowadzają doświadczeń, nie są też tak ściśli jak matematycy,

 

A to nie oni ustalili jak robić naukę, żeby była Nauką?

[darekp 80]

Jajcenty, w pewnym sensie jest tak jak piszesz, druga strona medalu jest taka, że ja nie mam jakiegoś "poczucia wyższości", mam za to hm, "poczucie uczciwości" i dlatego nie potrafię formułować takich ogólnych tez jak to robią filozofowie, po prostu mam poczucie, że powiedziałbym coś nie w pełni zgodnego z prawdą. I gdy próbuję sformułować swoje myśli bardziej "prawdomównie" to zaczynam myśleć jak "ścisłowiec" a nie jak filozof. Może jestem nietypowy, nie wiem.

P.S. Tę książkę będę musiał kiedyś w końcu przeczytać. 

[glaude 40]

@darekp

Nie mozesz tak pisać o filozofii, choćby z tego powodu, ze tak na serio dopiero od Karla Poppera rozpoczęła się era weryfikowalnej nauki z falsyfikacją, koroboracją itp.

Siła filozofii nie polega na obliczeniach czy pomiarach ale na potwierdzeniu lub negacji twierdzeń/teorii narzędziami dostępnymi logice.

[darekp 80]

OK, widocznie się nie znam

Co nie podważa przypuszczenia, że w kwestii zbudowania maszyn ze (samo)świadomością zapewne jacyś ścisłowcy będą musieli kiedyś tam w odległej przyszłości dołożyć jakiś poważny własny wkład (i samą filozofią się tego nie rozwiąże)

Edytowane 29 marca 2016 przez darekp

[glaude 40]

Pewnie, że filozofią się tego nie rozwiąże. Filozofia to tworzenie teorii systemu, ewentualnie system kontroli logicznej teorii/hipotezy. To dlatego filozofowie mogą pisać "głupoty" o np budowie materii, bo mogą sobie przyjąć różne założenia wyjściowe i w "ich" wszechświecie cząstki elementarne i stałe Plancka mogą być inne.

 

Tak z pamięci przypomniał mi się bardzo praktyczny wkład filozofii w wydajność i jakość pracy. Chodzi o "Traktat o dobrej robocie" profesora (filozofii !!!) Kotarbińskiego. Za komuny uważany za fanaberię, a na zachodzie potraktowany bardzo poważnie i w chwili obecnej rozwinięty do tego stopnia, że żadna szanująca się firma nie ma szans podbicia rynku bez certyfikatu jakości ISO.

My w zasadzie nie tylko na co dzień nie pamiętamy, że rozpoczął to nasz rodak ale też że był filozofem.

[ex nihilo 222]

Filozofowie nigdy niczego mądrego nie wymyślili (jeden próbował nawet ugryźć "po filozoficznemu" mechanikę kwantową i to była jakaś porażka zdaje się).

 

Jajcenty i glaude już po tym walcem przejechali, ale... kim właściwie są ci "filozofowie"? Bo tak akurat się składa, że "filozofią natury" zajmują się - szczególnie w ostatnich czasach, a podobnie było np. w Grecji - głównie sami badacze tej natury. Fizycy często zastrzegają się na wszystkie świętości, że "ja tu tylko liczę", a jak się czyta to "tylko liczenie" (lub słucha wykładu), to robale są bardziej uzasadnieniem treści filozoficznej, niż treścią samą w sobie. Wielu zresztą otwarcie przyznaje się do filozofowania. Każdy popularyzatorski tekst, wykład czy wywiad, to praktycznie czysta filozofia ("a jaki to byt pod tymi wzorkami może siedzieć" itp.). Nie tylko z fizykami tak jest - dotyczy to też biologów, matematyków (chociaż czy matematyka to "natura"? hmm...). Przywołany tu Popper też fizykę studiował, nawet jej uczył. Kotarbiński - m.in. matematyka, fizyka, logika. I tak dalej.

Faktem natomiast jest, że "czyści filozofowie" ("humanistyczni") naturą niezbyt chętnie się zajmują, i różnie im to wychodzi, kiedy się zajmą. Najpierw, w średniowieczu, natura stała się mało ważna, ważny był Bóg i jego sprawy, a w czasach ostatnich nauki przyrodnicze, szczególnie ścisłe, mocno filozofom (tym typowym) odjechały. Łatwiej i wygodniej mielić w nieskończoność "odwieczne problemy egzystencjalne" i inne takie kity. Chociaż czasem i  z tego coś ciekawego wyniknąć może (to tak na wszelki wypadek napisałem ).

 

Świadomość & co. to od zawsze superpapu dla filozofów. I - a niech mnie zatłuką nawet - tysięczny przemiał i trawienie tego samego pasztetu nie przynosi efektów znacząco lepszych niż to, co zwykły ludź, bardziej niż przeciętnie interesujący się naukami przyrodniczymi, może wykombinować, kiedy zajrzy pod własną pokrywkę. Do tego pozna trochę "odmiennych stanów" w taki czy inny sposób wywołanych, trochę potrenuje, w podstawowym stopniu będzie obserwował to, co dzieje się w biologii, itd. Przesadziłem? Może trochę, ale raczej niewiele. Dużo tu roboty dla badaczy mózgu, w ogóle biologów, fizyków, informatyków, ale dla filozofów... faktycznej roboty mało, ale ile publikacji można puścić, i ile cytowań zarobić... no dobra, już się nie znęcam

 

Co do przenoszenia świadomości. Raczej nie wszystko będzie można przenieść. Na jedną z trudności wskazał glaude. Sformułował bym to może trochę inaczej. Nie wszystko jest czysto fizyczne (chociaż moim zdaniem nie ma to nic wspólnego z jakąkolwiek magią etc.) - istnieje taka część świadomości, którą bym nazwał "indywidualnym dynamicznym kodem" tworzonym przez każdego osobnika oddzielnie, chociaż w powiązaniu z otoczeniem biologicznym i kulturowym (to te qualia, świadomość fenomenalna, ale nie tylko). Działać tu może zasada podobna do kwantowego zakazu klonowania (https://en.wikipedia.org/wiki/No-cloning_theorem). A bez tego osobnik nie będzie "sobą", takim jak przed klonowaniem świadomości. Będzie podobny, ale nie taki sam. Może to zresztą nie jest jakiś wielki problem, bo ten "kod" jest dynamiczny, różne zdarzenia powodują jego zmianę ("wcześniej byłem inny"), czyli i ta nowa inność nie musi przeszkadzać. Ale problemem podstawowym może być samo odczytywanie danych z nośnika (mózgu) bez zniszczenia innych danych.

 

A co do "nie wszystko jest czysto fizyczne" - książka jest fizyczna, literki na niej też, znaczenie słów można zapisać w algorytmach zapisanych na nośniku, ale wrażenie (emocje itd.) jakie te słowa wywołują u danego osobnika jest niemożliwe do ścisłego zakodowania - to jego indywidualny kod (abstrakcja), który może zmieniać się z sekundy na sekundę pod wpływem praktycznie nieskończonej ilości czynników wewnętrznych i zewnętrznych. Bez odtworzenia całego organizmu, z całym indywidualnym układem hormonalnym, zmysłami (u każdego działają trochę inaczej) itp., itd., ta dynamika nie będzie mogła być odtworzona, będzie inna. To moje przypuszczenie, opisane tak (byle jak), jak w danym momencie podpowiedział mi "indywidualny kod"*

 

* - tylko proszę mi tu nie mieszać "dusz" i innych takich dziwolągów!

Edytowane 29 marca 2016 przez ex nihilo

[glaude 40]

Ex nihilo podsumował wszystko wyśmienicie.

Ja nie lubię filozoficznego słownictwa. I denerwuje mnie nawet sama nazwa qualia/quale. Wolę swojskie percept/percepty, bo kazdy w lot chwyta o co chodzi. Pewnych sformułowań filozoficznych się jednak nie zastąpi, jak np superweniencja.

 

Co do tematu qualia/percept to "nieswoje" odczucia mają np ludzie po przeszczepach. Czują inaczej przeszczepiony narząd- jako nie swój. I jest to zrozumiałe, bo w narządzie tym receptory czuciowe mają inne parametry i dają inną impulsację do mózgu. To tak pod kątem przenoszenia osobowości ludzkiej do maszyny

 

Na koniec humor o filozofii i naukach ścisłych

20 lat temu jezdziłem w pogotowiu, jak wiekszość młodych lekarzy. W gabinecie był sprzęt do ekg, który się co chwile psuł. Dlatego lezała na nim kartka z napisem:

TEORIA JEST WTEDY KIEDY NIC NIE DZIAŁA ALE WIADOMO DLACZEGO.

PRAKTYKA WTEDY, KIEDY WSZYSTKO DZIAŁA ALE NIKT NIE WIE DLACZEGO.

W TYM MIEJSCU ŁĄCZYMY TEORIĘ Z PRAKTYKĄ- NIC NIE DZIAŁA I NIKT NIE WIE DLACZEGO

Edytowane 30 marca 2016 przez glaude

[Jajcenty 314]

istnieje taka część świadomości, którą bym nazwał "indywidualnym dynamicznym kodem" tworzonym przez każdego osobnika oddzielnie, chociaż w powiązaniu z otoczeniem biologicznym i kulturowym (to te qualia, świadomość fenomenalna, ale nie tylko).

Niezależnie jak bardzo dynamiczny jest ten kod to i tak jest wyryty w materii, w białkach i przekaźnikach. 

 

 

Ale problemem podstawowym może być samo odczytywanie danych z nośnika (mózgu) bez zniszczenia innych danych.

Gdybamy sobie, że nie mamy ograniczeń technicznych i potrafimy odtworzyć struktury do ostatniego kwarka.

 

 

to jego indywidualny kod (abstrakcja), który może zmieniać się z sekundy na sekundę pod wpływem praktycznie nieskończonej ilości czynników wewnętrznych i

Tak, ale to nie czyni kopiowania niemożliwym. Postulujesz, że te procesy są niedeterministyczne, ale to nic nie zmienia moja kopia jest mną tylko trochę inaczej

Edytowane 30 marca 2016 przez Jajcenty

[glaude 40]

Kopiowania nie czyni, ale kopiowanie to nie wszystko.

Dałem przykład z narządami przeszczepianymi zeby lepiej zobrazować tzw świadomość fenomenalną. To interakcja między umysłem a ciałem. Jakie ciało ma maszyna? Jak odwzoruje ono percepcję ciała oryginalnego i to w czasie rzeczywistym?

Będzie to pewnie mozliwe w przyszłosci, ale na razie to tylko ... filozofowanie

Edytowane 30 marca 2016 przez glaude

[Jajcenty 314]

 

 

Dałem przykład z narządami przeszczepianymi zeby lepiej zobrazować tzw świadomość fenomenalną. To interakcja między umysłem a ciałem. Jakie ciało ma maszyna? Jak odwzoruje ono percepcję ciała oryginalnego i to w czasie rzeczywistym?

Ja mam bardzo mechanistyczne podejście. Ostatnie doniesienie o mechanizmie wędrówki e. coli pod prąd w cewce moczowej, utwierdza mnie w przekonaniu że jesteśmy maszynami. Skomplikowanymi ale maszynami. A takie można rozebrać i złożyć z powrotem. (Chirurdzy chyba tak robią na swój kowalski sposób). 

 

 

Będzie to pewnie mozliwe w przyszłosci, ale na razie to tylko ... filozofowanie

Całkowita zgoda. Ale już teraz potrafimy nieźle grzebać w mózgu.  

[darekp 80]

Gdybamy sobie, że nie mamy ograniczeń technicznych i potrafimy odtworzyć struktury do ostatniego kwarka.

 

Gdyby świadomość była w jakiś sposób powiązana z jakimiś (na dzień dzisiejszy nieodkrytymi) zjawiskami powiedzmy kwantowymi, to mielibyśmy niemożność jej kopiowania gwarantowaną przez prawa fizyki (zasadę nieoznaczoności Heisenberga  czy też ten non-cloning theorem podlinkowany przez Nihilo - nie umiem powiedzieć czy to wniosek z zasady nieoznaczoności, podejrzewam, że tak). Znikałyby te wszystkie paradoksy związane z klonowaniem. Być może zostałaby możliwość "teleportowania" świadomości między maszyną a białkiem. Być może. Temat dla miłośników SF

 

Zastanawia mnie tylko, jakie są te "filozoficzne świętości", które są "szargane" przez taki sposób myślenia, tzn. przez traktowanie świadomości jako bytu przynajmniej częściowo fizycznego, który być może da się kiedyś tam w przyszłości dokładniej "zobaczyć" np we wzorach fizycznych. Czyli co to są te qualia, "świadomość fenomenalna" itd. Da się to jakoś prosto wytłumaczyć laikowi?

 

EDIT: Zresztą może nie, już mi zaczyna chodzić po głowie, że to pewnie jest "to, co zwykły ludź (...), może wykombinować, kiedy zajrzy pod własną pokrywkę" tylko ubrane w jakieś tam ładne nazwy, żeby się dobrze sprzedawało.

Edytowane 30 marca 2016 przez darekp

[glaude 40]

@Jajcenty

Pełna zgoda we wszystkim co napisałeś.

 

@darekp

Tak naprawdę to burza w szklance wody i czasami mam wrazenie, ze filozofowie są jak prawnicy wymyślając wyszukane słownictwo i komplikując rzeczy proste. Wszystko zaczęło się w latach 70. zeszłego wieku. Jeden gość napisał artykuł (uwaga ) "Jak to jest być nietoperzem". W necie krocie o nim napisali. Do dziś jest on manifestem filozofów stojącym niejako w opozycji do neurobiologów.

 

Otóż umysł to jedno- a wejścia do umysłu drugie. Nie tylko przetwarzanie w mózgu sprawia kim jesteśmy. Równie wazne jak analizatory umysłu są wejścia percepcyjne i emocje kodowane wraz z tymi wejściami. I tak np mój odbiór koloru czerwonego + emocje tym wywołane mogą być inne od twojego i dlatego tak zakodowane dane są przyporządkowane parametrami jako moje. Zmiana wejścia (przeszczep, proteza) zmienia parametry odbioru analizatora mózgowego. Te swoiste odczucia to właśnie qualia, choć ja używam nazwy percept bo jest czytelniejsza i nie trąci magią.