-
Similar Content
-
By KopalniaWiedzy.pl
Naukowcy z Uniwersytetu Oksfordzkiego i Allen Institute for AI ze zdumieniem zauważyli, że wielkie modele językowe (LLM) – takie jak używane np. przez ChatGPT – generalizują wzorce językowe podobnie jak ludzie, poprzez analogie a nie ścisłe trzymanie się zasad. Badacze postanowili sprawdzić, na ile prawdziwe jest powszechnie panujące przekonanie, że LLM generują swoje wypowiedzi na podstawie obowiązujących zasad, które wydedukował z danych treningowych. Tymczasem okazało się, że – podobnie jak ludzie – modele językowe posługują się przykładami i analogiami podczas tworzenia nieznanych sobie słów.
Badając, jak LLM generują wypowiedzi naukowcy porównali sposób tworzenia słów przez ludzi ze sposobem tworzenia ich przez model GPT-J. Zadaniem i ludzi i maszyny była zamiana przymiotników w rzeczowniki. W języku angielskim odbywa się ona przez dodanie sufiksu „-ness” lub „-ity”. I tak „happy” zamienia się w „happiness”, a „available” w „availability”. Naukowcy wymyślili 200 przymiotników, takich jak „cormasive” czy „friquish” i poprosili LLM, by zamienił je z rzeczowniki, korzystając ze wspomnianych sufiksów. Odpowiedzi uzyskane od komputera porównano z odpowiedziami otrzymanymi od ludzi oraz z przewidywaniami wiarygodnych modeli poznawczych. Jeden z tych modeli dokonuje generalizacji na podstawie zasad, drugi zaś posługuje się analogiami tworzonymi na podobieństwie do znanych przykładów.
Okazało się, że LLM działa podobnie jak ludzie, posługuje się analogiami. Tak jak większość osób nie korzysta z zasad, a z podobieństw. Na przykład słowo „friquish” zamienił na „friquishness” na podstawie jego podobieństwa do słów takich jak „selfish”, a z „cormasive” zrobił „cormasivity”, gdyż jest podobne do wyrazów takich jak „sensitive”.
Naukowcy przekonali się też, że dane treningowe mają znaczący wpływ na sposób tworzenie słów przez LLM. Gdy bowiem przeanalizowano jego odpowiedzi na pytania o niemal 50 000 rzeczywiście istniejących wyrazów stwierdzili, że posługując się metodami statystycznymi można z wielką precyzją przewidzieć, jakiej odpowiedzi udzieli LLM. Wyglądało to tak, jakby model językowy przechowywał w pamięci ślad każdego wyrazu, jaki napotkał podczas treningu i gdy napotykał coś nowego, zadawał sobie pytanie „Co mi to przypomina?”.
Uczeni znaleźli też główną różnicę pomiędzy ludźmi a LLM. Ludzie tworzą sobie mentalny słownik, w którym przechowują zestawy wszystkich form danego wyrazu, jaki uważają za znaczący w swoim języku, niezależnie od tego, jak często formy te występują. Potrafimy bardzo łatwo rozpoznać – a raczej osoby anglojęzyczne potrafią rozpoznać – że wyrazy „friquish” czy „cormasive” nie są prawdziwymi słowami, jakich obecnie się używa. Radzimy sobie z takimi potencjalnymi neologizmami tworząc generalizacje na podstawie zróżnicowania słów, jakie przechowujemy w swoich słownikach mentalnych. Tymczasem LLM generalizuje wszystko, co napotkał podczas treningu. Nie tworzy grup czy też zestawów form tego samego wyrazu.
Chociaż LLM potrafią w imponujący sposób generować wypowiedzi, okazało się, że nie myślą aż tak abstrakcyjnie jak ludzie. To prawdopodobnie dlatego potrzebują znacznie więcej danych niż ludzie by nauczyć się języka, mówi profesor Janet Pierrehumbert.
« powrót do artykułu -
By KopalniaWiedzy.pl
Chrysopoeia to używany przez alchemików termin na transmutację (przemianę) ołowiu w złoto. Alchemicy zauważyli, że tani i powszechnie występujący ołów ma podobną gęstość do złota i na tej podstawie próbowali opracować metodę zamiany jednego materiału w drugi. Po wielu wiekach badań i rozwoju nauki ludzkość dowiedziała się, że ołów i złoto to różne pierwiastki i metodami chemicznymi nie uda się zamienić jednego w drugi.
Dopiero na początku XX wieku okazało się, że pierwiastki mogą zmieniać się w inne, na przykład drogą rozpadu radioaktywnego, fuzji jądrowej czy też można tego dokonać bombardując je protonami lub neutronami. W ten sposób dokonywano już w przeszłości zamiany ołowiu w złoto.
Teraz w eksperymencie ALICE w Wielkim Zderzaczu Hadronów zarejestrowany nowy mechanizm transmutacji ołowiu w złoto. Doszło do niej podczas bardzo bliskiego minięcia się atomów ołowiu. W LHC naukowcy zderzają ze sobą jądra ołowiu, uzyskując plazmę kwarkowo-gluonową. Jednak interesują ich nie tylko bezpośrednie zderzenia jąder atomowych. Z punktu widzenia fizyki niezwykle ciekawe są też sytuacje, gdy do zderzeń nie dochodzi, ale jądra mijają się w niewielkiej odległości. Intensywne pola elektromagnetyczne otaczające jądra mogą prowadzić do interakcji, które są przedmiotem badań.
Ołów, dzięki swoim 82 protonom, ma wyjątkowo silne pole elektromagnetyczne. Co więcej w Wielkim Zderzaczu Hadronów jądra ołowiu rozpędzane są do 99.999993% prędkości światła, co powoduje, że linie ich pola elektromagnetycznego zostają ściśnięte, przypominając naleśnik. Układają się poprzecznie do kierunku ruchu, emitując krótkie impulsy fotonów. Często dochodzi wówczas do dysocjacji elektromagnetycznej, gdy wskutek interakcji z fotonem w jądrze zachodzi oscylacja, w wyniku której wyrzucane są z niego protony lub neutrony. By w ten sposób ołów zmienił się w złoto (które posiada 79 protonów), jądro ołowiu musi utracić 3 protony.
To niezwykłe, że nasz detektor jest stanie analizować zderzenia, w których powstają tysiące cząstek, a jednocześnie jest tak czuły, że wykrywa procesy, w ramach których pojawia się zaledwie kilka cząstek. Dzięki temu możemy badać elektromagnetyczną transmutację jądrową, mówi rzecznik prasowy eksperymentu ALICE, Marco Van Leeuwen.
Uczeni wykorzystywali kalorymetry do pomiarów interakcji fotonów z jądrami, w wyniku których dochodziło do emisji 0, 1, 2 lub 3 protonów z towarzyszącym co najmniej 1 neutronem. W ten sposób jądra ołowiu albo pozostawały jądrami ołowiu, albo zamieniały się w tal, rtęć lub złoto.
Złoto powstawało rzadziej niż tal czy rtęć. Maksymalne tempo jego wytwarzania wynosiło około 89 000 jąder złota na sekundę. Analiza danych z ALICE wykazała, że w całym LHC w latach 2015–2018 powstało 86 miliardów atomów złota. Współcześni fizycy są więc bardziej skuteczni niż alchemicy. Podobnie jednak jak oni, nie obsypią swoich władców złotem. Te 86 miliardów atomów to zaledwie 29 pikogramów (2,9x10-11 grama).
« powrót do artykułu -
By KopalniaWiedzy.pl
Do Muzeum Czech Wschodnich w Hradcu Kralove zgłosili się dwaj turyści, którzy przynieśli... kilka kilogramów złota. Złote monety, bransolety, tabakiery, pudernica, grzebień i klucz na łańcuszku zostały znalezione w bardzo nietypowym skarbie. Zwykle złote skarby zakopane w ziemi pochodzą sprzed wieków lub tysiącleci. Nasi turyści odkryli złoto porastającym lasem byłym polu uprawnym, gdy zauważyli wystającą z ziemi aluminiową skrzynkę.
Po otwarciu skrzynki okazało się, że wewnątrz jest 598 złotych monet zorganizowanych w 11 kolumn owiniętych czarnym materiałem. Metr obok leżała zaś żelazna skrzynka z wykonanymi z żółtego metalu 16 tabakierami, 10 bransoletami, torbą z metalowej plecionki, grzebieniem, łańcuszkiem z kluczem i pudernicy. Monety ważą niemal 4 kilogramy i są złote. Obecnie naukowcy badają materiał, z którego wykonano pozostałe przedmioty. To niezbędne, by opracować metodę ich konserwacji.
Skarb jest nietypowy nie tylko dlatego, że nie jest zbyt stary, na co wskazuje chociażby aluminiowa skrzynka. Niezwykły jest też jego skład. Monety zostały wybite w latach 1808–1915, jednak rok 1915 nie jest tym, który wskazuje na datę ukrycia złota. Na niektórych monetach znaleziono bowiem kontrmarki wskazujące, że zostały one wybite w latach 20. i 30. XX wieku na terenie byłej Jugosławii. Jakby jeszcze tajemnic było mało, w skarbie znajdują się głównie monety francuskie, są też austro-węgierskie, belgijskie i ottomańskie. Natomiast brak w skarbie monet niemieckich czy czechosłowackich.
Sama wartość złota ze skarbu wynosi co najmniej 7,5 miliona koron. Zgodnie z czeskim prawem, znalazcy należy się nagroda szacowana albo na podstawie wartości metalu szlachetnego lub innego cennego materiału, albo na podstawie wartości historycznej znaleziska. W przypadku szacunku po cenie materiału, znalazca może otrzymać do 100% jego wartości. W pozostałych przypadkach jest to do 10% wartości historycznej oszacowanej przez eksperta.
« powrót do artykułu -
By KopalniaWiedzy.pl
Wszystko zaczęło się od przypadkowej obserwacji, mówi Li Zhang z University of Southern California. Wraz z kolegami zauważył, że gdy mysz trafi na inną nieprzytomną mysz, wchodzi z nią w intensywną interakcję. Najpierw ją wącha, później zaczyna przeczesywać jej futro, a gdy to nic nie daje, liże oczy nieprzytomnej towarzyszki, w końcu gryzie jej usta i wyciąga język, by otworzyć drogi oddechowe. Wyciąganie języka zaobserwowano w ponad 50% przypadków. Działania takie przypominają to, co ludzie robią podczas udzielania pierwszej pomocy.
Dotychczas pojawiały się anegdotyczne informacje o udzielaniu pierwszej pomocy przez słonie czy małpy, jednak brak było doniesień odnośnie myszy. Dlatego też Zhang i jego zespół przeprowadzili serię eksperymentów, by przekonać się, jaki jest cel takich działań. Uzyskane wyniki były dla nas szokiem. Zdaliśmy sobie sprawę, że myszy udzielają pierwszej pomocy, mówi Zhang.
W ramach eksperymentów naukowcy pozbawiali myszy świadomości i sprawdzali, jak zachowują się inne myszy. Na przykład gdy do pyska nieprzytomnej myszy wsadzili jakiś obiekt, zajmująca się nią mysz wyciągała go w 80% przypadków. A wyjmowanie języka na zewnątrz rzeczywiście udrażniało drogi oddechowe. Uczeni zauważyli też, że działania ratunkowe były częściej podejmowane w przypadku znajomej myszy niż obcej, co wskazuje, że zwierzęta nie były motywowane agresją. Co interesujące, samice częściej niż samce podejmowały działania ratunkowe wobec obcych myszy, co może sugerować, że mają w sobie więcej współczucia. Warto też dodać, że badane myszy nie miały wcześniej do czynienia z nieprzytomnym zwierzęciem, a to wskazuje, iż umiejętność podejmowania działań ratunkowych jest wrodzona.
Działania ratunkowe przynosiły efekt. Myszy, wobec których zostały one podjęte, odzyskiwały przytomność szybciej niż te, których nie ratowano. Natomiast myszy udzielające pomocy, gdy tylko nieprzytomna mysz zaczęła się poruszać, zmniejszały intensywność swoich działań, a w końcu ich zaprzestawały.
Naukowcy zidentyfikowali też regiony w mózgu aktywujące się w reakcji na napotkanie nieprzytomnego zwierzęcia oraz w momencie udzielania mu pomocy. Nie są jednak zgodni co do tego, czym jest spowodowane takie zachowanie u myszy. Niektórzy zauważają, że u ludzi chęć niesienia pomocy interpretowana jest jako zachowanie prospołeczne, wynik rozwoju kultury, coś, czego uczymy się od innych. Tymczasem badania na myszach mogą sugerować, że jest to zachowanie wrodzone, automatyczne. Inni nie zgadzają się z taką opinią twierdząc, że zachowanie zwierząt nie ma nic wspólnego z udzielaniem pierwszej pomocy, a jest podyktowane tylko ciekawością.
Badania nad myszami prowadziły niezależnie od siebie trzy laboratoria i wszystkie uzyskały podobne wyniki. Nigdy wcześniej nie widziałem takiego zachowania u myszy laboratoryjnych, ale też nigdy wcześniej nie umieszczaliśmy odzyskującej siły myszy w klatce z innym zwierzęciem. Fakt, że trzy niezależne laboratoria uzyskały podobne wyniki, oznacza, że eksperymentom tym można ufać. Jednak przestrzegłabym przed zbytnią antropomorfizacją takich zachowań u nieczłowiekowatych czy przypisywaniu myszom intencji wykraczających poza to, co obserwujemy, mówi Cristina Márquez z Uniwersytetu w Coimbrze.
Eksperymenty pokazują jednak, jak mało wiemy o zwierzętach. Tego typu zachowania mogą u nich występować znacznie bardziej powszechnie niż sądzimy czy chcielibyśmy przyznać. Szczególnie wśród zwierząt społecznych. Jednak powtórzenie takich obserwacji u dziko żyjących myszy będzie bardzo trudno. Żyją one bowiem w niewielkich grupach i dobrze się przed nami ukrywają. Jednak fakt, że jakichś zachowań u zwierząt nie widzimy, nie oznacza, że ich nie ma, dodaje Márquez.
Badania opublikowano na łamach Science w artykułach Reviving-like prosocial behavior in response to unconscious or dead conspecifics in rodents, A neural basis for prosocial behavior toward unresponsive individuals oraz Rescue-like behavior in a bystander mouse toward anesthetized conspecifics promotes arousal via a tongue-brain connection.
« powrót do artykułu -
By KopalniaWiedzy.pl
Pochodzenie języka wciąż stanowi tajemnicę. Nie wiemy, kiedy nasi przodkowie zaczęli mówić, czy jesteśmy jedynym gatunkiem na Ziemi zdolnym do złożonej komunikacji głosowej. Nie wiemy też, czy jesteśmy jedynym gatunkiem hominina, który posługiwał się zaawansowaną mową. Wiemy za to, że nasi najbliżsi kuzyni, neandertalczycy, posiadali struktury anatomiczne konieczne do produkcji mowy oraz wariant genu łączony ze zdolnością mówienia. Jednak dotychczasowe badania sugerują, że ich zdolności językowe były bardzo ograniczone w porównaniu z naszymi. Co więc spowodowało, że potrafimy posługiwać się niezwykle złożoną mową? Niewykluczone, że tę zdolność zawdzięczamy... wariantowi pewnego białka.
W Nature Communications ukazał się interesujący artykuł autorstwa naukowców z The Rockefeller University, w którym opisują oni swoje badania nad ludzkim wariantem proteiny NOVA1. To specyficzne dla neuronów białko zaangażowane w dojrzewanie i metabolizm RNA. Jest ono niezbędne do prawidłowego rozwoju. U człowieka współczesnego występuje właściwa tylko dla naszego gatunku zmiana. Na 197. aminokwasie NOVA1 u Homo sapiens występuje walina tam, gdzie u denisowian i neandertalczyków znajduje się izoleucyna.
Uczeni z Rockefellera postanowili zbadać wpływ tej zmiany na fizjologię. Stworzyli więc myszy posiadające specyficzny dla ludzi wariant NOVA1 i przeanalizowali zmiany molekularne i behawioralne, jakie to za sobą pociągnęło.
Stwierdzili, że ten specyficzny dla nas wariant spowodował pojawienie się u myszy zmian w regionach mózgu odpowiedzialnych za wokalizację. Te zmiany na poziomie molekularnym miały swoje konsekwencje w zachowaniu zwierząt. Wokalizacje zarówno młodych, jak i dorosłych myszy były inne niż naturalne. Nasze odkrycie sugeruje, że ten specyficzny dla ludzi wariant NOVA1 może być częścią procesów ewolucyjnych, jakie zaszły u naszego przodka, i możliwe jest że procesy te brały udział w rozwoju języka mówionego, stwierdzają autorzy badań.
« powrót do artykułu
-
-
Recently Browsing 0 members
No registered users viewing this page.