Zaloguj się, aby obserwować tę zawartość
Obserwujący
0
Niezależny od języka algorytm automatycznie tworzy abstrakty
dodany przez
KopalniaWiedzy.pl, w Technologia
-
Podobna zawartość
-
przez KopalniaWiedzy.pl
Babilońska lektura szkolna. Zaginiony przez tysiące lat hymn opiewający chwałę Babilonu. Przed wiekami był on kopiowany przez dzieci w ramach nauki.
Babilon, założony około 4000 lat temu, był w swoim czasie największą metropolią świata. Pozostawił nam po sobie wspaniałą spuściznę literacką, która wciąż nie została do końca skatalogowana, odczytana i zbadana. I która wciąż jest odkrywana.
Tabliczka z hymnem ku chwale miasta została znaleziona wśród zbiorów Biblioteki w Sippar. Odkryto ją w 1986 roku podczas prac w jednej ze świątyń. Archeolodzy zauważyli wówczas nieznane pomieszczenie, w którym znaleźli około 400 glinianych tabliczek.
Przez dekady, ze względu na sytuację w Iraku, zbiory pozostały niezbadane. Od jakiegoś czasu Uniwersytet w Bagdadzie we współpracy z monachijskim Uniwersytetem Ludwika i Maksymiliana, tłumaczy i digitalizuje zbiory z Sippar. I właśnie podczas tych prac Enrique Jiménez znalazł glinianą tabliczkę z hymnem sławiącym Babilon w jego największej chwale.
Tabliczka pochodzi z początku pierwszego tysiąclecia przed Chrystusem, a tekst ma 250 linii. Autor opisuje budynki Babilonu, wody Eufratu użyźniającego ziemię. Znajdziemy tam też unikatowe informacje o kobietach z Babilonu, ich roli jako kapłanek i rolach pokrewnych. Zyskujemy wgląd w stosunki społeczne, dowiadujemy się na przykład, że mieszkańcy Babilonu szanują obcokrajowców.
Skąd zaś wiemy, że hymn był kopiowany w szkołach? Dzięki pomocy algorytmów sztucznej inteligencji udało się zidentyfikować 30 innych tabliczek z tym hymnem. Jeszcze niedawno taki proces identyfikacji zająłby dekady. Maszyny poradziły sobie z tym błyskawicznie. Dzięki nim mamy też całą treść hymnu, który można było odtworzyć dzięki fragmentom dziesiątków tabliczek.
« powrót do artykułu -
przez KopalniaWiedzy.pl
Naukowcy z Uniwersytetu Oksfordzkiego i Allen Institute for AI ze zdumieniem zauważyli, że wielkie modele językowe (LLM) – takie jak używane np. przez ChatGPT – generalizują wzorce językowe podobnie jak ludzie, poprzez analogie a nie ścisłe trzymanie się zasad. Badacze postanowili sprawdzić, na ile prawdziwe jest powszechnie panujące przekonanie, że LLM generują swoje wypowiedzi na podstawie obowiązujących zasad, które wydedukował z danych treningowych. Tymczasem okazało się, że – podobnie jak ludzie – modele językowe posługują się przykładami i analogiami podczas tworzenia nieznanych sobie słów.
Badając, jak LLM generują wypowiedzi naukowcy porównali sposób tworzenia słów przez ludzi ze sposobem tworzenia ich przez model GPT-J. Zadaniem i ludzi i maszyny była zamiana przymiotników w rzeczowniki. W języku angielskim odbywa się ona przez dodanie sufiksu „-ness” lub „-ity”. I tak „happy” zamienia się w „happiness”, a „available” w „availability”. Naukowcy wymyślili 200 przymiotników, takich jak „cormasive” czy „friquish” i poprosili LLM, by zamienił je z rzeczowniki, korzystając ze wspomnianych sufiksów. Odpowiedzi uzyskane od komputera porównano z odpowiedziami otrzymanymi od ludzi oraz z przewidywaniami wiarygodnych modeli poznawczych. Jeden z tych modeli dokonuje generalizacji na podstawie zasad, drugi zaś posługuje się analogiami tworzonymi na podobieństwie do znanych przykładów.
Okazało się, że LLM działa podobnie jak ludzie, posługuje się analogiami. Tak jak większość osób nie korzysta z zasad, a z podobieństw. Na przykład słowo „friquish” zamienił na „friquishness” na podstawie jego podobieństwa do słów takich jak „selfish”, a z „cormasive” zrobił „cormasivity”, gdyż jest podobne do wyrazów takich jak „sensitive”.
Naukowcy przekonali się też, że dane treningowe mają znaczący wpływ na sposób tworzenie słów przez LLM. Gdy bowiem przeanalizowano jego odpowiedzi na pytania o niemal 50 000 rzeczywiście istniejących wyrazów stwierdzili, że posługując się metodami statystycznymi można z wielką precyzją przewidzieć, jakiej odpowiedzi udzieli LLM. Wyglądało to tak, jakby model językowy przechowywał w pamięci ślad każdego wyrazu, jaki napotkał podczas treningu i gdy napotykał coś nowego, zadawał sobie pytanie „Co mi to przypomina?”.
Uczeni znaleźli też główną różnicę pomiędzy ludźmi a LLM. Ludzie tworzą sobie mentalny słownik, w którym przechowują zestawy wszystkich form danego wyrazu, jaki uważają za znaczący w swoim języku, niezależnie od tego, jak często formy te występują. Potrafimy bardzo łatwo rozpoznać – a raczej osoby anglojęzyczne potrafią rozpoznać – że wyrazy „friquish” czy „cormasive” nie są prawdziwymi słowami, jakich obecnie się używa. Radzimy sobie z takimi potencjalnymi neologizmami tworząc generalizacje na podstawie zróżnicowania słów, jakie przechowujemy w swoich słownikach mentalnych. Tymczasem LLM generalizuje wszystko, co napotkał podczas treningu. Nie tworzy grup czy też zestawów form tego samego wyrazu.
Chociaż LLM potrafią w imponujący sposób generować wypowiedzi, okazało się, że nie myślą aż tak abstrakcyjnie jak ludzie. To prawdopodobnie dlatego potrzebują znacznie więcej danych niż ludzie by nauczyć się języka, mówi profesor Janet Pierrehumbert.
« powrót do artykułu -
przez KopalniaWiedzy.pl
Wszystko zaczęło się od przypadkowej obserwacji, mówi Li Zhang z University of Southern California. Wraz z kolegami zauważył, że gdy mysz trafi na inną nieprzytomną mysz, wchodzi z nią w intensywną interakcję. Najpierw ją wącha, później zaczyna przeczesywać jej futro, a gdy to nic nie daje, liże oczy nieprzytomnej towarzyszki, w końcu gryzie jej usta i wyciąga język, by otworzyć drogi oddechowe. Wyciąganie języka zaobserwowano w ponad 50% przypadków. Działania takie przypominają to, co ludzie robią podczas udzielania pierwszej pomocy.
Dotychczas pojawiały się anegdotyczne informacje o udzielaniu pierwszej pomocy przez słonie czy małpy, jednak brak było doniesień odnośnie myszy. Dlatego też Zhang i jego zespół przeprowadzili serię eksperymentów, by przekonać się, jaki jest cel takich działań. Uzyskane wyniki były dla nas szokiem. Zdaliśmy sobie sprawę, że myszy udzielają pierwszej pomocy, mówi Zhang.
W ramach eksperymentów naukowcy pozbawiali myszy świadomości i sprawdzali, jak zachowują się inne myszy. Na przykład gdy do pyska nieprzytomnej myszy wsadzili jakiś obiekt, zajmująca się nią mysz wyciągała go w 80% przypadków. A wyjmowanie języka na zewnątrz rzeczywiście udrażniało drogi oddechowe. Uczeni zauważyli też, że działania ratunkowe były częściej podejmowane w przypadku znajomej myszy niż obcej, co wskazuje, że zwierzęta nie były motywowane agresją. Co interesujące, samice częściej niż samce podejmowały działania ratunkowe wobec obcych myszy, co może sugerować, że mają w sobie więcej współczucia. Warto też dodać, że badane myszy nie miały wcześniej do czynienia z nieprzytomnym zwierzęciem, a to wskazuje, iż umiejętność podejmowania działań ratunkowych jest wrodzona.
Działania ratunkowe przynosiły efekt. Myszy, wobec których zostały one podjęte, odzyskiwały przytomność szybciej niż te, których nie ratowano. Natomiast myszy udzielające pomocy, gdy tylko nieprzytomna mysz zaczęła się poruszać, zmniejszały intensywność swoich działań, a w końcu ich zaprzestawały.
Naukowcy zidentyfikowali też regiony w mózgu aktywujące się w reakcji na napotkanie nieprzytomnego zwierzęcia oraz w momencie udzielania mu pomocy. Nie są jednak zgodni co do tego, czym jest spowodowane takie zachowanie u myszy. Niektórzy zauważają, że u ludzi chęć niesienia pomocy interpretowana jest jako zachowanie prospołeczne, wynik rozwoju kultury, coś, czego uczymy się od innych. Tymczasem badania na myszach mogą sugerować, że jest to zachowanie wrodzone, automatyczne. Inni nie zgadzają się z taką opinią twierdząc, że zachowanie zwierząt nie ma nic wspólnego z udzielaniem pierwszej pomocy, a jest podyktowane tylko ciekawością.
Badania nad myszami prowadziły niezależnie od siebie trzy laboratoria i wszystkie uzyskały podobne wyniki. Nigdy wcześniej nie widziałem takiego zachowania u myszy laboratoryjnych, ale też nigdy wcześniej nie umieszczaliśmy odzyskującej siły myszy w klatce z innym zwierzęciem. Fakt, że trzy niezależne laboratoria uzyskały podobne wyniki, oznacza, że eksperymentom tym można ufać. Jednak przestrzegłabym przed zbytnią antropomorfizacją takich zachowań u nieczłowiekowatych czy przypisywaniu myszom intencji wykraczających poza to, co obserwujemy, mówi Cristina Márquez z Uniwersytetu w Coimbrze.
Eksperymenty pokazują jednak, jak mało wiemy o zwierzętach. Tego typu zachowania mogą u nich występować znacznie bardziej powszechnie niż sądzimy czy chcielibyśmy przyznać. Szczególnie wśród zwierząt społecznych. Jednak powtórzenie takich obserwacji u dziko żyjących myszy będzie bardzo trudno. Żyją one bowiem w niewielkich grupach i dobrze się przed nami ukrywają. Jednak fakt, że jakichś zachowań u zwierząt nie widzimy, nie oznacza, że ich nie ma, dodaje Márquez.
Badania opublikowano na łamach Science w artykułach Reviving-like prosocial behavior in response to unconscious or dead conspecifics in rodents, A neural basis for prosocial behavior toward unresponsive individuals oraz Rescue-like behavior in a bystander mouse toward anesthetized conspecifics promotes arousal via a tongue-brain connection.
« powrót do artykułu -
przez KopalniaWiedzy.pl
Pochodzenie języka wciąż stanowi tajemnicę. Nie wiemy, kiedy nasi przodkowie zaczęli mówić, czy jesteśmy jedynym gatunkiem na Ziemi zdolnym do złożonej komunikacji głosowej. Nie wiemy też, czy jesteśmy jedynym gatunkiem hominina, który posługiwał się zaawansowaną mową. Wiemy za to, że nasi najbliżsi kuzyni, neandertalczycy, posiadali struktury anatomiczne konieczne do produkcji mowy oraz wariant genu łączony ze zdolnością mówienia. Jednak dotychczasowe badania sugerują, że ich zdolności językowe były bardzo ograniczone w porównaniu z naszymi. Co więc spowodowało, że potrafimy posługiwać się niezwykle złożoną mową? Niewykluczone, że tę zdolność zawdzięczamy... wariantowi pewnego białka.
W Nature Communications ukazał się interesujący artykuł autorstwa naukowców z The Rockefeller University, w którym opisują oni swoje badania nad ludzkim wariantem proteiny NOVA1. To specyficzne dla neuronów białko zaangażowane w dojrzewanie i metabolizm RNA. Jest ono niezbędne do prawidłowego rozwoju. U człowieka współczesnego występuje właściwa tylko dla naszego gatunku zmiana. Na 197. aminokwasie NOVA1 u Homo sapiens występuje walina tam, gdzie u denisowian i neandertalczyków znajduje się izoleucyna.
Uczeni z Rockefellera postanowili zbadać wpływ tej zmiany na fizjologię. Stworzyli więc myszy posiadające specyficzny dla ludzi wariant NOVA1 i przeanalizowali zmiany molekularne i behawioralne, jakie to za sobą pociągnęło.
Stwierdzili, że ten specyficzny dla nas wariant spowodował pojawienie się u myszy zmian w regionach mózgu odpowiedzialnych za wokalizację. Te zmiany na poziomie molekularnym miały swoje konsekwencje w zachowaniu zwierząt. Wokalizacje zarówno młodych, jak i dorosłych myszy były inne niż naturalne. Nasze odkrycie sugeruje, że ten specyficzny dla ludzi wariant NOVA1 może być częścią procesów ewolucyjnych, jakie zaszły u naszego przodka, i możliwe jest że procesy te brały udział w rozwoju języka mówionego, stwierdzają autorzy badań.
« powrót do artykułu -
przez KopalniaWiedzy.pl
Jak wszyscy wiemy, teksty prawne są trudne do zrozumienia, nawet dla prawników. Naukowców z Massachusetts Institute of Technology zainteresowało, dlaczego więc są pisane tak niezrozumiałym językiem. Okazało się, że najprawdopodobniej chodzi o „magiczną moc” słów i zwrotów. Podobnie jak w zaklęciach magicznych, gdzie odpowiedni rytm i archaiczne terminy miały nadawać słowom mocy, tak i w aktach prawnych odpowiedni język ma nadawać im mocy i autorytetu.
Profesor Edward Gibson, specjalista nauk poznawczych i nauk o mózgu, bada unikatowe cechy tekstów prawnych od 2020 roku. W 2022 roku wraz z Francisem Molliką, wykładowcą na University of Melbourne oraz Erikiem Martinezem, który ukończył Harvard Law School, rozpoczął w 2022 roku projekt, w ramach którego porównywali teksty prawne z innymi tekstami, w tym scenariuszami filmowymi, artykułami w gazetach i artykułami naukowymi. Zauważyli, że w tekstach prawnych szczególnie często zdarzają się długie definicje umieszczone w środku zdań.
Już z wcześniejszych badań wiadomo, że taka struktura zdania jest nienaturalna i powoduje, że tekst jest trudniejszy do zrozumienia. Z jakiegoś powodu istnieje tendencja do umieszczania w tekstach prawnych struktur wewnątrz innych struktur, co nie jest typowe dla ludzkiego języka, mówi Gibson. Kolejne prowadzone przez grupę badania ujawniły, że takie teksty są trudne do zrozumienia również dla prawników, którzy wolą teksty pisane naturalnym językiem. Co więcej, sami prawnicy uznawali teksty prawne pisane w sposób naturalny za tak samo ważne i obowiązujące.
Prawnicy nie lubią tekstów prawnych, zwykli ludzie również ich nie lubią, więc postanowiliśmy sprawdzić, dlaczego są one pisane w ten, a nie inny sposób, stwierdza Gibson. Naukowcy opracowali kilka hipotez, które następnie testowali. Jedna z nich mówiła, że mamy tu do czynienia z mechanizmem „kopiuj i wklej”. Zgodnie z nią, zarys tekstu prawnego miałby być tworzony indywidualnie, a następnie autor miałby dodawać kolejne zwroty, kopiując lub wzorując się na istniejących przykładach, tworząc skomplikowany tekst pełen struktur wewnątrz innych struktur. Badania wykazały jednak, że hipoteza ta jest nieprawdziwa.
Prawdziwą okazała się inną, którą badacze nazwali „hipotezą zaklęcia magicznego”. W angielskiej kulturze, jeśli chcesz napisać coś, co ma magiczną moc, to – jak powszechnie wiadomo – trzeba wstawić w tekst dużo sentencji stylizowanych na stare. Sądzimy, że w ten sam sposób tworzone są teksty prawne, mówi Gibson.
W ramach eksperymentu naukowcy poprosili 200 osób nie będących prawnikami – wszyscy byli mieszkańcami USA dla których angielski był językiem macierzystym – o napisanie dwóch rodzajów tekstów. Pierwszy z nich to przepisy zabraniające jazdy pod wpływem alkoholu, podpalenia, rabunku i handlu narkotykami. Drugi rodzaj tekstów to informacje o tego typu przestępstwach.
W celu zweryfikowania hipotezy „kopiuj i wklej” połowę uczestników badania poproszono, by już po napisaniu tekstu – czy to przepisów, czy informacji – o dodanie dodatkowej treści. Okazało się, że wszystkie teksty przepisów – niezależnie od tego, czy pisane były za jednym razem, czy dodawano do nich dodatkowy tekst – zostały stworzone za pomocą struktur wewnątrz struktur. Z kolei wszystkie teksty informacji o przestępstwach – również niezależnie od tego, czy coś do nich dodawano, czy nie – zostały napisane naturalną angielszczyzną.
Podczas drugiego z eksperymentów, w którym udział wzięło około 80 osób, poproszono uczestników, by napisali przepisy prawne oraz teksty wyjaśniające te przepisy cudzoziemcom. I znowu okazało się, że przepisy prawne powstały za pomocą złożonego nienaturalnego języka, a wszelkie wyjaśnienia były napisane w sposób naturalny.
Teraz Gibson i jego zespół chcą sprawdzić, skąd się bierze ta tendencja do tworzenia przepisów w niezrozumiałym języku. Jako że wczesne przepisy amerykańskiego prawa tworzono w oparciu o prawo brytyjskie, uczeni sprawdzą, czy i w brytyjskich przepisach widoczny jest ten sam mechanizm. Chcą też sprawdzić, czy podobny język jest używany w najstarszych spisanych przepisach prawa, Kodeksie Hammurabiego sprzed niemal 4000 lat.
Naukowcy mają nadzieję, że zachęcą prawodawców do pisania w zrozumiały sposób. Już w latach 70. ubiegłego wieku prezydent Nixon stwierdził, że przepisy federalne powinny być pisane językiem zrozumiałym dla laików. Od tego czasu nic się jednak nie zmieniło. Być może poznanie mechanizmów tworzenia tak skomplikowanych aktów prawnych pozwoli na ich uproszczenie.
« powrót do artykułu
-
-
Ostatnio przeglądający 0 użytkowników
Brak zarejestrowanych użytkowników przeglądających tę stronę.