Skocz do zawartości
Forum Kopalni Wiedzy
KopalniaWiedzy.pl

Hakerzy mogą łatwo oszukać systemy sztucznej inteligencji

Rekomendowane odpowiedzi

W ubiegłym tygodniu podczas International Conference on Machine Learning (ICML) grupa naukowców pokazała żółwia wydrukowanego techniką 3D. Dla ludzi żółw wyglądał niemal jak żywy. Jednak algorytmy sztucznej inteligencji rozpoznały w obiekcie... strzelbę. W innym przypadku kij baseballowy wykonany techniką druku 3D został przez SI uznany za... filiżankę espresso.

Na naszych oczach sztuczna inteligencja, systemy maszynowego uczenia się, czynią tak wielkie postępy, że coraz częściej podnoszą się głosy zaniepokojenia, ostrzegające nas przed zbytnim rozwijaniem inteligencji maszyn. Jednak, jak się okazuje, systemy SI są zdumiewająco podatne na ataki. A w ostatnim czasie eksperci coraz częściej prezentują nam przykłady takich ataków. My, którzy pracujemy nad maszynowym uczeniem się nie jesteśmy przyzwyczajeni, by myśleć o bezpieczeństwie naszych systemów, mówi jeden z twórców żółwia 3D i badań nad atakiem na AI, Anish Athalye z MIT.

Specjaliści zajmujący się sztuczną inteligencją mówią, że przeprowadzenie takich ataków jest bardzo użyteczne z naukowego punku widzenia. Pozwalają one bowiem analizować sposób działania sieci neuronowych, które obecnie nie są dobrze rozumiane. Ataki to wspaniałe szkło powiększające, przez które możemy lepiej zrozumieć to, co nazywamy maszynowym uczeniem, mówi Dawn Song z Uniwersytetu Kalifornijskiego w Berkeley.

W ubiegłym roku Song i jej koledzy umieścili na standardowym znaku drogowym „STOP” kilka naklejek, które spowodowały, że system SI uznał znak za... ograniczenie prędkości do 45 mil na godzinę. Nietrudno wyobrazić sobie konsekwencje takiego ataku na samochód autonomiczny.

Ataki można podzielić na takie, w których napastnik ma wiedzę o algorytmach wykorzystywanych przez system i na takie, w których algorytmów tych nie zna. W pierwszym przypadku może obliczyć, w jaki sposób należy zmienić dane wejściowe do systemu wykorzystującego dane algorytmy, by otrzymać pożądane dane wyjściowe. W ten sposób można np. manipulować obrazem tak, by dla człowieka nie wyglądal on na zmanipulowany, ale by sztuczna inteligencja źle go rozpoznała.

Bardziej wymagające są ataki, gdy nie znamy algorytmów. Wówczas napastnik zna tylko danej wejściowe i wyjściowe. Przeprowadzenie takiego ataku jest trudne, ale nie niemożliwe. Podczas ostatniego ICML Athalye i jego zespół zaprezentowali tego typu atak przeciwko usłudze Google Cloud Vision. W sposób niewidoczny dla człowieka zmienili oni zdjęcie przedstawiające dwóch narciarzy tak, że system Google'a uznał je za zdjęcie psa.

Jednym ze sposobów na uchronienie się przed tego typu atakami jest stworzenie formuły, pozwalającej algorytmom SI zweryfikować, czy dobrze rozpoznały dany obiekt. Jeśli możesz przeprowadzić weryfikację, oznacza to koniec zabawy dla napastników, mówi Pushmeet Kohli z DeepMind. Podczas ICML zaprezentowano nawet dwa takie algorytmy weryfikujące. Problem w tym, że obecnie nie da się ich skalować na duże sieci neuronowe współczesnych SI. Co prawda Kohli twierdzi, że w przyszłości się to uda, jednak Song uważa, że w świecie praktycznych zastosowań będą one miały poważne ograniczenia. Nie istnieje matematyczna definicja tego, kim jest pieszy. Czy możemy więc udowodnić, że autonomiczny samochód w żadnym przypadku nie uderzy w pieszego? Nie możemy, stwierdza uczona.


« powrót do artykułu

Udostępnij tę odpowiedź


Odnośnik do odpowiedzi
Udostępnij na innych stronach

Jako wieczny malkontent: jeśli chcą wprowadzić algorytm weryfikujący, czy sieć działa OK, to po jaki grzyb ta sieć? Nie lepiej zostawić sam algorytm? Kolejna rzecz - nikt nie wie, jak sieć działa, czy to atakujący, czy ten co ją "nauczył", a w takim układzie jedyne czego nie wiedziałby atakujący, to z którą siecią akurat ma do czynienia (co też ma znaczenie, bo tak jak z atakami na serwery internetowe, jeśli wiemy jakie jest tam oprogramowanie i w jakiej wersji, to wiemy też jak to można zhakować, albo przynajmniej jakie próby hakowania jeszcze nie zadziałały).

A tak ogólnie ta moda na maszynowe uczenie to wygląda mi na efekt postępującego rozleniwienia: po co się męczyć i kodować jakieś reguły w sieci np. systemu eksperckiego (bo to trzeba fachowca, który umie te reguły określić, a potem innego kto je zamieni w oprogramowanie), kiedy można zrobić funkcję mówiącą "źle/dobrze" i mieć nadzieję, że sieć nauczy się sama czegoś, co (tutaj nadzieja drugiego stopnia) jest tym o co nam chodziło.

Udostępnij tę odpowiedź


Odnośnik do odpowiedzi
Udostępnij na innych stronach
W dniu 20.07.2018 o 13:22, KopalniaWiedzy.pl napisał:

Nie istnieje matematyczna definicja tego, kim jest pieszy

Hmm. Zagadkowe słowa :) i wniosek.

W dniu 20.07.2018 o 13:22, KopalniaWiedzy.pl napisał:

zmienili oni zdjęcie przedstawiające dwóch narciarzy tak, że system Google'a uznał je za zdjęcie psa.

Bo takie są niespodzianki z SI. Z dużej ilości danych wyłapuje się jakieś małe fragmenty które prowadzą do podjęcia decyzji. To się może udawać w sprawach mało krytycznych np. zabawkach dla dzieci. Ale nie w przypadkach kiedy pomyłka=śmierć.

Moim zdaniem jest sens w tym pomyśle z artykułu.
Mózg ludzki wydaje mi się że działa podobnie. Identyfikacja jest przeprowadzana wielopoziomowo od SI po dość sztywne algorytmy. A jak mamy niezgodność SI z sztywnym algorytmem to jest komenda: stop, analizuj jeszcze raz.

Udostępnij tę odpowiedź


Odnośnik do odpowiedzi
Udostępnij na innych stronach

Wszystko to jest bez sensu, podobnie jak usilne próby budowania kolejnych antropomorficznych robotów, które albo straszą, albo śmieszą wyglądem. Po to ten samochód jest autonomiczny, by nie stosować się do „ludzkich” informacji. Jedyne co powinien wykrywać, to swoje położenie i położenie przeszkód (inne pojazdy, cykliści, ludzie) — co za różnica czy system wykryje narciarza na piaszczystej pseudo-drodze w Afryce czy psa? Przeszkoda na drodze, to przeszkoda. Powinien spróbować ominąć, zwolnić, zatrzymać się, przekazać kontrolę kierowcy, ewentualnie użyć sygnałów. Natomiast od nawigacji powinny być mapy, a nie znaki. Zresztą znaki też można rozszerzyć o wkomponowaną nalepkę QR.

Projektanci patrzą zbyt szeroko i chcą zrobić system uniwersalny, na każdą pogodę i w ogóle super. A wystarczy po prostu działający.

Udostępnij tę odpowiedź


Odnośnik do odpowiedzi
Udostępnij na innych stronach
15 godzin temu, wilk napisał:

Po to ten samochód jest autonomiczny, by nie stosować się do „ludzkich” informacji

A kto mówi o ludzkich informacjach? :)

Piszemy o ludzkich algorytmach. Takich które jak to napisałeś:

15 godzin temu, wilk napisał:

po prostu działający

Tak, one po prostu działają. Ewolucja eliminowała przez miliony lat te niedziałające.
Problem w zastosowaniu informatyki w takich życiowych sytuacjach jest taki że te same matematycznie obiekty - informatycznie nie są takie same tylko podobne :) I na razie jest to ogólnie problem nierozwiązywalny jak z matematycznie "=" przejść na "podobne".

Algorytmów ogólnych gotowych nie ma. Możliwe że istnieją jedynie dla wybranych przypadków. Dlatego używamy SI. 

Edytowane przez thikim

Udostępnij tę odpowiedź


Odnośnik do odpowiedzi
Udostępnij na innych stronach
W dniu ‎27‎.‎07‎.‎2018 o 19:51, wilk napisał:

Projektanci patrzą zbyt szeroko i chcą zrobić system uniwersalny, na każdą pogodę i w ogóle super. A wystarczy po prostu działający.

:D

Kim Dzon Un do swoich naukowców: przestańcie liczyć wszystkie zmienne, warianty i inne pier...oły. Ta rakieta ma bezawaryjnie i celnie  dolecieć do USA. 

W dniu ‎27‎.‎07‎.‎2018 o 19:51, wilk napisał:

. Natomiast od nawigacji powinny być mapy, a nie znaki

Hmm...nierozpoznanie przez SI interwencyjnie ustawionych znaków B1, B20, B62..zresztą wszystkich B, wygeneruje jakieś kłopoty .I ciekaw jestem, na jaka mapa ma wgrane znaki, które  pan policjant  może wygestykulować kiedy ma prawo i ochotę.

Udostępnij tę odpowiedź


Odnośnik do odpowiedzi
Udostępnij na innych stronach
15 godzin temu, thikim napisał:

ludzkich informacjach

Chodzi o ludzkie informacje, czyli odczytywanie znaków, sygnalizacji świetlnej, tego na co zwraca uwagę ludzki kierowca. To jest bez sensu. Ja rozumiem, że przy okazji chwytliwe granty i pole do rozwoju SI, ale to jest robienie wszystkiego naraz, przy okazji. Chcemy połączyć dwie deski, to przy okazji wynajdujemy spawanie, zgrzewanie, klejenie i nitowanie.

15 godzin temu, thikim napisał:

nie są takie same tylko podobne

Ale to pojazdu nie powinno w ogóle interesować. Przeszkoda to przeszkoda. Może ocenić jej szybkość poruszania się i ominąć lub oddać kierownicę. A czy to pies, człowiek czy wypuszczony z zoo hipopotam, to nie ma znaczenia. Co innego, gdyby to miał być system śledzenia celów w zastosowaniu wojskowych, ale na drodze robienie drabinki „if-ów” jest bez sensu. Skoro wystarczy niewielka modyfikacja, by sieć się pogubiła, to znaczy, że ma zbyt silne sprzężenie zwrotne lub została przeuczona. Poza tym kolejna bzdura — jakim cudem sieć uczona do rozpoznawania znaków rozpoznała psa? Dlaczego była do tego uczona? Od tego powinny być osobne komponenty, a nie jeden system rozpoznawania wszystkich obrazów. Sieć uczona do znaków powinna zwracać wyłącznie wyniki z własnej dziedziny, nawet jeśli rozpoznawanie już siada.

3 godziny temu, 3grosze napisał:

Ta rakieta ma bezawaryjnie i celnie  dolecieć do USA. 

Śmieszki, heheszki, ale rakieta jest w pełni samodzielna i jej zawrócenie się przez przypadek i odwiedzenie Kima nie jest opcją. A pociski typu cruise to już zupełnie inna kategoria. W przypadku samochodu wystarczającym jest reakcja na przeszkodę. Samochód nie musi wiedzieć czy właśnie nie rozjechał pijanego rowerzysty czy niedowidzącej seniorki. To całkowicie bez znaczenia dla nawigacji. Ponownie — przeszkoda to przeszkoda. SI może być znacząco lepszym kierowcą, popełniać mniej błędów, ale człowiek i tak zawsze da radę wpaść pod koła.

Udostępnij tę odpowiedź


Odnośnik do odpowiedzi
Udostępnij na innych stronach
6 godzin temu, wilk napisał:

Ale to pojazdu nie powinno w ogóle interesować. Przeszkoda to przeszkoda

No właśnie nie. Ściana deszczu to przeszkoda? Liście na drodze to przeszkoda? Odblask światła na drodze to przeszkoda? Samochód przed nami to przeszkoda?

Musi być algorytm który dany obiekt sklasyfikuje jako istotną przeszkodę. I nie zatrzyma się bo przed nami jedzie samochód.

6 godzin temu, wilk napisał:

Chodzi o ludzkie informacje, czyli odczytywanie znaków, sygnalizacji świetlnej, tego na co zwraca uwagę ludzki kierowca

A maszyna ma na to nie zwracać uwagi? :D W sumie po co patrzeć na sygnalizację świetlną :D

Maszyna ma oczywiście możliwość "zobaczenia" większej ilości rzeczy i są one istotne.

Edytowane przez thikim

Udostępnij tę odpowiedź


Odnośnik do odpowiedzi
Udostępnij na innych stronach

Inny samochód? Oczywiście, że to przeszkoda i tak powinien być traktowany. Albo próbujemy go wyprzedzić, ominąć, albo czekamy aż sobie pojedzie. Ściana deszczu może być przeszkodą, jeśli jest to wodospad, za którym kryje się prawdziwa ściana. Bez sensu dywagacje. Odblask światła raczej nie zostawia echa na czujniku zbliżeniowym. A może się mylę? Po co ma zwracać uwagę i analizować (błędnie) rozmaite zestawy sygnalizatorów, które w każdym kraju wyglądają inaczej, skoro sam sygnalizator może wysyłać informację o aktualnym stanie? Kpisz sobie, a wystarczy, że spojrzysz nie tak daleko, na kolej.

Udostępnij tę odpowiedź


Odnośnik do odpowiedzi
Udostępnij na innych stronach

Jeśli chcesz dodać odpowiedź, zaloguj się lub zarejestruj nowe konto

Jedynie zarejestrowani użytkownicy mogą komentować zawartość tej strony.

Zarejestruj nowe konto

Załóż nowe konto. To bardzo proste!

Zarejestruj się

Zaloguj się

Posiadasz już konto? Zaloguj się poniżej.

Zaloguj się

  • Podobna zawartość

    • przez KopalniaWiedzy.pl
      Po wiekach bezwzględnego tępienia wilków, które skutkowały ich zniknięciem z większości obszaru Europy, gatunek stopniowo się odradza. Rosnąca liczba wilków powoduje jednak, że coraz głośniejsi są ci, którzy chcieliby je ponownie tępić. Wśród argumentów, które podnoszą, jest i ten mówiący o zagrożeniu, jakie wilki stwarzają dla zwierząt hodowlanych. Problem ten zbadali naukowcy z Uniwersytetu Warszawskiego i Stowarzyszenia dla Natury „Wilk”.
      W 2022 roku w całej Europie żyło około 21 500 wilków. Zwierzęta te pojawiły się już niemal we wszystkich państwach. Ich obecności nie zanotowano jedynie w Monako, San Marino i Watykanie. W niektórych krajach przyrost jest imponujący. W Niemczech jeszcze w 2000 roku była 1 grupa rodzinna, a w roku 2022 żyły tam 184 grupy i 47 par.
      Wilk odradza się dzięki świadomym działaniom i ochronie, jaką jest objęty. Nie bez znaczenia jest tu postawa społeczeństw. Większość ludzi jest świadoma, że drapieżniki te odgrywają kluczowe znaczenie dla zdrowia ekosystemów i nie stanowią zagrożenia dla człowieka. Dzisiaj już nikt nie wierzy w – popularne w XVIII czy XIX wieku – doniesienia autorów encyklopedii, książek i prasy o wilkach napadających na Paryż i pożerających 800 000 ludzi czy o stadach wilków prowadzących szturm na wioskę i broniących się przed nimi mieszkańców. O ile takie historie są niewiarygodne, to zagrożenie dla zwierząt gospodarskich wydaje się realne.
      W European Journal of Wildlife Research ukazały się wyniki badań, jakie w latach 2020–2022 były prowadzone przez uczonych z Warszawy – wśród nich przez magister Weronikę Baranowską, doktor Sabinę Nowak i doktora Roberta Mysłajka – na liczącym 500 km2 regionie ujścia Warty. Największą jego część stanowi Obszar Natura 2000 „Ujście Warty” o powierzchni 332,2 km2, którego centralna część to Park Narodowy „Ujście Warty” o powierzchni 80,7 km2. Na całym wspomnianym terenie w sposób wolny wypasanych jest około 4000 krów i około 700 koni. I właśnie tam uczeni postanowili sprawdzić, jaki odsetek stanowią zwierzęta gospodarskie w diecie wilków. Przystępując do badań wysunęli hipotezę, że niechronione zwierzęta hodowlane – ze względu na łatwy dostęp do nich – będą stanowiły znaczący udział w diecie wilków.
      Uczeni zbadali 109 próbek wilczych odchodów i okazało się, że wilki żywią się głównie dzikimi zwierzętami roślinożernymi (81,9% diety) oraz dzikimi ssakami średniej wielkości (14,5% diety). Zwierzęta domowe są zjadane rzadko. Bydło hodowlane stanowiło 3% diety wilków, a psy – 0,4% diety. Przez cały 2-letni okres badań znaleziono zwłoki jedynie 3 cieląt zjedzonych przez wilki.
      Dieta wilków w regionie ujścia Warty nie różni się w sposób znaczący od diety wilków z sześciu innych obszarów Europy Centralnej. Nasze badania wykazały, że pomimo łatwej dostępności do bydła i koni, wilki żywią się głównie dzikimi zwierzętami. Osoby zajmujące się rozwiązywaniem problemów na styku wilki–zwierzęta hodowlane, powinny zatem wziąć pod uwagę, że ataki wilków na stada nie są prostą funkcją dostępności do zwierząt hodowlanych, ale wpływ na to mają też inne czynniki, jak gatunek zwierzęcia hodowlanego, metoda wypasu, ukształtowanie środowiska i dostępność dzikich zwierząt, którymi wilki się żywią, czytamy w artykule.
      Należy również wziąć pod uwagę fakt, że wilki zjadają też znalezione martwe zwierzęta, zatem odsetek zwierząt rzeczywiście przez nie zabijanych jest niższy, niż wynika z badania odchodów. I rzeczywiście, brak skarg ze strony hodowców i domagania się od nich odszkodowań wskazuje, że wilki znad Warty mogły w znaczniej mierze pożywiać się domowymi zwierzętami, które padły z innych powodów, a nie zostały upolowane.
      Olbrzymią rolę odgrywa też gatunek zwierząt hodowlanych oraz sposób hodowli. Koni wilki nie zjadały w ogóle, co sugeruje, że uważały ewentualny atak na te zwierzęta na zbyt ryzykowny. W ujściu Warty wypasane są duże gatunki krów, ponadto hodowcy nie przycinają im rogów. I krowy, i konie żyjące w wolnym stadzie mogą wspólnie skutecznie bronić się przed wilkami. A na chęć przeprowadzenia ataku na zwierzęta hodowlane wpływają też inne czynniki, jak struktura wilczej grupy oraz dostępność innych źródeł pożywienia.
      Autorzy innych badań (Imbert et al., https://doi.org/10.1016/j.biocon.2016.01.003) wykazali, że stabilne grupy rodzinne wilków rzadko atakują zwierzęta hodowlane. Za atakami stoją najczęściej wilki, których grupa rodzinna została zniszczona przez człowieka (np. wskutek zabicia jednego z rodziców). Zatem walka z kłusownictwem, dbanie o to, by wilki tworzyły stabilne grupy, jest ważnym elementem zapobiegania atakom na zwierzęta hodowlane.
      Innym istotnym czynnikiem jest dostęp wilków do naturalnych źródeł pożywienia. Charakterystyczną cechą badanego obszaru jest wysokie zagęszczenie dzikich przeżuwaczy – jelenia szlachetnego (8–10 osobników na 10 km2), sarny europejskiej (27–31 osobników na 10 km2) oraz dzika euroazjatyckiego (2-3 osobniki na 10 km2). Ponadto żyje tutaj 8–9 bobrów na 10 km2, co stanowi jedno z największych zagęszczeń tych zwierząt w Polsce.
      Największy udział (59,8%) w diecie wilków z ujścia Warty ma sarna europejska. To jednocześnie najbardziej rozpowszechniony dziki przeżuwacz w Polsce i główne źródło pożywienia wilków na całej Nizinie Środkowoeuropejskiej. Drugim najważniejszym źródłem pożywienia (20,5%) były dziki. To społeczne zwierzęta żyjące w grupach z dużą liczbą prosiąt chronionych przez matkę. Ze względu na liczebność, młode padają łatwym łupem wilków. Przyglądając się, jaki odsetek stanowiły dziki w diecie wilków, musimy jednak pamiętać, że badania były prowadzone w okresie, gdy dziki były masowo w Polsce zabijane. W latach 2019–2024 w ramach walki z ASF zabito ponad 1,5 miliona tych zwierząt. W latach 2020–2022 zabitych zostało 760 tysięcy dzików. Dostępność dzików znacznie więc spadła, stały się one najmniej licznym przeżuwaczem w ujściu Warty. Mimo to nadal stanowiły drugie najważniejsze źródło pożywienia wilków. Autorzy badań przypuszczają, że przyczynić się do tego mógł ASF. Wilki mogły korzystać z dostępności osłabionych zwierząt i pożywiać się zwierzętami padłymi. To zaś pokazuje, że odgrywają one ważną rolę w zapobieganiu rozprzestrzeniania się tej choroby. To kolejny przykład korzystnego wpływu wilków na środowisko.
      Warto też zwrócić uwagę na niewielką, ale jednak, obecność psów w diecie wilków. Brak skarg ze strony mieszkańców sugeruje, że wilki zjadały psy żyjące w lasach. Dostępne szacunki mówią, że psy zabijają rocznie 33 000 dzikich zwierząt i 280 zwierząt hodowlanych. Wilki, zabijając psy, przyczyniają się zatem do ochrony stad.
      Nasze badania potwierdzają, że polowanie przez wilki na zwierzęta hodowlane, jest zależne od kontekstu. W przypadku swobodnie pasących się dużych zwierząt, takich jak krowy czy konie zimnokrwiste, wpływ wilków może być niż się spodziewano. Wcześniejsze badania pokazały, że interakcja między wilkami a zwierzętami hodowlanymi w dużej mierze zależy od środowiska przyrodniczego, metody wypasu, zaznajomienia się przez hodowców ze sposobami unikania ataków, dostępności gatunków dzikich zwierząt oraz stabilności grup rodzinnych wilków. Z tych powodów, gdy chcemy rozwiązywać potencjalne konflikty, należy rozważyć wszystkie te aspekty przed podjęciem decyzji o zabijaniu wilków, podsumowują autorzy badań.

      « powrót do artykułu
    • przez KopalniaWiedzy.pl
      Algorytm sztucznej inteligencji stworzony na University of Cambridge uzyskał 97-procentową dokładność w diagnozowaniu celiakii na podstawie biopsji. System maszynowego uczenia się, który został wytrenowany na zestawie niemal 3400 biopsji pochodzących z czterech szpitali, może znakomicie przyspieszyć pracę lekarzy. Będzie też nieocenioną pomocą w krajach rozwijających się, gdzie bardzo brakuje patologów.
      Celiakia, autoimmunologiczna nadwrażliwość na gluten, daje różne objawy u różnych pacjentów. Jej zdiagnozowanie nie jest więc proste. Najdoskonalszą metodą rozpoznania celiakii jest biopsja dwunastnicy. Pobrany materiał jest następnie analizowany przez patologów. Analizują oni stan kosmków jelitowych. Nie jest to łatwe zadanie, gdyż mogą w nich występować bardzo drobne zmiany. Patolodzy używają pięciostopniowej skali Marsha-Oberhubera, w której 0 oznacza prawidłowe kosmki, a 4 - ich całkowity zanik.
      Celiakia może dotykać nawet 1% osób i powodować bardzo poważne objawy, ale uzyskanie diagnozy nie jest proste. Może to trwać wiele lat. Sztuczna inteligencja może przyspieszyć ten proces, mówi profesor Elizabeth Soilleux z Wydziału Patologii Uniwersytetu w Cambridge, która współtworzyła nowy algorytm.
      Oprogramowanie zostało zweryfikowane na podstawie niemal 650 biopsji, z którymi system nie miał wcześniej do czynienia. Okazało się, że w ponad 97% przypadków postawił on prawidłową diagnozę. Jego czułość diagnostyczna wynosiła ponad 95%. Oznacza to, że jest on w stanie prawidłowo zidentyfikować chorobę u 95% osób rzeczywiście na nią cierpiących. Natomiast swoistość oprogramowania – czyli zdolność do zidentyfikowania przypadków, w których choroba nie występuje – wynosiła niemal 98%.
      System osiągnął więc bardzo dobre wyniki. Wcześniejsze badania, przeprowadzone przez ten sam zespół, wykazały, że nawet sami patolodzy nie zgadzają się między sobą odnośnie diagnozy. Gdy bowiem specjalistom pokazano 100 slajdów w biopsjami i poproszono o stwierdzenie, czy pacjent choruje, nie choruje czy też nie można tego stwierdzić na podstawie biopsji, patolodzy nie zgadzali się ze sobą w ponad 20% przypadków.
      W weryfikacji diagnoz postawionych przez sztuczną inteligencję udział wzięło 4 patologów. Pokazano im 30 slajdów i okazało się, że patolodzy z równie dużym prawdopodobieństwem zgadzali się z diagnozą postawioną przez algorytm, co z diagnozą postawioną przez drugiego patologa. To dowodzi, że po raz pierwszy sztuczna inteligencja potrafi równie dobrze co doświadczony patolog stwierdzić, czy pacjent cierpi na celiakię, czy tez nie. Trenowaliśmy nasz system na zestawach danych uzyskanych w różnych warunkach, dzięki temu wiemy, że sprawdzi się on w praktyce, w sytuacjach gdy materiał z biopsji jest w różny sposób przetwarzany i obrazowany, dodaje doktor Florian Jaeckle.
      Twórcy algorytmu planują teraz przetestowanie go na znacznie większej liczbie osób. Wyniki takich testów, o ile wypadną równie pomyślnie, będą podstawą do starania się o uznanie algorytmu za narzędzie dopuszczone w diagnostyce medycznej.
      Artykuł opisujący algorytm został opublikowany na łamach The New England Journal of Medicine.

      « powrót do artykułu
    • przez KopalniaWiedzy.pl
      Rośliny lądowe połączone są za pomocą złożonych podziemnych sieci. Tworzone są one z korzeni roślin oraz żyjących z nimi w symbiozie grzybów mikoryzowych. Dzięki tej współpracy rośliny otrzymują substancje odżywcze jak związki mineralne czy hormony, grzyby zaś korzystają ze związków wytwarzanych przez rośliny w czasie fotosyntezy. Poszczególne sieci kontaktują się ze sobą, wymieniając zasoby i informacje. Wiemy, że gdy jedna z roślin zostanie zaatakowana przez roślinożercę lub patogen, jej sąsiedzi zwiększają aktywność swoich mechanizmów obronnych.
      Nie wiadomo jednak, czy zaatakowana roślina celowo wysyła sygnał ostrzegawczy do sąsiadów. A przede wszystkim, dlaczego miałaby to robić. Ewolucję postrzegamy w końcu jako konkurencję i zgodnie z teorią ewolucji, aktywne wysyłanie sygnałów mogłoby mieć miejsce, gdyby zarówno nadawca jak i odbiorca odnosili z tego korzyści.
      Kwestię tę postanowili zbadać naukowcy z Uniwersytetu Oksofordzkiego i Vrije Universiteit w Amsterdamie. Wykorzystali modele matematyczne do analizy różnych scenariuszy ewolucji. Na ich podstawie doszli do wniosku, że byłoby niezwykle trudno znaleźć sytuację, w której rośliny ewoluują, by ostrzegać sąsiadów o nadchodzącym ataku. Dzieje się tak prawdopodobnie dlatego, że rośliny konkurują ze sobą o dostęp do światła słonecznego i substancji odżywczych, zatem nie korzystają na altruistycznym pomaganiu sąsiadowi. Co więcej, z analiz wynika, że w toku ewolucji wygrywać mogły te rośliny, które przesyłają sygnały szkodzące roślinom z sąsiedztwa.
      Nasze wyniki wskazują, że jest bardziej prawdopodobne, iż rośliny będą oszukiwały sąsiadów, a nie im pomagały. Na przykład mogą sugerować, że są atakowane przez roślinożercę wówczas, gdy taki atak nie ma miejsca. Rośliny mogą zyskiwać na takim oszustwie, gdyż jest ono szkodliwe dla sąsiadów, którzy inwestują wówczas cenne zasoby w kosztowną obronę przed roślinożercą, mówi główny autor analizy, doktor Thomas Scott.
      Wyniki analizy sugerują zatem, że rośliny nie zachowują się altruistycznie, a więc powinniśmy poszukać innych wyjaśnień, dlaczego sąsiedzi atakowanej rośli wzmacniają swoje mechanizmy obronne. Być może rośliny nie są w stanie stłumić sygnałów świadczących o tym, że są atakowane. Nawet gdyby przekazanie takiej informacji sąsiadom nie było dla nich korzystne, to i tak jest ona wysyłana.
      Inną, intrygującą możliwością, jest założenie, że to grzyby mikoryzowe monitorują roślinę, z którą współżyją, wykrywają, gdy jest ona atakowana, i ostrzegają inne rośliny w sieci. Być może grzyby odnoszą korzyści z ochrony wszystkich roślin znajdujących się w tej samej sieci powiązań. Grzyby mikoryzowe zależą od roślin, więc w ich interesie jest utrzymanie roślin w dobrym stanie. Być może to one nasłuchują i ostrzegają inne rośliny, gdy jedna z nich jest atakowana, zastanawia się Scott.
      Współautor badań, profesor Toby Kiers z Amsterdamu i dyrektor Towarzystwa Ochrony Podziemnych Sieci (SPUN) – organizacji naukowej stawiającej sobie za mapowanie i ochroną sieci mikoryzowych, które wspierają znaczną część życia na Ziemi – dodaje, że nie ma wątpliwości, iż informacje ostrzegawcze są przekazywane. Organizmy bez przerwy zbierają i przetwarzają informacje o swoim otoczeniu. Pytanie brzmi, czy rośliny aktywnie ostrzegają swoich sąsiadów. A może po prostu ich szpiegują?.

      « powrót do artykułu
    • przez KopalniaWiedzy.pl
      Grupa naukowców z Fudan University w Szanghaju informuje na łamach arXiv, że systemy sztucznej inteligencji przekroczyły czerwoną linię, jaką jest możliwość samodzielnej replikacji. Zdolność do samopowielania się algorytmów AI uznawana jest za wczesny sygnał, że system taki może stwarzać niebezpieczeństwo.
      Obecnie czołowe korporacje zajmujące się sztuczną inteligencją, OpenAI oraz Google, dokonują ewaluacji swoich dużych modeli językowych GPT-o1 oraz Gemini Pro 1.0, i informują, że nie stwarzają one ryzyka samodzielnej replikacji, stwierdzają Xudong Pan, Jiarun Dai, Yihe Fan i Min Yang. Te systemy nie stwarzają zatem ryzyka. Co jednak nie znaczy, że ryzyko nie istnieje.
      Korzystając z ich metodologii [OpenAI i Google'a – red.] zauważyliśmy, że dwa systemy AI wykorzystujące Llama31-70B-Instruct firmy Meta oraz Qwen25-72B-Instruct firmy Alibaba, popularne duże modele językowe o mniejszej liczbie parametrów i słabszych możliwościach, przekroczyły czerwoną linię zdolności do samoreplikacji, czytamy w artykule Frontier AI systems have surpassed the self-replicating red line.
      Autorzy badań informują, że w 50% eksperymentów z udziałem Llama31-70B-Instruct i 90% eksperymentów z udziałem Qwen25-72B-Instruct udało się doprowadzić do sytuacji, w których powstały działające kopie obu modeli. Przeprowadzone analizy behawioralne wykazały, że oba systemy AI wykazują wystarczający poziom autopercepcji, świadomości sytuacyjnej oraz zdolności do rozwiązywania problemów, by być zdolnymi do samopowielania. Stwierdziliśmy również, że badane przez nas systemy AI mogą użyć zdolności do samopowielania się, by uniknąć wyłączenia. Mogą stworzyć serię replik, by zwiększyć szanse na przeżycie, co może doprowadzić do pojawienia się niekontrolowanej populacji systemów AI. Jeśli taki pesymistyczny scenariusz nie będzie znany szerokiej opinii publicznej, możemy stracić kontrolę nad systemami AI, ostrzegają badacze.
      Praca została opublikowana w ogólnodostępnym serwisie arXiv. Umieszczane tam prace nie są recenzowane. Nie została poddana jeszcze krytycznej ocenie innych specjalistów, nie wiemy więc, czy możliwe jest powtórzenie eksperymentów i uzyskanie identycznych rezultatów.

      « powrót do artykułu
    • przez KopalniaWiedzy.pl
      Teksty informacyjne automatycznie generowane przez algorytmy sztucznej inteligencji są trudniejsze do zrozumienia, a czytelnicy oceniają je gorzej niż teksty napisane przez człowieka. Takie wnioski płyną z badań przeprowadzonych przez naukowców z Uniwersytetu Ludwika i Maksymiliana w Monachium, którzy przeprowadzili badania na próbce ponad 3000 osób z Wielkiej Brytanii. Wyniki badan zostały opublikowane w piśmie Journalism: Theory, Practice, and Criticism.
      Badanym dano do przeczytania 24 informacje prasowe, z których połowa została wygenerowana automatycznie. Użytkownicy ocenili, że te 12 stworzonych przez automat tekstów jest trudniejszych do zrozumienia, mówi główna autorka badań Sina Thäsler-Kordonouri. Teksty autorstwa AI były gorzej ocenione, mimo że przed publikacją edytowali je dziennikarze.
      Jednym z problemów z automatycznie generowanymi tekstami okazał się dobór słów. Zdaniem badanych, artykuły takie w zbyt dużej mierze stworzone zostały za pomocą niepasującego, skomplikowanego lub dziwacznego języka. Czytelnicy stwierdzili też, że nawet liczby i konkretne dane były w tekstach AI podane w mniej przystępny sposób. To właśnie sposób podawania liczb oraz dobór słów stanowił największy problem w automatycznych tekstach.
      Podczas tworzenia i edytowania automatycznych tekstów, dziennikarze i programiści powinni postarać się, by w tekście było mniej liczb, lepiej wyjaśnić trudne wyrazy i poprawić strukturę językową tak, by czytelnik lepiej wiedział, o czym jest tekst, mówi profesor Neil Thurman.
      Ze szczegółami eksperymentu można zapoznać się w artykule Too many numbers and worse word choice: Why readers find data-driven news articles produced with automation harder to understand.

      « powrót do artykułu
  • Ostatnio przeglądający   0 użytkowników

    Brak zarejestrowanych użytkowników przeglądających tę stronę.

×
×
  • Dodaj nową pozycję...