Jarek Duda

Pozbierane różnice: wysokopoziomowe np. lepsze uczenie, elastyczność, robustness ... które powinny wychodzić z niskopoziomowych, np. wielokierunkowa propagacja, też rozkładów, inne uczenie niż backpropagacja (jakie?) Jakie jeszcze brakujące własności biologicznych są kluczowe żeby dogonić ich możliwości sztucznymi ?

W kwestii ograniczania wolności biednych liberałów do np. wylewania szamba, zadecydował dystans między lobbystami a politykami - zwiększany przenosząc część decyzyjności do uwspólnionej ... co oczywiście prowadzi do innych patologii, np. lobbowania na poziomie interesów poszczególnych krajów. UE jest odległa od ideału, ale opuszczanie jej prowadzi do innych problemów, patologii - musimy się nauczyć dogadywać, szczególnie żeby mieć coś do powiedzenie między światowymi potęgami. Podział, osłabienie Europy jest na rękę głównie jednemu graczowi, który rzeczywiście bardzo mocna na to działa ... https://en.wikipedia.org/wiki/Russian_interference_in_the_2016_Brexit_referendum

Ciekawe co tak ciągnie Ukrainę do tej "dyktatury unijnej" ... szczególnie widząc szczęście uwolnionych Brytyjczyków od tego terroru ograniczającego ich wolność m.in. do wylewania szamba do rzek ... https://www.bloomberg.com/news/articles/2023-01-31/brexit-is-costing-the-uk-100-billion-a-year-in-lost-output https://www.london.gov.uk/new-report-reveals-uk-economy-almost-ps140billion-smaller-because-brexit https://www.reuters.com/world/uk/london-mayor-says-brexit-has-cost-uk-over-178-bln-so-far-2024-01-11/ https://en.wikipedia.org/wiki/Potential_re-accession_of_the_United_Kingdom_to_the_European_Union ... dla Polski "rejoin" to byłby w Wielkim Bratem na wschodzie ...

Zamiast marudzić na zgniły zachód, namawiać innych do wychodzenia, po prostu im pokaż: wyjdź w poszukiwaniu wolności jak ta Kanadyjska rodzina ;-) https://www.yahoo.com/entertainment/conservative-family-disappointed-moving-russia-001517915.html?guccounter=1

Neuron z modelem rozkładu łącznego sąsiedztwa może propagować w dowolnym kierunku: podstawiamy część zmiennych i dostajemy rozkłady warunkowe. Taka raz wytrenowana HCRNN sieć może propagować zarówno wartości jak i rozkłady (też warunkowe), w dowolnym kierunku - jako rozkłady warunkowe, ich wartości oczekiwane, etc. Ogólnie podczas gdy MLP, KAN to po prostu parametryzacje, tutaj mamy znacznie potężniejszą strukturę danych którą można zdegenerować do KAN (można też znacznie więcej m.in. różnym sumowaniem po indeksach) ... Biologiczne raczej też są jakościowo znacznie potężniejsze - żeby je dogonić, trzeba wyjść z prymitywnych parametryzacji.

Zrobiłem update https://arxiv.org/pdf/2405.05097 np. rozszerzenia KAN-like o wiele nowych możliwości: • it can propagate in any direction, • propagate values or probability distributions, • interpretation of parameters as mixed moments, • consciously add triplewise and higher dependencies, • inexpensive evaluation of modeled mutual information, • additional training approaches, e.g. direct estimation, tensor decomposition, information bottleneck. Przede wszystkim dodając information bottleneck training - super sprawa: zamiast optymalizować wagi, bezpośrednio optymalizujemy zawartość pośrednich warstw: żeby miały jak najwięcej (mutual) informacji o docelowych wartościach, równocześnie minimalizując (mutual) informację o wejściu - żeby usunąć szum, wyekstrahować kluczową informację. https://en.wikipedia.org/wiki/Information_bottleneck_method Tutaj jest praktyczne analityczne przybliżenie mutual information, pozwalające analitycznie optymalizować zawartość pośrednich warstw. Też właśnie nagrałem talka, slajdy: https://www.dropbox.com/scl/fi/07cxxweg8u2jl3bngkoft/KAN-HCR.pdf?rlkey=2u7bsxq3103iz1trz1splldro&dl=0

Mechanika kwantowa jest równoważna z zespołem Feynmanowskim trajektorii, kwantowa teoria pól z zespołem Feynmanowskim pól - pytanie jakich konkretnie? (niestety zwykle ignorowane). W takiej jednej konfiguracji pola prawo Gauss może zwracać nie liczby rzeczywiste jak "pół elektronu", tylko całkowitą wielokrotność ładunku elementarnego - to jest wiąz na prawo Gaussa, jedyny sposób żeby go narzucić jakiego jestem świadomy to zrobienie żeby prawo Gaussa liczyło jakiś ładunek topologiczny, do czego wystarczy zinterpretować pole elektryczne jako krzywizna jakiegoś głębszego pola. Z tego już praktycznie sam jakościowo wychodzi Model Standardowy, podobnie jak obserwują w ciekłych kryształach ... przypadek? Czy na pewno nie ma innej nierównoważnej drogi? Nie wiem, szczerze nie ma tutaj za bardzo miejsca na rozgałęzienia ... jeśli słyszałeś o innym sposobie wbudowania kwantyzacji ładunku w prawo Gauss to proszę podziel się. Inna perspektywa to np. string hadronization ( http://www.scholarpedia.org/article/Parton_shower_Monte_Carlo_event_generators#String_model ) - wierzą że gorąca struna kolorowa np. w zderzeniu w LHC, często modelowana jako wir Abrikosova, poprzez rekoneksje rozpada się na cząstki ... kwestia analizy topologii/geometrii na co taki wir może się rozpaść i jakościowo wszystko się zgadza:

Są przynajmniej 4 rodzaje masy: 1) mc^2 uwięziona energia, uwalniana w anihilacji 2) F=ma intercyjna 3) F~mM/r^2 grawitacyjna 4) E = hbar * omega w zegarze de Broglie/zitterbewegung ( https://link.springer.com/article/10.1007/s10701-008-9225-1 ), 3 różne oscylacjach neutrin: https://en.wikipedia.org/wiki/Neutrino_oscillation#Propagation_and_interference ... też https://en.wikipedia.org/wiki/B–Bbar_oscillation Podczas gdy równoważność 1) i 2) wynika ze szczególnej teorii względności, dla 3) już niewiele wiemy, np. dla elektronu dalej nie udało się sprawdzić eksperymentalnie (dobre slajdy: https://indico.cern.ch/event/361413/contributions/1776296/attachments/1137816/1628821/WAG2015.pdf ), od niedawna są eksperymentalne sugestie że dla antymaterii jest taka sama. 4) to już zupełna magia - w jakiś sposób uwięziona energia wymusza proces periodyczny pola, 3 rodzaje dla neutrin, osobiście podejrzewam że tutaj kluczowe jest pole grawitacyjne cząstki. Już neutrina są eksperymentalnie bardzo trudno dostępne, mogą być ukryte kolejne jeszcze trudniej oddziaływające ... żeby zrozumieć szczegóły trzeba analizować konfiguracje fundamentalnych pól budujących cząstki, a nie dokładać kolejne efektywne pola odpowiadające kolejnym cząstkom ... Więc sprawa ciemnej materii/energii też może być bardziej skomplikowana niż nam się wydaje. Przykładowo widzimy EM szum termiczny ~2.7K CMBR, ale próżna ma więcej stopni swobody np. odpowiadających za oddziaływanie słabe, silne, grawitacyjne - termodynamika sugeruje że one też powinny mieć szum termiczny o podobnej temperaturze/energii ... Oczywiście topologiczne defekty są kluczowe, aż trudno je odróżnić od cząstek (czym się różnią?) i mogą istnieć dodatkowe niedostępne w oddziaływaniu z zimną materią, ale możliwe do powstania w ekstremalnych warunkach jak Wielki Wybuch, czy supernowe.

Konfiguracje pól w zespole Feynmanowskim QFT powinny mieć skończone energię, co wymaga deformacji np. pola E~1/r^2 w skalach femtometrowych - deformacji która w perturbacyjnym QFT odpowiada polaryzacji próżni ( https://en.wikipedia.org/wiki/Vacuum_polarization ) i prowadzi do deformacji Coulomba w bardzo małych odległościach/wysokich energiach - zgodnych z running coupling ( https://arxiv.org/pdf/2210.13374 ). Interpretujemy krzywiznę głębszego pola (u mnie M) jako dualny tensor F* ( http://en.wikipedia.org/wiki/Duality_(electricity_and_magnetism) - zamienia E i B), dzięki temu prawo Gaussa zwraca ładunek topologiczny, który musi być skwantowany. Używając F a nie dualne F*, to byłyby monopole magnetyczne - które raczej nie istnieją, a dzięki dualnemu sformułowaniu stają się skwantowanymi ładunkami elektrycznymi - jak w naturze. Ciągłą rotację pola wymusza masa - podstawiając E=mc^2 do Schrodingera/Diraca, np. dla oscylacji neutrin ( https://en.wikipedia.org/wiki/Neutrino_oscillation#Propagation_and_interference ), zegara elektronu (potwierdzenie eksperymentalne: https://link.springer.com/article/10.1007/s10701-008-9225-1 ), czy B-Bar ( https://en.wikipedia.org/wiki/B–Bbar_oscillation ). Pytanie co je napędza? Ja używam Lagrangianu typu EM: F_abcd F^abcd, który przechodząc do Hamiltonianu daje też subtelne ujemne wkłady do energii - dokładnie co potrzeba żeby napędzić takie oscylacje:

W razie czego trochę ostatnio dopracowałem korespondencję z Modelem Standardowym - sam wychodzi analizując wzbudzenia topologiczne superfluid liquid crystal - 3 leptony (żyjąc w 3D) z oddziaływaniem Coulombowskim, podobnie 3 struny kolorowe typu wiry Abrikosova (popularne w QCD) - z ułamkowymi ładunkami (topologiczny/elektryczny) dla kwarków, wymuszone strukturą barionów (np. proton lżejszy od neutronu, deuteron rzeczywiście musi mieć kwadrupolowy moment elektryczny), też bardzo ładnie się zgadzają 3 neutrina m.in. z oscylacjami i sugestią sterylnych ... no i zgodnie z oczekiwaniami wszystkie mogą powstać w wyniku hadronizacji struny ( http://www.scholarpedia.org/article/Parton_shower_Monte_Carlo_event_generators#String_model ) jako wir Abrikosova - kwestia analizy do czego topologicznie może się rozpaść i jakościowo rzeczywiście wychodzi to co widzą np. w LHC. To nie jest proponowanie jakiejś alternatywy dla MS, tylko zapytanie o konfiguracje pola reprezentowane przez indywidualne diagramy Feynmana - jak w Feynman path ensembles tam są zespoły konkretnych ścieżek, tak samo w QFT są zespoły konkretnych konfiguracji pola - pytanie jakie. Przede wszystkim prawo Gaussa w takich konfiguracjach pola może zwracać tylko całkowite wielokrotności ładunku elementarnego, a w naiwnym Gaussie błędnie dowolne liczby rzeczywiste - żeby to naprawić, wystarczy zdefiniować pole elektryczne jako krzywizna głębszego pola, wtedy prawo Gaussa zwraca jego ładunek topologiczny ... przyglądając się dalszym konsekwencjom głównie topologicznym, automatycznie wychodzi ~Model Standardowy. Slajdy: https://www.dropbox.com/s/9dl2g9lypzqu5hp/liquid crystal particles.pdf ps. Intro ze źródłami np. do liczenia efektywnego Coulomba: https://community.wolfram.com/groups/-/m/t/2856493

Znamy tez Hebbowskie, long term potentiation ... oraz np. nowe mozliwosci dla neuronów modelujących joint distribution połączeń ... I pewnie są dalsze których jeszcze nie znamy, oraz ogólnie propagacja wsteczna może być innymi neuronami (pośrednia). Biologiczne neurony matematycznie mają dostępne przynajmniej: sumacja sygnałów, oraz jednoparametryczne nieliniowości - wystarczy dla KAN czy nowych możliwości joint distribution neurons - rozszerzających KAN m.in. o wielokierunkową propagację. ps. multi-feature Granger causality znajdujące np. dwa rodzaje fal przyczynowości w sygnale EEG: https://arxiv.org/pdf/2305.09478

Rzeczywiście jest trochę artykułów szukając "neural backpropagation" zaczynając od https://en.wikipedia.org/wiki/Neural_backpropagation - poczytam, ale chyba nie ma konsensusu czy/jak są kluczowe w nauce biologicznych sieci neuronowych (?) Ale ogólnie istnieją inne metody uczenia, np. polecam pomyśleć o neuronie trzymającym model joint distribution połączeń (pierwszy post) - propagację (w dowolnym kierunku) można sprowadzić do ~KAN: kombinacje liniowe z trenowanymi jedno-parametrycznymi nieliniowościami, dochodzą nowe metody trenowania jak bezpośrednia estymacja tego rozkładu z wejść - znowu kombinacje jednoparametrycznych nieliniowości ... skoro można, to niewykluczone że ewolucja nauczyła się ich używać dla biologicznych neuronów. Rzeczywiście narzuca się podobieństwo z dwukierunkowymi komputerami kwantowymi (2WQC, mamy zespół XPRIZE, świeży talk dla WQCG), ale pomysły niezależne ... choć nie zdziwiłbym się gdyby biologiczne sieci neuronowy wykorzystywały symetrię czasową fizyki. ps. Trenowanie KAN z https://github.com/KindXiaoming/pykan

Miałem na myśli że mechanizm propagacji potencjału czynnościowego (action potential) raczej jest symetryczny - pozwala propagować w obu kierunkach, jak się spotkają takie dwie fale to się nawzajem wygaszają, zacytowałem artykuł eksperymentalny powyżej. Z drugiej strony dla trenowania sztucznych potrzebujemy backpropagation - jakaś propagacja wsteczna raczej jest konieczna, pytanie czy pośrednia czy też taka bezpośrednia - co matematycznie jest względnie proste w realizacji (np. wzory w diagramie powyżej), pewnie coś takiego mogłoby być schowane w dynamice biologicznych (?) Diagram z https://uw.pressbooks.pub/physiology/chapter/action-potential-propagation/

Propagacja sygnału w biologicznych neuronach jest dość symetryczna, np. ”it is not uncommon for axonal propagation of action potentials to happen in both directions” ( https://journals.aps.org/pre/abstract/10.1103/PhysRevE.92.032707 ), mają znacznie lepsze uczenie "one-shot-learning" niż sztuczne, świadomość, etc. Natomiast obecne sztuczne sieci neuronowe (ANN) są trenowane pod jednokierunkową propagację, poprzez trochę brute-force backpropagation ... raczej dość inaczej niż biologiczne. Więc pytanie czy nie warto rozważyć wielokierunkowe sztuczne neurony ... tylko jak je zaprojektować, trenować, może wzorując się biologicznymi? Konstrukcja nad którą pracuję ( https://arxiv.org/pdf/2405.05097 ) to neurony zawierające model rozkładu łącznego połączeń: - podstawiając część wejść dostajemy rozkłady warunkowe dla pozostałych - możemy propagować informację w dowolnym kierunku, nie tylko wartości ale i rozkłady, - degeneruje się do tych modnych teraz KAN (Kolmogorov-Arnold Network) jeśli ograniczymy się do zależności między parami zmiennych - można świadomie dodać między trójkami i wyżej, - daje wiele nowych możliwości trenowania - np. bezpośrednią estymacją/updatem, czy dekompozycją tensorową ... może ewolucja biologiczna nauczyła się używać któryś z nich? Jakby ktoś miał przemyślenia ...

Dyskutowana tabelka - zaufanie większość ma ponad 5, z wyjątkiem m.in. politologów i meteorologów ... widzę że matematycy mają więcej ciepła niż ekonomiści ps. Bolesny świeży podcast o budowaniu zaufania do polskich akademików (powyższa tabelka chyba dyskryminuje teologów): https://podcastaddict.com/podkast-dezinformacyjny/episode/175205739

Update: Wolfram Quantum Framework wspiera 2WQC - prosty notebook z wprowadzeniem: https://community.wolfram.com/groups/-/m/t/3157512 Mniej kontrowersyjna realizacja: silicon quantum dots ( https://www.nature.com/articles/s41467-020-20280-3 ) używa impuls pola elektrycznego jako state preparation, wystarczy zastosować odwrotny impuls na końcu:

Temat flory bakteryjnej regularnie widzę w różnych mediach, nigdy nie wchodziłem głębiej, ale rzeczywiście niedawno przypadkiem rozmawiałem z szefem firmy z linku powyżej - mówił że mają własne nowe rozwiązania algorytmiczne do szybkiego wyszukiwania z sekwencji, ale na razie ciężko z motywacjami, lekarze raczej niezainteresowani. Widząc powyższy artykuł z przykładem konkretnej motywacji, których ilość pewnie będzie szybko rosła, przypomniała mi się ta rozmowa i znalazłem, przejrzałem ich stronę - trochę licząc na merytoryczną dyskusję, np. sam rozważając tego typu badanie. Ale widzę że mają niemałą konkurencję nawet w Krakowie, dalej ciężko o motywację jeśli nie ma się konkretnych schorzeń, też trochę brakuje mi oceny wiarygodności takich usług, nie wiem jak to wygląda od strony regulacji - super gdyby coś w stylu UOKiK od czasu do czasu wysyłało próbkę do różnych laboratoriów udając klienta i ocenę ich zgodności z prawdą np. umieszczało na jakiejś stronie.

Człowiek nie zdaje sobie sprawy jak istotne i skomplikowane są interakcje z florą bakteryjną, powoli są odkrywane jak powyżej - pewnie szybko będzie się rozwijać. Widzę że w Krakowie jest dostępne tego typu badanie przez sekwencjonowanie: [...] z motywacjami:

Nie wiem, wygląda na metastabilny stan wzbudzony barionu - może w kierunku łamania liczby barionowej ... ale niestety raczej niepraktyczny dla pozytywnego bilansu energetycznego.

Skoro rozpada się na proton, chyba nie pomoże z hipotetycznym/potencjalnym stymulowanym łamaniem liczby barionowej? Ja bym szukał numerycznie parametrów dudnienia, żeby podczas jednego EM chirpu poniżej rozbujac konfigurację pola barionu aby istotnie zwiększyć prawdopodienstwo wybicia z lokalnego minimum energii.

W rozpadzie protonu zostaje pozytron ( https://en.wikipedia.org/wiki/Proton_decay ), który w materii anihilowałby z elektronem - prowadząc do praktycznie pełnej konwersji materia -> energia (~100x gęstość energii niż fuzja, z dowolnej materii). Podobne w promieniowaniu Hawkinga - produkuje bezmasowe cząstki z czegoś co powstało głównie z barionów. Mechanizm zależy od modelu, w ~Landau-de Gennes który rozważam ( https://arxiv.org/pdf/2108.07896 ) ze (skwantowanym) ładunkiem topologicznym jako elektryczny, najprostszy węzeł wydaje się zgadzać z barionami, np. strukturalnie wymusza ładunek tłumacząc dlaczego proton jest lżejszy od neutronu (neutron musi skompensować ten ładunek), wiązanie i moment kwadrupolowy deuteronu. Jeśli barion to rzeczywiście węzeł wirów topologicznych typu Abrikosova, stymulowanie jego rozpadu to byłaby np. próba rozbujania żeby dwa wiry mogły przeniknąć przez siebie - rozplątując węzeł. Mogłaby do tego wystarczyć np. elektromagnetyczna fala stojąca o olbrzymiej częstotliwości, którą można by uzyskać efektem dudnienia ( https://en.wikipedia.org/wiki/Beat_(acoustics) ) z dwóch laserów o bardzo bliskich częstotliwościach.

Jeszcze raz: rozpad protonu jest konieczny zarówno dla (hipotetycznych) bariogenezy (dlaczego mamy więcej materii niż antymaterii?) i promieniowania Hawkinga - to drugie daje inną teoretyczną możliwość ultimate energy source: ścisnąć materię do czarnej dziury i poczekać aż wyparuje (zbierając mc^2 energię) ... inne argumenty to np. brak prawa Gaussa dla liczby barionowej, więc dlaczego miałaby być zachowywana - wiele modeli potrzebuje możliwości jej łamania. Podczas gdy powyższe wymagają ekstremalnych warunków, nieskutecznie poszukuje się rozpadu protonu w wielkich zbiornikach wody - może po prostu kwestia zbyt mało ekstremalnych warunków, ja osobiście bym raczej szukał w centrach gwiazd neutronowych (szczególnie produkujących rzędy wielkości więcej energii niż pozwalają standardowe modele np. https://www.space.com/bizare-object-10-times-brighter-than-sun ), czy w LHC (niestety bardzo trudne do potwierdzenia/zaprzeczenia).

@Astro, gdybyś powiedział osobie sprzed 100 lat o obecnej technologii ... ja bym się nie zdziwił gdyby za 100 lat ludzkość opanowała stymulowany rozpad protonu, model który rozważam pozwala na szukanie takiej dynamiki. Ogólnie pierwszy krok do nowej technologii to zwykle była otwartość na daną możliwość.

Gdyby udało się zbudować graser ( https://en.wikipedia.org/wiki/Gamma-ray_laser ) produkujący 782 keV fotony (prawdopodobnie się nie da), mógłby produkować wolne neutrony: p + 782keV -> n, czyli fuzja stałaby się trywialna. Najwyżej energetycznie proponowany free electron laser ( https://accelconf.web.cern.ch/fel2017/papers/mop066.pdf ) ma 0.03nm czyli ~41keV. Już są pierwsze przejścia jądrowe FELami: https://physics.aps.org/articles/v7/20 ... a jeśli by się udało, to dalsze pytanie czy liczba barionowa może być łamana (potrzebne np. dla bariogenezy czy promieniowania Hawkinga) - jeśli tak to znaczy że konfiguracja pól protonu to jest lokalne minimum energetyczne, więc może np. graserami dałoby się rozhuśtać z tego lokalnego minimum, stymulując rozpad protonu ... dając ultimate energy source: pełna konwersja materia -> energia: z dowolnej materii ~100x gęstość energii niż z fuzji (alternatywne podejście: ścisnąć materię do czarnej dziury i poczekać aż ona wypromieniuje).

Jest wypłycenie które działa jak bariera potencjału dla tych klasycznych obiektów z dualizmem korpuskularno-falowym. Artykuł opublikowany w topowym journalu o tym eksperymencie: https://journals.aps.org/prl/abstract/10.1103/PhysRevLett.102.240401 (może napiszcie do redaktora że znaleźliście błąd?). A tu zebrane profesora fizyki MIT z kilkudziesięcioma artykułami opublikowanych w topowych journalach o podobnych eksperymentach (ale wiem, Wam do pięt nie dorasta):