Nie sądzę abym oceniając inteligencję innych ludzi wykorzystywał do tego mapę ich połączeń neuronowych.
Noo, chłopaki polecieli w kosmos.
Jasne, a wystarczająco zmotywowane pełzaki są w stanie wydostać się za ekran monitora w grze życie.
Nie należy demonizować. Ustalanie funkcji celu może być całkowicie poza kontrolą AI, dokładnie tak samo jak nie mamy możliwości kontrolowania naszego układu limbicznego - to on kontroluje nas. Jeden pstryczek, i AI sama z siebie nabierze ochoty na robienie tego, na czym nam zależy.
Dostatecznie silna AI może siedzieć w Matrixie, i nikt jej nie poda pigułki, do tego jej działania mogą być kontrolowane przez inne AI, być może hierarchicznie, podobnie jak wygląda to w ludzkim mózgu (jakby ktoś się zastawiał, dlaczego szef jest głupi, to ma odpowiedź )
Superinteligencja nie musi być refleksywna, w sensie "świadoma siebie". Nie musi wiedzieć o sobie niczego, tak jak ja nie znam budowy swojego mózgu (poza skanami )
Zagrożenie jest zupełnie inne - pozwoli się realizować AI zadania przy niedokładnie określonych ograniczeniach.
Ja mogę. IQ to skala logarytmiczna w której każde 10 punktów (w skali Wechslera) podwaja w przybliżeniu szybkość rozwiązywania odpowiednio trudnych problemów (tu jest trick, bo dla człowieka speedup dla prostych jest znacznie mniejszy, a zbyt trudne mogą być całkowicie poza zasięgiem, dlatego trudność problemów używanych do porówniania skaluje się) . Czyli byłaby kilkaset razy potężniejsza ode mnie kilka lat temu i kilka-kilkanaście tysięcy razy obecnie.
Co ciekawe, przy naiwnej analizie 250 jest jeszcze w zasięgu inżynierii genetycznej, o ile nie następuje wcześniej jakieś wysycenie polegające na tym, że różne geny osiągają te same efekty na poziomie fenotypowym.
Bardziej na serio, IQ to wielkość bez znaczenia bez dokładnej definicji. Można by próbować oceniać "komputywność" komputerów, lecz jest wielkość wielkość absolutnie dwuwymiarowa, która musi uwzględniać zarówno rozmiar pamięci jak i szybkość obliczeń, i nie daje się opisywać jedną liczbą.
Dokładnie to samo można przenieść dla sieci neuronowch, rozpatrując osobno jej rozmiar i "taktowanie".
Wszystko wskazuje, że inteligencja rozumiana potocznie jest wypadkową bardzo wielu takich prostych miar, ludzie bardzo różnią się zdolnościami.
Inteligencja to zdolność tworzenia i wykorzystywania modeli otaczającej nas rzeczywistości - przy innych efektywnych prawach fizyki i innej rzeczywistości, wymagania wobec inteligencji mogą być całkiem odmienne.