AI, Robotyka i Uczucia

[Dżery]

jeśli dobrze zrozumiałem ten film, to nadal wszystko zależy od tego, czy będziemy w stanie sami tworzyć światy wirtualne, zamieszkałe przez samoświadome SI. Jak na razie, to wszystko idzie w tym kierunku. A to w ogóle bardzo ciekawy temat.
Wpadłem na taki pomysł, że być może chcąc pozwolić na nieograniczony rozwój SI, a w szczególności na prześcignięcie nas poziomem inteligencji i jednocześnie uniknąć groźby przejęcia kontroli / zniszczenia nas, być może jedynym sposobem jest zamknięcie SI w wirtualnym świecie. Wtedy będzie można pozwolić jej na swobodny rozwój bez obaw, że nam zagrozi.
Kto wie, może z nami ktoś też już tak ktoś zrobił?

[patha]

AI zaprojektowana na podobieństwo neuronów ludzkich właśnie coś na wzór umysłu ma.

No właśnie nie, i to jest problemem, że ludzie tak myślą, bo prowadzi to do antropomorfizacji symulacji.

A w dłuższej perspektywie nawet do deifikacji AI, bo przewyższa ono swoją mocą obliczeniową możliwości intelektualne człowieka w skali logarytmicznej. A jeśli jeszcze zrobią robota z animatroniczną symulacją twarzy [ pokonującą efekt "doliny niesamowitości"] ,podłączą go do superkomputera i wielkiej bazy danych z internetu, wgrają jakiś chatGPLv10, wgrają realistyczny głos - i wystawią tą kukłę na widok publiczny - to możliwe, że ludzie będą bili tej kukle pokłony. W sensie dosłownym. Pół-bóg, nadczłowiek, wszechwiedzący.

Niedawno widziałem filmik w internecie, jak niedźwiedź w lesie napotyka wielkie lustro i je atakuje. Myślę sobie "głupie zwierzę, nie rozumie jak działa lustro, nie rozumie, że to co uznał za innego niedźwiedzia jest tylko symulacją jego własnej postaci". A nie! Czekaj...

AI ma tyle świadomości co kalkulator. AI, a właściwie to co dzisiaj nazywamy dzisiaj "AI", czyli sztuczne sieci neuronowe (SSN), to model matematyczny mający symulować działanie ludzkiej inteligencji (pewnym fakapem jest fakt, że do dzisiaj nie ustalono definicji ludzkiej inteligencji, więc właściwie nie wiadomo co twórcy mieli na myśli ); Moim zdaniem realnie symuluje działanie nie szeroko pojętej inteligencji, tylko ludzkiej intuicji (która jest czymś w rodzaju myślenia asocjacyjnego) oraz wybrane struktury neurologiczne odpowiedzialne za interpretacje sygnałów sensorycznych (np. interpretujące sygnały z oka i przerabiające je na informację o rozmieszczeniu poszczególnych obiektów w przestrzeni) - ale to tylko moje zdanie.

Sztuczna sieć neuronowa to model matematyczny, a wszystkie operacje matematyczne są zdefiniowane i zdetermiowane, więc technicznie rzecz biorąc - możesz sobie takie AI policzyć (czyli wytrenować) na kartce papieru zamiast na komputerze i uzyskać ten sam wynik końcowy (którym byłaby identyczna struktura wewnętrzna wag w sieci) - o ile masz dużo białych kartek i kilka milionów lat wolnego czasu. A czy wyliczonym przez siebie równaniom matematycznym będziesz przypisywać jakąś formę "umysłu" ?

Ten "umysł" ,wnętrze sieci to po prostu macierze liczb (wag). Liczb, które na skutek miriadów powtórzeń łańcucha operacji matematycznych z pętlą sprzężenia zwrotnego - poukładały się w ten sposób, że wprowadzone dane wejściowe dają pożądany wynik na wyjściu.

Nie ma w tym żadnej świadomości, żadnej metafizyki, żadnej psychologii, żadnej poezji - tylko zimne algorytmy matematyczne i surowa moc obliczeniowa.
I moc obliczeniowa jest tu kluczowa - 10 lat temu dzisiaj kiełkujące,jak grzyby po deszczu, projekty AI nie byłyby po prostu możliwe, ze względu na brak sprzętu, który mógłby przerobić takie ilości danych w sensownym czasie.

CDN...

[tonerek]

No nie tylko ze względu na brak sprzętu - transformery (podstawa obecnych sieci neuronowych, szczególnie LLM-ów) zostały wymyślone bodajże w 2016. Skalują się sprzętowo znacznie lepiej od LSTM-ów.

"Attention is all you need" - https://proceedings.neurips.cc/paper_fi ... -Paper.pdf - tak to wstrętne google miało istotny wpływ na to.

[Patrycjusz]

AI ma tyle świadomości co kalkulator. AI, a właściwie to co dzisiaj nazywamy dzisiaj "AI", czyli sztuczne sieci neuronowe (SSN), to model matematyczny mający symulować działanie ludzkiej inteligencji (pewnym fakapem jest fakt, że do dzisiaj nie ustalono definicji ludzkiej inteligencji, więc właściwie nie wiadomo co twórcy mieli na myśli ); Moim zdaniem realnie symuluje działanie nie szeroko pojętej inteligencji, tylko ludzkiej intuicji (która jest czymś w rodzaju myślenia asocjacyjnego) oraz wybrane struktury neurologiczne odpowiedzialne za interpretacje sygnałów sensorycznych (np. interpretujące sygnały z oka i przerabiające je na informację o rozmieszczeniu poszczególnych obiektów w przestrzeni) - ale to tylko moje zdanie.

Tak, ale nie ma również żadnych twardych dowodów za tym, że ludzki umysł jest czymś więcej niż taki kalkulator. Zaczęło się od takiego właśnie porównania dawno temu u Thomasa Hobbesa, a dzisiaj nowoczesne sposoby analizy sposobu działania mózgu nie są inne, a właśnie komputacyjne (obliczeniowe). Jeśli da się to obliczyć, to oznacza ni mniej ni więcej niż to, że te funkcje są w jakiś sposób matematyczne. No i AI nie kończy się na ANN (czy tam SSN), więc to znaczne zawężenie tematu. Co do inteligencji człowieka, jasne, nie wiadomo, czym jest, ale wiadomo, czym nie jest. No więc nie jest rozdzielona na poszczególne inteligencje (koncepcja inteligencji wielorakich Gardnera została obalona), a wyodrębnia się jedynie inteligencję ogólną, w tym płynną i skrystalizowaną. Jest tak dlatego, że chociażby np. pamięć robocza, będąca jej funkcją, pozwala na operacje bardzo różnego typu, a to przecież moduł ogólny (jak RAM).

Sztuczna sieć neuronowa to model matematyczny, a wszystkie operacje matematyczne są zdefiniowane i zdetermiowane, więc technicznie rzecz biorąc - możesz sobie takie AI policzyć (czyli wytrenować) na kartce papieru zamiast na komputerze i uzyskać ten sam wynik końcowy (którym byłaby identyczna struktura wewnętrzna wag w sieci) - o ile masz dużo białych kartek i kilka milionów lat wolnego czasu. A czy wyliczonym przez siebie równaniom matematycznym będziesz przypisywać jakąś formę "umysłu" ?

Można wykonać operacje matematyczne bez ich zdefiniowania. Co prawda działają wtedy gorzej, ale da się. Dobrze zdefiniowany problem to klucz do sukcesu, ale ilość algorytmów niskiej klasy, które jednak jakoś działają, jest ogromna. Co do zdeterminowania, to właśnie w ogóle nie. Samo to, że da się stworzyć model niezdeterminowany (stochastyczny) już powoduje, że człowiek zaczyna się tu gubić. Jeżeli nie wiadomo, czy A na wejściu da B na wyjściu, czy może jednak C (z jakimś prawdopodobieństwem), to całkowita przewidywalność znika.

Ten "umysł" ,wnętrze sieci to po prostu macierze liczb (wag). Liczb, które na skutek miriadów powtórzeń łańcucha operacji matematycznych z pętlą sprzężenia zwrotnego - poukładały się w ten sposób, że wprowadzone dane wejściowe dają pożądany wynik na wyjściu.

Nie ma w tym żadnej świadomości, żadnej metafizyki, żadnej psychologii, żadnej poezji - tylko zimne algorytmy matematyczne i surowa moc obliczeniowa.

Świadomość to tylko obserwacja tych operacji. To, czy ta obserwacja pozwala na jakąkolwiek prawdziwą kontrolę (a nie jej iluzję), jest nierozstrzygalne. A psychologii jest tu akurat bardzo dużo - poznawczej. Równania opisywane w uczeniu maszynowym są wręcz zbieżne z tymi, które opisują detekcję i klasyfikację za pomocą ludzkiego umysłu.

I moc obliczeniowa jest tu kluczowa - 10 lat temu dzisiaj kiełkujące,jak grzyby po deszczu, projekty AI nie byłyby po prostu możliwe, ze względu na brak sprzętu, który mógłby przerobić takie ilości danych w sensownym czasie.

Tak, ale sama moc obliczeniowa pozwala na nic innego, jak tylko szybsze wykonanie operacji - nie lepsze. Cdn...

[tonerek]

Nie wiemy dokładnie co to jest świadomość. Nie możemy (na obecnym etapie) powiedzieć co spowodowało że sieć neuronowa odpowiedziała nam tak a nie inaczej. Wszelkie teoretyczne dywagacje to na razie pierdololo. Wiemy natomiast jak zbudowana jest taka sieć neuronowa (najczęściej z transformerów które rozpowszechniły się w latach 201x).