nie bardzo

Jeszcze można dopytać: czy 'głos wewnętrzny' do AI rzeczywiście dodano, by polepszyć wyniki, ograniczyć halucynacje (itd), czy może wynikł samoistnie (emergentnie, z wystarczająco złożonych układów), a goście od AI tylko z udawanym uśmiechem przekazali, że go celowo dodano? Ps. dlaczego wierchuszka (obecna i była) z OpenAI używa określenia AGI jakby już istniało?. Częste w wypowiedziach Sutskevera, podobnie Jan Leike, np. ostatnia: 'To all OpenAI employees, I want to say: 'Learn to feel the AGI. Act with the gravitas appropriate for what you're building. I believe you can "ship" the cultural change that's needed. I am counting on you. The world is counting on you.'

Oczywiście że potrafi wytwarzać nowe idee ,muzykę , obrazy i to zupełnie nowe techniki. AI operuje na własnych symbolach o których niewiele wiemy . Kolega jest mało poinformowany w tym temacie .

​@@mirek190 ​ Akurat siedzę w AI i to od poziomu najbardziej podstawowego, tzn. samych sieci neuronowych. Używam na co dzień AI np. przy programowaniu. Obecnie AI to mielenie bilionów parametrów, tzw. wag i tyle. Tak wytwarza to swoje modele ale to przypomina raczej metodę brute force i jest to odtwórcze, bo bazuje tylko na tym co te sieci nauczymy, żmudnym mieleniem parametrów. Np. nie wygeneruje rodzaju muzyki, której wcześniej nie była uczona. Mogą to być tylko kompilacje tego co było. Oczywiście mamy też coś "mądrzejszego", jak np. AlphaZero czy AlphaFold. Chodzi mi jednak o to, co mówi Max Tegmark, czyli wejście na poziom wyżej tzn. aby AI wytworzyło swój własny język symboliki. Podam analogię: chodzi o to aby przejść z obliczania całki w sposób numeryczny na sposób symboliczny. Mam, na myśli rozwinięcie metod typu "Symbolic Regression". Mamy oto taki proces ewolucji: najpierw powstały organizmy żywe wyposażone w mózgi neuronowe -> potem wytworzyły one (ludzie) język i matematykę, czyli opis symboliczny -> potem za pomocą matematyki stworzyliśmy sztuczne sieci neuronowe, czyli obecne prymitywne AI. Teraz czekam na kolejny przeskok w ewolucji: obecne prymitywne AI wytwarza swój własny język i swoją "matematykę", czyli działanie na poziomie symbolicznym a nie "numerycznym/wagowym".

@@sator666666 Z twojego opisu wynika ze nic w zasadzie nie wiesz w tym temacie. A twoje zaineresowanie AI powstalo niedawno. Po 2 To jest typowy blad ludzi ktorzy dopiero co sie zainteresowli tematem Ludzie tez nie tworza nic nowego tylko miela to co sie nauczyli. Hipoteza robienia czegos nowego dawno zostala obalona. Po 3 Czy ty w ogole wiesz czym jest waga? ... Z twojego opisu wynika ze nie zabardzo ... Ludzki i kazdy inny biologiczyny mozg tez ma wagi ... bez tego nie istnieje mozg.

​@@mirek190 Nie zdajesz sobie sprawy, jak działa ludzki mózg. Absolutnie nie można porównywać obecnych prymitywnych SZTUCZNYCH sieci neuronowych opartych na Maszynie Turinga do ludzkiego mózgu, który działa na kompletnie innych zasadach. Np. nie ma tam żadnych algorytmów uczenia, działanie jest totalnie autonomiczne, zrównoleglone, oprócz wag w synapsach przy dendrytach są też neuroprzekaźniki działające globalnie i wiele innych mechanizmów a także tych nie poznanych do tej pory, np. dziwne synchronizacje odległych i niepołączonych ze sobą obszarów mózgu. Poza tym to, co wyróżnia biologiczne mózgi, to ciągła i autonomiczna zmiana swojej architektury, połączeń itd. Sztuczne Sieci Neuronowe są ustawiane na sztywno. Połączenia są ustalane w trakcie nauki i już takie pozostają. Żeby coś zmienić trzeba dokonać kolejnego żmudnego procesu nauki. Poza tym wyuczenie wielkich sieci kosztuje miliony dolarów i ogromnej ilości sprzętu. I tu jest właśnie ten problem - to nie jest inteligentne a raczej przypomina metody typu "brute force". Poza tym sieci neuronowe i operacje na wagach najlepiej nadają się do środowiska/procesów analogowego a nie cyfrowego ale to już inna opowieść. Otóż właśnie ludzie TWORZĄ NOWE idee nieznane wcześniej. Np. Ogólna Teoria Względności, Mechanika Kwantowa itd. Żadna obecna AI nigdy by nie wpadła na pomysły zawarte w OTW na podstawie poprzedniej wiedzy (fizyki Newtonowskiej) albo nie zrozumiała by działania atomów na podstawie wiedzy z mechaniki klasycznej. Tylko ludzie potrafią na razie tworzyć całkowicie NOWE podejścia do tematu. Siedzę w AI od późnych lat 90-tych, gdy jeszcze mało się o tym mówiło. Stworzyłem od podstaw (bez żadnych gotowych bibliotek) programy w C++ do rozpoznawania twarzy, ręcznych podpisów i wiele innych. Zatem dobrze znam architekturę SSN. Ja tu mówię o kompletnie wyższym poziomie AI. Ale widać ja mówię o niebie a ty o chlebie. Posłuchaj może trochę np. Lex Fridman, bo widzę, że tracę czas.

@@sator666666 Tylko udowodniles swoja gleboka niewiedze w temacie. Pomoge ci troche. Chyba nie rozumiesz z kad wziol sie ogolnie termin "sztuczne sieci neuronowe" ... bo symuluja dzialanie biologicznych sieci neuronowych. No ale wedlug ciebie to co innego .... .ok. W biologicnym mozgu sa algorytmy uczenia jak najbardziej bo inaczej nic bys sie nie nauczyl o zgrozo neurony maja "wagi" i nawet "warstwy"! Ogólna Teoria Względności czy Mechanika Kwantowa powstaly na podwalinch wczesniejszej wiedzy ktora powstala na podwalnch wczesniejszej itd . czyli sa wypadkowa juz pozyskanej wiedzy i nie sa niczym nowym tylko "polaczeniem kropek". Sadzisz ze czlowiek zamkniety w ciemnym pokoju od urodzenia bez dostepu do innych ludzi i informacji wymysliby cokolwiek? Ba nie wyksztalcil by nawet swiadomosci. Co ja robie .... hmmm zaczynalem od architrktury bert potem gpt-j ( szkoda nawet gadac dzisiaj o tym antyku a to bylo rok temu!) , llama , llama2 i teraz finetuning llama3 ( nawiasem mowiac llma3 8b czy 70b w wersjach instruct na domowym PC offline to poprostu mistrzostwo na obecna chwile. Wersja 8b jest lepsza od GPT-3.5 a 70b jest lepsza od starszych wersji GPT-4 ktory ma ponoc 1500b parametrow... magia praktycznie.) Wktotce pojawi sie GPT-5 i za kilka miesiecy llama4 i jak bedzie taki przeskok jak miedzy llma2 a llama3 to beda cekawe czasy... Zycze powodzenia w zglebianu tematu bo jest niesamowicie interesujacy.

trafne hehhehehe