Kuriozalny Debiut Google Gemini | Analiza Upadku Generatywnej AI

[@inout3394]

Dzięki

[@agatastaniak7459]

Może ze sposobu w jaki odnosi się Pan do tego artykułu nie wynika to wprost, ale chyba mamy tutaj do czynienia z negatywnymi efektami dużej ilości milcząco przyjmowanych ukrytych założeń, które są z gruntu fałszywe, a które mają niestety metodologiczne i technologiczne konsekwencje. Np. fałszywym założeniem jest, że można przekazywać ludziom zupełnie obiektywne nie wpływające na ich emocje informacje. Gdyby tak było możliwa byłaby np. terapia psychologiczna wolna od ocen moralnych. A wielokrotnie próbowano coś takiego wymyślić i jak dotąd terapii wolnej od jakiegokolwiek systemu etycznego czy systemu wartościowania moralnego nie udało się na świecie stworzyć. Podobnie jak np. nie wymyślono do tej pory takiego sposobu przekazywania ludziom informacji o odmownych decyzjach administracyjnych czy złych diagnozach medycznych, który nie wywoływałby u ludzi zmiany stopnia pobudzenia emocjonalnego ( co mierzymy dość łatwo, badająć reakcję skórną, ciśnienie krwi i bicie serca). Także dążenie w AI do obiektywności nigdy nie przekroczy raczej poziomu zbliżonego do poziomu rzetelnego dziennikarstwa. I próby dążenia do tego raczej skazane są na porażkę. Ale metodologicznie warto moim zdaniem zwrócić uwagę na inny, bardzo ważny wątek- pomysł by w telemedycynie i w AI na potrzeby wojska odchodzić od RLHF. Dlaczego? By przyśpieszyć tempo nauki u AI. I tu warto zadać pytanie o ryzyko. A ono jest warte uwzględnienia. Bo np. w telemedycynie brak RLHF w diagnostyce i kontakcie na linii AI dokonujace diagnozy medycznej - pacjent poddający się diagnozie może nam wzrosnąć drastycznie poziom samobójstw. Skąd to wiemy? Nowoczesne wykrywanie przedwczesnej demencji i rezygnacja z łatwodostępnych testów aptecznych ponieważ w próbach na ludziach wyszło, że owszem umiemy ludziom w wieku między 4 lata a 12 lat wykryć, że przed 25 rokiem życia już rozwinie się u nich demencja i że zabije ich przedwcześnie, ale nie umiemy zapobiec ich samobójstwom z powodu tej przedwcześnie podanej do ich wiadomośći diagnozy. AI bez RLHF na polu walki? No byłoby super gdyby można było na masową skalę stosować w marynarce np. systemy typu "shoot and forget" i mamy do tego systemy namierzania celu np. w nowoczesnych fregatach. No to w czym problem? Otóż radary tych systemów namierzania da się oszukać, a kiedy samosterujący pocisk jest jakieś 8 km od celu, a ktoś przy namierzaniu radaru majstrował i na polu walki znalazł metodę na wielokrotne zafałszowywanie odczytów radaru no to bez opcji RLHF taki system naprowadzania na cel nie ma szans uczyć się na gorąco na podstawie błędów wynikających z technik kontrataku wroga. Z uwagi na to, że AI rozwijamy obecnie dość dynamiczne w obu tych dziedzinach jakimi są telemedycyna i potrzeby przemysłu wojskowego należy zadać sobie pytanie o to czy dążenie do zupełnej autonomizacji AI od informacji zwrotnej i uczenia się w oparciu o RLHF jest aby na pewno pójściem w słusznym kierunku? Oczywiście możemy mówić o takich problemach także uwzględniając feedback do zastosowań cywilnych w generatywnym AI tak jak np. już teraz historycy biją na alarm, że błędne grafiki generowane przez AI kształtują błędne wyobrażenia o tym jakie stroje czy style architektoniczne czy typu umundurowania faktycznie były stosowane w danych realiach historycznych. I może brzmi to jako abstrakcyjny problem, ale co by było gdyby taki sam trend pojawił się np. w przypadku generatywnych AI tworzących grafikę i produkujących hologramy 3D do celów szkoleniowych, które nie odpowiadałyby rzeczywistości, a miałby np. szkolić ludzi jak operować człowieka albo jak obsłużyć jakieś złożone urządzenie?

[@JerzyAndrzejSurma]

Bardzo dziękuję za ten ciekawy komentarz. W kontekście zastosowań militarnych AI tutaj moja wypowiedź: kzbin.info/www/bejne/e4rdioiwlteph68si=n9kALvlkBsOmRgub

[@PiotrSygutPL]

👍

[@bartekjedrzejewski7594]

Wcielę się w jak to się mówi "adwokata diabła", bo wśród komentarzy pod tym filmem nie znalazłem takich, które przedstawiałyby argumenty na korzyść podjętych w Google decyzji, a myślę, że warto je przytoczyć. Raczej nie ma co zakładać, że efekt działań pro-inkluzywnych jest przemyślany. Ale poza oczywistą niezgodnością np. z naszą wiedzą o historii, co może powodować uśmiech na twarzy, czy nawet oburzenie niesie za sobą również względnie pozytywne efekty. Na świecie istnieją duże dysproporcje między zamożnością ludzi. Łatwiej jest kojarzyć brak zamożności z widocznymi na pierwszy rzut oka cechami wyglądu. Statystycznie ludzie z blond włosami zarabiają więcej niż szatyni, a Ci zarabiają średnio więcej niż osoby czarnoskóre na świecie. Ba, istnieje większa szansa na to, że osoba z białą karnacją potrafi czytać, niż osoba czarnoskóra. Nawet w naszym kraju, gdzie te nierówności są względnie niewielkie statystycznie będzie łatwiej osiągnąć "sukces" osobie, której rodzina dysponuje większym budżetem. W USA oprócz dysproporcji w stanie posiadania istnieją też silne napięcia społeczne na tle etnicznym. Mamy tendencje do generalizowania, tak więc: Głównie osoby biedniejsze dopuszczają się przestępczości, jak kradzieże, handel zakazanymi substancjami, czy rabunki (bo mają mniej do stracenia, bardziej im się to opłaca niż komuś kto może coś stracić). Czarnoskórzy zwykle są biedniejsi niż osoby o jasnej karnacji. Łatwo jest więc nawet podświadomie dojść do krzywdzącego wniosku, że jak ktoś jest czarnoskóry, to istnieje większa szansa, że będzie np. przestępcą. Taka stygmatyzacja może dodatkowo pogłębiać różnice. Jesteśmy, a zwłaszcza najmłodsi z nas podatni na sugestie. Jeśli w wieku szkolnym słyszymy, że wielu takich jak my, osiągnęło "sukces", że możemy być jak ci odkrywcy, naukowcy, widzimy, że osoby z wyglądu przypominające nas, czy naszych dziadków są na listach najbogatszych ludzi, wtedy może wykształcić się w nas poczucie, że jesteśmy do tego zdolni. W świecie panuje stereotyp (statystycznie się broniący) osoby czarnoskórej to osoba biedniejsza, o większych skłonnościach do łamania prawa, nielubiana przez część społeczeństwa. Na świecie gdzie odsetek osób czarnoskórych, tych wzorów do naśladowania dla najmłodszych jest marginalny przy historycznych osiągnięciach osób białych (ilu wymienicie czarnych naukowców, znanych postaci historii?) - już w szkolnym wieku osoby czarnoskóre mają mniejszą szanse chociaż uwierzyć w to, że wysiłek może się przerodzić w "sukces". Receptą na to może być zasilanie filmów, bajek, seriali, kadr korporacji i odpowiedzi obrazków generowanych przez AI większym udziałem osób z innymi cechami wizualnymi niż te europejskie. To samo myślenie działa też na inne grupy jak np. kobiety. Pojawianie się silnych kobiet w pierwszych rolach filmów czy seriali, gdy zrobione na siłę jest nieudolne, ale gdy zrobione umiejętnie może przynieść podobne korzyści. W taki sposób można podejść do problemu wyrównywania szans. W tym przypadku moim zdaniem uznano, że lepiej jest pójść w tą stronę i wybrać taką społeczną inżynierię niż sztywno trzymać się historycznych faktów. Może ktoś tam pomyślał: "Co z tego, że dla wielu osób spowoduje to oburzenie, skoro jakiś uczeń może pomyśleć: mogę być takim naukowcem jak ten astronom z XVII wieku, ale prawdziwym.". Proszę nie wykorzystujcie tego przykładu w kontekście wizji niemieckich żołnierzy z 1943 xDDDD :D

[@JerzyAndrzejSurma]

Dziękuję bardzo, że Pan odważnie podjął ten trudny temat. Nie podejmuje się dyskusji. W moim przekonaniu fundamentalną wartością (transcendentalia) jest Prawda.

[@jakubanzelm]

szczerze mówiąc te przykłady wyglądają, jakby były celowo dobrane, by dać argumenty ludziom o pewnym światopoglądzie

[@JerzyAndrzejSurma]

Gdyby miał Pan jakieś "kontr" przykłady, to bardzo proszę o link.

[@jakubanzelm]

@@JerzyAndrzejSurma sam sprawdziłem. Wygenerowałem 28 obrazków z różnymi ustawieniami w leonardo ai. Ani jednej kobiety, sami biali mężczyźni, nie wiem jak tu się dzielić grafikami, ale spróbuję

[@agatastaniak7459]

Co do uprzedzeń algorytmów- widzimy je już w drugą stronę. Np. algorytmy poproszone o pokazanie komuś typowego Wikinga generowały twarze osób ciemnoskórych.

[@audiozio-r2s]

Wszystkie filmy są zbyt ciche, bez wzmacniacza trudno jest ich słuchać. Prawdopodobnie konieczne jest włączenie wzmocnienia mikrofonu w systemie podczas nagrywania. Poza tym 👍

[@JerzyAndrzejSurma]

Dziękuję, popracuje nad tym audio.

[@hukuxms]

Może to jest tak, że skoro Google musi się dostosowywać do prawa w różnych krajach, to lepiej dla niego jest tworzyć treści politycznie poprawne i tak samo to działa w przypadku innych światowych korporacji.

[@grzegorzmarcholt5552]

Demis Hassabis, jeden z twórców Gemini wypowiadał sie o tym w wywiadach, np. Dla Hard Fork w zeszłym tyg. Jest na YT. Warto się zapoznać, za im zacznie się snuć jakieś dziwaczne teorie.

[@JerzyAndrzejSurma]

Jest w drugiej części mojego komentarza omówione oficjalne stanowisko Google w tej sprawie. Pozdrawiam!

[@ardex9677]

Firmy w krajach anglosaskich typu Stany Zjednoczone, Kanada oraz Wielka Brytania ze względu na niektóre wymogi w finansowaniu projektów zatrudnia się outsourcingowo firmy konsultingowe mające na celu zapewnić równą reprezentację oraz brak dyskryminacji mniejszości etnicznych oraz seksualnych działając przeciw rasizmowi i dyskryminacji kobiet i mniejszości seksualnych. Ostatnio zrobiło się o tym głośno, ponieważ społeczność graczy odkryła działalność takiej firmy oferującej powyższe usługi, to znaczy Sweet Baby Inc. Działalność firm tego typu ma doprowadzić usługę jaką jest gra komputerowa do spełnienia określonych standardów reprezentacyjnych w celu uzyskania finansowania projektów oraz odpowiednich ocen.

[@ardex9677]

Jestem przekonany, że tego typu firmy konsultingowe o działalności mającej na celu zapewnienie poprawności politycznej produktów jak Sweet Baby Inc (nazwa sweet baby nie jest przypadkowa i naśmiewa się z osób sprzeciwiającym się zmianom jako płaczące i drące mordę niemowlaki o czym wielokrotnie podkreślała CEO w wykładach) mają również swoje oddziały w branży IT oraz filmowej. Gwarantuję Panu, że w niedługim czasie po wygranej prezydenta Bidena ich działalność i certyfikaty staną się obowiązkowym standardem, a produktu Microsoftu zostaną do nich dostosowane.

[@JerzyAndrzejSurma]

Dziękuję za ten ważny wątek. W USA działa już np. AI Act, więc firma musi być zgodna z wymaganiami regulacyjnymi.

[@kontowielorazowe]

Na 99% nie jest to błąd w sztuce, to typowa inżynieria społeczna.

[@futurejack7764]

Po co Tyle dywagacji? ...liczy fałszywa odpowiedź A inteligencja która prawdziwa czy sztuczna jest idiotyczna - w odbiorze konsumentów - przestaje być inteligencją i jest Nieprzydatna / Rynek wyceni TO BEZLITOŚNIE i BEZWZGLĘDNIE ❗Google może sobie roić swoje chore ideefix./ Konkurencja uwielbia takie błędy ☝️❗

[@dugiejoness5197]

Za cicho, nie oglądam.

[@JerzyAndrzejSurma]

Dziękuję za feedback. Dobry mikrofon mam w odległości ok. 15 cm, więc dziwne że tak słabo 😕

[@agatastaniak7459]

Nagranie jest faktycznie dość ciche. Możliwe,że można jakoś dopracować głośność nagraniaw kolejnych filmikach. Aczkolwiek nie powiedziałabym, że jest aż tak cicho, że nie da się tego słuchać. Kto chce, ten na pewno wysłucha. Choć moja pierwsza myśl tuż po odtworzeniu początku to faktycznie było "dość ciche to nagranie". Może bardziej komfortowy byłby albo mikrofon kierunkowy albo jakiś program podnoszący głośność nagrania? Wiele osób jest dość ruchliwych i nieświaodmie odsuwa się i przysuwa mówiąc do mikrofonu i czasem daje to taki efekt wyciszania nagrania. Można spróbować mikrofon umieścić na jakimś stojaku bliżej ust, żeby mieć pewność, że ta odległość od mikrofonu będzie względnie stała.@@JerzyAndrzejSurma

[@GraczPierwszy]

przestańcie słuchać pajaców którzy nie mają pojęcia o czym gadają