Hraskó Gábor: Hogyan változtatja meg a ChatGPT a valóságot?

Hogyan változtatja meg a ChatGPT a valóságot?
Hraskó Gábor - informatikai termékmenedzser, a Szkeptikus Társaság volt elnöke
Az előadásban a nagy nyelvi modellek (LLM) létező és lehetséges alkalmazásainak a valóságérzékelésünkre gyakorolt hatásáról lesz szó. Miért hatnak ránk olyan erősen? Miért félrevivő az az elméleti vitát, hogy ez most tényleg intelligencia-e vagy sem?
Budapest Science Meetup, 2024.03.21.

[@fchris82]

Az összefoglalásra én láttam egy érdekes példát. Talán a Redditen láttam egy kérdést, hogy a kibontott gipszkarton lapok újra használhatóak-e. A mesterséges intelligencia összegezte: a hozzászólók szerint újra lehet használni. Nekem ez gyanús volt és elkezdtem elolvasni a hozzászólásokat. Szinte az ÖSSZES úgy kezdődött, hogy bár elmérletileg lehet, DE inkább ne csináld. Aztán részletezték, hogy miért ne. Az AI "helyesen" válaszolt a feltett kérdésre, lehetni lehet, de kimaradt az a fontos részlet, hogy az milyen kockázatokat rejt. Így az AI-jal való beszélgetéseknél halmozottan érvényes a mondás: a kérdés önmagában hordozza a választ. Míg a kérdező nyilván úgy értette a kérdést, hogy "kockázatos-e", addig az AI nem erre válaszolt, míg a hozzászólók igen, csak félrevezették az AI-t azzal, hogy leírták, "lehetni lehet" Pár hete küldött át egy ember egy homeopátiáról szóló vitában egy metaanalízist, ami azt bizonygatta, hogy a homeopátia működik, nesztek, itt elemeztünk egy rakás cikket. Én elkezdtem megnyitni az eredeti cikkeket, és 4-ből 4 cikk már az abstractban leírta és kiemelte, hogy kutatásuk nem bizonyít semmit, mert vagy a mintaszám kicsi, vagy a módszertan volt nem teljesen tökéletes. Nyilván a metaanalízist készítők nem az "igazságot" keresték, hanem önigazolást, és valszeg eleve úgy kerestek célzottan a cikkeket, hogy mik hoztak ki "hatásosságot". Kiszedték az adatokat, azokat elemezték, mint ha azok helyesek lennének és megállapították, hogy "működik". A cikkeket meg elfelejtették részleteiben elolvasni, amiben az eredeti kutatók elmondták, hogy "ez még további vizsgálatra szorul, ez tudományos bizonyítéknak nem tekinthető." A jövőben gyakorlatilag méginkább felértékelődik, hogy az eredeti cikkeket is el kell olvasni.

[@StudyWithMe-mh6pi]

"A Moravec-paradoxon a mesterséges intelligencia és a robotika kutatóinak meglepő felfedezése, miszerint a hagyományos feltételezésektől eltérően a magas szintű gondolkodás nagyon kicsi számítási teljesítményt vesz igénybe, az alacsony szintű szenzomotoros készségek ellenben óriási számítási erőforrásokat igényelnek"

[@txdmsk]

A ChatGPT nem a legfeljettebb LLM, csak a legfelkapottabb. Nem vagyok szakértő a témában, de nézd meg mondjuk a Claude 3 Opus LLM-et, ami sokkal jobb kódot ír, és, hát, azt kell mondjam, hogy a legtöbb embertársunknál "értelmesebb". Inferrálni képes rendkívül absztrakt dolgokat, szarkazmust, iróniát, sőt.. apa vicceket.

[@TeslaElonSpaceXFan]

Nem vagyok szakértő a témában, de szerintem Grok az egyik legfejlettebb LLM amit az xAI és Elon Musk fejleszt. Mesterséges Intelligenciában pedig a Tesla FSD a legjobb, szó szerint érti az elvont/absztrakt emeri szabályokat, törvényeket és látja a valóságot kamerákkal amit megért.

[@txdmsk]

Sam Altman meg nagyon szaporán pittyegteti a pszichopata radaromat.