Chyba żart. Gdyby nie akcent to gość mówi na poziomie native.

Zna Pan jakiegoś polskiego nativa który nie ma problemów z wymową i mówi np. ,,musie", ,,wszystka", ,,nażliwosć" ? Nie wiem, może to jakaś gwara 😁

Absurdalny zarzut. Przecież ten człowiek ma zasób słownictwa większy niż spora część naszego społeczeństwa.

Skąd ten hejt? Autor filmu mówi po polsku bardzo dobrze, jedynie akcent mógłby być lepszy, mniej wschodni - a to już kwestia praktyki

Dawid, dzięki za komentarz! Tu Vlaidmir, jeśli moja wymowa Cię uraża, to przepraszam. Naprawdę! Nagrywając odcinek o Agentach AI, na pewno nie miałem takiej intencji. Języki zawsze stanowią dla mnie wyzwanie - mam inne talenty. Swoją drogą, każdy z nas ma swoje mocne strony, a przecież nie można oczekiwać, że każdy człowiek na świecie będzie perfekcyjnie mówił po polsku - to po prostu nierealne. Jako ciekawostkę dodam, że obecnie znam całkiem dobrze 3-4 języki, w tym angielski, a teraz uczę się hiszpańskiego (nie licząc Pythona!). W każdym z nich zdarza mi się jednak popełniać błędy (chociaż w Pythonie zazwyczaj ich unikam). Może dlatego wolę spędzać więcej czasu na rozważaniach w samotności lub kodowaniu niż na rozmowach z ludźmi. W swoich myślach nie muszę używać języka - bardziej opieram się na wyobraźni i intuicji, co jest moją mocną stroną. Dla mnie mówienie (w tym po polsku) to po prostu narzędzie. Aby porozumieć się z innymi, trzeba używać języka - i na szczęście w tym przypadku LLM świetnie radzi sobie z poprawianiem pisowni w dowolnym języku, również po polsku. Wygląda więc na to, że problem jest już w dużej mierze rozwiązany. Często, gdy wpadam w "strumień myśli" i mam za dużo do powiedzenia, mój język po prostu "odmawia współpracy" - i nieważne, czy mówię po polsku, angielsku, czy innym języku. Ale uwaga: uczę się i poprawiam! Na przykład w którymś odcinku ktoś zwrócił mi uwagę, żebym nie mówił „utylizować wynik” bo to jest nie poprawnie po polsku. Super! Już tak nie mówię. Ale tu przyznam, że nie wiem, co mam poprawić - może po prostu muszę zacząć mówić wolniej i wyraźniej... Jak to mówią: ucz się przez całe życie - a ja to wziąłem na serio! 😄 Przypomniała mi się sytuacja z 2017 roku. Planowałem wtedy zacząć nagrywać podcast, ale ciągle to odkładałem, bo bałem się właśnie takich komentarzy. I wtedy Marek Jankowski z Małej Wielkiej Firmy powiedział: "Zrób to! Jak treść się broni, to reszta będzie zaakceptowana."" No i nagrywam - a merytorykę zostawiam do oceny, wymowę do poprawy, a poczucie humoru do testowania! P.S. Też warto dodać, myślę, że jest wiele innych miejsc, gdzie ludzie ładnie mówią o AI, perfekcyjnie zarówno po polsku, jak i po angielsku (lub w dowolnym innym języku)... ale często bez większego sensu. Taka opcja również zawsze jest do wyboru.

Tak, tak. Miłość uratuje świat, pełna zgoda! ❤

Trudniejsze rzeczy wymagają myślenia, a nasz mózg jest tak zaprojektowany, że zwykle stara się oszczędzać energię. Dlatego potrzebna jest większa motywacja, aby udowodnić mózgowi, że to ma sens. W sumie też nie mam ambicji, żeby kogoś przekonywać. Bardziej traktuję to jako informację dla osób, które szukają takich treści. Dziękuję za komentarz, ciekawa analogia! :) @indikom

Roman bardzo dziękuję :) @romandmowski442

Dziękuję Artur za podzielenie się swoją perspektywą :)

Tak, w bankach będzie podobne, nawet bardziej niż mniej :) Co do kontrolowanie poufności danych i możliwość chronienia "know-how". Pytanie, chronienie przed kim? Aby nie wyciekło do LLM'ów dużych graczy?

@@DataWorkshop Przed LLM'ów dużych graczy albo nawet inaczej by nie wychodziły poza firmę, a czasem nawet poza granicę departamentu czy zespołu. Brzmi jako taka paranoja, ale poufność danych, a tym bardziej danych o klientach pierwszym priorytetem dla większości firm, zwalczą tych finansowych. Jak nie będzie to ustawione, to LLM będzie tylko takim efektem WOW na prototypie, w sumie Pan o tym kilka razy wspomina. Nie pracuje w LLM czy uczeniu maszynowym, ale Podcasty od Was lubię słuchać i widzę w nich wartość dodaną.

Dziękuję, Arek. Widzimy się na kursie, bo decyzja z Twojej strony już podjęta. Tam dokładniej rozwinę temat, jak najlepiej podejść również do pracy z Agentami. To, co jest pewne, to fakt, że narzędzia nadal są drugorzędne. Jeśli nie uporządkujemy danych, kontroli przepływu, możliwości łatwego debugowania i usprawniania, to nikt (żadne narzędzie) za nas tego nie zrobi. Do zobaczenia na kursie! 😊 @arekbochnak6956

Dziekuję :) Pracuję nad tym, myślę, ze najwięcej szczegółów technicznych będzie w moim kursie lokalny AI. Gdzie głębiej opowiem o parametrach, przydatnych narzędziach i jak to optymalizować. Coś więcej niż tylko Jan.ai.

Nie da sie rozczarować, jeśli się nie posiada (wygórowanych) oczekiwań 🤷‍♂️

No właśnie, o tym wspomniałem w odcinku - fala frustracji i rozczarowań będzie rosła. Co do EU Act, trzeba poczekać, jak to finalnie się ukształtuje. Na razie EU Act jest na "wakacjach". Czy to całkowicie wyłączy LLM i sprawi, że nie będzie się opłacało ich używać? W takim wypadku Europie trudno będzie konkurować z resztą świata. @fiqmiqful

Ale są idealne by namawiać firmy na płatne kursy o nich ;)

>Na produkcji nie dają stabilnych wyników Chciałbym jeszcze raz odnieść się do tego punktu, ponieważ właśnie w tym tkwi problem: domyślne podejścia, które stały się popularne, często nie zapewniają stabilnych, powtarzalnych wyników. Szacuję, że ponad 90-95% (a może i więcej) rozwiązań poszło w kierunku uproszczeń, co, choć wygodne, nie daje wyników, na których można w pełni polegać. W DataWorkshop podchodzimy do tego inaczej. Tworzymy i wdrażamy praktyczne rozwiązania, które nie tylko zachwycają prototypami, ale też zapewniają długofalową stabilność i przewidywalność. Naszym priorytetem jest skupienie się na danych i celach biznesowych, a nie wyłącznie na narzędziach. LLM może przynieść realną wartość firmom, które zrozumieją jego mocne strony i jednocześnie z rozwagą uwzględnią jego ograniczenia. To podejście pozwala świadomie wykorzystywać technologię tam, gdzie rzeczywiście przynosi korzyści. Na koniec warto podkreślić, że nie każda firma musi inwestować w ML czy LLM. Jednak opłacalność ML w biznesie rośnie z czasem, wraz z rozwojem standardów i wiedzy na temat tego, jak efektywnie wdrażać te technologie.

Bartek, pewnie chodzi o to, że nie było znaczącej różnicy, czy wrzucić to do user, czy system. Do tego to zmierza, ale i tak warto rozdzielać te komunikaty semantycznie, bo łatwiej jest nimi zarządzać i je analizować. Na przykład, gdy trzymamy historię dialogu, od razu widać, co przyszło od użytkownika.

@@DataWorkshop No tak to jest argument. My używamy do przetwarzania dokumentów, więc w sumie sami jesteśmy jedynym useren :)

Dziękuję :) @runnerwithwolves8369

Marcin, dziękuję za komentarz :) Dotrenowania modele nie jest takie łatwe. To wymaga sprzęt i inne rzeczy. Jan czy podobne narzędzia są do tego, aby wykorzystywać to co już jest wytrenowane. A powiedz dokładniej czego brakuje, może to jest kwestia zrobienia tego inaczej. @MarcinWawrzyniak150

@@DataWorkshop np. Jakbym robił offlinową maszynę z modelem, który ma dostęp do danych firmy.

Testuje program Msty, który ma zakładkę knowledge stacks, gdzie mogę podłączać pliki, ale ciężko to idzie, bo raczej maszyna nie daje rady: 16GB RAM, 2GB VRAM

Obowiązkowa odezwiemy się, czy to było wysłane na hello@? @nemonemus6743

No, ciekawa analogia! Tak, dane zdecydowanie są utworem konceptualnym, którym trzeba zarządzać. To nie ziemniaki czy dżem, które po prostu masz lub nie masz. Dzięki za ten przykład, pobudza wyobraźnię

Dziękuję :)

Tu nie ma idealnej odpowiedzi, zresztą są co najmniej trzy rzeczy do rozważenia: 1. gdzie fizycznie są przechowywane dane, 2. jak są strukturyzowane (np. płaska struktura, grafy itp.), 3. sposób, w jaki będziemy je wyszukiwać (klasyczna wyszukiwarka, embeddings itp.). Do tego dochodzą jeszcze inne wymagania: - jak często będą dane aktualizowane, - jaka będzie skala (raz na dzień czy miliony zapytań, lub coś pomiędzy), - kwestie związane z prywatnością i rolami. Natomiast, jeśli chodzi o bazę wektorową, faktycznie czasami może być przydatna jako wyszukiwarka. Jednak, co podkreślam, proces wyszukiwania można zorganizować na różne sposoby, w zależności od problemu, który rozwiązujemy. Na przykład w tematach prawnych lub podobnych, gdzie precyzja jest bardzo ważna, same wektory mogą wprowadzać dużo zamieszania i niepewności.

To jest już pytanie wprost dla prawników, dlatego polecam podejść do tematu od tej strony. Ważne jest, że nawet jeśli prawnik już coś przygotował komuś innemu, nie należy kopiować tego jeden do jednego. Każdy biznes jest (trochę) inny i ma swoje specyficzne potrzeby. Moja rola w tej rozmowie polega na zwracaniu uwagi na to, co jest istotne i na pytania, które prawnicy mogą zadawać, ustalając szczegóły. Natomiast nie jest prawnikiem, jestem od strony biznesowej, konceptualno-technicznej. Dla środowiska Enterprise to, co gwarantuje (prawnie) Vertex AI (Google) czy Azure (Microsoft), może być akceptowalne, ale nie zawsze. W większych chmurach, na przykład, istnieje możliwość przetwarzania danych tylko w UE (to dla RODO jest ważne), a dodatkowo zapewniają one szereg innych elementów wymaganych przez RODO. Jeszcze raz powtórzę, polecam przepracować temat RODO bezpośrednio z prawnikiem. To pewna inwestycja, ale zazwyczaj warto ją ponieść. @1972kotek

@@DataWorkshop Temat trafi do prawników. Szukałem jakiś informacji od kogoś kto ten proces przećwiczył. OpenAI ma stronę do zgłaszania takich umów. .

Jedno z rozwiązań Anonimizacja danych przed wysyłką: * Wyłapujesz wrażliwe dane i zastępujesz je znacznikami (np. {imie}, {pesel}) * Oryginalne dane trzymasz bezpiecznie w pamięci lokalnej Zapytanie do modelu: * Wysyłasz zanonimizowane zapytanie * Informujesz model, żeby w odpowiedzi zachował znaczniki Obróbka odpowiedzi: * Po otrzymaniu odpowiedzi, podstawiasz z powrotem oryginalne dane za znaczniki * Usuwasz tymczasowo przechowywane dane To jedno z możliwych rozwiązań - na pewno są też inne podejścia. Warto też pamiętać o skonsultowaniu takiego rozwiązania z zespołem prawnym pod kątem pełnej zgodności z RODO.

@@paweldremel5097 Problem w tym, że mam dane także obrazowe (skany dokumentów) i anonimizacja nie jest doskonała. OCR potrafi coś tam przepuścić tak samo jak poprawne wyłapanie NER'ów. Lepiej mieć coś podpisane z dostawcą AI (zadanie dla prawników). Może ktoś w praktyce przechodził taki proces.

Dziękuję Marcin, staram się jak mogę :) jak mam kolejne dawki wiedzy, aby właśnie w tym pomóc @marcingendek6103

Roman, nie wiem co dokładnie masz na myśli, ale sprzęt o którym mówisz brzmi, że Bielik będzie tam latał. U mnie na M2 Bielik i dość szybko generuję odpowiedzi: dziesiątki tokenów na sekundę :). Llama 70B też pójdzie, tam nawet prawie f16 zmieści się :D. @romandmowski442

Dzięki :) No tak, to działa. Jak już człowiek spróbuje, to szybciej "łapie" kontekst. Jeszcze lepiej, jak sam popełni błąd, który go zaboli, i usłyszy, jakie są rozwiązania. Wtedy dopiero docenia to na maksa. Takie życie :)

Dziękuję :)

Alina, bardzo dziękuję, motywuję mi to, aby działać z tym dalej :). @alinabarcikowska4172

Dziękuję Wojtek, miło to słyszeć :) @wojciechm521

Dziękuję za wysoką ocenę, to mnie bardzo motywuję :) Co do transformerów, to już bardziej techniczny temat i format podcastu nie zawsze sprawdza się. Na to mam osobny kurs NLP, gdzie krok po kroku tłumaczę temat, zaczynając od kontekstu jak do tego doszło, bo to jest pewna ewolucja i to pomaga lepiej zrozumieć. Kurs NLP: tinyurl.com/4wzfzbdb Tu jest wprowadzenie do tego modułu: kzbin.info/www/bejne/noDOn6iYr9GAhrs

@@DataWorkshop Dziękuję, już oglądam!)

Produkcja ma różne wymagania, ale co najmniej warto rozważyć te opcje. Zwykle jestem dość sceptyczny wobec różnych rzeczy, ale w tym przypadku nie odrzucam ich domyślnie. :)

Comtegra GPU Cloud nadaje się na produkcje :D

@@DataWorkshop Dzięki! A doprecyzowując, przede wszystkim chodzi o stabilność i dostępność.

@@paweswierblewski1505 na runpod gwarantuję dwie dziewiątki uptime (99.99%) Też co fajne mają różne regiony (w tym EU, i faktycznie są tam też GPU, niż tylko nazwa regionu) + secure cloud. Z mojego doświadczenie, jak potrzebuję GPU to szybko je dostaję tam. Zostawię jeszcze tego linka: www.runpod.io/compliance Z minusem w runpod, to np. teraz nie mają H200 i w górę. Natomiast H100 też często jest właśnie tym co trzeba, biorąc pod uwagę za jaką cenę oferują.

@@jakubzboina7246 A jaki jest pricing?

Tomasz, wydarzenie w Nvidia już się odbyło. Natomiast na spokojnie, będę dalej szerzył i dopracowywał te materiały. :) @tomaszb9668

Dziękuję Tomasz :) działam, działam

Tomasz, dziękuję :) Staram się jak mogę. @tomaszb9668

Marcin, no to super i właśnie o to chodzi! @marcintubielewicz206

Dzięki :)

Dziękuję Bartek :)

Tego trochę jest, ale na spokojnie, krok po kroku :)

Mam wrażenie, że teraz to również się zmienia. Podnosi się także jakość takich rozmów :) Jednak wciąż zdarza się, że są one bardzo teoretyczne i oderwane od kontekstu. P.S. i.redd.it/9gcco4jdlc091.jpg

Początek - super! Natomiast dalszy wniosek brzmi jak ciekawa przygoda aby spróbować, w szczególności jako fine-tuning, ale nie oczekiwałbym, że to pomoże :).

Bardzo Ci dziękuję za uwagę! Super, że piszesz i to jeszcze w tak delikatny sposób :) Najśmieszniejsze w tej historii jest to, że przy współpracy w jednej z firm "nauczyli mnie tak mówić".  Masz rację, trzeba to poprawić. Będę uważał na to słowa, jak usłyszysz, że mówię "wykorzystać", to oznacza, że dzięki temu komentarzu :). Dzięki za to!

Ja chyba też za długo w IT, siedzę, bo to utylizować mi jak 'apply' weszło, tak, że nawet nie zwróciłem uwagi. Dzięki

Bardzo dziękuję za miłe słowa! To prawdziwy miód na moje serce i motywacja, by działać i dzielić się jeszcze więcej - nawet jeśli robię to w wolnym czasie, na przykład w weekendy. Dziękuję, że o tym piszesz!

@@DataWorkshop "Cieszę się i czekam na kolejne odcinki. Tymczasem nadrabiam oglądanie Twoich poprzednich materiałów."

Michał, dziękuję za podzielenie się historią. Bardzo dobry wniosek na koniec - w 100% się zgadzam, na teraz i przynajmniej w najbliższym czasie będzie to aktualne.

Dziękuję, warto, warto :) Bo to wcale nie jest takie trudne, jak może się wydawać na początek

Dziękuję :) są już nowe odcinki