Парсинг на Python, Selenium и BS4 | Выполняем заказ на фрилансе | Парсинг динамического сайта

Фриланс. Обучение (Web-Scraping) веб парсингу на Python. В данном видео выполняем заказ взятый на фрилансе по парсингу динамического сайта. Выполняем задачу с помощью библиотек Selenium, Beautifulsoup, requests, urllib и регулярных выражений. С записью данных в JSON файл.
🔥 Доступ в приват | Поддержать проект:
boosty.to/pythontoday
/ pythontoday
yoomoney.ru/to/410019570956160
🔥 Стать спонсором канала:
/ @pythontoday
****Ссылки****
Дешевый/надежный сервер в Европе + СКИДКА 10%:
vdsina.ru/?partner=858b36ud3p
Хороший proxy сервис:
proxy6.net/a/149995
Парсинг криптобиржи | Торговый бот | API криптобиржи:
• Парсинг криптобиржи | ...
Как отправить сообщение на почту с помощью Python | Email рассылка | Python send Gmail
• Как отправить сообщени...
Асинхронный парсинг на Python | Ускоряем код в 10 раз
• Асинхронный парсинг на...
Крутой заказ на фрилансе | Подбираем забытый пароль к Excel файлу с помощью Python:
• Крутой заказ на фрилан...
Пишем Telegram бота на Python + Загружаем Telegram бота на сервер(хостинг):
• Пишем Telegram бота на...
Плейлист по распознаванию лиц на Python:
• Распознавание лиц | Fa...
Плейлист по парсингу сайтов на Python:
• Парсинг/Scraping
Версии Chromedriver:
chromedriver.storage.googleap...
Код проекта на github:
github.com/pythontoday/scrap_...
И в telegram канале:
t.me/python2day
****Соц.сети****
Telegram: t.me/python2day
#scraping #webscraping #парсинг #requests #python #фриланс #beautifulsoup #selenium

[@user-lc9bn4no7i]

[INFO] актуальная инфа по данному уроку Для тех у кого не получается проскролить, так как в конце скролла страницы, не появляется тег с сообщением о том, что дальше скролить некуда. Присмотритесь к тегу к которому мы перемещаемся для скролла. Внутри тега есть еще два тега, но при полном проскроливане страницы, эти теги исчезают. Ставьте условие не по наличию нового тега, а по отсутствию любого из внутренних двух. При таком условии весь код в блоке if из видео, переместится в блок else, аналогично для блока else из видео для блока if + Для внимательных перфекционистов. Не все карточки попадут в список карточек. Если просмотреть все карточки на странице с карточками, можно увидеть, что у некоторых слегка затемнен фон. Посмотрев на тег такой карточки, мы увидем, что в название класса добавляется дополнительное слово, что изменяет имя класса и означает что url к нам в список не попадет. Сами же карточки внутри не отличаются от остальных, не являются рекламными или повторяющимися (проверено), может они просто блатные какие то - хз. Для того чтобы они тоже попали к нам в список можно воспользоваться тем же compile() с названиями обеих карточек. ++ Для тех кто еще не работал с Selenium и вам не нравиться, что он ругается на вас(но все равно работает😎), за устаревшие методы как в видео. Для создания драйвера можно использовать это 👇 from selenium import webdriver from selenium.webdriver.chrome.service import Service service = Service('ПУТЬ К ДРАЙВЕРУ\chromedriver.exe') driver = webdriver.Chrome(service=service) За место этого (как в видео)👇 from selenium import webdriver driver = webdriver.Chrome('ПУТЬ К ДРАЙВЕРУ\chromedriver.exe') А для поиска по классу можно использовать это 👇 driver.find_element(by=By.CLASS_NAME, value="catalog-button-showMore") Предварительно импортируя это 👇 from selenium.webdriver.common.by import By За место устаревшего поиска как в видео👇 driver.find_element_by_class_name("catalog-button-showMore") +++ Для PythonToday. Ты красавчик большое спасибо❤

[@orff3971]

Ты красавчик тоже. Тебе спасибо

[@user-gl5cy4hi7y]

сразу же надо было читать комментарии я на это потратил уйму времени

[@nekr90]

Красавчик мужчина,от души

[@user-ip6qt4ez9f]

Спасибо за INFO , если не затруднит можешь подсказать в чем проблема : find_more_element = driver.find_element(By.CLASS_NAME,"catalog-button-showMore") затем идет блок кода где find_more_element должна прожаться и произойти догрузка контента : actions = ActionChains(driver) actions.move_to_element(find_more_element).perform() но проблема в том , что кнопка не прожимается и цикл продалжает крутиться н непрожимая кнопку "показать еще"

[@gaben_aTan]

Спасибо огромное за Ваш труд. Вчера закончил написание парсера группы в ВК и автоматической отправкой стат данных по постам в группе на почту нескольким сотрудникам. Все благодаря вашим урокам!! Настроение бомбическое, когда все получается!

[@karugananikoyomi4702]

Огроменное спасибо за твои труды, двигайся дальше. У тебя очень полезные видео. С помощью твоих видео люди сэкономят кучу времени и нервов!

[@PythonToday]

Спасибо за поддержку!

[@Morozov_Anton]

Материал просто огонь! Спасибо за труды!;)

[@PythonToday]

Спасибо большое за поддержку! Рад что полезно 👍

[@vigauss1889]

Пушка контент, огонь канал, кот талисман)) Успехов в развитии брат, безумно благодарен за проделанную тобой работу и пинок лично для меня. Спасибо тебе большое!

[@PythonToday]

Спасибо дружище) Рад что видео полезны

[@user-dk4lj5ri8n]

Я хоть и джава программист, смотрю твои видосики и вообще начал изучать парсинг благодаря тебе. Спасибо за видео

[@Roman_arch_btw]

Просто лучший!! Без воды и отлично обьясняешь)

[@PythonToday]

Большое спасибо! Рад что интересно и полезно)

[@grigoriyeltsov]

Большое спасибо за качественный материал! Каждый урок пишу и "иду" по коду, чтобы все понять. Спасибо!

[@PythonToday]

Спасибо за фидбэк! Рад что видео помогают

[@AleksKinokusMain]

Все мы были нубами. Так что - спасибо, за то что делишься своими навыками. А еще это ж опыт!

[@PythonToday]

Большое спасибо за фидбэк и поддержку!

[@aleks777nk]

Красиво, четко, лаконично и еще и работает!!!) Канал находка для меня, благодарю за такой качественный контент)

[@PythonToday]

Большое спасибо за фидбэк! Рад что видео полезны и помогают!

[@user-ir3nn6nk5e]

🔥🔥🔥 Как всегда урок СУПЕР!!! Огромное спасибо!!! (я только-только начинаю самостоятельно изучать Python, пока на самом примитиве)

[@PythonToday]

Благодарю! Рад что полезно и помогает. Главное ежедневно практикуйся

[@devus377]

Огромное спасибо. Все просто и доходчиво! Без всякой "воды" и перескакивания !!!!

[@PythonToday]

Огромное спасибо за фидбэк и поддержку!

[@windcrack8404]

Благодарю за видео. Толко обучился python, и уже такой бомбический канал, по Парсингу сайтов. Когда проходил задание на обучении этому, помогли Ваши уроки :).

[@PythonToday]

Благодарю за фидбэк! Рад что видео помогают)

[@-_--nn1ix]

Спасибо большое за видео! Очень доходчиво и полезно) хотелось бы ещё уроков на библиотеки, которые ты используешь, более подробно)

[@PythonToday]

Спасибо большое за фидбэк! Рад что полезно

[@algis_sh]

Как всегда пушка - огоньСмотришь и просто кайфуешь, кучу полезной инфы с каждым просмотренным видосом приобретаю

[@PythonToday]

Спасибо за поддержку!

[@nicolasrudnev6800]

Огромное спасибо! Всегда с удовольствием слушаю и с удовольствием поддерживаю!

[@PythonToday]

Большое спасибо за фидбэк и поддержку!

[@Sadownick]

Нифига себе "если видео было вам полезным и вы узнали что-то новое", да это одно из лучших видео по парсингу, которое я видел, все чётко, подробно, конкретно!!!! Ваще когда месяц назад наткнулся на твой канал, я был просто в восторге, ибо все просто и офигенно озвучено, без какого либо пафоса, конкретно и ясно, и более того очень точно и профессионально, смотрю более старые видосы, когда время есть... Все супер, так держать, на днях в спонсоры на патреоне добавлюсь, очень полезные видео 👍🏻👍🏻👍🏻

[@PythonToday]

Спасибо большое за фидбэк и поддержку!

[@Sadownick]

@@PythonToday все, запатронился к тебе :)

[@syncope7064]

Идея дать эксклюзивного контента практики удалась на ура. Я даже не думал что практики так не хватает во всяких контентах. Безумно благодарен.

[@user-wo2hd7ig8e]

Спасибо за труд и за полезную информацию. Очень понятно объясняешь. Круто!

[@PythonToday]

Большое спасибо за фидбэк! Рад что полезно

[@user-xv7sh6lp7o]

Очень полезное видео, Узнал много нового . Спасибо за подробное объяснение!

[@PythonToday]

Большое спасибо за поддержку! Рад что полезно

[@user-cr5xp4nt2y]

Дружище, ты лучший! Спасибо за видео!

[@PythonToday]

Большое спасибо за фидбэк!

[@vladimir-monin]

Спасибо за видео! Очень вдохновляет!!!

[@PythonToday]

Большое спасибо! Рад что полезно 👍

[@onemasterlomaster1829]

PythonToday ДРУГ ты крут, спасибо тебе за хорошие видосы, ты даешь знания и вдохновляешь!

[@PythonToday]

Большое спасибо за фидбэк!

[@inspirostudio]

Спасибо за видео. Очень пригодилось!

[@user-mz6bg7cf6g]

Как всегда лайк! Молодец, приятно смотреть!!!

[@PythonToday]

Большое спасибо за поддержку!

[@Rahkmatov]

Манера объяснение темы на высшем уровне.☀️😇 как и всегда 😊 правда для того что бы вникать, хотя бы нужно знать основы питона. чего всем советую 😊 всем добра, автору здоровья и больше роликов 😅

[@PythonToday]

Огромное спасибо за поддержку!

[@yt222ee]

За видео респект. Особенно понравился генератор списков, приятно удивился😉

[@PythonToday]

Спасибо за фидбэк! Рад что видео помогают)

[@user-yj9fq5xo9h]

Спасибо за контент)) Очень хорошо рассказываешь!

[@PythonToday]

Благодарю за фидбэк!

[@AlexanderGorshkov]

Теперь ждём на асинцио☺️💃 А работа проделана большая! Ставим класс 👍

[@PythonToday]

Спасибо за фидбэк!

[@sanegina4514]

Я человек простой, вижу Ваше видео - ставлю нравку!

[@PythonToday]

Большое спасибо за поддержку!

[@user-wn3tg8dm9g]

Огромное спасибо. Материал бомба!!!

[@PythonToday]

Большое спасибо за фидбэк! Рад что полезно и интересно

[@okey6594]

2:35 библиокеки! 🤣🤣🤣🤣🤣! PythonToday спс за контент, постоянно очень жду новые видео!:)

[@user-oo7sz8vn2g]

Отличный урок, спасибо !

[@PythonToday]

Благодарю за фидбэк!

[@Bazilit]

Спасибо за урок! Буквально пару уроков назад по парсингу столкнулся с бесконечной прокруткой сайта, но так и не довел до ума автоматическую прокрутку через Selenium. А тут она реализована. Подправил свою по образу и подобию, все прекрасно заработало.

[@PythonToday]

Рад что полезно! Большое спасибо за фидбэк!

[@lancer71271]

Паршу сайты поставщиков для своего дела, нашел в твоем коде красивые вещи, которые буду применять у себя. Продолжай в том же духе, ты красавчик!

[@PythonToday]

Большое спасибо за фидбэк! Рад что полезно)

[@aleksejborovinskij1155]

Идеальный формат!

[@PythonToday]

Благодарю! Рад что интересно и полезно

[@user-buser_eto_ja]

Очень круто , спасибо!

[@PythonToday]

Благодарю за фидбэк!

[@leonidasspartasson9759]

Ждемс вторую часть заказа с помещением данных в бд)

[@AlexRootx]

Молодчага!!! Спасибо за ролик!!!! Познавательно! Лайк!

[@PythonToday]

Спасибо большое за поддержку!

[@user-fu4gr4gz9y]

Спасибо большое за видео, было очень полезно и познавательно. Но пришлось основательно переписывать скрипт, так как поменялись методы в библиотеках, теги на сайте и много всего еще прочего!

[@Zer-st6qv]

Спасибо огромное за труд! Твой канал это просто энциклопедия знаний, не слушай даунов, ты создаешь безумно полезный и нужный контент. Желаю двигаться только вперед, а мы поддержим 😉 Ты же знаешь)

[@PythonToday]

Большое спасибо за фидбэк и поддержку! 👍

[@brunneng8575]

@@PythonToday а что это за ide?

[@PythonToday]

@@brunneng8575 VSCode

[@PythonToday]

@@user19326 Приветствую, авторского курса пока нет. Только веду несколько человек.

[@dinvinchester3353]

@@PythonToday Здравствуйте спасибо за туториалы, очень много нового узнал))! Скажите а на селениуме можно парсить данные с карты на сайтах по недвижимости ?

[@Net-olekma]

Обожаю такие видосы.

[@i.am.rossalex]

Интересные методы, спасибо, что поделился. Я не использую bs4 или что-то еще. Только встроенные методы самого Selenium. Скролю скриптом через driver.execure_script(), так как до конца список может грузиться и без всяких индикаторов в виде появляющегося блока. И там добавили уже manager service, чтобы не указывать место к webdriver-у явно, и качать его не нужно, он сам его качает.

[@PythonToday]

Благодарю за фидбэк!

[@shizoidnumber1]

*Спасибо тебе большое, очень нравится питон и по твоим урокам обучение ускоряется в несколько раз, оху#**#ный** ты мужик!!!*

[@PythonToday]

Большое спасибо за фидбэк! Рад что полезно

[@lefort6943]

Спасибо за топовый контент!👍👍

[@PythonToday]

Большое спасибо за фидбэк! Рад что полезно

[@user-so4lz3si3r]

Классный урок!

[@PythonToday]

Благодарю!

[@pownery]

Просто офигенно!

[@PythonToday]

Благодарю!

[@daniyarerkinov6475]

спасибо огромное , очень полезное видео , самый лучший Питон блоггер

[@PythonToday]

Благодарю!

[@noname52rus]

супер! Спасибо, очень познавательно!

[@PythonToday]

Большое спасибо!

[@xvostov_k]

Очень интересное видео, спасибо.

[@PythonToday]

Большое спасибо за фидбэк!

[@andrejklester5851]

Классное видео, спасибо!

[@PythonToday]

Благодарю за фидбэк!

[@freestreet_official]

Как всегда, лучший!

[@PythonToday]

Благодарю!

[@Oskar9226]

Отличный урок, что сказать

[@PythonToday]

Большое спасибо!

[@akovemil9528]

Огонь!)

[@andrrrew]

Я летом начал изучать питон. И только сегодня получил рекомендацию на твои видосы. С первых слов подача цепляет, штош, похоже я здесь залипну)) Лайк, подписка и всё такое! спасибо)

[@PythonToday]

Большое спасибо за фидбэк! Надеюсь видео будут полезны)

[@user-ok8nn9ft8c]

вместо переменной "count" можно использовать функцию enumerate() на цикл фор. выглядит это примерно так: list = ['a', 'b', 'c'] for i, el in enumerate(list): print(i, el) # 0 a, 1 b, 2 c

[@Anonim-im6ln]

Ого!) Ви молодець!) Дякую вам!)

[@PythonToday]

Благодарю за поддержку!

[@sashaperdunov2209]

Спасибо вам огромнейшее!!!

[@PythonToday]

Спасибо за фидбэк!

[@user-uk4ww6ln7q]

Огонь!!

[@artemliuboshenko6639]

Просто пушка ))

[@PythonToday]

Большое спасибо!

[@Tolya421.]

Хорошая тема!

[@PythonToday]

Благодарю за фидбэк, рад что интересно и полезно!

[@jintiger4221]

Ты красавчик! Спасибо тебе

[@PythonToday]

Спасибо за поддержку!

[@short_aliexpress]

огромное спасибо!!

[@Lll-ih2ic]

Начинаем😍

[@PythonToday]

Спасибо за поддержку! )

[@dj_anabel]

круто, спасибо

[@PythonToday]

Большое спасибо за фидбэк!

[@volttv7938]

Туториал как обойтись без селиниума) Привет! Сайт действительно крутой со стороны обучения. Однако ты прав что можно обойтись без селиума если посидеть. Кароче тут подгружается страница вариантов POST запроса, JS кода а в ссылке самого запроса есть номера страниц, полученный код кидаем в формат json и вуаля. У тебя новая подгружаемая страница. Учитывая что я учусь requests по твоим видео, спасибо!

[@sadname]

Не без проблем, но все получилось. Спасибо !

[@PythonToday]

Спасибо за фидбэк! Рад что полезно!

[@user-gm5cl3kc5x]

Отлично!

[@PythonToday]

Спасибо!

[@darksniper407]

6:23 - если правильно понял, элемент будет тогда и только тогда, когда загрузка полностью окончена. Правильно тебя понял? Смотри, у selenium есть инструмент explicit wait, он как раз для этого. Поищи в доках на селен, так вот, задай хоть час, но скрипт продолжить работу в то время и только в то, как элемент будет обнаружен. Юзается BY, можно выставить, что удобно, в примере xpath, его и юзаю и на вэб, мобилках (юзал). Видео класс, люблю только selenium, bs4 нет, но без requests никуда, факт.

[@pungushe]

Спасибо все классно

[@PythonToday]

Благодарю, рад что полезно!

[@denisnedelyaev7259]

Супер!!!

[@PythonToday]

Спасибо!

[@silvertruenoobs340]

в очередной раз спасибо за труд и материал для практики))) похоже админы сайта учли свои ошибки и немного его реконструировали, поэтому например: поле сайта клиники и соц сетелей на страницах компаний, теперь лежат каждый в своем теге под отдельным названием и добраться до них стало куда проще)) По ходу написания, заодно попрактиковался в grequests, пропустив через нее итоговую функцию обработки списка собранных ссылок (очень уж понравился мне этот модуль, своей простотой и эффективностью) и получилось даже лучше чем изначально предполагал)) без пауз между запросами скрипт отработал всего за 45 секунд (обработал 243 позиции)) Только 1 раз уже перед финальным сбором уже всей инфы, когда проверял как укладываются все поля в json на срезе из 5 клиник, и ничего ли не пропустил, и не напутал, угодил в капчу. Для пробы просто прошел ее на сайте руками, после чего, перезапустил скрипт и все сработало как часы)))

[@PythonToday]

Спасибо за фидбэк!

[@deo1133]

Это просто вау

[@PythonToday]

Спасибо большое! Рад что интересно

[@MrNagios]

мастерски 👍👍

[@PythonToday]

Спасибо, но только учусь)

[@MrNagios]

@@PythonToday скромность украшает!

[@GFU472]

Держи мой жирный лайк!!!

[@PythonToday]

Спасибо за поддержку!

[@codywallker1208]

Что бы без тебя а. Продолжай я Junior по Python у с твоих видео я понял на сколько полезен Парсинг и как его легко делать. Ну да чуть чуть пока хромую по Парсингу но надеюсь твоих видео я обучусь этому лучше. Продолжай без тебя мы бы Яша читали бы инструкцию 🤦🏿‍♂️ Хорошо что ты снимаешь Спасибо тебе за труд 👍🏻

[@PythonToday]

Спасибо большое за фидбэк! Рад видео полезны и помогают

[@nerix5552]

по больше бы видео по парсингу сайтов

[@PythonToday]

Да вроде итак самый большой плейлист на ютубе 😀

[@evalinor]

Совет: Не стоит использовать time.sleep(n) для ожидания прогрузки страницы или элемента, куда разумнее использовать explicit waits. В данном случае можт это и сработает нормально, но в случае с selenium использование time.sleep() - моветон

[@ilyashmakov122]

Сайт затупит, инет затупит. Слип пройдет и пизда проге. Так что верный совет

[@user-eh5yf1rs4j]

Полностью поддерживаю !!!!! Zer0

[@new_man2022]

Автор Профи!

[@new_man2022]

Подскажите, пожалуйста, как спарсить таблицу целиком с сайта и записать её в хlsх файл при этом транспонируя весь первый столбец в шапку документа?

[@user-fx4tu2dn3c]

Круть )))))

[@PythonToday]

Благодарю!

[@manutv9494]

Годно!

[@PythonToday]

Спасибо!

[@manutv9494]

@@PythonToday Спасибо что ответил❤️

[@golkom]

"... я только учусь, и делюсь практикой, которой мне так не хватало, с менее опытными подписчиками..." Уважаемый! Боюсь представить уровень Вашей компетенции, когда Вы закончите обучение.

[@PythonToday]

В программировании нельзя закончить обучение)

[@user-fx2gf3st8l]

Super спасибо

[@PythonToday]

Благодарю за фидбэк!

[@Icognai]

Привет! Спасибо тебе огромное братан!! Небросай это дело! Фишка твоего канала это как ты поистинне охуенно объясняешь, смотрю у других ничего непонятно а у тебя я обучился всему крутому и за это я благодарен ТЕбе! Бро, я очень прошу сделай пожалуйста по больше видеоуроков и по Телеграм ботов и т.п, так как это щяс самая популярная тема и я буду рад увидеть такое видео у тебя на канале! Удачи!

[@user-of2fo3ld7x]

Спасибо тебе огромное за труд. Много чему научился благодаря тебе. Желаю удачи! И вопрос: а ты для парсинга используешь scrappy?

[@PythonToday]

Большое спасибо за фидбэк! Рад что видео помогают. Использовал scrappy только в нескольких простых проектах.

[@user-oz1nq6vt8m]

Нетривиальный сайт, действительно весьма поучительный. Впрочем в моей практике самым сложным было иметь дело с обфускаторами и гугл капчей.

[@GreekkAlex]

коммент в поддержку!! коммент в поддержку!! коммент в поддержку!!

[@PythonToday]

Спасибо!

[@shpinatsky]

Спасибо за видео! Сделай пжл про парсинг статичных страниц, если они автоматом не подгруждаются и надо ручками странички менять - очень сейчас такая задачка нужная для решения)

[@i.am.rossalex]

Покажи пример такой страницы?

[@thequickshow4806]

Когда за 30 мин узнал больше чем за 2 онлайн курса

[@PythonToday]

Спасибо большое за фидбэк! Рад что полезно)

[@EWLN]

5k за пол часа, неплохо!

[@denial3874]

PythonToday: нужно сделать многопоточный парсинг

[@Aramon113]

Спасибо! А теперь давайте что-нибудь немного посложнее - например пободаемся c Instagram в плане парсинга)

[@47clere]

Спарсить можно что угодно. Даже если придётся для этого делать скрин шот и распознавать в нужном секторе текст))

[@haskelllisp5998]

насчет 30 долоров это конечно круто

[@howareyou6839]

Здраствуйте, нравятся ваши видео, но заметил особенность, в вашем коде при использовании selenium всегда нужен вебдрайвер, что не очень удобно. Советую вам использовать undetected_chromedriver . Вебдрайвер не нужен, да и по названию понятно, что оно может еще делать

[@PeterDiamondberg]

Вот кто дико демпингует на Фрилансе =)

[@PythonToday]

¯\_(ツ)_/¯

[@hanckhanck8376]

top

[@PythonToday]

Thanks!

[@nikky8970]

Привет! спасибо большое за твое видео, очень интересно. Когда под Windows писать в файл надо наверное явно указывать кодировку иначе файл пустой (может я не прав, но у меня получилось)

[@PythonToday]

Привет, благодарю за фидбэк. Да, ты прав.

[@SergejKolmogorov]

Классное видео, спасибо! А на какой бирже получил этот заказ? И вообще куда лучше идти за фрилансом?

[@PythonToday]

Благодарю за фидбэк! Сейчас только сарафанное и старые заказчики, раньше сидел на всех upwork, freelancer, habr, fl, kwork

[@haskelllisp5998]

все конечно круто! Но есть такой фреймворк Scrapy