Парсинг на Python, Selenium и BS4 | Выполняем заказ на фрилансе | Парсинг динамического сайта

[@АлександрИтяксов-л2р]

[INFO] актуальная инфа по данному уроку Для тех у кого не получается проскролить, так как в конце скролла страницы, не появляется тег с сообщением о том, что дальше скролить некуда. Присмотритесь к тегу к которому мы перемещаемся для скролла. Внутри тега есть еще два тега, но при полном проскроливане страницы, эти теги исчезают. Ставьте условие не по наличию нового тега, а по отсутствию любого из внутренних двух. При таком условии весь код в блоке if из видео, переместится в блок else, аналогично для блока else из видео для блока if + Для внимательных перфекционистов. Не все карточки попадут в список карточек. Если просмотреть все карточки на странице с карточками, можно увидеть, что у некоторых слегка затемнен фон. Посмотрев на тег такой карточки, мы увидем, что в название класса добавляется дополнительное слово, что изменяет имя класса и означает что url к нам в список не попадет. Сами же карточки внутри не отличаются от остальных, не являются рекламными или повторяющимися (проверено), может они просто блатные какие то - хз. Для того чтобы они тоже попали к нам в список можно воспользоваться тем же compile() с названиями обеих карточек. ++ Для тех кто еще не работал с Selenium и вам не нравиться, что он ругается на вас(но все равно работает😎), за устаревшие методы как в видео. Для создания драйвера можно использовать это 👇 from selenium import webdriver from selenium.webdriver.chrome.service import Service service = Service('ПУТЬ К ДРАЙВЕРУ\chromedriver.exe') driver = webdriver.Chrome(service=service) За место этого (как в видео)👇 from selenium import webdriver driver = webdriver.Chrome('ПУТЬ К ДРАЙВЕРУ\chromedriver.exe') А для поиска по классу можно использовать это 👇 driver.find_element(by=By.CLASS_NAME, value="catalog-button-showMore") Предварительно импортируя это 👇 from selenium.webdriver.common.by import By За место устаревшего поиска как в видео👇 driver.find_element_by_class_name("catalog-button-showMore") +++ Для PythonToday. Ты красавчик большое спасибо❤

[@orff-channel]

Ты красавчик тоже. Тебе спасибо

[@ТалгатСадыров-у2м]

сразу же надо было читать комментарии я на это потратил уйму времени

[@nekr90]

Красавчик мужчина,от души

[@АлександрНестеров-н4д]

Спасибо за INFO , если не затруднит можешь подсказать в чем проблема : find_more_element = driver.find_element(By.CLASS_NAME,"catalog-button-showMore") затем идет блок кода где find_more_element должна прожаться и произойти догрузка контента : actions = ActionChains(driver) actions.move_to_element(find_more_element).perform() но проблема в том , что кнопка не прожимается и цикл продалжает крутиться н непрожимая кнопку "показать еще"

[@gaben_aTan]

Спасибо огромное за Ваш труд. Вчера закончил написание парсера группы в ВК и автоматической отправкой стат данных по постам в группе на почту нескольким сотрудникам. Все благодаря вашим урокам!! Настроение бомбическое, когда все получается!

[@yerulannurmukhanbet6586]

здравствуйте можно с вами связаться? я тоже собирался парсить вк и нужен совет

[@syncope7064]

Идея дать эксклюзивного контента практики удалась на ура. Я даже не думал что практики так не хватает во всяких контентах. Безумно благодарен.

[@Bazilit]

Спасибо за урок! Буквально пару уроков назад по парсингу столкнулся с бесконечной прокруткой сайта, но так и не довел до ума автоматическую прокрутку через Selenium. А тут она реализована. Подправил свою по образу и подобию, все прекрасно заработало.

[@PythonToday]

Рад что полезно! Большое спасибо за фидбэк!

[@МагомедаминМагомедов-о8у]

Я хоть и джава программист, смотрю твои видосики и вообще начал изучать парсинг благодаря тебе. Спасибо за видео

[@vigauss1889]

Пушка контент, огонь канал, кот талисман)) Успехов в развитии брат, безумно благодарен за проделанную тобой работу и пинок лично для меня. Спасибо тебе большое!

[@PythonToday]

Спасибо дружище) Рад что видео полезны

[@AleksKinokusMain]

Все мы были нубами. Так что - спасибо, за то что делишься своими навыками. А еще это ж опыт!

[@PythonToday]

Большое спасибо за фидбэк и поддержку!

[@aleks777nk]

Красиво, четко, лаконично и еще и работает!!!) Канал находка для меня, благодарю за такой качественный контент)

[@PythonToday]

Большое спасибо за фидбэк! Рад что видео полезны и помогают!

[@Zer-st6qv]

Спасибо огромное за труд! Твой канал это просто энциклопедия знаний, не слушай даунов, ты создаешь безумно полезный и нужный контент. Желаю двигаться только вперед, а мы поддержим 😉 Ты же знаешь)

[@PythonToday]

Большое спасибо за фидбэк и поддержку! 👍

[@brunneng8575]

@@PythonToday а что это за ide?

[@PythonToday]

@@brunneng8575 VSCode

[@PythonToday]

@@user19326 Приветствую, авторского курса пока нет. Только веду несколько человек.

[@dinvinchester3353]

@@PythonToday Здравствуйте спасибо за туториалы, очень много нового узнал))! Скажите а на селениуме можно парсить данные с карты на сайтах по недвижимости ?

[@karugananikoyomi4702]

Огроменное спасибо за твои труды, двигайся дальше. У тебя очень полезные видео. С помощью твоих видео люди сэкономят кучу времени и нервов!

[@PythonToday]

Спасибо за поддержку!

[@Sadownick]

Нифига себе "если видео было вам полезным и вы узнали что-то новое", да это одно из лучших видео по парсингу, которое я видел, все чётко, подробно, конкретно!!!! Ваще когда месяц назад наткнулся на твой канал, я был просто в восторге, ибо все просто и офигенно озвучено, без какого либо пафоса, конкретно и ясно, и более того очень точно и профессионально, смотрю более старые видосы, когда время есть... Все супер, так держать, на днях в спонсоры на патреоне добавлюсь, очень полезные видео 👍🏻👍🏻👍🏻

[@PythonToday]

Спасибо большое за фидбэк и поддержку!

[@Sadownick]

@@PythonToday все, запатронился к тебе :)

[@i.am.rossalex]

Интересные методы, спасибо, что поделился. Я не использую bs4 или что-то еще. Только встроенные методы самого Selenium. Скролю скриптом через driver.execure_script(), так как до конца список может грузиться и без всяких индикаторов в виде появляющегося блока. И там добавили уже manager service, чтобы не указывать место к webdriver-у явно, и качать его не нужно, он сам его качает.

[@PythonToday]

Благодарю за фидбэк!

[@windcrack8404]

Благодарю за видео. Толко обучился python, и уже такой бомбический канал, по Парсингу сайтов. Когда проходил задание на обучении этому, помогли Ваши уроки :).

[@PythonToday]

Благодарю за фидбэк! Рад что видео помогают)

[@gudyxx]

Просто лучший!! Без воды и отлично обьясняешь)

[@PythonToday]

Большое спасибо! Рад что интересно и полезно)

[@golkom]

"... я только учусь, и делюсь практикой, которой мне так не хватало, с менее опытными подписчиками..." Уважаемый! Боюсь представить уровень Вашей компетенции, когда Вы закончите обучение.

[@PythonToday]

В программировании нельзя закончить обучение)

[@grigoriyeltsov]

Большое спасибо за качественный материал! Каждый урок пишу и "иду" по коду, чтобы все понять. Спасибо!

[@PythonToday]

Спасибо за фидбэк! Рад что видео помогают

[@Morozov_Anton]

Материал просто огонь! Спасибо за труды!;)

[@PythonToday]

Спасибо большое за поддержку! Рад что полезно 👍

[@algis_sh]

Как всегда пушка - огоньСмотришь и просто кайфуешь, кучу полезной инфы с каждым просмотренным видосом приобретаю

[@PythonToday]

Спасибо за поддержку!

[@onemasterlomaster1829]

PythonToday ДРУГ ты крут, спасибо тебе за хорошие видосы, ты даешь знания и вдохновляешь!

[@PythonToday]

Большое спасибо за фидбэк!

[@evalinor]

Совет: Не стоит использовать time.sleep(n) для ожидания прогрузки страницы или элемента, куда разумнее использовать explicit waits. В данном случае можт это и сработает нормально, но в случае с selenium использование time.sleep() - моветон

[@ilyashmakov122]

Сайт затупит, инет затупит. Слип пройдет и пизда проге. Так что верный совет

[@devus377]

Огромное спасибо. Все просто и доходчиво! Без всякой "воды" и перескакивания !!!!

[@PythonToday]

Огромное спасибо за фидбэк и поддержку!

[@okey6594]

2:35 библиокеки! 🤣🤣🤣🤣🤣! PythonToday спс за контент, постоянно очень жду новые видео!:)

[@daniyarerkinov6475]

спасибо огромное , очень полезное видео , самый лучший Питон блоггер

[@PythonToday]

Благодарю!

[@darksniper407]

6:23 - если правильно понял, элемент будет тогда и только тогда, когда загрузка полностью окончена. Правильно тебя понял? Смотри, у selenium есть инструмент explicit wait, он как раз для этого. Поищи в доках на селен, так вот, задай хоть час, но скрипт продолжить работу в то время и только в то, как элемент будет обнаружен. Юзается BY, можно выставить, что удобно, в примере xpath, его и юзаю и на вэб, мобилках (юзал). Видео класс, люблю только selenium, bs4 нет, но без requests никуда, факт.

[@АдылСафаров-ы9е]

вместо переменной "count" можно использовать функцию enumerate() на цикл фор. выглядит это примерно так: list = ['a', 'b', 'c'] for i, el in enumerate(list): print(i, el) # 0 a, 1 b, 2 c

[@МаксимКраснобаев]

🔥🔥🔥 Как всегда урок СУПЕР!!! Огромное спасибо!!! (я только-только начинаю самостоятельно изучать Python, пока на самом примитиве)

[@PythonToday]

Благодарю! Рад что полезно и помогает. Главное ежедневно практикуйся

[@sanegina4514]

Я человек простой, вижу Ваше видео - ставлю нравку!

[@PythonToday]

Большое спасибо за поддержку!

[@shizoidnumber1]

*Спасибо тебе большое, очень нравится питон и по твоим урокам обучение ускоряется в несколько раз, оху#**#ный** ты мужик!!!*

[@PythonToday]

Большое спасибо за фидбэк! Рад что полезно

[@silvertruenoobs340]

в очередной раз спасибо за труд и материал для практики))) похоже админы сайта учли свои ошибки и немного его реконструировали, поэтому например: поле сайта клиники и соц сетелей на страницах компаний, теперь лежат каждый в своем теге под отдельным названием и добраться до них стало куда проще)) По ходу написания, заодно попрактиковался в grequests, пропустив через нее итоговую функцию обработки списка собранных ссылок (очень уж понравился мне этот модуль, своей простотой и эффективностью) и получилось даже лучше чем изначально предполагал)) без пауз между запросами скрипт отработал всего за 45 секунд (обработал 243 позиции)) Только 1 раз уже перед финальным сбором уже всей инфы, когда проверял как укладываются все поля в json на срезе из 5 клиник, и ничего ли не пропустил, и не напутал, угодил в капчу. Для пробы просто прошел ее на сайте руками, после чего, перезапустил скрипт и все сработало как часы)))

[@PythonToday]

Спасибо за фидбэк!

[@nicolasrudnev6800]

Огромное спасибо! Всегда с удовольствием слушаю и с удовольствием поддерживаю!

[@PythonToday]

Большое спасибо за фидбэк и поддержку!

[@AnnaNovikova-t2g]

Огромное спасибо. Материал бомба!!!

[@PythonToday]

Большое спасибо за фидбэк! Рад что полезно и интересно

[@volttv7938]

Туториал как обойтись без селиниума) Привет! Сайт действительно крутой со стороны обучения. Однако ты прав что можно обойтись без селиума если посидеть. Кароче тут подгружается страница вариантов POST запроса, JS кода а в ссылке самого запроса есть номера страниц, полученный код кидаем в формат json и вуаля. У тебя новая подгружаемая страница. Учитывая что я учусь requests по твоим видео, спасибо!

[@lancer71271]

Паршу сайты поставщиков для своего дела, нашел в твоем коде красивые вещи, которые буду применять у себя. Продолжай в том же духе, ты красавчик!

[@PythonToday]

Большое спасибо за фидбэк! Рад что полезно)

[@Rahkmatov]

Манера объяснение темы на высшем уровне.☀️😇 как и всегда 😊 правда для того что бы вникать, хотя бы нужно знать основы питона. чего всем советую 😊 всем добра, автору здоровья и больше роликов 😅

[@PythonToday]

Огромное спасибо за поддержку!

[@AlexanderGorshkov]

Теперь ждём на асинцио☺️💃 А работа проделана большая! Ставим класс 👍

[@PythonToday]

Спасибо за фидбэк!

[@vladimir-monin]

Спасибо за видео! Очень вдохновляет!!!

[@PythonToday]

Большое спасибо! Рад что полезно 👍

[@user-buser_eto_ja]

Очень круто , спасибо!

[@PythonToday]

Благодарю за фидбэк!

[@-_--nn1ix]

Спасибо большое за видео! Очень доходчиво и полезно) хотелось бы ещё уроков на библиотеки, которые ты используешь, более подробно)

[@PythonToday]

Спасибо большое за фидбэк! Рад что полезно

[@yt222ee]

За видео респект. Особенно понравился генератор списков, приятно удивился😉

[@PythonToday]

Спасибо за фидбэк! Рад что видео помогают)

[@MrPavel1207]

максимально круто

[@александрБойко-п8н]

Полностью поддерживаю !!!!! Zer0

[@СергейСмирнов-ь8у]

Очень полезное видео, Узнал много нового . Спасибо за подробное объяснение!

[@PythonToday]

Большое спасибо за поддержку! Рад что полезно

[@ЛетающийСвин]

Дружище, ты лучший! Спасибо за видео!

[@PythonToday]

Большое спасибо за фидбэк!

[@leonidasspartasson9759]

Ждемс вторую часть заказа с помещением данных в бд)

[@Семерополавкам-н8б]

Спасибо большое за видео, было очень полезно и познавательно. Но пришлось основательно переписывать скрипт, так как поменялись методы в библиотеках, теги на сайте и много всего еще прочего!

[@aleksejborovinskij1155]

Идеальный формат!

[@PythonToday]

Благодарю! Рад что интересно и полезно

[@akovemil9528]

Огонь!)

[@АлександрДёмин-ю6ъ]

Нетривиальный сайт, действительно весьма поучительный. Впрочем в моей практике самым сложным было иметь дело с обфускаторами и гугл капчей.

[@Net-olekma]

Обожаю такие видосы.

[@bricksbee-wp]

Просто офигенно!

[@PythonToday]

Благодарю!

[@JoneDou-asd62]

Спасибо за контент)) Очень хорошо рассказываешь!

[@PythonToday]

Благодарю за фидбэк!

[@АлексейСамаркин-ы2н]

Как всегда лайк! Молодец, приятно смотреть!!!

[@PythonToday]

Большое спасибо за поддержку!

[@codywallker1208]

Что бы без тебя а. Продолжай я Junior по Python у с твоих видео я понял на сколько полезен Парсинг и как его легко делать. Ну да чуть чуть пока хромую по Парсингу но надеюсь твоих видео я обучусь этому лучше. Продолжай без тебя мы бы Яша читали бы инструкцию 🤦🏿‍♂️ Хорошо что ты снимаешь Спасибо тебе за труд 👍🏻

[@PythonToday]

Спасибо большое за фидбэк! Рад видео полезны и помогают

[@GreekkAlex]

коммент в поддержку!! коммент в поддержку!! коммент в поддержку!!

[@PythonToday]

Спасибо!

[@bankr0t.]

Ещё больше реальных заказов, ведь это позволяет понять что всё это учишь не зря и кому-то это нужно)) А те кто пишут про тысячи долларов за один заказ зачем парсят сайты? Для поиска самого дорого Роллс-Ройса наверно)))

[@PythonToday]

Большое спасибо за поддержку! Думаю максимум, что они парсят, это глазами клавиатуру)

[@dryuni]

@@PythonToday ...в онлайн-ферме, капусту поливают и игровое золото собирают...

[@Alex.T.H.]

@@dryuni я бы в своё время от такого бота не отказался)

[@AlexRootx]

Молодчага!!! Спасибо за ролик!!!! Познавательно! Лайк!

[@PythonToday]

Спасибо большое за поддержку!

[@thequickshow4806]

Когда за 30 мин узнал больше чем за 2 онлайн курса

[@PythonToday]

Спасибо большое за фидбэк! Рад что полезно)

[@ПриманкаТВ-о6ш]

Огонь!!

[@dj_anabel]

круто, спасибо

[@PythonToday]

Большое спасибо за фидбэк!

[@Anonim-im6ln]

Ого!) Ви молодець!) Дякую вам!)

[@PythonToday]

Благодарю за поддержку!

[@nerix5552]

по больше бы видео по парсингу сайтов

[@PythonToday]

Да вроде итак самый большой плейлист на ютубе 😀

[@denial3874]

PythonToday: нужно сделать многопоточный парсинг

[@xilagos]

Спасибо вам огромнейшее!!!

[@PythonToday]

Спасибо за фидбэк!

[@howareyou6839]

Здраствуйте, нравятся ваши видео, но заметил особенность, в вашем коде при использовании selenium всегда нужен вебдрайвер, что не очень удобно. Советую вам использовать undetected_chromedriver . Вебдрайвер не нужен, да и по названию понятно, что оно может еще делать

[@РоманСуворов-й2т]

Отличный урок, спасибо !

[@PythonToday]

Благодарю за фидбэк!

[@РоманЩурин-р9н]

Классный урок!

[@PythonToday]

Благодарю!

[@sadname]

Не без проблем, но все получилось. Спасибо !

[@PythonToday]

Спасибо за фидбэк! Рад что полезно!

[@noname52rus]

супер! Спасибо, очень познавательно!

[@PythonToday]

Большое спасибо!

[@jintiger4221]

Ты красавчик! Спасибо тебе

[@PythonToday]

Спасибо за поддержку!

[@EWLN]

5k за пол часа, неплохо!

[@freestreet_official]

Как всегда, лучший!

[@PythonToday]

Благодарю!

[@xvostov_k]

Очень интересное видео, спасибо.

[@PythonToday]

Большое спасибо за фидбэк!

[@andrrrew]

Я летом начал изучать питон. И только сегодня получил рекомендацию на твои видосы. С первых слов подача цепляет, штош, похоже я здесь залипну)) Лайк, подписка и всё такое! спасибо)

[@PythonToday]

Большое спасибо за фидбэк! Надеюсь видео будут полезны)

[@haskelllisp5998]

насчет 30 долоров это конечно круто

[@linked_list_DLL]

Парсинг ZOON, схож с парсингом 2GIS, ибо они оба полностью динамические и спарсить их только с bs4 нереально. Я пробовал, потратил 2 дня и даже не смог спарсить основной каскад на первой странице, не разворачивая карточки локаций. Вернее, иногда они всё же парсились при запуске скрипта, но зачастую нет, так как классы подмениваются и генерируется исключение, а id там, само-собой нет, ибо всё DOM дерево и так динамическое. Крч, хоть я и до последнего не хотел учить Selenium, видимо придётся.

[@Oskar9226]

Отличный урок, что сказать

[@PythonToday]

Большое спасибо!

[@ИванИванов-м4л6ц]

Круть )))))

[@PythonToday]

Благодарю!

[@vapor_news]

Привет, почему executable_path может подсвечиваться жёлтым? Программа на нем ломается

[@new_man2022]

Автор Профи!

[@new_man2022]

Подскажите, пожалуйста, как спарсить таблицу целиком с сайта и записать её в хlsх файл при этом транспонируя весь первый столбец в шапку документа?

[@artemliuboshenko6639]

Просто пушка ))

[@PythonToday]

Большое спасибо!

[@birdwatcher_channel]

огромное спасибо!!

[@orthodox-chanel]

Было бы здорово если бы вы раскрыли на реальных примерах тему с requests-htm. Судя по описанию эта библиотека частично может заменить селениум

[@orthodox-chanel]

например при помощи рендера таким вот кодом можно проскролить страницу до указанного количества элементов r.html.render(sleep=1, scrolldown=100) titles = r.html.find('.post-title.entry-title') в использованном мной сайт получилось len(titles) > 70 Не могу пока найти как сделать так чтобы он скролил все доступные элементы, если выдать число больше чем есть элементов на самом деле, то будет скролить ровно такое количество раз. И подгрузить этим методом можно только если страница подгружается скролом а не кнопкой на подобии "показать еще"

[@orthodox-chanel]

еще судя по описанию модуль при запросах сам генерирует юзер агент. Правда парсит он все равно через брауезр хромиум

[@Naberegn]

я не понел а как html файл создался, там же нету кода по соданию файла 8:58

[@haskelllisp5998]

все конечно круто! Но есть такой фреймворк Scrapy

[@lefort6943]

Спасибо за топовый контент!👍👍

[@PythonToday]

Большое спасибо за фидбэк! Рад что полезно

[@PeterDiamondberg]

Вот кто дико демпингует на Фрилансе =)

[@PythonToday]

¯\_(ツ)_/¯

[@deo1133]

Это просто вау

[@PythonToday]

Спасибо большое! Рад что интересно

[@GFU472]

Держи мой жирный лайк!!!

[@PythonToday]

Спасибо за поддержку!

[@ЮрийКузнецов-н9г]

Отлично!

[@PythonToday]

Спасибо!

[@iMan-ql4gx]

А вы заказы по парсингу еще делаете? Есть заказ на парсинг сайта со спортивной статистикой

[@arcanisarcanis2080]

Где все методы объекта webdriver можно посмотреть? Что-то на офф сайте не нашёл...

[@shpinatsky]

Спасибо за видео! Сделай пжл про парсинг статичных страниц, если они автоматом не подгруждаются и надо ручками странички менять - очень сейчас такая задачка нужная для решения)

[@i.am.rossalex]

Покажи пример такой страницы?

[@Tolya421.]

Хорошая тема!

[@PythonToday]

Благодарю за фидбэк, рад что интересно и полезно!

[@myrzic228lol8]

Спасибо большое за урок по парсингу, можешь подсказать, как находить div, если название класса постоянно меняется, заранее спасибо

[@Lll-ih2ic]

Начинаем😍

[@PythonToday]

Спасибо за поддержку! )

[@СтаниславСвойский]

Ошибка как я понял при сохранении файла, на этом же сайте "'charmap' codec can't encode characters in position 593-594: character maps to "😒 Кто-то знает как решить? Пробовал ставить utf-8 не помогло...

[@defcode_art]

Смотрю тебя и дежавю как будто на канале черного треугольника)

[@PythonToday]

Большое спасибо за фидбэк!

[@clapper2564]

На сколько я знаю можно было бы использовать requests и парсить содержимое вкладки network

[@elnursh]

имеется сайт у которого не меняется url. при клике на на какой-нибудь button меняется содержимое сайта, а url нет. посоветуйте как подойти к таким сайтам?

[@nikky8970]

Привет! спасибо большое за твое видео, очень интересно. Когда под Windows писать в файл надо наверное явно указывать кодировку иначе файл пустой (может я не прав, но у меня получилось)

[@PythonToday]

Привет, благодарю за фидбэк. Да, ты прав.