Multiprocessing: используем все ядра

Поговорим про multiprocessing - способ реального распараллеливания задач на ядра компьютера. Multiprocessing позволяет решать любые задачи (IO-bound или CPU-bound)
Ускорение не идеально и возможно только до определенного предела, смотрим закон Амдала.
Создает несколько процессов, у каждого из которых своя память и свой GIL, каждый выполняет свою задачу, взаимодействие между ними требует pickle
API принципиально похоже на многопоточность, выгодно использовать Pool, а для взаимодействия между процессами Queue и Pipe
Плюсы:
реальная параллельность любых задач
не умирает из-за одного(!)
процессы не зависят друг от друга(у каждого процесса своя память и GIL)
Минусы:
потребление ресурсов (памяти, процессора, времени)
необходимость сериализации в pickle
проблемы синхронизации (взаимодействие между процессами)
Читать:
docs.python.or...
Фаулер М. "Asyncio и конкурентное программирование на Python"
Присоединяйтесь к помощи каналу, будет интересно)
✔️Бусти boosty.to/pyth...
✔️Юмани 410011506612886
Будь первым везде и всегда, включай уведомления о новых выпусках 🔔
Смотри там где удобно🤩
✔️ python_...
✔️ rutube.ru/chan...
✔️ dzen.ru/python...
✔️ / pythonrussian
✔️ t.me/python_ru...
#Python #PythonRussian #multiprocessing

[@PythonRussian]

кто не подписан на канал, тот использует только одно ядро =)

[@userEasyGame]

Как у

[@ЕгорСветличный-щ8ф]

Огромное вам спасибо за ваш труд! Вы очень классный преподаватель и питонист, слежу за каналом уже давно. Прекрасно даёте первичную информацию и знакомите с различными инструментами. Отдельная благодарность за рекомендации крутейших книг и материалов, помогающих сформировать вектор дальнейшего обучения. Единственный минус - редко выходят ролики, но вас можно понять. Ещё раз спасибо, благодаря вашей деятельности по уши влюбился в Python!

[@PythonRussian]

спасибо, значит не зря стараюсь, приятно. По выходу роликов к сожалению ничего сделать не могу -дом, семья, работа. Вот на пенсии видимо наснимаю от души, а пока только по мере сил и времени

[@DrillingEnglish]

Спасибо за ваш труд! 👍

[@user-buser_eto_ja]

Отличнейшая подача! Спасибо!

[@MioGesa-md2ul]

Коммент для благодарности вам и увеличение вовлеченности на канал 🎉

[@stevem4806]

Спасибо!

[@stic5819]

Здравствуйте, у вас отличные видео! Не думали ли разбавить канал смежными технологиями для работы питонистом: Celery, RabbitMQ, БД (NoSQL (Redis), SQL (PostgreSQL)), Архитектурные видео, системы логирования, devops базу, rest ful (типа про сети рассказать), такое вот?

[@PythonRussian]

я стараюсь снимать на максимально широкий круг питонистов, если уходить в специфическую тему, то многим станет не нужно\не интересно. Но кстати можно подумать про бд/хттп это обычно везде нужно

[@stic5819]

@@PythonRussian Такого качественного контента немного)) кажется, что может случится обратная ситуация с потоком людей, хотя вам виднее

[@stvJnK]

Отличный материал, а что скажите насчёт aiomultiprocessing ?

[@PythonRussian]

честно скажу -не использовал, подозреваю что может в отдельном процессе что-то выполнить а в лупе асинкио дождаться этого. Наверное в каких то ситуациях это может пригодиться, но я бы сначала в асинкио просто посмотрел нет ли такой возможности? Там же есть выполнить в отдельном потоке, возможно и для процесса есть.

[@neydygdrg1836]

Я так понимаю, что в книге Фаулера не только про asyncio, но и про потоки и мультипроцесы? Хотелось бы видос про виртуальное окружения venv, там вроде немного, но полезно

[@PythonRussian]

да, он все темы рассматривает по конкурентности. Про венв - хорошая идея, запланирую

[@antonvorobiev9507]

Скажите, могу ли я подучить консультацию по мультипрлцессингу? Разумеется не бесплатно) Мучаюсь над одной задачей - никак не могу справиться. Спасибо!

[@PythonRussian]

боюсь что нет, на консультации нет времени

[@DmitryRomantsov]

Не-не, нас не проведешь! Мы поставим python 4 и все будет легко и просто!

[@fr1ezz522]

Могу ли я создать несколько процессов и в каждом процессе несколько потоков, то есть миксовать process и thread?

[@PythonRussian]

да, вполне, только не запутайтесь

[@Миха-ь8х]

Привет. У меня проблема. Работают несколько процессов. Завершение через нажатие кнопки - процесс который поймал нажатие передаёт 'stop' в общую queue и завершается, остальные процессы ищут этот стоп в очереди и завершаются также. Это работает стабильно если не дольше примерно часа-двух. Но если например через 6 часов или сутки - то процесс который поймал нажатие клавиши завершается, а остальные просто перестают выполнять работу и зависают пока принудительно их не завершить. Есть идеи в чем дело?)

[@PythonRussian]

смотри, при работе с конкурентностью, особенно с процессами надо густо все смазать логированием, прямо каждый шаг, это нужно чтобы по логам понять что и где произошло, на каком моменте отпало. Еще посмотри на таймауты, на очередь (это очередь из процессинга?), что там все ок, нет ли по коду вечных циклов. Кстати навел на мысль, сниму видео про логирование.

[@warmybo]

а потоки не тоже самое? потоки GIL обходят?

[@PythonRussian]

посмотри пожалуйста мое видео про потоки, они могут обойти ГИЛ, но только для IO задач, в видео про потоки я как раз показывал разницу, когда на вычислительных задачах время не только не уменьшалось, но увеличивалось. Так что это не одно и то же на данный момент(!), когда отключат ГИЛ, возможно процессы и не понадобятся.

[@warmybo]

@@PythonRussian спасибо большое)

[@ciklomat]

Видео из серии я не зануда, зануда это не я.