Как интегрировать ИИ в PyCharm и работать без интернета

В данном видео я покажу как можно интегрировать ИИ в виде OpenChart прямо в среду разработки, в моём случае это PyCharm, но может быть и любая другая IDE. Данный подход позволит нам использовать искусственный интеллект для помощи в написании кода, причём это будет работать без интернета.
Также я расскажу, как заставить ИИ работать на мощностях видеокарты, а не процессора
Ссылка на программу: jan.ai/
Приватные прокси от 33 руб: proxy6.net/?r=54545
Купон на скидку: SdSq8wCwJA
proxyline.net/?ref=212089
Купон для скидки: EYvdLcmgSy4tUcBP5uk
Поддержать канал:
yoomoney.ru/to/410014382689862
или
2204 1201 0103 5539
Контакт для связи: [e-mail]
00:00 Что будет в этом видео
00:35 Начало
01:41 Используем видеокарту
02:49 Тестируем скорость на видеокарте
03:55 Включаем режим сервера
05:01 Настройки в PyCharm
08:34 Первый тест
09:10 Передача кода в контекст
10:26 Исправление ошибок в коде
12:36 Выводы
#нейросеть #искусственныйинтеллект #jan #tutorial #pycharm

[@user-df1om4wr9l]

👌👌👌

[@user-ei4ol4dw7i]

C одной стороны оно конечно полезно. Но интернет это уже не дефицит. Автор вы пробовали гугл клауд шелл? Из любого места с любого устройства у вас готовая среда разработки включая Gemini, который успешно объясняет, дописывает или исправляет код.

[@the_parse_hub]

то, что есть разные варианты - это же прекрасно!

[@user-ei4ol4dw7i]

@@the_parse_hub я спросил пробовали-ли вы?И щас обновил пичарм на свежую версию 24 и он сам установил модуль ИИ помощник от них же. Вы этот модуль пробовали?

[@the_parse_hub]

гугл клауд шелл не пробовал - поэтому ничего толком сказать не могу. Насчет свежего PyCharm - спасибо за подсказку, буду обновлять

[@vladimirdenisenko6696]

Perplexity понравилось, ещё есть blackbox ai чисто для кода. Одно из двух всегда помогает с кодом, если другое тупит

[@user-ei4ol4dw7i]

Автор, а вы можете сделать обзор плюсов и минусов сервисов от гугла и редакторов типа ПиЧарма. С точки зрения Питон разраба?

[@the_parse_hub]

Да я бы сделал, но я не пользуюсь такими сервисами от гугл. Привык уже к PyCharm и вряд-ли поменяю его на что-то другое

[@GennPen]

Continue есть и для VS Code. А когда интернет есть, то Codeium на бесплатном тарифе хорошо работает. И по тестам. RTX 3080 на Openchat-3.5 выжимает 75-80 t/s. Очень даже неплохо. Нужно подумать над сборкой домашнего сервака под это дело.

[@the_parse_hub]

Если там 75-80 t/s - то это вообще отлично. Можно много чего делать локально

[@GennPen]

@@the_parse_hub У него довольно хорошая интеграция с huggingface. Ищешь нужную модель, вставляешь адрес репозитория и выбираешь нужную версию. А по поводу скорости, очень сильно влияет объем памяти видеокарты. И даже небольшое превышение занимаемой памяти моделью сильно просаживает скорость. Т.е. если модель на 11Гб памяти, а в видеокарте только 10, то скорость уже упадет. Пробовал загружать 20-гиговые модели, скорость падает вплоть до 0.5-1 t/s, и тогда уже только на процессоре если памяти хватает.

[@fatfry6666]

какой вариант, если карта от радиона?

[@the_parse_hub]

принцип тот же

[@aventi2787]

Привет. Как парсить docdoc на запросах и обходить их вонючую капчу? ._.

[@the_parse_hub]

не знаю, не работал с этим сайтом еще

[@xopyc_play]

В PhpStorm при тех же настройках запрос, при ... Ctrl+I почему-то идёт не в /v1/chat/completions, а просто в /v1/completions от чего сразу вылазит ошибка 404.... В чём прикол не понятно, скачал вот только что всё... Причём если в конфигах ссылку указать как /v1/chat/ тогда начинает работать Ctrl+I, но перестаёт работать обычный чат... Это разрабы Jan что-то поменяли или я рукожоп? О_о

[@the_parse_hub]

Это скорее виноват плагин Continue. Как вариант, можно попробовать установить какую-то другую версию или поискать решение у них на гитхабе

[@duckandcover0]

кто нибудь тестил на втройках,как результат?

[@user-ei4ol4dw7i]

с легкими моделями попрет.

[@scoundrelblr1928]

Vulkan приоритет AMD картам