Создаём локального AI помощника в терминал на C# (Phi-3 model на CPU)

Создаём локального AI помощника себе в терминал, работающего прямо на CPU с помощью новой Phi-3 модели от Microsoft, анонсированной на последнем Microsoft Build 2024. Такая cli tool отлично подходит в качестве помощника как для опытных разработчиков, чтобы вспоминать забытые команды или особенности синтаксиса, так и новичкам, которые хотят изучить возможности терминала.
Подписывайтесь на Telegram, я там пишу много всего интересного:
➡️ t.me/geekinsideme
На кофе:
boosty.to/geekinsideme/donate
Cookbook по Ph-3:
github.com/microsoft/Phi-3Coo...
Коллекция Phi-3 на Huggingface:
huggingface.co/collections/mi...
Source code:
github.com/Geek-Inside/ask-ai...
0:00 Что такое SLM Phi-3
0:47 Берем примёр кода
1:43 Как использовать модель
3:20 Версии моделей Phi-3
3:53 Скачиваем модель
5:35 Пробуем запустить
6:26 Пишем cli tool
9:56 Добавляем AI память

[@brightsidecovers]

Очень крутой материал, спасибо большое) Продолжай в том же духе! ❤

[@user-nw8sn5gf9e]

Классный материал спасибо большое !=)

[@MrMiha336]

Все круто, но на телефоне неудобно смотреть, очень мелко

[@maslennikovvaleriy]

@@MrMiha336 да, косяк, в следующий раз сделаю масштаб нормальный :)

[@delite378]

@@maslennikovvaleriy если честно то даже с ноута и то видно плохо)

[@maslennikovvaleriy]

@@MrMiha336 блин, купил на свою голову 4к монитор и забыл про масштаб. В следующий раз всё будет больше 😄

[@alexlo5655]

Nichego ne vidno. Should you make you presentation that people can see at least something. Could you reload this once again?

[@maslennikovvaleriy]

Спасибо за фидбэк, попробовал посмотреть с телефона - и правда ничего не видно 🤷 Подумаю как исправить.

[@viknsagit]

Недавно запускал DeepSeek v2 Coder на пк, знает много языков программирования, глянь ради интереса

[@maslennikovvaleriy]

Спасибо, гляну :)

[@firstlast493]

Deepseek