Пікірлер
@rodrigopq 11 күн бұрын
Hola amigos @CODERTECTURA, les cuento que pude hacer andar el bot conectado a Azure Bot al AI Search y OpenAI , ademas implemente la historia o contexto de la conversación con Azure Cosmo BD, en local me funciona de maravillas, sin embargo al publicar la app y conectarla a azure bot, me da error "HTTP status code Unauthorized" al hacer la prueba desde "probar en el char en web", en la PoC que estoy realizando tengo todo en acceso publico, pero no se que otra configuración debería realizar. si me pudieran ayudar mucho les agradeceere
@kikesuagar 17 күн бұрын
👍👍👌👌
@MrPickless-q5h 24 күн бұрын
Buen video, incluso despues de una año sigue siendo una novedad para mi.
@alekelbar Ай бұрын
Estuve tratando de usar el servicio con Azure search + Azure OpenIA, pero al tratar de crear un modelo de chat en Azure open IA, me dice que ninguno tiene quota. ¿Me pueden explicar esto por favor?
@MarioRamosMontesinos Ай бұрын
Uno de los objetivos anuales de Micro debe ser cambiarle el nombre a 10 productos 😸 Muy buen video!!
@CODERTECTURA Ай бұрын
¡Muchas gracias! De hecho, dentro de Microsoft bromean en que cada trimestre la gente que crea acrónimos de tres letras, nuevos roles dentro de la empresa o le cambia el nombre a los productos tienen que comer y ganarse el bono 💸💸💸 😂😂😂
@asesorwebvideos Ай бұрын
Excelente explicación, saludos desde Chile
@alvaromorales3310 Ай бұрын
Excelente video, gracias por el trabajo!
@razielmlv4 2 ай бұрын
Gran video! justo la información que buscaba para el último proyecto en el que estamos trabajando con mi equipo. En nuestro caso, queremos trabajar con documentos en JSON, ¿deberíamos utilizar azure blob storage o cosmosDB para crear el indice de búsqueda vectorial en el servicio de Azure AI Search?
@Formacion2020 2 ай бұрын
No le he dedicado nada más que unas horas a Azure, tengo mucha experiencia en programar en C++ (más de 15 años) también en otras áreas. Desde hace 1 año estoy volcado 100% en la IA. No le encuentro ningún sentido a Azure, creo que muchos de sus servicios han quedado eclipsados por la IA, aunque los que le han dedicado miles de horas, tratarán de que su conocimiento pueda continuar rentabilizarlo. No le veo ninguna ventaja la IA con Azure. Entiendo que las Grandes Consultoras, por inercia y por mantener la dependencia (cautividad) de sus clientes les empujará a este modo de uso más complejo, más caro, menos limpio.
@EnriqueAbril-i4o 2 ай бұрын
excelente video!!! no mostraron como hicieron o montaron el blob para subir el archivo fragmentado :( pero en resumen del video 10 de 10 felicidades!
@maxcomperatore 2 ай бұрын
saquen la musica de mierda joder
@benshi1975 3 ай бұрын
me pasan el link donde explican a conectar el modelo al azure ai search y crean los índices? porque yo conecte mi info pero no detecta los datos cuando le pregunto gracias
@lydiamora1922 3 ай бұрын
Excelente¡¡ enhorabuena¡¡
@lalomx2000 4 ай бұрын
Para los modelos locales que soportan llamadas a funciones , cual recomiendas?
@MacMacMusic 4 ай бұрын
Hola! Gracias por el video, muy útil y ayuda mucho. Quería preguntaros, en vuestra experiencia, cual es la mejor estructura para la documentacion de tipo FAQ? Es decir pregunta-respuesta. El problema que estoy teniendo es que teniendo muchas preguntas y respuestas en el mismo documento (una detras de otra, con una separacion de espacio entre cada pregunta-respuesta) al hacer la busqueda semantica con ADA en el SearchService, en la respuesta el chunk con mas score está mezclando tanto texto de la respuesta como de las preguntas inmediatamente anteriores y siguientes. Alguna forma de solucionar esto? Quizas estructurando mejor la documentación?
@CODERTECTURA 4 ай бұрын
!Hola! En le caso de Preguntas y Respuestas (un FAQ) lo más importante no es el formato o estructura del documento, sino dos cosas: - La primera, el como realizar el chunking, es decir, la extracción del texto del documento. Por ejemplo si sabes que la estructura es «pregunta - linea en blanco - respuesta - línea en blanco», que uses esta estructura para crear un chunk que sea la pregunta y la respuesta. - Si usas Azure AI Search como base de datos vectorial para tu IA, lo que puedes hacer para mejorar los resultados es crear un Semantic Ranker donde el título sea la pregunta y el texto sea la respuesta. Eso también te ayudaría a obtener mejores resultados.
@ernestog1620 4 ай бұрын
Esa movida es previsible poque el trabajo del planificador se puede hacer ahora con gpto1, de manera mucho mas eficiente
@vidasalud9275 4 ай бұрын
Hola Rodrigo, muchas gracias por tu contenido he aprendido mucho. Quisiera saber por qué este mensaje cuando ejecuto el último ejemplo: "phi3 does not support tools" ?? saludos.
@CODERTECTURA 4 ай бұрын
!Hola! Es raro el error. El mensaje corresponde a cuando tratamos de usar Phi-3 con «Function Callings», ya que Phi-3 por defecto no soporta esa capacidad que si tenemos en otros modelos. Luego es verdad que en Hugging Face existen fine-tuneos de Phi-3 para soportar «Function Callings». Lo raro es que en mis ejemplos no uso esa capacidad, por lo cual no entiendo porqué te da el error.
@vidasalud9275 4 ай бұрын
@@CODERTECTURA eso era , gracias!! Mistral si soporta
@riccardodangelo 4 ай бұрын
Muy claro, tanto que resulta comprensible incluso para un italiano que no conoce el español
@jazzyfusion 4 ай бұрын
una cuestion que ocurre con la version 1.18 no me esta funcionando conectandome a OpenAI sin usar Azure, tengo que bajar a 1.17 he visto en tu repo que usas esa, es que es alguna estrategia de Microsoft para que tengamos que pasar por Azure y pagar por sus vampiros servicios???? No entiendo que ocurre, es que ganan menos que Google, vaya panda de Vampiros
@CODERTECTURA 4 ай бұрын
😂😂😂 Aun no he trabajado con la 1.18 ni la 1.19. Te puedo asegurar que no tiene nada que ver con que sean vampiros 😂😂😂 Creo que tiene que ver con que han cambiado la forma en que se realizan las conexiones. Aun no me he metido a fondo con ello, pero en cuanto tenga los trucos para usar esas versiones te lo comento.
@jazzyfusion 4 ай бұрын
Si tienes razon yo creo que sera cuestion de tiempo, ahora con el nuevo O1 de OpenAI, muchas gracias por compartir.
@santiagocastrovizcaya5336 5 ай бұрын
Impresionante! 🔥Podrías compartir el Repositorio porfa? parece que está privado
@CODERTECTURA 5 ай бұрын
¡Hola! Pensé que estaba público. Ya está arreglado el acceso. Lo tienes aquí: github.com/rliberoff/codertectura-semantic-kernel-no-planners ¡Gracias!
@Elbos 5 ай бұрын
Mi nivel sobre este tema es nimio pero consigues que me entere de casi todo :D
@CODERTECTURA 5 ай бұрын
¡Muchas gracias!
@greenyngchannel855 5 ай бұрын
Excelente video como siempre !!! Claramente con la evolución hacia capacidades de razonamiento, parece lógico pensar que tiene más sentido que lo defina el propio llm, pero perdemos total control , algo difícil a veces de asumir...mi pregunta es si esto aplica a modelos como phi-3 ...?
@CODERTECTURA 5 ай бұрын
¡¡¡Muchas Gracias!!! Es cierto que parece que cedes el control total al LLM para realizar tu plan. Lo que pasa que en el fondo es lo que buscamos, como cuando delegamos en una persona humana realizar una tarea, con quienes tampoco tienes el control, lo que tienes es la paciencia de pedirles varias veces lo que quieres para tras sucesivas iteraciones obtener lo más cercano a tus necesidades o deseos. Si necesitas tener control total, recomendaría que uses el HandlebarsPlanner, que permite pasar el plan cocinado o estático empleando la notación Handlebars. Esto permitiría meter estaticidad a los pasos que tiene que ejecutar el LLM, quedando en el ámbito estocástico sólo los resultados que generaría. Sobre Phi-3, el modelo como tal no ofrece en su versión original (lo que llamamos versión «vainilla») la capacidad de Function Calling de forma nativa, sin embargo, hay personas que han fine-tuneado el modelo para proporcionar esta capacidad. En Hugging Face consigues varios. En mi caso, un tunning que me ha funcionado bastante bien es este: huggingface.co/Trelis/Phi-3-mini-128k-instruct-function-calling
@greenyngchannel855 4 ай бұрын
@@CODERTECTURAtras el anuncio de openai o1 mini y preview puedo entender que los planners ya no tengan sentido .... El anuncio previo al lanzamiento ahora tiene más sentido
@josemurga8054 5 ай бұрын
Actualizaron el código pero el video es algo diferente :( o al menos no logro conectar con Azure Open AI, siempre hay errores. Ahora corregí pero me sale el mensaje del choice = null
@CODERTECTURA 5 ай бұрын
¡Hola! No he actualizado el código 🤔 Puede ser que haya cambiado algo en temas de integración con las librerías. ¿Me podrías dar más detalle del error que te está dando para revisarlos estos días?
@josemurga8054 5 ай бұрын
@@CODERTECTURA Oh es que no se veía en el vídeo cuando modifican los appsettings osea al menos para saber de dónde sacarlos Cuando saco el link del chat playground me sale error 404 En caso ponga algo en deployment o lea la variable y también cuando pongo datos en datasource Me sale error 400 model error Y en el mejor de los casos me sale una respuesta 200 , Pero en la respuesta el choice.message me sale nulo, que es lo que debería responder el bot
@CODERTECTURA 5 ай бұрын
Claro. Solemos evitar mostrar esa info porque muchas veces utilizamos recursos que están en otros proyectos y es un riesgo de seguridad mostrar esa información. Por esa misma razón es que el código en GitHub no tiene valores en el `appsettings.json`. También porque asumimos que la info sobre dónde conseguir esos parámetros si está más disponible.
@josemurga8054 5 ай бұрын
@@CODERTECTURA Habría la posibilidad de contactarlos para ver el problema que tengo, por si estoy sacando alguna variable de algún lugar incorrecto, si podrían ayudarme una revisión rápida sería lo máximo, igualmente gracias por la explicación.
@CODERTECTURA 5 ай бұрын
¿En qué huso horario te encuentras? Para ver su puedo buscar un hueco.
@asg7655 6 ай бұрын
Hola! gran vídeo, podéis subir el contenido de los libros para montar la misma demo? gracias
@CODERTECTURA 6 ай бұрын
Hola! Código parecido a lo que se muestra en éste video lo puedes encontrar en este repo: github.com/rliberoff/CODERTECTURA-009YT-Bot-Azure-AI-Search-OpenAI
@greenyngchannel855 6 ай бұрын
Indicas al principio que se necesitan gpu de nvidia , sería suficiente con las NPU, osea un portátil de la nueva hornada de Microsoft u otro?
@CODERTECTURA 6 ай бұрын
Esa es una buena pregunta! Teóricamente las nuevas NPU que van a traer las portátiles de Microsoft, y algunos dispositivos como los futuros iPhones, están pensados para poder ejecutar en local y sin conexión a la red un SLM. Hay gente que ha logrado hacer funcionar el modelo Phi-3:mini en un Samsung, sólo que no recuerdo qué modelo exactamente.
@greenyngchannel855 6 ай бұрын
@@CODERTECTURA estas capacidades de uso desconectado lo veo muy interesante , pero aun creo que es complejo desarrollar aplicaciones para el publico masivo, ya que la gran mayoría no dispone de los recursos necesarios ...aunque es el principio. Como experto que eres, estoy pensando aún así utilizar un poderlo como phi-3 en azure, porque tengo el convencimiento que será la apuesta de Microsoft y seguro que es más económico que utilizar las apis de openai , que opinas ?
@CODERTECTURA 6 ай бұрын
Efectivamente. De hecho, Phi-3:Medium con contexto de 128k tokens te saldría en modalidad de pago por uso a razón de 0.0015$ cada 1000 tokens generados, que es el mismo precio que el modelo más barato de Azure OpenAI (el GPT-3.5-Turbo), y muchísimo más barato que el más poderoso (GPT-4o) que te sale diez veces más: 0.015$ por cada 1000 tokens generados. Así que si, un Phi-3, un Mistral, Falcon e incluso el Llama3 podrían ser más económicos y rentables dependiendo del caso de uso. Tienes más info aquí: techcommunity.microsoft.com/t5/ai-machine-learning-blog/affordable-innovation-unveiling-the-pricing-of-phi-3-slms-on/ba-p/4156495?wt.mc_id=MVP_348953
@greenyngchannel855 6 ай бұрын
@@CODERTECTURA de hecho nosotros tenemos licencias Copilot 365, y con azure ai Studio podríamos acceder a un phi-3 medium vía semantic kernel y acceder desde nuestras apps mobile a signalr que tuviera semantic-kernel y acceder al modelo vía azure AI Studio, lo malo es el inglés para hacer la traducción utilizar algún traductor ....es la pieza que no contaba...no serà Muy rápido pero como primera aproximación podría funcionar , que opináis . Signalr lo tenemos ya integrado con .net Maui en las apps mobile para un set de escenarios, este podría aportarnos un chat donde a la larga interactuar en nuestros agentes mobile
@CODERTECTURA 6 ай бұрын
Existen - aunque ahora no me vienen a la cabeza - librerías que sin conexión a Internet te realizan traducciones de inglés a español bastante bien.
@greenyngchannel855 6 ай бұрын
Mañana te veo el video !
@luisdavidmercadoortega3553 7 ай бұрын
Super excelente contendió, muy bueno como siempre muchas Gracias!
@Gustavofuentesm 7 ай бұрын
Genial, Rodrigo, te felicito. Voy a intentarlo y te cuento
@emilanocortez1083 7 ай бұрын
Hola Rodrigo, muy bueno!! Una pregunta, se puede agregar plugins ? es decir quiero agregar funciones nativas
@CODERTECTURA 7 ай бұрын
¡Hola! Si, perfectamente podrías. De hecho el plugin ‘TextMemoryPlugin’ que utilizo es un tipo de plugin que solo tiene funciones nativas.
@emilanocortez1083 7 ай бұрын
si tienes razon, perfecto. Lo he intentado anteriormente importandolo como plugin en el Kernel, pero no me ha funcionado (utilizando un SML). Pero utilizando Azure Open AI si funcionaba . Voy a probar agreandolo al prompt del mensaje, muchas graciasss! muy bueno el contenidoo!
@CODERTECTURA 7 ай бұрын
Es importante que el SLM que uses soporte function calling. Lamentablemente no todos lo soportan. Algunos SLM han sido "fine-tuneados" para poder hacer algo parecido a function calling. Quizás por eso es que los plugins no te estarían funcionando. ¡Suerte!
@emilanocortez1083 7 ай бұрын
@@CODERTECTURA Muchas graciass!!
@hiunkeru 7 ай бұрын
Grande!
@CODERTECTURA 7 ай бұрын
Muchas gracias maestro!!! 🥰🥰🥰
@AstridSiry 7 ай бұрын
Muy interesante! Gracias 🤜🏻🤛🏼
@ajperez0001 7 ай бұрын
Excelente explicación! Gracias por un video tan detallado!
@CODERTECTURA 7 ай бұрын
¡Gracias!
@yayihernandez129 7 ай бұрын
Rod eres un crack, explicando de forma tan sencilla algo que es tan complejo y tan novedoso! Crack!
@CODERTECTURA 7 ай бұрын
¡MUCHAS GRACIAS! 🥰
@1nf0rmat1ps4 7 ай бұрын
Excelente video 👏👏 Saludos!
@CODERTECTURA 7 ай бұрын
¡Muchas gracias!
@DaniCCardenas 7 ай бұрын
Que descubrimiento! gracias por el video y suscrito 👏
@CODERTECTURA 7 ай бұрын
¡Muchas gracias!
@cesardavidgarciacasanova5113 7 ай бұрын
Muchas gracias por el video. En mi caso deseo crear un chatbot que responda preguntas relacionadas a las lecturas que hace un sensor IoT de reservorios de agua (¿Cuando fue la ultima vez que hubo un rebase? ¿Cual fue el promedio de niveles en la última semana?, etc.) Toda esta información está almacenada en una base de datos relacional (serie de tiempo, valor, identificador). ¿Que me recomendarías usar para resolver esto?
@CODERTECTURA 7 ай бұрын
¡Interesante! Hay varias alternativas. Una posible aproximación es que crees una base de datos vectorial que mapee posibles preguntas a queries que se puedan lanzar contra una base de datos relacional. Otra alternativa, es crear funciones con parámetros que puedan ser vinculadas a la intensión del usuario, donde dichas funciones tendrían las queries a la base de datos relacional.
@ignaciochavezguzman6276 7 ай бұрын
Muchas gracias por su video. Está genial
@CODERTECTURA 7 ай бұрын
¡Muchas gracias!
@luisdavidmercadoortega3553 7 ай бұрын
muchas gracias excelente contenido, información muy valiosa
@CODERTECTURA 7 ай бұрын
¡Muchas gracias!
@douglasperez3701 7 ай бұрын
Wow, genios! Muy buen video, saludos
@CODERTECTURA 7 ай бұрын
¡Muchas gracias!
@xmagcx1 8 ай бұрын
buen video, aunque siento que el tipo la interrumpe demasiado a la chica 😢
@jazzyfusion 8 ай бұрын
Hola, como todo esto van tan rapido, no me queda claro si AI Seach es un recurso de pago mensual fijo + lo que consuma o si es una estimacion y pagas por lo que consumes, Gracias.
@CODERTECTURA 8 ай бұрын
¡Hola! Mucha gente tiene esa misma confusión con Azure AI Search, y la documentación no lo pone especialmente fácil. Todos los planes de Azure AI Search (salvo el plan o _tier_ gratuito) tienen un coste mensual en base al número de unidades de escalado que tengas configuradas. Así, por ejemplo, el plan básico cuesta cerca de 73$ al mes por sólo una unidad de escalado. Luego, si existe un coste por uso, y que depende de la configuración del Azure AI Search. Así, por ejemplo, si tienes configurado un Semantic Ranker con una estimación de 5000 llamadas al mes, el coste se incrementa en cerca de 4$ al mes (las primeras 1000 llamadas al mes son gratis). Luego a parte está el coste mensual que pueda tener otros servicios conectados al Azure AI Search, como un Blob Storage de un Azure Storage Account. Al final del día, el Azure AI Search es un servicio *muy poderoso* pero lamentablemente de los más caros dentro del catálogo de Azure. Espero haberte contestado a tu duda 😊
@jazzyfusion 8 ай бұрын
@@CODERTECTURA Muchas gracias, pues estoy bastance enfadado, basicamente porque he seguido vuestros dos videos intentando recrear todo el preceso varias veces, y no teniendo mucho exito, no hay forma de comunicarse con ellos, con infinitos bots preguntando y derivandote para nada, llevo gastados £44 en dos dias y no he hecho nada, en serio que esto es lo que vamos a esperar los desarrolladores en los proximos meses, es imposble avanzar asi, yo estoy pendiente de entregar a los clientes algo u n prototipo, lo siento solo quiero expresaros mi vision ahora, vosotros estais haciendo un trabajo arduro y lo se y os lo agradezco. Un fuerte abrazo
@jazzyfusion 8 ай бұрын
Fenomenal video, y para nada deja de ser interesante para gente que llevamos ya unos years programando, por supuesto que seria interesante ver como introducimos documentos desde una Interfaz de usuario, creo que eso cerraria un poco un ciclo basico muy interesante para los negocios. Gracias!!!
@olmeiroorozco 9 ай бұрын
Chic@s excelente video. Me pregunto si todo eso lo puedo replicar con python. He tratado de seguir la documentación pero termino perdiendome. La idea es replicar su ejercicio para un Chat Bot desde el que puedan acceder personas desde una página web para resolver dudas. Gracias por el contenido, he aprendido un muchísimo con ustedes.😎
@CODERTECTURA 9 ай бұрын
Hola! En general si es posible con Python, ya que las librerías de Azure OpenAI y de Azure AI Search están disponibles en Python. Te dejo a mano los enlaces a las versiones de Python de las librerías que usamos (por si no las tenías 😅) - Bot Framework SDK: github.com/microsoft/botbuilder-python - Para conectarte con Azure OpenAI puedes usar la librería de OpenAI directamente. En este enlace, hay una sección titulada «Microsoft Azure OpenAI» que te explica cómo: pypi.org/project/openai/ - Para usar el Azure AI Search con Python me temo que la librería es algo antigua (de Noviembre 2023): pypi.org/project/azure-search-documents/ El reto aquí es que creo que por SDK no hay aun una alternativa para conectar directamente Azure OpenAI con Azure AI Search directamente como hacemos con C#, por lo que tendrás que crear un JSON que describa un datasource. Sería algo así: completion = openai.ChatCompletion.create( messages=message_text, deployment_id=deployment_id, data_sources=[ # camelCase es fundamental, pues es lo que espera como formato el API de OpenAI { "type": "azure_search", "parameters": { "endpoint": "'$search_endpoint'", "index_name": "test-mario", "semantic_configuration": "default", "query_type": "vectorSemanticHybrid", "fields_mapping": { "content_fields_separator": "", "content_fields": [ "content" ], "filepath_field": "filepath", "title_field": "title", "url_field": "url", "vector_fields": [ "contentVector" ] }, "in_scope": true, "role_information": "You are an AI assistant that helps people find information.", "filter": null, "strictness": 3, "top_n_documents": 5, "authentication": { "type": "api_key", "key": "Aa...29" }, "embedding_dependency": { "type": "deployment_name", "deployment_name": "text-embedding-ada-002" }, "key": "'$search_key'", "indexName": "'$search_index'" } } ], enhancements=undefined, temperature=0, top_p=1, max_tokens=800, stop=null, stream=true )
@olmeiroorozco 9 ай бұрын
@@CODERTECTURA 💯🤟❤Gracias chic@s firme con su contenido desde Colombia.
@PHRAKENDARK 9 ай бұрын
Planners, please
@CODERTECTURA 9 ай бұрын
Pues si! Tengo en el backlog una con el Handlebars.
@rsuarezgil 10 ай бұрын
Excelente vídeo...justo estoy haciendo algo que vi en un vídeo tuyo (el poder de GPT con Power Virtual Agents, Azure OpenAI y Microsoft Teams).. tengo una pregunta .. cuando azure OpenAI responde y en mi caso la base de conocimiento son documentos de la empresa.. esas referencia que me trae.. cómo las puedo hacer link para que abran o descarguen los documentos de donde saco la respuesta?
@CODERTECTURA 9 ай бұрын
Voy a preparar una entrada sobre eso :)
@JulioJkoop 10 ай бұрын
Este video es oro puro
@EphramBrown-z1d 10 ай бұрын
Un superlike para este video, fantástica info en español, un gran descubrimiento. Por favor anímense con la segunda parte adicionando los AI Cognitive Skills a fondo ^^
@luiskaballero 10 ай бұрын
Estupendo video, me ha ayudado mucho. 100% recomendable. Gracias.
@diegoabellino7765 11 ай бұрын
Excelente, solo tengo una consulta, es si puedes pasar el código fuente del bot que utilizas, ya que estoy mas que curioso por saber si me funcionaria a mi
@CODERTECTURA 10 ай бұрын
¡Hola! Pues en mi GitHub tienes varios proyectos con Bots que puedes explorar. Uno de los más recientes es este: github.com/rliberoff/MSCoders-202401-Demo ¡Espero te sirva! Por cierto, estoy pensando en hacer una serie de contenidos sobre el Azure Bot y el Microsoft Bot Framework SDK, ¿algún tema que te interese? ¡Un Saludo!