ChatGPT & Co: Besser als GPT4ALL!!! Kostenlose Tools werden immer besser - OpenWebUI (deutsch)

Können kostenlose OpenSource-Tools noch mit Giganten wie #claude oder #chatgpt mithalten?
Dieser Frage gehen wir in diesem Video nach, indem wir uns #openwebui anschauen.
Dieses Tool beherrscht:
- Arbeit mit lokalten Dokumenten
- Websuchen
- Zusammenfassung von KZbin Videos
und vieles mehr
Damit haben wir ein kostenloses und sehr mächtiges Tool mit #Rag Fähigkeiten
Inhalt
0:00 Können kostenlose Tools mit ChatGPT & Co mithalten?
1:10 Open WebUI
5:00 Updates
6:31 Einstellungen
10:10 Websuche, Dokumente und KZbin-Videos
16:21 Bilder erstellen
19:29 Installation
Links
Docker - www.docker.com/products/docke...
Open WebUI - docs.openwebui.com/getting-st...
Open WebUI Github - github.com/open-webui/open-webui
Ollama-Models - ollama.com/library
Ollama Einstieg - • Endlich! Ollama für Wi...
ComfyUI installieren - • Bild KI mit API - Erst...
Discord - / discord
Keywords
#chatbot #llm #ki #imagetotext #kitools #ai #aitools #künstlicheintelligenz #ollama

[@Andzej-PL_DE]

Hallo, ich finde deine Tutorials sehr hilfreich und informativ. Könntest du vielleicht ein Tutorial zur AutoTrain-Funktionalität von HuggingFace machen? Es wäre toll, wenn du auch zeigen könntest, wie man in der kostenlosen Variante eigene Daten verwendet, um Modelle nachzutrainieren. Vielen Dank für deine großartige Arbeit.

[@i-love-2-code]

Vielen Dank! Werde ich sehr gerne machen, wird aber noch etwas dauern. Ich habe eine kleine Liste von bereits begonnenen Videos und die muss ich erstmal abarbeiten - sonst laufe ich Gefahr dass die Sachen einfach zu lange nicht fertig werden. Ich gebe mir aber mühe so schnell wie möglich zu diesem Punkt zu kommen

[@Andzej-PL_DE]

@@i-love-2-code Danke schön 🙂 Ich freue mich schon auf deine Videos. Auf huggingface habe ich auch schon datasets hochgeladen, kannst sehr gerne benutzen ... einfach nach "Andzej-75" oder "RisingWorld" suchen.

[@Arsat74]

Vielen Dank für das interessante Video! Werde ich auf jeden Fall ausprobieren.

[@i-love-2-code]

Sehr gerne! Das Tool ist definitiv eine gute Wahl und wird in den kommenden Monaten noch um einige starke Features erweitert. Der Aufwand bzgl. Installation lohnt sich definitiv. Viel Erfolg und danke für das Feedback

[@FrankFacius]

Sehr schönes Video. Ich hab dich abonniert ...Du machst das gut.

[@Cor-tex]

Super Video! willst du vielleicht auch näher auf die "Tools" und "Functions" eingehen?

[@i-love-2-code]

Vielen Dank! Tatsächlich ist ein zweites Video zu genau diesen Themen geplant. Ich rechne mit 2-3 Wochen bis ich es fertig habe

[@bushcrafthessen21]

Danke für das Video, Abo hast du 👍 Bin gespannt wie es weitergeht 🙂

[@i-love-2-code]

Sehr gerne und vielen Dank!

[@sirgoekmen]

Finde die Einstellung zum Zugriff auf das Web nicht. Kannst du noch ergänzen woran das liegen könnte? Danke dir Ergänzend: Mac User

[@i-love-2-code]

schwer zu sagen, kannst du mir sagen welche version von webui du verwendest?

[@WahreZocker]

Hi, sehr cooles Video, vielen Dank. Weißt du zufällig, ob das Eingegebene bei dieser open Source Version sicher ist oder wird das weiter verarbeitet? Ich frage aufgrund von hohen Sicherheitsanforderungen bei uns :) Kann man alle Modells aus Huggingface nutzen? LG

[@i-love-2-code]

Vielen Dank! Wissen tue ich es nicht, da ich bisher noch nicht wirklich in den Code eingetaucht bin. Das Tool läuft aber auch offline, was schon mal ein sehr gutes Zeichen ist. Außerdem arbeiten (Stand jetzt) über 180 Entwickler an dem Code und er hat über 30k Sterne auf Github. Sollte da etwas nicht mit rechten Dingen zugehen und das Tools dazu bewegen "nach Hause" zu telefonieren, dann würde das recht schnell auffallen. Notfalls einfach die Browser-Konsole im Auge behalten :)

[@WahreZocker]

@@i-love-2-code Hi, danke für die schnelle Antwort :). Ich dachte es mir schon fast, aber ich wollte mal den Experten nochmal dazu fragen. Kannst du mir noch verraten, ob alle Huggingface Modells darauf funktionieren? LG!

[@Gedankenhorizonte]

Ich hatte Ollama bereits installiert und konnte OpenWebUI über die Git-Datei installieren. Der Vorgang war ähnlich wie bei der Installation von Stable Diffusion WebUI. Trotzdem funktionierte es problemlos auf meinem Debian-System. Wenn ich starte muss ich folgendes machen: 1. cd open-webui 2.python3 -m venv venv source venv/bin/activate 3.open-webui serve Das Problem war das einige Befehle nicht bei mir so funktionierten. Um andere Models zu installieren nehme ich immer noch Ollama mit ollama run ..... da weiß ich das es funktioniert. Das mit der Websuche ist wirklich super gemacht in der OpenWebUI. Aber komisch ist das llama 3.1 bei mir nicht ins Internet geht, gemma2, lexi uncensored & mistral-nemo geht, das funktioniert. Abbo hast du von mir.

[@i-love-2-code]

Vielen Dank für die Erklärung :) (und für das Abo) Ich glaube llama 3.1 unterstützt die openai api nicht vollständig. Darum kommt es bei einigen Tools zu Problemen. Ich versinke gerade leider aufgrund von Einschulung und Job in Arbeit und kam daher noch gar nicht dazu das ausführlich zu testen. Hole ich aber asap nach. VG

[@FrankFacius]

Hast du schon erfahrungen mit Perplexica?

[@i-love-2-code]

Ja und damit hast du auch schon den Inhalt eines der nächsten Videos verraten :) Aber ich möchte an dieser Stelle ungern spoilern

[@3KLANGMUSIC]

Weisst du überhaupt wie diese LLMs funktionieren? Bei 3:05 ist doch logisch, dass die Antwort so nicht besser werden kann, das lässt die Architektur gar nicht zu. Wäre die Antwort besser, dann nur weil der Seed rein zufällig besser gewählt wurde.

[@i-love-2-code]

Du hast da wirklich einen Punkt :) Etwas unglücklich im Ton, aber ich bin ja auch nicht aus Zucker. Das Problem das du ansprichst ist wirklich spannend und ich würde dir gern anbieten, dass wir es in einem gemeinsamen Video genauer erklären - fände ich super! Falls du Lust hast, sag bescheid