Offline Chatbot ohne Einschränkungen - Kostenlose & unzensierte KI lokal auf deinem PC installieren

Рет қаралды 34,934

Күн бұрын

Link zum Artikel: digitaleprofis.de/kuenstliche...
Link zu LMStudio: lmstudio.ai
Egal ob es sich um Stereotypen, politische Meinungen oder allgemein kontroverse Themen handelt, viele größere Sprachmodelle verweigern für bestimmte Fragen eine klare Antwort oder passen sie zumindest so an, dass sie zwar diplomatisch ist, inhaltlich aber nicht wirklich zufriedenstellend.
Diese möglichen Einschränkungen sind aber nicht der einzige Grund, um ein eigenes Sprachmodell auf dem Computer zu installieren.
Gleichzeitig ermöglicht uns dieses Vorgehen nämlich maximale Privatsphäre und den Schutz unserer Daten, da alles komplett ohne Internetzugriff und das Senden unserer Eingaben an Server von irgendwelchen Unternehmen funktioniert.
Wir zeigen in diesem Video wie man eine künstliche Intelligenz ohne Einschränkungen oder Zensur ganz einfach lokal, ohne Internet als Chatbot auf dem eigenen Computer verwenden kann.
Werde Kanalmitglied und unterstütze damit unsere Arbeit:
/ @digitaleprofis
Videoinhalt:
00:00 Unzensierte KI-Modelle lokal auf dem eigenen Computer verwenden
01:04 LMStudio installieren
01:36 KI-Modelle in LMStudio suchen und herunterladen
04:35 Installierte Modelle lokal im Chat verwenden
07:10 Unterschiede bei den verfügbaren KI-Modellen
08:04 Die Vorteile der lokalen Verwendung von KI-Chatbots
08:43 Die Nachteile der lokalen Verwendung von KI-Chatbots
09:15 Wie unzensiert sind die KI-Modelle wirklich?
10:22 Hinweis für Windows und Linux User - AVX2-Unterstützung erforderlich
Videovorschläge, Feedback und Kritik kannst Du uns jederzeit in den Kommentaren mitteilen!

Пікірлер: 70

@DigitaleProfis 2 ай бұрын

Link zum Artikel: digitaleprofis.de/kuenstliche-intelligenz/ki-chatbots/kostenlose-unzensierte-ki-chatbots-offline-nutzen/

@armauploads1034 2 ай бұрын

Es gibt inzwischen sooo viele KI-Modelle und von jedem immer mehr Sub-Versionen und neue Versionen, ich finde es sehr verwirrend, da überhaupt einen groben Überblick (Unterschiede, Stärken usw.) zu bekommen. Könntet Ihr hierzu vielleicht einmal ein Video machen? Ein Vergleich der wichtigsten/besten KI-Modelle, Stärken, Schwächen, bevorzugte Einsatzgebiete usw!?

@cybercrazy1059 2 ай бұрын

Es gibt ja auch so viele verschiedene Menschen. Jeder antwortet auf die gleiche Frage anders. Wird wohl mit KI-Modellen nicht anders sein. Die Frage ist: Wer könnte dein bester KI-Freund sein?

@armauploads1034 10 күн бұрын

@@cybercrazy1059 Der, der seinen zugewiesenen Job am besten, effizientesten und intelligentesten macht?

@DigitalImp777 2 ай бұрын

Danke für die hilfreichen Infos zur Datensicherheit bei lokalen Sprachmodellen. Super Anleitung!

@jensb.2608 2 ай бұрын

Wieder ein sehr gutes Video mit top Informationen. Vielen Dank!

@wolfgangbauer2553 2 ай бұрын

Super Info. Danke. Weiter so. Werd ich gleich mal testen 😎

@sigridkoppen-maly9439 2 ай бұрын

Ich bin so froh über eure Beiträge!!!😊Von euch ständig auf den neuesten Stand gebracht zu werden, ist sooo hilfreich! P.S. wenn es das offline für android gibt, bitte informieren.

@user-bh8vi3ty5h 2 ай бұрын

bietet LM Studio auch die Möglichkeit Modelle nachzutrainieren oder Datein wie PDFs zu analysieren?

@birgitheining9246 2 ай бұрын

Das klingt ja sehr spannend, ich werde es ausprobieren. Danke für das Video. Gibt es denn auch eine Möglichkeit, in LMStudio so eine lokale KI mit eigenen Textdaten zu trainieren? Wenn ja, würde mich ein Tutorial dazu brennend interessieren.

@Raffa-gf2hm 2 ай бұрын

Wir stecken noch in den Kinderschuhen aber es geht mit sieben Meilenstiefeln vorwärts! Bin gespannt und habe keine Angst da die Zukunkt sich ihren Weg bahnt und nicht aufzuhalten ist 🎉

@mikemaier6330 2 ай бұрын

Super! Werde ich testen! Danke dir! Frage: Hast du eine Cirka-Angabe zum Verhältnis Model(Größe)/verbauter Arbeitsspeicher? Ich habe 24 Gb Ram. Würdest du damit das 7 GB-Model flüssig nutzen?

@pierruno 2 ай бұрын

7GB sollte gehen je nach Modelgrösse. Mann muss es GPU Offloaden.

@mikemaier6330 2 ай бұрын

@@pierruno Danke dir 🙂

@Cynshet 2 ай бұрын

Ich habe bisher nur mal eine 4GB große Version von Llama lokal laufen lassen, deutsche Gramatik war da wesentlich schlechter als bei der freien ChatGPT Variante, die ich aus dem Netz kenne. Ich dachte, das läuft auf der Grafikkarte und da sind 12GB bei mir nicht allzu viel aber mein Rechner hat 64GB Ram, da könnte ich vielleicht doch mal die größeren Modelle testen.

@dreilandhochrhein9620 2 ай бұрын

Danke liebe digitale Profis. Gibt es auch ein Modell, bei dem ich meine eigenen pdfs auswerten lassen kann? Mir geht es um wissenschaftliche Literatur. D.h. da Modell muss schon trainiert sein, um zu verstehen, dass sie aus pdfs Abstracts zieht etc.

@rlcmark 2 ай бұрын

Danke für das Video. Frage: lernt die KI durch meine Eingaben? Kann ich die KI mit Daten selber “füttern”?

@sdafsdf9628 Ай бұрын

Nein. Dazu sind die Modelle nicht gemacht und selbst wenn es ginge, Sie hätten nicht die benötigte Rechenleistung um relevante Lernergebnisse zu erzielen. Lernen bedeutet (Laienbeispiel) 20 Top-Grafikkarten über Wochen/Monate Vollgas laufen zu lassen. Allein die Stromkosten werden bei Hobbybastlern schnell für Ernüchterung sorgen.

@gertechnoland4846 2 ай бұрын

und wie kann ich es nutzen und es nutzt die GPU und Ram so das man auch Größere benutzen kann

@angiangii2267 13 күн бұрын

Kann man damit auch auf lokale Dateien z.B. zugreifen? Wenn ich z.B. möchte, dass die KI auf ein PDF oder einen Ordner zugreift... Geht das damit?

@brillehut5648 2 ай бұрын

Hallo Hallo ...Ich habe einen Mac aber leider keinen M1 Chip da bin ich raus oder?

@worldwide.psychoterror Ай бұрын

(Wie) kann ich Spracherkennung und Ausgabe über Soundtreiber einstellen?

@Pyramidalist 2 ай бұрын

Danke. 1 Bemerkung: RAM kann per USB erweitert werden. 1 Frage: Kann so ein Modell meinen eigenen PC als Datenbasis einlesen, um endlich diese völlig unzureichende Windows-File-Explorer-Suche zu verbessern? Oder gibt es ne Art google-für-clientonly?

@NickName-rm2nt 2 ай бұрын

Es gibt zwar externe Geräte, die als "RAM-Disk" bezeichnet werden und über USB angeschlossen werden können, aber diese bieten keinen zusätzlichen Arbeitsspeicher für das Betriebssystem oder laufende Anwendungen.

@dbmmf1770 2 ай бұрын

Vorallem wird hier ja VRAM benötigt... Grafikkarte und nicht Arbeitsspeicher, wobei mein Nitro5 mit 4GB tatsächlich von Stable Diffusion bis GPT4ALL noch mit allen zurechtkommt...

@AniWorld_HD Ай бұрын

Luna Uncensored finde ich klasse

@marki2325 2 ай бұрын

Benötigt dieses program eine Grafik Karte ?

@scufskin2690 2 ай бұрын

Kann man diese KI selber tranieren?

@susanneluga674 2 ай бұрын

Vielen Dank für euren tollen Kanal. Hab schon viel gelernt, aber heute ich bin einfach zu .... kann das Programm downloaden, aber dann komme ich nicht weiter. Arbeitsspeicher ausreichend vorhanden. Exe Datei kann nicht geöffnet werden, Programm im Bereich der Files, (kleines Rad) dreht sich noch immer, seit ca. 2h). Kann mir bitte jemand helfen, was mache ich falsch?

@knalltuet 2 ай бұрын

Habe noch ein ne Intel Mac… wird dies nicht unterstützt?

@saschas.4270 2 ай бұрын

Erstmal wie immer ein sehr informatives und gutes Video, ich habe es genauso gemacht wie im video und habe den mal gefragt ob er Programmieren kann und wollte Hilfe. Er hat eine Programmiersprache vorgeschlagen und das er Erfahrung damit hat, aber mir dann empfohlen eine Dienstleistung zu wählen und eine email mit meinem Wunsch verschicke und bekomme dann eine Antwort. Denke die wollen so noch lukrative Aufträge sammeln, meine Vermutung.

@jhna314 2 ай бұрын

kann ich auf mein Laptop von 2015 installieren? 8 Gb Ram. kann man mit brauchbaren Ergebnissen rechnen?

@sdafsdf9628 Ай бұрын

Gute Frage und wenn ich auf jede Antwort 2min warten muss, dann macht das keinen Spaß (Ist das so???). Dies wurde im Beitrag ausgelassen. Aber diese Info befördert alle Euphorie in den Müll, was ja für den Kanal nicht zielführend ist.

@worldwide.psychoterror Ай бұрын

was genau heißt Modell??

@brutalmaster 2 ай бұрын

Leider hat mein Macbook noch nicht die neue M-Chipgeneration. Sehr schade.

@chronos-thegameoftime 2 ай бұрын

Da ich das Thema grade betrieblich teste, steht mir ein Server mit 15 CPUs und 42 GB RAM zur Verfügung. Allerdings keine Grafikkarte. Mal sehen, wie gut das dann läuft. Bei einigen Modellen, welche ich zuvor mit neuen Varianten von beispielsweise GPT4all getestet habe, hat mein Laptop, welches über einen kleinen Onboardchip verfügt, etwa das Doppelte an Leistung gebracht. Klar, GPU... Ich werde berichten. Erst mal herunterladen. Danke für die Erstellung des Tutorials!

@oliverrafelsberger5554 2 ай бұрын

Und ... ? Gibt's schon erste Erfahrungen? Oder lädt es immer noch herunter nach 8 Tagen? ;-)

@chronos-thegameoftime 2 ай бұрын

@@oliverrafelsberger5554 Es läd immernoch. V90 Modem mit 52k Verbindung. 🙂

@sdafsdf9628 Ай бұрын

@@oliverrafelsberger5554 Nun seit 2 Wochen. Ich denke das Ding hat sich erledigt.

@user-jd4zm2yb6s 2 ай бұрын

Sorry aber das ist mir zu kompliziert. Ich bräuchte einen Chat der mir vorgefertigte Antworten liefert je nachdem was ich eintrage. Wo finde ich das?

@pattystep73 21 күн бұрын

Lappi von 2019 läuft zu langsam. CPU zu 100Prozent ausgelastet. RAM war nicht das Problem.

@Goligoo 2 ай бұрын

mit einem M1 viel zu langsam.. denke ab M4 mit viel RAM ist es gut möglich

2 ай бұрын

Gibt es Lösungen, die ich auf meine eigenen Daten trainieren kann?

@sdafsdf9628 Ай бұрын

Ja. Bitte legen Sie sich Budget für die Stromrechung bereit.

@luckyyluck 2 ай бұрын

nutzt man für sowas nicht ne GPU?

@romvits3540 2 ай бұрын

Ja, ich denke mir auch die ganze Zeit warum er von Arbreitsspeicher redet. Das ist eine reine GPU Sache. Ich habe in meinem Rechner 32GB RAM aber leider nur 6GB auf der NVIDIA.

@cartelion 2 ай бұрын

Könnt euch einen KI-Computer kaufen um solche KI Modelle zuhause zu nutzen.

@jigibu1773 2 ай бұрын

hm wieso kann man das offline nutzen? wo kommen die Infos her?

@Burnersen79 2 ай бұрын

Tja, das gesamte Wissen der Menschheit in ein paar Gigabyte gespeichert…

@silvioziegler3184 2 ай бұрын

weil man heute keine Vorstellung mehr darüber hat wieviel Daten 1GB sind. Wir reden hier von Text. Keine Bilder, Audios oder gar Videos. und ein Buchstabe unkomprimiert gerade mal ein byte benötigt

@dietersbrzesny3549 2 ай бұрын

Kommt man damit auch klar, wenn die Englisch - Kenntnisse eher dürftig sind?

@Ch3rem0 2 ай бұрын

@energiewende-rechnerdotde 2 ай бұрын

Erinnert Ihr Euch noch an den Film „Er ist wider da“. Die Szene, in der Hitler das erste mal das Internet gezeigt wurde und er erstaunt feststellte, das dieses ganze Internetdings ja nicht vom Reichspropagandministerium kontrolliert wird. Die Azubine: „Was interessiert Sie denn mein Führer?“ Hitler: „WELTHERRSCHAFT!“ Hmmm, da bieten sich ja kaum 10 Jahre später ganz andere Möglichkeiten….