İnternetsiz, Ücretsiz ve Sınırsız Yapay Zeka! | Llama 3.2 1B

[@eto38581]

O1 pro kalitesinde chain of thought yaptırabilsek, belki o zaman 4-5 bin $'lık ekran kartı vs. almaya değebilir.

[@alphateknoloji]

Değer evet kesinlikle, ama onu çalıştıracak gücü elde etmek zor olur kesin

[@RaidenZ4]

Deep Seek V3 modeli O1 den daha iyi 128 gb ramla çalıştırabilirsin ekran kartın iyiyse daha iyi çalıştırabilirsin

[@eto38581]

@@RaidenZ4 o1 pro'yla imkanı yok yarışamaz yakında o3 çıkacak. Ama thought chain yaparsan bi şekilde olabilir. Böyle opensource'ların çıkması iyi bişey

[@RaidenZ4]

@@eto38581 arena llm benchmarka bak nasıl yarışıyor

[@alphateknoloji]

Testlerim sonucunda o1den iyi diyemem, ama hem ücretsiz, hem de açık kaynaklı olması bile ciddi bir rakip yapıyor. Bir de düşünürken arada döngüye girip saçmalama işini çözerlerse tam olacak

[@Perseged]

Merhaba dostum emeğine yüregine sağlık genel yapay zeka geldiğinde açık kaynaklı kod da sence hayata geçer mi bu şekilde kullanıma uygun olur mu sence cevabını dört gözle bekliyorum.

[@alphateknoloji]

Açık kaynaklı yapay zekaların gelişimi sanılandan çok daha hızlı ilerliyor, ama tam olarak AGI dediğimiz kavramın sınırlarını pek göremediğimizden bununla alakalı yorum yapmak zor şimdilik. Kesin gelecektir hiç kuşkusuz, tabii bilgisayarlarımız kaldırır mı orası meçhul, ama biraz zaman alacaktır öncelikle kapalı modellerde olacaktır olası bir atılım.

[@Perseged]

@ cevabın için çok teşekkür ederim emeğine yüregine sağlık diliyorum videoların devamını gelmesini emeklerinin boşa çıkmamasınını arzu ediyorum

[@mhmmd5225]

Merhaba Nvidia ekran kartı ayarlarını nasıl yapıyoruz. Gpu kullanmıyor CPU üzerinden çalışıyor

[@alphateknoloji]

Merhaba, daha denemedim nvidia ile kullanmayı, ollama üzerinden belki ayarlamak lazım olabilir ona bakayım bir ara

[@RaidenZ4]

6 ve ya 8 gb vram için kaç milyar paremterli modeller gider sence?

[@alphateknoloji]

Şöyle öngörürsem, macbook 8 gb rami hem normal ram, hem de ekran kartı vram'i olarak birleşik kullanıyor. Yani 8 gb vram ve 8 gb ram ile bende 8b parametreli model kaldırmadı, ama o bence normal ram ile alakalı bir darboğazdı çünkü 16 gb haline baktığımda çok rahat çalışıyordu deneyenlerden gördüğüm kadarıyla. 8b ve 30b arasını rahat kaldırır diye tahmin ediyorum, ama hızlı çalışması için düşük parametrelere yönelmek daha isabetli olacaktır

[@hydradragonantivirus]

Antivirüsümde kullanıyorum bu modülü.

[@synthjob]

aslında agent olarak kullanmaya çalışıyorum ama kod yazmayı bilmediğim için yapamadım...

[@alphateknoloji]

Artık kod bilgisine bile ihtiyaç kalmadı eskisi kadar, chatgpt canvas olsun claude artifacts olsun istediğini söylemen yetiyor. Yine replit gibi alternatifler de sadece prompt girdisiyle tüm kodları giriyor. Bu gösterdiğim arayüzle de zaten aynı claude gibi üzerinde kodu direkt çalıştırabildiğinden pratik oluyor

[@synthjob]

@@alphateknoloji ben de de var abi ollama ve open web ui :D ama ben otizmliyim bir türlü beceremiyorum bu işleri...

[@Agnosdeis]

jani , 32 gb ram, i9 intel core veya ryzen 9. , veya snapdragon, ekran karti nvidia rxt 4090, veya Amd, 2200€-5000€

[@alphateknoloji]

Eğer çok yüksek veritabanlı bir model kullanılmayacaksa bunlara gerek yok, i7 işlemci, en az 16 gb ram, ekran kartı 4060 veya 4070 yeterli olacaktır. Tabii veritabanı 30B, 70B 105B oldukça onlar için rahat çalışması açısından daha kaslı bir bilgisayar kesinlikle lazım