AnythingLLM ने होमलैब उत्साही लोगों को एक वादे के साथ आकर्षित किया: एक फ़ोल्डर की ओर इशारा करें, एक कार्यक्षेत्र प्राप्त करें जो उन दस्तावेज़ों को पढ़ता है और एक स्थानीय मॉडल को उनके साथ बात करने देता है। वास्तविकता एक Docker कंटेनर की तरह अधिक है जो कभी-कभी भूल जाता है कि कौन सी वेक्टर स्टोर कॉन्फ़िगर की गई थी, एक सेटिंग्स पैनल जो बढ़ता रहता है, और एजेंट सुविधा जो डेमो और दैनिक चालक के बीच कहीं है। यदि घर्षण जमा होने लगता है, तो ये AnythingLLM विकल्प “स्थानीय मॉडल, मेरे दस्तावेज़, मेरा हार्डवेयर” विचार को बनाए रखते हैं और उन हिस्सों को हटाते हैं जो बाधा डालते हैं।
हमने Windows, macOS और Linux पर नीचे दिए गए 7 ऐप्स को एक पूरे सप्ताह के लिए चलाया। सूची में नेटिव डेस्कटॉप ऐप्स शामिल हैं जो सामान्य सॉफ़्टवेयर की तरह इंस्टॉल करते हैं, ब्राउज़र-आधारित यूआई जो आपके Ollama सर्वर के आगे स्वयं-होस्ट करते हैं, और एक पावर-यूजर फ्रंटएंड जो गहराई के लिए पॉलिश को व्यापार करता है।
त्वरित तुलना
| ऐप | सर्वश्रेष्ठ के लिए | इंस्टॉल | खुला स्रोत | स्थानीय मॉडल समर्थन |
|---|---|---|---|---|
| Open WebUI | टीम-स्केल सेल्फ-होस्टेड चैट | Docker | हाँ (BSD-3) | नेटिव Ollama, OpenAI-संगत |
| LM Studio | एक मॉडल चुनें, चैट पर क्लिक करें | नेटिव इंस्टॉलर | नहीं (मुफ़्त) | निर्मित llama.cpp / MLX |
| Msty | मल्टी-मॉडल स्प्लिट व्यू | नेटिव इंस्टॉलर | नहीं (मुफ़्त) | Ollama, LM Studio, दूरस्थ API |
| Jan | ओपन-सोर्स LM Studio | नेटिव इंस्टॉलर | हाँ (AGPL) | निर्मित llama.cpp |
| LibreChat | प्रत्येक प्रदाता के साथ ChatGPT क्लोन | Docker | हाँ (MIT) | Ollama पुल |
| GPT4All | हल्का ऑफ़लाइन चैट | नेटिव इंस्टॉलर | हाँ (MIT) | निर्मित |
| Text Generation WebUI | वजन और सैम्पलर के साथ छेड़छाड़ | Python | हाँ (AGPL) | llama.cpp, ExLlama, Transformers |
लोग AnythingLLM से क्यों जाते हैं
Reddit और Hacker News पर उपयोगकर्ता एक ही खुरदुरे किनारों को इंगित करते हैं: कार्यक्षेत्र अपडेट के बाद कभी-कभी अपनी एम्बेडिंग रीसेट कर देते हैं, बिल्ट-इन एजेंट टूल एक उचित एजेंट फ्रेमवर्क की तुलना में सीमित हैं, और Docker में इसे चलाना प्लस GPU पास-थ्रू को कॉन्फ़िगर करना एक एकल-उपयोगकर्ता चैट ऐप की तुलना में अधिक सेटअप है। एक अलग शिकायत टेलीमेट्री डिफ़ॉल्ट और क्लाउड संस्करण से मूल्य निर्धारण संकेत स्व-होस्ट किए गए README में रिस रहे हैं। इनमें से कोई भी घातक नहीं है, लेकिन घर्षण जमा होता है जब नीचे दिए गए विकल्प सामान्य ऐप के रूप में इंस्टॉल करते हैं।
Open WebUI — सेल्फ-होस्टेड टीम के लिए सर्वश्रेष्ठ
Open WebUI AnythingLLM के लिए निकटतम संरचनात्मक मेल है: ब्राउज़र-आधारित, स्व-होस्ट किया गया, बहु-उपयोगकर्ता, प्रथम श्रेणी Ollama एकीकरण। यह RBAC, पाइपलाइन, फ़ंक्शन कॉलिंग और ऐड-ऑन का एक बहुत बड़ा समुदाय पर आगे बढ़ता है। दस्तावेज़ Docker Compose, Kubernetes और bare-metal Python को कवर करते हैं।
जहां यह कम पड़ता है: सेटिंग्स सतह AnythingLLM की तुलना में बड़ी है, और Model Context Protocol एकीकरण ऐप के बाकी हिस्से की तुलना में नया है।
मूल्य निर्धारण:
- BSD-3 लाइसेंस के तहत मुफ़्त और खुला स्रोत।
- OSS बिल्ड के लिए कोई भुगतान स्तर नहीं।
- बनाम AnythingLLM: तुलनीय संसाधन पदचिह्न, अधिक परिपक्व बहु-उपयोगकर्ता कहानी।
AnythingLLM से माइग्रेट करना: दस्तावेज़ों को फिर से तैयार करना होगा। प्रॉम्प्ट संग्रह पाठ के रूप में कॉपी करें। वेक्टर स्टोर स्थानांतरित नहीं होता है, चालन पर पुनः-एम्बेड करने की योजना बनाएं।
डाउनलोड करें: openwebui.com
निचली पंक्ति: सामग्रिक सर्वश्रेष्ठ विकल्प यदि एक से अधिक व्यक्ति कार्यक्षेत्र को छूता है, केवल एक नहीं।
LM Studio — वन-क्लिक लोकल चैट के लिए सर्वश्रेष्ठ
LM Studio Windows, macOS और Linux के लिए एक नेटिव डेस्कटॉप ऐप है। यह llama.cpp और MLX रनटाइम, एक मॉडल कैटलॉग जो मशीन के RAM के लिए सही quant दिखाता है, और एक चैट UI जो काम करता है। हाल के संस्करणों में उन टूल्स के लिए एक स्थानीय OpenAI-संगत सर्वर जोड़ा गया जो वह API बोलते हैं।
जहां यह कम पड़ता है: RAG कहानी बुनियादी है, एक PDF के साथ चैट काम करता है, मल्टी-डॉक वर्कस्पेस शैली खोज नहीं करता है। बंद स्रोत।
मूल्य निर्धारण:
- व्यक्तिगत उपयोग के लिए मुफ़्त।
- व्यावसायिक उपयोग के लिए LM Studio टीम से संपर्क करना आवश्यक है।
AnythingLLM से माइग्रेट करना: उन टूल्स को इंगित करें जो AnythingLLM के स्थानीय सर्वर को LM Studio सर्वर पर मार रहे थे, कार्यक्षेत्र अवधारणा को छोड़ दें।
डाउनलोड करें: lmstudio.ai
निचली पंक्ति: यदि लक्ष्य एक स्थानीय मॉडल चलाना और उससे बात करना है, तो यह चुनें, ज्ञान आधार नहीं बनाना है।
Msty — मॉडल्स को साथ-साथ तुलना करने के लिए सर्वश्रेष्ठ
Msty एक नेटिव ऐप है जिसका हस्ताक्षर स्प्लिट-पैन चैट है: एक ही प्रॉम्प्ट को दो या तीन मॉडल को भेजें और समानांतर में उत्तर पढ़ें। यह Ollama और LM Studio के माध्यम से स्थानीय मॉडल, दूरस्थ API और दस्तावेज़ कार्यक्षेत्र के लिए अपने स्वयं के “Knowledge Stack” का समर्थन करता है।
जहां यह कम पड़ता है: बंद स्रोत। Aura के लिए मूल्य निर्धारण मॉडल, भुगतान स्तर, लॉन्च के बाद से बदल गया है।
मूल्य निर्धारण:
- मुक्त स्तर अधिकांश एकल-उपयोगकर्ता वर्कफ़्लो को कवर करता है।
- सिंक, टीम और प्रीमियम सुविधाओं के लिए Aura सदस्यता।
AnythingLLM से माइग्रेट करना: Knowledge Stack फ़ोल्डर को सीधे स्वीकार करता है। चैट इतिहास डिफ़ॉल्ट रूप से स्थानीय रहता है।
डाउनलोड करें: msty.app
निचली पंक्ति: ऐप जब जवाब सही मॉडल चुनने पर निर्भर करता है, तो केवल कोई भी स्थानीय मॉडल नहीं चलाता है।
Jan — सर्वश्रेष्ठ ओपन-सोर्स LM Studio
Jan यह है कि LM Studio एक ओपन-सोर्स प्रोजेक्ट के रूप में कैसा दिखता है: नेटिव डेस्कटॉप ऐप, बिल्ट-इन llama.cpp रनटाइम, मॉडल हब, और एक्सटेंशन के लिए प्लगइन सिस्टम। टीम साप्ताहिक रूप से भेज देती है और अब स्थानीय मॉडल के साथ दूरस्थ प्रदाताओं का समर्थन करती है।
जहां यह कम पड़ता है: RAG एक बीटा सुविधा है। पुराने लैपटॉप पर यह tuned LM Studio बिल्ड की तुलना में भारी हो सकता है।
मूल्य निर्धारण:
- AGPL के तहत मुफ़्त और खुला स्रोत।
AnythingLLM से माइग्रेट करना: मॉडल Jan के हब से फिर से डाउनलोड करते हैं। दस्तावेज़ बीटा RAG प्लगइन में फ़ोल्डर-आधारित संदर्भ के रूप में स्थानांतरित होते हैं।
डाउनलोड करें: jan.ai
निचली पंक्ति: ईमानदार ओपन-सोर्स पिक जब लाइसेंसिंग पूर्ण पॉलिश की तुलना में अधिक महत्वपूर्ण है।
LibreChat — यदि प्रत्येक प्रदाता महत्वपूर्ण है तो सर्वश्रेष्ठ
LibreChat ChatGPT जैसा दिखता है और लगभग हर प्रदाता से बात करता है जिसके पास एक API है: OpenAI, Anthropic, Google, Groq, प्लस Ollama के माध्यम से स्थानीय मॉडल। बहु-उपयोगकर्ता, स्व-होस्ट किया गया, और खुले तौर पर विस्तारशील।
जहां यह कम पड़ता है: स्थानीय-प्रथम वर्कफ़्लो के लिए Ollama पुल की आवश्यकता होती है, जो एक और चलती भाग है। RAG Open WebUI की तुलना में कम परिपक्व है।
मूल्य निर्धारण:
- MIT के तहत मुफ़्त और खुला स्रोत।
AnythingLLM से माइग्रेट करना: मॉडल कॉन्फ़िगरेशन कॉपी करें, Ollama कनेक्ट करें, LibreChat प्रीसेट में दस्तावेज़ अपलोड करें।
डाउनलोड करें: librechat.ai
निचली पंक्ति: जब एक टीम पहले से तीन या चार प्रदाताओं को जुगलबंदी कर रही है तो चुनें एक इनबॉक्स चाहता है।
GPT4All — हल्के ऑफ़लाइन चैट के लिए सर्वश्रेष्ठ
GPT4All Nomic से एक नेटिव चैट ऐप है जो जब आवश्यक हो तब CPU पर पूरी तरह से चलता है। मॉडल कैटलॉग LM Studio की तुलना में छोटा है, लेकिन हर मॉडल ऑफ़लाइन उपयोग के लिए चुना जाता है। हाल के बिल्ड में LocalDocs, एक फ़ोल्डर-आधारित दस्तावेज़ चैट सुविधा जोड़ी गई है।
जहां यह कम पड़ता है: गति CPU पर बहुत निर्भर करती है। प्लगइन पारिस्थितिकी Jan या Open WebUI की तुलना में शांत है।
मूल्य निर्धारण:
- MIT के तहत मुफ़्त और खुला स्रोत।
- एक वैकल्पिक Nomic खाता Atlas-शैली डेटासेट सुविधाएं अनलॉक करता है।
AnythingLLM से माइग्रेट करना: LocalDocs PDF के फ़ोल्डर केस को साफ-सुथरा संभालता है। एजेंट वर्कफ़्लो स्थानांतरित नहीं होते हैं।
डाउनलोड करें: gpt4all.io
निचली पंक्ति: मशीनों के लिए विकल्प जहां AnythingLLM सुस्त महसूस करता है, अलग GPU के बिना।
Text Generation WebUI — छेड़छाड़ के लिए सर्वश्रेष्ठ
Text Generation WebUI (oobabooga) पावर-यूजर फ्रंटएंड है। यह सैम्पलर, प्रॉम्प्ट फॉर्मेट, LoRA, चरित्र और हर बैकएंड का पर्दाफाश करता है: llama.cpp, ExLlama, Transformers, और बहुत कुछ। एक्सटेंशन लगभग मासिक आते हैं।
जहां यह कम पड़ता है: सेटअप पहले Python पर्यावरण और दूसरे चैट ऐप है। उन लोगों के लिए नहीं जो क्लिक करना और जाना चाहते हैं।
मूल्य निर्धारण:
- AGPL के तहत मुफ़्त और खुला स्रोत।
AnythingLLM से माइग्रेट करना: इसे पूर्ण रीसेट के रूप में मानें। AnythingLLM और यह ऐप के लिए दर्शक शायद ही कभी ओवरलैप करते हैं।
डाउनलोड करें: github.com/oobabooga/text-generation-webui
निचली पंक्ति: जब दिलचस्प समस्या मॉडल है, तो इंटरफेस नहीं, तो चुनें।
कैसे चुनें
Open WebUI चुनें यदि एक से अधिक व्यक्ति कार्यक्षेत्र का उपयोग करता है, या यदि कार्यक्षेत्र सर्वर पर रहता है। यह AnythingLLM के लिए निकटतम संरचनात्मक स्वैप है।
LM Studio चुनें यदि लक्ष्य अच्छी मॉडल कैटलॉग और कोई Docker के साथ स्थानीय चैट है।
Msty चुनें यदि वर्कफ़्लो मॉडल आउटपुट को साथ-साथ तुलना करने से लाभान्वित होता है।
Jan या GPT4All चुनें यदि ओपन सोर्स और हल्के इंस्टॉल पॉलिश की तुलना में अधिक महत्वपूर्ण हैं।
LibreChat चुनें यदि दैनिक ड्राइवर दूरस्थ प्रदाताओं की घूर्णन सेट है जिसमें स्थानीय मॉडल पक्ष में हैं।
AnythingLLM पर रहें यदि वर्तमान कार्यक्षेत्र काम करते हैं और बिल्ट-इन एजेंट टूल पहले से ही स्टैक के बाकी हिस्सों के साथ एकीकृत हैं। इसके लिए स्वैप करने का कोई कारण नहीं है।
अक्सर पूछे जाने वाले प्रश्न
Open WebUI AnythingLLM से बेहतर है?
टीम उपयोग के लिए, सबसे अधिक संभावना है हाँ। Open WebUI में मजबूत RBAC, अधिक परिपक्व पाइपलाइन और ऐड-ऑन का एक बड़ा समुदाय है। एकल-उपयोगकर्ता दस्तावेज़ कार्यक्षेत्र के लिए, दोनों निकट भूमि, और AnythingLLM की मूल RAG UI कमोबेश अधिक साफ है।
AnythingLLM का सर्वश्रेष्ठ मुफ़्त विकल्प क्या है?
Open WebUI और Jan सबसे मजबूत पूरी तरह मुफ़्त विकल्प हैं। Open WebUI बहु-उपयोगकर्ता स्व-होस्ट के लिए जीतता है; Jan नेटिव डेस्कटॉप के लिए जीतता है।
क्या मैं अपने AnythingLLM कार्यक्षेत्र को दूसरे ऐप में आयात कर सकता हूं?
दस्तावेज़ फ़ाइलों के रूप में स्थानांतरित होते हैं। वेक्टर एम्बेडिंग नहीं, हर विकल्प अंतर्ग्रहण पर फिर से एम्बेड करता है, अपना मॉडल उपयोग करता है। चैट इतिहास आमतौर पर Markdown या JSON में निर्यात किया जाना चाहिए और पुनः आयात किया जाना चाहिए जब लक्ष्य ऐप इसका समर्थन करता है।
कौन सा विकल्प AnythingLLM के समान मॉडल चलाता है?
ऊपर दिए गए सभी विकल्प AnythingLLM के समान GGUF और safetensors भार स्वीकार करते हैं। Ollama सामान्य भाजक है, कुछ भी जो Ollama से बात करता है, समान मॉडल परोस सकता है।
क्या इनमें से कोई भी GPU के बिना चलते हैं?
GPT4All CPU-first पिक है। LM Studio, Jan, और Open WebUI सभी छोटे quantised मॉडल के साथ CPU पर चलते हैं लेकिन अलग GPU या Apple Silicon के साथ स्पष्ट रूप से तेजी से।
