چت با مدل‌های AI محلی
چرا مدل‌های AI محلی؟
Ollama مدل را محلی اجرا می‌کند. ورود و ذخیره گفتگو از ابر استفاده می‌کنند و به اینترنت نیاز دارند. تغییر خودکار به مدل ابری انجام نمی‌شود.
این برای حالت عادی است. در حالت آفلاین همه‌چیز روی این رایانه می‌ماند: برنامه بدون اینترنت هم کار می‌کند و گفتگوهای جدید فقط به‌صورت محلی و رمزگذاری‌شده ذخیره می‌شوند.
چرا Ollama؟
Ollama ابزاری است که به‌سادگی می‌توانید مدل‌های AI را به‌طور محلی اجرا کنید. روی هر رایانه به‌صورت جداگانه نصب می‌شود، بنابراین محدودیتی از نظر تعداد کاربران وجود ندارد - نیازی به سرور مشترک نیست.
نصب Ollama
- به صفحه دانلود Ollama بروید
- نسخه مناسب سیستم‌عامل خود را دانلود کنید (Windows، macOS یا Linux)
- Ollama را با دنبال کردن برنامه نصب‌کننده نصب کنید
- پس از نصب، Ollama به‌طور خودکار در پس‌زمینه اجرا می‌شود
نصب یک مدل زبانی
پس از نصب Ollama باید حداقل یک مدل زبانی را دانلود کنید:
- رابط کاربری Ollama را باز کنید (از طریق آیکون نوار وظیفه یا ترمینال)
- یک مدل زبانی به انتخاب خود دانلود کنید
مدل پیشنهادی
ترجیحاً مدلی را انتخاب کنید که دارای قابلیت‌های ابزار و بینایی باشد:
- قابلیت‌های ابزار - مدل می‌تواند از تمام ابزارهای موجود در برنامه استفاده کند، مانند جستجوی اینترنت و تولید تصاویر
- قابلیت‌های بینایی - مدل می‌تواند تصاویر را تحلیل و توضیح دهد
qwen3-vl:4b-instruct تعادل خوبی بین سرعت و قابلیت‌های ابزار/بینایی دارد. این مدل را از طریق ترمینال نصب کنید:
ollama pull qwen3-vl:4b-instruct
نسخهٔ -instruct را انتخاب کنید: بی‌درنگ پاسخ می‌دهد. qwen3-vl:4b معمولی پیش از هر مرحله مدت زیادی فکر می‌کند و روی لپ‌تاپ چندین برابر کندتر است. برای مدل‌های محلی کوچک، برنامه از یک دستور کوتاه و فقط ابزارهای مرتبط با پرسش شما استفاده می‌کند. اگر همان مرحله بارها شکست بخورد، هوش مصنوعی متوقف می‌شود و می‌گوید چه چیزی انجام شد و چه چیزی نه.
انتخاب مدل بر اساس سخت‌افزار
عملکرد یک مدل تا حد زیادی به سخت‌افزار رایانه شما وابسته است:
| سخت‌افزار | توصیه |
|---|---|
| محدود (8GB RAM، بدون GPU) | مدل‌های کوچکتر (1-4B پارامتر) را انتخاب کنید |
| متوسط (16GB RAM، GPU پایه) | مدل‌ها تا 7B پارامتر |
| قوی (32GB+ RAM، GPU مدرن) | مدل‌های بزرگ‌تر احتمالاً قابل استفاده‌اند (13B+) |
یک مدل کوچکتر عموماً از نظر سرعت بهتر عمل می‌کند، اما ممکن است پاسخ‌های دقیق‌تری ارائه ندهد. برای یافتن بهترین تعادل برای وضعیت شما آزمایش کنید.
پیکربندی در برنامه دسکتاپ
به محض اینکه Ollama با یک مدل نصب‌شده اجرا شود، برنامه دسکتاپ به‌طور خودکار این را تشخیص می‌دهد. شما می‌توانید در چت مدل محلی را به‌عنوان گزینه جایگزین برای مدل‌های ابری انتخاب کنید.
در صفحه آغازین، انتخابگر زیر کادر ورودی به شما اجازه می‌دهد پیش از ارسال اولین پیام یک مدل محلی انتخاب کنید. مدل انتخاب‌شده از همان پیام اول استفاده می‌شود و بعداً نیز قابل تغییر است.
مدل‌های در دسترس با پشتیبانی ابزار/بینایی
فهرست کامل را در ollama.com/library مشاهده کنید. فیلتر کنید روی مدل‌های با:
- تگ
Toolsبرای قابلیت‌های ابزار - تگ
Visionبرای تشخیص تصاویر
گزینه‌های محبوب:
qwen3-vl:4b-instruct- جمع‌وجور، سریع، ابزار + بیناییllama3.2-vision- قابلیت‌های بیناییmistral- کارهای عمومی سریع
خواندن محلی اسناد و اسکن‌ها
با یک مدل محلی، برنامهٔ دسکتاپ اسناد را روی رایانهٔ خودتان می‌خواند. چیزی بارگذاری نمی‌شود.
- پوشهٔ کاری: در یک پوشهٔ تأییدشده، هوش مصنوعی فایل‌های Word، PowerPoint، Excel، PDF، OpenDocument (ODT، ODP، ODS) و RTF را می‌خواند. فایل‌های قدیمی .doc و .ppt فقط وقتی خوانده می‌شوند که LibreOffice نصب باشد.
- اسکن‌ها و عکس‌ها: صفحه‌های PDF اسکن‌شده، تصاویر (PNG، JPG، WebP، TIFF) و تصاویر داخل فایل‌های Word و PowerPoint با تشخیص متن (OCR) خوانده می‌شوند. OCR همراه برنامه ارائه می‌شود و هلندی، انگلیسی، آلمانی و فرانسوی را تشخیص می‌دهد. در گفتگو می‌بینید کدام صفحه در حال خواندن است؛ یک اسکن طولانی ممکن است چند دقیقه طول بکشد. از هر سند حداکثر ۱۰۰ صفحه با OCR خوانده می‌شود.
- تشخیص نامطمئن: وقتی تشخیص متن نامطمئن است، هوش مصنوعی آن را اعلام می‌کند. در این صورت نام‌ها، اعداد و مبالغ را در نسخهٔ اصلی بررسی کنید. دست‌نوشته، جدول‌ها و نمودارها همیشه درست تشخیص داده نمی‌شوند.
- مدل تصویر: اگر مدل انتخاب‌شده قابلیت بینایی داشته باشد (مانند
qwen3-vl:4b-instruct)، خود مدل تصاویری را که تشخیص متن در آن‌ها کم یا نامطمئن می‌خواند بررسی می‌کند. بدون GPU این کار بیشتر طول می‌کشد. - عکس‌های iPhone (HEIC): ابتدا آن‌ها را با قالب JPEG یا PNG ذخیره کنید.
با یک مدل ابری هم برنامه اسناد پوشهٔ کاری را روی رایانهٔ شما می‌خواند، اما متن خوانده‌شده به‌عنوان بخشی از گفتگو برای آن مدل فرستاده می‌شود.
کار بدون اینترنت، از جمله با پیوست‌ها در گفتگو: حالت آفلاین را ببینید.