بیاموزید چگونه ارائه‌دهندگان آنلاین و آفلاین مدل‌های زبانی بزرگ را به پلتفرم واکاو آتاناموس خود متصل کنید.
۱. معرفی
پلتفرم VAKAV Autonomous این قابلیت منحصربه‌فرد را دارد که به «مغز»های هوش مصنوعی مختلفی متصل شود. این «مغز»ها همان مدل‌های زبانی بزرگ (LLM) هستند که وظیفه تحلیل و تولید متن را بر عهده دارند. شما می‌توانید بسته به نیاز خود، از میان دو دسته اصلی از ارائه‌دهندگان مدل، یکی را انتخاب و به پلتفرم متصل کنید:
ارائه‌دهندگان آنلاین (Online Providers): سرویس‌های ابری که توسط شرکت‌هایی مانند گوگل، OpenAI و... ارائه می‌شوند.
ارائه‌دهندگان آفلاین (Offline Providers): نرم‌افزارهایی مانند Ollama که به شما اجازه می‌دهند مدل‌های زبانی را روی سرورهای شخصی خودتان اجرا کنید.
این راهنما به شما کمک می‌کند تفاوت این دو رویکرد را درک کرده و فرآیند کلی اتصال آن‌ها به آتاناموس را بیاموزید.
۲. دسترسی به بخش
تنظیمات مربوط به ارائه‌دهندگان مدل‌های زبانی در دو سطح انجام می‌شود:
سطح سراسری (Global): برای افزودن و پیکربندی کلی ارائه‌دهندگان، از منوی اصلی تنظیمات در نوار کناری، روی «ارائه‌دهندگان هوش مصنوعی» (AI Providers) کلیک کرده و سپس زیرمنوی «مدل زبانی بزرگ» (Large Language Model) را انتخاب نمایید. این بخش، تنظیمات پیش‌فرض را مدیریت می‌کند.
سطح فضای کاری (Workspace-specific): علاوه بر تنظیمات سراسری، شما می‌توانید برای هر فضای کاری به صورت مجزا، یک مدل زبانی متفاوت انتخاب کنید. برای این کار، کافی است به تنظیمات آن فضای کاری خاص رفته و از تب «تنظیمات گفتگو» (Chat Settings)، ارائه‌دهنده مدل زبانی را از حالت پیش‌فرض سیستم تغییر دهید.
۳. اجزای اصلی صفحه
صفحه تنظیمات مدل زبانی شامل بخش‌های زیر است:
انتخاب ارائه‌دهنده: یک منوی کشویی که لیستی از تمام ارائه‌دهندگان پشتیبانی‌شده را نمایش می‌دهد.
فیلدهای پیکربندی: پس از انتخاب یک ارائه‌دهنده، فیلدهای مربوط به آن ظاهر می‌شود. این فیلدها معمولاً شامل موارد زیر هستند:
کلید API (API Key): برای ارائه‌دهندگان آنلاین، مانند یک رمز عبور برای اتصال به سرویس آن‌هاست.
آدرس پایه (Base URL): برای ارائه‌دهندگان آفلاین، آدرس شبکه‌ای است که آن نرم‌افزار روی سرور شما در حال اجراست.
انتخاب مدل (Model Selection): برای انتخاب مدل خاصی که می‌خواهید از آن استفاده کنید (مثلاً gpt-css.20b).
۴. اقدامات اصلی
در ادامه، روند کلی اتصال برای هر دو نوع ارائه‌دهنده با یک مثال توضیح داده شده است.
اقدام ۱: اتصال به یک ارائه‌دهنده آنلاین (مثال: Gemini گوگل)
مرحله ۱ (مفهومی): دریافت کلید API
اولین قدم، ثبت‌نام در وب‌سایت ارائه‌دهنده (مثلاً Google AI Studio) و دریافت یک «کلید API» است. این کلید یک رشته متنی طولانی و منحصربه‌فرد است که هویت شما را برای آن سرویس مشخص می‌کند. این کلید را مانند یک رمز عبور، محرمانه نگه دارید.
مرحله ۲: انتخاب ارائه‌دهنده در آتاناموس
در صفحه تنظیمات مدل زبانی، از منوی کشویی، ارائه‌دهنده مورد نظر خود (مثلاً Gemini) را انتخاب کنید.
مرحله ۳: وارد کردن اطلاعات
فیلدهای مربوط به Gemini ظاهر می‌شود. کلید API را که از سایت گوگل دریافت کرده‌اید، در فیلد مربوطه کپی و جای‌گذاری (Paste) کنید.
مرحله ۴: ذخیره و استفاده
تنظیمات را ذخیره کنید. اکنون مدل‌های ارائه شده توسط Gemini در تمام فضاهای کاری شما قابل انتخاب و استفاده هستند.
اقدام ۲: اتصال به یک ارائه‌دهنده آفلاین (مثال: Ollama)
مرحله ۱: نصب روی سرور شخصی
این روش نیازمند آن است که ابتدا نرم‌افزار ارائه‌دهنده (مانند Ollama) توسط تیم فنی شما بر روی یکی از سرورهای سازمان نصب و راه‌اندازی شود.
مرحله ۲ :
نکته بسیار مهم: راهنمای کامل و دقیق نصب و دانلود مدل‌ها برای هر ارائه‌دهنده آفلاین، در وب‌سایت رسمی خود آن ارائه‌دهنده موجود است. برای نصب Ollama، باید به مستندات وب‌سایت ollama.com مراجعه کنید.
مرحله ۳: انتخاب ارائه‌دهنده و وارد کردن اطلاعات در آتاناموس
در صفحه تنظیمات مدل زبانی، Ollama را از لیست انتخاب کنید. سپس در فیلدهای مربوطه، اطلاعات سرور خود را وارد نمایید:
Ollama Base URL: آدرس شبکه‌ای که Ollama روی آن در حال اجراست (مثلاً http://172.17.0.1:11434).
Ollama Model: پس از اتصال موفق، می‌توانید از این بخش، مدل‌هایی را که روی سرور Ollama خود نصب کرده‌اید، انتخاب کنید.
۵. نکات و توصیه‌ها
تفاوت کلیدی آنلاین و آفلاین: راه‌حل‌های آنلاین راه‌اندازی سریع و آسانی دارند اما داده‌های شما برای پردازش به سرور آن شرکت ارسال می‌شود. راه‌حل‌های آفلاین نیازمند راه‌اندازی فنی هستند اما حداکثر امنیت و حریم خصوصی را فراهم می‌کنند، زیرا داده‌ها هرگز از شبکه سازمان شما خارج نمی‌شوند.
امنیت کلید API: کلیدهای API خود را محرمانه نگه دارید و آن‌ها را در مکان‌های عمومی به اشتراک نگذارید.
مراجعه به منبع اصلی: برای حل مشکلات فنی یا سوالات پیشرفته درباره هر ارائه‌دهنده، مستندات رسمی خود آن‌ها همیشه بهترین و کامل‌ترین مرجع است.