آموزش و راهنما

AI Router چیست؟ راهنمای جامع مسیریابی هوشمند درخواست‌ها بین مدل‌های هوش مصنوعی

AI Router یکی از مهم‌ترین اجزای زیرساخت هوش مصنوعی مدرن است که درخواست‌های کاربران را به مناسب‌ترین مدل هوش مصنوعی هدایت می‌کند. در این مقاله با مفهوم AI Router، معماری، Auto Routing، Fallback، بهینه‌سازی هزینه، انتخاب مدل و نحوۀ استفاده از AI Router در API درواره آشنا خواهید شد.

آنچه در این مقاله می‌خوانید

AI Router چیست؟
چرا به AI Router نیاز داریم؟
معماری AI Router
انواع روش‌های مسیریابی
Auto Routing
Fallback
Load Balancing
کاهش هزینه استفاده از مدل‌ها
AI Router در Agentها
AI Router در API درواره
پرسش‌های متداول
جمع‌بندی

مقدمه

تا چند سال پیش، انتخاب مدل هوش مصنوعی تصمیم ساده‌ای بود.

بیشتر توسعه‌دهندگان تنها با یک مدل کار می‌کردند و تمام درخواست‌های خود را به همان مدل ارسال می‌کردند.

اما امروز شرایط کاملاً تغییر کرده است.

اکنون ده‌ها مدل قدرتمند از شرکت‌های مختلف در دسترس هستند.

برای مثال:

GPT
Claude
Gemini
Qwen
DeepSeek
Llama
Mistral
Grok
Kimi
GLM

هر کدام از این مدل‌ها نقاط قوت، محدودیت‌ها، سرعت، قیمت و قابلیت‌های متفاوتی دارند.

برخی برای برنامه‌نویسی مناسب‌تر هستند.

برخی در تحلیل اسناد عملکرد بهتری دارند.

برخی هزینه بسیار پایین‌تری دارند.

برخی Context بسیار بزرگ‌تری ارائه می‌کنند.

در چنین شرایطی، یک سؤال مهم مطرح می‌شود.

اگر برای هر درخواست بهترین مدل متفاوت باشد، چگونه باید تصمیم بگیریم درخواست به کدام مدل ارسال شود؟

پاسخ این سؤال، مفهومی به نام AI Router است.

امروزه AI Router یکی از مهم‌ترین اجزای زیرساخت هوش مصنوعی مدرن محسوب می‌شود و تقریباً تمام پلتفرم‌های بزرگ هوش مصنوعی از نوعی Router برای مدیریت درخواست‌ها استفاده می‌کنند.

اگر از چندین مدل هوش مصنوعی استفاده می‌کنید یا قصد دارید در آینده از مدل‌های مختلف بهره ببرید، درک مفهوم AI Router اهمیت بسیار زیادی خواهد داشت.

در این مقاله، به‌صورت کامل بررسی می‌کنیم AI Router چیست، چگونه کار می‌کند، چه مزایایی دارد و چگونه می‌توانید از طریق API درواره از قابلیت‌های آن استفاده کنید.

AI Router چیست؟

AI Router سیستمی است که قبل از ارسال درخواست به مدل هوش مصنوعی، تصمیم می‌گیرد کدام مدل بهترین انتخاب برای آن درخواست است.

به بیان ساده، AI Router مانند یک مدیر ترافیک عمل می‌کند.

فرض کنید درخواست‌های زیر به سیستم ارسال می‌شوند.

درخواست اول:

این قرارداد حقوقی را تحلیل کن.

درخواست دوم:

این کد Python را Refactor کن.

درخواست سوم:

یک متن تبلیغاتی برای اینستاگرام بنویس.

درخواست چهارم:

این تصویر را تحلیل کن.

آیا منطقی است که تمام این درخواست‌ها به یک مدل ارسال شوند؟

در بسیاری از موارد، خیر.

هر مدل برای برخی وظایف عملکرد بهتری دارد.

AI Router دقیقاً برای حل همین مسئله طراحی شده است.

به‌جای اینکه توسعه‌دهنده برای هر درخواست تصمیم بگیرد، Router این تصمیم را به‌صورت خودکار انجام می‌دهد.

یک مثال ساده

فرض کنید وارد یک بیمارستان می‌شوید.

پزشک عمومی ابتدا علائم شما را بررسی می‌کند.

اگر مشکل قلب باشد، شما را به متخصص قلب ارجاع می‌دهد.

اگر مشکل پوست باشد، متخصص پوست.

اگر مشکل چشم باشد، چشم‌پزشک.

AI Router دقیقاً همین نقش را برای مدل‌های هوش مصنوعی ایفا می‌کند.

ابتدا درخواست را تحلیل می‌کند.

سپس مناسب‌ترین مدل را انتخاب می‌کند.

در نتیجه کیفیت پاسخ افزایش پیدا می‌کند و هزینه نیز کاهش می‌یابد.

چرا AI Router به وجود آمد؟

در سال‌های ابتدایی توسعه مدل‌های زبانی، معمولاً تنها یک مدل در اختیار توسعه‌دهندگان قرار داشت.

اما امروز شرایط کاملاً متفاوت است.

تقریباً هر ماه مدل‌های جدیدی منتشر می‌شوند.

برای مثال ممکن است امروز:

یک مدل بهترین گزینه برای برنامه‌نویسی باشد.

مدل دیگری برای تحلیل اسناد مناسب‌تر باشد.

مدلی دیگر هزینه بسیار کمتری داشته باشد.

مدلی دیگر سرعت بیشتری ارائه کند.

اگر تمام درخواست‌ها را به یک مدل ارسال کنیم، معمولاً یکی از مشکلات زیر ایجاد می‌شود.

افزایش هزینه
کاهش کیفیت
افزایش زمان پاسخ
محدود شدن به یک ارائه‌دهنده
کاهش پایداری سیستم

AI Router برای حل این مشکلات ایجاد شده است.

چرا استفاده از یک مدل کافی نیست؟

یکی از بزرگ‌ترین اشتباهاتی که بسیاری از تیم‌ها مرتکب می‌شوند این است که تصور می‌کنند یک مدل می‌تواند برای تمام کاربردها بهترین گزینه باشد.

در عمل چنین اتفاقی بسیار نادر است.

برای مثال، فرض کنید در یک روز این درخواست‌ها را دریافت می‌کنید.

تولید کد
خلاصه‌سازی کتاب
تحلیل فایل PDF
تولید تصویر
استخراج داده
ترجمه
پاسخ‌گویی به مشتری
تولید SQL
تحلیل فایل اکسل
تولید گزارش مدیریتی

آیا واقعاً یک مدل در تمام این حوزه‌ها بهترین عملکرد را دارد؟

خیر.

همان‌طور که در دنیای نرم‌افزار از ابزارهای مختلف برای کارهای متفاوت استفاده می‌کنیم، در دنیای هوش مصنوعی نیز هر مدل نقاط قوت خاص خود را دارد.

به همین دلیل، معماری‌های مدرن به سمت استفاده از چندین مدل و یک AI Router حرکت کرده‌اند.

AI Router چگونه کار می‌کند؟

در ساده‌ترین حالت، معماری AI Router به شکل زیر است.

Application

↓

AI Router

↓

Routing Engine

↓

Claude
GPT
Gemini
DeepSeek
Qwen
Llama
Mistral
...

در این معماری، برنامه شما دیگر مستقیماً با مدل‌ها ارتباط برقرار نمی‌کند.

تمام درخواست‌ها ابتدا وارد AI Router می‌شوند.

Router درخواست را بررسی می‌کند.

سپس بر اساس قوانین مشخص، مناسب‌ترین مدل را انتخاب می‌کند.

در نهایت پاسخ مدل را دریافت کرده و به برنامه بازمی‌گرداند.

این موضوع باعث می‌شود برنامه شما هیچ وابستگی مستقیمی به یک مدل خاص نداشته باشد.

اگر فردا مدل جدیدی منتشر شود، معمولاً فقط Router به‌روزرسانی می‌شود و نیازی به تغییر کد اصلی برنامه نخواهد بود.

AI Router چه اطلاعاتی را بررسی می‌کند؟

پیش از انتخاب مدل، Router معمولاً اطلاعات مختلفی را تحلیل می‌کند.

برای مثال:

نوع درخواست
طول Prompt
تعداد توکن‌ها
نیاز به تصویر
نیاز به صوت
نیاز به Tool Calling
بودجۀ تعیین‌شده
سرعت موردنیاز
کیفیت مورد انتظار
محدودیت‌های کاربر
وضعیت لحظه‌ای مدل‌ها
میزان تأخیر هر Provider

هرچه Router اطلاعات بیشتری در اختیار داشته باشد، انتخاب دقیق‌تری انجام خواهد داد.

به همین دلیل، AI Router یکی از مهم‌ترین اجزای سیستم‌های مبتنی بر Multi Provider محسوب می‌شود.

پرسش و پاسخ

آیا AI Router خودش یک مدل هوش مصنوعی است؟

خیر. AI Router یک مدل زبانی نیست و خودش هیچ متنی تولید نمی‌کند. وظیفۀ آن تحلیل درخواست، بررسی قوانین مسیریابی و انتخاب مناسب‌ترین مدل هوش مصنوعی برای اجرای آن درخواست است. به همین دلیل، AI Router را می‌توان لایۀ تصمیم‌گیری میان برنامه و مدل‌های هوش مصنوعی دانست.

انواع AI Routing؛ چگونه AI Router بهترین مدل را انتخاب می‌کند؟

اکنون که با مفهوم AI Router آشنا شدیم، سؤال مهم بعدی این است:

Router دقیقاً بر چه اساسی تصمیم می‌گیرد درخواست به کدام مدل ارسال شود؟

پاسخ این سؤال به نوع Router بستگی دارد.

همۀ AI Routerها به یک شکل عمل نمی‌کنند.

برخی تنها بر اساس قوانین ساده تصمیم می‌گیرند، برخی شرایط لحظه‌ای سیستم را بررسی می‌کنند و نسل جدید Routerها حتی خودشان نیز از هوش مصنوعی برای انتخاب بهترین مدل استفاده می‌کنند.

در ادامه با رایج‌ترین روش‌های مسیریابی آشنا می‌شویم.

Manual Routing

ساده‌ترین نوع AI Routing، مسیریابی دستی است.

در این روش، خود توسعه‌دهنده مشخص می‌کند که هر درخواست باید به کدام مدل ارسال شود.

برای مثال:

اگر کاربر دکمۀ "برنامه‌نویسی" را انتخاب کرد
↓

Claude

اگر "تولید تصویر" را انتخاب کرد
↓

مدل تولید تصویر

اگر "ترجمه" را انتخاب کرد
↓

مدل دیگر

در این معماری، Router تصمیم خاصی نمی‌گیرد.

بلکه فقط درخواست را به مدلی که از قبل تعیین شده ارسال می‌کند.

مزایا

بسیار ساده
قابل پیش‌بینی
مناسب پروژه‌های کوچک

معایب

انعطاف‌پذیری پایین
نیاز به تغییر کد هنگام اضافه شدن مدل جدید
عدم استفاده از شرایط لحظه‌ای سیستم

به همین دلیل، Manual Routing معمولاً در پروژه‌های بزرگ استفاده نمی‌شود.

Rule-Based Routing

مرحله بعدی، استفاده از قوانین است.

در این روش، Router مجموعه‌ای از Ruleها را بررسی می‌کند.

برای مثال:

اگر تعداد توکن کمتر از ۳۰۰۰ باشد

↓

مدل اقتصادی

اگر Prompt شامل کلمات Code یا Python باشد

↓

مدل تخصصی برنامه‌نویسی

اگر درخواست شامل تصویر باشد

↓

مدل چندرسانه‌ای

اگر بودجۀ کاربر محدود باشد

↓

مدل ارزان‌تر

در این روش، تصمیم‌گیری خودکار انجام می‌شود اما همچنان بر اساس قوانینی است که توسعه‌دهنده از قبل تعریف کرده است.

مزایا

قابل کنترل
قابل پیش‌بینی
مناسب بیشتر پروژه‌های سازمانی

معایب

افزایش تعداد Ruleها مدیریت سیستم را دشوار می‌کند.
قوانین ثابت نمی‌توانند همۀ شرایط را پوشش دهند.

Dynamic Routing

در نسل جدید Routerها، شرایط لحظه‌ای سیستم نیز در تصمیم‌گیری دخالت داده می‌شود.

برای مثال، Router ممکن است این موارد را بررسی کند:

زمان پاسخ هر مدل
میزان بار هر Provider
نرخ خطا
در دسترس بودن سرویس
صف درخواست‌ها
محدودیت Rate Limit
هزینۀ لحظه‌ای

فرض کنید دو مدل کیفیت تقریباً یکسانی دارند.

اگر یکی از آن‌ها در همان لحظه با تأخیر زیاد پاسخ دهد، Router می‌تواند مدل دیگر را انتخاب کند.

این همان چیزی است که Dynamic Routing را بسیار ارزشمند می‌کند.

AI-Based Routing

جدیدترین نسل Routerها، خودشان نیز از هوش مصنوعی برای تصمیم‌گیری استفاده می‌کنند.

در این معماری، Router ابتدا Prompt را تحلیل می‌کند.

سپس با استفاده از یک مدل سبک‌تر تشخیص می‌دهد:

موضوع چیست؟
چه میزان استدلال نیاز دارد؟
آیا به Tool Calling احتیاج است؟
آیا Context طولانی لازم است؟
آیا پاسخ سریع مهم‌تر از کیفیت است؟

سپس بهترین مدل انتخاب می‌شود.

در واقع، یک مدل هوش مصنوعی تصمیم می‌گیرد که درخواست به کدام مدل دیگر ارسال شود.

به همین دلیل به آن AI Router گفته می‌شود.

مقایسۀ چهار روش

روش	سرعت	کیفیت انتخاب	پیچیدگی
Manual Routing	بسیار زیاد	پایین	بسیار کم
Rule-Based Routing	زیاد	متوسط	کم
Dynamic Routing	زیاد	بالا	متوسط
AI-Based Routing	متوسط	بسیار بالا	زیاد

در عمل، بسیاری از شرکت‌ها از ترکیبی از این روش‌ها استفاده می‌کنند.

برای مثال:

ابتدا چند Rule ساده اجرا می‌شود.

اگر هیچ Ruleای برقرار نبود،

Router از AI برای تصمیم‌گیری استفاده می‌کند.

این روش هم سرعت بالایی دارد و هم کیفیت تصمیم‌گیری را افزایش می‌دهد.

معیارهای تصمیم‌گیری AI Router

یک Router حرفه‌ای تنها به نوع درخواست نگاه نمی‌کند.

بلکه مجموعه‌ای از معیارها را بررسی می‌کند.

کیفیت مدل

برای برخی وظایف، کیفیت مهم‌ترین معیار است.

برای مثال:

تحلیل حقوقی
تولید کد
طراحی معماری
تحلیل قرارداد

در این شرایط، Router ممکن است مدل قدرتمندتری انتخاب کند.

سرعت

گاهی کیفیت مهم نیست.

برای مثال:

دسته‌بندی متن
خلاصه‌سازی کوتاه
تولید عنوان
اصلاح نگارش

در این شرایط، انتخاب مدل سریع‌تر منطقی‌تر است.

هزینه

در پروژه‌هایی که روزانه میلیون‌ها درخواست ارسال می‌شود، اختلاف چند سنت در هر درخواست می‌تواند هزینه نهایی را به شکل قابل توجهی افزایش دهد.

Router می‌تواند با انتخاب مدل مناسب، این هزینه را کاهش دهد.

Context Window

فرض کنید کاربر یک فایل ۴۰۰ صفحه‌ای بارگذاری کرده است.

طبیعتاً همۀ مدل‌ها توان پردازش چنین Context بزرگی را ندارند.

Router این موضوع را نیز در نظر می‌گیرد.

قابلیت‌های مدل

برخی مدل‌ها از قابلیت‌هایی مانند:

Tool Calling
Structured Output
Image Understanding
Audio
Video

پشتیبانی می‌کنند.

اگر درخواست به چنین قابلیت‌هایی نیاز داشته باشد، Router مدل مناسب را انتخاب خواهد کرد.

Auto Routing چیست؟

یکی از جذاب‌ترین قابلیت‌های AI Router، Auto Routing است.

در این روش، توسعه‌دهنده دیگر لازم نیست هنگام هر درخواست مدل را انتخاب کند.

کافی است درخواست ارسال شود.

Router خودش تصمیم می‌گیرد.

برای مثال:

کاربر:

این قرارداد را تحلیل کن.

Router:

تحلیل می‌کند.

↓

مدل مناسب اسناد را انتخاب می‌کند.

کاربر:

این پروژه Laravel را Refactor کن.

Router:

تحلیل می‌کند.

↓

مدل مناسب برنامه‌نویسی را انتخاب می‌کند.

کاربر:

این تصویر را توضیح بده.

Router:

مدل چندوجهی (Multimodal) را انتخاب می‌کند.

این دقیقاً همان تجربه‌ای است که بسیاری از کاربران انتظار دارند.

مزایای Auto Routing

استفاده از Auto Routing مزایای زیادی دارد.

از جمله:

افزایش کیفیت پاسخ‌ها
کاهش هزینه
کاهش وابستگی به یک مدل
ساده‌تر شدن توسعۀ نرم‌افزار
امکان اضافه شدن مدل‌های جدید بدون تغییر برنامه
انتخاب هوشمندانه بر اساس شرایط واقعی

به همین دلیل، تقریباً تمام زیرساخت‌های مدرن هوش مصنوعی به سمت Auto Routing حرکت کرده‌اند.

آیا همیشه Auto Routing بهترین انتخاب است؟

خیر.

گاهی توسعه‌دهنده دقیقاً می‌داند از چه مدلی می‌خواهد استفاده کند.

برای مثال:

انجام آزمون‌های مقایسه‌ای
تست یک مدل خاص
استفاده از قابلیت انحصاری یک مدل
رعایت الزامات یک مشتری

در این شرایط، انتخاب دستی مدل همچنان بهترین گزینه خواهد بود.

به همین دلیل، بیشتر AI Routerهای حرفه‌ای هر دو حالت را پشتیبانی می‌کنند:

انتخاب دستی مدل
انتخاب خودکار مدل

تا توسعه‌دهنده بسته به نیاز خود از هر کدام استفاده کند.

پرسش و پاسخ

آیا Auto Routing همیشه باعث کاهش هزینه می‌شود؟

در بسیاری از موارد بله، اما نه همیشه. اگر Auto Router به‌درستی طراحی شده باشد، می‌تواند برای درخواست‌های ساده از مدل‌های اقتصادی‌تر و برای وظایف پیچیده از مدل‌های قدرتمندتر استفاده کند و در نتیجه هزینه کلی کاهش یابد. با این حال، اگر قوانین مسیریابی مناسب تعریف نشده باشند یا معیارهای انتخاب مدل به‌درستی تنظیم نشوند، ممکن است Router مدل‌های گران‌تر را بیش از حد لازم انتخاب کند و هزینه افزایش یابد.

Fallback، Load Balancing و Cost Optimization؛ ویژگی‌هایی که یک AI Router را حرفه‌ای می‌کنند

تا اینجا دیدیم که AI Router چگونه مناسب‌ترین مدل را انتخاب می‌کند.

اما در دنیای واقعی، انتخاب مدل تنها بخشی از مسئله است.

فرض کنید بهترین مدل را انتخاب کرده‌اید، اما درست در لحظۀ ارسال درخواست یکی از اتفاقات زیر رخ می‌دهد:

مدل در دسترس نیست.
Provider با خطا مواجه شده است.
محدودیت Rate Limit اعمال شده است.
زمان پاسخ بیش از حد طولانی شده است.
ظرفیت سرویس تکمیل شده است.
اتصال شبکه با مشکل روبه‌رو شده است.

در چنین شرایطی چه اتفاقی می‌افتد؟

اگر هیچ راهکاری وجود نداشته باشد، کاربر تنها یک پیام خطا دریافت خواهد کرد.

اما AI Routerهای مدرن برای این سناریوها نیز راه‌حل دارند.

سه قابلیت مهم که باعث می‌شوند یک Router در محیط Production قابل اعتماد باشد عبارت‌اند از:

Fallback
Load Balancing
Cost Optimization

این سه قابلیت، تفاوت میان یک Router ساده و یک زیرساخت حرفه‌ای هوش مصنوعی را مشخص می‌کنند.

Fallback چیست؟

Fallback به معنای انتخاب یک مسیر جایگزین در صورت بروز مشکل است.

به زبان ساده، اگر مدل اول نتواند پاسخ مناسبی ارائه کند، AI Router به‌طور خودکار درخواست را به مدل دیگری ارسال می‌کند.

کاربر معمولاً متوجه این جابه‌جایی نمی‌شود و تنها پاسخ نهایی را دریافت می‌کند.

به همین دلیل، Fallback یکی از مهم‌ترین قابلیت‌های زیرساخت‌های هوش مصنوعی محسوب می‌شود.

یک مثال ساده از Fallback

فرض کنید Router ابتدا تصمیم گرفته است که درخواست به مدل Claude Sonnet 5 ارسال شود.

اما هنگام ارسال درخواست، Provider با خطای موقت مواجه می‌شود.

در این حالت، AI Router می‌تواند چنین رفتاری داشته باشد:

Request

↓

Claude Sonnet 5

↓

Error

↓

GPT

↓

Success

اگر مدل دوم نیز در دسترس نباشد، Router می‌تواند به مدل سوم مراجعه کند.

این زنجیرۀ جایگزینی تا رسیدن به یک پاسخ معتبر ادامه پیدا می‌کند.

چه زمانی Fallback فعال می‌شود؟

Fallback تنها برای Down شدن سرویس نیست.

یک Router حرفه‌ای می‌تواند در شرایط مختلف مسیر جایگزین را فعال کند.

برای مثال:

Timeout

اگر مدل در زمان مشخص پاسخ ندهد.

Rate Limit

اگر محدودیت تعداد درخواست اعمال شده باشد.

Provider Error

اگر سرویس ارائه‌دهنده با خطا مواجه شود.

Context Limit

اگر اندازه Prompt از محدودیت مدل بیشتر باشد.

قابلیت‌های مدل

اگر مدل از قابلیت موردنیاز مانند Tool Calling یا Structured Output پشتیبانی نکند.

محدودیت بودجه

اگر هزینه اجرای درخواست از بودجۀ تعیین‌شده بیشتر شود.

در همۀ این موارد، Router می‌تواند مدل مناسب دیگری را انتخاب کند.

مزایای Fallback

وجود Fallback باعث می‌شود:

دسترس‌پذیری سیستم افزایش یابد.
خطاهای کاربران کاهش پیدا کند.
وابستگی به یک Provider از بین برود.
تجربه کاربری بهبود پیدا کند.
توقف سرویس به حداقل برسد.

به همین دلیل، بسیاری از شرکت‌ها Fallback را یکی از الزامات معماری Production می‌دانند.

طراحی صحیح Fallback

یک اشتباه رایج این است که برای تمام مدل‌ها تنها یک جایگزین تعریف شود.

در عمل، بهتر است چندین سطح جایگزین وجود داشته باشد.

برای مثال:

Primary Model

↓

Secondary Model

↓

Economy Model

↓

Emergency Model

در این معماری، اگر مدل اصلی در دسترس نباشد، درخواست به ترتیب به مدل‌های جایگزین ارسال می‌شود.

این روش پایداری سیستم را به شکل قابل توجهی افزایش می‌دهد.

Load Balancing چیست؟

فرض کنید هزاران کاربر هم‌زمان از سرویس شما استفاده می‌کنند.

اگر تمام درخواست‌ها به یک مدل ارسال شوند، احتمالاً آن مدل با افزایش زمان پاسخ یا محدودیت ظرفیت مواجه خواهد شد.

در این شرایط، Load Balancing وارد عمل می‌شود.

Load Balancer بار پردازش را میان چندین مدل یا چندین Provider توزیع می‌کند.

به این ترتیب:

زمان پاسخ کاهش پیدا می‌کند.
فشار روی یک Provider کمتر می‌شود.
پایداری سیستم افزایش می‌یابد.

روش‌های رایج Load Balancing

Round Robin

در این روش، درخواست‌ها به ترتیب میان چند مدل تقسیم می‌شوند.

برای مثال:

درخواست اول → مدل اول

درخواست دوم → مدل دوم

درخواست سوم → مدل سوم

سپس این چرخه دوباره تکرار می‌شود.

پیاده‌سازی این روش ساده است، اما کیفیت یا سرعت مدل‌ها را در نظر نمی‌گیرد.

Weighted Routing

در این روش، هر مدل یک وزن مشخص دارد.

برای مثال:

مدل A → ۶۰ درصد

مدل B → ۳۰ درصد

مدل C → ۱۰ درصد

مدل‌های قوی‌تر یا ارزان‌تر می‌توانند سهم بیشتری از درخواست‌ها را دریافت کنند.

Latency-Based Routing

در این روش، Router به‌صورت لحظه‌ای زمان پاسخ مدل‌ها را اندازه‌گیری می‌کند.

درخواستی که اکنون ارسال شده است، به مدلی هدایت می‌شود که کمترین تأخیر را دارد.

این روش برای سرویس‌های بلادرنگ بسیار مناسب است.

Health-Based Routing

Router به‌طور مداوم وضعیت Providerها را بررسی می‌کند.

اگر یک Provider دچار مشکل شود، تا زمان رفع مشکل هیچ درخواست جدیدی به آن ارسال نخواهد شد.

این روش در زیرساخت‌های سازمانی بسیار رایج است.

Cost Optimization چیست؟

یکی از مهم‌ترین مزایای AI Router، کاهش هزینه استفاده از مدل‌های هوش مصنوعی است.

بسیاری از پروژه‌ها بدون Router تمام درخواست‌ها را به یک مدل قدرتمند ارسال می‌کنند.

در حالی که واقعیت این است که همۀ درخواست‌ها به چنین مدلی نیاز ندارند.

برای مثال:

درخواست:

عنوان این مقاله را کوتاه‌تر کن.

لزومی ندارد با گران‌ترین مدل اجرا شود.

اما درخواستی مانند:

معماری یک سامانه پرداخت توزیع‌شده را طراحی کن.

به احتمال زیاد به مدل قدرتمندتری نیاز دارد.

AI Router می‌تواند این تفاوت را تشخیص دهد.

چگونه Router هزینه را کاهش می‌دهد؟

یک Router حرفه‌ای معمولاً از چند راهکار استفاده می‌کند.

استفاده از مدل‌های اقتصادی برای وظایف ساده

استفاده از مدل‌های قدرتمند فقط در صورت نیاز

جلوگیری از ارسال درخواست‌های غیرضروری

انتخاب Provider با قیمت مناسب‌تر

مدیریت هوشمند Context

استفاده از Prompt Caching در صورت پشتیبانی

ترکیب این روش‌ها می‌تواند هزینه نهایی پروژه را به میزان قابل توجهی کاهش دهد.

AI Router در پروژه‌های سازمانی

در شرکت‌های بزرگ معمولاً ده‌ها یا حتی صدها سرویس مختلف از مدل‌های هوش مصنوعی استفاده می‌کنند.

اگر هر تیم مستقیماً به Provider موردنظر خود متصل شود، مشکلات متعددی ایجاد خواهد شد.

برای مثال:

مدیریت چندین API Key
نبود استاندارد واحد
کنترل دشوار هزینه‌ها
دشواری تغییر Provider
نبود گزارش متمرکز

به همین دلیل، بسیاری از سازمان‌ها یک AI Router مرکزی ایجاد می‌کنند و تمام سرویس‌ها را به آن متصل می‌کنند.

این معماری مدیریت و نگهداری سیستم را بسیار ساده‌تر می‌کند.

AI Router در درواره

درواره نیز بر همین معماری استوار است.

به‌جای اینکه توسعه‌دهندگان مستقیماً به هر Provider متصل شوند، می‌توانند از یک API سازگار با OpenAI استفاده کنند و مدیریت مدل‌ها را به زیرساخت درواره بسپارند.

Base URL:

https://api.darvareh.ir/v1

این رویکرد چند مزیت مهم دارد:

یک API برای دسترسی به صدها مدل
امکان تغییر مدل بدون تغییر کد برنامه
پشتیبانی از معماری Multi Provider
آمادگی برای پیاده‌سازی Fallback و Auto Routing
مدیریت متمرکز کلیدهای API
پرداخت ریالی
مستندات فارسی

برای تیم‌هایی که به‌دنبال ساخت نرم‌افزارهای مقیاس‌پذیر هستند، چنین معماری باعث می‌شود در آینده نیز بتوانند مدل‌های جدید را بدون تغییر ساختار اصلی پروژه به کار بگیرند.

پرسش و پاسخ

آیا Fallback باعث می‌شود همیشه پاسخ یکسانی دریافت کنیم؟

خیر. هر مدل ویژگی‌ها، سبک پاسخ‌گویی و توانایی‌های خاص خود را دارد. اگر AI Router به دلیل خطا یا عدم دسترس‌پذیری از یک مدل جایگزین استفاده کند، ممکن است پاسخ از نظر نگارش، جزئیات یا حتی نحوۀ استدلال با پاسخ مدل اصلی تفاوت داشته باشد. هدف Fallback حفظ دسترس‌پذیری و تداوم سرویس است، نه تولید خروجی کاملاً یکسان.

AI Router در عمل؛ چگونه درخواست‌ها در پروژه‌های واقعی مسیریابی می‌شوند؟

تا اینجا با مفاهیم AI Router، Auto Routing، Fallback و Load Balancing آشنا شدیم.

اما یک سؤال مهم باقی می‌ماند.

در یک پروژه واقعی، AI Router دقیقاً چگونه تصمیم می‌گیرد؟

در این بخش چند سناریوی عملی را بررسی می‌کنیم که نشان می‌دهند AI Router چگونه می‌تواند کیفیت پاسخ‌ها را افزایش دهد، هزینه را کاهش دهد و پایداری سیستم را بهبود بخشد.

سناریوی اول؛ دستیار برنامه‌نویسی

فرض کنید در حال توسعه یک ابزار مشابه Cursor یا Cline هستید.

کاربران درخواست‌های مختلفی ارسال می‌کنند.

برای مثال:

این تابع را Refactor کن.
برای این API تست بنویس.
این خطا را تحلیل کن.
این پروژه را مستندسازی کن.
معماری پروژه را بررسی کن.

آیا همۀ این درخواست‌ها به یک مدل نیاز دارند؟

خیر.

یک AI Router می‌تواند چنین تصمیمی بگیرد:

Refactoring

↓

مدل تخصصی برنامه‌نویسی

Code Review

↓

مدل دارای قدرت استدلال بیشتر

Documentation

↓

مدل مناسب تولید متن

Test Generation

↓

مدل تخصصی تولید کد

در این معماری، کاربر هیچ تفاوتی احساس نمی‌کند.

او تنها یک درخواست ارسال می‌کند و Router بهترین مدل را انتخاب می‌کند.

سناریوی دوم؛ پلتفرم خدمات مشتریان

فرض کنید یک شرکت روزانه صد هزار پیام از مشتریان دریافت می‌کند.

همۀ این پیام‌ها یکسان نیستند.

برای مثال:

سلام، ساعات کاری شما چیست؟
وضعیت سفارش من چیست؟
این قرارداد را بررسی کنید.
این فایل PDF را تحلیل کنید.

ارسال تمام این درخواست‌ها به قدرتمندترین مدل موجود، هزینۀ بسیار زیادی ایجاد می‌کند.

AI Router می‌تواند پیام‌ها را دسته‌بندی کند.

درخواست‌های ساده به مدل‌های سریع و اقتصادی ارسال شوند.

درخواست‌های پیچیده به مدل‌های پیشرفته‌تر.

به این ترتیب، بدون کاهش محسوس کیفیت، هزینه به شکل قابل توجهی کاهش پیدا می‌کند.

سناریوی سوم؛ سیستم تولید محتوا

فرض کنید کاربران یک سامانه تولید محتوا درخواست‌های زیر را ارسال می‌کنند.

نوشتن مقاله
تولید عنوان
تولید توضیحات محصول
ترجمه
بازنویسی متن
خلاصه‌سازی

همۀ این وظایف نیاز یکسانی ندارند.

AI Router می‌تواند:

وظایف ساده را با مدل‌های سریع انجام دهد.
مقالات طولانی را به مدل‌هایی با توان نگارش بالاتر ارسال کند.
ترجمه را به مدلی مناسب آن حوزه واگذار کند.

در نتیجه، هم کیفیت افزایش پیدا می‌کند و هم منابع بهینه‌تر مصرف می‌شوند.

سناریوی چهارم؛ Agentهای هوشمند

در سیستم‌های Agent محور مانند Hermes Agent، LangChain یا LlamaIndex، معمولاً تنها یک درخواست اجرا نمی‌شود.

Agent ممکن است:

پروژه را تحلیل کند.
فایل‌ها را بخواند.
از Toolها استفاده کند.
تصمیم‌گیری کند.
دوباره از مدل سؤال بپرسد.
نتیجه را بررسی کند.

در چنین شرایطی، AI Router می‌تواند برای هر مرحله مدل متفاوتی انتخاب کند.

برای مثال:

تحلیل اولیه

↓

مدل سریع

برنامه‌ریزی

↓

مدل با توان استدلال بالا

تولید کد

↓

مدل تخصصی برنامه‌نویسی

تولید مستندات

↓

مدل مناسب نگارش

همۀ این مراحل از دید توسعه‌دهنده تنها یک فرایند واحد هستند، اما Router در پشت صحنه بهترین تصمیم را برای هر مرحله می‌گیرد.

AI Router و Multi Provider

یکی از مهم‌ترین کاربردهای AI Router زمانی است که چندین Provider مختلف در اختیار دارید.

برای مثال:

Anthropic
OpenAI
Google
xAI
DeepSeek
Alibaba Cloud
Moonshot AI
Mistral AI

در این حالت، Router علاوه بر انتخاب مدل، باید Provider مناسب را نیز انتخاب کند.

این موضوع مزایای زیادی دارد.

کاهش وابستگی

اگر یک Provider دچار اختلال شود، درخواست‌ها می‌توانند به Provider دیگری هدایت شوند.

کاهش هزینه

ممکن است دو Provider یک مدل مشابه را با قیمت‌های متفاوت ارائه دهند.

Router می‌تواند گزینه اقتصادی‌تر را انتخاب کند.

افزایش دسترس‌پذیری

اگر ظرفیت یک Provider تکمیل شود، سرویس همچنان از طریق سایر Providerها قابل استفاده خواهد بود.

به همین دلیل، معماری Multi Provider به یکی از استانداردهای زیرساخت‌های هوش مصنوعی تبدیل شده است.

چه زمانی نباید از Auto Routing استفاده کنیم؟

اگرچه Auto Routing مزایای زیادی دارد، اما همیشه بهترین انتخاب نیست.

برای مثال:

ارزیابی مدل‌ها

اگر در حال مقایسۀ عملکرد چند مدل هستید، بهتر است مدل را به‌صورت دستی انتخاب کنید.

تحقیقات علمی

برای اینکه نتایج قابل تکرار باشند، معمولاً باید از یک مدل ثابت استفاده شود.

قابلیت‌های اختصاصی

گاهی یک مدل ویژگی خاصی دارد که مدل‌های دیگر ندارند.

در این شرایط بهتر است همان مدل مستقیماً انتخاب شود.

به همین دلیل، یک AI Router حرفه‌ای معمولاً هر دو حالت را در اختیار توسعه‌دهنده قرار می‌دهد:

انتخاب خودکار
انتخاب دستی

بهترین روش طراحی AI Router

اگر قصد طراحی یک AI Router دارید، رعایت چند اصل می‌تواند کیفیت سیستم را به شکل قابل توجهی افزایش دهد.

Router را به مدل خاصی وابسته نکنید

مدل‌های هوش مصنوعی با سرعت زیادی تغییر می‌کنند.

اگر Router به یک مدل خاص وابسته باشد، هر تغییر هزینه زیادی ایجاد خواهد کرد.

قوانین را قابل تنظیم طراحی کنید

Ruleها نباید داخل کد برنامه ثابت باشند.

بهتر است بتوان آن‌ها را بدون انتشار نسخه جدید تغییر داد.

معیارهای مختلف را هم‌زمان بررسی کنید

به جای تصمیم‌گیری صرفاً بر اساس قیمت یا کیفیت، معیارهایی مانند:

Latency
Cost
Context Window
قابلیت‌های مدل
وضعیت Provider

را نیز در نظر بگیرید.

Logging را فراموش نکنید

ثبت اطلاعاتی مانند:

مدل انتخاب‌شده
دلیل انتخاب
زمان پاسخ
تعداد توکن‌ها
هزینۀ درخواست
خطاها

در تحلیل عملکرد Router و بهینه‌سازی آن نقش مهمی دارد.

امکان Override را فراهم کنید

گاهی توسعه‌دهنده می‌خواهد Router را نادیده بگیرد و مدل خاصی را انتخاب کند.

این قابلیت باید در طراحی سیستم پیش‌بینی شود.

آینده AI Router

با افزایش تعداد مدل‌های هوش مصنوعی، نقش AI Router نیز پررنگ‌تر خواهد شد.

احتمالاً در آینده نزدیک Routerها بتوانند:

کیفیت پاسخ مدل‌ها را به‌صورت لحظه‌ای ارزیابی کنند.
هزینه را به‌طور خودکار بهینه کنند.
مدل مناسب را بر اساس سابقۀ هر کاربر انتخاب کنند.
چند مدل را به‌صورت هم‌زمان اجرا و بهترین پاسخ را انتخاب کنند.
از یادگیری ماشین برای بهبود تصمیم‌های خود استفاده کنند.

در واقع، AI Router از یک سیستم مسیریابی ساده به یک لایۀ هوشمند تصمیم‌گیری تبدیل خواهد شد.

استفاده از AI Router در API درواره

یکی از اهداف اصلی درواره، ساده کردن دسترسی توسعه‌دهندگان ایرانی به اکوسیستم هوش مصنوعی است.

به جای اینکه برای هر Provider تنظیمات جداگانه انجام دهید، می‌توانید از یک API سازگار با OpenAI استفاده کنید.

Base URL:

https://api.darvareh.ir/v1

این معماری به شما کمک می‌کند:

معماری پروژه را مستقل از Provider طراحی کنید.
در آینده مدل‌های جدید را بدون تغییر کد برنامه به کار بگیرید.
از قابلیت‌هایی مانند Multi Provider، انتخاب مدل و مدیریت متمرکز API استفاده کنید.
پروژه خود را برای رشد اکوسیستم هوش مصنوعی در سال‌های آینده آماده نگه دارید.

پرسش‌های متداول

آیا AI Router فقط برای پروژه‌های بزرگ مفید است؟

خیر. حتی در پروژه‌های کوچک نیز AI Router می‌تواند با انتخاب مدل مناسب یا امکان تغییر آسان مدل در آینده، توسعه و نگهداری سیستم را ساده‌تر کند. البته مزایای آن در پروژه‌های سازمانی و سامانه‌هایی با تعداد زیاد درخواست بیشتر نمایان می‌شود.

آیا AI Router باعث افزایش تأخیر می‌شود؟

معمولاً خیر. تصمیم‌گیری Router در مدت زمان بسیار کوتاهی انجام می‌شود و در مقابل، مزایایی مانند انتخاب مدل مناسب، کاهش خطا، استفاده از Fallback و بهینه‌سازی هزینه، این سربار اندک را جبران می‌کند.

جمع‌بندی

AI Router یکی از مهم‌ترین اجزای معماری سیستم‌های هوش مصنوعی مدرن است. با افزایش تعداد مدل‌ها و ارائه‌دهندگان، انتخاب دستی مدل برای هر درخواست نه‌تنها دشوار، بلکه در بسیاری از موارد غیربهینه است.

یک AI Router حرفه‌ای می‌تواند بر اساس نوع درخواست، هزینه، سرعت، کیفیت، قابلیت‌های مدل، وضعیت Provider و قوانین تعریف‌شده، بهترین مسیر را انتخاب کند. قابلیت‌هایی مانند Auto Routing، Fallback، Load Balancing و Cost Optimization نیز باعث می‌شوند سیستم پایدارتر، مقیاس‌پذیرتر و اقتصادی‌تر باشد.

اگر در حال طراحی یک محصول مبتنی بر هوش مصنوعی هستید، بهتر است از همان ابتدا معماری خود را به‌گونه‌ای طراحی کنید که به یک مدل یا یک Provider وابسته نباشد. این تصمیم، انعطاف‌پذیری پروژه را در آینده به شکل قابل توجهی افزایش خواهد داد.

AI Router را با API درواره در پروژه‌های خود پیاده‌سازی کنید

اگر می‌خواهید بدون وابستگی به یک ارائه‌دهندۀ خاص، از مدل‌های مختلف هوش مصنوعی استفاده کنید، API درواره این امکان را در اختیار شما قرار می‌دهد.

با استفاده از API سازگار با OpenAI درواره می‌توانید:

از یک Base URL برای دسترسی به صدها مدل هوش مصنوعی استفاده کنید.
معماری پروژه را مستقل از Provider طراحی کنید.
در آینده مدل‌های جدید را بدون تغییر کد جایگزین کنید.
از قابلیت‌های Multi Provider، مدیریت یکپارچۀ API و پرداخت ریالی بهره‌مند شوید.

برای شروع کافی است Base URL زیر را در برنامه یا ابزار خود تنظیم کنید:

https://api.darvareh.ir/v1