BroadRouter
شروع کریں

ٹول کالنگ (tool calling)

اپ ڈیٹ

ٹول کالنگ، جسے function calling بھی کہتے ہیں، LLM API کی وہ سہولت ہے جس میں ماڈل ڈویلپر کے طے کردہ کسی فنکشن کو چلانے کی ایک منظم درخواست، JSON آرگیومنٹس کے ساتھ، لوٹاتا ہے۔ ایپلیکیشن فنکشن چلا کر نتیجہ واپس بھیجتی ہے؛ ماڈل خود کبھی کوڈ نہیں چلاتا۔

دوسرے نام: ٹول کالنگ، فنکشن کالنگ، ٹولز کا استعمال، tool calling kya hai، function calling kya hai، tool calling، function calling، tool use، tools، tool_calls

ٹول کالنگ وہ طریقہ ہے جس سے لینگویج ماڈل دنیا میں کچھ کرتا ہے: وہ آپ کے کوڈ سے کچھ تلاش کرنے، کوئی کوئری چلانے یا کوئی فائل بدلنے کو کہتا ہے، اور پھر نتیجہ استعمال کرتا ہے۔

یہ کیسے کام کرتی ہے

OpenAI کی گائیڈ آپ کی ایپ اور ماڈل کے درمیان ایک لوپ بیان کرتی ہے:

  1. ٹولز بھیجیں۔ درخواست میں فنکشنز کی فہرست ہوتی ہے، ہر ایک کا نام، تفصیل اور آرگیومنٹس کے لیے JSON Schema۔
  2. ٹول کال حاصل کریں۔ اگر ماڈل کو کوئی ٹول چاہیے تو وہ حتمی جواب کے بجائے فنکشن کا نام اور JSON آرگیومنٹس لوٹاتا ہے۔
  3. اسے چلائیں۔ آپ کا کوڈ فنکشن چلاتا ہے۔ OpenAI کی گائیڈ یہ مرحلہ “the application side” (ترجمہ: ایپلیکیشن کی طرف) رکھتی ہے؛ ماڈل خود کبھی کوڈ نہیں چلاتا۔
  4. نتیجہ لوٹائیں، مطابقت رکھنے والے call ID کے ساتھ۔
  5. جواب حاصل کریں، یا ایک اور ٹول کال۔ ضرورت کے مطابق دہرائیں۔

Chat Completions فارمیٹ میں ٹول کی تعریف کچھ یوں ہوتی ہے:

{
  "type": "function",
  "function": {
    "name": "get_order_status",
    "description": "Look up an order by ID",
    "parameters": {
      "type": "object",
      "properties": { "order_id": { "type": "string" } },
      "required": ["order_id"]
    }
  }
}

جواب میں finish_reason: "tool_calls" اور ایک tool_calls لسٹ ہوتی ہے۔ ہر اندراج میں ایک id، فنکشن کا نام اور JSON اسٹرنگ کے طور پر arguments ہوتے ہیں۔ آپ role: "tool"، وہی tool_call_id اور نتیجے والا ایک پیغام شامل کرتے ہیں، پھر API کو دوبارہ کال کرتے ہیں۔

یہ کیوں اہم ہے

  • ایجنٹس۔ کوڈنگ ایجنٹس، سپورٹ بوٹس اور ڈیٹا اسسٹنٹس زیادہ تر ٹول کالز کے لوپ ہی ہیں۔
  • لاگت۔ ہر چکر ایک نئی درخواست ہے جو گفتگو، ٹولز کی تعریفیں اور ٹولز کے نتائج دوبارہ ان پٹ ٹوکنز کے طور پر بھیجتی ہے۔ لمبے ٹول لوپس میں کیش شدہ ان پٹ اور ٹولز کی مستحکم ترتیب اہم ہو جاتی ہے۔
  • تحفظ۔ آرگیومنٹس ماڈل سے آتے ہیں۔ ڈیٹا بدلنے یا پیسے خرچ کرنے والی کوئی بھی چیز چلانے سے پہلے انہیں جانچیں۔

اگر جواب کو کسی schema سے ملنا ہے لیکن کسی فنکشن کی ضرورت نہیں تو اسٹرکچرڈ آؤٹ پٹ آسان راستہ ہے۔

BroadNet Inference پر

BroadNet کی دستاویزات GLM 5.3 اور Qwen3.8 27B کے لیے ٹول کالنگ درج کرتی ہیں، دونوں میں اسٹرکچرڈ آؤٹ پٹ اور ریزننگ بھی ہے۔ DeepSeek V4.1 Flash یا BroadNet Gemma 4 VL 26B کے لیے دستاویزات ٹول سپورٹ نہیں بتاتیں۔ جس ماڈل کو آپ پروڈکشن میں لے جانا چاہتے ہیں اس پر اپنا ٹول لوپ ٹیسٹ کریں۔

درج شدہ دونوں ماڈلز جواب سے پہلے ریزننگ کرتے ہیں، اور ریزننگ max_tokens میں گنی جاتی ہے، اس لیے جگہ چھوڑیں، ورنہ ٹول کال بیچ میں کٹ سکتی ہے۔ ریزننگ ٹوکنز دیکھیں۔ اپنا ٹول فارمیٹ ساتھ لانے والے ایجنٹ ٹولز کے لیے Cline گائیڈ اور Vercel AI SDK گائیڈ دیکھیں۔

عام غلطیاں

  • arguments کو آبجیکٹ سمجھ کر پارس کرنا۔ یہ JSON اسٹرنگ کے طور پر آتا ہے؛ اسے ڈی کوڈ کریں اور ایررز سنبھالیں۔
  • tool_call_id بھول جانا۔ اس کے بغیر ماڈل نتائج کو کالز سے نہیں ملا سکتا۔

عام سوالات

کیا ماڈل میرا فنکشن چلاتا ہے؟

نہیں۔ ماڈل صرف فنکشن کا نام اور آرگیومنٹس لوٹاتا ہے۔ اسے چلانا ہے یا نہیں، یہ آپ کا کوڈ طے کرتا ہے؛ وہی اسے چلاتا ہے اور نتیجہ ایک tool پیغام میں واپس بھیجتا ہے۔

کیا ماڈل ایک ساتھ کئی ٹولز کال کر سکتا ہے؟

کئی APIs متوازی ٹول کالز کی اجازت دیتے ہیں، یعنی ایک ہی جواب میں tool_calls کے اندر کئی اندراجات۔ آپ کا کوڈ ہر ایک کو چلاتا ہے اور ہر tool_call_id کے لیے ایک نتیجہ لوٹاتا ہے۔

BroadNet کے کون سے ماڈلز ٹول کالنگ سپورٹ کرتے ہیں؟

BroadNet کی دستاویزات GLM 5.3 اور Qwen3.8 27B کے لیے ٹولز درج کرتی ہیں۔ DeepSeek V4.1 Flash یا BroadNet Gemma 4 VL 26B کے لیے وہ ٹول سپورٹ نہیں بتاتیں، اس لیے وہاں اس پر بھروسا کرنے سے پہلے ٹیسٹ کریں۔

Markdown میں پڑھیںChatGPT سے پوچھیںClaude سے پوچھیںPerplexity سے پوچھیں