AI for Developers Tutorial فصل ۳ — گردش کار حرفه‌ای درس آموزشی

ساخت محصول با AI: فراخوانی API، جریان و هزینه

وقتی AI بخشی از محصول شماست (چت‌بات، تولید محتوا، دستیار)، سه مسئله مهندسی دارید: مدیریت جریان پاسخ (streaming)، هزینه و محدودیت نرخ، و طراحی fallback. پاسخ مدل متغیر است؛ محصول شما باید با پاسخ بد/کم هم تمیز کار کند.

مراحل قدم‌به‌قدم

  1. ۱

    جریان پاسخ (Streaming)

    برای پاسخ‌های بلند، SSE/streaming بگیرید تا کاربر تایپ شدن را ببیند — تجربه محسوس بهتر و timeout کمتر. در fetch با ReadableStream و تکه‌تکه append کنید؛ ابزارهای SSE پارسر آماده دارند.

  2. ۲

    هزینه و توکن

    هر درخواست توکن مصرف می‌کند (زمینه + خروجی). کوتاه‌کردن پرامپت، خلاصه‌سازی تاریخ گفتگو و کش پاسخ‌های پرتکرار، صورتحساب را نصف می‌کند. هزینه را در پاسخ API لاگ کنید تا داشبورد بدهید.

  3. ۳

    مدیریت خطا و fallback

    مدل گاهی timeout، 429 یا پاسخ بی‌ربط می‌دهد. الگوی مقاوم: timeout با AbortController، retry با بک‌آفس روی 429/5xx، سقف طول پاسخ، و در نهایت پیام تمیز به کاربر («فعلاً در دسترس نیست») به‌جای کرش.

  4. ۴

    اعتبارسنجی خروجی

    اگر مدل باید JSON بدهد، schema بخواهید و parse را با try/catch و اعتبارسنجی کنید؛ پاسخ خراب را با پرامپت اصلاح دوباره بپرسید (حداکثر یک بار). هرگز خروجی مدل را بدون escape مستقیم در UI نگذارید — همان قواعد XSS.

نکات مهم

  • ◆ هزینه = زمینه + خروجی؛ پرامپت کوتاه و تاریخ خلاصه‌شده عادت محصولی است.
  • ◆ timeout و retry و fallback برای هر فراخوانی مدل الزامی است.
  • ◆ خروجی مدل = ورودی کاربر است؛ escape و اعتبارسنجی بدون استثنا.

کد یا مسیر نمونه

async function askAI(messages) {
  const ac = new AbortController();
  const timer = setTimeout(() => ac.abort(), 30000);
  try {
    const res = await fetch("https://api.example-llm.com/v1/chat", {
      method: "POST",
      headers: { "Content-Type": "application/json", "Authorization": `Bearer ${KEY}` },
      body: JSON.stringify({ model: "glm-4", temperature: 0.2, messages, stream: true }),
      signal: ac.signal,
    });
    if (res.status === 429) throw new Error("RATE");
    if (!res.ok) throw new Error(`HTTP ${res.status}`);

    const reader = res.body.getReader();
    const decoder = new TextDecoder();
    let full = "";
    for (;;) {
      const { done, value } = await reader.read();
      if (done) break;
      full += decoder.decode(value);
      onChunk(full);          // رندر تدریجی در UI
    }
    return full;
  } finally {
    clearTimeout(timer);
  }
}

// سطح بالاتر با retry:
async function askWithRetry(messages) {
  for (let i = 1; i <= 3; i++) {
    try { return await askAI(messages); }
    catch (e) {
      if (e.message !== "RATE" || i === 3) throw e;
      await new Promise((r) => setTimeout(r, 1000 * 2 ** i));
    }
  }
}

اجرای زنده کد JavaScript

editor.html
در حال آماده‌سازی زمین بازی…

کد را ویرایش کنید و «اجرای کد» را بزنید — خروجی واقعی مرورگر همین‌جا رندر می‌شود؛ مثل آزمایشگاه w3schools.

پرسش و پاسخ این درس (۰)

هنوز دیدگاهی ثبت نشده؛ اولین نفر باشید!

دیدگاه خود را بنویسید

کپچا

دیدگاه شما پس از تأیید مدیر نمایش داده می‌شود.