چهار مرحله بلوغ عامل‌های هوش مصنوعی از نگاه Salesforce

کارشناس در حال بررسی الگوهای خطای عامل هوش مصنوعی و مسیر اصلاح آن روی داشبورد عملیاتی

آنچه در این مقاله مطالعه می‌کنید:

۲۷ آبان ۱۴۰۵

۲۷ آبان ۱۴۰۵

به گزارش Salesforce، عامل‌های هوش مصنوعی پس از راه‌اندازی بلافاصله به عملکرد پایدار نمی‌رسند و مسیری شبیه شکل‌گیری یک تیم تازه را طی می‌کنند. این شرکت چهار مرحله «شکل‌گیری، تعارض، تثبیت و عملکرد» را برای توصیف این مسیر به کار گرفته و Agent Optimizer را ابزاری برای دیدن مشکلات، یافتن علت آن‌ها و سنجش نتیجه اصلاحات معرفی کرده است.

از شکل‌گیری تا رسیدن به عملکرد پایدار

در مرحله شکل‌گیری، تیم هدف عامل، دامنه وظایف، داده‌ها، دستورالعمل‌ها و اقدام‌هایی را که عامل اجازه اجرای آن‌ها دارد مشخص می‌کند. آزمایش‌های اولیه در این مرحله می‌توانند نشان دهند عامل در سناریوهای از پیش تعریف‌شده چگونه پاسخ می‌دهد، اما این نتایج هنوز تمام پیچیدگی استفاده واقعی را منعکس نمی‌کنند.

پس از استقرار، عامل وارد مرحله‌ای می‌شود که Salesforce آن را «تعارض» می‌نامد. کاربران ممکن است درخواست‌هایی مطرح کنند که در طراحی اولیه پیش‌بینی نشده‌اند، یک فرایند آزمایش‌شده در محیط واقعی کند باشد یا کمبود محتوای دانشی و خطا در فراخوانی ابزارها مانع تکمیل کار شود. در این وضعیت، بررسی چند گفت‌وگوی منفرد لزوماً الگوی اصلی مشکل را آشکار نمی‌کند.

Agent Optimizer در بخش Agentforce Observability می‌تواند نشست‌های عملیاتی را تحلیل کند، خطاهای تکرارشونده را در گروه‌هایی مانند نقص ابزار، شکاف دانشی یا درخواست خارج از دامنه قرار دهد و مشکلات اثرگذارتر را در اولویت بگذارد. سپس تیم می‌تواند شواهد و نشست‌های مرتبط را بررسی کند، پیشنهاد اصلاحی را بسنجد و تغییر منتخب را برای پیاده‌سازی و آزمایش به Agentforce Builder منتقل کند.

تثبیت رفتار و اثبات نتیجه اصلاحات

مرحله تثبیت زمانی شکل می‌گیرد که یافته‌های محیط واقعی به اصلاح دستورالعمل، محتوا، دسترسی داده یا پیکربندی عامل تبدیل شوند. نکته اصلی در این مرحله صرفاً اعمال تغییر نیست؛ نسخه اصلاح‌شده باید با سناریوهای مرتبط آزمایش و نتیجه آن با وضعیت پیشین مقایسه شود تا مشخص شود مشکل واقعاً کاهش یافته و خطای تازه‌ای ایجاد نشده است.

در مرحله عملکرد، عامل با اتکای بیشتر به الگوهای شناخته‌شده کار می‌کند، اما چرخه به پایان نمی‌رسد. تغییر رفتار کاربران، نیازهای کسب‌وکار، داده‌ها یا مدل می‌تواند عامل را دوباره به مرحله تعارض بازگرداند. به همین دلیل، Salesforce پایش تولید و بهبود مستمر را بخشی از چرخه عمر عامل می‌داند، نه کاری محدود به زمان ساخت.

برای کسب‌وکارهایی که از عامل‌های هوش مصنوعی در پشتیبانی یا اتوماسیون فرایندها استفاده می‌کنند، پیام این چارچوب روشن است: موفقیت تنها با انتشار عامل سنجیده نمی‌شود. ثبت معیارهای مورد انتظار، بررسی الگوهای شکست و آزمودن اثر هر اصلاح، مسیر رسیدن از یک نمونه اولیه به عملکرد قابل اتکاتر را قابل مشاهده می‌کند.