عامل‌های هوش مصنوعی بدون زمینه قابل اعتماد خطا می‌کنند

عامل‌های هوش مصنوعی بدون زمینه قابل اعتماد خطا می‌کنند

آنچه در این مقاله مطالعه می‌کنید:

۱۱ مهر ۱۴۰۵

۱۱ مهر ۱۴۰۵

به گزارش Salesforce، نمایش‌های Data 360 در رویداد Dreamforce نشان دادند که دسترسی عامل‌های هوش مصنوعی به داده به‌تنهایی کافی نیست؛ این عامل‌ها برای تصمیم‌گیری درست به اطلاعات جاری، ارتباط دقیق میان داده‌ها و قواعد روشن دسترسی نیاز دارند. Salesforce مجموعه‌ای از قابلیت‌ها را معرفی کرده که این «زمینه قابل اعتماد» را در ساخت مخاطب کمپین، پاسخ‌گویی و کارهای روزانه کارکنان به کار می‌گیرد.

نمونه مطرح‌شده، عاملی است که با بررسی سابقه خرید یک مشتری وفادار، محصول بعدی را پیشنهاد می‌دهد؛ اما اگر از پرونده خدماتی حل‌نشده او خبر نداشته باشد، ممکن است پیشنهادی مرتبط را در زمانی نامناسب ارائه کند. از نگاه Salesforce، عامل باید تصویری یکپارچه از وضعیت مشتری داشته باشد و فقط از اطلاعاتی استفاده کند که مجاز به مشاهده آن‌هاست.

Data 360 چگونه زمینه کسب‌وکار را در اختیار عامل‌ها می‌گذارد؟

در نمایش Agentic CDP، عامل ابتدا پروفایل‌های مشتریان را یکپارچه کرد و سپس با یک توضیح ساده به زبان طبیعی، گروه مخاطبان کمپین را ساخت. کیفیت این گروه به تطبیق درست خریدها و پرونده‌های خدماتی با هر فرد و رعایت ترجیحات رضایت مشتری وابسته است.

Agent Context Engine نیز داده‌های ساختاریافته را با منابعی مانند متن تماس‌ها، اسناد سیاست‌گذاری و مقاله‌های دانش داخلی کنار هم قرار می‌دهد. این سامانه برای هر درخواست، اطلاعات مرتبط و مجاز را گردآوری می‌کند و قابلیت حافظه آن می‌تواند واقعیت‌های تأییدشده تعامل‌های قبلی را برای ادامه گفت‌وگو حفظ کند.

Agentforce Coworker همین زیرساخت را به محیط کاری کارکنان می‌آورد و اطلاعات و اقدام‌ها را میان Salesforce، Gmail و دیگر برنامه‌های سازمانی متصل می‌کند. Data 360 Headless نیز زمینه کسب‌وکار را بیرون از Salesforce در اختیار عامل‌ها و برنامه‌های مجاز قرار می‌دهد. در این چارچوب، Claudeforce داده‌های زنده Sales Cloud و Slack را وارد Claude می‌کند، Slackforce همان زمینه را به Slack می‌برد و Agentforce Coworker آن را در Salesforce به کار می‌گیرد.

پنج پایه برای اجرای قابل اعتماد عامل‌های هوش مصنوعی

Salesforce پنج نیاز اصلی را مشخص کرده است: داده جاری و سازگار، دسترسی کارآمد به اطلاعات مرتبط از جمله با RAG، درک معنای اصطلاحات اختصاصی کسب‌وکار، حافظه مبتنی بر اطلاعات تأییدشده و حاکمیت برای کنترل سطح دسترسی و شیوه استفاده از داده.

این شرکت پیشنهاد می‌کند تیم‌ها کار را با یک مسئله مشخص مشتری و آزمایشی چهار هفته‌ای آغاز کنند: ابتدا معیار موفقیت را تعیین کنند، سپس اطلاعات مفقود را متصل کنند، راهکار را با نمونه‌های واقعی بیازمایند و در پایان زمان آماده‌سازی و دقت تطبیق را با نقطه شروع مقایسه کنند.

برای تیم‌های بازاریابی و اتوماسیون، نتیجه عملی این است که کیفیت عامل نه فقط به مدل، بلکه به تازگی داده، تطبیق هویت، مجوزها و معنای مشترک اطلاعات وابسته است. بنابراین پیش از توسعه گسترده، باید اثر زمینه بهتر بر یک نتیجه قابل اندازه‌گیری سنجیده شود.