چهار پرسش برای ارزیابی ضرورت افزودن هوش مصنوعی به محصول

چهار پرسش برای ارزیابی ضرورت افزودن هوش مصنوعی به محصول

آنچه در این مقاله مطالعه می‌کنید:

۲۶ آبان ۱۴۰۵

۲۶ آبان ۱۴۰۵

به گزارش Smashing Magazine، یک چارچوب چهارپرسشی به تیم‌های محصول پیشنهاد شده است تا پیش از افزودن قابلیت هوش مصنوعی، ارزش واقعی آن را برای کاربر بسنجند. محور این ارزیابی آن است که صرفه‌جویی اولیه در زمان ممکن است با زمانی که کاربر برای بررسی خروجی و یافتن خطاها صرف می‌کند، از بین برود.

این چارچوب با نمونه‌ای از یک شرکت بزرگ بیمه سلامت توضیح داده می‌شود. نسخه نخست ابزار، متن کامل تصمیم کارشناسان رسیدگی به اعتراض مزایا را می‌نوشت؛ اما کنترل دقیق متن تقریباً به اندازه نوشتن آن زمان می‌برد و کارشناسان ناچار بودند خطاهایی را بررسی کنند که خودشان مرتکب نمی‌شدند. در نسخه بازطراحی‌شده، هوش مصنوعی فقط مفاد سیاست‌ها و تصمیم‌های قبلی مرتبط را پیدا می‌کرد و نگارش نهایی همچنان بر عهده کارشناس بود؛ رویکردی که مرحله جست‌وجو را حذف و زمان بازبینی را کمتر کرد.

چهار پرسش پیش از ساخت قابلیت هوش مصنوعی

پرسش نخست این است که آیا قابلیت پیشنهادی، مجموع تلاش کاربر را کاهش می‌دهد یا فقط کار را از انجام‌دادن به کنترل‌کردن منتقل می‌کند. تعداد کلیک کمتر به‌تنهایی معیار کافی نیست و هزینه ذهنی بررسی خروجی نیز باید محاسبه شود. همچنین ممکن است یک قابلیت برای کاربر تازه‌کار مفید باشد، اما برای متخصص باتجربه کار بیشتری ایجاد کند.

پرسش دوم، مقایسه راهکار هوش مصنوعی با روش فعلی کاربر است. این فناوری زمانی مزیت دارد که در مواجهه با ابهام، حجم بالا، سرعت، ثبات یا کشف مواردی که روش دستی از دست می‌دهد، نتیجه بهتری ارائه کند. اگر مسیر فعلی سریع و قابل اعتماد است، افزودن هوش مصنوعی می‌تواند فقط یک تعامل اضافه باشد.

پرسش سوم به امکان تشخیص خطا مربوط است. تیم باید رایج‌ترین خطاها، میزان دیده‌شدن آنها و پیامد هر خطا را مشخص کند. خروجی‌هایی که خطای پنهان و پرپیامد دارند، باید همراه با نمایش منبع داده و راهنمای روشن برای راستی‌آزمایی ارائه شوند؛ در غیر این صورت ممکن است اعتماد به خروجی خودکار، دقت کاربر را کاهش دهد.

پرسش چهارم بررسی می‌کند که آیا کاربر پس از یک سال استفاده هنوز توان تشخیص اشتباه هوش مصنوعی را دارد. پیشنهاد مقاله، حفظ مهارت ارزیابی با روش‌هایی مانند بازبینی دوره‌ای بدون مشاهده خروجی سیستم، کنارگذاشتن کمک هوش مصنوعی در بخشی از پرونده‌ها یا مقایسه منظم نتیجه انسان و ماشین است.

خروجی ممیزی باید وارد طراحی محصول شود

این ارزیابی قرار نیست به یک پاسخ ساده بله یا خیر ختم شود. نتیجه عملی آن باید به شرط‌های مشخص طراحی تبدیل شود: تعیین گروه کاربری هدف، امکان خروج برای گروه‌های دیگر، نمایش منشأ اطلاعات، یادآوری راستی‌آزمایی و سازوکاری برای حفظ مهارت قضاوت انسانی. نویسنده پیشنهاد می‌کند تیم‌ها این ممیزی را در ۶۰ دقیقه و با حضور فردی که واقعاً آن کار را انجام می‌دهد، پیش از صرف هفته‌ها زمان برای طراحی اجرا کنند.

برای تیم‌های طراحی محصول و توسعه نرم‌افزار، جمع‌بندی روشن است: قابلیت هوش مصنوعی زمانی ارزش ساخت دارد که فایده آن از هزینه سازگاری، کنترل و ریسک خطا بیشتر باشد. انتخاب دقیق بخشی از فرایند که به هوش مصنوعی سپرده می‌شود، می‌تواند از خود مدل مهم‌تر باشد.