عامل‌های هوش مصنوعی همکار شما نیستند

در سال‌های اخیر، شرکت‌های بزرگ فناوری تلاش کرده‌اند عامل‌های هوش مصنوعی (AI Agents) را نه صرفاً به‌عنوان ابزارهای نرم‌افزاری، بلکه به‌عنوان «همکار»، «کارمند دیجیتال» یا حتی «عضوی از تیم» معرفی کنند. این رویکرد شاید از نظر بازاریابی جذاب باشد، اما پژوهش‌های جدید نشان می‌دهد چنین نگاهی می‌تواند پیامدهای منفی و حتی خطرناکی برای سازمان‌ها داشته باشد.

فرض کنید روزی به محل کار می‌روید و به شما اعلام می‌شود که از این پس یک «کارمند جدید» زیر نظر شما فعالیت خواهد کرد؛ اما این کارمند یک انسان نیست، بلکه یک عامل هوش مصنوعی است که حتی برایش نام، عنوان شغلی و مسئولیت مشخص تعیین شده است. آیا رفتار شما با او مانند یک نرم‌افزار خواهد بود یا مانند یک همکار واقعی؟

پژوهشی که توسط «اما وایلز»، استاد دانشکدۀ کسب‌وکار دانشگاه بوستون انجام شده، پاسخ جالبی به این سؤال می‌دهد. نتایج نشان داد زمانی که خروجی یک سیستم هوش مصنوعی به‌عنوان کار یک «کارمند هوش مصنوعی» معرفی می‌شد، افراد حدود ۱۸ درصد خطاهای کمتری را شناسایی می‌کردند؛ در مقایسه با زمانی که همان خروجی صرفاً متعلق به یک چت‌بات یا ابزار نرم‌افزاری معرفی می‌شد.

به بیان دیگر، صرفاً تغییر نام و نحوۀ معرفی یک سیستم هوش مصنوعی باعث می‌شود کاربران اعتماد بیشتری به آن پیدا کنند و کمتر عملکرد آن را با دقت بررسی کنند.

از ابزار تا «همکار دیجیتال»

این موضوع در شرایطی اهمیت بیشتری پیدا می‌کند که بسیاری از شرکت‌های بزرگ فناوری، از جمله مایکروسافت، OpenAI، Anthropic و گوگل، طی ماه‌های اخیر ابزارهایی برای مدیریت تیمی از عامل‌های هوش مصنوعی معرفی کرده‌اند. این محصولات معمولاً با عباراتی مانند «همکار دیجیتال»، «عضو تیم» یا «کارمند هوشمند» تبلیغ می‌شوند.

حتی در همان پژوهش مشخص شد که نزدیک به یک‌سوم مدیران شرکت‌کننده گفته‌اند سازمانشان عامل‌های هوش مصنوعی را رسماً مانند کارکنان معرفی می‌کند و برخی حتی آن‌ها را در چارت سازمانی نیز قرار داده‌اند.

پیشرفت واقعی، اما انتظارات غیرواقعی

بدون تردید عامل‌های هوش مصنوعی نسبت به نسل‌های قبلی پیشرفت قابل توجهی داشته‌اند. آن‌ها می‌توانند مجموعه‌ای از اقدامات را به‌صورت خودکار انجام دهند، برای رسیدن به یک هدف برنامه‌ریزی کنند و تا رسیدن به نتیجه، چندین مرحله را پشت سر بگذارند.

اما این پیشرفت به این معنا نیست که آن‌ها واقعاً «همکار» یا «کارمند» هستند.

وقتی سازمان‌ها چنین تعبیری را به کار می‌برند، ناخواسته انتظاراتی ایجاد می‌کنند که فناوری فعلی هنوز توان برآورده کردن آن‌ها را ندارد.

کاهش احساس مسئولیت انسان

یکی از مهم‌ترین یافته‌های این پژوهش این بود که وقتی یک عامل هوش مصنوعی در قالب «کارمند» معرفی می‌شود، افراد احساس مسئولیت کمتری نسبت به خروجی آن پیدا می‌کنند.

شرکت‌کنندگان نه‌تنها کمتر خطاها را اصلاح می‌کردند، بلکه حدود ۴۴ درصد بیشتر ترجیح می‌دادند نتیجه را برای بررسی به مدیر بالاتر ارجاع دهند، به‌جای آنکه خودشان اصلاحات لازم را انجام دهند.

در عمل، این موضوع می‌تواند یکی از مهم‌ترین مزیت‌های استفاده از عامل‌های هوش مصنوعی، یعنی صرفه‌جویی در زمان، را نیز از بین ببرد.

خطر انتقال مسئولیت

پیامد این مسئله تنها به محیط کار محدود نمی‌شود.

با ورود عامل‌های هوش مصنوعی به حوزه‌هایی مانند سلامت، آموزش، دولت و حتی امور نظامی، این خطر وجود دارد که سازمان‌ها و افراد، مسئولیت اشتباهات را به گردن هوش مصنوعی بیندازند؛ در حالی که ریشۀ اصلی بسیاری از این خطاها در تصمیم‌گیری، نظارت یا طراحی نامناسب توسط انسان‌ها است.

اگر مسئولیت‌ها به‌درستی تعریف نشوند، هوش مصنوعی ممکن است به ابزاری برای پنهان کردن اشتباهات انسانی تبدیل شود، نه علت واقعی آن‌ها.

نگاه اقتصاددان برندۀ نوبل

دارون عجم‌اوغلو، اقتصاددان دانشگاه MIT و برندۀ جایزۀ نوبل اقتصاد ۲۰۲۴، نیز دیدگاه مشابهی دارد.

به اعتقاد او، عامل‌های هوش مصنوعی امروز بیش از حد به‌عنوان جایگزین انسان معرفی می‌شوند؛ در حالی که این مسیر در بلندمدت موفق نخواهد بود.

او معتقد است هدف اصلی باید افزایش توانایی انسان‌ها باشد، نه حذف آن‌ها. هوش مصنوعی زمانی بیشترین ارزش را ایجاد می‌کند که نقش یک ابزار توانمندساز را ایفا کند، نه یک جانشین کامل.

انسان‌ها چه چیزی می‌خواهند؟

پژوهشی دیگر در دانشگاه استنفورد نیز همین نتیجه را تأیید می‌کند.

در این مطالعه از حدود ۱۵۰۰ نفر در بیش از ۱۰۰ شغل مختلف پرسیده شد که هوش مصنوعی در انجام چه وظایفی واقعاً برای آن‌ها مفید خواهد بود.

پاسخ‌ها نشان داد کارکنان از خودکارسازی برخی فعالیت‌ها استقبال می‌کنند؛ اما بسیاری از وظایفی که متخصصان فناوری بهترین گزینه برای واگذاری به هوش مصنوعی می‌دانستند، دقیقاً همان کارهایی بودند که کارکنان تمایلی نداشتند به عامل‌های هوش مصنوعی بسپارند.

این اختلاف دیدگاه نشان می‌دهد طراحی ابزارهای هوش مصنوعی باید بر اساس نیاز واقعی کاربران انجام شود، نه صرفاً بر مبنای توانایی‌های فنی.

جمع‌بندی

نام‌گذاری یک عامل هوش مصنوعی به‌عنوان «کارمند» یا «همکار» شاید از نظر بازاریابی جذاب باشد، اما واقعیت عملکرد آن را تغییر نمی‌دهد.

پژوهش‌ها نشان می‌دهند این نوع روایت می‌تواند باعث شود انسان‌ها:

• اعتماد بیش از حد به خروجی هوش مصنوعی پیدا کنند؛
• خطاهای کمتری را تشخیص دهند؛
• مسئولیت کمتری نسبت به نتایج احساس کنند؛
• و تصمیم‌گیری‌های خود را بیش از اندازه به سیستم واگذار کنند.

عامل‌های هوش مصنوعی ابزارهای بسیار قدرتمندی هستند، اما همچنان ابزارند. مسئولیت نهایی تصمیم‌ها، قضاوت‌ها و پیامدهای آن‌ها همچنان بر عهدۀ انسان است؛ و طراحی و استفاده از این فناوری باید در جهت تقویت توانایی انسان‌ها باشد، نه تضعیف نقش و مسئولیت آن‌ها.

منبع:
https://www.technologyreview.com/2026/06/29/1139849/ai-agents-are-not-your-coworkers/