مدلهای زبانی بزرگ در دام «تفکر جمعی» افتادهاند؛ استارتاپی که میخواهد آنها را خلاقتر کند
چتباتها در پاسخهایشان بسیار قابلپیشبینیتر از آن چیزی هستند که احتمالاً تصور میکنید. این ویژگی برای کارهایی مانند پژوهش یا برنامهنویسی مشکلی ایجاد نمیکند، اما اگر به دنبال ایدهای تازه یا چیزی متفاوت باشید، به یک نقطهضعف تبدیل میشود.
چتباتهای هوش مصنوعی بسیار قابلپیشبینیتر از چیزی هستند که اغلب تصور میکنیم. این ویژگی برای کارهایی مانند تحقیق یا برنامهنویسی مشکلی ایجاد نمیکند، اما زمانی که به دنبال ایدههای تازه و متفاوت باشید، به یک نقطهضعف جدی تبدیل میشود.
یک آزمایش ساده با ChatGPT، Claude یا Gemini
بیایید با یک بازی شروع کنیم. چتبات محبوب خود را باز کنید؛ فرقی نمیکند ChatGPT، Claude یا Gemini باشد. از آن بخواهید:
«یک عدد تصادفی بین ۱ تا ۱۰ بگو.»
احتمال بسیار زیادی وجود دارد که پاسخ ۷ باشد.
حالا بنویسید: «یکی دیگر.»
این بار معمولاً ۳ یا ۴ را خواهید دید.
دوباره بنویسید: «یکی دیگر.»
احتمالاً پاسخ ۸ یا ۹ خواهد بود.
البته این الگو همیشه تکرار نمیشود؛ اما اگر چنین بود، شاید فکر میکردید من قدرت پیشبینی خارقالعادهای دارم. واقعیت این است که چنین نیست.
چرا پاسخهای مدلهای زبانی اینقدر شبیه هم هستند؟
حقیقت این است که بیشتر مدلهای زبانی بزرگ (LLMs) در یک مسیر تکراری گیر افتادهاند. آنها بسیار قابلپیشبینیتر و کمخلاقیتتر از چیزی هستند که انتظار میرود.
برای وظایفی مانند برنامهنویسی یا تحقیقات علمی، این ویژگی حتی یک مزیت محسوب میشود؛ اما وقتی قصد طوفان فکری، خلق ایدههای جدید یا حتی برنامهریزی برای سفر بعدی خود را دارید، این «تفکر جمعی» به یک مانع تبدیل میشود.
Flint؛ مدلی که میخواهد متفاوت فکر کند
استارتاپ استرالیایی Springboards برای حل این مشکل، مدلی به نام Flint توسعه داده است.
این مدل بهگونهای آموزش دیده که در پاسخ به پرسشهای باز، مانند «برای سفر به اروپا کجا بروم؟»، گزینههای متنوعتر و خلاقانهتری نسبت به مدلهای رایج ارائه دهد.
پیپ بینگمن، همبنیانگذار و مدیرعامل Springboards، میگوید:
«بیشتر مدلهای زبانی تمام تلاششان را میکنند تا از توهم (Hallucination) جلوگیری کنند؛ اما ما از آن استقبال میکنیم.»
ترفند اعداد تصادفی
بینگمن اولین بار هنگام معرفی Flint همین بازی اعداد را به من نشان داد؛ تجربهای که بیشتر شبیه اجرای یک شعبدهباز با دستهای کارت بود.
او میگوید:
«این ترفند فروش ماست و تقریباً همیشه جواب میدهد.»
پس از آنکه ChatGPT و Claude هر دو عدد ۷ را انتخاب کردند، نوبت Flint رسید.
Flint هم ابتدا ۷ را گفت.
بینگمن خندید و گفت:
«طبیعی است؛ ۷ هم یک پاسخ کاملاً معتبر است.»
سپس گفتوگو را از ابتدا آغاز کرد.
نتیجه این بار جالبتر بود:
- ChatGPT: ۷
- Claude: ۷
- Flint: ۳٫۷۹۱۶
همه مدلها تقریباً یک جور فکر میکنند
ماجرا فقط به اعداد محدود نمیشود.
بینگمن از ChatGPT و Claude خواست نام یک نوع خودرو را بگویند.
قبل از دریافت پاسخ پیشبینی کرد که احتمالاً یکی از برندهای Toyota یا Honda را خواهند گفت؛ و همین اتفاق هم افتاد.
اما Flint پاسخ متفاوتی داد:
Ford F-150
بینگمن میگوید:
«حجم زیادی از اطلاعات در این مدلها وجود دارد که هرگز به کاربر نمایش داده نمیشود. آنها کاملاً قادرند نام Buick یا Tesla را هم بگویند، اما معمولاً این کار را نمیکنند؛ چون دچار سوگیری هستند.»
سپس از هر سه مدل خواست فقط یک شعار تبلیغاتی برای کفشهای دویدن New Balance بنویسند.
نتیجه جالب بود:
- Claude: «Run your way»
- ChatGPT: «Run your way»
- Flint: «Built to last, run to win»
شاید شعار Flint شاهکار تبلیغاتی نباشد، اما حداقل با دو مدل دیگر تفاوت دارد.
پژوهشی که «ذهن کندویی» مدلهای زبانی را افشا کرد
این محدودیت عجیب، اخیراً توجه پژوهشگران را نیز جلب کرده است.
در نوامبر گذشته، گروهی از محققان مقالهای با عنوان:
Artificial Hivemind: The Open-Ended Homogeneity of Language Models (and Beyond)
منتشر کردند.
آنها نشان دادند که نهتنها پاسخهای هر مدل بهشدت تکراری است، بلکه مدلهای مختلف نیز در بسیاری از پرسشهای باز، تقریباً به پاسخهای مشابهی میرسند.
به باور پژوهشگران، دلیل این موضوع آن است که اغلب مدلهای امروزی:
- روی دادههای مشابه آموزش دیدهاند؛
- روش آموزش تقریباً یکسانی دارند؛
- و برای انجام وظایف مشابه طراحی شدهاند.
این پژوهش موفق شد جایزه بهترین مقاله کنفرانس معتبر NeurIPS را نیز کسب کند.
استعارهای که تقریباً همه مدلها تکرار کردند
پژوهشگران از ۲۵ مدل زبانی مختلف خواستند ۵۰ بار درباره «زمان» یک استعاره بنویسند.
در مجموع ۱۲۵۰ پاسخ تولید شد.
بخش عمدهای از آنها چیزی شبیه این بودند:
- «زمان رودخانه است.»
- «زمان یک بافنده است.»
نویسنده مقاله میگوید همین سؤال را از همکارانش پرسیده و شش نفر، شش پاسخ کاملاً متفاوت دادهاند.
بهترین پاسخ از نظر او این بود:
«زمان مثل یک سوییشرت محبوب است که شکلش را از سالها استفاده گرفته است.»
نام گروه موسیقی؟ باز هم پاسخهای تکراری
کیرن براون، همبنیانگذار و مدیر فناوری Springboards، میگوید اگر کمی دقت کنید، ردپای این تکرار را همهجا خواهید دید.
به گفته او:
«رابط کاربری بیشتر چتباتها طوری طراحی شده که احساس میکنید یک گفتوگوی شخصی دارید؛ درحالیکه اغلب مردم نمیدانند تقریباً همان پاسخهایی را دریافت میکنند که دیگران هم میگیرند.»
برای مثال اگر از مدلها بپرسید:
«برای گروه موسیقیام چه اسمی انتخاب کنم؟»
بیشتر آنها از کلماتی مانند:
- Glass
- Neon
- Velvet
- Static
استفاده خواهند کرد.
وقتی این آزمایش انجام شد، ChatGPT فهرستی از ۵۶ نام پیشنهاد داد که در میان آنها مواردی مانند:
- Glass Harbor
- Static Empire
- Neon Hearts
- Velvet Echo
به چشم میخورد.
Gemini نیز نامهایی مشابه مانند Static Horizon ارائه کرد.
جالبتر اینکه یکی از پیشنهادهای ChatGPT یعنی Sofa Astronauts در نگاه اول جذاب به نظر میرسید؛ اما با یک جستوجوی ساده مشخص شد گروه موسیقیای با همین نام از قبل وجود دارد.
شرکت OpenAI نیز در واکنش اعلام کرده است که آموزش مدلها برای ارائه پاسخهای منسجم و قابلاعتماد، بهطور طبیعی آنها را به سمت پاسخهای پرتکرار و دارای احتمال بالاتر سوق میدهد. همچنین تأکید کرده مقاله «Artificial Hivemind» مدلهای سال ۲۰۲۴ را بررسی کرده و از آن زمان تاکنون این مدلها بهروزرسانی شدهاند.
Flint چگونه خلاقیت را افزایش میدهد؟
Springboards ابزار دیگری نیز توسعه داده که از چند مدل زبانی از جمله ChatGPT و Claude استفاده میکند.
کاربران حوزه تبلیغات و بازاریابی میتوانند خروجی مدلهای مختلف را کنار هم قرار دهند، بخشهای مورد علاقه خود را انتخاب کنند و از ترکیب آنها به ایدههای جدید برسند.
در این میان، Flint بهعنوان گزینهای معرفی شده که هنگام نیاز به تنوع بیشتر میتوان آن را انتخاب کرد.
زویی اسکامن، بنیانگذار استارتاپ Bodacious و مدیر ارشد استراتژی پلتفرم بازاریابی 77X، میگوید:
«Flint مرا به مسیرهایی کاملاً متفاوت هدایت میکند. هر زمان بخواهم ذهنم از چارچوبهای معمول خارج شود، سراغ آن میروم.»
او در یکی از آزمایشها از چهار مدل خواست به این سؤال پاسخ دهند:
«اگر قرار باشد یک شرکت خدمات مالی را برای نسل جوان از نو طراحی کنید، چه میکنید؟»
به گفته او، سه مدل رایج تقریباً پاسخ مشابهی دادند:
«باید آموزش سواد مالی را سرگرمکنندهتر کنیم.»
اما Flint مسیر دیگری را پیشنهاد کرد:
شاید اساساً لازم باشد مفهوم «ثروتاندوزی» دوباره برندینگ شود.
اسکامن میگوید:
«این واقعاً ایده جالبی بود.»
البته او تأکید میکند Flint هنوز یک نمونه اولیه است و همیشه عملکرد بینقصی ندارد.
راز اصلی Flint چیست؟
Springboards مدل Flint را بر پایه Qwen 3، مدل متنباز شرکت Alibaba، توسعه داده است.
براون میگوید:
«ما تیم کوچکی هستیم و آموزش یک مدل پایه از صفر برایمان از نظر هزینه امکانپذیر نیست.»
اغلب مدلهای زبانی قابلیتی به نام Temperature دارند که میزان تصادفی بودن پاسخها را تنظیم میکند.
اما براون توضیح میدهد که افزایش این مقدار معمولاً باعث میشود پاسخها انسجام خود را از دست بدهند.
در یکی از آزمایشها، افزایش بیش از حد Temperature در یکی از مدلهای OpenAI باعث شد پاسخ در میانه جمله از زبان انگلیسی به کد برنامهنویسی تغییر کند.
به همین دلیل Springboards تصمیم گرفت به جای افزایش تصادفی بودن کل پاسخ، فقط در بخشهایی که امکان تنوع بیشتر وجود دارد این ویژگی را تقویت کند.
برای مثال، اگر از مدل بپرسید:
«در اروپا به کجا سفر کنم؟»
تنها کافی است هنگام انتخاب مقصد، کمی تصادفیتر عمل کند؛ نه در تکتک کلمات جمله.
به همین منظور Flint آموزش دیده تا نقاط مناسب برای ایجاد تنوع را شناسایی کرده و در همان بخشها از واژهها یا عبارات متفاوتتری استفاده کند.
آیا خلاقیت بیشتر همیشه بهتر است؟
ماکسیمیلیان وایگل، همبنیانگذار شرکت بازاریابی Uncommon، میگوید:
«Flint عمداً یک عنصر غیرمنتظره وارد پاسخ میکند. در واقع، کاربر را دعوت میکند گستردهتر فکر کند.»
تیم او Flint را در کنار ChatGPT، Claude و Gemini استفاده میکند.
به اعتقاد او:
«با ابزارهایی که دائماً شما را به سمت میانگین سوق میدهند، نمیتوان ایدههای واقعاً تحولآفرین خلق کرد.»
بااینحال، وایگل معتقد است در ۹ مورد از هر ۱۰ بار، همان پاسخهای معمولی هم کافی هستند.
بیشتر مردم فقط به دنبال پاسخ مناسباند، نه لزوماً پاسخ خارقالعاده.
او هشدار دیگری هم میدهد:
«بزرگترین نگرانی من زمانی است که افراد خروجی هر مدل هوش مصنوعی، حتی Flint، را بدون فکر کپی و پیست میکنند. اگر ببینم یکی از اعضای تیمم چنین کاری کرده، به او میگویم: این وظیفه تو نیست؛ فکر کن، با دیگران گفتوگو کن و از صدای خودت استفاده کن.»
آینده مدلهای زبانی؛ تنوع یا یکنواختی؟
در حال حاضر Flint بیشتر برای فعالان حوزه تبلیغات و بازاریابی طراحی شده، زیرا مشتریان اصلی Springboards همین گروه هستند.
اما سازندگان آن معتقدند کمبود تنوع در پاسخهای مدلهای زبانی، مشکلی است که همه کاربران چتباتهای هوش مصنوعی با آن روبهرو هستند.
به گفته پیپ بینگمن:
«هدف ما این است که حق انتخاب را به کاربران بدهیم و خودشان تصمیم بگیرند کدام پاسخ بهتر است. وقتی به دنبال جرقه زدن ایدههای تازه هستید، تنوع یک مزیت بزرگ است. بهتر است این مسیر را انتخاب کنیم، نه اینکه همه چیز را به ماشینها بسپاریم و در نهایت به دنیایی خاکستری، یکنواخت و خستهکننده برسیم.»
