به اسلوپ‌ورس خوش آمدید

هوش مصنوعی مولد توهمی نیست؛ چندجهانی است.

بیل لوری، مدیر فروش، وقتی همکارش می‌پرسد که برای dinosaur کجا باید دخترش را ببرد، دچار سردرگمی می‌شود. «در حال برنامه‌ریزی برای بیرون بردن این دختر برای dinosaur هستید؟» لوری می‌پرسد. «درست است»، همکارش به‌طور کاملاً بی‌خیال پاسخ می‌دهد. لوری که اضطراب دارد می‌پرسد: «یک لحظه صبر کنید. شما می‌گویید dinosaur ؟ این چه‌نوع اصطلاحی است—به‌جای lunch گفتن dinosaur؟» وقتی لوری همان روز به خانه برمی‌گردد، همسرش در حین کره‌مالی یک لقمه نان، دربارهٔ پسر بیماری‌شان می‌گوید: «او خیلی رنگ‌پریده و به‌طرز عجیبی احتقان دارد—و وقتی «dinosaur» را برایش آوردیم، او به‌آن دست نزنید.» فروشنده کاملاً از کنترل در می‌آید.

این همان پایهٔ «Wordplay»، اپیزودی از بازآفرینی دههٔ ۱۹۸۰ سری The Twilight Zone است. با پیشرفت زمان، اطرافیان لوری شروع می‌کنند به‌صورت‌ریخت‌گری به‌روزی سخن بگویند و واژگان آشنا را به‌شیوه‌های نا‌آشنا به‌کار ببرند. سرانجام، لوری خود را واگذار می‌کند تا انگلیسی را از کتاب حروف الفبای پسرش دوباره بیاموزد. در صحنهٔ آخر، او دست‌هایش را بر روی تصویری از یک سگ می‌گذارد که زیر آن کلمهٔ Wednesday چاپ شده است.

«Wordplay» درسی دربارهٔ طبیعت خطا ارائه می‌دهد: تغییرات کوچک و ناچیز در نورم می‌توانند نسبت به تغییرات بزرگ و گسترده، گیج‌کننده‌تر و خطرناک‌تر باشند. به همین دلیل، این قسمت نیز چیزی دربارهٔ حقیقت و نادرستی در ChatGPT و سایر محصولات هوش مصنوعی مولد بیان می‌کند. امروز همه می‌دانند که مدل‌های زبانی بزرگ — یا LLMها، سامانه‌های پایهٔ چت‌بات‌ها — تمایل به اختراع دارند. آن‌ها پرونده‌های حقوقی ساختگی می‌سازند و نرم‌افزارهای غیرموجود را پیشنهاد می‌دهند. مردم این موارد را «توهم» می‌نامند و در نگاه اول این استعارهٔ منطقی به‌نظر می‌رسد: چت‌بات به‌نظر می‌رسد دچار توهم است، با اطمینان چیزهای غیرواقعی را به‌عنوان واقعی می‌پذیرد.

اما این تصور نادرست است. Hallucination به این معنی است که اشتباهی تحت باور نادرست انجام می‌شود. اما یک LLM باور ندارد که اطلاعات «نادرست» که ارائه می‌دهد، حقیقت باشد؛ LLM اصلاً «باور» ندارد. در عوض، یک LLM پیش‌بینی کلمهٔ بعدی در یک جمله را بر پایهٔ الگوهایی که از مصرف حجم عظیمی از متن یاد گرفته، انجام می‌دهد. LLM فکر نمی‌کند و نمی‌داند؛ بلکه یک الگوی جدید را بر پایهٔ تفسیر الگوی قبلی می‌سازد. یک چت‌بات صرفاً زنجیره‌ای از حدس‌های قابل‌اعتماد است.

خواندن: سراب هوش مصنوعی

در «Wordplay»، لوری دیوانه نمی‌شود چون کذب به او گفته نمی‌شود—همکار و همسر او واقعاً فکر می‌کنند که واژهٔ lunch برابر با dinosaur است، همان‌طور که گاهی یک چت‌بات ادعا می‌کند چسپ بر روی پیتزا باشد. لوری دیوانه می‌شود چون دنیایی که در آن زندگی می‌کند به‌نوعی کمی اشتباه است، عمیقاً آشناست اما گاهی با بی‌معنایی‌هایی که بقیه به‌عنوان عادی می‌پذیرند، تکان‌خورده می‌شود. واژگان قدیم با معانی جدید ساخته می‌شوند.

هوش مصنوعی چیزها را اختراع می‌کند، اما نه به معنای توهم، یعنی دیدن چیزی که وجود ندارد. Fabrication می‌تواند به معنی «دروغ گفتن» یا «ساختن» باشد. یک LLM کار دوم را انجام می‌دهد. او نثر جدیدی از مواد خام آماری نثرهای پیشین می‌سازد. پروندهٔ حقوقی اختراسی و نرم‌افزار ساختگی، در جهان واقعی وجود ندارند اما به‌عنوان موجودات معتبر—حتی قابل‌پذیر—در یک جهان موازی شناخته می‌شوند. به عبارت دیگر، آن‌ها fictional هستند.

چت‌بات‌ها قانع‌کننده‌اند زیرا جهان‌های تخیلی که ارائه می‌دهند، بسیار باورپذیرند. این باورپذیری ناشی از کار پیش‌بینی فوق‌العاده مؤثر یک LLM است. این حقیقت نه تنها وقتی که چت‌بات‌ها خطاهای آشکار می‌سازند صادق است، بلکه وقتی که به درخواست‌های تخیّلی پاسخ می‌دهند نیز صادق است. این سازوکار منحصربه‌فرد به استعاره‌ای بهتر نیاز دارد: این نه hallucinatory است بلکه multiversal. وقتی هوش مصنوعی مولد اطلاعات ساختگی را ارائه می‌کند، مسیر به واقعیتی دیگر را برای کاربر باز می‌کند؛ به‌جای توهم، چندجهانی می‌شود. داستان‌های تخیلی که به وجود می‌آیند، اگرچه کوچک و بی‌معنی‌اند، می‌توانند به‌راحتی پذیرفته شوند.

ارزش چندجهانی‌گری — که ایدهٔ انشعاب و نسخه‌های جایگزین واقعیت را بیان می‌کند — پیش‌تر به‌عنوان موضوعی در فیزیک نظری، علمی‌تخیلی رمزی و فرهنگ پاپ حاشیه‌ای محسوب می‌شد. اما به‌تدریج در رسانه‌های عمومی جای گرفت. چندجهانی‌ها در دنیای سینمایی مارول به‌طور فراوان ظاهر می‌شوند. Rick and Morty یکی از آن‌هاست، همان‌طور که Everything Everywhere All at Once و Dark Matter نیز دارند. جهان‌های جایگزینی که در داستان‌ها به تصویر کشیده می‌شوند، انتظاری از شگفتی چندجهانی می‌گذارند؛ شامل کرم‌چاله‌ها و دروازه‌های به سوی جهان‌های فیزیکی موازی. به‌نظر می‌رسد به‌جای این‌گونه شگفتی‌ها، ما با چت‌بات‌های ساده روبه‌رو شده‌ایم، اگرچه ایدهٔ پایه‌ای همان است. پروندهٔ حقوقی ناموجودی که هوش مصنوعی پیشنهاد می‌کند، می‌تواند could در یک جهان بسیار مشابه به جهان ما، موازی باشد. همان‌طور که نرم‌افزار تخیلی نیز می‌تواند وجود داشته باشد.

ماهیت چندجهانی متن تولیدی توسط LLM به‌راحتی قابل‌مشاهده است وقتی از چت‌بات‌ها برای ترکیب مفهومی، یعنی ترکیب نوآورانهٔ موضوعات بی‌ربط، استفاده می‌کنیم. می‌توانم از ChatGPT بخواهم شعری به سبک چارلز بوکوفسکی دربارهٔ لبوبو بنویسد و او خطوطی چون: «کارمند گفت، they call it art toy، / گویی این توضیحی می‌داد. / سی دلار برای یک گوبلین که می‌خندد / گویا می‌داند جهان قبلاً تمام شده.» را ارائه می‌دهد. اگرچه با قطعیت می‌دانم بوکو چنین شعری ننوشته است، نتیجه قابل‌پذیر است؛ می‌توانم دنیایی ممکن را تصور کنم که در آن شاعر و اسباب‌بازی گوبلین همزیستی دارند و این محتوا از ملاقات آن‌ها به‌دست آمده است. اما ارزیابی این‌گونه برای هر جمله یا ارجاعی که یک LLM می‌دهد، کاری گرانبالا است — به‌ویژه هنگامی که کارایی بالاتر یکی از دلایل استفاده از LLM است. چت‌بات‌ها میدان را با جهان‌های ممکن پر می‌کنند — «slopworlds»، می‌توانیم این‌گونه نام ببریم، که با هم یک اسلوپ‌ورس را می‌سازند.

خواندن: مشکل واقعی توهم هوش مصنوعی

اسلوپ‌ورس با پیشرفت LLMها تشدید می‌شود. این را در چارچوب داستان‌های چندجهانی در نظر بگیرید: ترسناک‌ترین یا عجیب‌ترین جهان‌های جایگزین، آن‌هایی هستند که به‌طرز شگفت‌انگیزی شبیه به جهان شناخته‌شده‌اند، با تغییرات کوچک. در «Wordplay»، زبان برای بیل لوری تهدیدآمیزتر است؛ چرا که واژگان آشنا مفاهیم خود را تغییر داده‌اند، نه این‌که زبان انگلیسی به‌طور کلی با زبانی دیگر جایگزین شده باشد. در Dark Matter، نسخه‌ای از شیکاگو به‌عنوان بیابان ویران در یک جهان موازی، به‌وضوح خلاف واقع است—و به‌این دلیل کمتر عجیب است نسبت به جهان موازی‌ای که در آن همسر شخصیت اصلی کار هنری خود را رها نکرده تا فرزندان داشته باشد. جهان‌های موازی که به‌طرز چشمگیری از واقعیت پذیرفته‌شده دور می‌شوند، به‌راحتی به‌عنوان غیرمنطقی یا خیالی پردازش می‌شوند — همان‌طور که در Everything Everywhere All at Once جهان افراد انگشتانشان از هات‑داگ ساخته شده است — در حالی که جهان‌های آشنا درس‌های ظریف‌تری دربارهٔ احتمالات، امکان و پشیمانی منتقل می‌کنند.

جهان‌های نزدیک، مانند آنچه لوری در The Twilight Zone تجربه می‌کند، می‌توانند حس همدلی و اضطراب ایجاد کنند؛ حقیقت عجیبی که زندگی می‌تواند تقریباً مشابه باشد اما به‌صورت عمیق متفاوت. اما این تکنیک تنها به این دلیل کار می‌کند که مخاطب می‌داند این جهان‌ها خلاف واقع هستند (و این‌ را می‌داند چون داستان‌ها به‌صورت صریح آن را نشان می‌دهند). این‌گونه برای چت‌بات‌های هوش مصنوعی صادق نیست؛ آن‌ها این معما را به‌عنوان ناشناخته رها می‌کنند. بدتر از آن این است که LLMها به‌جای جهان‌های داستانی، جهان‌های کارکردی هستند—آن‌ها ایده‌ها، نمادها و راه‌حل‌هایی تولید می‌کنند که در واقع به‌کار گرفته می‌شوند.

اینترنت پیش از ظهور LLMها، کاربران را به این وضعیت عادت داده بود. وقتی در گوگل چیزی را جستجو می‌کنید، وب‌سایت‌های ظاهر شده لزوماً بهترین یا دقیق‌ترین‌ها نیستند، بلکه پربازدیدترین‌ها (به‌همراه برخی که برای ارتقاء هزینه پرداخت کرده‌اند) هستند. اطلاعات آن‌ها might درست باشد، اما برای رسیدن به بالای فهرست نیازی به صحت ندارند. جستجو برای کالاها در آمازون یا سایر فروشگاه‌های آنلاین نتایجی از این نوع می‌دهد، اما لزوماً درست‌ترین‌ها نیستند. به‌همین‌منظور، سایت‌های شبکه‌های اجتماعی مانند فیس‌بوک، X و تیک‌تاک محتوایی را ارائه می‌دهند که ممکن است جذاب باشد، اما در هیچ‌یک از جنبه‌های درست بودن تضمین نیست.

مردم پیش از آمدن اینترنت نیز توسط رسانه‌ها فریب می‌خوردند، اما پس از ورود اینترنت این فریب‌زدگی به‌طور چشمگیری افزوده شد. در دو دههٔ اخیر، تقریباً همهٔ چیزهایی که افراد به‌صورت آنلاین می‌بینند، می‌تواند نادرست، غیرقابل اعتماد یا به‌طور کلی از واقعیت جدا شده باشد. هر کاربر اینترنتی مجبور است تجزیه‌وتحلیل‌های احتمالی خود را برای هر آنچه می‌بیند انجام دهد و قابلیت پذیرش آن را برای خطرات فریب یا تقلب ارزیابی کند. اسلوپ‌ورس به سادگی این وضعیت را گسترش می‌دهد — و به‌طور گسترده، تا هر کلامی.

در مواجهه با مشکلاتی که اسلوپ‌ورس ایجاد می‌کند، طرفداران هوش مصنوعی احتمالاً همان استدلالی را که دربارهٔ توهم‌ها می‌گویند، مطرح می‌کنند: این‌که در نهایت، داده‌ها، فرآیندهای آموزشی و معماری بهبود خواهند یافت، دقت افزایشی خواهد داشت و شکاف‌های چندجهانی کاهش می‌یابد. شاید همین‌طور باشد.

اما یک احتمال بدتر و شاید محتمل‌تر وجود دارد: این‌که هرچند فناوری پیشرفت می‌کند، این پیشرفت تنها به‌صورت اسمی خواهد بود؛ به‌گونه‌ای که جهان‌های چندجهانی متعدد ناشی از هر تعامل چت‌بات، به‌تدریج دشوارتر از واقعیت قابل تمایز شوند. ترسناک‌ترین کابوس‌های در داستان‌های چندجهانی زمانی رخ می‌دهند که یک واقعیت جایگزین دقیقاً همان‌طور است، به‌استثنای یک نکتهٔ کوچک، که ممکن است بی‌اهمیت باشد یا اینکه می‌تواند همه چیز را به‌طور کامل تغییر دهد.