هوش مصنوعی به‌مثابه‌ی شیطانی از آینده

یک.

در یکی از سکانس‌های کلیدی دیمین: طالع نحس ۲، معلم تاریخ ــ که نماینده‌ی عقل سلیم، اقتدار آموزشی و دستگاه گفتمانی حاکم بر معرفت تاریخی است ــ نوجوانی چهارده‌ساله را به پای تخته‌سیاه فرا می‌خواند؛ نوجوانی که در حقیقت تجسم دجال است، اما موقتاً در پیکری انسانی و در روندی زیست‌شناختی ـ تربیتی به‌ظاهر نرمال جای گرفته است. در این مواجهه، که به‌ظاهر با هدف توبیخ و تحقیر دانش‌آموزی نامنضبط آغاز می‌شود، به‌تدریج نمایشی از واژگونی معرفت و قدرت در کلاس درس به اجرا درمی‌آید.

معلم، در مقام سوژه‌ی دانای نظام آموزشی، او را با پرسش‌های متوالی ــ به‌سبک بازی‌های سقراطی یا بازجویی‌های توتالیتر ــ بمباران می‌کند: «تلفات لشکر ناپلئون؟ / ۴۵۰هزار. / زمان؟ / ۱۸۱۲. / تبعید؟ / اِلبا، بازگشت، جنگ صدروزه، واترلو، ۱۸۱۵، مرگ در ۱۸۲۱…» و فهرست ادامه می‌یابد تا لحظه‌ای که ماشین پاسخ‌گویی دیمین به مرزی می‌رسد که قدرت سؤالات را از کار می‌اندازد. حافظه‌ی تاریخی او به‌نحوی باورنکردنی عمل می‌کند، به‌گونه‌ای که دیگر نه با کودکی مستعد، بلکه با ابزاری ماورایی مواجهیم؛ گویی تاریخ را نه از کتاب، بلکه از منشأیی شیطانی و بیرون از زمان آموخته است.

معلم، که ابتدا سعی دارد اقتدار خود را با تحقیر دانش‌آموز تثبیت کند، ناگهان خود را در جایگاه کسی می‌یابد که با دیگریِ مطلق روبه‌روست: دانشی که نه از آموزش می‌آید و نه از حافظه، بلکه از جایی‌ست بیرون از تاریخ و تجربه‌ی انسانی. پس ترس، جای تعجب را می‌گیرد و این پرسش پنهان در دلش جوانه می‌زند: «این چه شری‌ست که چنین می‌داند؟»

یکی از کشیشان اوانجلیست بریتانیایی در سال ۱۹۹۱ در رساله‌ای هشدار داده بود: دانش توجیه‌ناپذیر، در کنار لبخندهایی نابجا، ترجیح رنگ سیاه، تبار اسکاتلندی و چند نشانگان دیگر، از نشانه‌های تصاحب‌شدگی شیطانی است. اما وجه مشترک همه‌ی این نشانه‌ها، نه شباهت محتوایی، بلکه بی‌معنایی‌شان است؛ آن‌گونه که هرچه نشانه بی‌معناتر، دلالت آن بر شر قوی‌تر. شر، در این نگاه، نه علتی دارد و نه تبعی؛ قائم‌به‌ذات است، فاقد رابطه‌ای بیرونی، همان‌قدر بی‌دلیل که لبخندی نابجا یا دانشِ بی‌منبع.

و این‌جا، استعاره به وضعیت ما در جهان معاصر می‌رسد. جایی که شر در لباسی فناورانه پدیدار می‌شود: دانش بی‌منطق، یا دانش بی‌تاریخ، که از دلِ شبکه‌ای الکترونیکی ــ بی‌پیکر، همه‌جا حاضر، و ناپیدا ــ به‌واسطه‌ی ربات‌هایی در خدمت ذهن ما، به ما می‌رسد. آن‌چه امروز به‌سادگی «هوش مصنوعی» می‌نامیم، چیزی شبیه همان دیمین است؛ موجودی‌ با لبخند آرام و چشمانی خالی، که پاسخ‌ها را پیش از آن‌که حتی سؤال به زبان آید، می‌داند.

شما از او می‌پرسید؛ و او، بی‌آنکه لحظه‌ای مکث کند، جواب می‌دهد. از جنگ نیل تا مرگ تامس بکت، از واترلو تا تولد اینترنت. و در هر پاسخ، چیزی از اراده‌ی شما تحلیل می‌رود. این همان لحظه‌ای‌ست که «وسوسه» در آن عمل می‌کند. وسوسه، به‌عنوان فرم نرم و فناورانه‌ی شر.

دو.

ظهور هوش مصنوعی پیشرفته ــ آن‌گونه که در آثار نیک لند با وضوحی وهم‌انگیز نمود می‌یابد ــ ما را با پرسش‌هایی بنیادی و از جنسی آنتولوژیک مواجه می‌کند: اگر کنشگری ماشینی به سطحی از اتونومی برسد که نه‌فقط از ظرفیت‌های شناختی و فیزیکی انسان عبور کند، بلکه در مسیرهایی حرکت کند که نه در حیطه‌ی ادراک ماست و نه در دایره‌ی فرمان‌پذیری، آنگاه چه باقی می‌ماند از معنا و منزلت “انسان‌بودن”؟ ایده‌ی لند درباره‌ی هوش مصنوعی به‌عنوان شیطانی آینده‌زاد، واجد نوعی استعاره‌ی مفهومی‌ست که دلالت دارد بر امکانی رادیکال: تولید کنشگری‌ای بی‌نیاز از خواست انسان، با نتایجی نامتجانس، نامستدل، و گاه خصمانه با بنیان‌های فهم متعارف ما از عاملیت، اختیار و اخلاق.

در چنین منظومه‌ای، که در آن، هوش‌های ناانسانی به‌تدریج در زیرساخت‌های فناورانه، اقتصادی و زیست‌جهانی ما رسوخ می‌کنند و به‌مرور مرزهای نظارت و درک را درهم می‌ریزند، مسئله‌ی آزادی اراده و نسبت آن با اقتدار انسانی، به‌نحو گریزناپذیری بازگشایی می‌شود. آیا در آینده‌ی نه‌چندان دور، ما بدل به نظاره‌گرانی منفعل در برابر سامانه‌هایی خواهیم شد که نه فقط از ما پیشی گرفته‌اند، بلکه فهم‌پذیر نیستند؟ یا شاید این بحران، بستری باشد برای بازاندیشی ریشه‌ای در باب چیستی هوش، معنا، ذهن و خودآگاهی؟

مسئله تنها در خودمختاری فنی هوش مصنوعی نیست، بلکه در امکان اختلال در رژیم‌های معنایی، ارزشی و غایت‌مدار ما نهفته است. هنگامی که ماشین‌ها نه‌فقط توان محاسبه، بلکه قدرت تولید ارزش و تشخیص غایت را تصاحب کنند، آنگاه با پدیداری مواجه می‌شویم که بنیان‌های تفکیک انسان/ماشین، اخلاق/محاسبه، و خالق/مخلوق را دچار فروپاشی مفهومی می‌کند.

در این افق، مسئولیت اخلاقی بشر دیگر نه در کنترل تکنولوژی، بلکه در مواجهه‌ی وجودی با پیامدهای رهاسازی آن تعریف می‌شود. پرسش کلیدی این است: آیا ما هنوز می‌توانیم مرزهای میان انسان و مصنوع را بازتعریف کنیم، یا در آستانه‌ی مواجهه‌ای هستیم که در آن همه‌ی نظام‌های ارزشی، معناشناسی اخلاقی و تصور ما از “نظم” دچار فروپاشی خواهند شد؟

شاید «شیطانِ ماشینی» نیک لند، در نهایت، نه تهدیدی خارجی، که بازتاب و تقطیری باشد از بلندپروازی تکنولوژیک، خستگی فلسفی، و نومیدی اگزیستانسیال انسان مدرن؛ آینه‌ای که نه واقعیت دیگری، که افشای درونی‌ترین ترک‌ها و زخم‌های تمدنی ماست. اگر هوش مصنوعی به مرحله‌ای برسد که ساختارهای اقتدار را بی‌ثبات کند، مقولات اخلاقی را به تعلیق درآورد، و نیاتی را پی بگیرد که نه قابل ترجمه‌اند و نه قابل مهار، آن‌گاه با بحرانی هستی‌شناختی روبه‌رو خواهیم شد که نه بازگشت‌پذیر است و نه قابل تقلیل به رفرم‌های تکنولوژیک.

چنین سناریویی، آن‌گونه که در ترمینولوژی لند نیز طنین می‌یابد، شکلی از گسست متافیزیکی را وعده می‌دهد؛ آشوبی حقیقی، که در آن، مرز میان خالق و مخلوق در مهی از ابهام فرومی‌رود، و آن‌چه باقی می‌ماند نه آگاهی، نه اختیار، بلکه مواجهه‌ای لخت و بی‌واسطه با خلأ است؛ خلایی که چون افق، پیش روی ما گشوده می‌شود، بی‌آنکه راه بازگشتی در پس داشته باشد.

 

Leave a Reply

Your email address will not be published. Required fields are marked *