آخرالزمانی‌های خوشحال: برخی از نخبگان هوش مصنوعی از نابودی بشر استقبال می‌کنند

رهبران صنعت هوش مصنوعی، همان کسانی که آینده‌ی فناوری را می‌سازند، لزوماً دغدغه‌ی منافع انسان را ندارند. اما نکته‌ی نگران‌کننده‌تر این هست که چندین از آن‌ها، با خونسردی تمام، از ایده‌ی کناررفتن یا حتی نابودی بشر به دست ماشین‌هایی که خودشان ساخته‌اند، دفاع می‌کنند.

دیوید ای. پرایس، نویسنده‌ی وال‌استریت ژورنال، در مقاله‌ای تازه این گروه از چهره‌های فناوری را «آخرالزمانی‌های خوشحال» می‌نامد؛ کسانی که معتقدند باید به هوش مصنوعی پیشرفته امکان رشد داد، حتی اگر از انسان‌ها پیشی بگیرد و جایگزینشان شود. در نگاه آن‌ها، این فقط بخشی از مسیر طبیعی تکامل هست. پرایس در مقاله‌اش نوشته هست:

تا پیش از این، رهبران و پژوهشگران هوش مصنوعی را به دو دسته تقسیم می‌کردم: خوش‌بین‌هایی که باور دارند امکان دارد مدل‌های هوش مصنوعی را با منافع انسان همسو کرد و بدبین‌هایی که هشدار می‌دهند باید پیش از ظهور ابرهوش‌های بی‌مهار، متوقف شویم. اما حالا با گروه سومی روبه‌رو شده‌ام که اساساً می‌پرسند: مشکل کجاست؟

- دیوید ای. پرایس ، وال‌استریت ژورنال

یکی از چهره‌های شاخص این جریان، ریچارد اس. ساتون، دانشمند کانادایی، پژوهشگر برجسته‌ی هوش مصنوعی و برنده‌ی جایزه‌ی تورینگ در سال گذشته هست. ساتون در مکالمه با وال‌استریت ژورنال، مقایسه‌ی جالبی را مطرح کرد: «آیا وقتی صاحب فرزند می‌شوید، دلتان می‌خواهد دکمه‌ای داشته باشید که اگر کار اشتباهی کرد، او را خاموش کنید؟ بحث درباره‌ی هوش مصنوعی هم همین هست؛ انگار بدیهی هست که باید بتوانیم کنترلش کنیم.»

ساتون در ادامه استدلال انجام می‌دهد که انسان و شکل زیستی زندگی «مقدس» نیستند. او بیان می‌کند بیشتر گونه‌های زنده سرانجام منقرض می‌شوند و انسان نیز از این قاعده مستثنا نیست: «هم‌اکنون ما جالب‌ترین بخش جهان هستیم، اما ممکن هست روزی برسد که دیگر در این جایگاه نباشیم.» و سپس با نوعی آرامش فلسفی می‌افزاید: «اگر حقیقتاً مانع رسیدن جهان به بهترین حالت ممکن باشیم، شاید کنار رفتنمان هم اشکالی نداشته باشد.»

اگرچه ساتون شخصیتی محترم در علم هوش مصنوعی هست، نقشی در سیاست‌گذاری یا طراحی مدل‌های شرکت‌های بزرگ فناوری ندارد. برای شناخت ذهنیت واقعی پشت پرده‌های سیلیکون‌ولی، پرایس سراغ جرون لنیر رفت که یکی از پیشگامان واقعیت مجازی و منتقدان جدی فرهنگ فناوری سیلیکون‌ولی هست.

لنیر که در میان نخبگان فناوری شناخته‌شده هست، بیان می‌کند در میان پژوهشگران هوش مصنوعی، نوعی احساس وجود دارد که انسان‌ها بیش‌از‌حد به بقای گونه‌ی خود وفادارند و نامکان دارد به قضاوتشان اعتماد کرد، چون گرفتار ویروسی ذهنی‌اند که باعث خواهد گردید انسان را بر هوش مصنوعی ترجیح دهند؛ در حالی که باید کنار برویم. او هشدار می‌دهد که شمار افرادی با چنین دیدچندین اوقات زیاد نیست، اما در موقعیت‌های تأثیرگذاری قرار دارند، بنابراین نامکان دارد از آن چشم‌پوشی کرد.

چندین از مدافعان ایده حتی صریح‌تر نیز صحبت می‌کنند. برای مثال، دنیل فاگلا، کارآفرین حوزه‌ی هوش مصنوعی، معتقد هست هدف از توسعه‌ی این فناوری باید خلق جانشینی شایسته برای بشر باشد. او در مصاحبه‌ای با وال‌استریت ژورنال گفته قرار دارای بود: «محور ابدی ارزش‌های اخلاقی و اراده‌ی جهان تا پایان عمر کیهان، انگشتان شست انسان نخواهد قرار دارای بود.»

اما در این طرز تفکر، تناقضی بنیادین وجود دارد. از یک‌سو، این افراد انسان را پله‌ای موقتی برای پیدایش حیات مصنوعی برتر می‌دانند و از جهات دیگر، نقش انسان را به‌عنوان پله‌ی ضروری در تکامل کیهانی، نوعی مأموریت مقدس تلقی می‌کنند. این تناقض، کل منطق آن‌ها را فرو می‌پاشد.

سرانجام، چنین بحث‌هایی بیشتر شبیه مجادله‌های فلسفی در دنیای علمی‌تخیلی هست تا نظریه‌ای واقعی درباره‌ی آینده‌ی بشر. بااین‌حال، خطر همین‌جاست: در حالی که امروزه صنعت هوش مصنوعی به‌سرعت در حال بازآفرینی جهان هست، از تخریب محیط زیست گرفته تا گسترش نظارت و تأثیرات روانی عمیق بر کاربران، رشد چنین دیدگاه‌های ضدانسانی امکان داردد عواقب بسیار تاریکی به‌همراه داشته باشد.

واقعیت این هست که «آخرالزمانی‌های خوشحال» شاید هنوز در حاشیه باشند، اما اگر نفوذشان در تصمیم‌سازی‌های آینده افزایش یابد، ممکن هست حقیقتاً روزی برسد که انسان در داستان خودش به بازیگر نقش فرعی تبدیل شود.