بریده‌هایی از کتاب زندگی ۳.۰؛ انسان‌بودن در عصر هوش مصنوعی

وقتی که هوش مصنوعیِ ابرهوشمند در منظومهٔ خورشیدی یا کهکشان دیگری مستقر شد، بردن انسان‌ها به آنجا راحت خواهد بود -البته اگر انسان‌ها توانسته باشند هوش مصنوعی‌ای بسازند که چنین هدفی داشته باشد. همهٔ اطلاعات لازم دربارهٔ انسان را می‌توان با سرعت نور مخابره کرد، و پس از آن، هوش مصنوعی می‌تواند کوارک‌ها و الکترون‌ها را طوری کنار هم قرار دهد که انسان‌های مطلوب پدید آیند. این کار را می‌شود با فناوری ابتدایی و صرفاً از طریق انتقال دو گیگابایت اطلاعاتِ ذخیره‌شده در DNA انسان و سپس پرورش جنین و بعد تربیت کودک با هوش مصنوعی انجام داد، یا آنکه هوش مصنوعی می‌تواند کوارک‌ها و الکترون‌ها را با استفاده از فناوری نانو طوری کنار هم قرار دهد که انسان‌های بالغی به وجود آیند که همهٔ خاطراتِ نمونه‌های اصلی‌شان در زمین را در ذهن داشته باشند

اگر این فاصله از یک مقدار بحرانیِ مشخص بیشتر باشد، هرگز به قطار نمی‌رسید. در مورد رسیدن به کهکشان‌های دوری که با سرعت فزاینده در حال فاصله گرفتن از ما هستند نیز با همین وضع مواجه‌ایم: حتی اگر بتوانیم با سرعت نور حرکت کنیم، همهٔ کهکشان‌هایی که بیش از حدود ۱۷ میلیارد سال نوری از ما فاصله دارند تا ابد بیرون از دسترسمان خواهند بود -و این یعنی بیش از ۹۸٪ کهکشان‌های جهان ما. اما یک لحظه صبر کنید؛ آیا نظریهٔ نسبیت خاصِ اینشتین نمی‌گوید که هیچ‌چیزی نمی‌تواند سریع‌تر از نور حرکت کند؟ پس کهکشان‌ها چگونه می‌توانند از دست چیزی که با سرعت نور حرکت می‌کند بگریزند؟ پاسخ این است که نسبیت خاص را نظریهٔ نسبیت عام اینشتین از دور خارج کرده است و این نظریه دربارهٔ حد سرعت آسانگیرتر است: هیچ‌چیزی نمی‌تواند سریع‌تر از نور در فضا حرکت کند اما خود فضا می‌تواند با هر سرعتی که بخواهد منبسط شود

مشکل نخست این است که جهان ما در حال انبساط است، و این یعنی تمام کهکشان‌ها پیوسته از ما دور می‌شوند، پس برای تصرف کهکشان‌های دیگر، باید وارد نوعی بازیِ تعقیب و گریز شویم. مشکل دوم این است که سرعت این انبساط کیهانی در اثر انرژی تاریک، که برای ما ناشناخته است و حدود ۷۰٪ جهان ما را تشکیل می‌دهد، رو به افزایش است. برای اینکه بهتر بفهمید این مسئله چه دشواری‌ای پیش می‌آورد، تصور کنید وارد ایستگاه راه‌آهن می‌شوید و می‌بینید قطارتان به‌آهستگی شتاب می‌گیرد و از شما دور می‌شود، اما یک درِ آن باز مانده است طوری که شما را وسوسه می‌کند به‌دنبال قطار بدوید. اگر سریع و نترس باشید، آیا می‌توانید به قطار برسید؟ قطار نهایتاً به سرعتی می‌رسد که بالاتر از توان دویدنِ شما است، بنابراین پاسخ این پرسش آشکارا وابسته است به اینکه در ابتدا قطار چه اندازه از شما فاصله دارد: اگر این فاصله از یک مقدار بحرانیِ مشخص بیشتر باشد، هرگز به قطار نمی‌رسید

دیدیم که ماده را چگونه می‌توان هم به رایانه و هم به انرژی تبدیل کرد، پس به یک معنا یگانه منبعِ اساسیِ مورد نیازْ ماده است. وقتی که حیات آینده در زمینهٔ آنچه می‌تواند با مادهٔ در اختیارش بکند به سقفِ تعیین‌شدهٔ فیزیک برخورد کرد، آنگاه فقط یک راه برای پیشرفت پیش رو خواهد داشت: اینکه مادهٔ بیشتری به دست بیاورد. تنها راه برای این کار گسترش یافتن در سراسر جهان است. پس پیش به‌سوی فضا!

با در نظر داشتن سابقهٔ تاریخی‌مان، اگر بخواهیم به رفتار کنونی ادامه دهیم، به نظرم خیلی بعید است که احتمال بروز تصادفی یک جنگ هسته‌ای در هر سال کمتر از یک‌هزارم باشد، که در این صورت احتمال آنکه طی ۱۰.۰۰۰ سال یک جنگ هسته‌ای در بگیرد بیشتر از ۹۹.۹۹۵ درصد خواهد بود

ما انسان‌ها، با سطح فعلیِ هوش و بلوغ عاطفی‌مان، استعداد عجیبی برای خطای محاسباتی و کج‌فهمی و بی‌کفایتی داریم، و در نتیجه تاریخ ما آکنده است از تصادفات و جنگ‌ها و فجایع دیگری که وقتی به گذشته نگاه می‌کنیم، مطلقاً هیچ‌کس خواهان آن نبوده است.

فقط سامانه‌های هوش مصنوعی‌ای بسازیم که فاقد آگاهی باشند، و هیچ‌گونه تجربهٔ ذهنی‌ای نداشته باشند. اگر روزی بتوانیم بفهمیم یک سامانهٔ پردازش اطلاعات چه ویژگی‌هایی لازم دارد برای آنکه تجربهٔ ذهنی/درونی داشته باشد، آنگاه می‌توانیم ساخت همهٔ سامانه‌های برخوردار از این ویژگی‌ها را ممنوع کنیم. به بیان دیگر، می‌توان این محدودیت را برای پژوهشگران هوش مصنوعی وضع کرد که فقط سامانه‌های فاقد حس و شعور بسازند

با حیوانات غیرانسان هم دقیقاً مانند انسان‌های برده رفتار می‌شود: بر بدنشان داغ می‌زنند، به غل و زنجیر می‌کشندشان، کتک‌شان را می‌زنند، در حراجی‌ها می‌فروشندشان، بچه‌ها را از پدر و مادرشان جدا می‌کنند و به اجبار به سفر می‌فرستند

در طول تاریخ، برده‌داری را تقریباً در تمام فرهنگ‌ها می‌توان دید، و این مسئله هم در قانون حموربی اشاره شده است که چهارهزار سال قدمت دارد، و هم در عهد قدیم که در آن آمده است ابراهیم بردگانی داشت. ارسطو در سیاست می‌گوید «زیرا اینکه برخی باید حکم برانند و بر بعضی باید حکم رانده شود نه‌تنها ضروری بلکه به مصلحت نیز هست؛ برخی از لحظهٔ تولد نشان بندگی دارند، و برخی نشان حکمرانی.

تام دیتریش استاد هوش مصنوعی در مصاحبه‌ای در سال ۲۰۱۵، زمانی که رئیس انجمن پیشرفت هوش مصنوعی بود، همین حرف را زد: «مردم می‌پرسند رابطهٔ میان انسان و ماشین چیست، و پاسخ من این است که خیلی بدیهی است: ماشین بردهٔ ما است»

اگر انسان‌ها خوب تحصیل کنند و با کار و تفریح سرگرم باشند، کاهش میزان زاد ولد می‌تواند تعداد جمعیت آنها را حتی بدون دخالت ماشین کم کند، چنان‌که در حال حاضر در ژاپن و آلمان رخ داده است. این امر می‌تواند نسل انسان را ظرف فقط چندهزار سال منقرض کند.

وقتی که پهپادهای کوچکِ بهره‌مند از هوش مصنوعی که قابلیت کشتن دارند به تولید انبوه برسند، احتمالاً قیمتشان کمی بیش از قیمت تلفن‌های همراه هوشمند باشد. چه یک نفر تروریست بخواهد سیاستمداری را بکشد چه عاشقی رهاشده در پی انتقام از معشوق سابق خود باشد، تنها کاری که لازم است انجام دهند این است که عکس و نشانیِ هدف را برای پهپاد قاتل بفرستند: پهپاد به‌سوی مقصد پرواز می‌کند، هدف را شناسایی و نابود می‌کند، و سپس خودش را هم از میان می‌برد تا اطمینان حاصل شود که هیچ‌کس نخواهد فهمید چه کسی مسئول این کار است.

افسر مسئول اژدر، گفته بود: «ما می‌میریم، اما همهٔ آنها را هم غرق می‌کنیم، ما آبروی نیروی دریایی‌مان را نمی‌بریم!» خوشبختانه، تصمیم به شلیک را باید هرسه افسر حاضر در زیردریایی تأیید می‌کردند، و یکی از آنها، واسیلی آرخیپوف، مخالفت کرد. تأمل‌برانگیز است که خیلی کم هستند کسانی که نام آرخیپوف را شنیده باشند، اما تصمیم او مانع از بروز احتمالی جنگ جهانی سوم شده است و شاید ارزشمندترین خدمت به بشریت در تاریخ معاصر باشد

البته خدمهٔ زیردریایی از این موضوع اطلاعی نداشتند. و. پ. اورلف، یکی سرنشینان زیردریایی، می‌گوید «فکر کردیم که دیگر تمام شد. مثل این بود که درون بشکه‌ای فلزی نشسته باشی و کسی هم از بیرون دائم با پتک به آن بکوبد». چیز دیگری هم که آمریکایی‌ها نمی‌دانستند این بود که زیردریایی بی ۵۹ مجهز به اژدر هسته‌ای است که اجازه دارد بدون اطلاع دادن به مسکو آن را شلیک کند. در واقع هم ناخدا ساویتسکی تصمیم گرفت اژدر هسته‌ای را شلیک کند. والنتین گریگوریویچ، افسر مسئول اژدر، گفته بود: «ما می‌میریم، اما همهٔ آنها را هم غرق می‌کنیم، ما آبروی نیروی دریایی‌مان را نمی‌بریم!»

در ۲۷ اکتبر ۱۹۶۲، در جریان بحران موشکی کوبا، یازده ناوشکن نیروی دریایی آمریکا به همراه ناو هواپیمابر یواس‌اس رَندالف زیردریاییِ بی ۵۹ متعلق به اتحاد شوروی را در نزدیکی کوبا در آب‌های بین‌المللی بیرون از منطقهٔ «قرنطینهٔ» ایالات متحد محاصره کرده بودند. ولی نمی‌دانستند که دمای درون زیردریایی از ۴۵ درجهٔ سانتیگراد هم بالاتر رفته بود، زیرا باتری‌های زیردریایی در حال تمام شدن بود و سامانهٔ تهویهٔ مطبوع آن دیگر کار نمی‌کرد. بسیاری از خدمهٔ زیردریایی در آستانهٔ مسمومیت با دی‌اکسید کربن از هوش رفته بودند. تماس زیردریایی با مسکو از روزها پیش قطع شده بود و آنها نمی‌دانستند که آیا جنگ جهانی سوم شروع شده است یا خیر. در این موقع، آمریکایی‌ها از چند خرج عمقیِ ضعیف استفاده کردند و به مسکو اطلاع داد که هدف این کارشان صرفاً آن است که زیردریایی را وادار کنند به سطح بیاید و منطقه را ترک کند، البته خدمهٔ زیردریایی از این موضوع اطلاعی نداشتند.

رزم‌ناو آمریکاییِ یواس‌اس وینسنس شناوری بود مجهز به موشک‌های هدایت‌شونده که با توجه به سامانهٔ پشتیبانی توانایش به آن روبوکروزر هم می‌گفتند، و در ۳ ژوئیهٔ ۱۹۸۸، در حین زدوخورد با ناوچه‌های توپ‌دار ایرانی در زمان جنگ ایران و عراق، سامانهٔ رادار این رزم‌ناو هشدار داد که یک هواپیما در حال نزدیک شدن است. ناخدا ویلیام راجرز به این نتیجه رسید که از سوی یک جنگندهٔ اف ۱۴ ایرانی که به‌شدت در حال کاستن از ارتفاع است هدف حمله قرار گرفته است و به سامانهٔ پشتیبانی دستور شلیک داد. اما چیزی که او در آن زمان تشخیص نداد این بود که کشتی او به پرواز شمارهٔ ۶۵۵ ایران‌ایر، یک هواپیمای مسافربری غیرنظامی ایرانی، شلیک کرده و همهٔ ۲۹۰ سرنشین هواپیما را کشته است.

در سال ۲۰۱۲ مطالعه‌ای پرحرف‌وحدیث دربارهٔ قضات اسرائیلی این ادعا را مطرح کرد که آنها هنگامی که گرسنه هستند احکامِ آشکارا سنگین‌تری صادر می‌کنند: این قاضی‌ها درست پس از صبحانه ۳۵٪ از تقاضاهای عفو را رد کرده بودند، حال آنکه درست پیش از زمان ناهار بیش از ۸۵٪ تقاضاهای عفو را نپذیرفته بودند.

وقتی که به نظام قضاییِ کشورتان می‌اندیشید، نخستین اندیشه‌هایی که در ذهنتان تداعی می‌شود کدام است؟ اگر پاسختان تأخیرهای طولانی و هزینه‌های گزاف و گاه‌به‌گاه تصمیمات ناعادلانه است، بدانید که شما تنها نیستید. آیا عالی نبود اگر نخستین چیزی که به ذهنتان می‌رسید «کارایی» و «انصاف» بود؟

مأموریت فوبوس ۱ اتحاد شوروی هم در ۲ سپتامبر ۱۹۸۸ شکست خورد، تا معلوم شود که هنرِ فرستادن خطاهای نرم‌افزاری به فضا فقط نزد غربی‌ها نیست. این سنگین‌ترین فضاپیمای میان‌سیاره‌ای بود که تا آن زمان پرتاب شده بود و هدف فوق‌العادهٔ آن فرود آوردن یک کاوشگر بر سطح قمر مریخ به نام فوبوس بود -اما همهٔ این برنامه‌ها نقش بر آب شد وقتی که جا افتادن یک خط تیره باعث شد که در میانهٔ راه رسیدن به مریخ، فرمان «پایان مأموریت» به فضاپیما مخابره و در نتیجه همهٔ سامانه‌های آن خاموش شود.

مثلاً خود من را در نظر بگیرید. من در مقام دانشمند به این می‌بالم که می‌توانم هدف‌هایم را خودم مشخص کنم، به این می‌بالم که می‌توانم با خلاقیت و شهود به گسترهٔ وسیعی از مسائلِ حل‌نشده بپردازم، و به این می‌بالم که می‌توانم زبان را برای بیان و انتقال آنچه کشف می‌کنم به کار بگیرم. برای من مایهٔ خوشوقتی است که جامعه حاضر است در ازای این کار به من پول بدهد. صدها سال پیش، احتمالاً من هم مانند بسیاری دیگر، به جای این کار به کشاورزی یا صنعتگری مشغول بودم و همین را اساس هویت خود می‌دانستم