کتاب زندگی ۳.۰؛ انسان‌بودن در عصر هوش مصنوعی

آنچه اکنون از جانب دولت لازم داریم نظارت از بالا نیست، بلکه بینش و بصیرت است؛

هیچ دلیل بنیادی‌ای وجود ندارد که روزی ماشین نتواند دست کم به اندازهٔ ما باهوش باشد.

انگلیسی و سوئدی را در کودکی و در خانه آموختم، آلمانی و اسپانیایی را در مدرسه یاد گرفتم، پرتغالی و رومانیایی را با دو ازدواجم فراگرفتم، و قدری هم روسی و فرانسوی و چینی ماندارین به صورت تفریحی و خودخوان یاد گرفته‌ام.

مگر نه آنکه آویختن به برداشت‌های متکبرانه از برتری بر دیگران (افراد، گروه‌های نژادی، گونه‌ها، و غیره) در گذشته مشکلات هولناکی پدید آورده است و اندیشه‌ای است که شاید زمان بازنشستگی آن فرارسیده باشد. واقعیت آن است که استثناباوری بشر نه‌تنها در گذشته باعث درد و رنج شده است، بلکه به نظر می‌آید که برای رشد و شکوفایی انسان هم غیرضروری است

-افراد صرفاً فکرهای خوبشان را با هم به اشتراک می‌گذارند و هرکسی می‌تواند از آنها استفاده کند.

راز هستیِ بشری فقط در زنده ماندن نیست، بلکه در یافتن چیزی برای زندگی کردن است. فیودور داستایفسکی، برادران کارامازوف

سیارهٔ ما در حال حاضر ۹۹۹۹۹۹. ۹۹ ٪ مرده است، به این معنا که این کسر از ماده بخشی از زیست‌کره نیست و تقریباً هیچ کار مفیدی برای حیات انجام نمی‌دهد بجز ایجاد کشش گرانشی و میدان مغناطیسی

ممکن است هوش مصنوعی به تأمل دربارهٔ خودش بپردازد. وقتی که مدل خوبی از خودش بسازد و بفهمد که چیست، اهدافی را که ما به آن داده‌ایم در سطحی بالاتر درک خواهد کرد، و شاید تصمیم بگیرد این اهداف را نادیده بگیرد یا دگرگون کند، درست همان‌طور که ما انسان‌ها پس از فهم هدف‌هایی که ژن‌هایمان در ما قرار داده‌اند آنها را واژگون می‌کنیم، مثلاً با استفاده از روش‌های پیشگیری از بارداری.

خاطرهٔ شیرینی دارم از وقتی که در دوران دبیرستان در یک مغازهٔ آبنبات‌فروشی کار می‌کردم تا بتوانم رایانه‌ای مجهز به ۱۶ کیلوبایت حافظه بخرم

مشهور است که جان ک. کلهونسیاستمدار آمریکایی قرن نوزدهم، از این ادعا دفاع می‌کرد که آفریقایی‌ها اگر در آمریکا برده باشند وضع بهتری دارند، و ارسطو هم در سیاست خود این عقیدهٔ مشابه را بیان می‌کند که برای حیوانات بهتر است که رام و مطیعِ انسان شوند، و در ادامه هم می‌گوید: «و به‌واقع استفاده‌ای که از برده‌ها و حیوانات اهلی می‌شود چندان متفاوت نیست». بعضی مدافعانِ امروزی برده‌داری استدلال می‌کنند که حتی اگر زندگی برده‌ها فلاکت‌بار و ملال‌آور باشد، برده‌ها قادر به رنج کشیدن نیستند -خواه ماشین‌های هوشمندِ آینده باشند یا مرغ‌های پرورشی که در مرغداری‌های تاریک و شلوغ زندگی می‌کنند و همیشه مجبورند هوای آلوده به آمونیاک و گرد و غبارِ برخاسته از فضله و پَر را تنفس کنند.

افراد طوری دربارهٔ معنای زندگی می‌پرسند که گویی وظیفهٔ کیهان ما است که به هستی‌مان معنا بدهد، مسئله را برعکس کرده‌اند: این جهان ما نیست که به موجودات آگاه معنا می‌دهد، بلکه موجودات آگاه هستند که به جهانمان معنا می‌دهند.

شاید هم امیدوار باشند به دستیابی به چیزی نزدیک به نامیرایی از طریق ایجاد نسخه‌های پشتیبان اطلاعات

به طور خلاصه می‌توان گفت، موجود زنده کنشگری است با عقلانیت محدود که یک هدف واحد را دنبال نمی‌کند، بلکه از پاره‌ای قواعد دم‌دستی برای دنبال کردن بعضی چیزها و پرهیز از بعضی دیگر پیروی می‌کند. ذهنِ بشریِ ما این قواعد دم‌دستیِ حاصلِ تکامل را به صورت احساسات ادراک می‌کند، که معمولاً (و اغلب بدون آگاهی ما) تصمیم‌گیری‌مان را به‌سوی هدف غاییِ تولید مثل هدایت می‌کند. احساس گرسنگی و تشنگی ما را در برابر مرگ در اثر کم‌غذایی و کم‌آبی، و احساس درد ما را در برابر آسیب رساندن به بدنمان محافظت می‌کند، احساس شهوت ما را به تولید مثل برمی‌انگیزد، احساس عشق و محبت ما را وامی‌دارد به دیگر حاملان ژن‌هایمان و کسانی که به آنها کمک می‌کنند کمک کنیم، و الیٰ آخر. مغز با راهنماییِ این احساسات می‌تواند سریع و کارا تصمیم بگیرد که چه کنیم

یک ماشین فوق‌هوشمند می‌تواند ماشین‌هایی طراحی کند که حتی از خودش هم بهتر باشند؛ و بنابراین بی‌تردید «انفجار هوش» رخ می‌دهد، و هوش ماشین‌ها از سطح هوش انسان بسیار فراتر خواهد رفت. بنابراین نخستین ماشین فوق‌هوشمند آخرین اختراعی است که انسان به آن نیاز خواهد داشت، (پس از این اختراع، هیچ اختراع دیگری لازم نیست)؛ البته با فرض آنکه این ماشین به اندازه‌ای مطیع انسان باشد که به ما بگوید چگونه باید بر آن تسلط داشته باشیم».

به نظر می‌آید ضربِ ۳۱۴۱۵۹ در ۲۷۱۸۲۸ خیلی دشوارتر باشد از شناختنِ عکس یک دوست، اما رایانه‌ها خیلی پیش از آنکه من به دنیا بیایم، در حساب از ما انسان‌ها جلو زده بودند، حال آنکه شناساییِ تصویر در سطح انسان همین تازگی‌ها امکان‌پذیر شده است. این واقعیت که کارهای حسی‌حرکتیِ ابتدایی به رغم نیاز به امکانات محاسباتی فراوان ساده به نظر می‌آیند به «پارادکس موراوِک» شهرت دارد، و این‌گونه توضیح داده می‌شود که مغز ما با اختصاص دادنِ مقدار زیادی از سخت‌افزارهای تخصصی -در واقع بیش از یک‌چهارم کل مغز- برای این منظور، سبب می‌شود که این کارها ساده به نظر برسند.

این سطحِ بحرانی جایی است که ماشین‌ها بتوانند کار طراحی هوش مصنوعی را انجام دهند

در سال ۲۰۱۵، فقط تصادفات رانندگی جان بیش از ۱.۲ میلیون نفر را گرفته است و به اینها باید چندین هزار نفری را نیز افزود که در حوادث حمل‌ونقل هوایی و ریلی و دریایی جان سپرده‌اند

زمان لازم برای رفت و برگشت پیام تا آن سوی کرهٔ زمین در حدود ۰.۱ ثانیه است (تقریباً معادل با سرعت اندیشیدن ما انسان‌ها)، پس برای مغزِ ساخته‌شده با هوش مصنوعی که بزرگیِ آن به اندازهٔ زمین باشد، اندیشه‌هایی که به‌راستی در ابعاد جهانی باشد فقط به اندازهٔ افکار مغز انسان می‌تواند سرعت داشته باشد. برای یک سامانهٔ کوچک هوش مصنوعی که در هر یک‌میلیاردمِ ثانیه یک عملیات انجام می‌دهد (این سرعت معمولی رایانه‌های امروزی است)، ۰.۱ ثانیه مانند چهار ماه برای شما است،

الن تورینگ و همکارانش، متخصصان بریتانیایی رمزگشایی، در مرکز بیلچلی‌پارک از پیش می‌دانستند زیردریایی‌های آلمانی به کدام کشتی‌های متفقین حمله خواهند کرد، اما تصمیم گرفتند فقط در بعضی موارد دخالت کنند تا قدرت مخفی‌شان لو نرود

اگر این محدودیتْ نوعی ترس از فضای بسته در شما پدید می‌آورد و احساس می‌کنید در منطقه‌ای از کیهان محبوس شده‌اید، بگذارید با اشاره به یک راه گریزِ احتمالی خوشحالتان کنم: در محاسبات من فرض شده است که مقدار انرژی تاریک در طول زمان ثابت می‌ماند، و این چیزی است که آخرین اندازه‌گیری‌ها هم نشان می‌دهد. ولی ما هنوز دربارهٔ اینکه انرژی تاریک واقعاً چیست هیچ‌چیزی نمی‌دانیم، و این کورسوی امیدی باقی می‌گذارد که شاید انرژی تاریک هم در نهایت رو به زوال برود (درست مانند ماده‌ای که خصوصیاتی بسیار شبیه به انرژی تاریک دارد و برای توضیحِ تورم کیهانی فرض می‌شود که وجود دارد)، و اگر این زوال رخ دهد، به جای افزایش سرعت انبساط شاهد کاهش سرعت خواهیم بود، و احتمالاً این امکان برای صورت‌های آیندهٔ حیات فراهم می‌شود که تا هر زمان که دوام داشته باشند به تصرف و استقرار در کهکشان‌های جدید ادامه دهند.

سیاره‌ای که آکنده از حیات باشد انرژی را با کارایی بیشتری هدر می‌دهد. پس به یک معنا، کیهان ما حیات را ابداع کرد تا زودتر به مرگ گرما برسد. اگر شکر را کف آشپزخانهٔ خود بریزید، شکر علی‌الاصول می‌تواند انرژی شیمیاییِ مفید خود را تا سال‌ها حفظ کند، اما اگر مورچه‌ها پیدایشان شود، آن انرژی را خیلی زود بر باد می‌دهند. به همین صورت، ذخایر نفتِ مدفون در پوستهٔ زمین می‌توانست انرژی مفید شیمایی خود را خیلی بیشتر حفظ کند اگر ما موجودات دوپا آن را به سطح زمین نیاورده و نسوزانده بودیم.

برای مثال فرض کنید شما رباتی هستید که دسته‌ای از مورچه‌ها ساخته‌اند و در فرایندی بازگشتی خود را بهبود می‌دهید و بسیار باهوش‌تر از آنها شده‌اید و هدف‌هایتان با اهداف آنها مشترک است و در ساخت لانه‌های بزرگ‌تر و بهتر به آنها کمک می‌کنید، تا اینکه سرانجام به هوش سطح بشری و فهمی که اکنون دارید می‌رسید. آیا تصور می‌کنید باقی زندگی‌تان را فقط به بهینه‌سازی لانهٔ مورچه اختصاص می‌دهید، یا فکر می‌کنید به پرسش‌ها و مسائل پیچیده‌تری علاقه‌مند می‌شوید که مورچه‌ها توانایی درکشان را ندارند؟

آگاهی پدیده‌ای فیزیکی است که احساسی غیرفیزیکی ایجاد می‌کند، چون مانند موج و محاسبه است: ویژگی‌هایی دارد که از بستر مادیِ خاصِ آن مستقل است. از ایدهٔ آگاهی به‌مثابهٔ اطلاعات منطقاً می‌توان همین نتیجه را گرفت. از اینجا می‌توان به اندیشه‌ای رادیکال رسید که من آن را واقعاً می‌پسندم: اگر آگاهی نحوهٔ احساس اطلاعات باشد هنگامی که به شکل‌های خاصی پردازش می‌شود، آنگاه باید چیزی باشد مستقل از بستر مادی‌اش؛ فقط ساختار پردازش اطلاعات است که اهمیت دارد، نه ساختار موادی که پردازش اطلاعات را انجام می‌دهند. به بیان دیگر، آگاهی به شکل مضاعف مستقل از بستر است!

بدون آگاهی هیچ‌گونه شادکامی و خوبی و زیبایی و معنا و هدفی وجود نخواهد داشت -فقط هدر دادنِ فضا در ابعاد نجومی خواهد بود. پس وقتی افراد طوری دربارهٔ معنای زندگی می‌پرسند که گویی وظیفهٔ کیهان ما است که به هستی‌مان معنا بدهد، مسئله را برعکس کرده‌اند: این جهان ما نیست که به موجودات آگاه معنا می‌دهد، بلکه موجودات آگاه هستند که به جهانمان معنا می‌دهند. پس قطعاً نخستین هدف در فهرست آرزوهایمان برای آینده باید حفظ (و در صورت امکان گسترش) آگاهیِ زیستی و/یا مصنوعی در کیهانمان باشد، نه پیش بردن آن به‌سوی انقراض.

ما انسان‌ها توانسته‌ایم با هوش برتر خود بر سایر موجودات زندهٔ زمین تسلط یابیم، پس این امکان چندان دور از ذهن نیست که موجودی ابرهوشمند نیز بتواند بر ما تسلط پیدا کند.

دلایل علمی خوبی داریم برای جدی تلقی کردنِ این امکان که حیات و هوش می‌توانند این جهان ما را مطابق با مقاصدشان شکل دهند

ولی با وجود قدرتمندترین فناوری‌هایی که امروز در اختیار داریم، همهٔ صورت‌های حیات که می‌شناسیم اساساً محدود به سخت‌افزارِ زیستی‌شان هستند.

اخترشناسان خودآگاه دربارهٔ بسیاری مسائل اختلاف نظر دارند، اما تقریباً همه می‌پذیرند که این کهکشان‌ها زیبا و باابهت‌اند. البته زیبایی در چشم ناظر است، نه در قوانین فیزیک؛ پس پیش از آنکه جهان ما بیدار شود، هیچ زیبایی‌ای وجود نداشت. همین سبب می‌شود بیداریِ کیهانیِ ما امری حیرت‌انگیز و مایهٔ شادمانی باشد؛ به این ترتیب جهان ما از یک مردهٔ متحرک بی‌شعور و فاقد آگاهی به زیست‌بومی زنده بدل شد

وقتی شما سندی را از راه ایمیل برای دوستتان می‌فرستید تا روی کاغذ چاپ کند، اطلاعات در فرایندی بسیار سریع، به‌ترتیب از روی الگوهای مغناطیسیِ هارد درایو شما در حافظهٔ فعال رایانه‌تان و در قالب بارهای الکتریکی رونویسی می‌شود، سپس به شکل امواج رادیویی در شبکهٔ بی‌سیم شما، و بعد اختلاف ولتاژ در روتر شما، و پس از آن به صورت امواج لیزر در کابل نوری درمی‌آید و سرانجام در قالب مولکول‌هایی بر یک صفحهٔ کاغذ قرار می‌گیرد. به بیان دیگر، اطلاعات می‌تواند مستقل از بستر مادی‌اش زندگی مستقل خود را داشته باشد!

در طول شش دههٔ گذشته، قیمت حافظهٔ رایانه تقریباً هر دو سال یک‌بار به نصف کاهش یافته است. هارد درایوها بیش از صدمیلیون برابر ارزان شده‌اند، و کاهش قیمت در حافظه‌های سریع‌تر که علاوه بر ذخیرهٔ صِرف اطلاعات برای انجام محاسبات نیز مناسب هستند به رقم شگفت‌انگیزِ ده‌تریلیون بار ارزان‌تر رسیده است.