بریده‌هایی از کتاب زندگی ۳.۰؛ انسان‌بودن در عصر هوش مصنوعی

آنچه اکنون از جانب دولت لازم داریم نظارت از بالا نیست، بلکه بینش و بصیرت است؛

هیچ دلیل بنیادی‌ای وجود ندارد که روزی ماشین نتواند دست کم به اندازهٔ ما باهوش باشد.

انگلیسی و سوئدی را در کودکی و در خانه آموختم، آلمانی و اسپانیایی را در مدرسه یاد گرفتم، پرتغالی و رومانیایی را با دو ازدواجم فراگرفتم، و قدری هم روسی و فرانسوی و چینی ماندارین به صورت تفریحی و خودخوان یاد گرفته‌ام.

مگر نه آنکه آویختن به برداشت‌های متکبرانه از برتری بر دیگران (افراد، گروه‌های نژادی، گونه‌ها، و غیره) در گذشته مشکلات هولناکی پدید آورده است و اندیشه‌ای است که شاید زمان بازنشستگی آن فرارسیده باشد. واقعیت آن است که استثناباوری بشر نه‌تنها در گذشته باعث درد و رنج شده است، بلکه به نظر می‌آید که برای رشد و شکوفایی انسان هم غیرضروری است

راز هستیِ بشری فقط در زنده ماندن نیست، بلکه در یافتن چیزی برای زندگی کردن است. فیودور داستایفسکی، برادران کارامازوف

-افراد صرفاً فکرهای خوبشان را با هم به اشتراک می‌گذارند و هرکسی می‌تواند از آنها استفاده کند.

ممکن است هوش مصنوعی به تأمل دربارهٔ خودش بپردازد. وقتی که مدل خوبی از خودش بسازد و بفهمد که چیست، اهدافی را که ما به آن داده‌ایم در سطحی بالاتر درک خواهد کرد، و شاید تصمیم بگیرد این اهداف را نادیده بگیرد یا دگرگون کند، درست همان‌طور که ما انسان‌ها پس از فهم هدف‌هایی که ژن‌هایمان در ما قرار داده‌اند آنها را واژگون می‌کنیم، مثلاً با استفاده از روش‌های پیشگیری از بارداری.

سیارهٔ ما در حال حاضر ۹۹۹۹۹۹. ۹۹ ٪ مرده است، به این معنا که این کسر از ماده بخشی از زیست‌کره نیست و تقریباً هیچ کار مفیدی برای حیات انجام نمی‌دهد بجز ایجاد کشش گرانشی و میدان مغناطیسی

خاطرهٔ شیرینی دارم از وقتی که در دوران دبیرستان در یک مغازهٔ آبنبات‌فروشی کار می‌کردم تا بتوانم رایانه‌ای مجهز به ۱۶ کیلوبایت حافظه بخرم

افراد طوری دربارهٔ معنای زندگی می‌پرسند که گویی وظیفهٔ کیهان ما است که به هستی‌مان معنا بدهد، مسئله را برعکس کرده‌اند: این جهان ما نیست که به موجودات آگاه معنا می‌دهد، بلکه موجودات آگاه هستند که به جهانمان معنا می‌دهند.

مشهور است که جان ک. کلهونسیاستمدار آمریکایی قرن نوزدهم، از این ادعا دفاع می‌کرد که آفریقایی‌ها اگر در آمریکا برده باشند وضع بهتری دارند، و ارسطو هم در سیاست خود این عقیدهٔ مشابه را بیان می‌کند که برای حیوانات بهتر است که رام و مطیعِ انسان شوند، و در ادامه هم می‌گوید: «و به‌واقع استفاده‌ای که از برده‌ها و حیوانات اهلی می‌شود چندان متفاوت نیست». بعضی مدافعانِ امروزی برده‌داری استدلال می‌کنند که حتی اگر زندگی برده‌ها فلاکت‌بار و ملال‌آور باشد، برده‌ها قادر به رنج کشیدن نیستند -خواه ماشین‌های هوشمندِ آینده باشند یا مرغ‌های پرورشی که در مرغداری‌های تاریک و شلوغ زندگی می‌کنند و همیشه مجبورند هوای آلوده به آمونیاک و گرد و غبارِ برخاسته از فضله و پَر را تنفس کنند.

به طور خلاصه می‌توان گفت، موجود زنده کنشگری است با عقلانیت محدود که یک هدف واحد را دنبال نمی‌کند، بلکه از پاره‌ای قواعد دم‌دستی برای دنبال کردن بعضی چیزها و پرهیز از بعضی دیگر پیروی می‌کند. ذهنِ بشریِ ما این قواعد دم‌دستیِ حاصلِ تکامل را به صورت احساسات ادراک می‌کند، که معمولاً (و اغلب بدون آگاهی ما) تصمیم‌گیری‌مان را به‌سوی هدف غاییِ تولید مثل هدایت می‌کند. احساس گرسنگی و تشنگی ما را در برابر مرگ در اثر کم‌غذایی و کم‌آبی، و احساس درد ما را در برابر آسیب رساندن به بدنمان محافظت می‌کند، احساس شهوت ما را به تولید مثل برمی‌انگیزد، احساس عشق و محبت ما را وامی‌دارد به دیگر حاملان ژن‌هایمان و کسانی که به آنها کمک می‌کنند کمک کنیم، و الیٰ آخر. مغز با راهنماییِ این احساسات می‌تواند سریع و کارا تصمیم بگیرد که چه کنیم

شاید هم امیدوار باشند به دستیابی به چیزی نزدیک به نامیرایی از طریق ایجاد نسخه‌های پشتیبان اطلاعات

ولی با وجود قدرتمندترین فناوری‌هایی که امروز در اختیار داریم، همهٔ صورت‌های حیات که می‌شناسیم اساساً محدود به سخت‌افزارِ زیستی‌شان هستند.

دلایل علمی خوبی داریم برای جدی تلقی کردنِ این امکان که حیات و هوش می‌توانند این جهان ما را مطابق با مقاصدشان شکل دهند

ما انسان‌ها توانسته‌ایم با هوش برتر خود بر سایر موجودات زندهٔ زمین تسلط یابیم، پس این امکان چندان دور از ذهن نیست که موجودی ابرهوشمند نیز بتواند بر ما تسلط پیدا کند.

بدون آگاهی هیچ‌گونه شادکامی و خوبی و زیبایی و معنا و هدفی وجود نخواهد داشت -فقط هدر دادنِ فضا در ابعاد نجومی خواهد بود. پس وقتی افراد طوری دربارهٔ معنای زندگی می‌پرسند که گویی وظیفهٔ کیهان ما است که به هستی‌مان معنا بدهد، مسئله را برعکس کرده‌اند: این جهان ما نیست که به موجودات آگاه معنا می‌دهد، بلکه موجودات آگاه هستند که به جهانمان معنا می‌دهند. پس قطعاً نخستین هدف در فهرست آرزوهایمان برای آینده باید حفظ (و در صورت امکان گسترش) آگاهیِ زیستی و/یا مصنوعی در کیهانمان باشد، نه پیش بردن آن به‌سوی انقراض.

آگاهی پدیده‌ای فیزیکی است که احساسی غیرفیزیکی ایجاد می‌کند، چون مانند موج و محاسبه است: ویژگی‌هایی دارد که از بستر مادیِ خاصِ آن مستقل است. از ایدهٔ آگاهی به‌مثابهٔ اطلاعات منطقاً می‌توان همین نتیجه را گرفت. از اینجا می‌توان به اندیشه‌ای رادیکال رسید که من آن را واقعاً می‌پسندم: اگر آگاهی نحوهٔ احساس اطلاعات باشد هنگامی که به شکل‌های خاصی پردازش می‌شود، آنگاه باید چیزی باشد مستقل از بستر مادی‌اش؛ فقط ساختار پردازش اطلاعات است که اهمیت دارد، نه ساختار موادی که پردازش اطلاعات را انجام می‌دهند. به بیان دیگر، آگاهی به شکل مضاعف مستقل از بستر است!

برای مثال فرض کنید شما رباتی هستید که دسته‌ای از مورچه‌ها ساخته‌اند و در فرایندی بازگشتی خود را بهبود می‌دهید و بسیار باهوش‌تر از آنها شده‌اید و هدف‌هایتان با اهداف آنها مشترک است و در ساخت لانه‌های بزرگ‌تر و بهتر به آنها کمک می‌کنید، تا اینکه سرانجام به هوش سطح بشری و فهمی که اکنون دارید می‌رسید. آیا تصور می‌کنید باقی زندگی‌تان را فقط به بهینه‌سازی لانهٔ مورچه اختصاص می‌دهید، یا فکر می‌کنید به پرسش‌ها و مسائل پیچیده‌تری علاقه‌مند می‌شوید که مورچه‌ها توانایی درکشان را ندارند؟

سیاره‌ای که آکنده از حیات باشد انرژی را با کارایی بیشتری هدر می‌دهد. پس به یک معنا، کیهان ما حیات را ابداع کرد تا زودتر به مرگ گرما برسد. اگر شکر را کف آشپزخانهٔ خود بریزید، شکر علی‌الاصول می‌تواند انرژی شیمیاییِ مفید خود را تا سال‌ها حفظ کند، اما اگر مورچه‌ها پیدایشان شود، آن انرژی را خیلی زود بر باد می‌دهند. به همین صورت، ذخایر نفتِ مدفون در پوستهٔ زمین می‌توانست انرژی مفید شیمایی خود را خیلی بیشتر حفظ کند اگر ما موجودات دوپا آن را به سطح زمین نیاورده و نسوزانده بودیم.