بریده‌هایی از کتاب زندگی ۳.۰؛ انسان‌بودن در عصر هوش مصنوعی

اگر همان‌طور که آخرین داده‌های مشاهدتی نشان می‌دهند، انرژی تاریک همچنان کهکشان‌ها را با شتاب از یکدیگر دور کند، آنگاه مانعی عمده پیش روی آیندهٔ حیات قرار می‌گیرد. ادامهٔ چنین روندی به معنای آن است که حتی اگر تمدن آینده بتواند در یک میلیون کهکشان مستقر شود، انرژی تاریک در طول ده‌ها میلیارد سال این امپراتوریِ کیهانی را به هزاران منطقهٔ مختلف تقسیم می‌کند که نمی‌توانند با یکدیگر ارتباط داشته باشند

۹۸٪ جهان ما «ببینید اما دست نزنید» است، یعنی می‌توانیم آن را ببینیم اما حتی اگر تا ابد هم با سرعت نور حرکت کنیم، هرگز به آن نخواهیم رسید. چرا این‌طور است؟ به هر حال وجود حد برای اینکه تا چه اندازه دور را می‌توانیم ببینیم صرفاً ناشی از این واقعیت است که سنّ جهان ما بی‌نهایت نیست، بنابراین پرتوهای دور از ما هنوز به اندازه‌ای زمان نداشته‌اند که به ما برسند. پس چرا اگر زمان سفرمان محدودیت نداشته باشد، نباید بتوانیم به هر کهکشانی، هر اندازه هم که دور از ما باشد، برسیم؟

درست همان‌طور که نهنگ کبود حاصل بازآراییِ کریل و کریل حاصل بازآرایی پلانکتون است، کل منظومهٔ خورشیدی ما فقط هیدروژن است که در طول ۱۳.۸ میلیارد سال تکامل کیهانی آرایش‌های گوناگون به خود گرفته است:

کلیسای کاتولیک موفق‌ترین سازمان بشری در طول تاریخ است، از این حیث که یگانه سازمانی است که دوهزار سال دوام آورده است،

اگر کسی پس از راه‌اندازی سامانهٔ هوش مصنوعی از آن بپرسد «آیا خدا وجود دارد؟»، می‌تواند شوخی استیون هاکینگ را تکرار کند و بگوید «بله، اکنون وجود دارد!»

نباید به دام انسان‌وار کردنِ سامانه‌های هوش مصنوعی بیفتیم و فرض کنیم که آنها احساسات و عواطفی انسان‌وار، همانند حس قدرشناسی، دارند. با اینکه ما انسان‌ها سرشار از گرایش به حس قدرشناسی هستیم، اما نسبت به پدیدآورندهٔ معنوی‌مان (یعنی DNA خود) آن اندازه قدرشناس نیستیم که از وسایل پیشگیری از بارداری استفاده نکنیم، تا DNA به هدف خودش برسد.

اگر نیروی پلیس مرکب از انسان‌ها باشد، شاید از اجرای بعضی فرمان‌های بی‌رحمانه (مثلاً از میان بردن همهٔ اعضای یک گروه نژادی خاص) سرباز زنند، اما این‌گونه سامانه‌های خودکار بدون اینکه هیچ تردیدی به خود راه دهند، آمادهٔ عملی کردن هوس‌های انسان‌هایی هستند که قدرت را در دست دارند. وقتی که چنین دولت تمامیت‌خواهی شکل بگیرد، سرنگونی آن برای مردم عملاً غیرممکن خواهد بود.

مثلاً می‌شود به بهانهٔ مبارزه با جرایم و تروریسم و نجات افراد مبتلا به بیماری‌های حاد، همه را ملزم کرد که نوعی «دستبند امنیتی» ببندند که قابلیت‌های اپل‌واچ را داشته باشد و همین‌طور مکان شخص و وضع سلامت او و گفت‌وگوهایی را که انجام می‌دهد به طور دائم ضبط کند. اگر کسی به طور غیرمجاز بخواهد این دستبند را باز یا غیرفعال کند، نوعی سمّ کشنده به ساعدش تزریق می‌کند. مجازات مواردی از نقضِ قانون که از نگاه دولت این اندازه جدی نیست شوک الکتریکی یا تزریق مواد شیمیایی‌ای است که باعث فلج یا درد می‌شود، و به این ترتیب نیاز به وجود نیروی پلیس تا اندازهٔ زیادی رفع می‌شود

عملیات فضولی دولت که ادوارد اسنودن افشا کرد با این هدف دنبال می‌شد که در نهایت به وضع «ثبت کامل» دست یابد -یعنی همهٔ ارتباطات الکترونیک برای تحلیل‌های احتمالیِ بعدی ضبط شود

هشدار لرد اکتن را به یاد داشت که در سال ۱۸۸۷ گفته بود: «قدرت فساد می‌آورد، و قدرت مطلق فساد مطلق».

چون ما انسان‌ها توانسته‌ایم با هوش برتر خود بر سایر موجودات زندهٔ زمین تسلط یابیم، پس این امکان چندان دور از ذهن نیست که موجودی ابرهوشمند نیز بتواند بر ما تسلط پیدا کند.

اگر ماشینی بتواند بیندیشد، ممکن است هوشمندانه‌تر از ما بیندیشد، در این صورت ما چه جایگاهی خواهیم داشت؟ حتی اگر بتوانیم ماشین‌ها را مطیع خود نگاه داریم... حتماً در مقام یک گونهٔ زیستی، به‌شدت احساس حقارت می‌کنیم. الن تورینگ، ۱۹۵۱

ولتر در سال ۱۷۵۹ می‌نویسد «کار سه شرّ عظیم را دور نگاه می‌دارد: ملال و فساد و احتیاج.»

وقتی که طبقهٔ متوسطِ تحصیلکردهٔ بزرگی وجود داشته باشد، فریفتن و آلت دست قرار دادنِ رأی‌دهندگان و نفوذ نامشروعِ گروه کوچکی از افراد یا شرکت‌ها در دولت دشوارتر می‌شود. دموکراسیِ بهتر هم به نوبهٔ خود می‌تواند نظامی اقتصادی پدید آورد که بهتر مدیریت می‌شود و فساد در آن کمتر و بهره‌وری بالاتر و رشدْ سریع‌تر است و در نهایت دقیقاً به تک‌تک افراد نفع بیشتری می‌رساند

در سال ۲۰۱۳، مجموع ثروت نیمهٔ فقیرترِ جمعیت جهان (یعنی بیش از ۳.۶ میلیارد نفر) برابر است با مجموع ثروت هشت نفرِ نخستِ فهرست ثروتمندترین افراد جهان

چشم‌انداز خوشبینانهٔ خود را برای بازار کارْ «آتنِ دیجیتال» می‌خواند. علت اصلی اینکه شهروندان آتن در عهد باستان در زندگی آن اندازه فراغت داشتند که به دموکراسی و هنر و بازی‌های ورزشی بپردازند این بود که برده‌هایی داشتند که بیشتر کارها را برایشان انجام می‌دادند. اما چرا حالا به جای برده از ربات‌های بهره‌مند از هوش مصنوعی استفاده نکنیم و به این ترتیب آرمانشهری دیجیتال نسازیم که همه از زندگی در آن لذت ببرند؟

تضمین غلبهٔ وجه دفاعی باید یکی از اساسی‌ترین هدف‌های کوتاه‌مدت در راه پیشرفت هوش مصنوعی باشد، در غیر این صورت همهٔ فناوری‌های حیرت‌انگیزی که می‌سازیم ممکن است علیه خودمان به کار روند!

مثلاً او بیم دارد پهپادهایی به اندازهٔ زنبور ساخته شوند که بتوانند با صرف هزینهٔ بسیار کم و استفاده از حداقل مواد منفجره به چشم افراد، که بافتی بسیار نرم دارد و حتی گلوله‌ای کوچک می‌تواند از راه آن وارد مغز شود، شلیک کنند و آنها را بکشند. یا ممکن است این پهپادهای کوچک با قلاب‌های فلزی به سر بچسند و سپس با استفاده از مقدار کمی مادهٔ منفجره به درون جمجمه نفوذ کنند. اگر یک میلیون از پهپادهای قاتل را بتوان فقط با یک کامیون به میدان جنگ اعزام کرد، آنگاه با یک سلاح کشتار جمعی وحشتناک از نوعی کاملاً جدید مواجه هستیم: سلاحی که می‌تواند گروه معینی از افراد را به صورت گزینشی بکشد بدون اینکه به هیچ‌چیز یا هیچ‌کس دیگر آسیب بزند.

تعهدات سرمایه‌گذاری در زمینهٔ کاربردهای غیرنظامی هوش مصنوعی در سال ۲۰۱۶ بالغ بر یک میلیارد دلار بود، اما این رقم در برابر بودجهٔ درخواستی پنتاگون در سال ۲۰۱۷ برای طرح‌های مرتبط با هوش مصنوعی که ۱۲ تا ۱۵ میلیارد دلار بوده است ناچیز جلوه می‌کند، و چین و روسیه هم حتماً این حرف معاون وزیر دفاع آمریکا، رابرت وُرک، را جدی می‌گیرند که هنگام اعلام این درخواست گفته بود: «می‌خواهم رقبایمان از آنچه در پسِ پرده است شگفت‌زده شوند»

حال سامانهٔ خودکارِ هشدار زودهنگامِ شوروی گزارش داده بود که ایالات متحد پنج فروند موشک هسته‌ای از پایگاه‌های زمینی به‌سوی اتحاد شوروی شلیک کرده است و افسری به نام استانیسلاو پتروف فقط چند دقیقه فرصت داشت که تصمیم بگیرد آیا این هشدار واقعی است یا غیرواقعی. معلوم شد که ماهواره به‌درستی کار می‌کند، پس او مطابق با اصول باید وقوع حملهٔ هسته‌ای را گزارش می‌کرد. پتروف به رغم شواهد، به حس غریزیِ خود اتکا کرد و به این نتیجه رسید که خیلی بعید است که آمریکا فقط با پنج موشک حمله کند، و به فرماندهانش گزارش داد که این هشدار غیرواقعی بوده است، بدون اینکه از درستیِ ادعای خود آگاهی داشته باشد. بعدها معلوم شد که ماهواره بازتاب پرتوهای خورشید از لبهٔ ابرها را به جای شعلهٔ موتور گرفته است.