بریده‌هایی از کتاب زندگی ۳.۰؛ انسان‌بودن در عصر هوش مصنوعی

ولتر در سال ۱۷۵۹ می‌نویسد «کار سه شرّ عظیم را دور نگاه می‌دارد: ملال و فساد و احتیاج.»

وقتی که طبقهٔ متوسطِ تحصیلکردهٔ بزرگی وجود داشته باشد، فریفتن و آلت دست قرار دادنِ رأی‌دهندگان و نفوذ نامشروعِ گروه کوچکی از افراد یا شرکت‌ها در دولت دشوارتر می‌شود. دموکراسیِ بهتر هم به نوبهٔ خود می‌تواند نظامی اقتصادی پدید آورد که بهتر مدیریت می‌شود و فساد در آن کمتر و بهره‌وری بالاتر و رشدْ سریع‌تر است و در نهایت دقیقاً به تک‌تک افراد نفع بیشتری می‌رساند

در سال ۲۰۱۳، مجموع ثروت نیمهٔ فقیرترِ جمعیت جهان (یعنی بیش از ۳.۶ میلیارد نفر) برابر است با مجموع ثروت هشت نفرِ نخستِ فهرست ثروتمندترین افراد جهان

چشم‌انداز خوشبینانهٔ خود را برای بازار کارْ «آتنِ دیجیتال» می‌خواند. علت اصلی اینکه شهروندان آتن در عهد باستان در زندگی آن اندازه فراغت داشتند که به دموکراسی و هنر و بازی‌های ورزشی بپردازند این بود که برده‌هایی داشتند که بیشتر کارها را برایشان انجام می‌دادند. اما چرا حالا به جای برده از ربات‌های بهره‌مند از هوش مصنوعی استفاده نکنیم و به این ترتیب آرمانشهری دیجیتال نسازیم که همه از زندگی در آن لذت ببرند؟

تضمین غلبهٔ وجه دفاعی باید یکی از اساسی‌ترین هدف‌های کوتاه‌مدت در راه پیشرفت هوش مصنوعی باشد، در غیر این صورت همهٔ فناوری‌های حیرت‌انگیزی که می‌سازیم ممکن است علیه خودمان به کار روند!

مثلاً او بیم دارد پهپادهایی به اندازهٔ زنبور ساخته شوند که بتوانند با صرف هزینهٔ بسیار کم و استفاده از حداقل مواد منفجره به چشم افراد، که بافتی بسیار نرم دارد و حتی گلوله‌ای کوچک می‌تواند از راه آن وارد مغز شود، شلیک کنند و آنها را بکشند. یا ممکن است این پهپادهای کوچک با قلاب‌های فلزی به سر بچسند و سپس با استفاده از مقدار کمی مادهٔ منفجره به درون جمجمه نفوذ کنند. اگر یک میلیون از پهپادهای قاتل را بتوان فقط با یک کامیون به میدان جنگ اعزام کرد، آنگاه با یک سلاح کشتار جمعی وحشتناک از نوعی کاملاً جدید مواجه هستیم: سلاحی که می‌تواند گروه معینی از افراد را به صورت گزینشی بکشد بدون اینکه به هیچ‌چیز یا هیچ‌کس دیگر آسیب بزند.

تعهدات سرمایه‌گذاری در زمینهٔ کاربردهای غیرنظامی هوش مصنوعی در سال ۲۰۱۶ بالغ بر یک میلیارد دلار بود، اما این رقم در برابر بودجهٔ درخواستی پنتاگون در سال ۲۰۱۷ برای طرح‌های مرتبط با هوش مصنوعی که ۱۲ تا ۱۵ میلیارد دلار بوده است ناچیز جلوه می‌کند، و چین و روسیه هم حتماً این حرف معاون وزیر دفاع آمریکا، رابرت وُرک، را جدی می‌گیرند که هنگام اعلام این درخواست گفته بود: «می‌خواهم رقبایمان از آنچه در پسِ پرده است شگفت‌زده شوند»

حال سامانهٔ خودکارِ هشدار زودهنگامِ شوروی گزارش داده بود که ایالات متحد پنج فروند موشک هسته‌ای از پایگاه‌های زمینی به‌سوی اتحاد شوروی شلیک کرده است و افسری به نام استانیسلاو پتروف فقط چند دقیقه فرصت داشت که تصمیم بگیرد آیا این هشدار واقعی است یا غیرواقعی. معلوم شد که ماهواره به‌درستی کار می‌کند، پس او مطابق با اصول باید وقوع حملهٔ هسته‌ای را گزارش می‌کرد. پتروف به رغم شواهد، به حس غریزیِ خود اتکا کرد و به این نتیجه رسید که خیلی بعید است که آمریکا فقط با پنج موشک حمله کند، و به فرماندهانش گزارش داد که این هشدار غیرواقعی بوده است، بدون اینکه از درستیِ ادعای خود آگاهی داشته باشد. بعدها معلوم شد که ماهواره بازتاب پرتوهای خورشید از لبهٔ ابرها را به جای شعلهٔ موتور گرفته است.

دو دهه بعد، در ۹ سپتامبر ۱۹۸۳، دوباره تنش‌ها میان دو ابرقدرت بالا گرفته بود: کمی پیشتر رئیس جمهور آمریکا، رانلد ریگان، اتحاد شوروی را «امپراتوری شیطانی» خوانده بود و درست یک هفته قبل، اتحاد شوروی هواپیمای مسافربری خطوط هواییِ کره را که به‌اشتباه وارد حریم هوایی آنها شده بود هدف حمله قرار داده و ۲۶۹ نفر -از جمله یک نمایندهٔ کنگرهٔ آمریکا- را کشته بود.

مثلاً اگر هوش مصنوعی بتواند از شما تصاویر جعلی اما با ظاهری کاملاً واقعی در حال ارتکاب جرم بسازد، آیا به نظامی رأی نمی‌دهید که در آن دولت بتواند محل حضور همهٔ افراد را در همهٔ زمان‌ها ثبت کند تا بتواند در صورت نیاز سندی محکم برای تبرئهٔ شما در اختیارتان بگذارد؟