بریده‌هایی از کتاب زندگی ۳.۰؛ انسان‌بودن در عصر هوش مصنوعی

درست همان‌طور که نهنگ کبود حاصل بازآراییِ کریل و کریل حاصل بازآرایی پلانکتون است، کل منظومهٔ خورشیدی ما فقط هیدروژن است که در طول ۱۳.۸ میلیارد سال تکامل کیهانی آرایش‌های گوناگون به خود گرفته است:

کلیسای کاتولیک موفق‌ترین سازمان بشری در طول تاریخ است، از این حیث که یگانه سازمانی است که دوهزار سال دوام آورده است،

اگر کسی پس از راه‌اندازی سامانهٔ هوش مصنوعی از آن بپرسد «آیا خدا وجود دارد؟»، می‌تواند شوخی استیون هاکینگ را تکرار کند و بگوید «بله، اکنون وجود دارد!»

نباید به دام انسان‌وار کردنِ سامانه‌های هوش مصنوعی بیفتیم و فرض کنیم که آنها احساسات و عواطفی انسان‌وار، همانند حس قدرشناسی، دارند. با اینکه ما انسان‌ها سرشار از گرایش به حس قدرشناسی هستیم، اما نسبت به پدیدآورندهٔ معنوی‌مان (یعنی DNA خود) آن اندازه قدرشناس نیستیم که از وسایل پیشگیری از بارداری استفاده نکنیم، تا DNA به هدف خودش برسد.

اگر نیروی پلیس مرکب از انسان‌ها باشد، شاید از اجرای بعضی فرمان‌های بی‌رحمانه (مثلاً از میان بردن همهٔ اعضای یک گروه نژادی خاص) سرباز زنند، اما این‌گونه سامانه‌های خودکار بدون اینکه هیچ تردیدی به خود راه دهند، آمادهٔ عملی کردن هوس‌های انسان‌هایی هستند که قدرت را در دست دارند. وقتی که چنین دولت تمامیت‌خواهی شکل بگیرد، سرنگونی آن برای مردم عملاً غیرممکن خواهد بود.

مثلاً می‌شود به بهانهٔ مبارزه با جرایم و تروریسم و نجات افراد مبتلا به بیماری‌های حاد، همه را ملزم کرد که نوعی «دستبند امنیتی» ببندند که قابلیت‌های اپل‌واچ را داشته باشد و همین‌طور مکان شخص و وضع سلامت او و گفت‌وگوهایی را که انجام می‌دهد به طور دائم ضبط کند. اگر کسی به طور غیرمجاز بخواهد این دستبند را باز یا غیرفعال کند، نوعی سمّ کشنده به ساعدش تزریق می‌کند. مجازات مواردی از نقضِ قانون که از نگاه دولت این اندازه جدی نیست شوک الکتریکی یا تزریق مواد شیمیایی‌ای است که باعث فلج یا درد می‌شود، و به این ترتیب نیاز به وجود نیروی پلیس تا اندازهٔ زیادی رفع می‌شود

عملیات فضولی دولت که ادوارد اسنودن افشا کرد با این هدف دنبال می‌شد که در نهایت به وضع «ثبت کامل» دست یابد -یعنی همهٔ ارتباطات الکترونیک برای تحلیل‌های احتمالیِ بعدی ضبط شود

هشدار لرد اکتن را به یاد داشت که در سال ۱۸۸۷ گفته بود: «قدرت فساد می‌آورد، و قدرت مطلق فساد مطلق».

چون ما انسان‌ها توانسته‌ایم با هوش برتر خود بر سایر موجودات زندهٔ زمین تسلط یابیم، پس این امکان چندان دور از ذهن نیست که موجودی ابرهوشمند نیز بتواند بر ما تسلط پیدا کند.

اگر ماشینی بتواند بیندیشد، ممکن است هوشمندانه‌تر از ما بیندیشد، در این صورت ما چه جایگاهی خواهیم داشت؟ حتی اگر بتوانیم ماشین‌ها را مطیع خود نگاه داریم... حتماً در مقام یک گونهٔ زیستی، به‌شدت احساس حقارت می‌کنیم. الن تورینگ، ۱۹۵۱