کتاب راهنمای مدیریت اخلاق هوش مصنوعی در سازمان ها

کتاب راهنمای مدیریت اخلاق هوش مصنوعی در سازمان ها (Guidebook to Managing the Ethics of AI in Organizations) نوشته کریس دابی و شالک انگلبرت، به یکی از پرسش‌های مهم امروز سازمان‌ها می‌پردازد: وقتی هوش مصنوعی وارد تصمیم‌گیری، استخدام، ارزیابی، خدمات مشتری و تحلیل داده می‌شود، مرز مسئولیت، عدالت، شفافیت و حریم خصوصی کجاست؟ متن کتاب از تعریف مفاهیم شروع می‌کند و بعد به ریسک‌های اخلاقی و شیوه‌های مدیریت آن‌ها در محیط سازمانی می‌رسد. این کتاب را فاطمه محب پور و مرضیه اکبری پور ترجمه کرده‌اند و نشر سنجاق به صورت الکترونیکی به انتشار رسانده است. نسخه‌ی الکترونیکی این اثر را می‌توانید از طاقچه خرید و دانلود کنید.

درباره کتاب راهنمای مدیریت اخلاق هوش مصنوعی در سازمان ها

کتاب راهنمای مدیریت اخلاق هوش مصنوعی در سازمان ها نوشته‌ی کریس دابی، شالک انگلبرت و مرضیه اکبری پور، به مسئله‌ای می‌پردازد که هم فنی است و هم مدیریتی: سازمان‌ها چطور از هوش مصنوعی استفاده کنند بی‌آنکه دقت، عدالت، حریم خصوصی و پاسخ‌گویی قربانی شود. متن از همان ابتدا روشن می‌کند که موضوع فقط خود فناوری نیست، بلکه تصمیم‌هایی است که بر پایه‌ی آن گرفته می‌شود؛ تصمیم‌هایی که می‌توانند بر استخدام، اعتبارسنجی، خدمات مشتری، تحلیل داده، امنیت اطلاعات و حتی اعتماد عمومی اثر بگذارند.

کتاب در ادامه، ریسک‌های اصلی را به‌ صورت مشخص دسته‌بندی می‌کند: دقت، امنیت داده‌ها، سوگیری و عدالت، شفافیت و قابل‌توضیح‌بودن، امکان اعتراض و بازخورد، حریم خصوصی، خودمختاری، مسئولیت‌پذیری و جایگزینی شغلی. یکی از نکات مهم کتاب این است که میان استفاده‌ی پراکنده‌ی کارکنان از ابزارهایی مثل مدل‌های زبانی بزرگ و استفاده‌ی پروژه‌ای و سازمانی از سامانه‌های هوش مصنوعی تفاوت می‌گذارد؛ چون هر کدام نوع دیگری از نظارت، سیاستگذاری و مدیریت ریسک را می‌طلبند. متن فقط هشدار نمی‌دهد، بلکه نشان می‌دهد چرا بعضی خطاها رخ می‌دهند؛ مثلاً چگونه داده‌های جانبدارانه به تصمیم‌های ناعادلانه می‌رسند یا چرا خروجی‌های ظاهراً مطمئن یک مدل ممکن است نادرست باشند.

کتاب راهنمای مدیریت اخلاق هوش مصنوعی در سازمان ها علاوه‌بر طرح مسئله، به سازوکارهای حاکمیتی هم پرداخته است؛ از نقش سیاست‌های داخلی و مسئول پروژه گرفته تا نظارت کمیته‌ای، استانداردگذاری و گزارش‌دهی. اشاره به قانون هوش مصنوعی اتحادیه‌ی اروپا هم در همین مسیر قرار می‌گیرد و به‌ عنوان نمونه‌ای برای طبقه‌بندی ریسک‌ها و تعیین مرزهای استفاده‌ی مجاز و نامجاز مطرح می‌شود. در کنار این‌ها، کریس دابی، شالک انگلبرت و مرضیه اکبری پور بر هوش مصنوعی انسان‌محور تأکید دارند؛ یعنی استفاده از فناوری به‌ گونه‌ای که کرامت انسانی، رفاه اجتماعی و امکان تصمیم‌گیری آگاهانه حفظ شود.

خلاصه کتاب راهنمای مدیریت اخلاق هوش مصنوعی در سازمان ها

کتاب راهنمای مدیریت اخلاق هوش مصنوعی در سازمان ها از این پرسش شروع می‌کند که چرا ورود گسترده‌ی هوش مصنوعی به سازمان‌ها بدون توجه به اخلاق، می‌تواند به خطاهای پرهزینه و بی‌اعتمادی منجر شود. سپس مفاهیم پایه‌ای مثل اخلاق، هوش مصنوعی، یادگیری ماشین و هوش مصنوعی مولد را توضیح می‌دهد و بعد به سراغ مسائل اصلی می‌رود: خطای مدل‌ها، نشت داده‌های محرمانه، سوگیری در استخدام و اعتبارسنجی، ابهام در تصمیم‌های الگوریتمی، تضعیف حریم خصوصی، دستکاری انتخاب‌ها و دشواری تعیین مسئولیت. 

پیام محوری کتاب این است که استفاده از هوش مصنوعی فقط مسئله‌ی کارایی نیست و سازمان‌ها باید از همان آغاز، اخلاق را وارد طراحی، اجرا، نظارت و ارزیابی سامانه‌های خود کنند.

چرا باید کتاب راهنمای مدیریت اخلاق هوش مصنوعی در سازمان ها را بخوانیم؟

دلایل خواندن کتاب راهنمای مدیریت اخلاق هوش مصنوعی در سازمان ها را می‌توان این‌طور خلاصه کرد:

• این کتاب ریسک‌های اخلاقی هوش مصنوعی را به‌ صورت دسته‌بندی‌شده و قابل‌تشخیص مطرح می‌کند.
• این کتاب نشان می‌دهد تفاوت میان استفاده‌ی روزمره‌ی کارکنان از ابزارهای هوش مصنوعی و استفاده‌ی پروژه‌ای سازمانی چرا مهم است.
• خواننده با مطالعه‌ی این کتاب می‌تواند نسبت میان دقت، سوگیری، شفافیت، حریم خصوصی و مسئولیت‌پذیری را بهتر درک کند.
• این کتاب برای فهم پیامدهای سازمانی خطاهای الگوریتمی، از نمونه‌ها و موقعیت‌های ملموس استفاده می‌کند.
• این کتاب به موضوع حاکمیت هوش مصنوعی در سازمان، از سیاستگذاری داخلی تا نظارت و گزارش‌دهی، توجه دارد.
• خواندن این کتاب به روشن‌ترشدن مرز میان نوآوری فناورانه و ملاحظات انسانی در تصمیم‌گیری کمک می‌کند.

خواندن کتاب راهنمای مدیریت اخلاق هوش مصنوعی در سازمان ها را به چه کسانی پیشنهاد می‌کنیم؟

خواندن کتاب راهنمای مدیریت اخلاق هوش مصنوعی در سازمان ها به این گروه‌ها پیشنهاد می‌شود:

• مدیرانی که می‌خواهند استفاده از هوش مصنوعی را در سازمان خود با مسئولیت‌پذیری بیشتری پیش ببرند.
• کارشناسان ریسک، انطباق و حاکمیت شرکتی که با پیامدهای تصمیم‌های الگوریتمی سروکار دارند.
• اعضای تیم‌های فناوری و توسعه که باید درباره‌ی سوگیری، امنیت داده و قابل‌توضیح‌ بودن سامانه‌ها تصمیم بگیرند.
• فعالان منابع انسانی و خدمات مالی که از هوش مصنوعی در استخدام، ارزیابی یا اعتبارسنجی استفاده می‌کنند.
• پژوهشگران و دانشجویانی که می‌خواهند با مسائل اخلاقی هوش مصنوعی در بستر سازمانی آشنا شوند.
• خوانندگانی که به رابطه‌ی میان فناوری، عدالت، حریم خصوصی و اعتماد عمومی علاقه دارند.