کتاب راهنمای مدیریت اخلاق هوش مصنوعی در سازمان ها

کتاب راهنمای مدیریت اخلاق هوش مصنوعی در سازمان‌ها نوشته کریس دابی، شالک انگلبرت و مرضیه اکبری پور و ترجمه فاطمه محب پور است. این کتاب را نشر سنجاق منتشر کرده است و به یکی از پرسش‌های مهم امروز سازمان‌ها می‌پردازد: وقتی هوش مصنوعی وارد تصمیم‌گیری، استخدام، ارزیابی، خدمات مشتری و تحلیل داده می‌شود، مرز مسئولیت، عدالت، شفافیت و حریم خصوصی کجاست؟ متن کتاب از تعریف مفاهیم شروع می‌کند و بعد به ریسک‌های اخلاقی و شیوه‌های مدیریت آن‌ها در محیط سازمانی می‌رسد. نسخه‌ی الکترونیکی این اثر را می‌توانید از طاقچه خرید و دانلود کنید.

درباره کتاب راهنمای مدیریت اخلاق هوش مصنوعی در سازمان ها

کتاب راهنمای مدیریت اخلاق هوش مصنوعی در سازمان‌ها نوشته کریس دابی، شالک انگلبرت و مرضیه اکبری پور، به مسئله‌ای می‌پردازد که هم فنی است و هم مدیریتی: سازمان‌ها چطور از هوش مصنوعی استفاده کنند بی‌آنکه دقت، عدالت، حریم خصوصی و پاسخ‌گویی قربانی شود. متن از همان ابتدا روشن می‌کند که موضوع فقط خود فناوری نیست، بلکه تصمیم‌هایی است که بر پایه‌ی آن گرفته می‌شود؛ تصمیم‌هایی که می‌توانند بر استخدام، اعتبارسنجی، خدمات مشتری، تحلیل داده، امنیت اطلاعات و حتی اعتماد عمومی اثر بگذارند. نویسندگان با تعریف اخلاق، هوش مصنوعی، یادگیری ماشین و هوش مصنوعی مولد، زمینه‌ای می‌سازند تا بحث از سطح شعار فراتر برود و به سطح انتخاب‌های واقعی سازمانی برسد.
این کتاب در ادامه، ریسک‌های اصلی را به‌صورت مشخص دسته‌بندی می‌کند: دقت، امنیت داده‌ها، سوگیری و عدالت، شفافیت و قابل‌توضیح‌بودن، امکان اعتراض و بازخورد، حریم خصوصی، خودمختاری، مسئولیت‌پذیری و جایگزینی شغلی. یکی از نکات مهم این کتاب این است که میان استفاده‌ی پراکنده‌ی کارکنان از ابزارهایی مثل مدل‌های زبانی بزرگ و استفاده‌ی پروژه‌ای و سازمانی از سامانه‌های هوش مصنوعی تفاوت می‌گذارد؛ چون هرکدام نوع دیگری از نظارت، سیاست‌گذاری و مدیریت ریسک را می‌طلبند. متن فقط هشدار نمی‌دهد، بلکه نشان می‌دهد چرا بعضی خطاها رخ می‌دهند؛ مثلاً چگونه داده‌های جانبدارانه به تصمیم‌های ناعادلانه می‌رسند یا چرا خروجی‌های ظاهراً مطمئن یک مدل ممکن است نادرست باشند.
این کتاب علاوه‌بر طرح مسئله، به سازوکارهای حاکمیتی هم پرداخته است؛ از نقش سیاست‌های داخلی و مسئول پروژه گرفته تا نظارت کمیته‌ای، استانداردگذاری و گزارش‌دهی. اشاره به قانون هوش مصنوعی اتحادیه اروپا هم در همین مسیر قرار می‌گیرد و به‌عنوان نمونه‌ای برای طبقه‌بندی ریسک‌ها و تعیین مرزهای استفاده‌ی مجاز و نامجاز مطرح می‌شود. در کنار این‌ها، متن بر هوش مصنوعی انسان‌محور تأکید دارد؛ یعنی استفاده از فناوری به‌گونه‌ای که کرامت انسانی، رفاه اجتماعی و امکان تصمیم‌گیری آگاهانه حفظ شود. حاصل کار، تصویری روشن از چالش‌های اخلاقی هوش مصنوعی در محیط سازمانی است؛ تصویری که هم برای مدیران و هم برای تیم‌های اجرایی و فناوری معنا دارد.

خلاصه کتاب راهنمای مدیریت اخلاق هوش مصنوعی در سازمان ها

کتاب راهنمای مدیریت اخلاق هوش مصنوعی در سازمان‌ها از این پرسش شروع می‌کند که چرا ورود گسترده‌ی هوش مصنوعی به سازمان‌ها بدون توجه به اخلاق، می‌تواند به خطاهای پرهزینه و بی‌اعتمادی منجر شود. سپس مفاهیم پایه‌ای مثل اخلاق، هوش مصنوعی، یادگیری ماشین و هوش مصنوعی مولد را توضیح می‌دهد و بعد سراغ مسائل اصلی می‌رود: خطای مدل‌ها، نشت داده‌های محرمانه، سوگیری در استخدام و اعتبارسنجی، ابهام در تصمیم‌های الگوریتمی، تضعیف حریم خصوصی، دست‌کاری انتخاب‌ها و دشواری تعیین مسئولیت. پیام محوری این کتاب این است که استفاده از هوش مصنوعی فقط مسئله‌ی کارایی نیست و سازمان‌ها باید از همان آغاز، اخلاق را وارد طراحی، اجرا، نظارت و ارزیابی سامانه‌های خود کنند.

چرا باید کتاب راهنمای مدیریت اخلاق هوش مصنوعی در سازمان ها را بخوانیم؟

دلایل خواندن کتاب راهنمای مدیریت اخلاق هوش مصنوعی در سازمان‌ها را می‌توان این‌طور خلاصه کرد:

• این کتاب ریسک‌های اخلاقی هوش مصنوعی را به‌صورت دسته‌بندی‌شده و قابل‌تشخیص مطرح می‌کند.
• این کتاب نشان می‌دهد تفاوت میان استفاده‌ی روزمره‌ی کارکنان از ابزارهای هوش مصنوعی و استفاده‌ی پروژه‌ای سازمانی چرا مهم است.
• خواننده با مطالعه‌ی این کتاب می‌تواند نسبت میان دقت، سوگیری، شفافیت، حریم خصوصی و مسئولیت‌پذیری را بهتر درک کند.
• این کتاب برای فهم پیامدهای سازمانی خطاهای الگوریتمی، از نمونه‌ها و موقعیت‌های ملموس استفاده می‌کند.
• این کتاب به موضوع حاکمیت هوش مصنوعی در سازمان، از سیاست‌گذاری داخلی تا نظارت و گزارش‌دهی، توجه دارد.
• خواندن این کتاب به روشن‌ترشدن مرز میان نوآوری فناورانه و ملاحظات انسانی در تصمیم‌گیری کمک می‌کند.

خواندن این کتاب را به چه کسانی پیشنهاد می‌کنیم؟

خواندن کتاب راهنمای مدیریت اخلاق هوش مصنوعی در سازمان‌ها به این گروه‌ها پیشنهاد می‌شود:

• مدیرانی که می‌خواهند استفاده از هوش مصنوعی را در سازمان خود با مسئولیت‌پذیری بیشتری پیش ببرند.
• کارشناسان ریسک، انطباق و حاکمیت شرکتی که با پیامدهای تصمیم‌های الگوریتمی سروکار دارند.
• اعضای تیم‌های فناوری و توسعه که باید درباره‌ی سوگیری، امنیت داده و قابل‌توضیح‌بودن سامانه‌ها تصمیم بگیرند.
• فعالان منابع انسانی و خدمات مالی که از هوش مصنوعی در استخدام، ارزیابی یا اعتبارسنجی استفاده می‌کنند.
• پژوهشگران و دانشجویانی که می‌خواهند با مسائل اخلاقی هوش مصنوعی در بستر سازمانی آشنا شوند.
• خوانندگانی که به رابطه‌ی میان فناوری، عدالت، حریم خصوصی و اعتماد عمومی علاقه دارند.