هوش مصنوعی (سازگاری با انسان و مسئله کنترل)

نویسنده کتاب حاضر استوارت راسل، دانشمند کامپیوتر، از پژوهشگران ارشد و نویسنده کتاب درسی دانشگاهی در زمینه هوش مصنوعی و بنیان‌گذار مرکز هوش مصنوعی سازگار با انسان در دانشگاه کالیفرنیا برکلی است. وی در این اثر استدلال می‌کند که اگرچه ادامه پیشرفت در قابلیت هوش مصنوعی به سبب انگیزه‌های اقتصادی اجتناب‌ناپذیر است، باید خطرات ناشی از هوش مصنوعی فراهوش بر آینده‌ی بشریت به سبب عدم قطعیت در مورد چگونگی پیشرفت آن را جدی گرفت. نویسنده برای توسعه‌ی «ماشین‌های سودمند» رویکردی را پیشنهاد می‌کند که بر «احترام به انسان» تمرکز دارد و از سوءتفاهم فاجعه‌آمیز ترجیحات انسانی جلوگیری می‌کند؛ و از این‌رو سه اصل زیر را برای هدایت توسعه‌ی «ماشین‌های سودمند» بیان و تشریح می‌کند: 1. هدف ماشین تنها باید بیشینه کردن تحقق ترجیحات انسانی باشد. 2. در ابتدا چیستی آن ترجیحات برای ماشین قطعیت نداشته باشد. 3. رفتار آدمیان منبع نهایی کسب اطلاعات ماشین در مورد ترجیحات انسانی باشد. راسل یادگیری تقویتی معکوس را به عنوان مبنایی ممکن برای مکانیزم یادگیری ترجیحات انسانی بررسی می‌کند در این فرایند ماشین تابع پاداش را از رفتار مشاهده‌شده استنباط می‌کند. خواندن این کتاب که برای نخستین بار به فارسی ترجمه و منتشر شده برای عموم پژوهشگران علوم رایانه و علاقه‌مندان به موضوع هوش مصنوعی و پیامدهای گسترش و توسعه و کنترل ماشین‌ها و همچنین برنامه‌ریزان و مدیران ارشد جامعه بسیار ضروری و مفید است.