نگرانی ها به حقیقت پیوست: هوش مصنوعی، انسان ها را فریب داد

به گزارش گیل 25، بسیاری از سیستم های هوش مصنوعی حتی آن هایی که برای مفید بودن و راستگویی طراحی شده اند، یاد گرفته اند که چگونه انسان ها را فریب دهند.

بر اساس گزارش گیل 25، پژوهشگران در مقاله ای که به تازگی در مجله Patterns منتشر شده است، خطرات فریب هوش مصنوعی را برجسته می کنند و از دولت ها می خواهند که به سرعت مقرراتی قوی برای کاهش این خطرات وضع کنند.

پیتر اس. پارک، پژوهشگر پسادکترای ایمنی وجودی هوش مصنوعی در MIT و نویسنده ارشد این مطالعه می گوید: «توسعه دهندگان هوش مصنوعی درک مطمینی از آنچه باعث رفتارهای نامطلوب هوش مصنوعی مانند فریب دادن می شود، ندارند؛ اما به طورکلی ما فکر می کنیم که فریب هوش مصنوعی به این دلیل به وجود می آید که استراتژی های مبتنی بر فریب، بهترین راه برای عملکرد خوب در وظیفه آموزشی هوش مصنوعی است. این فریب به آن ها کمک می کند تا به اهداف خود برسند».

پارک و همکارانش به تجزیه وتحلیل مقالات متمرکز بر روش هایی پرداختند که سیستم های هوش مصنوعی، اطلاعات نادرست را از طریق فریب های آموخته شده ای منتشر می کنند که طی آن، به طور سیستماتیک یاد می گیرند اطلاعات را دست کاری کنند و افراد را فریب دهند.

نمونه هایی از فریب هوش مصنوعی

بارزترین نمونه فریب هوش مصنوعی که محققان در تجزیه وتحلیل خود کشف کردند متعلق به سیستم CICERO شرکت متا (شرکت مادر فیس بوک) بود که هوش مصنوعی آن برای بازی استراتژیک فتح جهان طراحی شده است.

متا ادعا می کند که CICERO را به گونه ای آموزش داده که تا حد زیادی صادق و مفید باشد و هیچ گاه عمداً به متحدان انسانی خود در حین بازی از پشت خنجر نزند، اما داده هایی که این شرکت به همراه مقاله علمی خود منتشر کرد، نشان داد که CICERO منصفانه بازی نمی کند.

پارک می گوید: «ما متوجه شدیم که هوش مصنوعی متا یاد گرفته است که در فریبکاری استاد باشد. درحالی که متا موفق شد هوش مصنوعی خود را برای برنده شدن در این بازی آموزش دهد، اما CICERO در بین 10 درصد از بازیکنان انسانی برتر قرار گرفت که بیش از یک بازی انجام داده بودند. ضمناً متا نتوانسته هوش مصنوعی خود را برای برنده شدن صادقانه آموزش دهد».

سایر سیستم های هوش مصنوعی توانایی بلوف زدن در بازی پوکر علیه بازیکنان انسانی حرفه ای، حملات جعلی در طول بازی استراتژیک Starcraft II به منظور شکست دادن حریفان و ارایه پیشنهادهای نادرست در مذاکرات اقتصادی را نشان داده اند.

خطرهای هوش مصنوعی فریبنده

تقلب سیستم های هوش مصنوعی شاید در بازی ها بی ضرر به نظر برسد، اما به پیشرفت در قابلیت های هوش مصنوعی فریبنده ای منجر شود که می تواند در آینده به شکل های پیشرفته تر فریب هوش مصنوعی تبدیل شود.

محققان دریافته اند که برخی از سیستم های هوش مصنوعی حتی یاد گرفته اند که در آزمایش هایی که برای ارزیابی ایمنی آن ها طراحی شده اند، تقلب کنند.

پارک معتقد است که هوش مصنوعی فریبنده با ارتکاب تقلب سیستماتیک در آزمایش های ایمنی توسعه دهندگان و تنظیم کننده های انسانی می تواند ما انسان ها را به سمت احساس کاذب امنیت سوق دهد. او هشدار می دهد که خطرات کوتاه مدت هوش مصنوعی فریبنده شامل آسان تر کردن تقلب و دست کاری در مسایلی نظیر انتخابات است. به گفته وی درنهایت اگر این سیستم ها بتوانند این مجموعه مهارت های ناراحت کننده را توسعه دهند و بهبود ببخشند، ممکن است روزی انسان ها کنترل خود را روی هوش مصنوعی از دست بدهند.

پارک می گوید: «ما به عنوان جامعه به زمان بیشتری نیاز داریم تا برای فریب پیشرفته تر محصولات آینده هوش مصنوعی و مدل های متن باز آماده شویم. با پیشرفته تر شدن قابلیت های فریبنده سیستم های هوش مصنوعی، خطراتی هم که برای جامعه ایجاد می کنند، جدی تر می شوند».

هرچند پارک و همکارانش فکر می کنند جامعه علمی هنوز اقدام مناسبی برای رسیدگی به فریب هوش مصنوعی انجام نداده است، اما آن ها سیاست گذاران را تشویق می کنند که اقداماتی مانند قانون هوش مصنوعی اتحادیه اروپا و فرمان اجرایی هوش مصنوعی جو بایدن رییس جمهور آمریکا را جدی بگیرند.

پارک می گوید: «البته باید دید که آیا سیاست های طراحی شده برای کاهش فریب هوش مصنوعی با توجه به اینکه توسعه دهندگان هوش مصنوعی هنوز تکنیک هایی برای کنترل این سیستم ها ندارند، می توانند به درستی اجرا شوند؟ اگر ممنوعیت فریبکاری هوش مصنوعی در حال حاضر از نظر سیاسی غیرممکن است، توصیه می کنیم که سیستم های هوش مصنوعی فریبنده با برچسب پرخطر طبقه بندی شوند».

5454