تعبیه زبان طبیعی در مدل های بزرگ زبانی/ شیوه استدلال هوش مصنوعی متحول می شود

با تلاش محققان ام آی تی:

محققان ام آی تی به تکنیک جدیدی دست یافتند که قابلیت استدلال در مدل های بزرگ زبانی را در حد چشمگیری ارتقا می دهد.

خبرگزاری علم و فناوری گیل 25؛ محققان موسسه فناوری ماساچوست (ام آی تی) به تکنیک جدیدی دست پید کرده اند که به کمک آن مدل های بزرگ زبانی می توانند زبان طبیعی را بفهمند، مسایل ریاضی را حل کنند و به تجزیه وتحلیل داده ها بپردازند و با تولید برنامه، استدلال نمادین انجام دهند.

رویکرد این پژوهشگران که «برنامه های تعبیه زبان طبیعی» (NLEPs) نامیده می شود، شامل تحریک یک مدل زبان برای ایجاد و اجرای یک برنامه پایتون (Python) برای پاسخ به پرس و جوی کاربر و سپس ارایه راه حل به عنوان زبان طبیعی است.

این روش با ترکیب زبان طبیعی و برنامه نویسی، مدل های بزرگ زبانی را قادر می سازد تا وظایف عددی، تحلیلی و مبتنی بر زبان را بی واسطه و بدون اطلاع کاربر حل کنند.

مدل های بزرگ زبانی مانند مدل هایی که چت جی پی تی را تقویت می کنند، در کار هایی مانند تهیه پیش نویس های حقوقی، تجزیه و تحلیل نظرات مشتریان، یا ترجمه اسناد به زبان های مختلف عملکرد چشمگیری نشان داده اند.

این مدل های یادگیری ماشینی برای پردازش اطلاعات و پاسخ به سوالات معمولاً فقط از زبان طبیعی استفاده می کنند که می تواند انجام کار هایی را که نیاز به استدلال عددی یا نمادین دارند، دشوار کند.

به عنوان مثال، یک مدل بزرگ زبانی ممکن است بتواند فهرستی از روسای جمهور اخیر در ایالات متحده و روز تولد آنها را به حافظه بسپارد و بخواند، اما اگر از همان مدل این سوال پرسیده شود که «کدام رییس جمهور سابق ایالات متحده که پس از سال 1950 انتخاب شده، در روز چهارشنبه به دنیا آمده است؟» شاید اشتباه کند. (پاسخ درست جیمی کارتر است.)

رویکرد جدید مدل ها، تعاملی است

آنها دریافتند که «برنامه های تعبیه زبان طبیعی» به مدل های بزرگ زبانی امکان می دهد که با دقت بیشتر و در یک طیف وسیع تر استدلال کنند. این رویکرد همچنین قابل تعمیم است، به این معنی که می توان از یک دستور «برنامه تعبیه زبان طبیعی» برای چندین کار استفاده مجدد کرد.

برنامه های تعبیه زبان طبیعی همچنین میزان شفافیت و تعامل را بالا می برند به این معنا که کاربر می تواند برنامه را بررسی کند تا ببیند مدل دقیقاً چگونه استدلال کرده است و اگر مدل پاسخ اشتباهی داد، کاربر می تواند آن را اصلاح کند.

هانگیین لو دارای مدرک پسادکتری از ام آی تی و نویسنده ارشد مقاله «برنامه های تعبیه زبان طبیعی» می گوید: «ما می خواهیم هوش مصنوعی، استدلال پیچیده را به روشی شفاف و قابل اعتماد انجام دهد. ترکیب قابلیت های برنامه نویسی و زبان طبیعی در مدل های بزرگ زبانی اولین گام مهم به سوی آینده ای است که در آن مردم می توانند به طور کامل به هوش مصنوعی اعتماد کنند.»

حل مسیله با برنامه ها

«برنامه تعبیه زبان طبیعی» یک الگوی حل مسیله با چهار مرحله است. این مدل، ابتدا ابزار های مورد نیاز برای انجام کار را جمع آوری می کند. مرحله دوم شامل گردآوری اطلاعات درباره این وظیفه است، مانند تهیه فهرستی از تاریخ تولد روسای جمهور ایالات متحده به گونه ای برای رایانه قابل درک باشد. در مرحله سوم، مدل با استفاده از یک روش خاص پاسخ می دهد و در مرحله آخر، مدل به گونه ای پاسخ می دهد که برای کاربر منطقی باشد، و همچنین ممکن است برای کمک به فهم بیشتر، تصویری را به پاسخ اضافه کند.

طرز کار بسیاری از مدل های بزرگ زبانی بر اساس پیش بینی کلمه یا نشانه بعدی با توجه به ورودی زبان طبیعی است.  برای مثال، از مدل هایی مانند چت جی پی تی-4 می توان برای برنامه نویسی استفاده کرد، اما ادغام چنین برنامه هایی با زبان طبیعی می تواند به ایجاد خطا در استدلال یا نتایج برنامه شود.

با دست یافتن به «برنامه های تعبیه زبان طبیعی» محققان ام آی تی رویکرد مخالف را در پیش گرفتند. آنها از مدل های می خواهند تا یک برنامه گام به گام را به طور کامل در کد پایتون تولید کند و سپس زبان طبیعی لازم را در داخل برنامه جاسازی کند.

هانگیین لو می گوید: «این مدل، مانند یک ماشین حساب دیجیتال است که تا زمانی که برنامه درست باشد، همیشه نتیجه محاسباتی صحیح را به شما می دهد.»

کاربر می تواند به راحتی برنامه را بررسی کند و هر گونه خطا در کد را مستقیماً برطرف کند و نیازی نیست که کل مدل عیب یابی مجدد شود. این رویکرد همچنین کارایی بیشتری را نسبت به سایر روش ها ارایه می دهد. اگر یک کاربر سوالات مشابه زیادی داشته باشد، می تواند یک برنامه پایه و اصلی تولید کند و سپس بدون نیاز به اجرای مکرر مدل، متغیر های خاصی را جایگزین کند.

لیونید کارلینسکی (Leonid Karlinsky)، دانشمند ارشد در آزمایشگاه هوش مصنوعی ام آی تی می گوید: «درک اینکه چگونه مدل های زبان با کد کار می کنند، فرصت های زیادی را برای ایجاد ابزار های جدید، راستی آزمایی نتایج و درک بهتر از توانایی مدل ها ایجاد می کند.»

مزایا و محدودیت های تکنیک جدید

«برنامه های تعبیه زبان طبیعی» می توانند دقت مدل های بزرگ زبانی مانند جی پی تی-4 را بالا ببرند تا کار های مختلفی مانند حل پازل، دنبال کردن دستورالعمل ها و طبقه بندی متن را با دقت بیش از 90 درصد حل کنند.

یکی دیگر از مزایای برنامه های تعبیه زبان طبیعی این است که می توانند امنیت حریم خصوصی داده ها را افزایش دهند. دلیلش آن است که این برنامه ها می توانند مستقیم روی دستگاه شما اجرا شوند و بنابراین لازم نیست داده های حساس شما برای پردازش به شرکت های بزرگ ارسال شوند.

علاوه بر مزایای دقت و حفظ حریم خصوصی، «برنامه های تعبیه زبان طبیعی» همچنین می توانند به مدل های زبانی کوچک کمک کنند تا بدون نیاز به آموزش مجدد برای کار های خاص بهتر عمل کنند و بنابراین می توانند در منابع و زمان صرفه جویی کنند.

لو می گوید: «در این تکنیک هیچ جادویی وجود ندارد. ما مدل زبانی گران تر یا فانتزی نداریم. تنها کاری که انجام می دهیم این است که از تولید برنامه به جای تولید زبان طبیعی استفاده می کنیم و می توانیم عملکرد آن را به طور قابل توجهی بهتر کنیم.»

البته، اثربخشی «برنامه های تعبیه زبان طبیعی» به توانایی مدل برای تولید برنامه ها بستگی دارد و ممکن است در مدل های کوچکتر که با داده های محدودتر آموزش دیده اند کارایی مفیدی نداشته باشد.

این گزارش از ام ای تی نیوز به فارسی برگردان شده است.