دانشگاه استنفورد با DetectGPT، به جنگ مقالات تولیدشده ChatGPT می رود
به گزارش تور سریلانکا، پژوهشگران دانشگاه استنفورد از متدی موسوم به Zero-Shot استفاده نموده اند که به نرم افزار آن ها اجازه می دهد تا بدون در اختیارداشتن هیچ اطلاعاتی از هوش مصنوعی سوژه، متون ماشینی را تشخیص دهد. این گروه DetectGPT را روی مجموعه ای از اخبار تولیدشده با هوش مصنوعی آزمایش کردند و از نتایج آن شگفت زده شدند؛ چرا که ابزار آن ها بهتر از تمام ابزار های قبلی مبتنی بر Zero-Shot عمل کرد؛ بنابراین DetectGPT حالا می تواند با کمترین اطلاعات از طریق ای برای تشخیص متون ماشینی تبدیل گردد.
محققان دانشگاه استنفورد ابزاری موسوم به DetectGPT را خلق نموده اند که می تواند تشخیص دهد یک متن به وسیله هوش مصنوعی نوشته شده است یا خیر.
استفاده از مدل های زبانی بزرگ (LLM) روبه افزایش است. افراد از ابزار هایی مثل ChatGPT برای انجام کار های مختلف خود، ازجمله نوشتن مقالات دانشگاهی استفاده می نمایند. حالا گروهی از محققان دانشگاه استنفورد سیستمی به نام DetectGPT را طراحی نموده اند که هدفش مقابله با سرقت ادبی و استفاده غیرمجاز از ابزار های هوش مصنوعی در تحصیلات عالی است.
یکی از اولین ابزار هایی که برای مقابله با سیستم های هوش مصنوعی نظیر ChatGPT ساخته شده است، DetectGPT نام دارد. این ابزار مبتنی بر این ایده کار می نماید که متن های فراوریشده با مدل های زبانی بزرگ بر نواحی خاصی از منحنی تابع احتمال لگاریتمی تمرکز دارند؛ بنابراین محققان سنجه جدیدی را خلق نموده اند که می تواند تشخیص دهد یک متن با هوش مصنوعی فراوری شده است یا خیر.
ظاهراً متون ساخته شده با هوش مصنوعی در نقاط منفی منحنی گاوسی و متون انسانی در نقاط مثبت این منحنی قرار می گیرند. البته این مسئله دقیقاً به وسیله محققان تأیید نشده است.
موفقیت DetectGPT در شناسایی متون نوشته شده با هوش مصنوعی
پژوهشگران دانشگاه استنفورد از متدی موسوم به Zero-Shot استفاده نموده اند که به نرم افزار آن ها اجازه می دهد تا بدون در اختیارداشتن هیچ اطلاعاتی از هوش مصنوعی سوژه، متون ماشینی را تشخیص دهد. این گروه DetectGPT را روی مجموعه ای از اخبار فراوریشده با هوش مصنوعی آزمایش کردند و از نتایج آن شگفت زده شدند؛ چرا که ابزار آن ها بهتر از تمام ابزار های قبلی مبتنی بر Zero-Shot عمل کرد؛ بنابراین DetectGPT حالا می تواند با کمترین اطلاعات به وسیله ای برای تشخیص متون ماشینی تبدیل گردد.
این مسئله از آن جهت اهمیت پیدا می نماید که با افزایش استفاده از مدل های زبانی بزرگ، احتیاج است تا روشی برای تشخیص این متون وجود داشته باشد. نرم افزار محققان استنفورد نویدبخش سازوکاری برای حل این مشکل است و حداقل می تواند به یاری دانشگاه ها بیاید تا راحت تر بتوانند با سرقت ادبی به وسیله این ابزار های هوش مصنوعی مقابله نمایند. بااین حال، DetectGPT می تواند کاربرد های دیگری هم داشته باشد.
منبع: دیجیاتو
منبع: فرادید