چگونه متون تولیدشده توسط هوش مصنوعی را شناسایی کنیم؟

چت جی‌پی‌تی توانایی تولید پاسخ‌های موجز، جامع و ساختار یافته را دارد و به همین دلیل تمایز بین یک مقاله نوشته شده توسط دانشجوی محقق و یک ربات چت دشوار است.

به گزارش پایگاه علم و پژوهش نیوز و به نقل از خبرگزاری آنا، چت جی‌پی‌تی یکی از پرکاربردترین ابزار‌های هوش مصنوعی مولد در حال حاضر در جهان است. چت جی‌پی‌تی با توانایی یادگیری و آموزش خود پس از تعامل با مردم، ثابت کرده است که یک ابزار ارزشمند در بسیاری از صنایع است. به طور خاص برای دانش آموزان در سن مدرسه و دانشگاه.

چت جی‌پی‌تی توانایی تولید پاسخ‌های موجز، جامع و ساختار یافته را دارد و به همین دلیل است که تمایز بین یک مقاله نوشته شده توسط یک دانشجوی محقق و یک ربات چت دشوار اس

بنابراین، زمانی که چت‌بات‌هایی مانند چت جی‌پی‌تی ظهور کردند، مدل‌های زبانی ضد چت جی‌پی‌تی در مورد نگرانی‌های سرقت ادبی نیز مطرح شدند. هدف این ردیاب‌های هوش مصنوعی این است که بفهمند آیا متنی توسط چت جی‌پی‌تی تولید شده است یا خیر. از این رو محققان دانشگاه نیویورک ابوظبی پتانسیل چت جی‌پی‌تی را به عنوان ابزاری برای سرقت ادبی بررسی کرده‌اند.

آزمایش برتری چت‌بات‌ها در میان دانشگاهیان

محققان عملکرد این چت بات را با دانشجویان ۳۲ رشته در سطح دانشگاه از هشت رشته مقایسه کردند. آن‌ها دریافتند که عملکرد چت جی‌پی‌تی با عملکرد دانش‌آموزان در ۹ دوره از ۳۲ دوره قابل مقایسه یا حتی برتر است.

به غیر از دوره‌های متمرکز بر ریاضیات و اقتصاد، چت جی‌پی‌تی می‌تواند با دانشجویانی که ساختار‌های داده، سیاست عمومی، زیست شناسی مصنوعی کمی، جنگ سایبری، برنامه نویسی شی گرا، ساختار و ویژگی‌های مواد مهندسی عمران، روانشناسی زیستی، تغییرات آب و هوایی و مدیریت و سازمان‌ها را مطالعه می‌کنند، برابر یا بهتر باشد.

پیامد‌های اخلاقی استفاده از چت بات‌ها در کلاس‌های درس یا مقالات مورد بحث و بررسی قرار گرفته است و بسیاری از موسسات آموزشی در ابتدا استفاده از چت بات‌ها را ممنوع کرده اند، اما بعدا به ترکیب آن‌ها در روش‌های تدریس خود روی آورده اند. هنوز جای بحث است که چه چیزی سرقت ادبی است و چه چیزی نیست، زیرا چت جی‌پی‌تی روی یک مدل زبانی بزرگ اجرا می‌شود که با استفاده از مقادیر زیادی داده آموزش دیده است؛ و این چت بات دقیقا نمی‌داند که پاسخ‌های خود را از کدام منبع می‌گیرد.

بنابراین، این تیم همچنین الگوریتم‌های موجود را که به طور خاص برای تشخیص متن تولید شده توسط چت جی‌پی‌تی طراحی شده اند، مورد ارزیابی قرار دادند و ارزیابی کردند که آیا یک فرد می‌تواند این الگوریتم را فریب دهد و فکر کند که یک متن خاص کار چت جی‌پی‌تی نیست. این تیم متوجه شد که الگوریتم آنتی - چت جی‌پی‌تی تمایل دارد پاسخ‌های انسانی را به صورت هوش مصنوعی طبقه بندی کند و برعکس. یک دانشجو می‌تواند این الگوریتم را فریب دهد که استفاده از آن را بیهوده می‌کند چرا که در این صورت نمی‌تواند ۹۵ درصد از پاسخ‌های چت جی‌پی‌تی را تشخیص دهد.

دانش آموزان به استفاده از چت جی‌پی‌تی ادامه خواهند داد

این سوگیری همچنین در مطالعه دیگری توسط محققان استنفورد هنگامی که یک آشکارساز هوش مصنوعی بیش از نیمی از مقالات تافل (۶۱.۲۲ ٪) نوشته شده توسط دانشجویان انگلیسی غیر بومی را به عنوان تولید شده توسط هوش مصنوعی طبقه بندی کرد، اشاره شد. محققان آن مطالعه خاطرنشان کردند که گویشوران غیر بومی معمولا در معیار‌های پیچیدگی رایج مانند غنای واژگانی، تنوع واژگانی، پیچیدگی نحوی و پیچیدگی دستوری امتیاز کمتری می‌گیرند. متن نوشته شده توسط ابزار‌های هوش مصنوعی مانند چت جی‌پی‌تی نیز در چنین مقیاس‌های سردرگمی امتیاز پایینی دارد.

این تیم همچنین از ۱۵۱ دانشجوی کارشناسی و ۶۰ استاد نظرسنجی کرد تا درک آن‌ها از چت بات را بفهمد. در میان دانشجویان اتفاق نظر وجود داشت که آن‌ها از چت جی‌پی‌تی در تکالیف و مقالات خود استفاده کنند، در حالی که اساتید استفاده از آن را سرقت ادبی می‌دانستند. علاوه بر این، دانشجویان به اتفاق آرا گفتند که در شغل‌های آینده خود، کار‌های روزمره را به چت جی‌پی‌تی برون سپاری خواهند کرد و به آن‌ها اجازه می‌دهند تا روی کار‌های اساسی و خلاقانه تمرکز کنند.

تضاد ذاتی بین این دو چالش‌های مهمی را برای مؤسسات آموزشی ایجاد می‌کند تا سیاست‌های یکپارچگی آکادمیک مناسب را در ارتباط با هوش مصنوعی مولد به طور گسترده و به طور خاص چت جی‌پی‌تی ایجاد کنند. محققان در مطالعه خود خاطرنشان کردند: یافته‌های ما بینش‌های به موقعی را ارائه می‌کند که می‌تواند بحث‌های سیاستی پیرامون اصلاحات آموزشی در عصر هوش مصنوعی مولد را هدایت کند.

این مطالعه در مجله «ساینتیفیک ریپورت» (Scientific Reports) منتشر شده است.