OpenAI مقالات نوشته شده توسط ChatGPT چت جی پی تی را افشا خواهد کرد

ChatGPT چت جی پی تی در اینترنت طوفان به پا کرده است. هوش مصنوعی نه تنها توجه جامعه تجاری را به خود جلب کرده است، بلکه منجر به ظهور خدمات مشابهی نیز شده است. اخیراً این خبر را با شما به اشتراک گذاشتیم که مایکروسافت 10 میلیارد دلار در OpenAI سرمایه گذاری کرده است و بایدو در حال کار بر روی یک هوش مصنوعی رقیب است.

فناوری برتر دیجیتال به نقل از اپن ای آی؛ اما همه به اندازه مایکروسافت از ChatGPT چت جی پی تی راضی نیستند. متأسفانه، اینترنت فقط در دو ماه با محتوای تولید شده توسط هوش مصنوعی پر شد. با تمایل به رفع مشکل، OpenAI ابزاری را برای تشخیص متن تولید شده توسط هوش مصنوعی، از جمله توسط ChatGPT چت جی پی تی منتشر کرد.

پس از ماه ها بحث و سردرگمی، OpenAI ابزاری را منتشر کرده است که متن نوشته شده توسط انسان و هوش مصنوعی را متمایز می کند. این نرم افزار که هم ChatGPT چت جی پی تی خود شرکت و هم سایر ابزارهای هوش مصنوعی را شناسایی می کند، شروع خوبی است، اما کافی نیست. متاسفانه میزان موفقیت این ابزار به نام “AI Text Classifier” حدود ۲۶% است. OpenAI که این مشکل را در وب سایت خود نیز بیان می کند، احتمالاً در آینده سیستم را بهبود می بخشد.

بدیهی است که می خواستیم ابزار مورد نظر را امتحان کنیم و دو متن آماده کردیم. یکی از آنها توسط ChatGPT چت جی پی تی و دیگری توسط من که نویسنده این مقاله نیز هستم نوشته شده است. متأسفانه نتیجه آن چیزی که ما انتظار داشتیم نبود. هر دو مقاله اخطار دریافت کردند «طبقه‌بندی کننده متن را مبهم می‌داند که آیا این متن توسط هوش مصنوعی تولید شده است یا خیر».

با اذعان به حاشیه خطا، OpenAI همچنین در مورد این مشکل هشدار می دهد. بیانیه ای که در وب سایت این شرکت نوشته شده است به شرح زیر است: “استفاده در نظر گرفته شده ما از طبقه بندی متن AI، تقویت گفتگو در مورد تمایز بین محتوای نوشته شده توسط انسان و محتوای تولید شده توسط هوش مصنوعی است. نتایج ممکن است کمک کند، اما نباید تنها مدرکی برای تصمیم گیری در مورد اینکه آیا یک سند با هوش مصنوعی تولید شده است یا خیر. این مدل بر روی متن نوشته شده توسط انسان از منابع مختلف آموزش داده شده است، که ممکن است نماینده همه انواع متن های نوشته شده توسط انسان نباشد.

“AI Text Classifier” نیز محدودیت هایی دارد. محدودیت های فعلی:

• حداقل به 1000 کاراکتر نیاز دارد که تقریباً 150 تا 250 کلمه است.
• طبقه بندی کننده همیشه دقیق نیست. می تواند هر دو متن تولید شده توسط هوش مصنوعی و نوشته شده توسط انسان را اشتباه برچسب گذاری کند.
• متن تولید شده با هوش مصنوعی را می توان به راحتی ویرایش کرد تا از طبقه بندی کننده فرار کند.
• طبقه‌بندی‌کننده احتمالاً در متن نوشته شده توسط کودکان و متنی که به زبان انگلیسی نیست اشتباه می‌کند، زیرا اساساً بر روی محتوای انگلیسی نوشته شده توسط بزرگسالان آموزش داده شده است.