OpenAI، خالق چت ربات بسیار محبوب هوش مصنوعی (AI) ChatGPT، ابزاری را که برای تشخیص محتوای ایجاد شده توسط هوش مصنوعی به جای انسان توسعه داده بود، تعطیل کرد. به گفته OpenAI، ابزاری که AI Classifier نام دارد، تنها شش ماه پس از راه‌اندازی آن به دلیل «ضریب دقت پایین» بسته شده است.

از آنجایی که ChatGPT و سرویس‌های رقیب محبوبیت خود را افزایش داده‌اند، واکنش‌های هماهنگی از سوی گروه‌های مختلف نگران عواقب استفاده کنترل‌نشده از هوش مصنوعی صورت گرفته است. برای یک چیز، معلمان به ویژه از پتانسیل استفاده دانش آموزان از ChatGPT برای نوشتن مقاله ها و تکالیف خود، و سپس ارائه آنها به عنوان مقاله های خود، دچار مشکل شده اند.

طبقه‌بندی‌کننده هوش مصنوعی OpenAI تلاشی برای کاهش ترس این گروه‌ها و سایر گروه‌ها بود. ایده این بود که می‌توانست تعیین کند که یک متن توسط یک انسان نوشته شده است یا یک ربات چت هوش مصنوعی، به مردم ابزاری برای ارزیابی منصفانه دانش‌آموزان و مبارزه با اطلاعات نادرست می‌دهد.

با این حال، حتی از همان ابتدا، OpenAI به نظر نمی رسید اعتماد زیادی به ابزار خود داشته باشد. در یک پست وبلاگی که این ابزار را اعلام کرد، OpenAI اعلام کرد که «طبقه‌بندی‌کننده ما کاملاً قابل اعتماد نیست» و خاطرنشان کرد که تنها در ۲۶ درصد مواقع متون نوشته شده با هوش مصنوعی را از یک «مجموعه چالش‌ها» به درستی شناسایی می‌کند.

تصمیم برای حذف این ابزار با هیاهوی زیادی همراه نبود و OpenAI یک پست اختصاصی در وب سایت خود ارسال نکرده است. در عوض، این شرکت پستی را که در آن طبقه‌بندی‌کننده هوش مصنوعی را فاش کرده است، به‌روزرسانی کرده و بیان کرده است که «طبقه‌بندی‌کننده هوش مصنوعی به دلیل میزان دقت پایین آن دیگر در دسترس نیست.»

این به‌روزرسانی ادامه داد: «ما در حال کار برای ترکیب بازخورد هستیم و در حال حاضر در حال تحقیق در مورد تکنیک‌های منشأ مؤثرتر برای متن هستیم و متعهد شده‌ایم تا مکانیسم‌هایی را توسعه دهیم که کاربران را قادر می‌سازد بفهمند محتوای صوتی یا بصری توسط هوش مصنوعی تولید شده است یا خیر».

ابزارهای بهتری مورد نیاز است

AI Classifier تنها ابزاری نیست که برای شناسایی محتوای ساخته شده با هوش مصنوعی توسعه یافته است، زیرا رقبایی مانند GPTZero وجود دارند و علیرغم تصمیم OpenAI به کار خود ادامه خواهند داد.

تلاش‌های گذشته برای شناسایی نوشتن هوش مصنوعی به شیوه‌ای شگفت‌انگیز نتیجه معکوس داشته است. به عنوان مثال، در ماه مه سال 2023، یک استاد به اشتباه تمام کلاس خود را پس از ثبت نام ChatGPT برای شناسایی سرقت ادبی در مقالات دانشجویان خود، زیر پا گذاشت. نیازی به گفتن نیست که ChatGPT به شدت اشتباه کرده است و همینطور استاد.

وقتی حتی OpenAI اذعان می کند که نمی تواند سرقت ادبی ایجاد شده توسط ربات چت خود را به درستی درک کند، باعث نگرانی است. این در زمان افزایش نگرانی در مورد پتانسیل مخرب چت ربات های هوش مصنوعی و خواستار تعلیق موقت توسعه در این زمینه است. اگر هوش مصنوعی به اندازه‌ای که برخی افراد پیش‌بینی می‌کنند تأثیر داشته باشد، جهان به ابزارهای قوی‌تری نسبت به طبقه‌بندی‌کننده هوش مصنوعی ناموفق OpenAI نیاز خواهد داشت.

توصیه های سردبیران