ChatGPT هنوز آنقدر باهوش نیست که بتواند ایرادات خود را پیدا کند، بنابراین سازنده آن برای کمک به انسان ها روی می آورد.

OpenAI روز سه‌شنبه از یک برنامه پاداش باگ رونمایی کرد که افراد را تشویق می‌کند تا آسیب‌پذیری‌ها و اشکالات موجود در سیستم‌های هوش مصنوعی خود مانند ChatGPT و GPT-4 را پیدا کنند و گزارش دهند.

OpenAI در پستی در وب‌سایت خود که جزئیات این برنامه را تشریح کرد، گفت که پاداش گزارش‌ها از 200 دلار برای یافته‌های کم شدت تا 20000 دلار برای آنچه «اکتشافات استثنایی» نامیده می‌شود، متغیر است.

این شرکت تحت حمایت مایکروسافت گفت که جاه طلبی آن ایجاد سیستم‌های هوش مصنوعی است که «به نفع همه باشد» و افزود: «برای این منظور، ما سرمایه‌گذاری زیادی در تحقیقات و مهندسی می‌کنیم تا مطمئن شویم سیستم‌های هوش مصنوعی ما ایمن و ایمن هستند. با این حال، مانند هر فناوری پیچیده، ما می‌دانیم که آسیب‌پذیری‌ها و نقص‌ها ممکن است ظاهر شوند.»

OpenAI خطاب به محققان امنیتی که علاقه مند به مشارکت در این برنامه هستند، گفت: «اهمیت حیاتی امنیت را به رسمیت می شناسد و آن را به عنوان یک تلاش مشترک می بیند. با به اشتراک گذاشتن یافته های خود، نقش مهمی در ایمن تر کردن فناوری ما برای همه ایفا خواهید کرد.”

از آنجایی که افراد بیشتری از ChatGPT و سایر محصولات OpenAI استفاده می کنند، این شرکت مشتاق است تا به سرعت هر گونه مشکل بالقوه را ردیابی کند تا از عملکرد روان سیستم ها اطمینان حاصل کند و از سوء استفاده از هر گونه ضعف برای مقاصد شوم جلوگیری کند. بنابراین OpenAI امیدوار است که با تعامل با جامعه فناوری بتواند هر مشکلی را قبل از تبدیل شدن به یک مشکل جدی‌تر حل کند.

این شرکت مستقر در کالیفرنیا قبلاً یک ترس داشته است که در آن نقصی عناوین مکالمات برخی از کاربران را در حالی که باید خصوصی می ماندند را آشکار می کرد.

سام آلتمن، مدیرعامل OpenAI، پس از این حادثه در ماه گذشته گفت که او این اتفاق ناگوار در حفظ حریم خصوصی را یک “مسئله مهم” می داند و افزود: “ما در مورد این احساس وحشتناکی داریم.” الان درست شده

این اشتباه زمانی به یک مشکل بزرگ برای OpenAI تبدیل شد که ایتالیا نگرانی های جدی خود را در مورد نقض حریم خصوصی ابراز کرد و تصمیم گرفت ChatGPT را در حین انجام تحقیقات کامل ممنوع کند. مقامات ایتالیایی همچنین خواستار جزئیات اقدامات OpenAI هستند تا از تکرار آن جلوگیری کند.

توصیه های سردبیران