کاخ سفید “تعهدات داوطلبانه” شرکت های فناوری را تضمین کرده است که به کاهش خطرات مرتبط با هوش مصنوعی کمک می کنند.

جو بایدن، رئیس‌جمهور آمریکا روز جمعه در کاخ سفید با آمازون، مایکروسافت، متا، گوگل، OpenAI، Anthropic و Inflection دیدار کرد و در آنجا توافق کردند که بر «ایمنی، امنیت و اعتماد» هنگام توسعه فناوری‌های هوش مصنوعی تأکید کنند. در اینجا برخی از جزئیات در هر یک از این دسته ها آورده شده است.

• ایمنی: شرکت‌ها موافقت کردند که «ایمنی و قابلیت‌های سیستم‌های هوش مصنوعی خود را آزمایش کنند، آن‌ها را در معرض آزمایش‌های خارجی قرار دهند، خطرات بیولوژیکی، امنیت سایبری و اجتماعی بالقوه‌شان را ارزیابی کنند و نتایج این ارزیابی‌ها را عمومی کنند».
• امنیت: این شرکت‌ها همچنین گفتند که از محصولات هوش مصنوعی خود در برابر تهدیدات سایبری و داخلی محافظت می‌کنند و بهترین شیوه‌ها و استانداردها را برای جلوگیری از سوء استفاده، کاهش خطرات برای جامعه و حفاظت از امنیت ملی به اشتراک می‌گذارند.
• اعتماد: یکی از بزرگ‌ترین توافق‌هایی که تضمین شد این بود که این شرکت‌ها به راحتی تشخیص دهند که تصاویر اصلی، تغییر یافته یا توسط هوش مصنوعی تولید شده‌اند. آنها همچنین اطمینان حاصل می کنند که هوش مصنوعی تبعیض یا تعصب را ترویج نمی کند، از کودکان در برابر آسیب محافظت می کنند و از هوش مصنوعی برای حل چالش هایی مانند تغییرات آب و هوا و سرطان استفاده می کنند.

ورود ChatGPT OpenAI در اواخر سال 2022 آغازی بود برای ازدحام شرکت های بزرگ فناوری که ابزارهای مولد هوش مصنوعی را در اختیار توده ها قرار دادند. GPT-4 OpenAI در اواسط مارس راه اندازی شد. این آخرین نسخه از مدل زبان بزرگ است که ربات چت هوش مصنوعی ChatGPT را تقویت می کند، که در میان سایر موارد به اندازه کافی برای قبولی در آزمون وکالت پیشرفته است. با این حال، چت‌بات‌ها مستعد به بیرون ریختن پاسخ‌های نادرست و گاهی اوقات منابعی هستند که وجود ندارند. همانطور که پذیرش این ابزارها افزایش یافته است، مشکلات بالقوه آنها دوباره مورد توجه قرار گرفته است – از جمله انتشار اطلاعات نادرست و تعمیق تعصب و نابرابری.

آنچه شرکت های هوش مصنوعی می گویند و انجام می دهند

متا گفت که از توافق کاخ سفید استقبال می کند. اوایل این هفته، این شرکت نسل دوم مدل زبان بزرگ هوش مصنوعی خود، Llama 2 را عرضه کرد و آن را رایگان و منبع باز کرد.

نیک کلگ، رئیس امور جهانی متا گفت: «در حالی که مدل‌های جدید هوش مصنوعی را توسعه می‌دهیم، شرکت‌های فناوری باید در مورد نحوه عملکرد سیستم‌هایشان و همکاری نزدیک در صنعت، دولت، دانشگاه و جامعه مدنی شفاف باشند.

برد اسمیت، نایب رئیس و رئیس مایکروسافت، در یک پست وبلاگی گفت: توافق کاخ سفید “بنیانی را ایجاد می کند تا اطمینان حاصل شود که وعده هوش مصنوعی جلوتر از خطرات خود می ماند.”

مایکروسافت شریک متا Llama 2 است. همچنین اوایل امسال جستجوی Bing مبتنی بر هوش مصنوعی را راه‌اندازی کرد که از ChatGPT استفاده می‌کند و ابزارهای هوش مصنوعی بیشتری را به Microsoft 365 و مرورگر Edge آن می‌آورد.

آنا ماکانجو، معاون امور جهانی OpenAI گفت: توافق با کاخ سفید بخشی از “همکاری مداوم OpenAI با دولت ها، سازمان های جامعه مدنی و سایرین در سراسر جهان برای پیشبرد حکمرانی هوش مصنوعی است.” “سیاست گذاران در سراسر جهان در حال بررسی قوانین جدید برای سیستم های هوش مصنوعی با توانایی بالا هستند. تعهدات امروزی، شیوه های خاص و ملموسی را به این بحث در حال انجام می دهد.”

آمازون در حال پشتیبانی است تیم دویل، سخنگوی آمازون، در بیانیه ای ایمیلی به CNET گفت: «به عنوان یکی از توسعه دهندگان و توسعه دهندگان پیشرو ابزارها و خدمات هوش مصنوعی در جهان، تعهدات داوطلبانه را ارائه می دهد. ما به دنبال ایجاد نوآوری از طرف مشتریان خود هستیم و در عین حال اقدامات حفاظتی لازم را برای محافظت از مصرف کنندگان و مشتریان ایجاد و اجرا می کنیم.

آمازون برای پادکست ها و موسیقی و خدمات وب آمازون به هوش مصنوعی متمایل شده است.

Anthropic در بیانیه ای ایمیلی گفت که همه شرکت های هوش مصنوعی “باید در مسابقه ای برای ایمنی هوش مصنوعی شرکت کنند.” این شرکت گفت که برنامه های خود را در هفته های آینده در مورد “امنیت سایبری، تیم قرمز و مقیاس پذیری مسئولانه” اعلام خواهد کرد.

مصطفی سلیمان، یکی از بنیانگذاران و مدیرعامل Inflection AI، روز جمعه در یک پست وبلاگی نوشت: “مقدار زیادی کار ایمنی در پیش است. تاکنون ایمنی هوش مصنوعی در فضای ایده ها و جلسات گیر کرده است.” “میزان پیشرفت ملموس در مقابل هیاهو و وحشت کافی نبوده است. در Inflection ما این موضوع را هم نگران کننده و هم خسته کننده می دانیم. به همین دلیل است که ایمنی در قلب ماموریت ما قرار دارد.”

چه چیز دیگری؟

گوگل بلافاصله به درخواست برای اظهار نظر پاسخ نداد، اما اوایل سال جاری اعلام کرد محتوای هوش مصنوعی را واترمارک می کند. مدل هوش مصنوعی Gemini این شرکت، متن، تصاویر و فیلم‌هایی را که توسط هوش مصنوعی تولید شده‌اند شناسایی می‌کند. این ابرداده ادغام شده در محتوا را بررسی می کند تا به شما اطلاع دهد که چه چیزی بدون تغییر و چه چیزی توسط هوش مصنوعی ایجاد شده است.

شرکت نرم‌افزار تصویر Adobe به طور مشابه تضمین می‌کند که تصاویر تولید شده با هوش مصنوعی را از ابزارهای هوش مصنوعی Firefly خود با متادیتا برچسب‌گذاری می‌کند که نشان می‌دهد آنها توسط یک سیستم هوش مصنوعی ایجاد شده‌اند.

می توانید کل توافقنامه داوطلبانه بین شرکت ها و کاخ سفید را اینجا بخوانید.

دولت بایدن هریس همچنین در حال تدوین یک فرمان اجرایی است و به دنبال قوانین دو حزبی “برای ایمن نگه داشتن آمریکایی ها” از هوش مصنوعی است. علاوه بر این، دفتر مدیریت و بودجه ایالات متحده قرار است دستورالعمل هایی را برای هر آژانس فدرالی که در حال تهیه یا استفاده از سیستم های هوش مصنوعی هستند، منتشر کند.

همچنین ببینید: ChatGPT در مقابل بینگ در مقابل Google Bard: کدام هوش مصنوعی مفیدتر است؟

یادداشت سردبیران: CNET از یک موتور هوش مصنوعی برای کمک به ایجاد برخی داستان‌ها استفاده می‌کند. برای اطلاعات بیشتر، ببینید این پست.