میرا موراتی، خالق ChatGPT، فکر میکند که هوش مصنوعی باید تنظیم شود
در سال 2023، تایم بار دیگر 100 کسبوکار را که تأثیر فوقالعادهای در سراسر جهان دارند، شناسایی خواهد کرد. برنامه های کاربردی برای TIME100 تاثیرگذارترین شرکت های سال 2023 اکنون تا 1 مارس 2023 باز هستند. اینجا درخواست دهید.
(برای دریافت ایمیل های هفتگی مکالمات با مدیران ارشد اجرایی و تصمیم گیرندگان تجاری برتر جهان، کلیک کنید اینجا.)
به نوعی، میرا موراتی می تواند صریح در مورد خطرات هوش مصنوعی صحبت کند و در عین حال به شما این احساس را بدهد که همه چیز خوب است.
موراتی مدیر ارشد فناوری OpenAI است و تیمهای پشت سر DALL-E را رهبری میکند که از هوش مصنوعی برای ایجاد آثار هنری بر اساس اعلانها و ChatGPT، چت ربات هوش مصنوعی بسیار محبوب که میتواند به سؤالات پیچیده با مهارتهای انسانی ترسناک پاسخ دهد، استفاده میکند.
ChatGPT پس از انتشار در اواخر نوامبر، تصورات عمومی را به خود جلب کرد. در حالی که برخی از مدارس آن را ممنوع میکنند، مایکروسافت سرمایهگذاری 10 میلیارد دلاری در این شرکت را اعلام کرد و گوگل نیز با نگرانی از اینکه این فناوری میتواند تجارت جستجوی آن را مختل کند، “کد قرمز” منتشر کرد. موراتی در پاییز گذشته درباره تأثیر هوش مصنوعی به ترور نوآ گفت: «همانند سایر انقلابهایی که ما پشت سر گذاشتهایم، مشاغل جدید وجود خواهد داشت و برخی از مشاغل از بین خواهند رفت.»
در بیشتر ماه ژانویه، ChatGPT پیشی گرفت بیت کوین با توجه به Google Trends، در میان عبارات جستجوی محبوب. تمام توجهها به این معنی است که استارتآپ خصوصی مستقر در سانفرانسیسکو – با 375 کارمند و درآمد کمی – اکنون ارزشی در حدود 30 میلیارد دلار دارد. موراتی با TIME در مورد بزرگترین ضعف ChatGPT، پتانسیل استفاده نشده نرم افزار و اینکه چرا زمان آن رسیده است که به سمت تنظیم هوش مصنوعی حرکت کنیم، صحبت کرد.
ابتدا، میخواهم به شما و تیمتان به خاطر اخبار اخیر مبنی بر اینکه ChatGPT نمره قبولی در یک امتحان مجوز پزشکی ایالات متحده، یک آزمون MBA در مدرسه کسب و کار Wharton و چهار امتحان بزرگ دانشگاهی حقوق مدرسه کسب کرده است، تبریک بگویم. آیا احساس می کنید فرزندی باهوش دارید؟
ما این سطح از هیجان را از قرار دادن فرزندمان در دنیا پیش بینی نمی کردیم. ما، در واقع، حتی در مورد قرار دادن آن در آنجا ترس داشتیم. من کنجکاو هستم که مناطقی را ببینم که در آن شروع به تولید مفید برای مردم می کند و نه فقط تازگی و کنجکاوی خالص.
من از ChatGPT پرسیدم که یک سوال خوب از شما بپرسم. در اینجا آنچه گفته شده است: “برخی از محدودیت ها یا چالش هایی که در حین کار با ChatGPT با آن مواجه شده اید چیست و چگونه بر آنها غلبه کرده اید؟”
سوال خوبی است. ChatGPT اساساً یک مدل مکالمه بزرگ است – یک شبکه عصبی بزرگ که برای پیشبینی کلمه بعدی آموزش داده شده است – و چالشهای مربوط به آن چالشهای مشابهی هستند که در مدلهای اصلی زبان اصلی مشاهده میکنیم: ممکن است حقایقی را ایجاد کند.
به روشی بسیار مطمئن نیز!
آره. این در واقع یک چالش اصلی است. ما دیالوگ را به طور خاص انتخاب کردیم زیرا گفتگو راهی برای تعامل با یک مدل و دادن بازخورد به آن است. اگر فکر کنیم که پاسخ مدل نادرست است، میتوان گفت: «مطمئنی؟ فکر میکنم در واقع…» و سپس مدل فرصتی پیدا میکند که با شما به این سو و آن سو برود، شبیه به اینکه چگونه با انسان دیگری صحبت میکنیم.
(برای پوشش آینده کاری مراجعه کنید TIME.com/چارتر و ثبت نام کنید خبرنامه رایگان منشور.)
فناوری های واقعاً پیشگامانه یک مشکل را حل می کند. ChatGPT چه مشکلی را حل می کند؟
در حال حاضر، در مرحله بررسی تحقیقاتی است، بنابراین نمیخواهم با اطمینان بالا در مورد اینکه چه مشکلاتی را حل میکند صحبت کنم. اما من فکر میکنم که میتوانیم ببینیم که این پتانسیل واقعاً انقلابی در روش یادگیری ما است. افراد در کلاس های مثلاً 30 نفره هستند. همه افراد سوابق، روش های یادگیری متفاوتی دارند، و همه اساساً برنامه درسی یکسانی دریافت می کنند. با ابزارهایی مانند ChatGPT، میتوانید بیپایان با یک مدل صحبت کنید تا یک مفهوم را به گونهای درک کنید که مطابق با سطح درک شما باشد. این پتانسیل بسیار زیادی برای کمک به ما در آموزش شخصی دارد.
اما برخی مدارس ChatGPT را ممنوع می کنند. آیا این شما را شگفت زده می کند؟
وقتی ما در حال توسعه این فناوریها هستیم، واقعاً به سمت هوش عمومی، قابلیتهای عمومی با قابلیت اطمینان بالا و انجام این کار با خیال راحت پیش میرویم. اما وقتی آن را به روی افراد زیادی با پیشینهها و تخصصهای حوزه مختلف باز کنید، قطعاً از انواع کارهایی که آنها با این فناوری انجام میدهند، چه در جنبه مثبت و چه در جنبه منفی، شگفتزده خواهید شد.
تعداد فزاینده ای از رهبران در این زمینه در مورد خطرات هوش مصنوعی هشدار می دهند. آیا در مورد این فناوری تردید دارید؟
این یک لحظه منحصر به فرد در زمان است که در آن ما عاملی در نحوه شکل دادن به جامعه داریم. و این به هر دو صورت پیش می رود: فناوری به ما شکل می دهد و ما آن را شکل می دهیم. بسیاری از مشکلات سخت برای کشف وجود دارد. چگونه مدل را وادار میکنید تا کاری را که میخواهید انجام دهد، و چگونه مطمئن میشوید که با نیت انسان هماهنگ است و در نهایت در خدمت بشریت است؟ همچنین سؤالات زیادی در مورد تأثیرات اجتماعی وجود دارد، و سؤالات اخلاقی و فلسفی زیادی وجود دارد که باید آنها را در نظر بگیریم. و مهم است که ما صداهای مختلفی مانند فیلسوفان، دانشمندان علوم اجتماعی، هنرمندان و افراد علوم انسانی را وارد کنیم.
سوال اخلاقی یا فلسفی کلیدی که هنوز باید بدانیم چیست؟
(AI) می تواند مورد سوء استفاده قرار گیرد یا توسط بازیگران بد استفاده شود. بنابراین، سؤالاتی در مورد نحوه مدیریت استفاده از این فناوری در سطح جهانی وجود دارد. چگونه استفاده از هوش مصنوعی را به روشی که با ارزشهای انسانی همسو باشد کنترل میکنید؟
به نظر شما این سوالات باید به شرکت هایی مانند شما سپرده شود یا دولت ها باید در ایجاد مقررات دخالت کنند؟
برای OpenAI و شرکت هایی مانند ما مهم است که این موضوع را به گونه ای کنترل شده و مسئولیت پذیر به آگاهی عمومی بیاورند. اما ما گروه کوچکی از مردم هستیم و به تعداد زیادی ورودی بیشتر در این سیستم و ورودیهای بسیار بیشتری نیاز داریم که فراتر از فناوریها باشد – قطعاً تنظیمکنندهها و دولتها و همه افراد دیگر.
همیشه این ترس وجود دارد که دخالت دولت بتواند نوآوری را کند کند. فکر نمی کنید هنوز برای سیاست گذاران و نهادهای نظارتی زود است که وارد این موضوع شوند؟
هنوز زود نیست. با توجه به تأثیری که این فناوریها خواهند داشت، برای همه بسیار مهم است که شروع به مشارکت کنند.
میرا، میتوانی یک آهنگ یا آلبوم، یک کتاب و یک فیلم به من بدهی که به ما بینشی در مورد اینکه تو کی هستی و چه چیزی الهامبخش تو باشد را به من بدهی؟
- ترانه: اندروید پارانوئید توسط Radiohead این آهنگ لایه لایه است و به موضوعات مرتبط با جامعه در فناوری می پردازد. نه چندان نشاط آور اما زیبا و قابل تامل.
- کتاب: مرثیه های دوینو، مجموعه ای از اشعار راینر ماریا ریلکه. من اخیراً این را به عنوان هدیه دریافت کردم و عمق و زیبایی اشعار را بسیار الهام بخش یافتم.
- فیلم سینما: 2001: یک ادیسه فضایی همچنان با تصاویر و موسیقی خود تخیل من را تحریک می کند، به خصوص در سکانس نفس گیر که شاتل فضایی همراه با والس یوهان اشتراوس لنگر انداخت. والس آبی دانوب، تامل بر بی وزنی این واقعه و شکوه لحظه.
این اقتصاد – با اخراج های گسترده، افزایش قیمت ها و نرخ های بهره بالاتر – دشوار است. ستون مشاوره جدید TIME، سؤالات پول، با پاسخ های متخصص به فوری ترین سؤالات مالی شخصی شما، اینجا است تا شما را راهنمایی کند. بهترین راه برای آماده شدن برای رکود چیست؟ طرح وام دانشجویی جدید چه تاثیری بر بدهی شما خواهد داشت؟ آیا خرید یا اجاره خانه در حال حاضر بهتر است؟ خبرنگاران ما با کارشناسانی مشورت می کنند که می توانند راهنمایی های عملی ارائه دهند. سوالات خود را در [email protected] به اشتراک بگذارید.
مطالب بیشتری که باید از TIME خوانده شود
#میرا #موراتی #خالق #ChatGPT #فکر #میکند #که #هوش #مصنوعی #باید #تنظیم #شود