از زمان راه‌اندازی ChatGPT OpenAI در نوامبر ۲۰۲۲، مکالمات در مورد هوش مصنوعی مکالمه‌ای یا مولد مکرر، بلند و پر از پیش‌بینی‌ها درباره فرصت‌ها و چالش‌های پیش رو شده است.

مهم نیست که چه احساسی نسبت به هوش مصنوعی دارید، هیچ شکی وجود ندارد که هوش مصنوعی اینجا باقی مانده است و به دلیل اینکه چقدر عمیقاً نحوه زندگی، کار، همکاری، طوفان فکری و خلق ما را تغییر داده است، به تکامل خود ادامه خواهد داد.

در سه ماه گذشته، همه چیزهای مرتبط با هوش مصنوعی محاوره‌ای را بررسی کرده‌ام تا به فرصت‌ها و خطرات، شرکت‌ها و بازیکنانی که روی ابزارها و سیاست‌های جدید کار می‌کنند و برخی از مسائل پیرامون این مرز فناوری جدید دست پیدا کنم. هر هفته، من چند مورد از اتفاقات قابل توجه تری که در دنیای هوش مصنوعی رخ می دهد را به اشتراک می گذارم که معتقدم ارزش توجه به آنها را نیز دارد.

از آنجایی که این اولین خلاصه من “In the Loop on AI” است، من چند مورد از نکات برجسته یک ماه گذشته را با پیوندهایی به منبع منبع خلاصه می کنم تا بتوانید در آن غواصی کنید.

هوش مصنوعی می تواند به پایان بدی برای بشریت منجر شود – یا نه. در ماه مارس، محققان برجسته هوش مصنوعی و مدیران فناوری، از جمله استیو وزنیاک، بنیانگذار اپل و ایلان ماسک، مالک توییتر، نامه ای سرگشاده را امضا کردند که در آن خواستار توقف شش ماهه توسعه هوش مصنوعی شدند تا به صنعت فرصت داده شود تا استانداردهای ایمنی را در اطراف تعیین کند. طراحی و آموزش این سیستم های قدرتمند و بالقوه مضر.

یوشیو بنجیو، پیشگام هوش مصنوعی، مدیر مؤسسه الگوریتم‌های یادگیری دانشگاه مونترال، به وال استریت ژورنال گفت: «ما به نقطه‌ای رسیده‌ایم که این سیستم‌ها به اندازه کافی هوشمند هستند که می‌توان از آنها به روش‌هایی که برای جامعه خطرناک است استفاده کرد. یک مصاحبه در آن زمان “و ما هنوز نفهمیده ایم.”

در دو ماه گذشته، ما شاهد پست های دوئل در مورد تهدیدها و شادی های بالقوه هوش مصنوعی بودیم. کارشناسان در نامه‌ای سرگشاده تک جمله‌ای که توسط افراد سرشناس از جمله سام آلتمن، مدیر عامل OpenAI و جفری هینتون که به عنوان پدرخوانده هوش مصنوعی شناخته می‌شود، امضا کردند، کارشناسان گفتند که هوش مصنوعی می‌تواند در کنار همه‌گیری‌ها و جنگ هسته‌ای خطر انقراض را به همراه داشته باشد. در مقابل، مارک آندرسن، سرمایه‌دار خطرپذیر و پیشگام اینترنت، که شرکت او از استارت‌آپ‌های متعدد هوش مصنوعی حمایت کرده است، پستی تقریباً 7000 کلمه‌ای با عنوان «چرا هوش مصنوعی جهان را نجات خواهد داد» نوشت.

که ما را به آخرین بررسی های این هفته می برد، که از 119 مدیر عامل از صنایع مختلف، که به نظرسنجی برای اجلاس مدیران ارشد شرکت ییل پاسخ دادند، آمده است. 42 درصد گفتند که هوش مصنوعی به طور بالقوه می تواند بشریت را نابود کند – 34٪ گفتند که این ممکن است در 10 سال اتفاق بیفتد، و 8٪ به آن 5 سال فرصت دادند – در حالی که 58٪ دیگر گفتند که هرگز نمی تواند اتفاق بیفتد و آنها “نگران نیستند”. به گزارش CNN از نتایج. در یک سوال جداگانه، ییل گفت که 42٪ از افراد مورد بررسی فکر می کنند که یک فاجعه بالقوه هوش مصنوعی اغراق شده است، در حالی که 58٪ گفتند که اغراق نشده است.

خوشحالم که همه چیز روشن شد.

هوش مصنوعی همیشه تصاویر زیبایی را ترسیم نمی کند. یک مدیر عامل چگونه به نظر می رسد؟ یا فروشنده مواد مخدر؟ این سوالی است که بلومبرگ در داستان خود در مورد اینکه چگونه مبدل‌های متن به تصویر یک دید بسیار منحرف از جهان ایجاد می‌کنند، پاسخ داد – دیدی که بیشتر از انسان‌های مغرضانه پیش‌رو است. بلومبرگ پس از تجزیه و تحلیل بیش از 5000 تصویر تولید شده توسط Stable Diffusion (رقیب Dall-E OpenAI) دریافت که “جهان طبق Stable Diffusion توسط مدیران عامل مرد سفیدپوست اداره می شود. زنان به ندرت پزشک، وکیل یا قاضی هستند. مردان با پوست تیره مرتکب جنایت می شوند. در حالی که زنان با پوست تیره همبرگر را برمی گردانند.”

ساشا لوچونی، دانشمند محقق در استارت‌آپ Hugging Face که یکی از نویسندگان مطالعه‌ای درباره سوگیری در متن به تصویر است، می‌گوید: «ما اساساً به جای نمایش انواع فرهنگ‌ها یا هویت‌های بصری، یک جهان‌بینی واحد را به جهان ارائه می‌کنیم. به بلومبرگ گفت: مدل های مولد هوش مصنوعی. “سوال این است که چه کسی این مسئولیت را بر عهده دارد؟” “آیا ارائه دهندگان مجموعه داده هستند؟ مربیان مدل هستند؟ یا سازندگان؟”

همه سوالات خوب

بیتلز برای آخرین آهنگ بازگشت: یک آهنگ جدید “پایانی” بیتلز با حضور Fab Four اصلی امسال به لطف هوش مصنوعی منتشر خواهد شد. پل مک‌کارتنی در ژوئن به بی‌بی‌سی گفت که هوش مصنوعی برای جدا کردن آهنگ آوازی جان لنون از نسخه نمایشی یک آهنگ منتشر نشده (شایعه می‌شود که آهنگسازی لنون در سال 1978 به نام Now And then) باشد، استفاده شد.

ما می دانیم که می توان آهنگ های صوتی را از ضبط ها جدا کرد (از این رو آوازهای گوش نواز لیندا مک کارتنی در هی جود و مشارکت های “دردناک” یوکو اونو در کار لنون).

از پراکسی: “سر پل این دمو را یک سال قبل از بیوه لنون، ​​یوکو اونو دریافت کرده بود. این یکی از چندین آهنگ روی نوار کاست “برای پل” بود که لنون کمی قبل از مرگش در سال 1980 ساخته بود. آهنگ های Lo-fi و Embryonic زمانی که نوازنده در آپارتمانش در نیویورک پشت پیانو نشسته بود، تا حد زیادی روی یک بوم باکس ضبط شد.

مک کارتنی با این خبر آنقدر اخبار تولید کرد که او در 22 ژوئن توییتی منتشر کرد با تکرار اینکه این در واقع آواز Fab Four است و هوش مصنوعی برای تولید وکال های جدید استفاده نشده است.

آیا آهنگ جدید بیتلز خوب خواهد بود یا بد؟ من نمی دانم، اما چیزی که می دانم این است که ممکن است واجد شرایط دریافت گرمی نباشد. نینا رامونت، خبرنگار CNET خاطرنشان کرد که جوایز گرمی تنها موسیقی ساخته شده توسط انسان را واجد شرایط جوایز سال 2024 می‌داند که در 31 ژانویه پخش می‌شود. قوانین جدید جوایز گرمی می‌گوید: «فقط خالقان انسانی واجد شرایط برای بررسی هستند.» . “اثری که فاقد نویسندگی انسانی باشد، در هیچ دسته بندی واجد شرایط نیست.” هنرمندان همچنان می‌توانند از ابزارهای هوش مصنوعی برای ایجاد موسیقی استفاده کنند، اما اثر ارسالی باید «معنی‌دار و بیش از حداقل باشد».

توهم 5000 دلاری: اگر نمی دانستید، برخی از چت ربات های هوش مصنوعی ممکن است “توهم” داشته باشند، روشی مودبانه برای گفتن اینکه آنها چیزهایی درست می کنند که به نظر می رسد درست است، اما درست نیست. خوب، دو وکیل در تگزاس به روش سخت دریافتند که توهم، حداقل در مورد ارائه گزارشات حقوقی در دادگاه فدرال، قطعاً خوب نیست.

دو وکیلی که از ChatGPT برای نوشتن خلاصه‌های حقوقی خود استفاده می‌کردند، پس از اینکه مشخص شد ربات چت مواردی را اختراع کرده است که به عنوان سابقه ذکر شده است، مورد تنبیه دادگاه قرار گرفتند. آنها 5000 دلار جریمه شدند.

پی کوین کاستل، قاضی تگزاس، در سرزنش خود نوشت: «پیشرفت‌های فناوری امری عادی است و هیچ چیز ذاتاً نامناسبی در مورد استفاده از ابزار هوش مصنوعی قابل اعتماد برای کمک وجود ندارد. اما قوانین موجود نقش دروازه بان را بر وکلا تحمیل می کند تا از صحت پرونده های آنها اطمینان حاصل شود.

گربه، سگ، شغل: یان لکون، دانشمند ارشد هوش مصنوعی متا در کنفرانس Viva Tech در ماه ژوئن گفت: موتورهای هوش مصنوعی مانند ChatGPT از هوش انسانی برخوردار نیستند و حتی به اندازه یک گربه یا سگ باهوش نیستند. دلیل آن این است که اکثر موتورهای هوش مصنوعی نسلی که بر روی مدل‌های زبان بزرگ یا LLM آموزش دیده‌اند، بسیار باهوش نیستند، زیرا آنها فقط روی زبان آموزش می‌بینند – و نه تصاویر یا ویدیو.

LeCun گفت: “این سیستم ها هنوز بسیار محدود هستند، آنها هیچ درک درستی از واقعیت زیربنایی دنیای واقعی ندارند، زیرا آنها صرفاً بر روی متن آموزش داده شده اند، حجم عظیمی از متن.” “بیشتر دانش بشری هیچ ربطی به زبان ندارد… به طوری که بخشی از تجربیات انسان توسط هوش مصنوعی گرفته نمی شود.”

به عنوان نمونه، او اشاره می کند که در حالی که سیستم هوش مصنوعی می تواند در آزمون وکالت برای وکلا قبول شود، نمی تواند ماشین ظرفشویی را بار کند، که یک کودک 10 ساله می تواند در 10 دقیقه یاد بگیرد.

لیکان گفت: «آنچه به شما می‌گوید (این است که) ما چیز بسیار بزرگی را از دست می‌دهیم… برای رسیدن به هوش نه تنها در سطح انسان، بلکه حتی هوش سگ. او همچنین گفت متا در حال کار بر روی آموزش هوش مصنوعی خود بر روی ویدئو است – که به گفته او بسیار پیچیده تر از متن است. ما نمی‌دانیم که چگونه می‌توان این ظرفیت را امروز با ماشین‌ها بازتولید کرد. تا زمانی که نتوانیم این کار را انجام دهیم، قرار نیست هوشی در سطح انسان داشته باشیم، ما در سطح سگ یا گربه (هوش) نخواهیم داشت.

در همین حال، برایان چسکی، مدیرعامل Airbnb می‌گوید که نگران استخدام هوش مصنوعی نیست – او فکر می‌کند هوش مصنوعی به ایجاد کارآفرینان استارت‌آپ بیشتر کمک می‌کند، زیرا هوش مصنوعی در زمان و پولی که در کارهای کدنویسی صرفه‌جویی می‌کند و به این دلیل که نیازی به کامپیوتر ندارید. دانشمند برای کدگذاری در اینجا گزیده ای از آنچه چسکی گفته است، در CNBC آمده است:

چسکی گفت: “هوش مصنوعی مهندسین نرم افزار Airbnb را کارآمدتر می کند، با 30 درصد از کارهای روزمره که می توانند توسط ابزارهای مشابه ChatGPT در شش ماه آینده انجام شوند. او گفت که ریسک می کند، استدلال می کند که زمان صرفه جویی می تواند به آنها اجازه دهد تا روی پروژه های سخت تر و شخصی تر تمرکز کنند.

او گفت: “دانشمندان کامپیوتر تنها ذینفعان بالقوه نیستند. همانطور که هوش مصنوعی تکامل می‌یابد، می‌توانید به چت‌بات‌ها به زبان انگلیسی ساده بگویید که در یک وب‌سایت چه می‌خواهید و فناوری آن را برای شما می‌سازد، بدون نیاز به زبان برنامه‌نویسی، Airbnb مدیر عامل گفت.

چسکی گفت: «من فکر می‌کنم این میلیون‌ها استارت‌آپ ایجاد می‌کند… کارآفرینی یک موهبت خواهد بود. “هر کسی اساساً می تواند همان کاری را انجام دهد که مهندسی نرم افزار فقط پنج سال پیش به شما اجازه انجام آن را داده بود.”

نقطه ضعف همه آن مهندسان نرم افزار از ایلان ماسک ناشی می شود که در ماه مه گفت که ممکن است سخت باشد که کار خود را انجام دهید “اگر هوش مصنوعی بتواند کار شما را بهتر از شما انجام دهد.”