بسمه تعالی
اخیرا در سایت Future of Life یک نامه سرگشاده منتشر شده که موضوع اصلی آن هشدار  هزاران متخصص حوزه های مرتبط با فناوری های پیشرفته پیرامون مخاطرات هوش مصنوعی و رشد غیرقابل کنترل آن ها در چند مدت اخیر می باشد.

این نامه که به امضا افراد سرشناسی همچون استیو ووزنیاک (هم‌بنیانگذار اپل)، ایوان شارپ (هم‌بنیانگذار Pinterest)، کریس لارسن (هم‌بنیانگذار Ripple)، ایلان ماسک (مدیرعامل SpaceX)، یوال نواح هراری (نویسنده و آینده پژوه مشهور) و تعداد خیلی زیادی از دیگر متخصصین حوزه های مختلف مرتبط با هوش مصنوعی و آینده پژوهی رسیده است به هشدار درباره رشد غیرقابل کنترل هوش مصنوعی و آنچه آن ها رقابت هوش مصنوعی با انسان نامیدند پرداخته اند.

در این متن قصد دارم نگاه خلاصه ای به نامه مذکور که تحت عنوان Pause Giant AI Experiments در سایت موسسه آینده زندگی (Future of Life) منتشر شده است داشته باشم و در انتها نیز تحلیل شخصی خودم را ارائه کنم.

آنچه می خوانید برداشت شخصی بنده از نامه هزاران متخصص حوزه فناوری با موضوع هشدار درباره مخاطرات هوش مصنوعی بود که در ظاهر به نکاتی عام پسند و البته لازم اشاره شده است. ناگفته مشخص است که این متخصصین مخاطرات هوش مصنوعی و خطر تسلط آن بر بشر را حس کرده و سعی کرده اند که با ایجاد یک سد جلو پیشرفت آن، خود را جهت آینده ای تقریبا ترسناک آماده کنند.

البته موضوع از جنبه دیگر نیز قابل بررسی است! شاید مدیران کسب و کارهای امضاء کننده نامه به عقب افتادن کسب و کار خودشان از شرکت هایی مثل OpenAI و مایکروسافت پی برده و با این نامه و درخواست توقف پیشرفت هوش مصنوعی تمایل به حرکت و رساندن کسب و کار خودشان به بازار استفاده از هوش مصنوعی داشته باشند.

باید دید در آینده چه پیش خواهد آمد.

خلاصه ای از نامه هزاران متخصص حوزه های فنی پیرامون مخاطرات توسعه هوش مصنوعی :

1- سیستم‌های هوش مصنوعی با هوش رقابتی انسان می‌توانند خطرات عمیقی را برای جامعه و بشریت ایجاد کند، براساس آنچه در اصول مرتبط با Asilomar AI بیان شده است، هوش مصنوعی پیشرفته می تواند منجر به ایجاد تغییرات عمیقی در تاریخ حیات بشر گردد و علیرغم آنچه تاکنون با آن رفتار شده است باید برای مواجه با آن شرایط برنامه ریزی دقیقی صورت پذیرد.

2- سیستم‌های هوش مصنوعی که در حال رونمایی هستند قابلیت رقابت با انسان در انجام امور عمومی زندگی را دارند و بشر با این سوالات اساسی مواجه است که آیا باید تمام مشاغل، از جمله کارهای روزمره را خودکار کنیم؟ آیا باید به مسیر پرورش ذهن‌های غیرانسانی بپیوندیم که ممکن است در نهایت جایگزین ذهن انسان شوند؟ آیا بشر حق دارد بدون هیچ مقاومتی شاهد کنترل تمدن خود به دست ماشین باشد؟

بیانیه اخیر OpenAI در مورد هوش عمومی مصنوعی(Artificial General Intelligence)، بیانگر این موضوع است که در برخی موارد لازم است که پیش از آموزش سیستم های هوش مصنوعی، این سیستم ها به صورت مستقل مورد بررسی قرار گیرند که این بررسی ها شاید منجر به محدود کردن رشد سیستم ها و یا ایجاد مدل های جدید شوند. بله!‌ ما (امضا کنندگان نامه) معتقدیم که الان، زمان اعمال همین کنترل ها است.

بنابراین، ما از همه آزمایشگاه‌های هوش مصنوعی می‌خواهیم که بلافاصله آموزش سیستم‌های هوش مصنوعی قدرتمندتر از GPT-4 را به مدت حداقل 6 ماه متوقف کنند. این توقف باید عمومی و قابل بررسی باشد و همه بازیگران کلیدی را شامل شود. اگر چنین توقفی نمی تواند به سرعت اجرا شود، دولت ها باید وارد عمل شوند و یک حالت تعلیق وضع ایجاد کنند وگرنه به هیچ وجه از مخاطرات هوش مصنوعی در امان نخواهند بود.

 

3- آزمایشگاه‌های هوش مصنوعی و کارشناسان مستقل باید از این توقف برای توسعه و اجرای مشترک مجموعه‌ای از پروتکل‌های ایمنی مشترک برای طراحی و توسعه هوش مصنوعی استفاده کنند که کاملا توسط کارشناسان مستقل بیرون از سازمان‌شان قابل بررسی و نظارت باشند، البته این به معنای توقف توسعه هوش مصنوعی به طور کلی نیست، بلکه صرفاً یک عقب‌نشینی از مسابقه خطرناک شرکت های مختلف در برای سایت مدل های بزرگتر غیرقابل پیش‌بینی با قابلیت‌های نوظهور است.

4- تحقیق و توسعه هوش مصنوعی باید بر روی ساختن سیستم‌های قدرتمند و پیشرفته امروزی دقیق‌تر، ایمن‌تر، قابل تفسیرتر، شفاف‌تر، قوی‌تر، همسوتر، قابل اعتمادتر و وفادارتر متمرکز شود.

به موازات موارد فوق توسعه دهندگان هوش مصنوعی باید با سیاست گذاران در مسیر توسعه سیستم های مدیریتی قوی هوش مصنوعی همکاری کنند.از جمله مواردی که باید تحت کنترل باشند :

• استقرار یک ساختار قانون گذاری توانمند مختص سیستم های مرتبط با هوش مصنوعی
• استقرار یک نظام و استاندارد جهت تمایز دادن بین سیستم های مصنوعی از واقعی و سیستم های منشأ
• ایجاد یک اکوسیستم متمرکز جهت حسابرسی و صدور گواهینامه حرفه ای فعالیت در حوزه هوش مصنوعی
• استقرار ساختاری جهت معرفی و پذیرش مسئولیت‌های مرتبط با آسیب‌های ناشی از هوش مصنوعی
• بودجه عمومی قوی برای تحقیقات ایمنی فنی هوش مصنوعی
• و موسسات دارای منابع مناسب جهت مواجه شدن با اختلالات اقتصادی و سیاسی چشمگیر (به ویژه در حوزه های مرتبط با دموکراسی) که هوش مصنوعی ایجاد خواهد کرد.

بشریت می تواند با هوش مصنوعی از آینده ای شکوفا برخوردار شود. با موفقیت در ایجاد سیستم‌های هوش مصنوعی قدرتمند، اکنون می‌توانیم از «تابستان هوش مصنوعی» لذت ببریم که همگی از آن ها منتفع شویم. ما می توانیم این کار را در اینجا انجام دهیم. بیایید از یک تابستان طولانی هوش مصنوعی لذت ببریم، نه اینکه برای پاییز عجله کنیم.