مرکز پژوهش‎های مجلس بررسی کرد

حکمرانی هوش مصنوعی با همکاری جهانی

دنیای اقتصاد : فرصت‌های ایجاد شده با پیشرفت‌های تکنولوژیک به‎ویژه حوزه هوش مصنوعی در بخش‌‌های مختلف قابل توجه است. به نظر متخصصان مختلف، در چند دهه آینده، قابلیت‌های مختلف هوش مصنوعی خود را نشان داده و به‌این‌ترتیب به شکل رادیکالی قدرت، ثروت و رفاه موجود را متحول می‌کند. تحولی که از نظر دامنه تغییرات با انقلاب صنعتی قابل مقایسه است. در مقابل توسعه و پیشرفت این فناوری جدید، مخاطرات ممکن نیز کم نبوده و پیشرفت‌های آن جامعه بشری را با چالش‌های فراوانی در حوزه حکمرانی مواجه می‌کند. از جمله این مخاطرات می‌توان به جابه‌جایی نیروی کار، نابرابری، دگرگونی در قدرت ملی، بی‌ثباتی استراتژیک یا حتی از بین بردن برخی ارزش‎ها اشاره کرد. با این حال، هوش مصنوعی با توجه به قابلیت‎هایی که دارد مورد استقبال رهبران حکومت‎ها و شرکت‎های بزرگ قرار گرفته و تقاضای این تکنولوژی نوین روز به روز در حال افزایش است. به این ترتیب، جهان در حال انتقال به دنیای مجهز به هوش مصنوعی است.

حکمرانی هوش مصنوعی در واقع مطالعه چگونگی مدیریت گذار به سیستم‌های هوش مصنوعی پیشرفته با تمرکز بر ابعاد گوناگون سیاسی، اقتصادی، نظامی، حکومتی و اخلاقی است. حکمرانی هوش مصنوعی اغلب در کنار سلامت و ایمنی هوش مصنوعی قرار داده می‌شود، البته هدف هر دوی آنها کمک به بشریت برای استفاده مفید هرچه بیشتر از هوش مصنوعی است، اما با این تفاوت که حکمرانی هوش مصنوعی بر نهادها و زمینه‌هایی که هوش مصنوعی ساخته شده و استفاده می‌شود، متمرکز است. در این راستا، مرکز پژوهش‌های مجلس گزارشی با عنوان «درآمدی بر حکمرانی هوش مصنوعی» منتشر کرده که سیاست هوش مصنوعی را با رویکرد پویایی میان دولت‌ها، کمپانی‌های بزرگ و جامعه و ساختارهای ممکن برای گذار به مدیریت هوش مصنوعی بررسی می‌کند.

براساس این گزارش، حکمرانی مطلوب هوش مصنوعی به بررسی ترتیبات جهانی بالقوه برای پاسخ به این پرسش می‌پردازد که انواع مختلف هوش مصنوعی چه بوده و چه کسانی و با چه اهدافی و در چه دشواری‌هایی کاربردی شده و توسعه یافته‌اند؟ همچنین حکمرانی مطلوب هوش مصنوعی دربرگیرنده چالش‌های انجام شده برای شناسایی مدل‌های ایده‌آل حکمرانی جهانی نیز است. به این منظور بر گسترش هر چه بیشتر ابزارهای موثر ایجاد ارتباط با همدیگر و منافع بالقوه در همکاری‌های مشترک تاکید شده است. همچنین ضرورت ائتلاف جهانی در حوزه هوش مصنوعی که به شکل ایده‌آلی تعهداتی اساسی به نفع عمومی داشته و دربرگیرنده مکانیزم‌های نهادی برای تضمین اصولی همچون عدم تهدید دیگران باشد، گوشزد شده است. در هر صورت، انسان‌ها خواستار فراهم کردن امنیت و تضمین ایمنی هوش مصنوعی از طرف حکومت‌هایشان هستند تا گسترش تکنولوژی‌های نوین آنها را با مخاطرات جدی روبه‌رو نکند. چنین دغدغه‌ای نیازمند کنترل تمرکزگرا بر توسعه هوش مصنوعی یا نظارت گسترده بر پروژه‌های مختلف هوش مصنوعی است. چنین امنیتی احتمالا از طریق همکاری گروه‌های مختلف در جهان امکان‌پذیر می‌شود و احتمالا نیازمند تمرکز قدرت و ثروت است.

سیاست هوش مصنوعی

هوش مصنوعی ماهیت ثروت و قدرت را دگرگون می‌کند. به این ترتیب، منافع بازیگران تغییر کرده و ممکن است بازیگران جدیدی ظهور کنند. این بازیگران برای پیشبرد منافع خود به رقابت یا همکاری در سایه هوش مصنوعی بپردازند و به دنبال آن توسعه هوش مصنوعی را رقم بزنند. در واقع، رابطه‌ای دو طرفه شکل می‎گیرد که در یک طرف آن منافع یا سیاست‎ها به کمک هوش مصنوعی تغییر می‎کند و در طرف دیگر مقدمات پیشرفت این پدیده جدید فناورانه مهیا می‎شود. هوش مصنوعی و تکنولوژی‌های مربوطه علاوه‌بر دگرگون کردن توزیع قدرت در داخل کشورها و ساختارهای سیاسی داخلی، می‎تواند به توانمندسازی شهروندان کمک کند. در واقع، به شهروندان این امکان را می‌دهند که به شکلی آگاهانه‌تر در فرآیندهای سیاسی مشارکت کنند. از طرفی، هوش مصنوعی و تکنولوژی‌های هم‌پیوند با آن پیامدهای مهمی برای امنیت ملی و بین‌المللی دارند. در بلندمدت نیز هوش مصنوعی به سرمایه‌ای اساسی برای کشورها بدل می‌شود و ممکن است دولت‌ها بکوشند تا هر آنچه به بخش D&R هوش مصنوعی مربوط می‌شود را کنترل و امنیتی کنند.

البته توسعه هوش مصنوعی ممکن است پیامدهای منفی نیز برای جوامع داشته باشد. برای نمونه، می‎تواند منجر به افزایش نابرابری میان مردم و احتمالا کشورها شود. هوش مصنوعی باعث جابه‌جایی در شغل‌های مربوط به طبقه متوسط شده و حداقل روند کوتاه‌مدت از  از بین رفتن بعضی از مشاغل با درآمد پایین حکایت دارد و سهم کار در درآمدهای ملی کاهش می‎یابد. هوش مصنوعی نوعی انحصارطلبی جهانی از سوی غول‎های دیجیتالی ایجاد می‎کند. اگر روند موجود که در آن تمرکز بر منافع حاصل از هوش مصنوعی عمدتا در اختیار شرکت‎های بزرگ مانند گوگل است ادامه یابد احتمالا شاهد نوعی از انحصارگرایی در به کارگیری و استفاده در حوزه هوش مصنوعی در سطح جهانی خواهیم بود. در این میان، کشورهایی که فاقد صنایع هوش مصنوعی هستند نگرانند که از چرخه منافع جهانی حاصل از هوش مصنوعی به حاشیه رانده شوند.

به هر حال، امروزه تحقیقات اساسی مربوط به هوش مصنوعی به شکلی آزاد انجام می‌شود: محققان علاقه زیادی به انتشار عمومی یافته‌هایشان برای کسب اعتبار دارند، البته بعضی از تحقیقات پنهانی و برای منافع خصوصی انجام می‌شود، با این حال، خصوصی بودن تحقیقات مربوط به هوش مصنوعی امری رایج نیست. در صورتی که هوش مصنوعی به عنوان دانش خطرناک یا از نظر اقتصادی و نظامی استراتژیک تلقی شود، احتمالا چنین روندی تغییر خواهد کرد. البته به هر میزان که احتمال فاجعه‌بار بودن گسترش عمومی هوش مصنوعی برود ممکن است دانشمندان هوش مصنوعی بخواهند از انتشار قابلیت‌های هوش مصنوعی برای دیگران ممانعت به عمل آورند.

همچنین هوش مصنوعی پیشرفته می‌تواند ثروت و قدرت فراوانی را در اختیار صاحبان آن قرار دهد. اگر چنین چیزی درست باشد و مخصوصا احساس شود که منافع اقتصادی و نظامی استراتژیک برداشتن هوش مصنوعی مترتب است پس باید انتظار وقوع رقابتی بین المللی را بر سر هوش مصنوعی داشت. به دلیل مزایای فراوان در اختیار داشتن هوش مصنوعی پیشرفته احتمال می‌رود که بازیگران مختلف چندان به فکر ایجاد توازن میان در اختیار داشتن آن با ارزش‌هایی همچون سلامت، شفافیت، مسوولیت‌پذیری و مردم‌سالاری نباشند. به‌ویژه نگرانی اصلی اینجاست که در کاربرد سیستم‌های پیشرفته هوش مصنوعی به احتیاط‌های لازم توجه نکنند.

به هر حال، با افزایش رقابت‌های شدید بر سر هوش مصنوعی لازم است راه‌هایی برای اجتناب از آن اندیشیده شود. از راهکارهایی که برای اجتناب از وقوع رقابت‌های شدید و متخاصمانه بر سر هوش مصنوعی می‌توان به کار گرفت استفاده از وضع استانداردها، تایید، اجرا و کنترل توسط طرف سوم است. مدل نخستی که می‌توان به کار گرفت و با قاطعیت می‌توان گفت قابلیت اجرایی دارد، تاسیس آژانس بین‌المللی برای تعریف استانداردهای ایمنی در حوزه هوش مصنوعی و الزام به اجرای آن است. چنین قدمی به‌عنوان مرحله‌ای اساسی در دستیابی به دانش مشترک درباره آن چیزی است که می‌توان توافق‌نامه در زمینه هوش مصنوعی نامید. مدل دیگر، ایجاد سازمانی است که خود قابلیت‌های وضع همکاری و ایجاد توافق‌های جدید را داشته باشد. مدل آخر نیز ایجاد چارچوبی جهانی برای هوش مصنوعی است که خارج از کنترل قدرت‌های بزرگ بوده و انحصار تکنولوژی استراتژیک (نظامی) را در اختیار داشته باشد، البته این مدل نیازمند دقت فراوان در طراحی سازمانی است تا انگیزه‌های همکاری‌جویانه در میان همه طرف‌ها را تضمین کند.