زهرا شریف زاده عضو هیئت تحریریه مجله ایرانی روابط بین الملل
نظامی سازی هوش مصنوعی
نظامی شدن فزاینده هوش مصنوعی پیامدهای عمده ای برای امنیت ملی و بین المللی به همراه خواهد داشت. سازمان ملل متحد ، از سال 2014 بحث در مورد سیستم های اسلحه مستقل (AWS) را از طریق کنوانسیون برخی سلاح های متعارف TUNCCW مورد بحث قرار داده است.
تاکنون در مورد تعریفی از این سلاح ها و همچنین درمورد محدودیت ها یا حتی ممنوعیت آنها اجماع حاصل نشده است. به نظر می رسد تنها توافق در میان کشورها در مورد الزامات تضمین کنترل معنادار انسان در استفاده از این سلاح ها باشد. با این حال ، هنوز توافقی در مورد تعریف معنادار بودن کنترل انسانی و همچنین در مورد کاربردهای عملی این مفهوم حاصل نشده است.
برای واجد شرایط بودن به عنوان یک سیستم کاملاً مستقل ، سلاح باید حداقل سه عملکرد اصلی چرخه تعامل خود را یعنی خودمختار: جستجوی هدف ، تصمیم برای درگیری و درگیری هدف انجام دهد. چنین سلاحی باید بتواند به طور مستقل از طریق محیط خود به مکانهای دلخواه حرکت کند. اهداف را در محیط خود انتخاب و شلیک کنید و اهداف خود را ایجاد کنید ، یا آنها را اصلاح کنید ، شامل مشاهده محیط آن و ارتباط با سایر عوامل است.
همچنین در مورد وجود این اسلحه ها یا نبودن آنها توافق وجود ندارد. پل شر ، که جذاب ترین کتاب را در این زمینه تاکنون نوشته است ، معتقد است که فقط پهپاد اسرائیلی Harpy واجد شرایط AWS. است.
هارپی سلاحی ضد اشعه است که قادر است تاسیسات راداری را به طور مستقل پیدا و حمله می کند. از سوی دیگر موسسه تحقیقات صلح بین المللی استکهلم (SIPRI) 381 سلاح با عملکردهای مستقل را شناسایی کرده است. با این حال طبق SIPRI ، موشک هدایت شونده دو حالته بریمستون انگلیس در حال حاضر تنها مهمات هدایت شونده عملیاتی با خودمختاری انتخاب هدف است در حالی که هارپی قدیمی ترین سیستمی است که می تواند در خودمختاری کامل فعالیت کند .
صرف نظر از اینکه سیستم های تسلیحاتی کاملاً مستقل از قبل وجود دارند یا خیر ، با پیشرفت در یادگیری ماشینی می بینیم که فناوری های توسعه یافته در بخش خصوصی می توانند برای اهداف نظامی استفاده شوند.
فن آوری های استفاده دوگانه ، فن آوری های اصلی توسعه AWS را نشان می دهند. به عنوان مثال ، این مورد در باره دید کامپیوتر است. در سال 2015 ، الگوریتم ها در میزان خطای تشخیص تصویر (5٪) با انسان برابر شده اند.
الگوریتم ها این روزها در شناسایی الگوها بسیار بهتر از انسان ها هستند. وزارت دفاع ایالات متحده برای تشخیص تصویر به طور خودکار در زمان واقعی در تصاویر هواپیماهای بدون سرنشین در آوریل 2017 با Google همکاری کرد.
Project Maven با بیش از 80٪ دقت شناسایی به نتایج امیدوارکننده ای رسید. در نهایت هدف تجهیز هواپیماهای بدون سرنشین مسلح مانند Predator یا Reaper بود. با این حال ، 3000 کارمند Google نامه ای سرگشاده به مدیر عامل گوگل Sundar Pichai در آوریل 2008 امضا کردند تا به این شرکت توصیه کنند هرگونه قراردادی را که شامل هرگونه کاربرد نظامی نرم افزار Google است ، انصراف دهد. در اول ژوئن ، گوگل اعلام کرد که قرارداد را با وزارت دفاع آمریکا که قرار است در سال 2019 منقضی شود، تمدید نمی کند.
یکی از مشخصه های مشخص کننده هوش مصنوعی توانایی آن در پردازش اطلاعات با سرعت ماشین است که بسیار بالاتر از ظرفیت های انسانی است. استفاده از هوش مصنوعی در فرماندهی و کنترل یا در سیستم های پشتیبانی تصمیم به طور فزاینده ای در ارتش به واقعیت تبدیل می شود. برای مقابله با سرعت تصمیم گیری ، سربازان آینده به تدریج در عملکردهای شناختی ، بیولوژیکی و تحلیلی خود توسط سیستم های مصنوعی و مصنوعی تقویت می شوند.
سرلشکر رابرت اشلی ، مدیر آژانس اطلاعات دفاعی ایالات متحده ، اخیراً ابراز نگرانی در مورد تحقیقات چین درباره "افزایش عملکرد انسانی از جمله تلاش برای ادغام هوش انسان و ماشین" کرده است. هوش مصنوعی از طریق خودمختاری جمعی امکان کنترل و هماهنگی همزمان بسیاری از سکوها از نظر کاربردهای نظامی ، هوش مصنوعی تاکتیک های انبوه را از ویژگی های ظهور میادین جنگ آینده می داند. حرکت جمعی با همگام سازی یک سری حملات همزمان و متمرکز به سیستم دفاعی حریف و خشن متکی است.
در اکتبر 2016 ، وزارت دفاع ایالات متحده آزمایشی را انجام داد که 103 میکرو هواپیمای بدون سرنشین Perdrix را به طور مستقل با چهار هدف مختلف انجام می دهد. در ماه مه 2018 ، تولید کننده هواپیمای بدون سرنشین چینی ، Ehang ، با پرواز دسته ای هزار و 374 هواپیمای بدون سرنشین همزمان بر روی دیوار شهر شیعان ، رکورد جهانی را در بازی های المپیک زمستانی پیونگ چانگ شکست. این رکورد سپس توسط شرکت اینتل شکسته شد تا در 15 جولای با پرواز هواپیماهای بدون سرنشین سالگرد 50 سالگی تولد خود را جشن بگیرد.
Swarming یا حرکت دسته جمعی ترکیبی از اصول عمده نظامی ، هماهنگی ، سرعت و تمرکز نیروها در سطوح جدید است. توده های خودمختار امکان تمرکز تعداد زیادی از اعتبارهای نظامی با تعداد بسیار کمی یا کنترل کننده انسانی و با زمان واکنش سریعتر نسبت به شرایط دائما در حال تغییر را فراهم می کند. توده ها به هوش جمعی اعتماد می کنند. برخی عقیده دارند که توسعه AWS و گسترش استفاده از آنها در ازدحام احتمالاً از طریق خنثی سازی سیستم های دفاعی ، بر ثبات استراتژیک در آینده تأثیر بی ثباتی خواهد داشت و از این طریق یک مزیت برای حمله ایجاد می کند.
به دست آوردن هواپیماهای بدون سرنشین مجهز به فناوری های خودمختار نسبتاً آسان است. برخلاف سلاح های کشتار جمعی ، هواپیماهای بدون سرنشین مستقل برای کشورهای پیشرفته از نظر فنی در دسترس هستند. اکنون می توان یک "هواپیمای بدون سرنشین را از راه دور کنترل کرد تا در پاسخ به یک الگوریتم ساده تشخیص الگو" یک سلاح را شلیک کند. با این حال ، گسترش سلاح های این چنینی می تواند برای افزایش توانایی ضد انسداد و نفی منطقه و همچنین انجام عملیات تهاجمی علیه دشمنان قدرتمندتر مورد استفاده قرار گیرد و بنابراین بر تعادل منطقه و استراتژیک تأثیر بگذارد.
به همین ترتیب ، بازیگران غیر دولتی نیز می توانند به راحتی به هواپیماهای بدون سرنشین خودمختار دسترسی نسبی پیدا كنند .اکنون امکان چاپ میکرو هواپیماهای بدون سرنشین برای هر کسی فراهم شده است. بازیگران غیر دولتی مانند داعش به هواپیماهای بدون سرنشین خارج از قفسه را به دست آورده اند. داعش برای اهداف اطلاعاتی ، نظارتی و شناسایی ، وحتی برای اهداف توهین آمیز نیز استفاده کرده است. به عنوان مثال ، داعش برای به دست آوردن قابلیت های ISR و آگاهی از موقعیت ، دوربین هایی با کیفیت بالا را در زیر هواپیماهای بدون سرنشین نصب کرد. آنها همچنین نارنجک های موقت 40 میلی متری را برای انداختن آنها در مواضع عراق نصب کردند.در طول نبرد موصل در سال 2017 ، توانایی هوایی داعش تأثیر تاکتیکی قابل توجهی داشت زیرا آنها در طی یک هفته حداکثر 30 سرباز عراقی را کشتند.
این توسعه و تحولات برای نظامی ها تغییر دهنده بازی است همچنانکه تغییر می کند اکنون باید از بازیگران غیردولتی برای اولین بار از برتری هوایی تاکتیکی جلوگیری کنند.با هواپیماهای بدون سرنشین مستقل ، سازمان تروریستی قادر به انجام حملات اشباع و ترورهای هدفمند با هزینه های انسانی بسیار کم یا بدون هزینه خواهند بود. هوش مصنوعی کشتار هدفمند را به عنوان یک حالت عملیاتی غالب برای هر دو کشور و بازیگران غیر دولتی تقویت می کند.
هوش مصنوعی کشتار هدفمند را به عنوان یک حالت عملیاتی غالب برای هر دو کشور و بازیگران غیر دولتی تقویت می کند. با این حال ، بازیگران غیر دولتی ، كه تحت فشار فرهنگ سازمانی و مقاومت بوروكراتیك نیستند ، ممكن است سریعتر با مفاهیم جدید عملیات با تكیه بر هوش مصنوعی سازگار شوند.
منتقدان تأثیر استراتژیک هواپیماهای بدون سرنشین که بطور انبوه مورد استفاده قرار می گیرند ، خاطرنشان می کنند که هزینه های فعلی هواپیماهای بدون سرنشین این تاکتیک را بسیار پرهزینه می کند تا بتواند مؤثر باشد. دامنه سایبر ، هزینه های فیزیکی ساخت و نگهداری سلاح را برطرف می کند.
سیستم های سلاح های خودمختار سایبری
در حالی که بیشتر افراد تمایل دارند از نظر روبات یا وسایل نقلیه خودکار به سلاح های خودمختار فکر کنند ، AWS نیز در حوزه سایبر فعالیت می کند. به دلیل هزینه کم ساخت یک الگوریتم در مقایسه با AWS فیزیکی ، سلاح های سایبر مستقل به احتمال زیاد زودتر ساخته می شوند و سریعتر از نمونه های خود در دنیای فیزیکی گسترش می یابند.خاورمیانه یک میدان آزمایش برای عملیات تهاجمی سایبری بوده است. از زمان حمله 2010 استاکس نت که باعث آسیب جبران ناپذیری به تقریباً 1000 سانتریفیوژ مورد استفاده برای برنامه هسته ای ایران شد ، یک مسابقه تسلیحاتی سایبری در منطقه آغاز شد.
در سال 2011 ، آیت الله علی خامنه ای تأسیس شورای عالی فضای مجازی ایران را برای هماهنگی تلاشها برای عملیات تهاجمی و دفاعی مجاز دانست. ابتکارات مشابهی توسط امارات در سال 2012 ، عربستان سعودی ، کویت ، قطر و بحرین در سال 2013 به تصویب رسید. در سال 2012 ، شرکت آرامکو عربستان سعودی و RasGas قطر دچار حمله سایبری توسط ویروسی به نام شمون شدند که اطلاعات چندین هزار کامپیوتر را پاک کرد.شمون از نوامبر 2016 و ژانویه 2017 دوباره سعودی را هدف قرار داد و از طریق سه موج مشخص دوباره ظاهر شد. در آگوست 2017 ، یک بنگاه پتروشیمی در پادشاهی مورد حمله بدافزاری قرار گرفت که هدف آن ایجاد انفجار بود اما به دلیل اشکال در کد آن موفق نشد.
این مجموعه از وقایع ، افزایش نگران کننده ای در استفاده از سلاح های سایبری در خلیج فارس را نشان می دهد. عربستان سعودی کشوری عربی است که با بیشترین تعداد حملات سایبری در خاورمیانه روبرو است و هفدهمین کشور در بالاترین سطح جهان و پس از آن امارات متحده عربی است و در رتبه 18 جهانی قرار دارد. سپس الجزایر ، مصر و مراکش دنبال می کنند.
استفاده از هوش مصنوعی در حملات سایبری چشم اندازهای بی ثبات کننده ای را برای خاورمیانه فراهم می کند. دامنه سایبری به دلیل سد ورود کم ، برتری تهاجمی نسبت به دفاع را دارد. با توسعه شبکه های خصمانه تولید (GAN) - که الگوریتمی هستند که شبکه های عصبی را در برابر یکدیگر قرار می دهند می توان داده های دشمن خود را دستکاری کرد و بنابراین سیستم دفاعی آن را فریب داد. این حملات به عنوان حملات جعبه سیاه شناخته می شوند که در آنها "GAN ها برای کشف مدل های یادگیری ماشین مورد استفاده قرار می گیرند که بسیاری از برنامه های امنیتی با آن بدافزار را تشخیص می دهند."
مشابه خدشه ای که داده ی استاکس نت برای اپراتور سانتریفیوژهای Natanz ایجاد کرد بدافزارهای متکی به داده های مصنوعی تولید شده توسط هوش مصنوعی به صورت مستقل و با سرعت ماشین قادر به انجام این کار خواهند بود برخلاف Stuxnet ، چنین سلاح سایبری مستقلی برای کدگذاری رفتار و برنامه حمله متکی به یک اپراتور انسانی نخواهد بود ، بلکه خود به خود یاد خواهد گرفت. در آگوست 2018 ، IBM مدرکی از مفهوم "DeepLocker" را در کنفرانس Black Hat USA ارائه داد.DeepLocker یک بدافزار مجهز به هوش مصنوعی است که "بسیار هدفمند و گریزان" است زیرا برخلاف بدافزارهای مخرب ، محموله مخرب خود را در یک برنامه حامل خوش خیم مانند یک برنامه ویدیویی پنهان می کند و از AI برای ایجاد شرایط محرک منحصر به فرد استفاده می کند که فقط در صورت هدف قرار گرفتن می تواند قفل شود.
یک شبکه عصبی در واقع برای شناسایی هدف ، به عنوان مثال یک فرد ، آموزش دیده است که پس از شناسایی حمله را تحریک می کند. این نوع حمله امکان حملات بیش از حد تبعیض آمیز را ایجاد می کند که می تواند با آموزش شبکه های عصبی برای شناسایی اهداف جدید به راحتی تولید شود.
برای دفاع در برابر تهدید فزاینده حملات پیچیده سایبری ، در سال 2016 DARPA [1]چالش بزرگ سایبری را سازماندهی کرد که هدف آن افزایش امنیت سایبری از طریق یادگیری ماشین بود. هفت دستگاه در حالی که به طور همزمان آسیب پذیری های سیستم های دشمن را اسکن و حمله می کنند ، برای بهبود خودکار سیستم خود به رقابت پرداختند. یک سال بعد ، از طرف پنتاگون به تیم برنده ، قراردادی برای تأمین امنیت سیستم های نظامی ایالات متحده پیشنهاد شد.
با توجه به اهمیت امنیت سایبری ، منطقه خلیج فارس به احتمال زیاد از این روند استقبال می کند. استفاده از هوش مصنوعی برای اهداف براندازی روندی است که احتمالاً به خاورمیانه و خلیج فارس نیز ضربه خواهد زد. گسترش فن آوری جعلی عمیق مانند FakeApp ، که از تکنیک های یادگیری عمیق AI برای تعویض چهره فرد به شخص دیگر استفاده می کند ، توانایی ایجاد دستکاری های بصری کامل را دموکراتیک کرده است. نرم افزار تقلید صدا مانند Lyrebird یا Baidu’s Deep Voice می تواند صدای همه را شبیه سازی کند. اپلیکیشن غول فناوری چینی برای تولید مجدد آن فقط به 3.7 ثانیه صدای صوتی نیاز دارد.
خطر دستکاری های گسترده و هدفمند از طریق سیستم های هوش مصنوعی در آینده در کشورهای عربی خلیج فارس قابل اغماض نیست. به طور کلی ، تصاویر تهدید بین المللی به طور چشمگیری توسط هوش مصنوعی و خودمختاری در آینده نزدیک و میان مدت تغییر خواهد کرد. بنابراین ، برای مقابله با این چالش های جدید ، ساختارهای حاکمیتی بین المللی فعلی باید تعدیل شده و برخی از ساختارهای جدید ایجاد شود.
خود مختاری بین المللی هوش مصنوعی
دبیرکل سازمان ملل در گزارش خلع سلاح خود ، در مورد "خطرات ناشی از ساخت سلاح با هوش مصنوعی و سیستم های خودمختار" افزایش داده و به کشورها توصیه می کند "در تولید و به دست آوردن" این سلاح ها خویشتنداری داشته باشند.
به عنوان مثال ، در ژوئیه 2017 ، چین هدف خود را رهبر قرار دادن در زمینه هوش مصنوعی تا سال 2030 قرار داد تا سلطه ایالات متحده را به چالش بکشد. از این رو نتیجه می شود که تلاش در تنظیم هوش مصنوعی بسیار متنوع و ناهماهنگ بوده است. در مورد تسلیحات AI ، سازمان ملل متحد از طریق UNCCW نتوانسته است از سال 2014 تاکنون در مورد تنظیم سیستم های سلاح های خودمختار کشنده ، کشورها را به اجماع برساند.
ابتکارات مختلف در بخش های خصوصی سعی کرده اند فقدان حاکمیت بین المللی را جبران کنند. به عنوان مثال ، در دسامبر 2017 ، IEEE ، بزرگترین سازمان مهندسین حرفه ای ، یک کد رفتاری را منتشر کرد که هدف اصلی آن اطمینان از اولویت هر تکنسین در رعایت ملاحظات اخلاقی در طراحی و توسعه سیستم های خودکار و هوشمند است. یک سازمان دولتی که توسط ائتلافی از غول های فناوری تاسیس شده است ، هدف آن است که بهترین روش ها را در تحقیق ، توسعه و زمینه سازی فناوری های هوش مصنوعی به اشتراک بگذارد در حالی که OpenAI ، یک شرکت تحقیقاتی غیر انتفاعی AI ، به دنبال ایجاد هوش عمومی مصنوعی ایمن است.
در مواجهه با پیامدهای احتمالی اقتصادی و امنیتی استفاده از هوش مصنوعی ، جامعه جهانی باید در ایجاد یک سیستم حاکمیتی که دولت ها ، سازمان های بین المللی ، جامعه علمی ، بخش های خصوصی و تجاری و همچنین جامعه مدنی را دور هم جمع کند جدی باشد.
نتیجه گیری
کشورهای حوزه خلیج فارس از تحولات و پیامدهای AI مصون نخواهند بود. از نظر اقتصادی بهره وری کشورهای حوزه خلیج فارس به احتمال زیاد از هوش مصنوعی بهره مند می شود. هوش مصنوعی امکان اتوماسیون بسیاری از بخش های فعالیت را فراهم می کند. این امر نیاز به نیروی کار خارجی و در نتیجه منابع مالی رایگان را برای تنوع بخشیدن به اقتصاد خلیج فارس به منظور خارج شدن از مدل دولت رانتی خود کاهش می دهد. با این حال ، هوش مصنوعی نیاز به مهارت مجدد در جمعیت داخلی و آموزش نسل جوان به سمت تفکر خلاق تر و انتقادی تر و همچنین توسعه کارگران آینده باهوش تر در فن آوری دارد تا از کنار هم قرار گرفتن آنها توسط اتوماسیون جلوگیری شود
پوتین خاطرنشان کرد که "هر کسی که در این زمینه هوش مصنوعی رهبر شود ، حاکم جهان خواهد بود." یک مسابقه هوش مصنوعی در میان سه قدرت نظامی بزرگ ، ایالات متحده آمریکا ، چین و روسیه در حال برگزاری است.از آنجا که هوش مصنوعی یک فناوری با کاربرد دوگانه است که می تواند خیلی سریع تکثیر شود ، به افراد و بازیگران غیر دولتی نیز قدرت می بخشد که می توانند راه هایی برای استفاده از این فناوری پیدا کنند. از نظر امنیتی ، جهان از 195 ایالت به عنوان مرجع امنیت به سمت بالقوه بیش از 7.5 میلیارد منبع ناامنی حرکت کرده است.
شخصیت جنگ همچنین تحت تأثیر رشد خودمختاری و سیستم های تسلیحاتی خودمختار و همچنین در هم آمیختگی رو به رشد بین سربازان انسانی و فن آوری های تقویت کننده تأثیرگذار خواهد بود. بسیار محتمل است که ایالات و بازیگران غیر دولتی به طور فزاینده ای برای جنگ در آینده به جانشین های فناوری متوسل شوند .
طبیعت پر هرج و مرج و کنترل نشده دامنه سایبری نگاه اجمالی به اتفاقات پیش رو دارد و هوش مصنوعی به احتمال زیاد مزیت حمله را بزرگتر می کند. بر اساس سوابق قبلی حملات سایبری در خلیج فارس ، می توان استنباط کرد که هوش مصنوعی می تواند به عنوان یک عامل بی ثبات کننده برای منطقه عمل کند مگر اینکه بتوان از AI برای تقویت دفاع سایبری مستقل استفاده کرد.
خیلی زود است که تصویری دقیق از پیامدهای کامل اقتصادی-اجتماعی و سیاسی-استراتژیک AI داشته باشیم. با این حال ، در حالی که فناوری هوش مصنوعی به سرعت پیشرفت می کند و به طور فزاینده ای در زندگی ما ادغام می شود ، بسیار مهم است که جامعه جهانی یک سیستم حکمرانی جهانی ایجاد کند تا اطمینان حاصل کند که به گونه ای توسعه می یابد که برای جوامع مفید باشد.انتصاب وزیر هوش مصنوعی در امارات تصدیق می کند که این فناوری به خودی خود تحول پذیر است. سایر کشورهای حوزه خلیج فارس می توانند از الگوی اماراتی الگوبرداری کنند اما همچنین از استقرار سیستم جهانی حکمرانی هوش مصنوعی حمایت و پشتیبانی می کنند.
