جنگ هسته‌ای در دستان هوش مصنوعی

حسن فتاحی-فریدون علی مازندرانی-مصطفی روستایی: امروز که در حال نوشتن این مقاله برای سالنامه «شرق» هستیم، سالروز ورود جنگنده پرافتخار ارتش ایران و نیروی هوایی آن، اف‌چهارده تامکت است. این جنگنده کمی کمتر از 50 سال پیش، در پی تصمیم مسئولان آن زمان کشور، بازوی توانمند پدافند از آسمان کشور شد. خلبانان ایرانی آن زمان این جنگنده را با واژگانی همچون کامپیوتری و هوشمند خطاب می‌کردند و مبنای آن مقایسه با دیگر جنگنده‌ها مانند تایگر و فانتوم بود. فناوری آن زمان اف‌چهارده تامکت بی‌مانند بود و به دلیل دست برتر بودن در فناوری آمریکایی‌اش، از رقیب شرقی‌اش، یعنی جنگنده‌های شوروی سرآمدتر بود. این مهم را جنگ هشت‌ساله ایران و عراق به‌خوبی نشان داد. به باور نویسندگان این مقاله، پیروزی در یک جنگ بیش از هر چیزی به فناوری و توانمندی فرماندهی بستگی دارد. چیزی که بیش‌ از پیش در جنگ‌های امروزی، همچون جنگ برآمده از یورش روسیه به اوکراین یا جنگ میان شبه‌نظامیان حماس و ارتش اسرائیل در غزه، به چشم می‌خورد. این دو جنگ که در پیرامون ایران است و جنگ‌های ریز و درشت دیگر، اگرچه از فناوری‌های نوین بهره می‌برند؛ اما هنوز چند گام تا جنگ بزرگی که می‌تواند تمدن انسان را به نابودی کامل بکشاند، دورایی یا فاصله دارد. ایران به دلیل پیشینه بلندبالای امپراتوری و پهناور بودنش همواره کشوری نه در صلح و نه در جنگ بوده است. این مسئله دلایل زیادی دارد که موضوع این مقاله نیست؛ اما گفتنش ضروری است که امروز، ایران ما با بحران‌ها یا بهتر بگوییم جنگ‌هایی روبه‌روست که شاید شبیه نبردهای نظامی نباشد، اما حتی از آن‌ هم می‌تواند ترسناک‌تر باشد؛ از آن جمله، بحران آب، بحران انرژی، بحران کوچ نیروی انسانی و... . بی‌شک خوانندگان گرامی می‌دانند که ایران، از بیش از 50 سال پیش برنامه هسته‌ای‌اش را آغاز کرده و به دلیل رخدادهای سیاسی چند دهه پیش کشور، مسئله هسته‌ای به بحرانی بزرگ برای ایران تبدیل شده است. نویسندگان این مقاله بارها در طی سال‌های پیشین در صفحه علم روزنامه شرق از زاویه‌های گوناگون به این موضوع پرداخته‌اند؛ بنابراین قصد ما ورود به این مسئله نیست و صرفا به گفتن این نکته بسنده می‌‌کنیم که «ایران» و «مردم ایران» در راستای «منافع ملی ایران» این حق را دارند تا از دانش و فناوری هسته‌ای سودمند و صلح‌آور بهره‌مند شوند. وظیفه حاکمیت هم اگر برآمده از خرد و اراده جمعی باشد، باید برآورده‌کردن منافع ملی باشد و نه چیز دیگر. هدف ما کاوش در برنامه هسته‌ای ایرانِ کنونی و حاکمیت آن نیست؛ بلکه می‌خواهیم نشان دهیم تا چه اندازه کشورمان درگیر مسئله هسته‌ای، چه صلح‌آمیز و چه جز آن، است. بنابراین لازم است کمی درباره برخی مسائل آن، از جمله جنگ هسته‌ای آگاهی یابیم. چه‌بسا خوانندگانی باشند که خطر جنگ هسته‌ای را ناچیز بشمارند، اما درواقع خطری است بیخ گوش تمام دنیا. همان‌طور که اشاره کردیم، جنگ‌های امروز به‌شدت با فناوری گره خورده‌اند. یکی از فناوری‌ها و دانش‌های مبتنی بر توان رایانشی و محاسباتی که بسیار گسترش یافته و جای پای خود را در فناوری‌های ارتشی باز کرده، هوش مصنوعی است. عبارت «هوش مصنوعی» که فارسی‌تر آن «هوش ساختگی» است، ولی این ترکیب جا نیفتاده، این روزها بسیار شنیده می‌شود، اما گره‌خوردن آن با بزرگ‌ترین تهدید ویرانگر تمدن انسانی، کمی برای مردم عادی شگرف می‌نماید. برخی بر این باورند که زمین با سه تهدید جدی روبه‌روست؛ تغییرات اقلیمی، جنگ‌افزارهای هسته‌ای و جنگ هسته‌ای و نیز هوش مصنوعی. حال اگر دو مورد از این تهدیدها دست‌ به‌ دست هم دهند چه پیش خواهد آمد؟ آیا نابودی حتمی است یا راهی برای گریز و پابرجایی انسان و این سیاره وجود دارد؟ در این مقاله نخست با مفاهیم اساسی که هوش مصنوعی، جنگ‌افزار هسته‌ای و جنگ هسته‌ای است، آشنا خواهیم شد. در ادامه رابطه میان این دو و بحران پیش‌روی انسان را خواهیم شکافت.

 هوش مصنوعی چیست؟

برای اینکه بدانیم هوش مصنوعی چیست، باید به واژگان آن پَرسونانه (بادقت) بنگریم. این عبارت از دو بخش ساخته شده که باید تعریف شوند؛ یکی «هوش» و دیگری «مصنوعی». در تعریف هوش چندان توافقی که مو لای درز آن نرود، وجود ندارد و مثل تعریف «زیست» یا حیات، چندین تعریف برایش ارائه شده است. اما تعریف‌هایی پدید آمده که بر سر آن توافق بیشینه‌ای وجود دارد. هوش را می‌توان با دو سنجه شناخت؛ حافظه و آمار. معنای این دو هم تا حدی روشن است. همچنین می‌توان هوش را با چند شاخص یا ویژگی مهم تعریف و سنجشی کمی و کیفی برایش تولید کرد. هفت شاخص اصلی عبارت‌اند از: 1- داشتن منطق، 2-توانایی برنامه‌ریزی و برنامه‌سازی، 3-توان حل مسئله، 4- اندیشیدن انتزاعی، 5- فهم مسائل پیچیده، 6- یادگرفتن از تجربه و 7- داشتن خلاقیت. این هفت ویژگی که نام بردیم در هوش انسانی وجود دارد. شاید این پرسش پیش آید که خاستگاه هوش انسانی چیست؟ کوتاه‌ترین پاسخ در فرگشت انسان است. هوش انسانی برآمده از فرگشت طولانی‌مدت است و هوش مصنوعی که به کوتاهی به آن« اِی‌آی» می‌گویند، ساخته دست انسان است. حال باید تعریفی ساده از هوش مصنوعی داشته باشیم؛ هوش مصنوعی الگوریتمی است که می‌تواند هوش انسان را تقلید کند. یعنی ماشین‌هایی بسازیم که با این الگوریتم‌ها کار کنند. نیاز نیست به هوش مصنوعی بگوییم قدم‌ به‌ قدم چه کند. بلکه لازم است به او بگوییم از نقطه آ به نقطه ب برود. هوش مصنوعی برای این فراروند، تابعی پیچیده ساخته و بر اساس آن از آ به ب می‌رود. نخستین نگره را درباره هوش مصنوعی «آلن تورینگ» ارائه داد؛ اما در دو دهه گذشته توانمندی و ظرفیت‌‌ها بسیار گسترده و پرکاربرد شده است. به زبان ساده هوش مصنوعی ماشینی است که وقتی در شرایط مشابه انسان قرار گیرد، کنش و واکنش تا حد ممکن و چه‌بسا کاملا مشابه با انسان از خود بروز می‌دهد. هوش مصنوعی به دو دسته کلی بخش می‌شود؛ نخستین آن هوش محدود یا نزار یا ضعیف یا باریک (هر چهار واژه در ادبیات دانش‌های رایانشی زبان فارسی دیده شده است) و دیگری هوش عمومی. حالت اول آن چیزی شبیه رایانه‌ها، گوشی‌های هوشمند و خودروهای تسلا است که یادگیری مشخص و وظایف مشخصی دارد. حالت دوم آن انجام وظایف مختلف است و توان تصمیم‌گیری. می‌خواهیم روی مسئله «توان تصمیم‌گیری و تصمیم‌سازی» تأکید کنیم، چون در رابطه با جنگ هسته‌ای از اهمیت وافری برخوردار است. هوش مصنوعی به سه زیرشاخه کلی بخش می‌شود که عبارت‌اند از: 1- یادگیری ماشین یا یادگیری ماشینی. به این معنا که ماشین می‌تواند از داده‌ها چیزی بیاموزد؛ به عبارت دیگر ماشین توان استنتاج از داده‌ها را دارد. 2- یادگیری عمیق یا یادگیری ژرف که کار با داده‌های بسیار بزرگ است و چون الگوبرداری‌شده از شبکه عصبی/نورونی مغز انسان است، به آن شبکه‌ عصبی هم می‌گویند. 

3- سامانه‌های خبره یا متخصص هوش مصنوعی که ماشین‌هایی هستند که می‌توانند نقش یک انسان متخصص را بازی کنند و به عبارتی اگر به حد کافی هوشمند باشند، جای انسان را بگیرند. این حالت یک نکته مهم دارد و آن «پشتیبانیِ ناانسانی» حل مسئله است. این حل مسئله می‌تواند دستور مقابله با یک تهدید فضایی زمین و شلیک موشک به شخانه (شهاب‌ و شهاب‌واره و...) باشد که به‌ سوی زمین می‌آید یا دستور آغاز جنگ هسته‌ای و هدف قراردادن پایتخت کشورهای درگیر. تا اینجای کار آموختیم هوش مصنوعی چیست؛ بنابراین به بخش بعدی که درباره جنگ و جنگ‌افزار هسته‌ای است،‌ می‌پردازیم.

 جنگ‌افزار هسته‌ای چیست؟

جنگ‌افزار ابزاری ارتشی است که طی فراروندی مهندسی ساخته شده و کاربرد آن یا به‌کارگیری در جنگ است یا آنکه وجودش سد راه آغاز جنگ شود. این مفهوم را بازدارندگی جنگ‌افزاری می‌گویند. جنگ‌افزار هسته‌ای هر دو ویژگی را داراست و عبارت «بازدارندگی هسته‌ای» اشاره مستقیم به جنگ‌افزارهای هسته‌ای دارد. جنگ‌افزارهای هسته‌ای را به چند دسته می‌توان بخش کرد؛ دسته اول بمب‌های شکافتی هستند. بُن‌پارها یا عنصرهای سنگین همچون اورانیوم و پلوتونیوم طی فراروند برخورد نوترونی با هسته‌شان شکافته می‌شوند و عنصرهای سبک‌تر می‌سازند. از دل این فراروند که واکنش هسته‌ای است، انرژی آزاد می‌شود. در رآکتورها انرژی به شکل کنترل‌شده است و در بمب هسته‌ای آزادسازی فوری رخ می‌دهد. دسته بعدی بمب‌های گداختی یا گداختی-شکافتی هستند که به آنها بمب گرماهسته‌ای هم گفته می‌شود. از معروف‌ترین شخصیت‌های دانشی و البته اجتماعی جهان که پدر این بمب خوانده می‌شود، آندره‌ئی ساخاروفِ شوروی فروپاشیده پیشین است. بمب‌های دیگری هم هستند از جمله بمب نوترونی و دیگر بمب‌هایی که با بُن‌پارهای سنگینِ 

پرتوزا-شکافا عمل می‌کنند که از موضوع این مقاله خارج است. مسئله دیگری که باید درباره جنگ‌افزارهای هسته‌ای بدانیم، موشک‌های بالستیک یا پرتابیک است که می‌توانند به سر جنگی مجهز شوند. اینکه سر جنگی موشک‌ها با سازوکار شکافت یا دومرحله‌ای شکافت-گداخت کار کند، فرقی در اصل ماجرا نمی‌کند و این موشک‌ها زیرمجموعه جنگ‌افزارهای هسته‌ای به شمار می‌روند. شاید برای خوانندگان جالب باشد بدانند که چرا مسئله هسته‌ای ایران با موضوع موشک‌های دوربرد آن گره خورده است. مهم‌ترین دلیل آن همین توانایی داشتن سر جنگی هسته‌ای است. رده دیگری از جنگ‌افزارهای هسته‌ای، زیردریایی‌های هسته‌ای هستند. این زیردریایی‌ها می‌توانند مجموعه‌ای از موشک‌ها با سر جنگی هسته‌ای داشته باشند و از زیر آب‌های دریاها و اقیانوس‌ها یا از روی آب شلیک‌های هسته‌ای مرگبار را رقم بزنند. کشتی‌های یخ‌شکن‌ هسته‌ای هم که اگرچه برای کارهای پژوهشی به نظر می‌رسند؛ برای تسخیر سرزمین‌های قطبی، به‌ویژه قطب شمال که چسبیده به روسیه است، ولی در حکم پایگاه نظامی‌اند. ناگفته نماند که این یخ‌شکن‌ها با پیشرانش هسته‌ای کار می‌کنند. درباره جنگ‌افزارهای هسته‌ای باید دو نکته را یادآور شویم؛ یکی مسئله تکثیر و منع تکثیر است و دیگری آزمایش‌های هسته‌ایِ درهم‌تنیده با هوش مصنوعی. در حال حاضر به‌ طور رسمی کمتر از تعداد انگشتان دو دست کشورهایی هستند که جنگ‌افزار هسته‌ای دارند و یکی از دغدغه‌های اصلی جامعه جهانی، سازمان ملل و آژانس بین‌المللی انرژی اتمی جلوگیری از تکثیر و تولید آن است. کشورهای دارنده، بیشتر تولید نکنند و آنها که ندارند، اساسا اجازه ساخت نداشته باشند. هوش مصنوعی می‌تواند با پایش بسیار تیزبینانه‌تر و داشتن داده‌ها از کشورها، حتی پیش‌بینی کند که چه کشورهایی ممکن است به سمت ساخت آن بروند. موضوع دیگر آزمایش‌های هسته‌ای است. زمانی بود که کشورهای دارنده توان هسته‌ای ارتشی، پشت سر هم آزمایش‌های هسته‌ای انجام می‌دادند. برای نمونه در شوروی پیشین، پیامدها و دُشامدهای ناگوار انسانی و زیست‌بومی بسیاری را پدید آورد. حال با وجود هوش مصنوعی می‌توان دو حالت را پیش‌بینی کرد؛ شبیه‌سازی‌های بسیار نزدیک به واقعیت انفجارهای هسته‌ای و دیگری، انجام آزمایش به دست هوش مصنوعی.

 جنگ هسته‌ای چگونه است؟

بی‌شک یکی از مهم‌ترین پرسش‌ها در ذهن خوانندگان این است که جنگ هسته‌ای که از آن با نام جنگ جهانی سوم هم یاد می‌کنند، چگونه جنگی می‌تواند باشد. برای اینکه تصویری خوب از آن داشته باشیم، بد نیست به دو جنگ جهانی پیشین و اثرات آن نگاهی بیندازیم. جنگ جهانی اول با شلیک یک تپانچه آغاز شد و امپراتوری‌ها به جان هم افتادند. این جنگ خاستگاه‌هایی در چند سده نوزایی و بُن‌گشت یا انقلاب صنعتی هم داشت. به‌هرحال چند سال جنگ رخ داد و میلیون‌ها انسان کشته شدند و چند رویداد جغرافیایی-سیاسی به وجود آمد. امپراتوری عثمانی فروپاشید و از دل آن کشورهای نوبه‌پاخاسته همچون عراق و سوریه و لبنان و عربستان سر برآوردند، اما این جنگ یک ویژگی مهم هم داشت؛ برای نخستین بار از جنگ‌افزار شیمیایی استفاده شد. سازنده آن‌ هم شیمیدان آلمانی و برنده جایزه نوبل بود. جنگ جهانی دوم بار دیگر تغییرات مهمی را در سیاست جهانی پدید آورد، اما در عرصه فنی-ارتشی دو رخداد مهم داشتیم؛ برای نخستین بار از بمب هسته‌ای در ژاپن استفاده شد و برای نخستین بار اهمیت فناوری موشکی و نیروی هوایی مشخص شد. در جهان سیاست، با تسلیم هوشمندانه ژاپن به آمریکا، جنگ جهانی دوم تمام شد و دو کشور آمریکا و شورویِ استالینیستی که از برندگان جنگ بودند، جهان را به دو بلوک شرق و غرب بخش‌بندی کردند که سبب پدیده‌ای به نام جنگ سرد شد. جنگ سرد بارها جهان را تا پرتگاه جنگ گرم برد، اما جنگی رخ نداد. در عوض هماوردی جنگ‌افزاری و هزینه‌های هسته‌ای-ارتشی افزایش یافت. با فروپاشی شوروی جنگ سرد تمام شد، ولی خطر جنگ‌افزارها و جنگ تمام‌عیار هسته‌ای هنوز وجود دارد. بنابراین خوب است کمی درباره پسامدهای این جنگ سخن بگوییم. شاید اگر بخواهیم بدون یک واژه درباره پیامدها سخن بگوییم، کافی است فقط به یکی از عکس‌های زنان و مردان هیروشیمای زمان بمباران بنگریم؛ یا کتاب «هیروشیما» نوشته جان هرسی، خبرنگار نیویورک‌تایمز را بخوانیم که چند ماه پس از انفجار هیروشیما راهی ژاپن شد و روایتی دست اول ارائه کرد. اما اگر بخواهیم بدیهی‌ترین پیامدهایش را برشماریم، عبارت‌اند از: وزش توفان‌گون باد ناشی از انفجار که موج تخریبی گسترده‌ای دارد. موج یا توفان تابشی ناشی از ذرات یونیده که به‌شدت روی پوست اثر گذاشته و سوختگی و زخم و تاول و دیگر موارد را ایجاد می‌کند. همچنین حرارت بسیار شدیدی تولید می‌شود که تا شعاع زیادی را می‌سوزاند و پس‌ از آن شعاع اثرات تخریبی، جسمی، زیست‌بومی شدید دارد. همچنین پس از انفجار، بارش پرتوزایی پدید می‌آید و خاک و آب را آلوده می‌کنند. جان کلام اینکه پیامدها از همان لحظه انفجار آغاز شده و تا دهه‌ها با به دنیا آمدن کودکان بیمار ژنتیکی ادامه دارد. اگر جنگ هسته‌ای از حدی فراتر رود، زمین را به سیاره‌ای آلوده و زیست‌ناپذیر تبدیل خواهد کرد.

 رابطه میان هوش مصنوعی و جنگ هسته‌ای

حال وقت آن است به این پرسش پاسخ دهیم که میان هوش مصنوعی و جنگ هسته‌ای چه رابطه‌ای برقرار است. برای دانستن این رابطه، ‌نیاز است نخست اصول کلی حقوق هسته‌ای را بدانیم. اصل‌های اساسی حقوق‌ هسته‌ای عبارت‌اند از: 1-اصل ایمنی، 2-اصل امنیت، 3-اصل مسئولیت، 4-اصل مجوز، 5-اصل کنترل مدام، 6-اصل جبران خسارت، 7-اصل توسعه پایدار، 8-اصل پایبندی، 9-اصل استقلال، 10-اصل شفافیت، 11-اصل همکاری بین‌المللی، 12-اصل احتیاط. این اصول دوازده‌گانه تا چند دهه پیش کامل در اختیار انسان بود، ‌اما با ظهور توان محاسباتی و رایانشی ماشین‌ها که به آنها کامپیوتر یا رایانه می‌گوییم، بخشی از کار بر عهده رایانه‌ها گذاشته شد و درواقع رایانه‌ها کمک‌دست انسان شدند. نتایج آن هم عالی بود؛ به زبان ساده فناوری در برآورده‌ساختن این اصول چه در کشورها و چه در مقیاس‌های بین‌المللی. حال تصور کنید همین اصول دوازده‌گانه با هوش مصنوعی گره بخورد؛ یعنی هوش مصنوعی توان تصمیم‌گیری در تک‌تک این موارد را داشته باشد. اجازه دهید از زاویه دیگری هم به مسئله نگاه کنیم. برای این کار لازم است نخست تعریفی درست و روان از «هوش مصنوعیِ هسته‌ای» داشته باشیم. هوش مصنوعی هسته‌ای عبارت است از به‌کاربردن فن‌ها و الگوریتم‌های پیچیده‌ای که برای بهبود، بهینه‌سازی و ساده‌سازی عملیاتی جنبه‌های گوناگون هسته‌ای، شامل دانش هسته‌ای، صنعت هسته‌ای و نظامی‌گری هسته‌ای استفاده می‌شود. کاربردهای هوش مصنوعی هسته‌ای در زمینه‌هایی همچون راه‌اندازی و پایش پویای رآکتور هسته‌ای، ردیابی و آشکارسازی و تشخیص پرتوها، آنالیز مواد هسته‌ای، مدیریت زباله‌ها و پسماندها و نیز همجوشی هسته‌ای بسیار کارا و پررنگ است. هوش مصنوعی با توانمندی‌ای که دارد،‌ می‌تواند دانش و صنعت هسته‌ای را دگرگون کند. بهره‌وری و ایمنی را بهبود بخشد و در لحظه‌هایی نیز برای تصمیم‌گیری، درست‌ترین تصمیم را بگیرد. اگر بخواهیم به کوتاهی فرصت‌ها و تهدید‌های هوش مصنوعیِ هسته را نام ببریم، عبارت‌اند از فرصت‌ها: افزایش ایمنی، تولید انرژی هسته‌ای با بهره‌وری بالا، مدیریت پسماند، انرژی گداخت، رعایت مقررات. تهدیدها: امنیت داده، سوگیریِ ماشین و ناقطعیتی ذاتی سامانه تصمیم‌گیری، برهمکنش هوش‌ مصنوعی-انسان و مخاطره‌های پیش‌بینی‌نشده، مسائل اخلاقی، موانع نظارتی، حادثه‌های تصادفی و کاملا به دور از پیش‌بینی، تکثیر جنگ‌افزارهای هسته‌ای، نقض امنیت، ازدست‌رفتن پایش یا کنترل انسانی، ناپایداری سراسری در جهان، معضلات اخلاقی و حقوقی، ویرانی زیست‌بوم. اگر یک‌ بار دیگر چند خط بالا را بخوانید، به‌آسانی درمی‌یابید رابطه میان هوش مصنوعی و هسته (دانش-صنعت-ارتشی) چیست. حال بگذارید، به کوتاهی بگوییم هوش مصنوعی در چه موردی می‌تواند بسیار خطرآفرین باشد. سامانه پیچیده تصمیم‌گیری هوش مصنوعی می‌تواند بدون داشتن ملاحظات اخلاقی، لااقل به‌ اندازه انسان، و نیز از کنترل خارج‌شدن فرمان‌های اجرائی پایانی که همان فشردن کلید آغاز جنگ است،‌ جنگ هسته‌ای را رقم بزند. در حالتی دیگر، ممکن است هوش مصنوعی اساسا خودش از صفر تا صد اختیار جنگ‌افزار را در دست گیرد و جنگ آغاز شود. این‌چنین خطاهایی بی‌شک در مورد انسان‌ها هم رخ می‌دهد و دیده شده که انسانی دستور شلیک به هواپیمای مسافربری را داده است. درباره مخاطرات این موضوع در بخش بعدی بیشتر خواهیم گفت. اما این نکته را از یاد نبرید که برهمکنش ماشینِ هوش مصنوعی-انسان-جنگ‌افزار بسیار پیچیده است و مشکل اینجاست که خطایی کوچک، چه عمدی و چه نادانسته، فاجعه می‌آفریند.

 اتاق فرماندهی در دستان کیست؟

بی‌شک در فیلم‌های تلویزیونی دیده‌اید که اتاق فرماندهی یا اتاق کنترل یک سامانه هسته‌ای، چه راکتور باشد و چه سایت ارتشی و جنگی، جایی است پر از رایانه، پر از دکمه و مانیتور و کارکنانی که پشت هرکدام از سامانه‌های آفندی-پدافندی نشسته‌اند. به‌ وقت انجام عملیات هم با اسم رمزی بی‌ربط یا باربط دستور کنش یا واکنش می‌دهند، برای نمونه دستور شلیک. البته اتاق فرماندهی همیشه هم این‌طور نیست. ممکن است زیر ساختمان بیمارستانی باشد یا چادری خاکی‌رنگ در یک بیابان. امروزه به سبب وجود ابزارهای ارتباطی و سیگنال‌های ارسالی-دریافتی امن،‌ اتاق فرماندهی در جایی امن و به دور از آفند آسان دشمن است. اما این همه داستان نیست. اتاق فرماندهی جایی است که باید بیش از هیجان در آن خردورزی حاکم باشد. در اتاق فرماندهی، همیشه دستور جنگ نمی‌دهند، گاهی دستور عدم‌ مداخله می‌دهند. به زبان ساده اتاق فرماندهی جایی است که در آن با گردانندگان یک سامانه (چه یک کشور باشد و چه سایت هسته‌ای) مشورت می‌کنند تا تصمیم‌سازی درست صورت گیرد. در این میان اتاق فرماندهی هسته‌ای از اهمیت صدچندان برخوردار است؛ زیرا کوچک‌ترین خطا می‌تواند فاجعه‌ای در حد چرنوبیل (در تراز صلح‌آمیز) و جنگ جهانی سوم (در تراز ارتشی) پدید آورد. می‌تواند خسارتی جبران‌ناشدنی به بار آورد و به همین دلیل است که باید سختگیری‌های بین‌المللی روی این مسئله کم‌رنگ نشود. یک دیکتاتور دیوانه می‌تواند جهان را نابود کند، یا حتی یک تشخیص نادرست. کما اینکه یک‌ بار شوروی فروپاشیده پیشین، به‌ اشتباه گمان کرد آمریکا یورش هسته‌ای کرده و اگر آن افسر باهوش شوروی متوجه نمی‌شد که خطا رخ داده و دستور شلیک متقابل می‌داد، امروز جهان یک تنش هسته‌ای میان شرق و غرب را تجربه کرده بود. فقط تصور کنید شهرهایی مثل نیویورک و مسکو و تهران و تل‌آویو و لندن و پکن مورد هجوم هسته‌ای قرار گیرند. جهان دیگر کمر راست نخواهد کرد. حال پرسش این است چه کسی فرمانده باشد؟ تاکنون هر آنچه تجربه کرده‌ایم، تجربه فرماندهی انسانی بوده است. فرماندهی انسانی گاهی فاجعه آفریده، همچون سقوط برلین، هیروشیما و جز آن. گاهی هم درخشان بوده، مثل آزادسازی خرمشهر، عملیات ایچ-3 نیروی هوایی ایران و مواردی از جنگ‌های بین‌المللی. وجه اشتراک هر دو تلفات است؛ اما برای نمونه نمی‌توان فرماندهی کربلای چهار را با عملیات آزادسازی خرمشهر مقایسه کرد. نقش فرماندهی بسیار پررنگ و محوری است. حال تصور کنید به‌ جای انسان،‌ هوش مصنوعی تصمیم‌گیرنده و به عبارتی فرماندهی عملیات جنگی با جنگ‌افزار هسته‌ای را بر عهده بگیرد؟ آیا هوش مصنوعی همواره خواهد توانست مثل عملیات ایچ-3 با کمترین تلفات پیروزی کسب کند (در عملیات ایچ-3 با تقریب مناسب هیچ فرد غیرنظامی عراقی کشته نشده است) یا آیا اساسا هوش مصنوعی، با این تصور که سامانه‌ای یکپارچه از هوش مصنوعی کنترل جنگ‌افزاری جهان را در دست دارد، می‌تواند مانع بروز جنگ شود و تنش‌ها را در سطح سیاست نگه دارد؟ اگر ربات‌های هوشمند فرماندهان ارتش‌ها شوند،‌ اگر ربات‌های هوشمند تصمیم‌گیرنده نهایی شوند، آن‌وقت وضعیت جنگ جهانی سوم چگونه خواهد بود. بنابراین یکی از دغدغه‌های اساسی این است؛ انسان فرمانده یا ربات فرمانده. از منظری دیگر به داستان نگاه کنیم. اگر گروه‌های تروریستی و شبه‌نظامی، همان‌طور که توانسته‌اند به جنگ‌افزارهای تا حدی پیشرفته دست پیدا کنند، اگر در اتاقی زیرزمینی،‌ زیر ساختمان مدرسه و بیمارستان و مترو اتاق فرماندهی با داشتن هوش مصنوعی شکل دهند و فاجعه‌ای رخ دهد، چه کسی مسئول خواهد بود؟ آیا آن را خطای انسانی باید نامید یا خطای هوش مصنوعی! مسئله این است که چه کسی دکمه ویرانگری و جنگ را فشار داده است؛ انسان یا ماشین دست‌سازِ انسان.

 تمدن بشری در قفس تنگِ بمب هسته‌ای و هوش مصنوعی

اگر بگوییم تمدن هزاران‌ساله بشر در قفس تنگ بمب هسته‌ای و هوش مصنوعی گرفتار شده است، گزافه نگفته‌ایم. البته این دو تمام میله‌های این قفس نیستند، به‌ویژه اینکه هوش مصنوعی می‌تواند بسیار کارا و توانا در کنار انسان حضور داشته باشد و به بقای او روی این سیاره و به کوچ او از این سیاره کمک کند. اما در هیچ حالی نباید از خطرات آن و گره‌خوردنش با جنگ‌افزارها چشم پوشید. در حال حاضر کشورهایی که به شکل رسمی می‌دانیم جنگ‌افزار هسته‌ای دارند، عبارت‌اند از روسیه: 5889، آمریکا: 5244، چین: 410، فرانسه: 290، بریتانیا: 225، پاکستان: 170، هند: 164، اسرائیل: 90، کره‌شمالی: 30. اینها آمارهای اعلامی است و چه‌بسا جنگ‌افزارهای مخفی هم داشته باشند که اعلام نشده باشد. از سویی، هستند کشورهایی که ذخیره اورانیوم دارند و توانمندی ساختن بمب هسته‌ای. حال در کنار اینها، دیگر جنگ‌افزارهای نامتعارف جهان را هم در نظر بگیرید که کشورهای بسیاری دارند. در کنار این مسائل اختیار کم سازمان ملل و جنگ‌های ریز و درشتی را که در خاورمیانه و جاهای دیگر هست مجسم کنید. حال به این بحران‌ها هوش مصنوعی را هم اضافه کنید. شاید از خودتان بپرسید هوش مصنوعی کجای بحران است. اجازه دهید این‌طور بگوییم که هوش مصنوعی می‌تواند در دست نااهلان بحران را بیشتر کند. کشورهایی که با کمک هوش مصنوعی دارنده جنگ‌افزارهای نامتعارف همچون هسته‌ای شوند، درصورتی‌که حکومت‌هایی خودکامه داشته باشند، روند دموکراسی در آنها با چالش جدی روبه‌رو خواهد شد و چون زمام امور جنگ‌افزار در دست ارتش‌های رسمی یا دیگر گروه‌های نظامی است، سبب خواهد شد بیش‌ از پیش نظامی‌ها در سیاست‌گذاری هسته‌ای و نیز اقتصاد و روابط بین‌الملل حضور داشته باشند. این مسئله سبب اختلال در وظایف نهادها خواهد شد و مشکلات زیادی را پدیدار خواهد کرد. اجازه دهید کمی ریشه‌ای‌تر هم به موضوع بنگریم؛ اساسا در جهان امروز جنگ چگونه پدیده‌ای است. باید یادی کنیم از پروفسور فقید، جان اسکیلز ایوری که برای زمان کنونی‌مان،‌ نام «بنگاه جنگ» را برگزیده بود. جنگ‌های امروز خاستگاه اقتصادی ژرفی دارند. چه‌بسا اهداف اصلی آن اقتصادی باشد و بس. برای نمونه، فروش جنگ‌افزار. در همین خاورمیانه، اگر پولی که صرف جنگ و جنگ‌افزار می‌شود، صرف آموزش شده بود، امروز زنان افغانستانی از مشتی عقب‌مانده ذهنی شلاق نمی‌خوردند. سوریه و تاریخش نابود نشده بود،‌ عراق به خاک ننشسته بود و این داستان ادامه دارد. فراموش نکنیم که طالبان و داعش و شبه‌نظامیان در منطقه خاورمیانه سوار تویوتا می‌شوند، لباس رزم اروپایی دارند و تفنگ آمریکایی. البته این موضوع چیزی از بی‌خردی جنگ‌افروزان کم نمی‌کند. نکته دیگری که در جهان امروز سبب تهدید شده،‌ تقاضا برای رشد نامحدود در سیاره‌ای با منابع محدود است. بحران افزایش جمعیت با خودش صدها مشکل دیگر آورده و ریشه بسیاری از تیره‌روزی‌های بشر در رشد انفجاری جمعیت و نیاز به منابع و انرژی است. اگرچه در ظاهر اینها به بمب هسته‌ای و هوش مصنوعی ربطی ندارد؛‌ اما در واقع از عامل‌های تشدیدکننده سوق‌دادن کشورها به سمت استفاده از بمب هسته‌ای و هوش مصنوعی برای استیلای بیشتر است. جان کلام اینکه، اگر روزی بیماری‌ها بلای جان بودند،‌ امروز دست‌سازه‌های انسان بلای جان شده‌اند.

 تیغ در دست زنگی مست

ایرانی‌ها بی‌شک این ضرب‌المثل را شنیده‌اند که تیغ در دست زنگی مست است. تیغ به‌تنهایی حتی در دست آدمی دانا ممکن است بریدگی ایجاد کند؛ حال چه برسد به اینکه در دست دیوانه‌ای مست باشد. چیزی جز فاجعه در انتظار نخواهد بود. در چند خط بالا نشان دادیم که چگونه هوش مصنوعی و جنگ‌افزار هسته‌ای می‌تواند پیامدهای مرگبار داشته باشد. حال می‌خواهیم کمی با جزئیات بیشتر بگوییم که این رخدادهای تلخ چطور ممکن است رخ دهد. نخستین خطر «تروریسم هسته‌ای» است. تروریسم هسته‌ای یعنی اینکه فرد یا افرادی با انگیزه‌های سیاسی، مذهبی، قومی، مالی مرتکب عمل تروریستی شود، با استفاده از مواد شکافای هسته‌ای. برای نمونه خرابکاری در یک نیروگاه هسته‌ای، پرتاب موشک یا بمب درون تأسیسات هسته‌ای، انفجار دستگاه‌های رادیولوژیک که به آن بمب کثیف می‌گویند. تروریسم هسته‌ای می‌تواند فردی یا سازمان‌یافته باشد. می‌تواند از جانب شبه‌نظامیان در کشورها استفاده شود. نوعی از تروریسم هسته‌ای را چمدانی می‌گویند که در آن با داشتن اندکی مواد پرتوزا می‌توان آلودگی ایجاد کرد. همچنین ترور هسته‌ای هم داریم که برخی کشورها از آن برای ازبین‌بردن مخالفان خود استفاده کرده‌اند. حال بیایید از زاویه‌ای دیگر به ماجرا نگاه کنیم؛ تصور کنید زمانی که بخشی از کشور عراق یا سوریه به دست گروه‌های تروریستی افتاد، این کشورها جنگ‌افزار هسته‌ای می‌داشتند و به دست تروریست‌ها می‌افتاد. آن‌وقت جهان با یک فاجعه روبه‌رو بود. از منظر دیگر، تصور کنید همان‌طور که گروه‌های تروریستی از خرید و فروش مواد مخدر و این روزها، ارز دیجیتال کسب درآمد می‌کنند، بتوانند در حد یک بمب کوچک مواد لازم هسته‌ای را به دست آورند و ازقضا با کمک هوش مصنوعی فراروند ساخت را آسان‌تر کنند. چه پیش خواهد آمد؟ یادمان نرود که اگر فاجعه هسته‌ای رخ دهد، چه‌بسا جبران آن ناممکن باشد. بازار سیاه هسته‌ای یکی دیگر از آن بحران‌ها است. در طول تمام جنگ‌ها و تحریم‌ها و نابرابری‌های اقتصادی و فنی، همواره بازار سیاه وجود داشته و این مسئله در صنعت صلح‌آمیز و جنگی هسته‌ای هم وجود دارد. زمانی بود که یک دانشمند پاکستانی برخی فناوری‌های هسته‌ای را به دیگران فروخت. حال تصور کنید، بازار سیاه هسته‌ای با داشتن این همه مشتری نابکار و بدسگال در گوشه‌ و کنار دنیا، با هوش مصنوعی ترکیب شود و سازوکاری را بسازد که حتی کشف آن دشوار باشد. از دیگر بحران‌هایی که همواره هوش مصنوعیِ هسته‌ای را تهدید می‌کند، هک‌شدن است. هک‌شدن و وارد ساختن بدافزار یا اعمال کارهایی که کنترل بخشی از تأسیسات هسته‌ای، از هر نوع که باشد، را به دست گیرد و خرابکاری کند، زیرمجموعه تروریسم هسته‌ای است. اساسا از نگرانی‌های هوش مصنوعیِ هسته‌ای دزدی داده و ایمنی و هک‌شدن سامانه‌ها است. دو موضوع دیگر را هم باید در تروریسم هسته‌ای نام ببریم، هرچند امروزه شاید داستانی به نظر آیند. پیش‌تر اشاره کردیم که ربات‌های هوش مصنوعی می‌توانند فرماندهی اتاق کنترل و فرماندهی جنگ را بر عهده گیرند. حال تصور کنید این ربات‌ها، این ماشین‌ها، این ترکیبی از انسان-ماشین، چنان هوشمند باشند که خودشان را تکثیر کنند و همچون انسان، ویژگی‌های خوب و بد انسانی داشته باشند. حال تصور کنید ربات‌فرمانده‌های هوشمندی داشته باشیم که بدسگال باشند و آتش‌افروز. استالین را در هیبت ربات هوشمند تصور کنید که سربازانی دارد و جنگ‌افزارهایی. بد نیست به یک دیدگاه ویژه هم اشاره کنیم. برخی بر این باورند با هرچه پیشرفته‌ترشدن هوش مصنوعی، چه‌بسا آنها بخشی از زمین را مالک شوند و زمین در آینده به دو بخش رباتی و انسانی بخش‌بندی شود. تصور آن برای ما دشوار است؛ اما اگر چنین شود، مشکلاتی که به فکر ما هم نمی‌رسد، آشکار خواهند شد. شهر ربات‌های هوشمند و شهر انسان‌ها با هم چگونه همزیستی یا جنگ خواهند کرد. شبیه قصه است، اما شاید روزی رخ دهد. روزی که پیکرهای ما جملگی پوسیده و به مواد خام صنعتی تبدیل شده است.

بیم‌ها و امیدها

بگذارید کمی بیشتر از خطرهای جنگ هسته‌ای بگوییم. امروز، جهان درگیر جنگ است. جنگی نظامی-اقتصادی-سیاسی-اجتماعی-صنعتی. برای اینکه بهتر متوجه شوید کافی است به خاورمیانه نگاهی بیندازید؛ به آوارگان سوری و معلولان عراقی و فقیران ایرانی و کودکان اوکراینی، تا بدانید اوضاع چگونه است. کافی است بدانید پزشکان بدون مرز در سرتاسر جهان چگونه در میان آتش و خون کار می‌کنند. از خطرهای جنگ هسته‌ای بگوییم. زمستان هسته‌ای یکی از آنهاست. زمستان هسته‌ای به زبان ساده یعنی اینکه در اثر بمباران‌های هسته‌ای آن‌چنان دود و دوده به جو زمین وارد شود که سبب کاهش چشمگیر نور دریافتی در زمین و اخلال چندین‌ماهه و چندین‌ساله آب‌وهوای زمین را موجب شود. اگر این بمباران در شهرهای صنعتی رخ دهد، زمستان هسته‌ای به‌مراتب سخت‌تر خواهد بود. از دیگر پیامدهای جنگ هسته‌ای پدیده «قحطی هسته‌ای» است. در اثر زمستان هسته‌ای، کشاورزی در زمین با بحرانی سترگ روبه‌رو خواهد شد و بر اساس مدل‌سازی‌ها یک جنگ هسته‌ای میان کشورهای بزرگ، سبب مرگ دو میلیارد نفر خواهد شد. جنگ هسته‌ای دُشامدها و تیره‌روزی‌های بین‌المللی دیگری هم دارد که به‌وقت دیگری موکول می‌کنیم. فقط این را بگوییم که باید ترسید از روزی که هوش مصنوعی در دستان نابکار جنگ‌افروزان هسته‌ای باشد. باید ترسید از اینکه دست بدسگالان و آنان که به‌راحتی مردم را از دم تیغ می‌گذرانند، بیل و کلنگ و سنگ باشد، چه برسد به جنگ‌افزار هسته‌ای و هوش مصنوعی. حال که در آستانه نوروز باستانی سرزمین خوبمان، ایران قرار داریم، سرزمینی که یادگار نخستین دولت سیاسی جهان است و دارنده چند هزار سال تمدن و فرهنگ، کلام آخر را با امیدهایی که هوش مصنوعی می‌تواند برای ما به ارمغان بیاورد، به پایان برسانیم. هوش مصنوعی می‌تواند کمک کند تا هم قانون‌های کنترلی بهتری وضع کنیم و هم الگوریتم‌های اجرایی برای آن بدهد. هوش مصنوعی می‌تواند بازرس آژانس باشد و به‌مراتب دقیق‌تر از انسان‌ها بازرسی فنی انجام دهد. همچنین با کمک هوش مصنوعی می‌توان تصویری شفاف‌تر از فردای تیره‌وتار جنگ هسته‌ای نشان داد تا اراده‌ای جهانی از مردمان شکل گیرد که نگذارند دیوانگان جهان را به پرتگاه ببرند و تمدن بشر را نابود کنند. هرچه دموکراسی واقعی در کشورها و در جهان بیشتر پا بگیرد و نابرابری‌های اقتصادی کمتر شود، همان‌قدر جهان جای امن‌تری برای زندگی خواهد بود. در پایان این مقاله، سال نوی ایرانی را به مردم ایران شادباش می‌گوییم و آرزو داریم کشورمان هرگز روی جنگ را به خود نبیند.