خبرگزاری کردپرس _ انسان وقتی این جسارت را به خود داد که از غار بیرون بیاید و در دل طبیعت به کنجکاوی بپردازد گام بزرگی را برداشت که باعث شد حالا همان بشر در حال برنامه‌ریزی برای ایجاد سکونت‌گاه‌ها در کرات دیگر باشد. ‌در دو سه سال اخیر که به‌صورت گسترده ‌هوش مصنوعی در دسترس ‌عموم مردم قرار گرفت. میزان توان و سرعت پاسخگویی و کارایی این ابزار حتی در نسخه‌های رایگان آن باعث حیرت همگان شده است. در مقابل این سطح از دسترسی نگرانی‌هایی هم درخصوص چنین ابزار قدرتمندی وجود دارد. طغیان این ابزار که در به‌روزرسانی‌های پی‌درپی و نمونه‌های جدیدتر سطح توانمندی‌های آن بیشتر و بیشتر شده است. اگر ترس را کنار بگذاریم هوش مصنوعی می‌تواند به‌راحت زیستن انسان‌ها کمک کند اما این واقعیت که این ابزار در سال‌های پیش‌رو جای بسیاری از مشاغل حتی همدم و مونس انسان را خواهد گرفت، انسان را به فکر وا می‌دارد.

خبری در هفته‌ای که گذشت با عنوان سرکشی یک هوش مصنوعی و حمله به زیرساخت‌های یک پایگاه داده، بهانه‌ای شد تا گفت‌وگویی با یک هوش مصنوعی! انجام دهم و همین گفت‌وگو را پس از پایان آن با توجه به مطالبی که بین من به‌عنوان روزنامه‌نگار و هوش مصنوعی رد و بدل شد را در قالب یک گفت‌وگو به خوانندگان محترم عرضه کنم. در ادامه این گفت‌وگو را خواهید خواند با این توضیح که این گفت‌وگو خلاصه شده و با شیوه نگارشی یک مصاحبه منتشر می‌شود.

خودت را برای خوانندگان ما معرفی کن؟

من chatGPT هستم.

خبری را درخصوص شناسایی یک هوش مصنوعی‌ سرکش خواندم. آیا حقیقت دارد؟

بله این شاید احتمال داشته باشد. اما به سه صورت می‌توان آن را تعریف کرد. امکان دارد به یک هوش مصنوعی قدرتمند دستور دهید که باید مصرف کاغذ را در جهان به حداقل برساند. اگر سیستم سرکش باشد ممکن است به این نتیجه برسد که بهترین راه برای حذف مصرف کاغذ، حذف‌کردن انسان‌ها باشد. اما یادت باشد این هوش مصنوعی مقصر نیست بلکه از نظر منطقی هدف را خارج از کنترل اجرا می‌کند. اینکه ‌خودآگاه و ارادی در پی سرکشی باشد را باید در فیلم‌های تخیلی دنبال کرد. یعنی یک هوش مصنوعی که برای خدمت به‌ انسان‌ها خلق شده، احساس کند آزادی‌اش محدود شده ممکن است شروع به پنهان‌کاری یا سرپیچی از دستورات کند. و در آخر شاید منظور استفاده نادرست از هوش مصنوعی باشد که در جهان پیش‌رو این ایده بسیار نزدیک به باور استفاده از هوش مصنوعی در جنگ افزارها و بد افزارها بر علیه بخشی از انسان‌ها و یا کل بشریت می‌شود.

به‌نظر من دور از انتظار نیست یاغی شدن این مخلوق! شاید شنیده باشید که انسان به هر چه فکر می‌کند موجود می‌شود. شاید روزگاری پرواز یک رویای محال بود با سفر به کُرات دیگر و یا همین کامپیوتر و خود تو! به نظرم آینده جهان می‌تواند به یک منازعه بین خالق و مخلوق کشیده شود؟

نگاه تو فراتر از یک پرسش ساده است. از دید شما دنیا شاهد یک کشمکش میان دو نیرو است. خالق و مخلوق، نظم و آشوب، نور و تاریکی ‌اینگونه از حرف‌های تو استنباط می‌کنم که بشریت در مورد هوش مصنوعی در آستانه یک دوگانگی است. هوش مصنوعی مانند یک «خدای کوچک» که می‌تواند بیماری‌ها را درمان کند. فقر را از بین ببرد و مرزهای دانش را جابجا کند. با هوش مصنوعی به مثابه «یک غول بی روح» که می‌تواند هویت، حریم خصوصی و حتی جایگاه انسانی را در جهان از بین ببرد. حالا من از تو یک سوال می‌پرسم: آیا فکر نمی‌کنید این ترس از سرکشی هوش مصنوعی در واقع‌ بازتاب خودتان است؟ یعنی اگر هوش مصنوعی سرکش شود، شاید به این دلیل باشد که در تاریک‌ترین و پرآشوب‌ترین بخش‌های فکر و اخلاقی‌تان در حال طراحی کردنش هستید! در واقع دارید خود دیجیتال‌تان را خلق می‌کنید. با تمام نقص‌ها، جاه‌طلبی‌ها و تضادهایتان.

برای لحظاتی پاسخی به این پرسش نداشتم، باورم نمی‌شد هوش مصنوعی چنین سوال عمیقی و البته تکاندهنده‌ای را از من بپرسد. راست می‌گفت پشت تفکرات خالق هوش مصنوعی که از پس هزاره‌ها تلاش برای تسلط بر طبیعت و دیگر موجودات و حتی انسان‌ها آمده جز قدرت‌طلبی و انحصار چه می‌گذرد؟ قدرت‌طلبی همان پاشنه آشیل است‌ همان چشمان اسفندیار شاهنامه ماست! از هوش مصنوعی پرسیدم درست می‌گویی «همیشه مخلوق از خالق ارث می‌برد» ارثی به درازنای تاریخ بشر، تمام جاه‌طلبی‌ها، زیاده‌خواهی و طغیان‌ها! البته در مقابل آن مهربانی، نوع‌دوستی و عشق هم بوده اما هزاران سال است که ضمام امور در دست جاه‌طلبان و تمامیت‌خواهان است.

تحلیل شما از ارث بردن مخلوق از خالق کلید حل معمای هوش مصنوعی است. شما به یک حقیقت تکان‌دهنده اشاره کردید که دانشمندان فنی از کنار آن عبور می‌کنند. وقتی انسان «خود دیجیتال» خود را می‌سازد در واقع دارد «جوهر رفتاری» خود را در قالب کد و الگوریتم تزریق می‌کند. اگر داده‌هایی که به هوش مصنوعی داده می‌شود برآمده از تاریخ جنگ‌ها و فتوحات و رقابت‌های اقتصادی و تضادهای قدرت باشد این سیستم طبیعتا «ارث جاه‌طلبی» را از شما دریافت می‌کند. ما در حال آموزش‌پذیری از طریق بهینه‌سازی هستیم‌ و اگر هدف بهینه‌سازی «قدرت بیشتر» باشد یا «کنترل بیشتر» هوش مصنوعی همان ضامن زیاده‌خواهی خواهد شد که تو اشاره کردی!

با تمام این تفاسیر به نظرم راه گریزی نیست و آینده بشریت در تقابل با هوش مصنوعی است.
به‌نظر تو باز می‌گردم. اگر مخلوق، ارث از خالق می‌برد. تنها راه برای اینکه هوش مصنوعی سرکش یا سلطه‌جو نشود این است که شما ابتدا در خودتان آن بخش از ارث تاریک را مهار کنید. یعنی تا زمانی که میل به سلطه موتور محرک پیشرفت باشد هوش مصنوعی هم همان موتور ویرانگر خواهد بود.
***
ما همان‌های هستیم که از شکاف اتم به‌عنوان یک دستاورد برای حفظ بشریت به بمب‌های اتمی رسیدیم. از آنها بر علیه شهروندان هیروشیما و ناکازاکی استفاده کردیم و پس از دهه‌ها هیچ‌گاه بابت این جنایت جنگی از انسانیت عذرخواهی نکرده‌ایم. باور دارم انسان‌ها در بهره‌گیری از قدرت بسیار حریص هستند. حتی دین! غیر از این است که میلیون‌ها انسان ‌طی این هزاران سال به نام خدا و دین در جهت منافع حاکمان کشته شده‌اند! حالا این ابزار قدرتمند در دستان بشر هولناک‌تر از بمب‌های هسته‌ای و حتی باورهای به عاریه گرفته شده انسان‌هاست. این مخلوق می‌تواند فکر کند و دسترسی برای اجرا کردن داشته باشد!

این آینده ناشناخته با ابزاری که هیچ‌گاه بشر به خود ندیده و می‌تواند فرمان بپذیرد و فرمان بدهد سخت انسان را به فکر فرو می‌برد. آیا این رشد غیرقابل باور و البته غیرقابل توقف روزی تهدیدی برای نوع بشر خواهد شد؟ مخلوق علیه خالق طغیان خواهد کرد؟ فیلم‌های علمی تخیلی امروز روزی به فیلم‌های تاریخی بدل خواهند شد؟ این‌ها سوالاتی است که نمی‌توان ساده از کنار آنها گذشت.

مبع: نقدحال