راویان|تکنولوژی ؛ در حالی که جهان با شتابی بیسابقه در حال ورود به عصر جدیدی از تحولات تکنولوژیک است، نخستین گزارش هیئت علمی مستقل سازمان ملل متحد در حوزه هوش مصنوعی، زنگ خطری جدی را برای سیاستگذاران جهانی به صدا درآورده است. این گزارش که با دقت و نگاهی چندجانبه تنظیم شده، بر یک واقعیت تلخ تأکید میکند: سرعت خیرهکننده پیشرفت هوش مصنوعی، از توان و ساختار نظامهای حکمرانی موجود پیشی گرفته و شکاف عمیقی میان «توانمندی فناوری» و «توانایی مدیریت آن» ایجاد کرده است.
این هیئت علمی که متشکل از نخبگان و متخصصان از سراسر جهان است، با هدف فراهم کردن زیرساختهای اطلاعاتی لازم برای «گفتگوی جهانی سازمان ملل درباره حکمرانی هوش مصنوعی»، وظیفه دارد مسیر آینده را برای کشورهای عضو روشن کند. قرار است از ۶ ژوئیه (۱۵ تیرماه) در ژنو، میزبان نشست سرنوشتسازی باشد که در آن، رهبران و سیاستگذاران در تلاش خواهند بود تا راهی برای مهار این جریان سیلآسا بیابند.
دو روی سکه؛ از معجزات پزشکی تا تهدیدهای امنیتی
گزارش سازمان ملل با نگاهی واقعبینانه، هم از ظرفیتهای بیکران این فناوری سخن میگوید و هم از سایههای تاریک آن پرده برمیدارد. در یک سو، ما با پیشرفتی روبرو هستیم که پیچیدگی وظایف قابل انجام توسط مدلهای هوش مصنوعی را هر چند ماه یکبار دو برابر میکند. این جهش تکنولوژیک، نویدبخش تحولی بنیادین در حوزههای حیاتی بشریت است؛ از تسریع در فرآیندهای پیچیده کشف داروهای جدید و توسعه واکسنها گرفته تا ارائه راهکارهای نوین در مقابله با بحران مقاومت آنتیبیوتیکی. در حوزه سلامت، این سیستمها میتوانند به عنوان دستیار هوشمندی برای پزشکان عمل کنند تا تشخیص زودهنگام بیماریهای مرگباری نظیر سرطان سینه را ممکن سازند و در امنیت غذایی نیز، با پیشبینی بحرانها، نقش یک سیستم هشدار زودهنگام را ایفا کنند.
اما در سوی دیگر، این همان فناوری است که میتواند ابزاری برای تخریب و بیقانونی باشد. گزارش هیئت علمی، آسیبهای اجتماعی و امنیتی نگرانکنندهای را برمیشمارد که از جمله آنها میتوان به تولید و انتشار تصاویر جعلی و صریح جنسی از افراد واقعی اشاره کرد؛ موضوعی که ابعاد بسیار تاریکی از جمله سوءاستفاده جنسی از کودکان را در بر گرفته و پیش از این نیز در ایالت کالیفرنیا منجر به پیگیریهای قانونی علیه مدلهایی نظیر «گراک» شده است. علاوه بر این، توانایی هوش مصنوعی در تولید اطلاعات نادرست که با چنان دقت و ظرافتی طراحی شدهاند که کاملاً «حقیقتنما» به نظر میرسند، میتواند امنیت اطلاعاتی جهان را به مخاطره بیندازد. این تهدید در کنار استفاده مجرمان از هوش مصنوعی برای تقویت حملات سایبری، چالشهای امنیتی بیسابقه ای را پیش روی دولتها قرار داده است.
بحران ساختاری؛ چرا سیاستگذاران از قافله جا ماندهاند؟
یکی از بخشهای کلیدی و تأملبرانگیز این گزارش، تحلیل علت ناکامی سیاستگذاران در همگامی با فناوری است. هیئت علمی معتقد است مشکل از کمبود اراده نیست، بلکه از ماهیت خودِ نظامهای حکمرانی است. ساختارهای نظارتی کنونی برای مدیریت فناوریهایی با چنین سرعت تحول و تغییر طراحی نشدهاند. در یک چرخه معیوب، مقامات برای وضع مقررات و وضع محدودیتها، نیازمند دادههای علمی و مستند هستند؛ اما مشکل اینجاست که زمانی که فرآیند جمعآوری و تحلیل این دادهها به پایان میرسد، خودِ سیستمهای هوش مصنوعی چندین گام از سطح درک و توان ردیابی مقامات پیشی گرفتهاند.
همچنین، افزایش سطح استقلال مدلهای هوش مصنوعی، نظارت و کنترل انسانی بر خروجیها را به مراتب دشوارتر کرده است. این موضوع، در کنار نگرانیهای زیستمحیطی مربوط به مصرف بیرویه و عظیم انرژی توسط مراکز داده عظیم، ابعاد جدیدی از بحران را به بحث میآورد که فراتر از مرزهای دیجیتال است.
همچنین، افزایش سطح استقلال مدلهای هوش مصنوعی، نظارت و کنترل انسانی بر خروجیها را به مراتب دشوارتر کرده است. این موضوع، در کنار نگرانیهای زیستمحیطی مربوط به مصرف بیرویه و عظیم انرژی توسط مراکز داده عظیم، ابعاد جدیدی از بحران را به بحث میآورد که فراتر از مرزهای دیجیتال است.
تمرکز قدرت و شکاف میان ملتها
گزارش سازمان ملل با نگاهی ژئوپلیتیک، هشدار میدهد که هوش مصنوعی پتانسیل تبدیل شدن به ابزاری برای تشدید نابرابریهای جهانی را دارد. در حال حاضر، دسترسی به این فناوریهای پیشرفته بهشدت در دست کشورهای توسعهیافته، بهویژه آمریکا و چین، متمرکز شده است. بسیاری از کشورهای در حال توسعه، نه تنها از این چرخه بازماندهاند، بلکه به دلیل فقدان زیرساختهای سختافزاری و تخصص انسانی، از بهرهمندی از مزایای این انقلاب محروم هستند. این تمرکز قدرت میتواند منجر به ایجاد شکافی عمیقتر میان شمال و جنوب جهانی شود و هوش مصنوعی را به ابزاری در اختیار تعداد معدودی از دولتها و شرکتهای چندملیتی تبدیل کند که میتواند حقوق بشر، بازار کار و ثباتهای اجتماعی را در سطح جهانی تحت تأثیر قرار دهد.
در جستجوی راهکار؛ نیاز به استانداردهای جهانی
در نهایت، هیئت علمی سازمان ملل بر این باور است که برای عبور از این بحران، مسیرتنها از درهای «شفافیت»، «مسئولیتپذیری» و «همکاری بینالمللی» میگذرد. بدون وجود ارزیابیهای مستقل و قدرتمند و تدوین استانداردهای مشترک بینالمللی، نمیتوان از خطرات این فناوری پیشگیری کرد. اگرچه نقش این هیئت علمی است و نه نظارتی، اما هدف نهایی آن فراهم کردن دانش لازم برای تدوین سیاستهایی است که بتواند میان «بهرهمندی از مزایای عظیم» و «پیشگیری از خطرات فزاینده» تعادل برقرار کند. انتظار میرود با انتشار گزارش جامعتر در سال آینده، نقشههای راه دقیقتری برای مدیریت این عصر جدید ترسیم شود.
