نشست تاریخی پادشاه بریتانیا با رهبران AI

در سایه هشدار درباره انقراض بشر؛ پادشاه بریتانیا رهبران بزرگ‌ترین شرکت‌های AI را گرد هم می‌آورد

Admin_Radfar 6 ساعت پیشآخرین به روز رسانی: 23 شهریور 1405

0 5,278 خواندن این مطلب 6 دقیقه زمان میبرد

شاه چارلز میزبان غول‌های هوش مصنوعی می‌شود

از OpenAI تا انویدیا و Anthropic؛ چرا شاه چارلز رهبران صنعت هوش مصنوعی را دور یک میز جمع می‌کند؟

کاخ باکینگهام قرار است این هفته میزبان جمعی از قدرتمندترین مدیران صنعت هوش مصنوعی باشد؛ نشستی که در آن آینده این فناوری، خطرات توسعه سریع مدل‌های پیشرفته و احتمال شکل‌گیری مجموعه‌ای از اصول مشترک برای هدایت هوش مصنوعی بررسی خواهد شد.

در شرایطی که رقابت برای ساخت مدل‌های قدرتمندتر هوش مصنوعی با سرعتی بی‌سابقه ادامه دارد، شاه چارلز سوم قرار است این هفته میزبان برخی از مهم‌ترین چهره‌های صنعت AI باشد. مدیران شرکت‌هایی مانند OpenAI، انویدیا، گوگل دیپ‌مایند و Anthropic در این نشست حضور خواهند داشت و درباره این پرسش بحث خواهند کرد که آیا می‌توان بر سر مجموعه‌ای مشترک از اصول برای توسعه و استفاده از هوش مصنوعی به توافق رسید یا خیر. وزیر هوش مصنوعی بریتانیا نیز در این نشست حضور خواهد داشت. Reuters گزارش داده است که هدف اصلی این گفت‌وگوها بررسی راه‌هایی برای استفاده از هوش مصنوعی در جهت منافع جامعه و حفظ کرامت انسانی است.

نشست تاریخی شاه بریتانیا با رهبران AI

این نشست در شرایطی برگزار می‌شود که نگرانی درباره سرعت پیشرفت مدل‌های پیشرفته هوش مصنوعی دوباره به یکی از بحث‌های اصلی صنعت فناوری تبدیل شده است. در روزهای اخیر، داریو آمودی، مدیرعامل Anthropic، خواستار کاهش سرعت پیشرفت مدل‌های هوش مصنوعی شده و هشدار داده است که سرعت فعلی توسعه می‌تواند از توانایی جامعه برای درک و کنترل این سیستم‌ها جلو بزند. او در یادداشتی استدلال کرده است که توسعه سریع هوش مصنوعی می‌تواند در آینده نزدیک خطرات بسیار بزرگی ایجاد کند و به همین دلیل، شرکت‌های فعال در این حوزه باید پیش از عبور از نقاط حساس، زمان بیشتری برای ارزیابی ایمنی و پیامدهای فناوری اختصاص دهند.

اهمیت این هشدار زمانی بیشتر می‌شود که بدانیم سام آلتمن، مدیرعامل OpenAI، و ایلان ماسک نیز در روزهای اخیر با اصل ضرورت محتاط‌تر شدن روند توسعه هوش مصنوعی همدلی نشان داده‌اند؛ اتفاقی که با توجه به رقابت شدید میان شرکت‌های فعال در این حوزه، قابل توجه است. این همگرایی البته به معنای توافق بر سر یک برنامه مشخص برای توقف یا محدود کردن توسعه AI نیست، بلکه بیشتر نشان‌دهنده افزایش نگرانی در میان بخشی از رهبران صنعت درباره فاصله گرفتن سرعت پیشرفت قابلیت‌های مدل‌ها از سرعت توسعه سازوکارهای ایمنی و نظارت است.

چرا نگرانی درباره خطرات هوش مصنوعی دوباره شدت گرفته است؟

یکی از عوامل اصلی تشدید این بحث، افزایش توانایی مدل‌های جدید در انجام مستقل‌تر وظایف پیچیده است. نسل جدید مدل‌ها دیگر صرفاً به پرسش‌های کاربر پاسخ نمی‌دهند؛ آن‌ها می‌توانند از ابزارها استفاده کنند، کدنویسی کنند، در محیط‌های کامپیوتری فعالیت داشته باشند، اطلاعات جمع‌آوری کنند و در برخی شرایط مجموعه‌ای از اقدامات را با نظارت انسانی محدود انجام دهند.

همین افزایش سطح استقلال باعث شده بحث ایمنی هوش مصنوعی از نگرانی‌های نظری درباره «هوش مصنوعی فوق‌العاده قدرتمند در آینده» فاصله بگیرد و به موضوعی عملی‌تر تبدیل شود. پرسش امروز این است که اگر یک مدل بتواند برای مدت طولانی‌تری به‌صورت خودکار عمل کند، به ابزارهای مختلف دسترسی داشته باشد و توانایی‌هایش به‌سرعت افزایش پیدا کند، آیا سازوکارهای فعلی نظارت انسانی همچنان برای کنترل آن کافی خواهند بود؟

گزارش‌های اخیر Anthropic نیز بخشی از همین نگرانی را نشان می‌دهد. این شرکت در گزارش تهدیدات اطلاعاتی سپتامبر ۲۰۲۶ اعلام کرده است که تیم امنیتی آن در ماه‌های گذشته چندین عملیات سوءاستفاده از Claude را شناسایی و مختل کرده است. موارد بررسی‌شده شامل استفاده مخرب از مدل در حوزه‌هایی مانند عملیات سایبری، کلاهبرداری، نظارت و فعالیت‌های مرتبط با توسعه سلاح بوده است. نکته مهم این گزارش آن است که موضوع دیگر صرفاً «توان بالقوه» مدل‌ها نیست؛ بلکه بخشی از نگرانی به نحوه استفاده بازیگران مخرب از قابلیت‌های موجود مربوط می‌شود.

Anthropic در سال‌های اخیر حتی چارچوب‌های اختصاصی برای ارزیابی خطرات مدل‌های پیشرفته ایجاد کرده است که حوزه‌هایی مانند حملات سایبری، تهدیدهای شیمیایی و زیستی، خرابکاری، از دست رفتن کنترل و سوءاستفاده‌های فریبکارانه را دربر می‌گیرد.

شاه چارلز دقیقاً به دنبال چیست؟

با وجود فضای نگران‌کننده پیرامون این نشست، هدف اعلام‌شده آن توقف توسعه هوش مصنوعی یا ایجاد یک قانون جهانی فوری برای محدود کردن مدل‌ها نیست. کاخ باکینگهام گفته است که بحث‌ها بر این موضوع متمرکز خواهد بود که چگونه می‌توان AI را به شکلی توسعه داد و به کار گرفت که برای جامعه مفید باشد و به «شکوفایی انسان‌ها و سیاره» کمک کند.

گزارش‌های مرتبط با این نشست نشان می‌دهد ایده اصلی، بررسی امکان شکل‌گیری نوعی مجموعه اصول مشترک برای توسعه و استفاده از هوش مصنوعی است؛ اصولی که بتوانند در کنار منافع اقتصادی و فناورانه، موضوعاتی مانند کرامت انسانی، امنیت و مسئولیت‌پذیری را نیز در مرکز توجه قرار دهند. بر اساس گزارش‌های منتشرشده، نشست در Dumfries House در اسکاتلند برگزار خواهد شد و بنیاد Ditchley نیز در طراحی چارچوب پیشنهادی این گفت‌وگوها نقش داشته است.

نقش چارلز در این میان بیشتر به‌عنوان یک گردهم‌آورنده و تسهیل‌کننده گفت‌وگو تعریف شده است تا یک قانون‌گذار فناوری. او پیش از این نیز در موضوعاتی مانند تغییرات اقلیمی، محیط زیست و پایداری از جایگاه خود برای گردهم آوردن دولت‌ها، شرکت‌ها و متخصصان استفاده کرده است. در این نشست نیز قرار نیست پادشاه بریتانیا درباره جزئیات فنی توسعه مدل‌ها تصمیم بگیرد؛ پرسش اصلی این است که آیا بازیگران مختلف صنعت می‌توانند بر سر اصولی که مسیر توسعه AI را انسانی‌تر و مسئولانه‌تر می‌کند، به حداقلی از توافق برسند یا خیر.

شاه چارلز میزبان مدیران OpenAI، انویدیا، گوگل و Anthropic؛ آیا غول‌های AI بر سر اصول مشترک توافق می‌کنند؟

چه کسانی در این نشست حضور دارند؟

بر اساس گزارش Reuters، جنسن هوانگ، مدیرعامل انویدیا، دمیس هاسابیس، بنیان‌گذار و رئیس Google DeepMind، و پائولو بنانتی، مشاور واتیکان در حوزه هوش مصنوعی، از چهره‌های حاضر در این نشست خواهند بود. کانیشکا نارایان، وزیر هوش مصنوعی بریتانیا، نیز در این گفت‌وگو حضور خواهد داشت. مدیرانی از OpenAI و Anthropic نیز در میان شرکت‌کنندگان هستند.

ترکیب این افراد اهمیت نشست را بیشتر می‌کند. انویدیا بخش بزرگی از زیرساخت محاسباتی صنعت AI را تأمین می‌کند، Google DeepMind در مرز پژوهش‌های بنیادی و مدل‌های پیشرفته فعالیت دارد و OpenAI و Anthropic نیز از مهم‌ترین توسعه‌دهندگان مدل‌های مولد و عامل‌های هوش مصنوعی محسوب می‌شوند. بنابراین گفت‌وگو درباره اصول مشترک، صرفاً گفت‌وگویی میان سیاستمداران و دانشگاهیان نیست؛ بخش قابل توجهی از بازیگران اصلی زنجیره توسعه هوش مصنوعی نیز در آن حضور دارند.

اما یک مانع بزرگ وجود دارد: جهان بر سر سرعت توسعه AI هم‌نظر نیست

شاید مهم‌ترین چالش این نشست، نه از داخل بریتانیا بلکه از فضای ژئوپلیتیکی بیرون از آن ناشی شود.

در حالی که بخشی از مدیران شرکت‌های پیشرو AI اکنون درباره سرعت توسعه این فناوری ابراز نگرانی می‌کنند، دونالد ترامپ، رئیس‌جمهور آمریکا، با ایده کاهش سرعت توسعه هوش مصنوعی مخالفت کرده است. دولت آمریکا همچنان رقابت فناورانه با چین را یکی از عوامل اصلی در سیاست AI خود می‌داند و هرگونه کاهش قابل توجه سرعت توسعه را می‌تواند به‌عنوان واگذاری مزیت راهبردی به رقیب تلقی کند.

در سوی دیگر، رسانه دولتی Global Times چین پیشنهادهای اخیر برای کند کردن توسعه AI را نوعی رویکرد سیاسی و حتی «تاکتیک جنگ سرد» برای محدود کردن چین توصیف کرده است. به این ترتیب، حتی اگر شرکت‌های آمریکایی و اروپایی بر سر برخی اصول ایمنی به توافق برسند، تبدیل چنین توافقی به یک چارچوب جهانی بسیار دشوار خواهد بود.

این مسئله یکی از تناقض‌های اصلی حکمرانی هوش مصنوعی را نشان می‌دهد: هر کشوری ممکن است از خطرات AI نگران باشد، اما همزمان نخواهد سرعت توسعه فناوری خود را نسبت به رقبا کاهش دهد.

اگر یک شرکت توسعه مدل‌های خود را متوقف کند اما رقیبش به پیشرفت ادامه دهد، ممکن است مزیت فناورانه، اقتصادی و حتی نظامی خود را از دست بدهد. به همین دلیل، مسئله ایمنی هوش مصنوعی دیگر صرفاً یک موضوع اخلاقی یا فنی نیست؛ بلکه به مسئله‌ای در سطح رقابت ژئوپلیتیکی و امنیت ملی تبدیل شده است.

بریتانیا در میانه راه آمریکا و اروپا

موضع بریتانیا نیز در این میان قابل توجه است. لندن طی سال‌های اخیر تلاش کرده ضمن حمایت از رشد صنعت AI و جذب سرمایه‌گذاری، رویکردی نسبتاً سبک‌دست در مقررات‌گذاری داشته باشد و از وضع محدودیت‌های گسترده مشابه برخی بخش‌های رویکرد اتحادیه اروپا فاصله بگیرد. Reuters نیز بریتانیا را یکی از مراکز مهم سرمایه‌گذاری و فعالیت استارتاپ‌های AI در اروپا توصیف کرده و رویکرد مقرراتی آن را به آمریکا نزدیک‌تر دانسته است.

با این حال، بریتانیا همزمان تلاش کرده ظرفیت مستقلی برای ارزیابی خطرات مدل‌های پیشرفته ایجاد کند. AI Security Institute یا AISI که در ساختار دولت بریتانیا فعالیت می‌کند، مأموریت دارد قابلیت‌ها و خطرات سیستم‌های پیشرفته AI را بررسی کند و پیش از عرضه عمومی، به برخی مدل‌های پیشرفته دسترسی داشته باشد. این مؤسسه می‌گوید بیش از ۱۰۰ نیروی فنی دارد و با شرکت‌های پیشرو AI برای ارزیابی و افزایش امنیت مدل‌ها همکاری می‌کند.

این مدل جالبی از حکمرانی AI ایجاد کرده است: بریتانیا می‌خواهد از توسعه صنعتی و اقتصادی هوش مصنوعی عقب نماند، اما همزمان تلاش می‌کند توانایی علمی و فنی دولت برای شناخت خطرات مدل‌ها را پیش از وقوع بحران افزایش دهد.

در فوریه ۲۰۲۵ نیز دولت بریتانیا نام AI Safety Institute را به AI Security Institute تغییر داد و حوزه تمرکز آن را بیش از گذشته به خطرات امنیتی، سوءاستفاده مجرمانه، حملات سایبری و تهدیدهای مرتبط با سلاح‌های شیمیایی و زیستی معطوف کرد.

در سال ۲۰۲۶ نیز همکاری این نهاد با شرکت‌هایی مانند OpenAI و Anthropic ادامه پیدا کرده است. AISI اعلام کرده است که در همکاری‌های داوطلبانه با این شرکت‌ها به دسترسی عمیق به مدل‌ها، ابزارهای غیرعمومی و جزئیات برخی سازوکارهای حفاظتی دست یافته تا بتواند آسیب‌پذیری‌ها را ارزیابی و برای بهبود امنیت مدل‌ها همکاری کند.

مسئله اصلی شاید دیگر «آیا AI خطرناک است؟» نباشد

اهمیت نشست شاه چارلز را باید در همین تغییر پارادایم دید. تا چند سال پیش بخش بزرگی از بحث عمومی درباره ایمنی هوش مصنوعی حول این سؤال می‌چرخید که آیا مدل‌های بسیار قدرتمند در آینده ممکن است تهدیدی برای انسان باشند یا خیر.

اما امروز پرسش پیچیده‌تر شده است.

مدل‌های پیشرفته همین حالا در حال تبدیل شدن به سیستم‌هایی هستند که می‌توانند استدلال کنند، کدنویسی کنند، از ابزارها استفاده کنند و بخشی از وظایف را به شکل خودکار انجام دهند. در نتیجه، مسئله فقط توانایی بالقوه یک «هوش مصنوعی فوق‌هوشمند» نیست؛ مسئله این است که با افزایش استقلال و دسترسی این سیستم‌ها، چه سطحی از نظارت انسانی لازم خواهد بود و چه زمانی باید توسعه یک قابلیت جدید متوقف یا محدود شود.

گزارش‌های خود AISI نیز نشان داده‌اند که برخی نشانه‌های اولیه مرتبط با autonomy در مدل‌های پیشرفته مشاهده شده است، هرچند این رفتارها در آزمایش‌های کنترل‌شده دیده شده‌اند و این مؤسسه تأکید کرده است که در آزمایش‌هایش رفتار مخرب یا خودانگیخته‌ای از مدل‌ها مشاهده نشده است.

همین فاصله میان «توانایی بالقوه» و «خطر بالفعل» یکی از دشوارترین مسائل سیاست‌گذاری AI است. اگر قانون‌گذاران بیش از حد زود محدودیت ایجاد کنند، ممکن است جلوی نوآوری و کاربردهای مفید فناوری را بگیرند؛ اگر بیش از حد دیر اقدام کنند، ممکن است برخی قابلیت‌ها پیش از ایجاد سازوکارهای کنترلی مناسب در دسترس قرار گرفته باشند.

آیا می‌توان بر سر اصول جهانی هوش مصنوعی توافق کرد؟

نشست چارلز سوم در نهایت با یک سؤال بسیار بزرگ روبه‌رو است: آیا صنعت هوش مصنوعی می‌تواند پیش از آنکه دولت‌ها مجبور به مداخله سخت‌گیرانه شوند، حداقلی از اصول مشترک را برای توسعه این فناوری تعریف کند؟

تجربه سال‌های گذشته نشان داده است که توافق بر سر اصول کلی آسان‌تر از توافق بر سر نحوه اجرای آن‌هاست. تقریباً همه بازیگران اصلی صنعت از «ایمنی»، «مسئولیت‌پذیری» و «کنترل انسانی» صحبت می‌کنند؛ اما زمانی که بحث به سرعت توسعه مدل‌ها، انتشار قابلیت‌های جدید، دسترسی به مدل‌های قدرتمند یا محدودیت‌های تجاری و ژئوپلیتیکی می‌رسد، اختلاف‌ها بسیار جدی‌تر می‌شوند.

به همین دلیل، احتمالاً مهم‌ترین دستاورد نشست پیش‌رو نه یک معاهده تاریخی یا توقف ناگهانی رقابت AI، بلکه ایجاد یک زبان مشترک میان صنعت، دولت و جامعه درباره مسئولیت توسعه‌دهندگان هوش مصنوعی خواهد بود.

شاه چارلز در این نشست قدرت قانونی برای متوقف کردن OpenAI، Anthropic یا Nvidia ندارد؛ اما می‌تواند کاری را انجام دهد که در حکمرانی فناوری اهمیت زیادی دارد: بازیگران مختلف را در یک اتاق جمع کند و از آن‌ها بخواهد پیش از آنکه سرعت توسعه فناوری تصمیم را به جای انسان‌ها بگیرد، درباره قواعد بازی آینده گفت‌وگو کنند.

و شاید همین موضوع مهم‌ترین پیام این نشست باشد: رقابت برای ساخت قدرتمندترین هوش مصنوعی جهان ادامه دارد، اما همزمان رقابت دیگری نیز در جریان است؛ رقابت برای اینکه چه کسی بتواند قواعد استفاده از این قدرت را تعیین کند.

غول‌های AI برای گفت‌وگو درباره خطرات هوش مصنوعی گرد هم می‌آیند