اجلاس جهانی ایمنی هوش مصنوعی بریتانیا
زاویه؛ بریتانیا در روزهای یکم و دوم نوامبر 2023، میزبان نخستین دوره اجلاس جهانی ایمنی هوش مصنوعی بود. هدف از برگزاری این رویداد، بررسی خطرات این فناوری رو به رشد و گفت‌وگوی بین‌المللی در مورد تنظیم‌گری آن اعلام شده است.
مدعوین شاخص
گزارش‌ها حاکی از آن است که حدود ۱۰۰ مهمان از جمله رهبران جهان، مدیران شرکت‌های فناوری، دانشگاهیان و سازمان‌های غیرانتفاعی در این نشست حضور یافتند و سیاستمداران مشهوری چون کاملا هریس، معاون رئیس‌جمهور آمریکا، اورسولا فون در لاین رئیس کمیسیون اروپا، وو ژائوهوی معاون وزیر فناوری چین و آنتونیو گوترش، دبیرکل سازمان ملل متحد، به سخنرانی در این رویداد بین‌المللی پرداختند.
علاوه بر مقامات ارشد دولتی، مدیرانی از معروف‌ترین شرکت‌های فعال در حوزه هوش مصنوعی، از جمله دمیس حسابیس، مدیرعامل گوگل دیپ مایند، سم آلتمن، سازنده چت‌بات «ChatGPT» و همچنین نمایندگان شرکت‌های چینی علی بابا و تنسنت در این رویداد حضور داشتند. علاوه بر این، ایلان ماسک، مالک آمریکایی پلتفرم ایکس نیز به این رویداد پیوست.
متخصصانی چون استوارت راسل و جفری هینتون، پدرخوانده‌های فناوری هوش مصنوعی نیز به نمایندگی از دانشگاه‌ها و سازمان‌های غیرانتفاعی در این برنامه حاضر شدند.
برنامه روز نخست رویداد
-
برگزاری افتتاحیه
-
میزگرد درک مخاطرات هوش مصنوعی پیشرو
- خطرات ایمنی جهانی ناشی از سوء استفاده از هوش مصنوعی پیشرو
- خطرات ناشی از پیشرفت‌های غیرقابل پیش‌بینی در قابلیت هوش مصنوعی پیشرو
- خطرات ناشی از از دست دادن کنترل بر هوش مصنوعی پیشرو
- خطرات ناشی از ادغام هوش مصنوعی پیشرو در جامعه
-
میزگرد بهبود ایمنی هوش مصنوعی پیشرو
- اقدامات توسعه‌دهندگان هوش مصنوعی پیشرو برای قرار گرفتن در مقیاس مسئولیت‌پذیری
- اقدامات سیاست‌گذاران ملی در مواجهه با تهدیدات و فرصت‌های هوش مصنوعی
- اقدامات جامعه بین‌الملل در مواجهه با تهدیدات و فرصت‌های هوش مصنوعی
- اقدامات جامعه علمی در مواجهه با تهدیدات و فرصت‌های هوش مصنوعی
-
پنل گفتگوی هوش مصنوعی برای همیشه (AI for good): هوش مصنوعی برای نسل آینده
برنامه روز دوم رویداد
-
تشکیل یک هیئت مشورتی جهانی متشکل از دولت‌ها، شرکت‌ها و کارشناسان برای مقابله با تهدیدات هوش مصنوعی
-
برگزاری جلسه وزیر فناوری بریتانیا با همتایانش برای توافق در خصوص مراحل بعدی در مقابله با مخاطرات هوش مصنوعی
طرح چالش‌ها و نگرانی‌های ناشی از توسعه هوش مصنوعی
زاویه؛ به گزارش وبگاه خبری Reuters، کارشناسان و مقامات حاضر در این اجلاس، اعلام کردند که ترس از تأثیر مخرب احتمالی هوش مصنوعی بر اقتصادهای جهان و جوامع، در نوامبر سال گذشته و با همزمان با انتشار «ChatGPT»، به شکل محسوسی افزایش یافته است. به عقیده آن‌ها، استفاده از ابزارهای پردازش زبان طبیعی برای ایجاد دیالوگ شبیه به انسان، این نگرانی را ایجاد کرده است که ماشین‌ها می‌توانند، به مرور زمان به هوش بیشتری نسبت به انسان دست یابند و این امر منجر به پیامدهای ناخوشایند و ناخواسته خواهد شد.
از همین روی، دولت‌ها و مقامات کشورها در تلاش هستند که همراه با شرکت‌های هوش مصنوعی راهی بیابند تا پیش از شکوفایی همه ظرفیت‌های این فناوری آن را تنظیم‌گری کنند. مصطفی سلیمان، یکی از بنیان‌گذاران گوگل دیپ‌مایند، در همین راستا و در پاسخ به خبرنگاران گفت که فکر نمی‌کند مدل‌های پیشرو فعلی هوش مصنوعی مضرات فاجعه‌بار قابل‌توجهی داشته باشند؛ اما برنامه‌ریزی پیش از موعد منطقی است؛ چرا که صنعت درحال آموزش مدل‌های پیشرفته‌تر است.
برخی از مدیران فناوری و رهبران سیاسی هشدار داده‌اند که توسعه سریع هوش مصنوعی در صورت عدم کنترل، خطری وجودی برای جهان ایجاد می‌کند و همین امر سبب رقابت دولت‌ها و نهادهای بین‌المللی در طراحی پادمان‌ها و تنظیم‌گری این فناوری می‌شود.
کره جنوبی و فرانسه؛ میزبانان بعدی اجلاس ایمنی هوش مصنوعی
زاویه؛ به گزارش وبگاه خبری Reuters، اجلاس جهانی ایمنی هوش مصنوعی بریتانیا، روز گذشته، مورخ ۱ نوامبر، آغاز شد. مقامات دولتی، نمایندگان شرکت‌های بین‌المللی، متخصصان و فعالان مدنی در این رویداد دو روزه گرد هم آمدند تا به پاسخی مشترک در مواجهه با تهدیدات روزافزون توسعه فناوری هوش مصنوعی، دست یابند. وزیر دیجیتال کشور بریتانیا، در سخنرانی افتتاحیه اعلام کرد که میزبان بعدی اجلاس جهانی ایمنی هوش مصنوعی، کره جنوبی خواهد بود. بر اساس برنامه‌ریزی‌های صورت گرفته، نشست دوم شش ماه دیگر برگزار خواهد شد. سومین گردهمایی نیز یک سال دیگر و به میزبانی فرانسه برگزار می‌شود.
نمایندگان ۲۸ کشور حاضر در این نشست، طی اقدامی مشترک بیانیه بلچلی در خصوص همکاری برای تنظیم‌گری هوش مصنوعی را امضا کردند. در این بیانیه آمده است که کشورها باید با یکدیگر همکاری کرده و رویکرد مشترکی در زمینه نظارت بر این فناوری نوظهور ایجاد کنند. تمرکز دستور کار این بیانیه بر لزوم شناسایی تهدیدات، ایجاد درک علمی از آن‌ها و همچنین توسعه سیاست‌های بین‌المللی در کاهش مخاطرات مذکور مبتنی بود.
میشل دونلان، وزیر دیجیتال بریتانیا، طی سخنرانی در این رویداد، گردهم آمدن همه بازیگران کلیدی این عرصه در یک محل را دستاوردی مهم دانست. وی در جمع خبرنگاران گفت: «برای اولین بار، کشورهایی را داریم که موافق هستند، ما باید نه تنها به طور مستقل بلکه به شکل جمعی نیز به فکر مدیریت خطرات هوش مصنوعی پیشرفته باشیم.»
خیز آمریکا برای رهبری تنظیم‌گری جهانی هوش مصنوعی
زاویه؛ به گزارش وبگاه خبری Reuters، کاملا هریس، معاون رئیس‌جمهور ایالات متحده که از مدعوین برجسته این اجلاس محسوب می‌شود، طی سخنانی در سفارت این کشور در لندن، از خطراتی که هوش مصنوعی می‌تواند، برای افراد و سیستم سیاسی غرب ایجاد کند، صحبت کرد و خواستار اقدام فوری برای محافظت از مردم و دموکراسی در برابر خطرات ناشی از هوش مصنوعی شد. وی همچنین از برنامه آمریکا برای رفع نگرانی‌های ایمنی در مواجهه با این فناوری خبر داد و گفت: «این فناوری پتانسیل ایجاد حملات سایبری در مقیاسی فراتر از چیزی که قبلاً دیده‌ایم و تولید سلاح‌های زیستی پیچیده با قابلیت تهدید برای جان میلیون‌ها نفر را دارد.»
هریس در ادامه افزود: «این مخاطرات اغلب به عنوان تهدیدهای وجودی هوش مصنوعی شناخته می‌شوند؛ زیرا می‌توانند موجودیت بشریت را به خطر بیندازند.»
وی در سخنرانی خود خواستار تعریف گسترده‌تری از ایمنی هوش مصنوعی، شامل طیف کامل تهدیدها از جمله سوگیری، تبعیض و انتشار اطلاعات نادرست، شد و اعلام کرد که تا کنون ۳۰ کشور با امضای یک بیانیه سیاسی تحت حمایت ایالات متحده برای استفاده از هوش مصنوعی توسط ارتش ملی موافقت کرده اند.
به گفته منابع آگاه، در سخنرانی هریس تنها اشاره کوتاهی به رویداد بریتانیا شده و او تعدادی از گروه‌های تحقیقاتی را به رویدادی مشابه با همین موضوع در سفارت آمریکا در لندن دعوت کرده است و از همین روی، برخی از شرکت‌کنندگان مجبور به ترک اجلاس بلچلی پارک زودتر از موعد مقرر شدند.
برخی مدیران و قانون‌گذاران بریتانیایی در واکنش به این اقدام هریس، ایالات متحده را به تلاش برای تحت‌الشعاع قراردادن نشست ایمنی هوش مصنوعی بریتانیا محکوم کردند.
ساچین دوگال، بنیان‌گذار شرکت هوش مصنوعی «Builder.ai» در حاشیه اجلاس و در واکنش به حواشی گفت: «گفتگو درباره تهدیدات هوش مصنوعی یک مسئله بزرگ است و این اقدام نماینده آمریکا تمرکز اصلی را در نشست تضعیف می‌کند.»
تأسیس یک مؤسسه ایمنی هوش مصنوعی مستقل از سوی آمریکا
زاویه؛ به گزارش وبگاه خبری Reuters، جینا ریموندو، وزیر بازرگانی ایالات متحده آمریکا طی سخنرانی خود در روز نخست رویداد ایمنی هوش مصنوعی آمریکا اعلام کرد که این کشور یک مؤسسه ایمنی هوش مصنوعی مستقل را برای ارزیابی خطرات شناخته شده و در حال ظهور مدل‌های هوش مصنوعی راه‌اندازی خواهد کرد.
وی در ادامه افزود: «مطمئناً از شما حضار که در دانشگاه و صنعت فعال هستید، دعوت می‌کنم که بخشی از این کنسرسیوم باشید. ما به تنهایی نمی‌توانیم این کار را انجام دهیم، بخش خصوصی باید در این زمینه تقویت شود.»
ریموندو همچنین متعهد به ایجاد سازوکار رسمی مشارکت میان مؤسسات ایمنی هوش مصنوعی بریتانیا و ایالات متحده شد. بر اساس برنامه‌ریزی‌های صورت گرفته، نهاد آمریکایی جدید تحت نظارت مؤسسه ملی استاندارد و فناوری (NIST) خواهد بود و اقدامات کاخ سفید در زمینه ایمنی هوش مصنوعی، به ویژه برای بررسی مدل‌های پیشرفته را هدایت می‌کند.
ریموندو همچنین وعده داد که این مؤسسه توسعه استانداردهای ایمنی، امنیت و آزمایش مدل‌های هوش مصنوعی را تسهیل، استانداردهایی را برای احراز ماهیت محتوای تولید شده توسط هوش مصنوعی ایجاد و محیط‌های آزمایشی را برای محققان جهت ارزیابی خطرات هوش مصنوعی در حال ظهور و رسیدگی به تأثیرات شناخته شده آن فراهم می‌کند.
قرار است که مؤسسه جدید ایمنی هوش مصنوعی ایالات متحده، اطلاعات را با سایر ذی‌ربطان به اشتراک گذاشته و با مؤسسات همتا در سطح بین المللی از جمله مؤسسه ایمنی بریتانیا همکاری کند.
حضور پررنگ چین در اجلاس ایمنی هوش مصنوعی بریتانیا
زاویه؛ به گزارش وبگاه خبری Reuters، یکی از نکات جالب توجه رویداد مذکور؛ این بود که نماینده دولت چین نیز پذیرفت با ایالات متحده، اتحادیه اروپا و سایر کشورها برای مدیریت جمعی خطرات ناشی از هوش مصنوعی در نشست بریتانیا، با هدف ترسیم راهی امن برای این فناوری در حال تکامل، همکاری کند. در نخستین تلاش غرب برای مدیریت توسعه ایمن هوش مصنوعی، معاون وزیر فناوری چین به رهبران ایالات متحده و اتحادیه اروپا و رؤسای فناوری مانند ایلان ماسک و سم آلتمن پیوست.
اگرچه برخی قانون‌گذاران بریتانیایی به سبب سطح پایین اعتماد بین پکن و واشنگتن و متحدانش، به واسطه ادعای دخالت این کشور در فناوری، نسبت به حضور این کشور در اجلاس ایمنی هوش مصنوعی تردید داشتند، اما چین به لحاظ نقشی که در توسعه هوش مصنوعی دارد، یکی از شرکت‌کنندگان کلیدی این اجلاس محسوب می‌شود.
با این وجود، ایالات متحده در آستانه برگزاری اجلاس به صراحت اعلام کرد که تماس با پکن از جانب بریتانیا صورت گرفته است. جین هارتلی، سفیر این کشور در بریتانیا نیز در گفتگو با وبگاه خبری رویترز گفت: «این دعوت از سوی بریتانیا صورت گرفته و ایالات متحده نقشی در آن نداشته است.»
وو ژائوهوی، معاون وزیر علوم و فناوری چین در این اجلاس گفت: «چین مایل به افزایش ارتباط با همه طرف‌ها در زمینه تنظیم مقررات هوش مصنوعی است.»
وی همچنین ضمن به رسمیت شناختن حق همه کشورها در توسعه و استفاده از فناوری هوش مصنوعی، گفت: «چین مایل است، گفت‌وگو و ارتباطات در زمینه ایمنی هوش مصنوعی را تقویت و به ایجاد مکانیسم بین‌المللی حکمرانی با مشارکت جهانی کمک کند.»
او افزود: «ما حامی اصول برابری، احترام و منافع متقابل هستیم. کشورها صرف نظر از اندازه و مقیاسشان از حقوق برابر برای توسعه و استفاده از هوش مصنوعی برخوردار هستند. ما خواستار همکاری جهانی برای اشتراک دانش هوش مصنوعی و در دسترس قرار دادن فناوری‌های آن با شرایط منبع باز برای عموم هستیم.»
توافق توسعه‌دهندگان و دولت‌ها برای مدیریت خطرات هوش مصنوعی
زاویه؛ به گزارش وبگاه خبری Reuters، برخی از مدیران فناوری و رهبران سیاسی حاضر در این رویداد هشدار داده‌اند که هوش مصنوعی در صورت کنترل نشدن می‌تواند، طیف گسترده‌ای از تهدیدات از نقض حریم خصوصی مصرف‌کنندگان گرفته تا خطر برای انسان‌ها و بروز فاجعه‌ای جهانی را به همراه داشته باشد. به عقیده کارشناسان، نگرانی نسبت به این مسئله موجب شروع مسابقه طراحی پادمان‌ها و مقررات توسط دولت‌ها و نهادها شده است. از همین روی، در افتتاحیه این اجلاس، رهبران سیاسی آمریکا، اتحادیه اروپا و چین توافق کردند که رویکرد مشترکی برای شناسایی خطرات و راه‌های کاهش مخاطرات مذکور داشته باشند.
ریشی سوناک، طی سخنرانی خود در این اجلاس، انجام آزمایش و راه‌اندازی هیئتی بین‌المللی برای بررسی خطرات را موجب سنگین شدن کفه ترازو به نفع بشریت خواند. وی گفت که ایالات متحده، اتحادیه اروپا و دیگر کشورهای هم‌فکر با شرکت‌های منتخب فعال در خط مقدم توسعه هوش مصنوعی، به توافقی تاریخی بر سر اصل لزوم ارزیابی مدل‌ها پیش و بعد از استقرار، دست یافته‌اند.
شرکت‌های «OpenAI»، «آنتروپیک»، «گوگل دیپ‌مایند»، «مایکروسافت»، «متا» و «X AI» در نشست روز پنج‌شنبه در کنار رهبرانی از جمله رئیس کمیسیون اروپا، اورسولا فون در لاین، معاون رئیس جمهور ایالات متحده، کاملا هریس و دبیرکل سازمان ملل، آنتونیو گوترش، حضور یافتند.
فون در لاین در این نشست گفت: «الگوریتم‌های پیچیده هرگز نمی‌توانند، به‌طور کامل آزمایش شوند، بنابراین بیش از هر چیز، باید اطمینان حاصل کنیم که توسعه‌دهندگان در زمان بروز مشکلات، چه قبل و چه بعد از عرضه مدل‌هایشان به بازار، به سرعت عمل می‌کنند.»
ایلان ماسک نیز به شرکت‌کنندگان گفت که دولت‌ها نباید برای اجرای قوانین هوش مصنوعی عجله کنند. او ادعا کرد، شرکت‌هایی که از این فناوری استفاده می‌کنند، در موقعیت بهتری برای کشف مشکلات هستند و می‌توانند، یافته‌های خود را با قانون‌گذارانی که مسئول تنظیم مقررات جدید هستند، در میان بگذارند.
سخنرانی ریشی سوناک پس از نشست هوش مصنوعی
زاویه؛ به گزارش وبگاه BBC، ریشی سوناک، نخست وزیر بریتانیا، در کنفرانس مطبوعاتی پس از اجلاس جهانی ایمنی هوش مصنوعی این کشور اعلام کرد که مردم نباید نگران تأثیر هوش مصنوعی بر مشاغل باشند؛ زیرا اصلاحات آموزشی موجب افزایش مهارت‌ها در این زمینه می‌شود. وی پس‌از پایان نخستین اجلاس ایمنی هوش مصنوعی بریتانیا مدعی شد که این فناوری اقتصاد را در دراز مدت بهبود می‌بخشد و افزود که ابزارهای جدید باید برای کمک به افراد در محل کار استفاده شوند، نه این که جایگزین نیروی انسانی باشند.
او در جمع خبرنگاران وظیفه دولت را بهبود آموزش و مهرت افزایی در این حوزه فناورانه دانست. سوناک همچنین از نگرانی درباره تأثیر ابزارهای هوش مصنوعی جدید بر کار گفت و تصریح کرد که بهره‌مندی از این ابزار با گذشت زمان باعث افزایش بهره‌وری می‌شود. وی همچنین افزود: «وظیفه من، وظیفه دولت، اطمینان از داشتن یک سیستم آموزشی کارآمد در سطح جهانی است.»
به باور نخست وزیر بریتانیا، بهبود آموزش فنی و افزایش مهارت‌های بزرگسالان، بهره‌مندی اقتصادی بریتانیا از مزایای هوش مصنوعی را تضمین می‌کند.
اتحادیه‌های کارگری که از عدم حضور در این رویداد انتقاد کرده‌اند، خواستار اقدامات مؤثر برای حصول اطمینان از محافظت مشاغل با پیشرفت فناوری هوش مصنوعی هستند.
ریشی سوناک، در این اجلاس، جزئیات بیشتری در خصوص برنامه‌های مؤسسه ایمنی هوش مصنوعی برای آزمایش مدل‌های جدید مبتنی بر این فناوری توسط شرکت‌ها، پیش از استقرار ارائه کرد. وی همچنین افزود، این مؤسسه به مدل‌های جدیدی که قرار است در سال آینده عرضه شوند، دسترسی ویژه خواهد داشت.
سوناک در جریان سخنرانی خود آزمایش مدل‌ها را نوعی «ضمانت مستقل» دانست و افزود، نمی‌توان از شرکت‌هایی که مدل‌های جدید را توسعه می‌دهند، انتظار داشت که ارزیابی محصول خود را انجام دهند. با این حال، هنوز مشخص نیست که این مؤسسه چه اختیاراتی خواهد داشت.
او به خبرنگاران از لزوم وجود قوانین الزام‌آور گفت و تأکید کرد که این فناوری هنوز در حال تکامل است و باید اطمینان حاصل شود که تنظیم‌گری به شیوه صحیح صورت گیرد.
این نشست در حالی برگزار شد که اتحادیه‌ها و گروه‌های مدنی، ضمن انتقاد از محورهای این رویداد، در نامه‌ای سرگشاده استدلال کردند که این اجلاس باید بیشتر بر موضوعاتی مانند تأثیر هوش مصنوعی بر قانون استخدام و مشاغل کوچک و همچنین پلیس و تشخیص هویت متمرکز می‌شد.
کشورهای شرکت‌کننده در این نشست بیانیه‌ای را امضا کردند که در آن متعهد به همکاری بیشتر در زمینه تحقیقات، برای اطمینان از توسعه فناوری به گونه‌ای انسان محور، قابل اعتماد و مسئولیت‌پذیر، شدند.
گفتگوی مشترک ایلان ماسک و ریشی سوناک
زاویه؛ به گزارش وبگاه خبری Reuters، ایلان ماسک، کارآفرین مشهور حوزه فناوری، در گفتگوی خود با ریشی سوناک، نخست‌وزیر بریتانیا، پس از برگزاری اجلاس ایمنی هوش مصنوعی، از تعامل چین استقبال و اعلام کرد که خواهان هماهنگی دیدگاه پکن درباره موضوع اجلاس با لندن و واشنگتن بوده است.
وی در این خصوص گفت که همسویی ایالات متحده، بریتانیا و چین در زمینه ایمنی هوش مصنوعی، اتفاق خوبی خواهد بود، زیرا عموماً رهبری این حوزه با بازیگران مذکور است.
به عقیده کارشناسان، این رویداد دو روزه گام بزرگی در مهار محاطرات هوش مصنوعی و سرآغاز تفکر درباره خطرات جدی این فناوری محسوب می‌شود.
ماسک و سوناک در جریان گفتگوی خود با اشاره به فیلم «Terminator» و دیگر فیلم‌های علمی تخیلی مربوط به خطرات هوش مصنوعی، بر نیاز احتمالی به کلیدهای خاموشی فیزیکی جهت جلوگیری از خارج شدن ربات‌ها از کنترل تاکید کردند.
سوناک نیز ضمن تأکید بر اتخاذ تدابیر ایمنی، گفت: «همه این آثار سینمایی با خاموش کردن هوش مصنوعی توسط یک شخص به پایان می‌رسند.»
ماسک خطاب به سوناک گفت که فکر می‌کند، هوش مصنوعی انقلابی‌ترین قدرت در تاریخ است و حدس می‌زند، این فناوری بتواند در همه حوزه‌ها وارد شود و سبب به تاریخ پیوستن مشاغل امروزی، شود.
وی همچنین تصریح کرد: «نمی‌دانم که این تحول موجب رضایت مردم می‌شود یا آن‌ها را ناراحت می‌کند. این امر هم خوب است و هم بد. یکی از چالش‌های آینده این خواهد بود که اگر غول چراغ جادو داشته باشیم که بتواند، هر کاری را که می‌خواهیم انجام دهد، چگونه می‌توانیم معنای زندگی را پیدا کنیم؟»