رئیس حقوق سازمان ملل خواستار تضمین امنیت بین المللی هوش مصنوعی شد

UN human rights chief Volker Türk urged governments and technology companies to strengthen safeguards around advanced artificial intelligence in a September 7 address to the Human Rights Council in Geneva, Euronews reported. His intervention called for international cooperation and independent verification, bringing the security of increasingly capable systems into a forum responsible for examining threats to fundamental rights.

یک فشار دیپلماتیک برای تضمین های قابل اجرا

بر اساس این گزارش، ترک می خواهد کشورهایی که توسعه هوش مصنوعی را میزبانی می کنند و کسانی که در زنجیره های عرضه آن دخیل هستند، در مورد محدودیت ها توافق کنند. او همچنین قصد دارد با شرکت ها در مورد کاهش ریسک هایی که می توانند کنترل کنند، تماس بگیرد. اینها خواسته های عمل هستند، نه شواهدی که نشان می دهد دولت ها در حال حاضر به توافق رسیده اند. تفاوت در ارزیابی آگهی های بعدی توسط دولت ها یا توسعه دهندگان مهم خواهد بود.

این مداخله همراه با تلاش گسترده تر سازمان ملل برای توسعه تفاهم علمی مشترک است. در ماه فوریه، آنتونیو گوترز، دبیر کل، 40 عضو پیشنهاد شده را برای یک پانل بین المللی مستقل هوش مصنوعی به مجمع عمومی ارائه داد. در نظرات منتشر شده او توصیف یک نهاد با هدف ارزیابی تاثیرات در سراسر اقتصادها و جوامع، با کارشناسان خدمت شخصی به جای نمایندگی از دولت ها، شرکت ها و یا سایر موسسات.

ارزیابی علمی و نظارت قانونی

این بیانیه در ماه فوریه نیز تسلیحات هوش مصنوعی را به عنوان یک نگرانی بزرگ شناسایی کرد. گوترز ادعا کرد که ارزیابی علمی قابل اعتماد می تواند تعیین کند که چه تکنولوژی هایی وجود دارد و چگونه از آنها استفاده می شود و پایه ای برای بحث در مورد تضمین ها ایجاد می کند. این ابتکار قبلی زمینه نهادی را برای درخواست ترک فراهم می کند. این قانون نمی گوید که ارزیابی فنی به طور خودکار قوانین، صلاحیت های اجرایی یا توافق میان دولت های رقابتی را تولید می کند.

اتحادیه اروپا نمونه ای جداگانه از یک رویکرد قانونی ارائه می دهد. با تصویب قانون هوش مصنوعی در ماه مه 2024، شورای یک چارچوب را توصیف کرد که تعهدات قوی تری را به عنوان افزایش ریسک، از جمله درمان دقیق تر از مدل های عمومی با ریسک های سیستمیک، اعمال می کند. اعلام آن همچنین یک دفتر هوش مصنوعی و سازمان های متخصص پشتیبانی را نشان می دهد. سیستم هایی که به طور انحصاری برای اهداف نظامی و دفاعی مورد استفاده قرار می گرفتند، یکی از معافیت های ذکر شده بود.

آزمایش بعدی، اجرای

سوال عملی این است که چگونه یافته های علمی، مسئولیت های ملی و تضمین های شرکت می توانند به طور متقابل تقویت شوند. ارزیابی مستقل و مقررات اجباری وظایف مختلفی را انجام می دهند، در حالی که درخواست های نظامی یک چالش دیپلماتیک اضافی را به وجود می آورد. شواهد بعدی که باید مشاهده شود این است که آیا پیشرفت ترک تعهدات خاص شرکت یا پیشنهادات دولتی را تولید می کند و آیا این پیشنهادات توضیح می دهد که چه کسی انطباق را بررسی می کند و چه اتفاقی می افتد اگر تضمین های توافق شده شکست بخورد.