ראשי זכויות האו"ם קוראים להבטיח ביטחון בינלאומי

מנכ"ל זכויות האדם של האו"ם וולקר טורק קרא לממשלות ולחברות הטכנולוגיה לחזק את הגבולות סביב אינטליגנציה מלאכותית מתקדמת ב-7 בספטמבר בפגישה למועצת זכויות האדם בג'נבה, דיווח Euronews. התערבותו דורשת שיתוף פעולה בינלאומי ודיון עצמאי, ומביא את הבטיחות של מערכות יותר ויותר מסוגלות לפורום אחראי על חקירת איומים לזכויות בסיסיות.

דחיפה דיפלומטית להגנה אפשרית

על פי הדו"ח, טורק רוצה שהמדינות המארחות את פיתוח ה- AI ואלה המעורבים בשרשרת האספקה שלה יסכימו על גבולות. הוא גם מתכוון ליצור קשר עם חברות על הפחתת הסיכונים שהם יכולים לשלוט. אלה דרישות לפעולה, ולא הוכחה לכך שהממשלות כבר דיברו על הסכם. ההבדל יהיה משמעותי בעת הערכת ההודעות הבאות על ידי מדינות או מפתחים.

התערבות זו עומדת לצד מאמץ רחב יותר של האו"ם לפתח הבנה מדעית משותפת. בחודש פברואר, המזכיר הכללי אנטוניו גוטרס הגיש 40 חברים המוצעים לפאנל בינלאומי עצמאי AI לאסיפה הכללית. הערותיו שפורסמו תיארו גוף שנועד להעריך את ההשפעות בכל הכלכלות ובחברות, עם מומחים המשרתים באופן אישי במקום לייצג ממשלות, חברות או מוסדות אחרים.

הערכה מדעית ופיקוח משפטי

הצהרת פברואר זו זיהתה גם את הירי של AI כדאגה מרכזית. גוטרס טען כי הערכה מדעית אמינה יכולה לקבוע מה הטכנולוגיות קיימות וכיצד הם משמשים, ויוצרת בסיס לדיון על אבטחות. יוזמה זו הקודמת מספקת רקע מוסדי לתביעה של טורקיה. לא קובע כי הערכה טכנית מייצרת באופן אוטומטי כללים, סמכויות ביצוע או הסכמים בין ממשלות תחרותיות.

האיחוד האירופי מציע דוגמה נפרדת של גישה חוקית. בעת אימוץ חוק AI בחודש מאי 2024, המועצה תיארה מסגרת המטילה מחויבות חזקה יותר כסיכון מוגבר, כולל טיפול קפדני יותר של מודלים כלליים המציגים סיכונים מערכתיים. ההודעה שלה גם מציינת משרד AI וארגונים מומחים תומכים. המערכות המשמשות אך ורק למטרות צבאיות והגנה היו בין הימנעות המפורטות.

הבדיקה הבאה היא יישום

השאלה המעשית היא כיצד התגליות המדעיות, האחריות הלאומית והגבולות של החברה יכולים להפוך לחזקים הדדיים. הערכה עצמאית ותקנות מחייבות מבצעות תפקידים שונים, בעוד בקשות צבאיות מציגות אתגר דיפלומטי נוסף. הראיות הבאות שצריך לראות הן האם ההצלחה של טורק מייצרת התחייבויות ספציפיות של החברה או הצעות ממשלתיות, ואם הצעות אלה מסבירות מי יבדוק את התאימות ומה יקרה אם ההגנה שהוסכם נכשלה.