האו"ם מזהיר: מערכות בינה מלאכותית הן סכנה לזכויות האדם
מנהלת זכויות האדם של האו"ם, מישל באכלט דחקה בשבוע שעבר במדינות החברות בארגון להטיל איסור זמני על מכירה ושימוש בטכנולוגית בינה מלאכותית (AI) עד שיטופלו הסיכונים הפוטנציאליים שזו מציבה, ועד שיקבעו אמצעי הגנה נאותים על מנת להבטיח שהטכנולוגיה לא תנוצל לרעה.
"איננו יכולים להרשות לעצמנו להמשיך ולפתח AI תוך שימוש בו ללא הגבלות או ללא פיקוח והתמודדות עם ההשלכות הכמעט בלתי נמנעות על זכויות האדם לאחר מעשה", אמרה באכלט.
הדו"ח אמנם לא ציין תוכנות ספציפיות של בינה מלאכותית, אך הוא קרא למדינות לאסור כל יישומי AI ש"אי אפשר להפעיל אותם בהתאם לחוק זכויות האדם הבינלאומי". ליתר דיוק, הדו"ח קרא להקפאת שימוש בטכנולוגיות זיהוי ביומטריות מרחוק במרחבים ציבוריים – לפחות עד שהרשויות יוכלו להוכיח עמידה בתקני פרטיות והגנה על הנתונים והיעדר בעיות מפלות או אי דיוקים".
הדו"ח מציין כי ניתן להשתמש ב- AI לצרכים טובים, מה שיכול לסייע ל"חברות להתגבר על כמה מהאתגרים הגדולים של זמננו", אך השימוש בו ככלי לחיזוי ויצירת פרופילים יכול להשפיע באופן דרסטי על "זכויות הפרטיות, משפט הוגן, מקרי מעצר שרירותיים וכן הזכות לחיים".
על פי הדו"ח, מדינות ועסקים רבים לרוב אינם מצליחים לבצע בדיקת נאותות לפני שהם ממהרים לשלב במערכות שלהם יישומי AI. במקרים מסוימים, הדבר הביא לטעויות מסוכנות, כאשר על פי הדיווחים, חלק מהאנשים עברו התעמרות ואף נעצרו עקב תוכנת זיהוי פנים לקויה.
בינתיים, לזיהוי פנים יש פוטנציאל לאפשר מעקב בלתי מוגבל אחר אנשים, מה שעשוי בהחלט לעורר מגוון סוגיות סביב אפליה והגנה על נתונים. מחקרים רבים הצביעו על כך שלטכנולוגיות זיהוי פנים המופעלות על ידי בינה מלאכותית יש פוטנציאל של הטיה גזעית. רק בקיץ שעבר, למשל, אדם שחור במישיגן נעצר שלא בצדק לאחר שטכנולוגיית זיהוי הפנים זיהתה אותו בטעות כחשוד בגניבה בחנות.
סוגיות נוספות סביב אחסון הנתונים של מערכות אלה לטווח הארוך מהוות גם הן סיכון. ישנו פוטנציאל לניצול נתונים כאלה בעתיד, העלולים להוות סיכונים משמעותיים לביטחון לאומי.
הדו"ח גם יוצא נגד חוסר השקיפות והסתמכותן של מערכות AI על מערכי נתונים גדולים, היכולים לגרום לאיסוף וניתוח נתונים של אנשים בדרכים שגויות כמו גם לגרום להחלטות פגומות או מפלות. "המורכבות של סביבת הנתונים, האלגוריתמים והמודלים העומדים בבסיס הפיתוח וההפעלה של מערכות AI, כמו גם סודיות מכוונת של גורמים ממשלתיים ופרטיים הם אלה שמונעים מהציבור להבין את ההשפעות של מערכות AI על זכויות האדם והחברה", נכתב בדו"ח.
רק ביולי האחרון למשל דווח כי תוכנת ריגול, המכונה פגסוס, שימשה לפריצה לסמארטפונים של אלפי אנשים ברחבי העולם, מעיתונאים דרך פקידי ממשל ופעילי זכויות אדם, ועד אפילו הטלפון של שר האוצר הצרפתי ברונו לה מאייר, שנחקר האם גם הוא נפרץ. בדיון במועצה האירופאית על השלכות הפרשה, אמרה באכלט כי הגילויים אינם מפתיעים, לאור "רמת המעקב חסרת התקדים ברחבי העולם על ידי גורמים ממשלתיים ופרטיים".
אוון גריר, מנהל קבוצת ההגנה למען העתיד שפועלת ללא מטרות רווח, אמר ל- ABC News כי הדו"ח מוכיח עוד יותר את "האיום הקיומי" הנשקף מהטכנולוגיה המתפתחת הזו. "דו"ח זה מהדהד את ההסכמה הגוברת בקרב מומחי טכנולוגיה וזכויות אדם ברחבי העולם על כך שמערכות מעקב מונעות בינה מלאכותית, כמו זיהוי פנים, מהוות איום קיומי על עתיד חירות האדם", אמר גריר ל- ABC News. "כמו נשק גרעיני או ביולוגי, גם לטכנולוגיה כזו יש פוטנציאל עצום כל כך לפגיעה. עד שלא ניתן יהיה להסדיר אותה ביעילות, יש לאסור אותה".
"זיהוי פנים ושימושים מפלים אחרים של בינה מלאכותית יכולים לגרום נזק עצום בין אם הם נפרסים על ידי ממשלות או גורמים פרטיים כמו תאגידים", הוסיף גריר. "אנו מסכימים עם מסקנת דו"ח האו"ם שצריכה להיות השהייה עולמית מיידית במכירת טכנולוגיות מעקב זיהוי פנים ומערכות AI מזיקות אחרות".
הפוסט האו"ם מזהיר: מערכות בינה מלאכותית הן סכנה לזכויות האדם הופיע ראשון בהכלכלה האמיתית
