פרשנות | הרגולציה האירופית על בינה מלאכותית: צעד חיובי אך מאתגר ליישום

תומר גל, מנכ"ל ומייסד OpTeamizer, מסביר את הקשיים והיתרונות ביישום רגולציה לתחום הבינה המלאכותית 

פרשנות | הרגולציה האירופית על בינה מלאכותית: צעד חיובי אך מאתגר ליישום

Photo Credit- Olga Savina

מטרת האיחוד האירופי להסדיר את תחום ה-AI כדי למזער סיכונים הכרוכים במערכות וביישומים היא ראויה, אבל יישום הרגולציה צפוי להיתקל במגוון אתגרים טכנולוגיים. 

טכנולוגיות חדשות מעוררות מאז ומעולם תגובות של התרגשות המלווה בחשש, וכאשר מדברים על בינה מלאכותית, תחושות אלו אפילו מועצמות. התרחישים הקיצוניים בעניין זה אכן מפחידים: החל ממניפולציות, הטיות ואפליה של קבוצות אוכלוסייה, דרך הונאות ואיבוד מוחלט של הפרטיות, ועד השתלטות הבינה המלאכותית על העולם.

האיחוד האירופי עשה צעדים מרחיקי לכת בתחום ההגנה על הפרטיות כשהגה ויישם את תקנות ה-GDPR שהפכו לתקן עולמי דה פקטו שמחייב גם חברות ישראליות. עתה מתפנה האיחוד לטפל ב"מפלצת" גדולה ומאתגרת פי כמה: ניסיון לרסן את הבינה המלאכותית ולקבוע כללים ברורים לשימוש בה. 

איזון בין ביטחון לפרטיות 

רגולציית Artificial Intelligence Act או AI Act של האיחוד האירופי היא הצעה לחוק שמטרתו לגבש ולהפעיל מסגרת רגולטורית וחוקית משותפת לכל סוגי הבינה המלאכותית – והיא הניסיון הרגולטורי המקיף הראשון מסוגו בעולם בתחום זה.

אם יצליח, תהיה לו השפעה מרחיקת לכת דומה לזו של ה-GDPR. על רצינות הכוונות תעיד העובדה שהאיחוד יטיל קנסות כבדים על חברות שיפרו את הרגולציה וחברות כמו אמזון וגוגל יכולות להעיד כמה הקנסות הללו כואבים. 

הרגולציה נוגעת לכל המגזרים, מלבד טכנולוגיות צבאיות, ולכל סוגי הבינה המלאכותית. היא לא מעניקה זכויות ליחידים, אבל חותרת להסדיר את ההתנהלות של ספקי מערכות בינה מלאכותית ושל גופים שמשתמשים במערכות במסגרות מקצועיות.

אין להתעלם כמובן מהתועלות העצומות שמציעה הבינה המלאכותית אך הרגולציה חותרת למצוא נקודות איזון בין התועלות הללו לבין סיכונים כמו חדירה לפרטיות ואחרים.

ההיגיון בכך שטרוריסטים יזוהו באמצעות מערכת זיהוי פנים וייעצרו לפני שהצליחו לבצע פיגוע המוני הוא ברור, אך האם אנחנו כחברה אנושית מעוניינים לחדור לפרטיות של האזרחים עד כדי זיהוי ותיוג פנים של כלל האוכלוסייה? זוהי אחת מהדילמות שהאיחוד האירופי מתמודד עמן. 

כדי לעשות סדר, החוק המתוכנן מחלק יישומי AI לשלוש קטגוריות: הראשונה, יישומים ומערכות שיוצרים סיכון בלתי-קביל ולכן ייאסרו לחלוטין – דוגמת מערכות ממשלתיות המעניקות ניקוד חברתי לאנשים מהסוג שמופעל בסין. 

השנייה, יישומים בעלי סיכון גבוה, שיהיו כפופים לדרישות חוקיות ספציפיות – דוגמת כלי לסריקה המבוסס על ראייה ממוחשבת שמדרג מועמדים לעבודה או כלים לדרוג אשראי; השלישית, יישומים שלא יהיו כפופים לרגולציה, לא ייאסרו במפורש ולא יתויגו כבעלי סיכון גבוה.

אכיפה בין מדינות

מטרת האיחוד האירופי להסדיר את תחום ה-AI כדי למזער סיכונים הכרוכים במערכות וביישומים היא ראויה, אבל יישום הרגולציה צפוי להיתקל במגוון אתגרים טכנולוגיים. 

לדוגמא, סטארט אפ שמקבל גישה למצלמות אבטחה של העירייה עשוי לטעון שהוא לא אוגר מידע ולא מזהה פנים. כיצד האיחוד האירופי יידע שהוא אכן לא מזהה פנים, עוקב אחרי אנשים ומוכר את המידע לצדדים שלישיים? 

דוגמא נוספת קשורה לקושי האכיפה בין מדינות – חברה מפתחת מוצר AI שאוסף מידע ממצלמות ומעלה אותו לשרת במיקום כלשהו בעולם. ייתכן ובמדינות מסוימות המוצר קביל מבחינה חוקית ובמדינות אחרות הוא עובר על חוקים של המדינה המקומית.

במקרה כזה, האיחוד האירופי יעמוד בפני אתגר, ואולי ייאלץ להגדיר סט של חוקים ומגבלות עבור החברות שמשתמשות במוצרים בתוך האיחוד האירופי. גם לאחר הגדרה כזו, הניסיון לבדוק מתי גורם מסוים לא מציית לחוקים ולמגבלות ולאכוף ציות יהיה מאתגר ביותר.

להבין את המחשב

הקושי הטכנולוגי הגדול ביותר קשור לדרישה שערכות הנתונים (datasets) המשמשות לאימון המודלים תהיינה נקיות משגיאות ושכל משתמש יוכל להבין כיצד אפליקציית ה-AI עובדת.

ערכות הנתונים המשמשות אפליקציות הן עצומות בממדיהן ויידרשו אלפי שעות אדם כדי לבדוק שהן נקיות משגיאות. יתרה מכך, רשתות נוירונים יכולות להיות כה מורכבות עד שגם יוצריהן לא בהכרח מבינים כיצד בדיוק הן מגיעות למסקנות שלהן.

חקר שכזה נקרא Explainable AI והוא מצריך השקעה רבה בחקר המודל שפותח.

הרגולציה החדשה מתמודדת גם עם חילוקי דעות בין מדינות האיחוד בסוגיות ערכיות שונות. כך, לדוגמה, מתנהל ויכוח אילו אפליקציות יוגדרו כבלתי קבילות לחלוטין. יש מדינות כמו גרמניה שחותרות לאסור כליל שימוש בזיהוי פנים במרחב הציבורי ואילו צרפת תומכת ביישומים ששמים דגש על הבטחת שלום הציבור.

יש מדינות הסבורות שהרגולציה עלולה לעכב את החדשנות ואחרות סבורות שהרגולציה מקלה מדי ולא מגנה במידה מספקת על האזרחים. שאלה שטרם הוכרעה היא האם אזרחי האיחוד יוכלו להתלונן ולדרוש פיצוי במקרים שלדעתם הם נפגעו ממערכת AI.

הבינה המלאכותית צפויה לחולל נפלאות בשורה של תחומים כמו בריאות, שירותים פיננסיים, קמעונאות, בידור ועוד. הסדרת השימוש בה היא אינטרס ממדרגה ראשונה של כל הממשלות, הכלכלות הלאומיות, החברות העסקיות וכמובן הצרכנים.

השכל האנושי הוא שיצטרך לקבוע את הגבולות והכללים ולא ניתן יהיה להשתמש בבינה מלאכותית שתעשה את המלאכה במקומנו.

אולי יעניין אותך גם