אתמול (13.3.2024), אישר הפרלמנט האירופי ברוב גדול את חוק ה-AI האירופי והוא צפוי להיכנס לתוקפו לקראת סוף חודש מאי וחלקים ממנו יכנסו לתוקף בתחולה נדחית.
החוק מייצג מהפכה ביחסן של מדינות האיחוד האירופי לתחום הבינה המלאכותית, ותחולתו רחבה ואינה מוגבלת רק לחברות שמקום מושבן באיחוד האירופי, אלא גם לחברות שבמוצרים שלהן נעשה שימוש במדינות האיחוד האירופי.
החוק מטיל מגבלות ואיסורים שונים על מערכות בינה מלאכותית, בהבחנה בין סוגי קטגוריות שונות: פלטפורמות בינה מלאכותית המייצרות סיכון "בלתי מקובל" ועליהן חל איסור גורף; מערכות המוגדרות "בסיכון גבוה", ועליהן חל מגבלות שונות (למשל, ניהול סיכונים ובקרת איכות מחמירה); וכן מערכות המוגדרות בסיכון "מוגבל" וסיכון "נמוך", עליהן חל מגבלות במדרג נמוך יותר. האיסורים והמגבלות על הקטגוריות השונות יוחלו באופן מדורג החל מכניסת החוק לתוקף ועד כשנתיים לאחר מכן. עם זאת, בתוך ששה חודשים מיום כניסת החוק לתוקף יוחלו איסורים משמעותיים על מערכות AI שהוגדרו ברמת הסיכון הגבוהה ביותר ("בלתי מקובל") בשטח מדינות האיחוד האירופי, בהם:
- איסור על שימוש בכלים תת-הכרתיים, אשר יש בהם כדי לפגוע ביכולת קבלת ההחלטות המודעת של המשתמשים, באופן שעלול לפגוע בעצמם או באחרים.
- איסור על ניצול חולשות של אדם או קבוצה בשל גיל, מוגבלות או מצב כלכלי כדי לעוות את ההתנהגות שלהם באופן שיוביל לפגיעה ממשית בהם או באחרים.
- איסור על סיווג בני אדם לקבוצות על סמך מידע ביומטרי כדי להסיק מסקנות רגישות לגביהם דוגמת גזע, נטייה מינית או דעה פוליטית.
- איסור על הערכה, מתן ציון או דירוג חברתי לקבוצת בני אדם על סמך התנהגות חברתית או תכונות אופי, כאשר אלו יובילו ליחס מפלה ולא צודק כלפיהן.
- איסור על הערכת סיכון לביצוע עבירות פליליות בידי בני אדם או קבוצות על סמך הפליה סטטיסטית, אלא אם קיימות עובדות מוכחות אשר מקשרות אותו אדם או קבוצה לפעילות פלילית.
- איסור על יצירת מאגרי זיהוי פנים באמצעות שימוש בתמונות מהאינטרנט או ממצלמות אבטחה.
- איסור על ניתוח או הסקת רגשותיו של אדם במרחב העבודה או במוסדות חינוכיים, אלא אם השימוש נעשה מטעמי בריאות או בטיחות.
בגדר מערכות בסיכון גבוה נכללות מערכות ביומטריות; מערכות שנועדו לשמש לצרכי בטיחות או ניהול של תשתיות קריטיות לרבות מערכות מכשור רפואי, מערכות שנועדו לצרכי חינוך, מערכות שנועדו לצרכי העסקה, ומערכות שנועדו לסייע לצריכה של שירותים ציבוריים ופרטיים חיוניים. מערכות אלו מחויבות, למשל, לכלול מערכות לניהול סיכונים בתחומי הבריאות, הבטיחות וזכויות אדם, וכן מערכות בקרת איכות אשר יבטיחו ציות להוראות החוק.
עוד יודגש, כי הפרת החוק חושפת את החברות המפעילות את מערכות הבינה המלאכותית לסנקציות כלכליות כבדות: כך, למשל, הפרת האיסורים שלעיל עלולה להוביל לקנסות בשיעור של עד 35 מיליון יורו או 7% מהמחזור השנתי של החברה, הגבוה מביניהם (מנגנונים דומים נקבעו גם בדברי חקיקה מקבילים של האיחוד האירופי כמו ה-GDPR, ה-DSA, וה-DMA).
בתקופה הקרובה צפויה הערכות רגולטורית לכניסת החוק לתוקף והיא תאפשר לחברות הפועלות במדינות האיחוד האירופי או מתוך שטחן להטמיע את הוראות החוק על פעילותן. אין ספק כי החוק האירופאי הוא אבן דרך משמעותית באסדרת התחום של בינה מלאכותית, ובעתיד הקרוב אנחנו צפויים לראות רגולציות נוספות ברחבי העולם.
השלכותיו הרגולטוריות של אישור החוק, והיבטים מרכזיים נוספים בתחומי הבינה המלאכותית, יידונו בכנס מטעם משותף של ארנון-תדמור לוי, מיקרוסופט ויועמ"שים למען יועמ"שים אשר ייערך ביום 18.3.2024.
הצוות המשפטי שלנו בארנון, תדמור-לוי בהובלת עוה"ד רואי קידר ונתנאלה טרייסטמן ערוך לסייע לחברות הפועלות בתחום או עושות שימוש בכלי AI כדי לוודא עמידתן בדרישות המתעדכנות.
פרסום זה מוגש כשירות כללי ללקוחות וידידי המשרד ואינו תחליף לעצה משפטית פרטנית. איננו ממליצים לפעול על פי המידע המובא לעיל ללא קבלת עצה משפטית מגורמים מוסמכים, בהסתמך על העובדות והנסיבות הספציפיות של כל מקרה.
