נכתב על ידי רואי קידר, נתנאלה טרייסטמן ואיתי פלור
לפני ימים אחדים פורסם דו"ח הביניים, של הצוות הבין-משרדי לבחינת שימושי הבינה המלאכותית במגזר הפיננסי שהוקם על ידי משרד המשפטים, ובו חברים נציגי הרגולטורים הפיננסיים המרכזים מהרשות לניירות ערך, רשות שוק ההון, רשות התחרות והפיקוח על הבנקים. דו"ח זה נועד לתת מענה לשינויים המשמעותיים שטכנולוגיית הבינה המלאכותית עתידה לייצר בפעילות הסקטור הפיננסי.
הדו"ח סוקר את ההזדמנויות והאתגרים שעולים מהשימוש בבינה המלאכותית במגזר הפיננסי ומציג עקרונות מנחים והמלצות לאסדרה המשפטית אשר תחול עליה, לרבות ביחס לשירותים פיננסים של ייעוץ השקעות, ניהול תיקים, פעילות אשראי ונושאי חיתום וביטוח. הקו המנחה בדו"ח הוא שהאסדרה בכל תחום צריכה להיקבע בהתאם לסיכון הכרוך בשירות או המוצר בו הוטמעה הבינה המלאכותית ובסיכונים הייחודיים אשר נלווים לשימוש בה, הן עבור המוסד הפיננסי והן עבור לקוחותיו או הציבור. עוד הודגש, כי אסדרת הבינה המלאכותית אינה מחליפה את הרגולציה הפיננסית והדין הכללי אלא חלה בנוסף להם.
הדו"ח מציע להגדיר "מערכת בינה מלאכותית" הפועלת בסקטור הפיננסי כ-"מערכת מבוססת מחשב, הפועלת בדרגות שונות של אוטונומיה, במטרה להפיק תוצרים כגון תוכן, תחזיות, המלצות או החלטות, אשר עשויה להיות לה השפעה על משקיעים, לקוחות, או על פעילותו של הגוף המפוקח."
עיקר ההמלצות הקבועות בדו"ח מתייחסות לצורך בהחלת חובות שונות על שימוש בטכנולוגיה של בינה מלאכותית במקומות בהם השימוש יכול לסכן את המשתמשים או הציבור. בין השאר, נקבעו בדו"ח ההמלצות הבאות:
- הסברתיות (Explainability) – הומלץ לקבוע חובת הסברתיות לגבי קבלתה של החלטה פרטנית ביחס ללקוח כאשר נעשה שימוש בבינה מלאכותית בעת קבלת החלטה בסיכון גבוה שמרעה עם הלקוח (למשל – דחיית בקשה לאשראי). בהתאם לדו"ח החלטה בסיכון גבוה היא מערכות בינה מלאכותית העוסקות בין היתר בניתוח מידע אישי של לקוחות ומשפיעות על השירות הניתן להם. כך לדוגמה, מערכת המשמשת לניתוח פרופיל הסיכון של לקוחות, ובהתאם בונה עבורם תיק השקעות מנוהל תחשב למערכת בסיכון גבוה.
- מעורבות אנושית – הומלץ לקבוע חובת בקרה ופיקוח שוטפת על פעילות מערכת בינה מלאכותית, אשר חלה על הגוף הפיננסי שעושה בה שימוש. כמו כן, הוצע לקבוע כי כאשר המערכת שולבה בקבלת החלטה בסיכון גבוה שמרעה עם הלקוח תידרש בנוסף גם בקרה ספציפית על ההחלטה לפני קבלתה או העברתה.
- חובת יידוע – הומלץ לקבוע חובת יידוע גלויה וברורה לצרכן בדבר השימוש במערכת בינה מלאכותית, אלא אם לצרכן ברור מאליו כי נעשה שימוש במערכת.
- מניעת הפליה – הומלץ לרגולטורים לקבוע הנחיות והוראות שיחולו על גופים מפוקחים ויחייבו לערוך בקרה למערכת בינה מלאכותית, לתעד את ממצאיה ולתקנם, במיוחד ביחס למאגרי הנתונים המשמשים לאימון הבינה המלאכותית, לאופן פעילותה ולתוצאות המתקבלות ממנה.
- אחריות – הובהר כי הגוף המפוקח אשר עושה שימוש בבינה מלאכותית, ובהתאם לרגולציה הפיננסית ייתכן שגם בעלי תפקידים בו, נושאים באחריות המשפטית על השימוש, אף אם הגוף המפוקח עשה שימוש במיקור חוץ. כן הומלץ לאסור על העברה או הגבלה של אחריות הגוף המפוקח ללקוח.
- פרטיות – הובהר כי דיני הפרטיות חלים על השימוש במידע באמצעות מערכת בינה מלאכותית, ובהתאם שימוש במידע אישי כפוף להסכמה מדעת מצד נושא המידע. הומלץ לאמץ כלים לצורך חיזוק דרישת ההסכמה מדעת, לרבות דרישה להסכמה חיובית (opt-in) לשימוש במידע עבור מתן שירות ספציפי בידי הבינה המלאכותית.
- ממשל בינה מלאכותית – הומלץ לרגולטורים לקבוע כללים וחובות שיחולו על שימוש במערכות בינה מלאכותית בידי גופים מפוקחים. בין היתר, הוצע לייצר, להטמיע ולעדכן מעת לעת מסמכי מדיניות ונהלים לבחינה, מיפוי, בקרה, ניהול ושימוש במערכות בינה מלאכותית, לרבות הסיכונים הנובעים מהן ודרכי ההתמודדות עמן.
לצד ההגבלות והחובות אשר הוצעו בדו"ח, נקבעו גם כלים ופרקטיקות אשר יעודדו את השימוש בה במגזר הפיננסי, למשל:
- שימוש בארגזי חול רגולטוריים – הוצע לאפשר לרגולטורים לייסד תוכניות ניסוי מוגבלות בזמן אשר יאפשרו לגופים המפוקחים לפתח ולהטמיע מערכות בינה מלאכותית תחת דרישות רגולטוריות מופחתות ובכפוף לפיקוח רגולטורי שוטף.
- ייסוד מאגרי מידע פיננסיים – הפיתוח והשימוש בבינה מלאכותית כפוף לקיומו של היקף רב של מידע רלוונטי ואמין שמאפשר לאמן את המודלים. מאחר וגופים פיננסיים קטנים או חדשים אינם חשופים למידע ולנתונים הדרושים, הוצע להקים ולהנגיש מאגרי מידע עליהם יוכלו להתבסס בעת הפיתוח וההטמעה של מערכות בינה מלאכותית.
הדו"ח הוא אבן דרך בגיבוש מדיניות רגולטורית עדכנית לטכנולוגיה של בינה מלאכותית, ולמעשה הוא קריאת הכיוון הראשונה שמנסה לתרגם לצעדים פרקטיים את המדיניות של הרגולטורים הפיננסיים. בשלב זה, פורסם הדו"ח להערות הציבור עד ליום 15.12.2024.
צוות טכנולוגיות מתקקדמות ו-AI, בהובלת עוה"ד רואי קידר ונתנאלה טרייסטמן, ערוך לסייע לחברות וארגונים אשר מפתחים, מטמיעים, משתמשים או נערכים להשתמש בבינה מלאכותית כחלק מפעילות העסקית שלהם, בין במגזר הפיננסי ובין בכלל.
פרסום זה מוגש כשירות כללי ללקוחות וידידי המשרד ואינו תחליף לעצה משפטית פרטנית. איננו ממליצים לפעול על פי המידע המובא לעיל ללא קבלת עצה משפטית מגורמים מוסמכים, בהסתמך על העובדות והנסיבות הספציפיות של כל מקרה.
