פרסום הדו"ח הסופי בנושא בינה המלאכותית במגזר הפיננסי
בהמשך לפרסום דו"ח הביניים בנושא בינה מלאכותית במגזר הפיננסי בחודש נובמבר 2024, שעל עיקריו עמדנו בעדכון לקוחות, ביום 24.12.2025 פרסם הצוות הבין-משרדי לבחינת שימושי הבינה המלאכותית במגזר הפיננסי את הדו"ח הסופי. במסגרת הדו"ח הסופי בוצעו מספר עדכונים בעקבות הערות הציבור לדו"ח הביניים.
היות ועיקרי הדו"ח (אשר נסקרו בהרחבה בעדכון הלקוחות הראשוני) נותרו ללא שינוי, עדכון לקוחות זה עומד בתמצית על עיקרי השינויים בדו"ח הסופי.
הגדרת "מערכת בינה מלאכותית" – דו"ח הביניים הגדיר "מערכת בינה מלאכותית" כ- "מערכת מבוססת מחשב, הפועלת בדרגות שונות של אוטונומיה, במטרה להפיק תוצרים כגון תוכן, תחזיות, המלצות או החלטות, אשר עשויה להיות לה השפעה על משקיעים, לקוחות, או על פעילותו של הגוף המפוקח". בדו"ח הסופי ההגדרה נותרה ללא שינוי, אך הוצע לאפשר לרגולטורים לקבוע הנחיות, שלפיהן גופים מפוקחים יוכלו להכריע כי מערכת מחשב מסוימת, לפי מהותה, איננה "מערכת בינה מלאכותית".
חובת הסברתיות (Explainability) – על דרך הכלל, חלה חובת הסברתיות על החלטות פרטניות בעניינו של לקוח כאשר נעשה שימוש במערכות בינה מלאכותית לקבלת החלטות בסיכון גבוה שמרעה עמו (דוגמת דחיית בקשה למתן אשראי). הדו"ח הסופי מכיר באפשרות להחיל חובת הסברתיות חלקית במקרים בהם אפשר להסביר את המשקל שניתן לרכיבים השונים שהיוו בסיס לקבלת ההחלטה בעניינו של הלקוח או שניתן לפרט את הנתונים הדומיננטיים שהשפיעו על תוצאת ההחלטה. חריג נוסף לחובת ההסברתיות חל כאשר המערכת אינה רכיב מהותי בתהליך קבלת ההחלטה (למשל – אם שימשה לסידור המסמכים או המידע עליהם התבססה ההחלטה).
מעורבות אנושית (Human In-the-Loop) – דו"ח הביניים קבע, כי החלטות שהוגדרו כבעלות סיכון גבוה או השלכות משמעותיות עבור הפרט לפי קריטריונים כמו מהותיות ההחלטה והסיכון לפרט שגלום בטעות בה, מחייבות בקרה אנושית לפני קבלת ההחלטה או העברתה. הדו"ח הסופי מבהיר, כי מעורבות אנושית נדרשת כאשר לא נקבעו חלופות מפצות הולמות דוגמת יכולת הסברתיות מספקת או מתן אפשרות להשיג בדיעבד על ההחלטה.
חובת יידוע – הובהר, כי יש לקבוע חובת יידוע כאשר לקוח עשוי לטעות ולחשוב כי הוא מקיים אינטראקציה עם אדם ולא עם מערכת בינה מלאכותית. בנוסף, צוין כי במסגרת חובות הגילוי הקיימות בקשר עם שירותים פיננסיים יש להתייחס גם למאפייניה הייחודיים של מערכת הבינה המלאכותית (דוגמת המידע שעליו אומנה). עוד נקבע, כי כאשר מוצר או שירות ניתן הן באמצעות מערכת בינה מלאכותית והן על ידי גורם אנושי, יש ליידע את הלקוח על שתי האפשרויות.
דיני פרטיות – נקבע כי דיני הפרטיות חלים גם על שימוש במידע באמצעות מערכת בינה מלאכותית. כמו כן, הומלץ לנקוט באמצעים שונים כדי לבסס הסכמה מדעת של נושאי מידע לשימוש במידע אישי לטובת פיתוח או שימוש בכלי AI, כגון התממה-אנונימיזציה של מידע, גילוי ספציפי בדבר השימוש המתוכנן במידע האישי ודרישה להסכמה חיובית (Opt-in) כאשר השימוש במידע חורג מהמטרה הראשונית לשמה נאסף.
ממשל בינה מלאכותית – הדו"ח הסופי מותיר על כנה את ההמלצה לקבוע ולהטמיע בארגון מנגנוני ממשל בינה מלאכותית וממשל נתונים אשר ילוו את השימוש בכלי בינה מלאכותית. עוד נקבע, כי המנגנונים שלעיל יותאמו לרמת הסיכון שמערכות הבינה המלאכותית משקפות ללקוח, למשקיעים ולארגון.
בסיווג רמת הסיכון הנשקפת לגופים המפוקחים, למשקיעים וללקוחות מהשימוש בכל כלי AI טמונה חשיבות רבה, שכן ממנו נגזר אופי ותוכן ההמלצות הקבועות בדו"ח. בהקשר זה, בדו"ח הסופי הוצע להטיל את מלאכת הסיווג על הגוף המפוקח עצמו, תוך הכרה בסמכות הרגולטורים לקבוע כללים בקשר עם הליך הסיווג או לסווג מערכות בינה מלאכותית בעלות מאפיינים ספציפיים כמערכות בסיכון גבוה.
פרסום הדו"ח הסופי הוא צעד משמעותי נוסף להבהרת המסגרת המשפטית המחייבת גופים פיננסיים מפוקחים, ויש להניח שבעתיד הקרוב נראה את הרגולטורים הרלוונטיים מאמצים חלק מההמלצות הקבועות בו ומיישמים אותן.
כצעד מקדים, מומלץ כי גופים פיננסים מפוקחים (ובמידה רבה גם גופים פיננסיים שנותנים שירותים לגופים פיננסיים מפוקחים) ינקטו בפעולות הבאות במסגרת ההיערכות ליישום הדו"ח:
יערכו מיפוי ראשוני של כלי ה-AI שבהם נעשה שימוש בארגון והצורך לשמו הם משמשים;
יישמו מתודולוגיה להערכת הסיכון הנשקף מהשימוש בכלים אלו;
יבחנו את חובות הגילוי הנדרשות משימוש בכלים כאלו ללקוחותיהם;
יקחו בחשבון את הצורך בהסברתיות ללקוחות ביחס לתוצרים של כלי הבינה המלאכותית;
יבחנו שילוב מנגנונים של בקרה על השימוש בכלים אלו, וכן יבחנו אילו החלטות עלולות לשנות את מצב הלקוחות לרעה בשל השימוש בכלים אלו, לרבות בהיבטים של הפליה והטיות;
יבחנו את מידת ההסכמה של לקוחותיהם לעיבוד מידע באמצעות כלי בינה מלאכותית בהתאם לסוג המידע, עקרון צמידות המטרה, ותוך צמצום הסיכון לפרטיות;
יעדכנו בהתאם את תנאי השימוש שלהם ומדיניות הפרטיות כדי להתאים אותם לשימוש במערכות בינה מלאכותית, ככל שללקוחות הקצה יש ממשק איתן.
יגבשו ויטמיעו מדיניות בינה מלאכותית ארגונית מקיפה בהתאם לדגשים שנקבעו בדו"ח.
צוות טכנולוגיות מתקדמות ובינה מלאכותית בארנון, תדמור-לוי זמין לסייע ולייעץ בנושאים אלו.
קראו עוד
