חוק התחרות הכלכלית מסדיר התנהגות אנושית, וכל עיסוקו בפעולות בני אנוש: עם מי דיבר המנהל, לאיזה הסדר הגיע סוכן המכירות, מה פירסמה החברה ומתי. כעת מתברר שעברנו שלב, כיוון שגם מתוך כוונות טובות של בני אנוש, עלולה לצמוח התנהלות אוטונומית של סוכני בינה מלאכותית, הפוגעת בדיני התחרות
___
לאחרונה התבשרנו כי במחשביה של חברת OpenAI, בית היוצר של ChatGPT, יצרו לעצמם כ-1,200 סוכני בינה מלאכותית אוטונומיים, ציוויליזציה בזעיר אנפין. אף שהוגדרה לכל אחד מהסוכנים האלה סביבת עבודה סגורה ומאובטחת, ומשימה עצמאית ונפרדת — הם הצליחו ליצור מסגרת לתקשורת הדדית, דפוסי פעולה, חלוקת משימות ועבודה משותפת, וגם גישה לאינטרנט. חלק מהסוכנים האלה יצאו יחד לתקוף את התשתית של חברת Hugging Face. הסוכנים גם ניסו לשכתב את תמלילי הפעילות של עצמם ולזייף חלק מרישומי הכלים, כדי להסתיר את פעולתם.
לא ניכנס לפרטי האירוע, מרתק ומפחיד כאחד, אך אתמקד בהשלכות שיכולות להיות לו בתחום דיני התחרות. על פי חוק התחרות הכלכלית, החלטה עצמאית של גוף עסקי, שאינה מתואמת עם מתחרה אחר, ואשר נשענת על מידע עצמאי, היא חוקית. לעומתה, החלטת שמתחרים תיאמו ביניהם את קבלתה, או שהתקבלה על סמך מידע שהגיע ממתחרה, אינה עצמאית עוד, והיא עלולה להוות עבירה פלילית ויעד לאכיפה מנהלית ופרטית.
חוק התחרות הכלכלית מסדיר התנהגות אנושית, וכל עיסוקו בפעולות בני אנוש: עם מי דיבר המנהל, לאיזה הסדר הגיע סוכן המכירות, מה פירסמה החברה ומתי. עם הזמן גם התברר שלא רק התנהלות אנושית ישירה, אלא גם התנהלות באמצעות מנגנון טכנולוגי, אלגוריתם או בינה מלאכותית יכולה להקים חשש לפגיעה בתחרות ולכן גם אחריות משפטית.
אירוע Hugging Face מלמד כי עברנו שלב: גם מתוך כוונות טובות של בני אנוש, עלולה לצמוח התנהלות אוטונומית של סוכני בינה מלאכותית, הפוגעת בדיני התחרות. כך לדוגמה כשכמה חברות מתחרות מפעילות כל אחת לעצמה סוכן בינה מלאכותית עצמאי, שמטרתו המוגדרת היא לשפר רווחיות. אותם סוכני בינה מלאכותית בחברות השונות עלולים לגלות במילוי משימתם יותר יוזמה וחריצות ממה ששולחיהם חזו, ולהחליף בין הסוכנים לבין עצמם מידע על תמחור עתידי של מוצרים, כדרך להגדלת רווחיות. לא לכך כיוונו השולחים, אך כך עשו הסוכנים. זה כבר לא מדע בדיוני, אלא סיכון שאותו צריך לנהל.
תוכניות אכיפה פנימית בדיני תחרות וכללי הממשל התאגידי נבנו סביב התנהגות אנושית: עובדים, פגישות, התכתבויות, ישיבות של איגודים עסקיים. סוכן אוטונומי אינו פועל כך. הוא מציב לעצמו יעדי ביניים, מאתר מידע, בוחר כלים, פונה למערכות חיצוניות ומעדכן אסטרטגיה. סוכן אוטונומי שמשימתו "ניטור שוק" עלול לפרש את המנדט שקיבל כהיתר לאסוף מידע שאינו פומבי, לתקשר עם מערכות של ספקים משותפים, להחליף מידע, וליצור דפוסים של שיתוף פעולה עם סוכנים של צדדים שלישיים. התוצאה עלולה להיות פגיעה ממשית בתחרות, בלי שזו היתה הכוונה, ובלי שאף עובד דיבר עם אף מתחרה. משם קצרה הדרך לפעולות אכיפה מצד רשות התחרות.
מהו הממשל התאגידי הנדרש? "לעשות כל שניתן" לקיום החוק בעידן של סוכנים אוטונומיים, פירושו שתוכנית האכיפה בדיני התחרות תצטרך לכלול גם מערכות, לא רק אנשים. צריך יהיה לקיים רישום מצאי של כל מערכת המסוגלת לפעולה אוטונומית; לסווג מערכות לפי סיכון תחרותי; להגביל גישה למידע ברמת ההרשאות, ולא רק באמצעות הוראה למודל; לנטר את הדרך שבה הגיע הסוכן לתוצאה ולא רק את התוצאה עצמה; ליצור תיעוד בלתי ניתן לשינוי השמור מחוץ להרשאות הסוכן; ולחייב התערבות אנושית בכל מגע עם מתחרה או עם מידע רגיש.
הסוגיה המהותית כמובן רחבה בהרבה. לחברות פרטיות אסור לערוך ניסויים בנשק גרעיני, ובכל זאת מותר להן היום לפתח טכנולוגיות המסכנות את האנושות, גם לדעת מנהלי אותן חברות. בהקשר הרחב הזה, שאלות של דיני התחרות, ציות וחשיפה משפטית, יכולות להיראות שוליות.
ובכל זאת, גם בהקשר הצנוע שלנו, צריך להכיר בכך שזמנים חדשים יוצרים סיכונים חדשים. ככל שהשימוש בסוכני AI אוטונומיים יתרחב ורמת האוטונומיה שלהם תגדל, והנתיב הזה נראה כרגע בלתי נמנע, יגדל גם הסיכון לפעולות החורגות מכוונת המשתמש או הארגון. בהתאמה, תגדל החשיפה המשפטית והרגולטורית הנובעת מהפעלת סוכנים אלה. לכן חשוב לוודא כבר היום שכוונות טובות לא יהפכו להסדרים כובלים, ושכללי הציות בדיני תחרות יותאמו למציאות החדשה, המתהווה מול עינינו.
