כשהמפתחים מבקשים ללחוץ על הבלמים
מאת: יאיר אבידן | עמית מחקר בכיר, המכון למדיניות ואסטרטגיה – (IPS), אוניברסיטת רייכמן; לשעבר המפקח על הבנקים
11.10.2026
כאשר האנשים המובילים את מרוץ הבינה המלאכותית מבקשים להאט אותו, ראוי להקשיב. כאשר הם גם מתחרים זה בזה על הון, חוקרים, כוח מחשוב והשפעה עולמית, ראוי לשאול שאלה נוספת: מי יקבע את קצב הנסיעה ומי יהיה על הבלמים?
דריו אמודיי, מייסד ומנכ״ל Anthropic, פרסם לאחרונה מאמר שכותרתו "We Must Pace the Frontier" שהמסר המלווה אותו שעלינו למתן את קצב ההתקדמות בחזית הבינה המלאכותית. סם אלטמן, מייסד ומנכ״ל OpenAI, הביע תמיכה והודיע כי בכוונת החברה לאמץ את הצעת אמודיי ולאפשר לבוחנים עצמאיים גישה עמוקה ומתמשכת למערכותיה. אילון מאסק, מייסד xAI, הצטרף אף הוא לקריאה, וגם דמיס הסביס, מנכ״ל Google DeepMind, תמך בצורך במסגרת משותפת של תקני בטיחות.
בסוף חודש ספטמבר, עברה הקריאה הזו שלב נוסף. בפגישה בבית הלבן חתמו ראשי חברות הטכנולוגיה והבינה המלאכותית המובילות על התחייבות משותפת לבקרות פנימיות, לביקורת חיצונית ולפיקוח ברמת הדירקטוריון על מערכות AI מתקדמות. זהו צעד חשוב לפיו התעשייה עצמה מכירה בכך שלא די במהירות הפיתוח ובכוחות השוק. אבל ההסכמה וולונטרית ואינה מחייבת משפטית: אין בצדה כיום מנגנון אכיפה ציבורי או סנקציה על הפרתה. לכן המבחן האמיתי יהיה אם היא תהפוך לתשתית למשילות ציבורית אפקטיבית או דווקא לתחליף שנוח לה.
. לכן המבחן האמיתי יהיה אם היא תהפוך לתשתית למשילות ציבורית אפקטיבית או דווקא לתחליף נוח לה.
יש התלכדות פומבית וחריגה סביב ההכרה כי הטכנולוגיה עלולה להתפתח מהר יותר מיכולתנו להבין אותה, להסדיר אותה ולהגן מפני תוצאותיה. העובדה שאנשים המצויים בלב המערכת משמיעים את האזהרה אינה הוכחה שהתחזיות הקודרות ביותר יתממשו, אך היא בהחלט סיבה להתייחס אליהן ברצינות.
ימים אחדים קודם לכן התפטר ג׳ייקוב קוקסון, חוקר שעבד ב-OpenAI וב-Anthropic, הטוען כי החברות דוהרות לעבר בינה על-אנושית המסוגלת לשפר את עצמה, בלי שהושגה עדיין שליטה מספקת בהתנהגותה. לדבריו, אנשים העוסקים בפיתוח מאמינים שמערכות כאלה עלולות אף להביא להכחדת האנושות עד סוף העשור. אוון האבינגר, העוסק בהובלת תחום התאמת מערכות הבינה המלאכותית למטרות אנושיות ב-Anthropic, העריך בנפרד כי קיים סיכון של יותר מעשרה אחוזים שבינה מלאכותית תביא למותם של כל בני האדם בעשור הקרוב.
אלה הערכות סובייקטיביות ובהחלט ייתכן שחלקן מופרזות, אך כאשר דברים כה קיצוניים נאמרים בידי אנשים המכירים את המערכות מבפנים, קשה לפטור אותם כמדע בדיוני.
הבינה המלאכותית היוצרת, ובעיקר הבינה הסוכנתית (אג'נטית) המסוגלת לתכנן ולבצע רצף פעולות, פותחת אפשרויות עצומות. היא עשויה להאיץ מחקר רפואי ומדעי, לשפר את החינוך, להנגיש ידע ושירותים, לחזק את הפריון ולאפשר ליחידים ולעסקים קטנים יכולות שהיו בעבר נחלתם של תאגידים גדולים. היא יכולה להיות אחד ממנועי הצמיחה המשמעותיים של העשורים הקרובים.
לצד התועלות - ישנם גם מחירים. לפי ארגון העבודה הבינלאומי, אחד מכל ארבעה עובדים בעולם מועסק במקצוע החשוף במידה כלשהי לבינה מלאכותית יוצרת. החשיפה אינה בהכרח אובדן משרה; במקרים רבים היא עשויה לשפר את העבודה ואת הפריון. אך היא עלולה גם לצמצם משימות ומקצועות, לפגוע במיוחד בעובדים בתחילת דרכם ולהגדיל את התמורה להון על חשבון העבודה. מי שכבר מחזיק בנתונים, בתשתיות ובמיומנויות ייהנה ממכפיל כוח, ואילו עובדים, עסקים ומדינות שלא נערכו בזמן עלולים להישאר מאחור.
לסיכונים הכלכליים מצטרפים סיכוני סייבר, מניפולציה, מידע כוזב, פגיעה בפרטיות, שימוש לרעה ביכולות ביולוגיות ומערכות המבצעות פעולות שמפתחיהן לא ביקשו ולא צפו. אמודיי אינו מציע לעצור את הפיתוח. הוא מבקש למתן את קצב שיפור היכולות כדי לאפשר למחקר הבטיחות, לבדיקות החיצוניות ולמוסדות הציבוריים להדביק את הקצב. הצעתו כוללת בוחנים עצמאיים בעלי גישה מתמשכת לחברות, תיאום בין מפתחי המודלים המתקדמים במדינות הדמוקרטיות ובהמשך גם הבנות רחבות יותר עם מדינות אחרות, לרבות סין.
אפשר להאמין שמנהיגי החברות מונעים מדאגה כנה. הם מכירים מקרוב את היכולות המתפתחות ואת הפער בין מה שהמערכות מסוגלות לבצע לבין יכולתנו להסביר את פעולתן ולשלוט בהן. אבל אי אפשר להתעלם גם מן האינטרסים שלהם. כללי בטיחות מורכבים ויקרים עשויים להגן על הציבור, אך גם ליצור חומת כניסה שרק החברות הגדולות מסוגלות לעבור. מי שמוביל את השוק עלול להשתמש ברגולציה כדי לקבע את יתרונו ולהרחיק מתחרים.
בכל ענף אחר, תיאום בין חברות כה חזקות היה מעורר בחינה קפדנית מצד רשויות התחרות. בתחום הבינה המלאכותית ייתכן שתיאום מוגבל ושקוף נדרש כדי למנוע מרוץ לתחתית, אך הוא חייב להתקיים במסגרת ציבורית. שיתוף מידע על תקריות, איומים ומבחני בטיחות יכול לשרת את הציבור; תיאום המגביל תחרות או מאפשר למפוקחים לכתוב לעצמם את הכללים עלול ליצור סכנה חדשה.
זהו כשל שוק המחייב התערבות. החברה המפתחת מודל מתקדם נהנית מן ההכנסות ומהשווי שהוא יוצר, בעוד שחלק מן הסיכונים מוטלים על הציבור. היא אינה נושאת לבדה במחיר של פגיעה בתעסוקה, מתקפת סייבר רחבת היקף, שחיקת האמון הציבורי או שימוש עוין בטכנולוגיה. כאשר הרווח פרטי והסיכון עלול להפוך לציבורי ומערכתי, רגולציה אינה מכשול לחדשנות. היא תנאי לקיומה לאורך זמן.
המורכבות גדלה משום שאין מדובר בעוד מוצר טכנולוגי. הבינה המלאכותית נשענת על שבבים, ענן, מרכזי נתונים, חשמל, מים והון עתק; ובה בעת היא משתלבת במערכות ממשלתיות, ביטחוניות, פיננסיות ובריאותיות. המדינות תלויות בחברות לצורך חדשנות ויכולות לאומיות, והחברות תלויות במדינות לצורך אנרגיה, תשתיות, רישיונות, הגנה ולגיטימציה. התלות ההדדית הזאת מעניקה למספר קטן של תאגידים כוח כלכלי, תשתיתי ואף מדיני.
המענה צריך להיות מדורג לפי הסיכון. אין מקום להטיל על יישום פשוט בעסק קטן את אותן דרישות החלות על מודל מתקדם המסוגל לפעול באופן עצמאי, לפתח תוכנה או לחדור למערכות. דווקא בחזית נדרשים מבחני בטיחות מחייבים לפני הפצה, בוחנים עצמאיים, דיווח מיידי על תקריות, תיעוד של תהליכי הפיתוח וסמכות ציבורית לעכב שימוש כאשר נשקפת סכנה ממשית.
ברמה הבינלאומית נדרשים תקני מינימום משותפים ומנגנוני בדיקה הדדיים. הסכמה עולמית מלאה לא תושג במהירות, אך הקושי אינו יכול לשמש תירוץ לחוסר מעש. אפשר להתחיל בתיאום בין מדינות דמוקרטיות ובין הרשויות הקיימות, תוך חתירה להסכמות רחבות יותר גם עם סין. במקביל, על כל מדינה לבנות רגולטור עצמאי, מקצועי ומתוקצב היטב. ניתן לשקול השתתפות של החברות העומדות בחזית במימון הפיקוח, באמצעות אגרות או היטלים, אך בלי לפגוע בעצמאות הרגולטור.
הפיקוח אינו יכול לעסוק רק בבטיחות הטכנולוגית. עליו להגן גם על התחרות, הפרטיות וזכויות העובדים, ולהבטיח שפירות הפריון יתחלקו באופן רחב יותר. נדרשת השקעה בחינוך, בהכשרה לאורך החיים, ברשתות ביטחון ובהנגשת הטכנולוגיה לעסקים קטנים ולמערכת הציבורית. הצלחת הבינה המלאכותית אינה נמדדת רק ביכולות המודל או בשווי החברות, אלא גם בתרומתה לרווחה, להזדמנויות ולאמון.
בהחלטות המשפיעות על חיים, זכויות, ביטחון או גישה לשירותים חיוניים חייבת להישמר מעורבות אנושית אמיתית: היכולת להבין, להתערב, לעצור, לתחקר ולהטיל אחריות. אדם המאשר בדיעבד החלטה שלא היה מסוגל לבחון אינו באמת נמצא בתהליך.
גם ישראל אינה יכולה להסתפק בצפייה מן הצד. מדינה המבקשת להוביל בבינה מלאכותית חייבת להשקיע לא רק במפתחים, בחברות ובמרכזי נתונים, אלא גם במוסדות, ברגולטורים ובממשל ראוי. חדשנות ללא יכולת פיקוח עלולה להפוך מיתרון לאומי לתלות לאומית.
הקריאה העולה מתוך התעשייה צריכה להיות נקודת פתיחה, לא תחליף למדיניות ציבורית. נכון להקשיב לאנשים שבונים את המנוע, אך אסור להפקיד בידיהם לבדם גם את תכנון הדרך, קביעת המהירות והפעלת הבלמים.
הבינה המלאכותית תמשיך להתקדם. האחריות שלנו היא להבטיח שהאנושות תמשיך לקבוע לאן.
תגובות