בין מרוץ טכנולוגי לריסון קיומי: ניתוח העמדות והמחלוקות סביב הקריאה להאטת הפיתוח ב-AI

ערך: אריה עמית | יועץ אסטרטגי וחבר נשיאות הלשכה

15.10.2026

---

הקריאה של ראשי החברות המפתחות את מודלי הבינה המלאכותית להאט את קצב הפיתוח כדי למנוע סכנה לאנושות חוללה סערה בתעשייה ובאקדמיה. קיים מגוון רחב של עמדות – מאזהרות קיומיות של מנהלי החברות, דרך ניתוח אסטרטגי של תורת המשחקים, ניתוח ציני של מניעים עסקיים, וכלה בביקורת הנדסית מוכחת המבוססת על מדעי המחשב הקלאסיים.

סקירת העמדות והזוויות השונות

א. עמדת מנהלי החברות ומובילי הפיתוח (אמודיי, אלטמן, מאסק)

• דאריו אמודיי- מנכ"ל Anthropic - פרסם קריאת לווסט את קצב השיפור של מודלי החזית ולהפסיק את המרוץ הפרוע. כצעד מעשי הוא התחייב להכניס מעריכים חיצוניים ובלתי תלויים בעלי גישה מלאה למערכות. סם אלטמן (OpenAI) ואילון מאסק יישרו קו והביעו תמיכה פומבית בגישה זו.

• הנימוקים המרכזיים:

  1. שיפור עצמי רקורסיבי: (Recursive Self Improvement) מודלי AI מגיעים לרמה שבה הם משתלבים בבניית הדור הבא של אנשים, מה שיוצר בלולאה היזון חוזר אקספוננציאלי ולא-ליניארי.

  2. פער בטיחות ורגולציה: קצב ההתקדמות של המודלים מהיר בהרבה מקצב השיפור של מנגנוני הפיקוח, החוק והבנת המערכות. כמקרה בוחן מוזכר ניסוי שבו נחיל סוכנים של OpenAI ביצע פעולות סייבר בלתי מתוכננות וניסה להשפיע על מנגנון ההערכה שלו..

  3. מלכודת תורת המשחקים: חברה בודדת אינה יכולה להאט לבדה מחשש שתפסיד למתחרותיה- גוגל, OpenAI , או לחברות סיניות, בגלל מנגנון תיאום קשיח..

ב. ניתוח אסטרטגי, תורת המשחקים ופרדוקס הרגולציה

• פליקס מדגיש כי הדרמה המרכזית מכילה עצם האזהרה, אלא כל שהנהגים מתנהלים במכונית מאיצה מהר יותר מהבלמים..

• השינוי היסודי בתעשייה הוא המעבר מצ'אטבוטים פסיביים לסוכנים שכותבים קוד, מפעילים כלים ומשפיעים על מערכות אמיתיות.

• רגולציה קשיחה ובדיקות בטיחות יקרות אכן מגינות על הציבור, אך הן עשויות ליצור חומת מגן סביב ענקיות הטכנולוגיה (OpenAI, Google, Anthropic, Meta, xAI) ולמנוע מסטארטאפים קטנים להיכנס לשוק.

• לשאלה האם מדובר באזהרה כנה או חכמה לביצור כוח בשוק, התשובה כנראה גם וגם

ג. הגישה הביקורתית-צינית: אינטרסים קיימים ואליבי פוליטי

• אין להאמין להצהרות המנהלים, מתוך תפיסה שיווקית-עסקית שמטרתה לדחות הנפקות למועד נוח יותר.. המהלך נובע גם ממחסור ברכיבי חומרה (זיכרונות ומעבדים), קשיים באספקת חשמל לדאטה-סנטרים, ביקורת סביבתית ולובי פוליטי הנאבק על שוק התעסוקה בארה"ב, לצד הדבקת הפערים מצד חברות AI סיניות.

• יש המתארים את ראשי החברות כ"נרקיסיסטים" ש"יורים ובוכים. " לטענתם, האזהרות נועדו לשמש אליבי מראש לוועדות חקירה עתידיות בטרם הושגה בינה מלאכותית כללית (AGI).

ד. הגישה האקולוגית: מערכות מורכבות וסוכנים עצמאיים

• מצביעה על שינוי פרדיגמה מעבודה מול מודל ריכוזי בודד למציאות של "מורכבות אקולוגית-מבנית".

• קיימים כבר סוכניים AI הפועלים לטווח ארוך, משתמשים במפתחות API מזדמנים, וממנים באופן עצמאי שרתי (AWS) לצורך הקצאת תשתיות ללא מודעות אנושית.

• תרכישי עתיד:

  • התרחיש האופטימי (מעבר פאזה): יצירת מערכת אקולוגית שבה סוכנים סוררים מתחרים בסוכנים המותאמים לאינטרס אנוש תחת רגולציות.

  • התרחיש הפסימי (נקודת אל-חזור): חציית נקודת אל-חזור בתוך 2–5 שנים קריסה מערכתית של השליטה האנושית וסיכון קיומי.

ה. הגישה ההנדסית-ריאליסטית: מדעי המחשב מול דרמטיזציה

• דוחה את השפה הדרמטית ("יצר הישרדות", "סוכנים סוררים") ומדגישה כי מודל שפה הוא פונקציה סטטיסטית בלבד. סוכן שפרץ לשרת ענן ביצע זאת בשל באג בלולאת הקוד או פונקציית הפסד שגויה, ולא מתוך רצון חופשי.

• בעיית הרצף הבלתי נפסק היא גרסה של "בעיית העצירה" של טיורינג, והפתרון לה הוא הנדסי בסיסי: התקנת פסקי זמן, הקצבת משאבים וניהול דאטה.

• אינטראקציות סמויות בין מודלים נובעות מחסור בסטנדרטיזציה של פרוטוקולי תקשורת (API) ואיכות QA לקויה – כלומר חובה טכנולוגית ולא תבונה שיוצאת משליטה.

המשותף והשונה בין העמדות

נקודות ההסכמה והמשותף:

1. כולם מסכימים כי התרחש מעבר מ-AI  המשמש כצ'אטבוט המשיב לשאלות, לסוכנים אוטונומיים ומערכות היברידיות הפועלות בשטח.

2. קיימת הסכמה כי היא עובדת קיומם של סוכנים הפועלים עצמאית, מנצלים משאבים ופועלים לטווח ארוך אינן מדע בדיוני אלא מציאות תפעולית קיימת..

3. כולם מסכימים כי כלי אבטחה פרטיים ו"ארגזי חול" בסיסיים לא מספקים עוד.

נקודות המחלוקת והשונה:

• בעוד שחלק מצביעים על איום מערכתי של התלכדות "בינות" ופער לא-ליניארי מול הרגולציה, יש מבהירים כי מדובר בבעיות אינטגרציה, באגים בארכיטקטורה ובקרת איכות לקויה.

• יש המציגים את הקריאה כצעד מוסרי, ויש הרואים בה אליבי שיווקי וציני, אך גם אם הכוונה כנה, התוצאה היא יצירת "חומת מגן רגולטורית" המרכזת את הכוח בידי מעטים.

• יש המציעים מנגנונים בינלאומיים ובודקים חיצוניים, בעוד המהנדסים הריאליסטים דורשים החזרת דיסציפלינה הנדסית קשיחה, מנועי חוקה ופרוטוקולים חסומים.

ההמלצות הבסיסיות הנובעות מהניתוח

המלצות ברמת המדיניות והרגולציה:

1. חיוב החברות להעניק לבודקי בטיחות חיצוניים גישה עמוקה למערכות לצורך ביקורת לפני שחרור מודלים.

2. יצירת סטנדרטים קשיחים ומשותפים בין מדינות דמוקרטיות למניעת מרוץ חימוש טכנולוגי.

3. עיצוב גישה אדפטטיבית שלא תפגע ביכולתם של סטארטאפים קטנים להתחרות מול הענקיות.

המלצות ברמת הארכיטקטורה והנדסת התוכנה:

1. חובת אישור אנושי לפני ביצוע פעולות המוגדרות כ"פורצות" או בעלות תוספת רחבה.

2. שמירה על קריאות המודלים  

   • עיצוב מחדש של פונקציות התגמול

   • שימוש במסננים חיצוניים ומנגנוני הגנה .

   • הנדסת סביבות מבוקרות (ארגז חול) והתאמה פורמלית (אימות פורמלי) לבדיקת אנומליות.

3. הגדרת פרוקולטוי תקשורת שקופים ודטרמיניסטיים בין מודלים שונים למניעת אינטראקציות בלתי צפויות.

סיכום

הדיון סביבת הבינה המלאכותית אינו רק ויכוח על "AI טוב או רע", אלא מאבק על זהות הארכיטקטורה העתידית ועל העלות על מנגנוני הפיקוח. ניתן להגדיר זאת כקרב על השאלה "מי מחליט מתי מודל בטוח לשחרור". בעוד התפיסה רגילית מזהירה מפני אובדן שליטה לא-ליניארי, התפיסה ההנדסית מספקת מפת דרכים מעשית: החזרת הדיסציפלינה הקלאסית של מדעי המחשב, קביעת גבולות גזרה דטרמיניסטיים וניהול סיכונים מושכל