סימן מים, כתם חשד
מאת: פרופ ליאור זלמנסון
באדיבות הקתדרה במוז״א ופרופ׳ ליאור זלמנסון, במסגרת הסדרה ״בינה בזמן אמת-עונה חדשה!״ - חדשות ועדכונים שוטפים על עולמות הבינה המלאכותית
18.09.2026
אנתרופיק הודיעה שטקסטים של קלוד יישאו בקרוב סימן מים. לא מדובר בחותמת נראית לעין, אלא במעין צופן סמוי שמסתתר באופן שבו התוכנה בוחרת מילים. דמיינו שבכל פעם שהמערכת יכולה לבחור בין מילים דומות, למשל "שמח" או "מאושר", היא מתוכנתת להעדיף בעקביות אחת מהן. קורא אנושי שקורא את הטקסט לא ירגיש בשום דבר חריג, אבל מי שיודע מראש אילו מילים המערכת הונחתה להעדיף, יוכל לסרוק את המסמך ולזהות בקלות שקלוד יצר אותו.
המהלך הזה לא נולד בוואקום. באוגוסט נכנסו לתוקף באירופה דרישות חדשות לסימון תוכן סינתטי, וענקיות הטכנולוגיה מתיישרות עם הסטנדרט. המטרה מובנת: בעולם שמוצף בתוכן מכונה, אנחנו זקוקים לכלים לזיהוי. אלא שכאן מתחיל הפער בין היכולת הטכנולוגית לבין מה שאנחנו באמת מבקשים לדעת.
לסימן המים הזה יש מגבלות טכניות ברורות: בטקסטים קצרים (פחות מ-150 מילים) אין מספיק בחירות כדי ליצור דפוס סטטיסטי מובהק, ועריכה אנושית או העברת הטקסט דרך מודל מתחרה עלולות לשבור את הרצף ולהעלים את הסימן לחלוטין. אבל גם כשהוא עובד היטב, סימן המים יודע לזהות רק פעולה טכנית; הוא לא יודע להגיד מי המחבר האמיתי או עד כמה הטקסט מקורי. החברה עצמה מודה שהכלי אינו מבחין בין "קלוד כתב את הטקסט" ל"קלוד ערך אותו". אם אכתוב טור שלם בעברית ואבקש מהמודל לתרגם לאנגלית, הטקסט יישא סימן מים מובהק, אף שהרעיונות, המבנה והטיעונים הם לחלוטין שלי. מנגד, אדם שיבקש מקלוד להמציא טיעון שלם ורק ישנה קצת ניסוחים בעצמו, יחליש כאמור את הסימן.
הפער הזה הזכיר לי שיחה עם קולגה מהעולם המתפתח. עבור חוקרים כמוהו, בינה מלאכותית הייתה הבטחה גדולה לשוויון. שנים דיברנו באקדמיה על היתרון המובנה של חוקרים מבוסטון או מלונדון לעומת מי שצריכים קודם כל לתרגם את עצמם. פתאום הופיע כלי שאיפשר להם להשתתף במשחק הבינלאומי בלי שהשפה תסגיר אותם. "ולרגע", הוא אמר לי, "הרגשנו שווים. ושנייה אחר כך התחילו להתייחס אלינו כפושעים."
הרי סימן המים לא יפזר את החשד באופן שווה. חוקר שגדל בתוך האנגלית וספג את הקודים האקדמיים זקוק פחות למכונה. דווקא מי שנעזר בה כדי לגשר על הפער הוא שיימצא תחת זכוכית המגדלת. מספיק להגדיר סיוע מסוים כ"חשוד" בדיוק כשהוא הופך זמין למי שהודרו עד כה, כדי לשמר את מאזן הכוחות הישן.
אם סימן המים הוא כלי כה בעייתי, מדוע החברות ממהרות לאמץ אותו? התשובה טמונה במרוץ מקביל: התחרות על תואר "החברה האחראית". בענף הבינה המלאכותית, אחריות הפכה למופע ראווה, וחברות זקוקות לסמלים חיצוניים שמדגימים לרגולטור ולציבור שליטה בסיכונים. אצל אנתרופיק, שעומדת לפי הדיווחים ברויטרס לקראת הנפקה בחודשים הקרובים, הצורך הזה בוער במיוחד. אבל היא ממש לא לבד: גוגל מתגאה במנגנוני חותמת בלתי נראים משלה, ואופן-איי-איי ממהרת להקים ועדות בטיחות, להדביק תוויות שקיפות ולהציג דוחות הערכת סיכונים עמוסי אזהרות. כולן מנסות להוכיח שהן מרסנות את המפלצת, כשהאחריות הופכת מפרקטיקה פנימית למיתוג הכרחי.
וזו האירוניה המרירה: סמל שנועד להוכיח שחברת הטכנולוגיה נוהגת באחריות לא יישאר רק בידיה. אוניברסיטאות, עורכים ומעסיקים ישתמשו בו, ומדידה טכנית של "מעורבות בינה מלאכותית" תהפוך בשקט למדידה חברתית של יושר אינטלקטואלי. אנתרופיק רוצה לשים סימן על המכונה כדי שניצור בה אמון; אבל כדאי לשים לב מי מבני האדם יישאר בסוף עם הכתם.
תגובות