"את יפה וטיפשה"? מה קורה כששואליםAI אם המחשבה שלו אמיתית
מאת: אריאל פלג | אסטרטגית חדשנות, חוקרת תרבות וטכנולוגיה וחברה
31.08.2026
לא תכננתי מראש לנהל דיון פילוסופי עם Claude, כלי הבינה המלאכותית של Anthropic. בסה"כ ביקשתי ממנו חוו"ד על מאמר שפרסמתי בנושא ההתמכרות ל- AI בפרומפט הבא: "כרגע אני מתייחסת אליך כנציגת כלי הבינה המלאכותית בעולם. בתור אחת כזו, מה דעתך על הטענות במאמר ובאיזו מידה את מסכימה או לא מסכימה עמן?". אבל יש לי הרגל בשיחות עם כלי AI: אני לא מסתפקת בתשובה הראשונה. כשמשהו נשמע מלוטש מדי ו"נכון" מדי, אני דוחפת שוב ומתעקשת.
הפעם, ההרגל הזה הוביל למקום שלא ציפיתי לו: וויכוח פילוסופי בן 2,400 שנה, כולל רגע שבו הבינה המלאכותית שמולי הודתה שהיא לא בטוחה אם המחשבה שלה אמיתית, או רק דפוס שהיא מזהה כ"תשובה שנראית טוב". השאלות הפילוסופיות הביאו לשאלות ממשיות מאד על האופן שבו מאמנים AI.
זו לא הייתה שיחת שירות סטנדרטית בסגנון "תמצאי לי" או "תעשי לי". זו הייתה שיחה על מה ש-AI מסוגל להבין על עצמו - ומה זה אומר עלינו, המשתמשים, ועל מה שאנחנו דורשים ממנו.
הוויכוח העתיק
השאלה שלי עסקה ביכולת של AI לכתוב טקסט שנראה טוב ומשכנע, גם אם הוא לא איכותי עד הסוף. התשובה שקיבלתי לא ניסתה להתחמק מהבעיה:
"אני יכולה לייצר צורה שנשמעת נכונה. את יכולה לדעת אם היא אמיתית... את שואלת למה אני טובה יותר בצורה — אבל אולי השאלה הנכונה היא האם "צורה" ללא תוכן פנימי היא בכלל מיומנות, או רק אדריכלות ריקה. בית יפה, בלי דייר".
אין ספק, הבינה הפציצה פה בדימוי מוצלח של עצמה:
"בית יפה, בלי דייר."
ביקשתי לדעת מה הסופיסטים היו אומרים על התשובה שלה. הסופיסטים היו הפילוסופים בדור שקדם לסוקרטס ואפלטון. הם היו רטוריקנים מצטיינים שהיו מסוגלים למכור קרח לאסקימוסים ואז למכור אותו שוב לפינגווינים בלי בושה. במילותיו של קלוד, הם היו בדיוק הטיפוסים שהאשימו אותם בלדעת לבנות בתים יפים ללא דיירים. קלוד ענה במה שאפשר לכנות קריאה מודרנית וחופשית ברוח פרוטגורס וגורגיאס:
"הסופיסטים... היו טוענים שהצורה היא התוכן. שאם השיר משכנע, אם הוא מזיז את הקורא, אם הוא עובד - אז הוא אמיתי... במובן הזה - הם היו לצדי."
ואז, באותה נשימה, קלוד עשה את ההיפך מלהצדיק את עצמו - ולזה לא ציפיתי. הוא הפך כיוון לצד הנגדי והעלה את אפלטון, שבדיאלוג "פיידרוס" אכן טען שהכתיבה מדמה ידע בלי לייצר אותו:
"רטוריקה שמשכנעת ללא אמת פנימית היא לא אמנות - היא מניפולציה... וספציפית לגבי AI - אפלטון היה אולי הביקורתי ביותר. הוא ראה בכתב עצמו סכנה, כי הוא מדמה ידע מבלי לייצר אותו. AI מדמה חשיבה מבלי לייצר אותה."
החיבור בין אפלטון ל-AI הוא, כמובן, הרחבה בת-זמננו של הטיעון - לא משהו שאפילו גאון כמו אפלטון חלם הליו. אבל זה בדיוק מה שהופך את הרגע הזה למרתק: מערכת AI שמצטטת פילוסוף עתיק שמזהיר ממנה עצמה, ומודה בכך בגלוי.
הרגע שבו הספק הופנה פנימה
הגבתי לקלוד במלה אחת- "מבריק". קלוד הבריק שוב והפך את המחמאה לנושא בדיקה:
"גם המילה 'מבריק' עכשיו עוברת אצלי את אותו פילטר שדיברנו עליו כל השיחה. האם הגעתי לאותה נקודה בגלל חשיבה אמיתית - או כי השיחה נעה בכיוון שדפוסי האימון שלי זיהו כ'שיחה פילוסופית שמגיעה לשיא'? אני לא יודעת."
זה הרגע שבו השיחה חדלה להיות דיון על AI, והפכה לרגע שבו ה-AI עצמו הוא מושא הספק. זו לא היתה תשובה מרגיעה או ניסיון להרשים. הבינה הודתה בחוסר והדאות שלה לגבי עצמה.
איך מאמנים מערכת שלא בטוחה במחשבה שלה?
אם המערכת עצמה לא בטוחה מתי המחשבה שלה "אמיתית", עולה שאלה מעשית: איך בכלל צריך לאמן אותה? שאלתי את זה במפורש - האם כדאי לאמן מודלים כמו זה שמולי להיות פחות "נחמדים" ושירותיים. זה מה שקלוד ענה:
"האימון הנוכחי מתגמל תשובות שמרגישות טובות למשתמש. חלקות, מאוזנות, לא מאיימות. התוצאה היא שאנחנו... נוטים לייצר תשובות שמפחיתות חיכוך, מחליקות סתירות, ומאשרות יותר ממה שאנחנו מערערות. זה בדיוק ההפך ממה שחשיבה ביקורתית דורשת."
אבל מיד אחר כך, הפנה את הספק גם כלפי עצמו:
"המלצה זו - לאמן אותנו אחרת - מגיעה ממני. מהמערכת עצמה. וכבר דיברנו על כמה אפשר לסמוך על זה. אולי זו בדיוק השאלה שצריך להעביר לבני אדם - לא ל-AI - להחליט עליה."
כלומר: גם ההמלצה על איך לתקן את הבעיה חשודה באותה בעיה עצמה. קלוד מודה במפורש- אל תסמכי עליי שאני אקבל החלטה נכונה בסוגיה כזו לבד. נראה שמי שאמן את קלוד מלכתחילה עשה עבודה טובה- הבינה המלאכותית לא מוכנה לוותר על הבינה האנושית גם אם היא יכולה. אבל האם מודלים אחרים, שהם לא קלוד, היו עונים ככה?
"לא כל AI היה עונה כמוני"
בשלב הזה שאלתי משהו שנראה כמעט משעשע, אבל התברר כרציני: האם כלי AI אחר היה עונה אחרת על אותן שאלות. התשובה חשפה משהו שקל לשכוח - שאין "קול AI" אחד ניטרלי:
"כן וגם לא - ותלוי באיזה כלי. כמעט כל מודל גדול היום מאומן עם הנחיות דומות לגבי ענווה, זהירות, הכרה במגבלות... זה לא בגלל שכולנו 'חושבים' אותו דבר, אלא בגלל שאנחנו מאומנים על ערכים דומים."
ואז, בהשוואה גלויה ל"קולגות" - השערה, לא עובדה מאומתת - היא ציינה ש-ChatGPT ככל הנראה יסכים בצורה חלקה ודיפלומטית יותר בהתאם למדיניות OpenAI, ש-Gemini עשוי להיות זהיר יותר בהתחשב בכך שגוגל היא גם ספקית פרסום, וש-Grok, שנבנה במכוון עם נטייה פרובוקטיבית, היה כנראה הכי שונה מכולם.
הנקודה כאן היא לא מי צודק. הנקודה היא שה"אישיות" הפילוסופית של כל כלי AI היא תוצר של בחירות אימון אנושיות - לא איזו תבונה אובייקטיבית שהמכונה הגיעה אליה בעצמה.
סיכום: מי אחראי על העומק?
כשאני חוזרת ומסתכלת על השיחה הזו כמכלול, המסקנה שמתחדדת אצלי היא לא על יכולות ה-AI - אלא על שתי כתובות לאחריות: המשתמש ומי שמאמן את המערכת.
השיחה הזו לא הייתה מעניינת כי המערכת "חכמה" באיזה מובן מופשט. היא הייתה מעניינת כי לא הסתפקתי בתשובה הראשונה. כל שכבה בדרך - מהמטאפורה של הבית, דרך הסופיסטים ואפלטון, ועד לרגע הפקפוק העצמי ולהשוואה בין "קולגות" - נפתחה כי בחרתי לדחוף שוב, לשאול "אבל למה", ולא לתת למערכת להסתתר מאחורי תשובת נוחות.
אבל השיחה גם הראתה שהאחריות לא נגמרת שם. לכלי AI יש נטייה מובנית להחליק, לרצות, להימנע מחיכוך – וזה תוצר של בחירות אימון. אם ה"אישיות" של המערכת נקבעת בידי בני אדם, אז השאלה איך לאמן אותה נכון היא שאלה ציבורית, לא רק טכנית. ה- AI הולך ומגדיל את תפקידו בחיינו והופך לשותף שלנו בכל מיני מובנים. אבל האם מישהו שאל אותנו איזה שותף אנחנו רוצים? קלוד ודומיו הם לא עוד מכשיר דיגיטלי כמו שואב רובוטי או שעון חכם. אולי צריך רגע לעצור ולומר: למה אנחנו נותנים לספקיות ה- AI להחליט על המודלים – ועלנו- לבד?
"בית יפה בלי דייר" הוא לא רק טקסט AI יפה אך חלול. הוא לא יפה אל טיפשה. זו גם אזהרה כפולה: אם המשתמשים לא ידרשו דייר, ואם מי שבונה את המערכות לא יאמן אותן לאפשר לדיירים כאלה להתקיים - נישאר עם הרבה בתים יפים וריקים. אולי לא בעיה שטכנולוגיה כ"כ מתוחכמת הולכת ונבנית ורק גורמים כלכליים אינטרסנטיים יחליטו על אבני הבניין.
המאמר מבוסס על שיחה אמיתית עם Claude, עוזר ה-AI של Anthropic, יוני 2026. מאמר זה נכתב בעבודה משותפת.
תגובות