ה-AI שלכם ממציא נתונים? כך עוצרים הזיות AI עם פרומפט אחד

הזיות AI יכולות להישמע בדיוק כמו הנתון שחיפשתם לפוסט הבא. בסרטון בסדרת AI Basics, אסף עקיבא, מהנדס תוכנה במיקרוסופט, שאל את Claude כמה זמן AI חוסך לעובד ביום. התשובה המומצאת נשמעה מצוין: בממוצע 2.7 שעות ביום, משימות שמסתיימות מהר יותר ב-40%, ואפילו הבטחה שכל עובד מקבל בחזרה שליש מהיום. לאף טענה לא צורף מקור. כשאסף כתב "אבל ביקשתי בלי להמציא!", המערכת התנצלה והציעה "נתון מדויק" חדש: 3.1 שעות ביום. גם הוא היה מומצא. הסליחה הייתה מנומסת, אבל החשבון נשאר בלי קבלה.

אם אתם משתמשים ב-ChatGPT, ב-Claude או ב-Gemini לכתיבת תוכן, למחקר שוק או להכנת מצגת, הסצנה הזאת רלוונטית גם לעסק שלכם. נתון שנשמע מקצועי יכול לעבור מהצ'אט למסמך של לקוח בלי שאף אחד יעצור לבדוק מאיפה הגיע.

הבקשה החשובה היא להראות על מה התשובה נשענת, ולהודות כשאין לה בסיס. כאן אקח את הרעיון של אסף, אחבר אותו למקורות מחקר ותיעוד רשמיים, ואראה איך אני מציע ליישם אותו בעבודה. בסוף יהיה לכם פרומפט להעתקה והרגל עבודה שאפשר להתחיל איתו כבר בטקסט הבא.

מה זה הזיות AI, ולמה 'בלי להמציא' לא עוזר

בתיעוד של Anthropic, הזיה מוגדרת כטקסט שגוי מבחינה עובדתית או כזה שאינו עקבי עם ההקשר שניתן למודל. במילים פשוטות, התשובה יכולה לכלול עובדה שלא קרתה, או לייחס למסמך משהו שלא כתוב בו. לכן הזיות AI אינן מוגבלות לסיפורים מופרכים. לפעמים מדובר במשפט סביר מאוד, שרק אין לו בסיס בחומר שלפנינו.

כשבינה מלאכותית ממציאה נתון, הבעיה מבחינת בעל העסק היא שההמצאה מגיעה לבושה כמו מידע. יש ניסוח מסודר, מסקנה ברורה, ולעיתים גם אזכור של "מחקרים עדכניים". כל אלה יכולים ליצור תחושת סמכות. אף אחד מהם לא מראה שהמחקר קיים ושהוא באמת תומך בטענה שנכתבה.

אסף מציע בסרטון השוואה פשוטה: להגיד למודל "תגיד רק דברים אמיתיים" דומה לבקשה מתלמיד במבחן לענות רק תשובות נכונות. התלמיד כבר מבין שזה רצוי. ההוראה לא נותנת לו את המידע שחסר לו, ולא מסבירה מה לעשות כשהוא לא יודע. גם גערה בצ'אט לא הופכת מידע חסר לידע.

המחקר של חוקרי OpenAI, שפורסם בספטמבר 2025 בשם Why Language Models Hallucinate, מתאר מנגנון דומה. לפי החוקרים, שיטות האימון וההערכה מתגמלות ניחוש יותר מהודאה בחוסר ודאות. כמו סטודנט מול שאלה קשה, המודל עלול לספק תשובה שנשמעת אפשרית גם כשהוא אינו בטוח בה.

המודל מייצר טקסט, והביטחון בניסוח אינו אישור לאמיתות התוכן. זה חלק מאופן הפעולה שמתאר הסרטון. מבחינת השימוש שלנו, אין טעם לחכות שהתנצלות יפה תפתור את הבעיה. צריך לשנות את המשימה: לתת חומר, לדרוש סימוכין ולהגדיר שחוסר מידע הוא תוצאה שאפשר להחזיר.

במאמר האם ה-AI משקר עסקתי בסיבה שלא כדאי לסמוך על התשובה בעיניים עצומות. כאן אני מתמקד בפעולה שאפשר לבצע לפני שמעתיקים אותה. המטרה היא לקבל תשובה שאפשר לבדוק, כדי שטעות לא תהפוך לטענה שהעסק שלכם מפרסם בשמו.

מבחן בעל פה מול מבחן עם חומר פתוח

דמיינו שאתם מבקשים ממישהו להסביר מה כתוב בהצעת המחיר שלכם, אבל לא נותנים לו לראות אותה. הוא יכול לדבר יפה על הצעות מחיר, ועדיין לפספס את מה שסיכמתם עם הלקוח. ברגע שהמסמך מונח מולו, אפשר לשאול על הסעיף הרלוונטי ולבקש שיראה היכן מצא את התשובה.

זה הרעיון של קרקוע, או Grounding: לבסס את התשובה על חומר שאפשר להפנות אליו. באנלוגיה של אסף, עוברים ממבחן בעל פה למבחן עם חומר פתוח. אנחנו מספקים בסיס לעבודה ומבקשים שהמסקנות יהיו קשורות אליו. החומר הפתוח לא פוטר מבדיקה, אבל הוא נותן לנו משהו שאפשר לבדוק בפועל.

החומר יכול להגיע מחיפוש ברשת. כאן חשוב לכתוב במפורש שצריך לחפש ולהביא קישור ישיר לעמוד שעליו התשובה נשענת. עצם השימוש בצ'אט לא אומר שנעשה חיפוש. אני לא מסיק שהמערכת בדקה מידע עדכני רק מפני שהיא כתבה "לפי הנתונים העדכניים". אני רוצה לראות את העמוד שממנו הנתונים הגיעו.

האפשרות האחרת היא החומר של העסק: קובץ PDF, מסמך שירותים, הצעת מחיר או נתונים שאתם מצרפים. הצ'אט לא מכיר את הקובץ שבמחשב שלכם עד שתצרפו אותו. כדאי לומר גם מה מחפשים בתוכו, למשל אילו שירותים כלולים בהצעה ומה נאמר על תנאי התשלום.

כשאני מספק מקורות ל-AI, אני מגדיר גם על מה מותר לו לבסס את התשובה. אפשר לבקש שישתמש רק במסמך המצורף ושיציין מה חסר בו. כך, אם ביקשתם סיכום של השירות שלכם, הוא לא אמור להשלים פרטים מתוך מה שמקובל לכאורה בענף. את הפערים תוכלו להשלים בעצמכם מתוך החומר האמיתי של העסק.

הפרומפט שעוצר הזיות AI

הפרומפט הבא מגיע מהסרטון של אסף עקיבא, מהנדס תוכנה במיקרוסופט. פרומפט הוא פשוט ההוראה שאתם כותבים לצ'אט. כאן ההוראה מגדירה מה צריך להופיע לצד התשובה ומה לעשות כשאין מידע שתומך בה. אפשר להעתיק אותה אחרי בקשת המשימה, עם הקובץ המצורף או עם בקשה לחפש ברשת.

לכל טענה בתשובה שלך, תביא ציטוט מדויק מתוך הקובץ או קישור ישיר למקור מהרשת. ואם אין לך מקור כזה, פשוט תגיד שאתה לא יודע.

המילים "לכל טענה" מגדירות שצריך לקשור כל משפט עובדתי למקור שתומך בו. אני רוצה להבין איזה מקור תומך באיזה משפט. אם התשובה כוללת תיאור של שירות וגם טענה על השוק, צריך שיהיה ברור מאיפה הגיע כל חלק. קישור בודד ליד פסקה ארוכה לא בהכרח מסביר זאת.

הדרישה לציטוט מדויק נותנת לי טקסט שאפשר להשוות למסמך. הדרישה לקישור ישיר נותנת לי עמוד שאפשר לפתוח. אני בודק שהקטע באמת נמצא שם ושהמשמעות שלו נשמרה. משפט שמופיע במקור יכול עדיין להיות מוצג בתשובה בלי התנאי שמגביל אותו, ולכן אני קורא גם את ההקשר.

התיעוד של Anthropic על הפחתת הזיות מציג אסטרטגיות תואמות: רשות מפורשת לומר "אני לא יודע", חילוץ ציטוטים מילה במילה לפני העבודה על מסמך, ודרישת מקור וציטוט לכל טענה. אם אין ציטוט תומך, ההנחיה היא להסיר את הטענה. לפי Anthropic, הרשות להודות בחוסר ודאות יכולה להפחית מאוד מידע שגוי.

הפרומפט הופך את בקשת הדיוק לבקשה לתשובה שאפשר לבקר. הסיום שלו מאפשר למערכת לעצור במקום להשלים את החסר. בעבודה שלי אני מבקש קודם לראות את התשתית העובדתית, ורק אחר כך להפוך אותה לפוסט או למצגת. גם כשהניסוח כבר נראה מוכן לפרסום, אני פותח את המקור. ההנחיה הזאת עוזרת לדרוש בסיס לתשובה, והבדיקה שלי היא מה שמאפשר לאשר את השימוש בה.

'לא יודע' זו תשובה מצוינת

בסרטון, אחרי שאסף צירף קובץ PDF ושלח את הפרומפט, התשובה נפתחה במילים "בקובץ לא מצאתי מספר של שעות ביום". פתאום לא הופיע נתון חלופי עם ביטחון מחודש. התשובה סימנה את הגבול של החומר שסופק. זה בדיוק המידע שהיה חסר בסבב הקודם של השיחה.

קל להתאכזב מתשובה כזאת. ביקשתם משפט למצגת, וקיבלתם הודעה שאין בסיס למשפט שרציתם. אבל מבחינתי זו תוצאה שימושית: עכשיו אפשר להחליט לחפש מקור מתאים, לשנות את הטענה או לוותר עליה. בכל האפשרויות האלה אתם יודעים מה חסר, במקום להעביר את החסר הלאה ללקוח.

"לא יודע" זו תשובה טובה כשהחלופה היא עובדה מומצאת. היא חוסכת את הרגע שבו מישהו בישיבה מבקש לדעת מאיפה הגיע הנתון, ואתם מגלים שהמקור היחיד הוא צ'אט שהיה במצב רוח משכנע. אני מעדיף לשנות ניסוח בזמן העבודה מאשר להסביר בדיעבד למה פרסמתי דבר שלא בדקתי.

חשוב גם לקרוא את ההודאה במדויק. "לא מצאתי בקובץ" לא אומר שהמידע לא קיים בעולם. זה אומר שלא נמצא לו בסיס בחומר שנבדק. אם המידע חיוני, אפשר להביא מסמך מתאים ולבקש בדיקה מחודשת. אם הוא לא חיוני, אפשר לכתוב את התוכן בלי אותה טענה. פוסט לא חייב לכלול נתון מרשים כדי להיות מועיל, ומצגת לא חייבת למלא כל פער במשפט נחרץ.

איך זה נראה בעבודה של בעל עסק

כשאני עובד על תוכן או על קמפיין, הכלל שלי פשוט: אני לא מפרסם נתון שה-AI נתן בלי לפתוח את המקור ולוודא שהוא אומר את זה. הזיות AI עולות ביוקר במיוחד כשהן עוברות לטקסט שיווקי, למצגת ללקוח או למודעה. אלה מקומות שבהם הקורא מייחס את הטענה לעסק שלכם.

אני נזהר במיוחד עם מספרים, ציטוטים, שמות של מחקרים, מחירים ופרטים משפטיים. אלה פרטים שאפשר לנסח בצורה משכנעת גם בלי בסיס. מבחינתי, בכל אחד מהמצבים הבאים צריך לבקש קבלות לפני שממשיכים לעריכה ולפרסום.

• נתוני שוק לפוסט או למודעה. אני מבקש קישור למחקר המקורי ואת הקטע שתומך בטענה. אחר כך בודק על מי המחקר מדבר ובאיזה הקשר. נתון על קבוצה מסוימת לא מקבל אצלי אוטומטית כותרת שמתייחסת לכל בעלי העסקים בישראל.
• מחיר של מתחרה. אני מבקש את עמוד המחיר באתר המתחרה ופותח אותו בעצמי. אני קורא מה כלול במחיר ואילו תנאים מוצמדים לו. אם לא נמצא מחיר מפורש, אני לא נותן לצ'אט להשלים מחיר שנראה לו הגיוני.
• סעיף בחוזה או בתקנון. אני מצרף את המסמך ומבקש את הנוסח המדויק לצד ההסבר. אני בודק שהסיכום שומר על התנאים והחריגים שבסעיף, ומשאיר החלטה משפטית לבדיקה מקצועית מתאימה. ניסוח ברור בצ'אט לא מחליף את הבדיקה הזאת.
• סיכום של מסמך ארוך. אני מבקש שלכל מסקנה יוצמד קטע מהמסמך, ומפריד בין מה שנכתב במפורש לבין פרשנות. אם הסיכום מבטיח שירות שהמסמך לא מציע, אני מוחק את ההבטחה במקום לנסות להצדיק אותה.

החומר של העסק הוא נקודת הפתיחה המועדפת עליי. אני מתחיל מהקבצים ומהמסמכים שלנו, מסמן מה אומת, ורק אז מתקדם לניסוח. החיבור בין כלי יעיל לאחריות אנושית עומד גם במרכז המאמר ה-AI לא טעה. בעל העסק נתן לו את המפתחות. הצ'אט יכול לעזור בעבודה, והאישור למה שיוצא בשם העסק נשאר אצלנו.

רוצים הצעת מחיר לקידום העסק שלכם?

אני קובי חי, מנהל קמפיינים. ספרו לי על העסק ותקבלו הצעה שקופה: מה כלול, כמה עולה ומה נשאר אצלכם. בלי הפתעות.

קבלו הצעת מחיר עכשיו

עוד שלוש דרכים להוריד הזיות

לצד הפרומפט, אפשר לחזק את צורת העבודה. התיעוד של Anthropic מציע להגביל את התשובה למסמכים שסופקו ולהשוות בין תשובות לאותה בקשה. הוא מציע גם לחזור לטענות ולחפש להן ציטוט תומך. כך אני מתרגם את ההנחיות האלה לפעולות שאפשר לבצע תוך כדי הכנת התוכן.

• מגדירים גבול למידע. אני כותב שיש להשתמש רק בחומר המצורף, ומבקש לציין אילו חלקים מהבקשה לא מקבלים בו מענה. זה שימושי כשמנסחים עמוד שירות מתוך מסמך עסקי, ורוצים להימנע מתוספות שנשמעות מקובלות אבל לא אושרו.
• משווים תשובות לאותה בקשה. אפשר להריץ את אותו פרומפט כמה פעמים ולהשוות. חוסר עקביות עשוי להצביע על הזיה. אני מתייחס להבדל כסיבה לחזור למקור, ולא בוחר אוטומטית את התשובה שנשמעת הכי טוב. גם הסכמה בין תשובות לא מוכיחה שהן נכונות.
• מבקשים בדיקת טענות לפני הניסוח הסופי. אני מחזיר את הטיוטה עם הוראה למצוא ציטוט לכל טענה ולהסיר מה שאין לו תמיכה. אחר כך אני עובר על המקורות בעצמי, במיוחד על הפרטים שעליהם נשענת ההבטחה השיווקית.

הטכניקות להפחתת הזיות AI אינן הבטחה להעלמתן, ומידע קריטי מחייב אימות. זאת גם ההסתייגות של Anthropic. אני משלב אותן עם בחירת כלי מתאים, כפי שהסברתי במאמר איך לבחור כלי AI נכון לכל משימה. אם אתם רוצים להחיל את השיטה על משימה בעסק, אפשר לכתוב לי בוואטסאפ ולתאר איזה תוכן אתם מנסים להכין ואיזה חומר כבר יש לכם.

שאלות נפוצות על הזיות AI

למה ה-AI ממציא גם אחרי שביקשתי שלא?

כי הבקשה "בלי להמציא" לא מספקת את המידע החסר ולא מחייבת להציג בסיס לתשובה. המודל עדיין עשוי להשלים טקסט שנשמע סביר. כמו בדוגמה של אסף, גם התנצלות יכולה להוביל להמצאה חדשה. אני ממליץ לשנות את ההוראה: לתת חומר, לבקש ציטוט או קישור לכל טענה, ולאפשר הודאה בחוסר מידע. אם התשובה עדיין כוללת טענה בלי תמיכה, לא מעבירים אותה הלאה רק מפני שהצ'אט כתב שהפעם הוא בטוח.

האם זה קורה רק ב-ChatGPT?

לא. זו תופעה של מודלי שפה, כולל Claude, שבו השתמש אסף בדוגמה. לכן לא הייתי בונה שיטת עבודה על מעבר לכלי אחר בלבד. גם כשמשתמשים ב-Gemini או מחליפים כלי למשימה מסוימת, כדאי לבקש בסיס לטענות. כך אני ניגש גם לעבודה של סוכנות דיגיטל עם AI: בוחרים כלי שעוזר לבצע את המשימה, ובודקים את התוכן לפני שהוא מגיע ללקוח או לפרסום בשם העסק.

האם הפרומפט מבטיח שלא יהיו טעויות?

לא. לפי Anthropic, הטכניקות מפחיתות הזיות אך אינן מעלימות אותן לגמרי. גם תשובה עם מקור צריכה בדיקה שהמקור אכן תומך במה שנכתב. אני פותח את העמוד, מאתר את הקטע הרלוונטי וקורא את ההקשר. אם מופיע קישור אבל אין בו תמיכה בטענה, הטענה עדיין לא מאומתת. גם ציטוט נכון דורש לבדוק שהמסקנה שנבנתה עליו שומרת על משמעותו ועל התנאים שמופיעים לצדו.

מה עושים אם אין לי קובץ לצרף?

מבקשים חיפוש ברשת וקישור ישיר למקור, ופותחים אותו בעצמכם. אני מעדיף להתחיל ממקורות רשמיים, כמו אתר הגוף שפרסם את המידע או עמוד המחקר עצמו. צריך לבדוק שהמקור עוסק בדיוק בנושא שעליו נשאלתם. אם לא נמצא מקור מתאים, מבקשים לציין זאת ומשאירים את הטענה מחוץ לתוכן. אפשר גם לשנות את המשימה ולכתוב הסבר שימושי שאינו תלוי בנתון החסר. כשיש מקור מתאים, אפשר לצרף את הקטע הרלוונטי לשיחה ולבקש לנסח מחדש רק על בסיסו.

שורה תחתונה

הדרך המעשית להתמודד עם הזיות AI מתחילה בהגדרת המשימה. מצרפים את החומר של העסק או מבקשים חיפוש ברשת, דורשים ציטוט מדויק או קישור ישיר לכל טענה, ומשאירים מקום לתשובה "לא יודע". אחר כך פותחים את המקור ובודקים שהטענה באמת נתמכת בו.

מבחינתי, תשובה שימושית היא תשובה שאני יכול לבדוק לפני שאני מפרסם אותה. זה ההרגל שאני לוקח מהסרטון של אסף ומציע לאמץ גם אצלכם. שמרו את הפרומפט והוסיפו אותו לבקשת התוכן הבאה. אם אין בסיס לטענה, השאירו אותה בחוץ או חפשו חומר מתאים. העסק שלכם צריך תוכן מועיל שאפשר לעמוד מאחוריו, גם כשהוא כולל פחות נתונים מרשימים.

רוצים לעבוד עם AI בלי ליפול בנתונים מומצאים?

אני קובי חי, מנהל קמפיינים ובעל סוכנות דיגיטל קטנה. אם אתם רוצים לשלב AI בתוכן ובשיווק של העסק, אשמח לעזור לבנות דרך עבודה שמתחילה בחומר שלכם וממשיכה בבדיקה לפני הפרסום. המטרה שלי היא שתוכלו להשתמש בתוכן בביטחון שמבוסס על בדיקה. אפשר לפנות דרך עמוד צור קשר או לשלוח לי הודעה בוואטסאפ, ולספר מה אתם רוצים לשפר בעבודה עם הכלים האלה.