אנשים ממש שונאים בינה מלאכותית, אז למה הם רוצים ממנה עוד ועוד

בינה מלאכותית: למה אנחנו משתמשים בה יותר, אבל סומכים עליה פחות?

אפשר להיעזר בבינה מלאכותית כדי לנסח קורות חיים, ובאותו יום לחשוש שהיא תצמצם את מספר המשרות שאליהן אפשר להגיש אותם. אפשר לבקש ממנה לסכם מסמך, ואז להתקומם כשהבנק, המעסיק או חברת הביטוח משתמשים במערכת אוטומטית כדי לקבל החלטות בענייננו. זו אינה בהכרח צביעות: זו הבחנה בין כלי שאנחנו מפעילים לבין מערכת שפועלת עלינו.

כאן נמצא ההסבר הראשוני לפרדוקס הבינה המלאכותית. השימוש בכלים כמו ChatGPT ו־Gemini מתרחב, אבל שימוש אינו הצבעת אמון בטכנולוגיה, בחברות שמפתחות אותה או בעתיד שהן מבטיחות. לעיתים הוא מבטא התלהבות; לעיתים צורך מעשי, לחץ מקצועי או חשש להישאר מאחור.

לכן, הטענה שאנשים “שונאים בינה מלאכותית” מחמיצה חלק מהסיפור. רבים רוצים את העזרה שהיא מציעה, אך אינם רוצים לקבל יחד איתה עסקת חבילה של תלות, פגיעה בפרטיות ושינויים שאין להם השפעה עליהם. כדי להבין מדוע הביקוש גדל לצד ההתנגדות, צריך להפריד בין התועלת האישית לבין המחיר הנתפס של האימוץ הרחב.

יותר שימוש בבינה מלאכותית אינו בהכרח יותר אמון

אמון אינו מדד אחד. משתמש יכול לסמוך על מערכת שתציע כותרות למצגת, אבל לא שתספק אבחנה רפואית; להעריך את יכולת הניסוח שלה, אבל לפקפק באופן שבו החברה המפעילה אותה מטפלת במידע. גם שביעות רצון מתשובה מסוימת אינה מעידה על תמיכה בהטמעת הטכנולוגיה בכל תחום.

סקר של מרכז המחקר Pew, שפורסם באוגוסט 2023, ממחיש את המתח: 52% מהמבוגרים בארצות הברית אמרו שהם מודאגים יותר מאשר נלהבים מהשימוש הגובר בבינה מלאכותית, לעומת 37% ב־2021. רק 10% היו נלהבים יותר ממודאגים. זהו נתון על עמדות הציבור האמריקאי באותה תקופה, לא הוכחה שכל המשתמשים מתנגדים לטכנולוגיה או שכך חושב הציבור בכל מדינה.

ההבחנה חשובה גם לפרשנות עסקית. עלייה במספר המשתמשים יכולה להעיד על מוצר מועיל, אך גם על שילובו בשירות קיים או על דרישה מצד מקום העבודה. מדדי שימוש מספרים מה אנשים עושים; הם אינם מסבירים לבדם אם אנשים מרגישים שיש להם בחירה, אם הם מרוצים או אם הם מוכנים להפקיד בידי המערכת החלטות חשובות.

התועלת מיידית, המחיר עשוי להגיע מאוחר יותר

היתרונות של בינה מלאכותית יוצרת — מערכות שמפיקות טקסט, תמונות, קול או קוד — נגישים מאוד. טיוטה מופיעה בתוך שניות, הסבר מסובך נעשה ברור יותר, ומי שנתקע מול מסמך ריק מקבל נקודת פתיחה. אין צורך להאמין בחזון טכנולוגי מרחיק לכת כדי להעריך חיסכון של חצי שעה.

לעומת זאת, החששות מפוזרים על פני זמן ומערכות: מה יקרה למקצוע, כיצד ישמש המידע שנמסר, והאם ארגונים יחליפו שירות אנושי במענה אוטומטי פחות טוב. קשה לשקלל את ההשלכות האלה ברגע שבו צריך לסיים משימה עד סוף היום. התועלת המקומית ברורה; העלות העתידית אינה תמיד ידועה, ולעיתים תיפול על אחרים.

כך נוצר מצב שבו החלטה סבירה של כל אדם בנפרד אינה בהכרח מובילה לתוצאה שכולם רוצים. עובד עשוי להשתמש בכלי כדי לעמוד בקצב, גם אם הוא חושש שהעלייה בתפוקה תהפוך בהמשך לדרישה להספיק יותר בלי תוספת שכר. השימוש שלו אינו מפריך את החשש; ייתכן שהוא דווקא תגובה אליו.

הפער בין כלי שימושי להבטחה לשנות הכול

חלק מההתנגדות אינו מופנה ליכולת הטכנית, אלא לסיפור שמסופר סביבה. כאשר כמעט כל מוצר מוצג מחדש כמוצר בינה מלאכותית, קשה להבחין בין שיפור ממשי לבין מיתוג. תכונה יכולה להיות יעילה מאוד בלי להצדיק הבטחות להחלפת מקצועות שלמים או לשינוי מוחלט של חיי היומיום.

יש כאן גם מתח שיווקי מובנה. כדי לשכנע משקיעים ולקוחות בחשיבות הטכנולוגיה, חברות מדגישות לעיתים את יכולתה לבצע עבודה אנושית; כדי להרגיע עובדים וציבור מודאג, הן מדגישות שהיא רק עוזרת לאנשים. שני התיאורים יכולים להתקיים בתרחישים שונים, אבל בלי הסבר ברור על התנאים וההשלכות הם נשמעים כמו מסרים סותרים.

עבור מנהלי שיווק ומוצר, המסקנה אינה להסתיר את הטכנולוגיה אלא לדייק בהבטחה. “מסייע לנסח תשובה ראשונית” הוא תיאור שאפשר לבדוק; “משנה את הדרך שבה עובדים” אינו מסביר מה השתפר. אמון נבנה כשיש התאמה בין ההבטחה, הביצוע והיכולת לתקן טעות — לא מעצם הצמדת התווית AI.

בשוק העבודה, השאלה היא מי נהנה מההתייעלות

לחשש התעסוקתי יש בסיס ענייני, אך אין הצדקה להתייחס לכל המקצועות כאילו הם ניצבים בפני אותו שינוי. עבודה מורכבת ממשימות שונות: חלקן חוזרות וצפויות, אחרות דורשות שיפוט, אחריות, היכרות עם לקוח או פעולה בעולם הפיזי. אוטומציה של משימה אינה שקולה בהכרח להיעלמות המשרה שמכילה אותה.

מחקר שפורסם ב־2023 , ובחן שימוש בעוזר בינה מלאכותית בקרב יותר מ־5,000 נציגי תמיכה, מצא עלייה ממוצעת של כ־14% בפריון, שנמדד לפי מספר הבעיות שנפתרו בשעה. התועלת הייתה גבוהה במיוחד אצל עובדים פחות מנוסים ופחות מיומנים. זהו ממצא על סביבת עבודה מסוימת, לא אומדן שאפשר להחיל אוטומטית על כל ארגון.

הממצא גם אינו קובע כיצד יחולק הרווח מההתייעלות. חברה יכולה להשתמש בו כדי לקצר זמני המתנה, להקל עומס או להרחיב פעילות; היא יכולה גם להעלות יעדים או לצמצם כוח אדם. הטכנולוגיה מרחיבה את האפשרויות, אבל החלטות ניהוליות קובעות אילו מהן יתממשו.

לכן, הדרכה טכנית לבדה אינה מספיקה כדי להפחית התנגדות עובדים. נדרשת בהירות לגבי מדידת ביצועים, אחריות לטעויות והשפעת הכלים על התפקיד. כאשר העובדים שותפים לתכנון ולא רק מקבלים הודעה על הטמעה, אפשר לזהות גם חסמים שהנהלה או ספק חיצוני אינם רואים.

המערכת נשמעת בטוחה גם כשהיא טועה

מקור נוסף לחוסר אמון טמון בפער בין סגנון התשובה לבין איכותה. מודל שפה יכול לייצר ניסוח רהוט ומשכנע בלי שהמידע נכון. “הזיה”, בהקשר הזה, היא פלט שגוי או מומצא המוצג כאילו הוא מבוסס — למשל הפניה למאמר שאינו קיים או פרט שלא הופיע במסמך המקורי.

הבעיה אינה שכל תשובה שגויה, אלא שקשה לעיתים לזהות את הטעות מתוך הטקסט עצמו. ברשימת רעיונות לקמפיין, הצעה חלשה היא בדרך כלל עלות נסבלת; בחוזה, בחישוב כספי או בהנחיה רפואית, פרט שגוי עלול להיות משמעותי. אותה חוויית שימוש נעימה יכולה להסתיר רמות סיכון שונות לחלוטין.

גם ההנחיה “צריך לבדוק הכול” אינה פתרון מלא. בדיקה דורשת זמן ומומחיות, ולעיתים משתמשים פונים למערכת דווקא מפני שחסרה להם המומחיות הזאת. קבלת החלטות אחראית מחייבת להגדיר מראש אילו משימות מתאימות לכלי, מה דורש מקור מוסמך, ובאילו מקרים אסור להסתפק בתשובה אוטומטית.

הגבול עובר גם בשאלה מי בחר להשתמש

יש הבדל גדול בין פתיחת צ'אט מרצון לבין גילוי שתכונת בינה מלאכותית נוספה לשירות בלי מסלול ברור לביטול. כאשר עוזרים אוטומטיים משולבים במנועי חיפוש, בתוכנות משרדיות ובמערכות שירות, מדדי החשיפה יכולים לגדול גם בלי שינוי מקביל ברצון הציבור להשתמש בהם.

נבחן תרחיש של לקוח המבקש לברר חיוב חריג. אם המערכת מספקת מיד הסבר נכון ומאפשרת מעבר לנציג, היא עשויה לחסוך תסכול. אם היא חוזרת על תשובות כלליות וחוסמת גישה לאדם, אותה טכנולוגיה הופכת בעיני הלקוח לכלי שמרחיק את החברה מאחריות.

מבחינת הארגון, שני המצבים עשויים להירשם כטיפול אוטומטי בפנייה. מבחינת הלקוח, הם הפכים. לכן מדידה רצינית צריכה לכלול פתרון בפועל, פניות חוזרות וקלות ההסלמה לנציג, ולא רק את שיעור השיחות שלא הגיעו למוקד אנושי.

פרטיות ושליטה: מה קורה אחרי ששולחים את הבקשה

הנוחות מעודדת משתמשים למסור הקשר: מסמך פנימי, תכתובת עם לקוח, קוד או מידע אישי. אלא שהמידע הדרוש לתשובה טובה עשוי להיות גם מידע שלא נכון להעביר לספק חיצוני. מדיניות שמירת המידע והשימוש בו משתנה בין שירותים, מסלולים והגדרות; אין כלל אחיד לכל כלי הבינה המלאכותית.

בארגון, השאלה אינה רק אם העובד סומך על הכלי. צריך לברר איזה מידע מותר להזין, מי רשאי לגשת אליו, אילו התחייבויות חוזיות קיימות וכיצד אפשר למחוק אותו. איסור גורף בלי חלופה שימושית עלול לדחוף שימוש לערוצים לא מאושרים; היתר גורף עלול לחשוף מידע רגיש.

חלופה אפשרית בחלק מהמקרים היא הפעלה מקומית של מודל או שימוש בסביבה ארגונית מבוקרת. גם כאן נדרשת זהירות במונחים: מודל שמשקולותיו זמינות — כלומר הפרמטרים שנלמדו בזמן האימון — אינו בהכרח מערכת פתוחה לחלוטין. תנאי הרישוי, נתוני האימון, עלויות התפעול ודרישות האבטחה עדיין חשובים.

רגולציה יכולה להציב גבולות, לא לייצר אמון לבדה

התחושה שהטכנולוגיה היא כוח בלתי נמנע מטשטשת את העובדה שאפשר לקבוע לה כללים. חוק הבינה המלאכותית של האיחוד האירופי, שנכנס לתוקף באוגוסט 2024 והוראותיו מיושמות בהדרגה, מבוסס על גישה של הבחנה בין רמות סיכון. הוא אינו מתייחס באותו אופן לכלי יצירתי ולמערכות מסוימות המשמשות בתחומים רגישים.

בין היתר, המסגרת כוללת חובות הנוגעות לניהול סיכונים, תיעוד ופיקוח אנושי במערכות המוגדרות בסיכון גבוה. זו הכרה בכך שהשאלה החשובה אינה רק מה המערכת מסוגלת לעשות, אלא באיזה הקשר היא פועלת ועל מי היא משפיעה. עם זאת, עמידה בדרישות משפטיות אינה מבטיחה שמוצר יהיה מועיל, מדויק או הוגן בכל שימוש.

גם תחרות ופתרונות פתוחים יותר יכולים להרחיב בחירה, אך אינם מבטלים כשלעצמם ריכוז כוח. מעבר בין ספקים עשוי לדרוש התאמות טכניות, בדיקות והכשרת עובדים. עצמאות מעשית תלויה לא רק במספר החלופות, אלא גם ביכולת לעבור ביניהן בלי לאבד מידע ותהליכי עבודה חיוניים.

מה חברות צריכות למדוד מעבר למספר המשתמשים

הלקח מהרשתות החברתיות אינו שכל טכנולוגיה פופולרית תוביל לאותן בעיות. הוא ששימוש נרחב יכול להתקיים לצד חוסר שביעות רצון ותלות. מוצר שנעשה חלק מתשתית העבודה אינו חייב להיות אהוב כדי להמשיך לצמוח, ולכן צמיחה לבדה אינה מספקת תמונה של מערכת היחסים עם המשתמשים.

מבחן טוב יותר הוא האם המשתמש מבין מה הכלי עושה, יכול להעריך את התוצאה ומסוגל לסרב בלי להיענש. בארגון, כדאי למדוד גם את זמן הבקרה והתיקון, ולא רק את מהירות יצירת הטיוטה. בתחום השיווק, כדאי לבדוק אם היקף התוכן גדל על חשבון דיוק, בידול ואמון הקהל.

הגישה הזאת אינה התנגדות לחדשנות. היא דרך להבדיל בין אימוץ שמייצר ערך לבין אימוץ שמייצר בעיקר פעילות. לעיתים ההחלטה המקצועית תהיה להרחיב שימוש; במקרים אחרים, להשאיר שלב אנושי או לוותר על אוטומציה שאינה משפרת את התוצאה.

סיכום: אותה תועלת, שאלות שונות של אמון

חמש שאלות שכדאי לשאול לפני שמאמצים עוד כלי

• איזו בעיה מוגדרת הכלי פותר, והאם הוא משפר את התוצאה לעומת הדרך הקיימת?
• כמה זמן נחסך אחרי שמביאים בחשבון בדיקה, תיקון וטיפול בחריגים?
• איזה מידע נמסר למערכת, ומה ידוע על השמירה והשימוש בו?
• מי אחראי כשהתוצאה שגויה, והאם אפשר להגיע לאדם או לערער?
• האם אפשר להפסיק להשתמש בכלי או לעבור לחלופה בלי עלות לא סבירה?

אנשים אינם חייבים לבחור בין התלהבות מוחלטת מבינה מלאכותית לבין דחייתה. אפשר לרצות כלי טוב יותר ובו בזמן לדרוש גבולות ברורים יותר. הסתירה נחלשת כשמפסיקים לפרש שימוש כהסכמה לכל תנאי העסקה: הציבור עשוי לבקש עוד יכולת, אך גם יותר שליטה בדרך שבה היא נכנסת לחייו.