כיצד משפיעות הטיות קוגנטיביות על בינה מלאכותית ומה ניתן לעשות כדי להתגבר עליהן?
לצד ההתלהבות הרבה, והמוצדקת, מכלי הבינה המלאכותית השונים, קיימים גם חששות רבים. אחד החששות העיקריים הוא כי כלי הבינה המלאכותית הגנרטיבית (Generative AI) - מערכות המייצרות טקסטים/תמונות ועוד בהתאם להנחיות המשתמש –"סובלים" מהטיות שונות.
התוצרים של אותם הכלים, דוגמת ChatGPT ומידג'רני, מתבססים על מידע עצום שבני אדם יצרו, וכאשר המידע עליו הם מתבססים סובל מהטיות קוגניטיביות שונות – אותן הטיות ישכפלו את עצמן שוב ושוב.
מה הן הטיות קוגניטיביות ואיך אנחנו כמשתמשים בכלי AI צריכים להתנהל מול אותם הכלים בהנחה שייתכן כי התוצרים שנקבל עלולים להיות מושפעים מאותן ההטיות?
על חשיבה רציונלית והיוריסטית
ד"ר חנה בינוני, פסיכולוגית קוגניטיבית וסגנית דיקנית בית הספר למדעי ההתנהגות והחוג לפסיכולוגיה, מציינת כי הטיה קוגניטיבית היא מונח שנטבע על ידי החוקרים עמוס טברסקי ודניאל כהנמן. "הטיה קוגניטיבית היא נטייה שיטתית לבצע טעויות בתהליכי עיבוד מוחיים", היא מציינת,
"יש לנו שתי מערכות חשיבה: רציונלית והיוריסטית. מערכת החשיבה הרציונלית מאפשרת לנו להתעמק, ליישם כללים לוגיים ולהגיע לתוצרים מדויקים, הבעיה שלה שהיא צורכת הרבה אנרגיה, היא מאומצת ואיטית, ולכן אנחנו מצוידים בעוד מערכת חשובה - המערכת ההיוריסטית.
זו מערכת חשיבה אוטומטית, אינטואיטיבית, המשתמשת בכללי אצבע, ומאוד טובה בסיטואציות מסוימות – בעיקר כשנדרשת תגובה מהירה,
כשאין נתונים וכשלא צריך תשובה מדויקת. הבעיה היא שהיא קרקע פורה להטיות קוגניטיביות".
"את הטיות החשיבה והשיפוט המרכזיות", מסבירה ד"ר בינוני, "שרטטו טברסקי וכהנמן, והם לימדו אותנו, כי לא זאת בלבד שבני אדם מוטים מחשיבה רציונלית, הם גם מוטים בצורה דומה. ומכאן שאפשר ללמוד את ההטיות, להיות מודעים להן, ובעקבות זאת ניתן לנסות להתגונן מפניהן או לצמצמן".
אחת ההטיות המרכזיות היא הטיית האישוש –הנטייה לחפש, לפרש, להעדיף, ולזכור מידע המאשש אמונות או השערות קודמות, תוך התעלמות ממידע סותר או כזה שתומך באפשרויות חלופיות. "גזענות ושוביניזם, למשל, הן הטיות בת של הטיית האישוש. אם יש לי תפיסה מסוימת על קבוצה כלשהי באוכלוסייה, אני מחפשת אישוש לתפיסה הזו וכך מזינה את הסטראוטיפים והסכמות", אומרת ד"ר בינוני.
הטיה קוגניטיבית נוספת היא הטיית היחסיות – הנטייה להחליט החלטות שונות בהשוואה להקשר או לאחרים במצבים שהחשיבה היחסית היא לא רלוונטית. עוד הטיה קוגניטיבית היא הטיית הזמינות –הנטייה של אנשים להיות מושפעים ממה שזמין להם. למשל, אם נראה בחדשות סיקור נרחב על תופעה זניחה יחסית, אנו עלולים להאמין שהיא שכיחה ונרחבת יותר ממה שהיא באמת.
"הטיות קוגניטיביות משפיעות על תפיסת העולם שלנו, על הקשרים שלנו, על ההתנהגות שלנו", אומרת ד"ר בינוני, "והן גם משפיעות ברמה של קבלת החלטות מדיניות וכלכליות".
הפתרון: מודעות וצריכה ביקורתית של מידע
כלי בינה מלאכותית גנרטיבית, כאמור, ניזונים ממידע שנוצר על ידי בני אדם, המושפעים מהטיות קוגניטיביות, ולכן סביר להניח כי חלק מהמידע שהם מייצרים על פי דרישת המשתמשים – משחזר את אותן ההטיות.
"נדרש מחקר אמפירי רחב היקף כדי להבין את היקף התופעה", אומרת ד"ר בינוני, "אנחנו יכולים להעריך שיש בעיה כזו, אבל לא יודעים את היקפה. מחקר מטה אנליזה של צוות חוקרים צרפתי, על המודלים הישנים יותר של בינה מלאכותית, הראה שאכן הם מושפעים מהטיות קוגניטיביות, אבל שלא כל ההטיות באות לידי ביטוי בצורה דומה, יש כאלו שממותנות יותר מאחרות".
לדבריה, מחקר שנעשה לאחרונה באוניברסיטת סטנפורד, על ידי מיכאל קוסינסקי, בחן את הביטוי של הטיית האשליה הסמנטית כשעושים שימוש בכלי בינה מלאכותית חדישים, כדוגמת ChatGPT. הטיית האשליה הסמנטית היא הנטייה לא להיות ערים לטעויות סמנטיות בטקסט בגלל שממוקדים בחלק אחר של המידע. "המחקר, שהוא מצומצם יחסית, מצא שהמודלים החדשים של כלי הבינה המלאכותית הגנרטיבית, בהשוואה לישנים, ממתנים את ההטיה הזו באופן יחסי לבני אדם. כמו כן, המחקר מצא שיש חשיבות לכתיבת פרומפטים. כתיבה של פרומפטים מדויקים, מצמצמת את ההשפעה של ההטיה הזו, ויש בכך בשורה מעודדת", אומרת ד"ר בינוני.
לדבריה, מי שעושים שימוש בכלים האלו צריכים להיות מודעים גם להשפעה האפשרית של ההטיות הקוגניטיביות, "כשאנחנו מחפשים מידע בגוגל אנחנו יודעים מה המקור של המידע, ולכן טובים יותר בלהעריך אם התשובה עשויה להיות מוטה יותר או מהימנה יותר. בכלים כמו ChatGPT אנחנו לא יודעים מה המקור אם לא מבקשים אותו באופן יזום, ולכן אנחנו עלולים להיות פחות מודעים להטיות שהמענה שקיבלנו מספק. חשוב להיות מודעים להטיות שלנו, מול הכלים האלו ובכלל. חשוב להיות צרכנים ביקורתיים של ידע, ביקורתיים במובן החיובי - להסתכל על נתונים במלואם, להסתכל על המקור, ולראות לא רק מה קיבלנו אלא גם מה לא קיבלנו, ואיזה מידע חסר".
