ChatGPT: עולם חדש, מרתק ומלא אתגרים
מירב הראל, מרצה בפקולטה למנהל עסקים ומומחית עולמית לפינטק ובלוקצ'יין, מסבירה מדוע השימוש ב-ChatGPT מקצר תהליכים בכל כך הרבה תחומים, ולמה השימוש בו מחייב התמקצעות והסתכלות ביקורתית
אין מי שלא שמע על הכלי - ChatGPT, וסביר להניח שרוב האנשים כבר התנסו ביכולות שלו, ברמה כלשהי, או לפחות נחשפו אליהן. אבל במה מדובר? האם היכולות של הכלי הזה באמת כל כך מהפכניות ואם כן – אילו הזדמנויות כלי זה פותח בפנינו ואילו סכנות ו/או אתגרים הוא מייצר? מירב הראל, מרצה בתואר ראשון במנהל עסקים ומומחית עולמית לפינטק ובלוקצ'יין, עושה לנו סדר.
ChatGPT הוא כלי מבית OpenAI הקיים כבר מספר שנים בגרסאות שונות, אבל רק בנובמבר 2022 נפתח לשימוש לקהל הרחב. קצב אימוץ השימוש בו שבר שיאים עולמיים, והרעש שהוא יצר הוביל למספר עצום של אנשים שהשתמשו בו תוך זמן קצר ביותר, ויש עוד מי שזוכרים שהעומס הגדול של משתמשים בתחילת הדרך הקשה על השימוש בו.
ChatGPT הוא צ'טבוט מבוסס בינה מלאכותית, שעושה שימוש בטכניקות למידה עמוקה, תוך אימון בשיטות שונות, לרבות 'למידת חיזוק' ו'למידה מונחית', על מנת לשפר את יכולות ההבנה והתגובה שלו למשתמשים. הוא פותח באמצעות מודלים מתקדמים מאפשר לו להפיק טקסטים בהתאם לדרישה ממנו, ללמוד מאינטראקציות, לענות על שאלות בצורה מעמיקה ולייצר שיחה.
כתיבת פרומפטים – מקצוע התופס תאוצה
ובמילים פשוטות יותר, זה כלי שנועד ליצור טקסטים ואינטראקציות הדומות לאלו שמייצרים בני אדם. הצ'ט שואב את המידע שלו מדאטה שהוזן אליו עד ספטמבר 2021, וכמות המידע עליו הוא מתבסס היא אדירה וכוללת מאמרים, כתבות, ספרים, ספרות מקצועית ועוד. מדובר בכלי שיכול להבין הנחיות ולהגיב אליהן בהתאם. כך הוא יכול לאתר ולתמצת מידע רלוונטי עבור המשתמש, למשל – לצטט מחקרים בתחום מחלת דם מסוימת, גם אם מדובר במחלה נדירה, הוא יכול לכתוב מאמר מעמיק על סכיזופרניה, ליצור שאלות עבור מבחנים, לכתוב קוד תוכנה, לכתוב פוסטים שיווקיים לפייסבוק בהתאם להנחיות שיינתנו לו. הוא גם יכול להפיק תוכן יצירתי ולכתוב שירים וסיפורים, בהתאם להנחיות שיקבל. אבל היכולות שלו לא נעצרות רק כאן – הוא יכול להציע כיצד ניתן לשפר טקסטים מסוימים, למשל מבחנים, תסריטים ועוד. עם שימוש והנחיות ממוקדות, הוא יכול למשל לעזור באיבחון של מועמדים לעבודה, או לכתוב תפריט לדיאטה, ואף לסייע לרופאים ולצוותי רפואה בזיהוי מחלות ובסיוע בטיפול ובהתאמת תכניות טיפול מותאמות אישית. חשוב להזכיר כי כרגע התוצרים שהצ'ט מייצר בעברית עדיין אינם ברמה הגבוהה כמו אלו שהוא מייצר באנגלית.
ההוראות שנותנים לצ'ט נקראות פרומפטרים 'Prompts'. כתיבת פרומפטים היא מקצוע ההולך ותופס תאוצה, מכיוון שעל מנת להפיק את המירב מהצ'ט, ומכלים דומים, יש צורך לתת הנחיות מדויקות. כתוצאה, Prompt Engineering הוא מקצוע שהביקוש אליו גבוה מאוד, ונראה שילך ויגבר, שכן אופן כתיבת הפרומפטים הינו דינאמי ומתפתח, בהתאם להתפתחות הצ'ט, כך שהמשכורות המוצעות לאנשים בתחום גבוהות בהתאם.
פגיעה בזכויות יוצרים ומידע פיקטיבי
למרות היתרונות הרבים של כלי זה, הוא רחוק מלהיות מושלם, והעבודה איתו צריכה לקחת את החסרונות שלו בחשבון. אגב, על פי נתונים של חברת Similarweb היקף הגלישה באתר של ChatGPT ברחבי העולם ירד ב-9.7% ביוני לעומת מאי, זו הפעם הראשונה מאז שהשירות הושק בנובמבר 2022, וירידה זו נובעת כנראה בשל המגבלות השונות שלו והסכנות שהוא מייצר.
כך למשל, התכנים ש-ChatGPT מייצר חייבים ביקורת. ChatGPT כאמור מתבסס על המידע הרב שהוזן עד 2021, אך חסר לו מידע נוסף, ולכן התוצאות שמייצר הצ'ט בתגובה לשאילתות עלולות להסתמך על מידע לא שלם. בנוסף, הקישורים שהצ'ט מבצע אינם בהכרח מדויקים, ואף יכולים להיות מומצאים על ידו. לא מזמן פורסם כי בארה"ב עורך דין השתמש בפסקי דין שהצ'ט איתר עבורו על מנת לחזק את הטענה בתיק בו טיפל, אבל התברר כי פסקי דין האלו לא ניתנו מעולם – והם אינם אמיתיים. לכן עבודה עם ChatGPT מחייבת, לפחות בשלב זה, בדיקת המידע שהוא מספק והצלבת האינפורמציה. ניתן לעשות זאת בעזרת הצ'ט עצמו ולבקש את המקור לנתונים שהוא מספק ובדיקתם, או להשתמש במקורות מידע נוספים על מנת לבדוק את אמיתות הכתוב.
בנוסף, שימוש ב- ChatGPT מעלה שאלות בנוגע לפרטיות, ולבעיות עם זליגת מידע. כדי להשתמש בכלי לעיתים המשתמשים משתפים בו מידע ושיתוף זה עלול להיות בעייתי, הן משום שהכלים לומדים ושומרים את המידע שמוזן אליהם, והן כי לא ברור היכן המידע נשמר ואיזה שימוש נעשה בו בהמשך. לאחרונה פורסם כי סמסונג אסרה על העובדים שלה להשתמש בכלי Generative AI כמו ChatGPT לאחר שהתגלה שעובדים העלו קודים רגישים לפלטפורמה. גופים נוספים שהגבילו או אסרו על עובדיהן לעשות שימוש בצ'ט הם ג'יי פי מורגן, בנק אוף אמריקה, ואמזון.
כלי המושפע מהטיות
חסרון משמעותי נוסף, נובע מהיותו כלי שעלול לסבול מהטיות. מכיוון שהוא מבוסס על ידע שמיוצר על ידי משתמשים אנושיים, הוא יכול למשל להציג נתונים מוטים, חלקיים ואף גזעניים, מבלי לבקר אותם. כך למשל, אם יתבקש להמליץ על תמונה של מנהל של חברה גדולה לשימוש בטקסט שיווקי, הוא עשוי לבחור תמונה של מנהל גבר לבן, ולא להציע תמונה של אישה, למשל, או גבר שחור. ישנו ניסיון לפתור בעיות אלו ומשולבים פתרונות שונים שמטרתם לסנן תגובות גזעניות.
עוד אתגר שכלי זה מייצר הוא בתחום זכויות היוצרים. מפתחי ChatGPT ודומיו השתמשו בכמות גדולה של חומר שכולל בין היתר חומרים שאמורים להיות מוגנים בזכויות יוצרים. לאחרונה פורסם כי הקומיקאית שרה סילברמן ושני סופרים הגישו תביעות ייצוגיות בגין הפרת זכויות יוצרים נגד מטא ו-OpenAI על שימוש לכאורה בתוכן שלהם ללא רשות כדי לאמן מודלים שפתיים של תוכנות בינה מלאכותית.
חשש נוסף מכלי זה הוא שהוא עלול לייתר תעשיות שלמות. אם זה כותבי תוכן, אנשי שירות לקוחות, אנשי שיווק, תסריטאים ואפילו מתכנתים. כך, הודיעה חברת IBM כי היא מקפיאה גיוסים של אלפי עובדים שתוכננו, וכי היא תחליף את אותן משרות, רובן בתחום משאבי האנוש והבק אופיס, ביישומים שונים של בינה מלאכותית, וכי לא תגייס עובדים שאת עבודתם יכול לבצע AI.
אין ספק כי מדובר בכלי שהיכולות האדירות שלו ישפיעו רבות באינספור תעשיות ובחברה כולה. מעניין יהיה לראות כיצד הוא עוד יתפתח, ואיך יהיה ניתן להתמודד עם האתגרים שהוא מייצר.
