לפני כמה ימים סיפר לי בני שהוא מתמודד עם דילמה מוסרית. לא עניין שגרתי עבור בן 13. הוא צריך להגיש עבודה בשיעור אנגלית, דיווח על ספר, אלא שהוא טרם קרא אותו וכעת הוא מתלבט אם להשתמש באפליקציית ChatGPT כדי שזו תכתוב עבורו את הדו"ח, אותו הוא יתרגם לעברית באמצעות "גוגל-טרנסלייט" ויגיש למורה.

האנדקוטה הזו נשמעת לכם אולי הזויה או לפחות עתידנית, אבל היא אמיתית לגמרי. למען הסר ספק, הבן שלי הוא לא גאון מחשבים או גיק במיוחד. אבל הרבה לפני שרובנו הספקנו לשמוע על מנועי בינה מלאכותית גנרטיבית, ילדים בני 13 כבר מבינים מצוין מה יש להם להרוויח מהחידוש הטכנולוגי וכיצד להפיק ממנו תועלת.

רקע קצר למי שעוד לא שמע על ChatGPT, בוט השיחה הטקסטואלי החדש של חברת OpenAi שחורך את הרשת ומרעיש את חובבי הטכנולוגיה ברחבי העולם. מיליוני משתמשים כבר נרשמו להשתמש ב-ChatGPT בחינם ובימים האחרונים הוא קורס תחת עומס הדרישה וזמין באופן חלקי בלבד. קל מאוד להשתמש בו והוא מניב תוצאות מדהימות למדי בקלות ובמהירות יוצא דופן.

בשנה האחרונה דובר הרבה מאוד על מנועי בינה מלאכותית שיוצרים תכנים סינתטיים. הרשתות החברתיות מוצפות במגוון יצירות אמנות פנטסטיות, שנוצרו באופן מלאכותי על ידי פקודה טקסטואלית שהוזנה לאלגוריתם. מנועי התמונות עוררו הדים כי התוצרים שלהם מגניבים ומושכים את העין, אבל הבוטים הטקסטואלים שמסוגלים לנהל איתנו שיחות ולייצר עבורנו לפי הזמנה טקסטים ויצירות כתובות מכל סוג שאפשר להעלות על הדעת - מפרקים חדשים של סיינפלד המבוססים על התנ"ך ועד לתוכניות מפורטות לטיולים דמיוניים או מתכונים לארוחות ממסעדות פאר - עשויים לחולל רעידת אדמה גדולה הרבה יותר.

נראה שהם עומדים לשנות את עולם התעסוקה, עולמות התוכן, את האינטרנט עצמו ולמעשה את כל תהליך יצירת וצריכת המידע והידע כפי שאנחנו מכירים אותו.

צילום מסך מהאתר של ChatGPT

למען הסר ספק, אותם מנועי בינה מלאכותית לא "חושבים" בעצמם. הם לא אינטליגנטים או מודעים כמו בני אדם. למעשה, הם בכלל לא מבינים מה הם מייצרים או מה שאנחנו מבקשים מהם, הם רק מגיבים לפקודות ומסוגלים לחזות ולייצר תוכן בצורה מאוד מדויקת ומורכבת. הם מתבססים על מאגרי המידע האדירים הזמינים ברשת ומשתפרים תוך כדי תנועה. הם לא מסוגלים ליצור שום דבר חדש או יצירתי שלא מבוסס על תוכן קיים, כמו אדם שיש לו רגע של השראה או חזון בלתי מוסבר.

מנועי הבינה המלאכותית מנתחים, מערבבים ומתמצתים אוקיינוס של מידע על פי דרישה ועל פי הגדרת המשתמש ומספקים תוצר שהוא סוג של ממוצע או מכנה משותף של כמה שיותר תכנים שעונים לאותם קריטריונים. התוצאה לא בהכרח מבריקה או יצירתית, אבל כמה תוצרים טקסטואליים אנושיים הם בהכרח מבריקים ויצירתיים ואינם מיחזור או הכלאה של תכנים קודמים?

היכולות שמפגינים המנועים הטקסטאליים כבר מעלות שאלות חברתיות ואתיות בהרבה מאוד תחומים. אמנים ומעצבים יזמו מחאה בינלאומית נגד השימוש שמנועי בינה מלאכותית עושים בעבודות שלהם, בשירות משתמשים שלמעשה רוצים להחליף אותם במנוע אלגוריתמי. המנועים הטקסטואליים מאיימים על בעלי מקצוע רבים הרבה יותר, מעיתונאים וסופרים ועד פסיכולוגים ועורכי דין. כל התפתחות טכנולוגית מחסלת מקצועות, אולם לבינה מלאכותית פוטנציאל להשפעה רחבת היקף במיוחד.

אם עד עכשיו הדרך העיקרית לנווט בתוך אוקיינוס המידע האנושי המשותף של האינטרנט היתה מנועי חיפוש אלגוריתמיים שכיוונו אותנו לאתרים שונים על פי דירוגים ושיקולים פנימיים שלא הכרנו, ברגעים אלה ממש נוצרת דרך חדשה לחלוטין לגשת למידע ולצרוך אותו

כרגע נראה שהבוטים הללו עומדים לשנות לחלוטין את האופן בו אנחנו מחפשים וניגשים לתוכן באינטרנט. יש מי שכבר מכריזים שסופו של גוגל כפי שאנחנו מכירים אותו קרוב. אם עד עכשיו הדרך העיקרית לנווט בתוך אוקיינוס המידע האנושי המשותף של האינטרנט היתה מנועי חיפוש אלגוריתמיים שכיוונו אותנו לאתרים שונים על פי דירוגים ושיקולים פנימיים שלא הכרנו, ברגעים אלה ממש נוצרת דרך חדשה לחלוטין לגשת למידע ולצרוך אותו.

עבור מערכת החינוך מדובר באתגר גדול במיוחד. מפתה מאוד להשתמש במנועי הצ'אט הללו כדי לבצע מטלות שפעם היו דורשות מאיתנו זמן רב, למשל חיפוש ותמצות של מידע. במקום לגלול בין עמודי חיפוש ולעבור במשך שעות בין אתרים שונים בשפות שונות, אפשר פשוט ללחוץ על כפתור. למה לעבוד קשה אם הבינה המלאכותית יכולה לחפש ולסכם במקומנו?

הילדים שלכם כבר מזמן מתבססים על הרשת כדי להכין עבודות לבית הספר, ומתכוננים למבחנים עם גוגל ויוטיוב. ככה לומדים היום. עכשיו לכו תסבירו להם ששימוש בצ'אט-בוט, שמסנתז עבורם מיליוני תוצאות חיפוש ומייצר טקסט קוהרנטי אחד בחלקיק מהזמן הדרוש, פוגע בתהליך הלימוד וההתפתחות שלהם. מעבר לזה, איך המורים שלהם אמורים לזהות שהם ביצעו את קיצור הדרך הסינתטי הזה ולהשלים להם את כל מה שפספסו? בנוסף, הצ'אט-בוט לפעמים טועה או מטעה. אין שום אינדיקציה למקורות המידע עליהם הוא מתבסס ולפעמים התשובות שלו פשוט שגויות (אני כבר נפלתי על כמה כאלה) או משקפות הטיות ודעות קדומות רווחות.

במקום לאסור באופן אוטומטי על השימוש בכלים כאלה, איסור שלא ברור איך ייאכף, המורים צריכים לתת לתלמידים כלים והנחיות לשימוש נכון. אלא שכל העולם הזה חדש לגמרי עבורם, והתלמידים ללא ספק כבר מקדימים אותם ונמצאים שם לפניהם. נקודת הפתיחה לא פשוטה – אבל מביאה איתה גם הזדמנויות רבות, כי שימוש נכון ומושכל בכלים האלה פותח אוקיינוס ענק של הזדמנויות, בדיוק כמו המעבר מספריות עיון מצומצמות לאינטרנט הפתוח והרחב.

נדרשת עבודה רבה כדי להבין איך מנועי הבינה המלאכותית עובדים, כיצד נכון להשתמש בהם ואיך צריך לפקח עליהם. עבור מערכת החינוך זאת משימה דחופה ורלוונטית במיוחד כי ברגעים אלה ממש הצ'אט-בוטים האלה כבר מכינים את שיעורי הבית של רבים מילדינו וסביר להניח שהם לא באמת מבינים את החסרונות הנלווים לכך. כששאלתי היום את ChatGPT האם לדעתו כדאי שתלמיד ישתמש בו כדי לכתוב משימות "בוק-ריפורט" הוא היה מאוד נחרץ וענה שלא, משום שקריאת הספר בעצמם "תספק להם הבנה עמוקה יותר של הספר ופיתוח של יכולת הניתוח והתובנות שלהם". אז אולי בכל זאת יש עוד ניצוץ של תקווה, כל עוד הבינה המלאכותית שאנחנו יוצרים מבינה שלקריאת ספרים והעמקה בהם יש ערך מוסף שלה כרגע אין. בינתיים.

נ.ב. למען הסר ספק – את הטור הזה כתבתי לגמרי בעצמי ולא ביקשתי מאף צ'אט-בוט לכתוב אותו עבורי. או שלא. אתם לא יכולים לדעת.

עידן רינג הוא מנהל תחום קהילה וחברה באיגוד האינטרנט הישראלי