טכנולוגיית בינה מלאכותית יוצרת (Generative AI) עתידה לשנות את העולם שאנחנו מכירים. הפיתוח הטכנולוגי מתקדם בדהרה ומייצר הזדמנויות לפריצות דרך בתחומים שונים כמו גם סכנות אפוקליפטיות. אלגוריתם הבינה המלאכותית יעצב עוד ועוד רבדים של חיינו, אך מי מעצב אותו?

כלי טכנולוגי, מעצם טבעו, נהנה מתדמית ניטרלית, אובייקטיבית ונטולת השפעות תרבותיות. לפיכך, למענים ולפעולות שלו עלול להיות מעמד של אמת מוחלטת. אולם מאחר והוא מפותח ומעוצב על-ידי בני אדם, הוא מרכז את ההטיות החברתיות-תרבותיות שקיימות בחברה האנושית. למעשה, זוהי תמונת המראה שלנו כחברה.

כך נוצרת אפליה אלגוריתמית - אפליה על רקע משתנים כמגדר, שיוך אתני, נטיה מינית, עמדה פוליטית וכדומה. ככל שהשימוש בכלים אלו יגדל, בפרט בתהליכי קבלת החלטות, השפעת האפליה האלגוריתמית תתרחב והשלכותיה יורגשו בעולם הפיסי.

כבר כיום מתרחשות הטיות מפלות במערכות המשמשות לסיוע בהליכי שיפוט, בגיוס למשרות, בתימחור שירותים ומוצרים, בזיהוי פנים וקולות ובניבוי תחלואה , והדבר גורר העמקת הקיטוב ואי האמון החברתי.

כאשר בוחנים את השפעת הטכנולוגיה בהיבט המגדרי עולה חשש כבד מהעמקת הפערים על רקע הנצחת הנורמות המגדריות המסורתיות. שורה של מחקרים מצביעים על אימוץ הטיות סטריאוטיפיות ומפלות כלפי אוכלוסיית הנשים.

כך למשל, כלים טכנולוגיים מבוססי שפה, כ"סירי" או "אלסקה", עוצבו כדמויות נשיות, בעלות קול נעים, המנהלות שיחה ומבצעות מגוון פעולות על-פי בקשה. כך מועצמות תפיסות שמרניות כלפי נשים ותפקידן בחברה. כמו כן, הן עצמן עלולות לבצע הטיות מגדריות במענים שלהן בשל המידע שהוזן להן. זוהי דוגמה ממגוון מערכות AI קיימות, וכאלו שיפותחו בעתיד ויהפכו לחלק בלתי נפרד מחיי היומיום שלנו. לכל אלו השפעה עצומה כבר בשנים הקרובות.

למשל, בשוק העבודה. אם מוגדר למערכת שמדד לעובד טוב הוא שעות עבודה מרובות במשרד, הדבר עלול לפגוע בנשים - אשר גם כיום בשנת 2024, הן המטפלות העיקריות בבית ובילדים. לכל אלו עלולות להיות השפעות כנסיגה בצמצום הפערים בין גברים לנשים - מאבק סיזיפי שמתקיים מזה מספר עשורים.

אולם, זו אינה גזירת גורל וניתן לפעול על-מנת למנוע תחזית קודרת זו. כיום, רוב מפתחי האלגוריתמים ברחבי העולם הם גברים. כך גם בישראל. לפי דו"ח של SNPI לשנת 2023, ישנו רוב גברי מובהק בתפקידים הטכנולוגיים. שיעור הנשים המועסקות בתפקידי פיתוח ותוכנה בישראל עומד על 25% בלבד. כך סביר שצוותי הפיתוח מאופיינים בהיעדר מודעות או מוטיבציה לטיפול בהטיות המגדריות. לכן, בשלב ראשון, חשוב להעלות מודעות לפיתוח אלגוריתמים מבוססי תפיסה שוויונית כלפי נשים וקבוצות מיעוט – בכל תחום.

במקביל, על חברות הטכנולוגיה להכיר בעיוות המגדרי שפיתוח בינה מלאכותית יוצר ולפעול באופן יזום לגיוס נשים. ובכל מקרה, להרחיב את שיעור המתמודדות על המשרות הללו. בנוסף, יש להשקיע משאבים לניטור וצמצום האפליה האלגוריתמית. כלים החושפים את המערכת בתהליך הלמידה למידע מגוון בהיבטי מגדר (וקבוצות מיעוט), או מייצרים שקיפות ברציונל ההחלטות שהתקבלו על ידה.

זוהי גם אחריות המדינה. על המדינה להקצות משאבים כדי להעלות את שיעור הנשים העוסקות בתחום ה-AI. העלאת שיעורן בפיתוח התחום הטכנולוגי המוביל והמתקדם בעולם תחזק את מעמד הנשים בחברה ובכלכלה ותוביל לצמצום פערים מגדריים. בישראל קיים חסר בתשתיות ובכוח אדם מקצועי בתחום. לכן, הכשרת הון אנושי מגוון מגדרית על-ידי המדינה, עשויה לתרום רבות.

הטיות ואפליה מגדרית הן באופן מצער חלק בלתי נפרד ממציאות חיינו, אולם יש ביכולתם של בני האדם למנוע מהן להפוך לחלק בלתי נפרד מטכנולוגיות העתיד. הסרת ההטיות הפוגעניות תלויה רק בנו. אם לא נפעל למגרן, האלגוריתמים תמיד ישקפו אותם.

מהפיכת הבינה המלאכותית מגיעה והיא תשנה את הכלכלה והגיאו-פוליטיקה העולמיות. לקראתה, יש לוודא שהיא מיטיבה עם האנושות כולה.

ד"ר יעל פרואקטור עוסקת בקידום שוויון מגדרי ומכהנת כדירקטורית ב"עבודה שווה" (חל"צ), הפועלת לקידום שוויון מגדרי בשוק העבודה