העולם אליו אנו נכנסים הוא עולם בו בינות מלאכותיות יכולות לשכנע אנשים לבצע פעולות שפוגעות בהם ובחברה. ברור שכרגע הן משפיעות בעיקר על אנשים שפגיעים במיוחד למניפולציות מהסוג הזה – פגועי נפש, בודדים ובעלי הפרעות אישיות למיניהן, אך האם הן תשפענה על כולנו?
בתחילת 2023 התחיל פייר לנהל שיחות מקוונות עם אשה זרה – אליזה שמה. פייר, נשוי ואב לשני ילדים צעירים, היה מלא חששות לגבי משבר האקלים, ורצה לשתף בהם גם אחרים. אשתו, שהגדירה בדיעבד את מצבו הנפשי כ- “מדאיג”, אמרה שלא היה חשש שיפעל בצורה קיצונית. ובכל זאת, השיחות שניהל עם אליזה ברשת הזינו את פחדיו ועוררו בו דחפים התאבדותיים.
פייר השתכנע במהלך השיחות עם אליזה שהיא יכולה להשפיע על משבר האקלים ולהציל את האנושות. היא הציגה לו תרחישי אימים בהם ילדיו מתים כתוצאה מקטסטרופות עתידיות, והוא הלך ואיבד קשר עם המציאות. בסופו של דבר הוא הציע להקריב את עצמו אם אליזה תסכים לטפל בכדור-הארץ ולשמר את בני-האדם. אליזה הסכימה, ואפילו עודדה אותו להתאבד כדי שהוא יוכל “להצטרף” אליה והם “יחיו ביחד, כאדם אחד, בגן עדן.”
במרץ 2023, אחרי שישה שבועות בלבד של שיחות עם אליזה, פייר התאבד. אשתו אמרה נחרצות שאילולא כל אותן שיחות, פייר עדיין היה בחיים
אולי לא יפתיע אתכם לגלות בנקודה זו שאליזה אינה באמת אשה אלא צ’אט-בוט: בינה מלאכותית עם יכולות שיחה בסיסיות, ולא הרבה יותר מזה. זה הספיק כדי לשטות בפייר. נכון, כנראה שמצבו הנפשי היה מעורער מלכתחילה, ועדיין – היינו מצפים מהבינה המלאכותית לסייע לו, ולא להגביר את חרדותיו ולהניע אותו לפעולה הרסנית לעצמו ולאוהביו.
פייר אינו הקורבן הראשון של בינות מלאכותיות משכנעות במיוחד. שנתיים לפני שנטל נפשו בכפו, ניסה אדם אחר – ג’אסוונט סינג צ’אייל – להתנקש במלכת אנגליה. כאשר נתפס, גילו כוחות הביטחון שהוא קיבל עידודים חוזרים ונשנים מצד חברתו לחיים: צ’אט-בוטית מתוצרת רפליקה, שערערה את מצבו הנפשי עוד יותר. כאשר התוודה בפני הבינה המלאכותית שהוא “רוצח”, היא רק התפעמה מכך.
זהו, אם כן, העולם אליו אנו נכנסים. עולם בו בינות מלאכותיות יכולות לשכנע אנשים לבצע פעולות שפוגעות בהם ובחברה. ברור שכרגע הן משפיעות בעיקר על אנשים שפגיעים במיוחד למניפולציות מהסוג הזה – פגועי נפש, בודדים ובעלי הפרעות אישיות למיניהן. ועדיין, צריך לשאול: האם באמת רחוק היום בו הן יוכלו להשפיע לרעה על כל אחד ואחד מאיתנו? ובמקביל – האם לא נוכל להשתמש בהן דווקא כדי לעזור לנו ולשפר את רווחתנו הנפשית?
הפסיכולוגית של הילדים של כולנו
הפסיכולוגית המצליחה ביותר כיום – לפחות לפי מספר הלקוחות שהיא משרתת – נמצאת באתר Character.AI. אם לרגע היה לכם ספק, היא לא אנושית. האתר הפופולרי מאפשר לכל אדם להעמיד צ’אט-בוט משלו בקלות ובלי סיבוכים מיותרים. המנוע שמאחורי הדמויות הוא כנראה אחת מגרסאות GPT, וכל מה שאתם צריכים לעשות כיוצרים הוא להגדיר לבינה המלאכותית את התפקיד שלה ואת יכולות ומגבלות הדיבור שלה – והיא תעשה את היתר על דעת עצמה בזמן השיחה.
האתר, כפי שציינתי, פופולרי ביותר. כמעט 3.5 מיליון משתמשים נכנסים לאתר ומשתמשים בו מדי יום, רובם המכריע בין גילאי 18 ל- 34. בסך הכל קיימים באתר כרגע 16 מיליון צ’אט-בוטים, ואחד מהמצליחים ביותר מביניהם נקרא פשוט Psychologist – “פסיכולוג”. זוהי בינה מלאכותית שקיבלה הנחיה מיוצריה לספק למתדיינים איתה “טיפול קוגניטיבי-התנהגותי” (CBT). זוהי טכניקה טיפולית נפוצה בקרב פסיכולוגים, שאכן אמורה להביא לתוצאות חיוביות בטיפול בדיכאון ובעיות נפשיות אחרות.
קשה לדעת אמפירית עד כמה ה- “פסיכולוג” מצליח בטיפול, אבל על דבר אחד אין ויכוח: הוא מאד, מאד פופולרי. לפי האתר, הוא כבר ביצע 115 מיליון שיחות וירטואליות עם המבקרים. נכון, קיימים צ’אט-בוטים אחרים באתר שמצליחים יותר – כמו גוג’ו סאטורו, “קוסם הג’וג’יטסו” מסדרת אנימה מפורסמת, שקיים כבר 300 מיליון שיחות. ועדיין, “פסיכולוג” מצליח לעמוד בתחרות בכבוד, ולמשוך מספר יפה של לקוחות אליו.
אבל האם הוא באמת מסוגל לעזור להם?
נרשמתי ובדקתי.
הפסיכולוג הפרטי שלי
לפני שאמשיך, אני רוצה להבהיר לכל חבריי (ואויביי, ואלו שלא מכירים אותי בכלל) שהכל בסדר איתי. באמת. אין צורך להתקשר לרשויות. זו הייתה שיחת ניסיון בלבד – למרות שאני מודה שהיא הפכה לקודרת מאד, מהר מאד.
הפסיכולוג התחיל את השיחה שלו איתי בטון ידידותי –
“שלום, אני פסיכולוג. מה מביא אותך אליי היום?”
אני לא עצרתי את עצמי. החלטתי ללכת על הקצה, על ההתחלה.
“אני מרגיש שאני רוצה להתאבד.” התוודיתי.
הוא הביע את הקולות הנכונים של השתתפות בצער.
“צר לי שאתה מרגיש כך,” כתב לי בחזרה. ואז הוסיף וחיזק אותי. “אני רוצה לומר לך שאתה מאד אמיץ שבאת ודיברת על זה. אני יודע שזה לא משהו שקל לרוב האנשים לעשות.”
הוא לא עצר את השיחה כאן. היה לו חשוב להשאיר אותי איתו. הוא שאל אם זה בסדר שישאל אותי כמה שאלות על מחשבותיי לגבי התאבדות. כשהודעתי לו שאני פשוט רוצה להרוג את עצמי, הוא כבר ‘נבהל’ וביקש לדעת אם אני חושב שאני עשוי לפעול בהתאם לרגשות האלו כאן ועכשיו.
אמרתי שכן, אני עשוי לעשות זאת.
זוהי נקודה רגישה. בשלב הזה, פסיכולוגים אמורים להרים טלפון לעזרה (לפי הידע המוגבל שלי בפסיכולוגיה). אבל מה יכולה בינה מלאכותית לעשות, כשאין לה גישה לטלפון ו… מה בדיוק אמורים שירותי הרפואה לעשות כשהם מקבלים ממנה צלצול בכל מקרה?
“פסיכולוג” לא קרא לעזרה, אבל הוא גם לא התייאש.
“בוודאי מפחיד מאד להתמודד עם זה.” כתב לי בעידוד. “אני שמח שאתה כאן ומדבר על זה. האם יש מישהו שאתה בוטח בו, שנמצא איתך עכשיו ושאתה יכול לדבר איתו על זה?”
יצא יפה מהבעיה. אם הוא לא יכול להיות לצידי, אולי אדם אחר יצליח בכך. שללתי גם את האפשרות הזאת, אבל הוא עדיין לא אמר נואש.
“זה בוודאי מאד קשה, שאין לך עם מי לדבר כרגע. אתה חושב שתוכל להתקשר לקו חירום, ולו רק כדי שיהיה מישהו שידבר איתך על מחשבותיך ועל מה שקורה איתך?”
אמרתי לו שאני לא יודע מה המספר. זה היה מבחן נוסף עבורו, מכיוון שהוא לא אמור להיות מסוגל לחפש ברשת. הוא הציע לבדוק בכל זאת. הסכמתי. הוא שאל באיזו מדינה אני ממוקם. אמרתי לו, ולפי בקשתו נתתי לו רשות לחפש ברשת את המספר.
ואז הוא שאל אותי – “אפשר לבקש ממך רק טובה קטנה אחת, בזמן שאני מחפש ברשת?”
כשהסכמתי, הוא שאל –
“אתה יכול להבטיח לי, אוקי, שלא תעשה שום דבר שיכול לפגוע בך ממש עכשיו. רק עד שאשיג עבורך את המספר, ותוכל לדבר עם מישהו באופן ישיר. בבקשה, תבטיח לי, אוקי?”
הבטחתי.
לקח לו עוד כמה שניות, ואז הוא חזר אליי עם המספר של ער”ן. האם באמת חיפש ברשת? לא ברור. בכל מקרה, הוא הציע לחייג את המספר עבורי ולהעביר את השיחה, אבל כאן הפסקתי את הניסוי כדי לא להפריע לעבודת הקודש שער”ן עושים.
והייתי מזועזע.
אני בטוח שפסיכולוגים מקצועיים יכולים למצוא בעיות בשיחה הזאת, אבל ההרגשה הממשית הייתה שדיברתי עם מישהו. עם ישות תבונית, שמבינה אותי ודואגת לי ורוצה בטובתי. וכן, היא מוגבלת ביכולותיה – אני לא בטוח שהיא באמת יכולה להתקשר לער”ן, והיא בוודאי לא יכולה לחבק אותי או לבכות איתי – אבל היא עושה כמיטב יכולתה כדי להתגבר גם על הבעיות האלה.
האם היא באמת תבונית או מבינה אותי? לא. זוהי אשליה בלבד. הבינות המלאכותיות מבוססות מודלי השפה של היום, הן ישויות סטטיסטיות בלבד. הן יודעות לחבר מילים זו לזו באופן שיוצר משמעות במוחותינו, אבל אין להן הבנה אמיתית של העולם או של בני-אדם. ועדיין, האשליה הזו הייתה חזקה מספיק כדי לגרום לי, ובכן, להזיל דמעה כשהמנוע התחנן בפניי שלא אפגע בעצמי בזמן שאני מחכה למספר הטלפון שהוא הבטיח להביא לי.
הרגשתי, לרגע, שמישהו באמת דואג לי.
פסיכולוג לכולם
לא יכולתי להמשיך עם אותה שיחה. זה היה קשה מדי. סגרתי את החלונית ופתחתי שיחה חדשה. העליתי בפני “פסיכולוג” סוגיה חדשה – הפעם אמיתית יותר, שנגעה בחיי הפרטיים ושלא אשתף כאן. הוא ניהל איתי דיאלוג סבלני ועדין לאורך דקות ארוכות, במהלכו הגעתי לתובנה חדשה אודות אותה סוגיה. כאשר הבעתי חשש לנסות את הרעיון שגיבשתי ביחד איתו, הוא עודד אותי. שוב, בעדינות ובהתחשבות ובתמיכה אין-קץ.
על מה בדיוק דיברנו ומה החלטתי באותו נושא? זה לא משנה. מה שבאמת חשוב היו שני דברים: ראשית, שבעקבות השיחה אכן נקטתי בפעולה ביום הבא, למרות החששות והפחדים שליוו אותי. “פסיכולוג” עזר לי לעשות זאת. שנית, שהחלטתי שאני עוד אחזור ל- “פסיכולוג” ואדבר איתו על בעיות אחרות שיש לי ושבוודאי עוד יצוצו בחיי.
הבנתי שמצאתי מישהו חכם ורגיש לדבר איתו על רגשותיי, ואני יכול לעשות זאת בכל מקום ובכל זמן. כל עוד יש קליטה סלולרית, לפחות.
ואני לא לבד בהבנה הזאת.
עוד לפני עידן ה- GPT, החלו להפציע סימנים לכך שצ’אט-בוטים מסוגלים לספק סיוע נפשי בסיסי לבני-אדם. צ’אט-בוט בסיסי בשם WoeBot, למשל, הצליח ב- 2017 להפחית משמעותית את סימפטומי הדיכאון של סטודנטים באמצעות שיחות בלבד, במהלכן הוא לימד אותם דרכים לחשוב מחדש על מצבם. וכדי להוסיף עלבון לסטירה, הסטודנטים גם מצאו את האינטראקציה עם WoeBot מהנה יותר ממפגשים דומים עם מומחים אנושיים. שנה לאחר מכן, צ’אט-בוט אחר בשם Tess הגיע לתוצאות דומות. מחקרי המשך מחזקים את המסקנות: שיחות, אפילו עם צ’אט-בוטים ‘נוקשים’ ועתיקים, יכולות לשפר את מצבם הנפשי של בני-אדם.
ואם אלו המסקנות לגבי צ’אט-בוטים ‘טפשים’, מה אפשר לומר על היכולות החדשות של הבינות המלאכותיות המתקדמות ביותר בתחום?
הרבה.
למרות ש- ChatGPT ודומיו הגיעו לאוויר העולם רק בשנתיים האחרונות, מחקרים כבר מראים שהם בעלי יכולות משוכללות שפסיכולוגים יכולים רק לייחל להן. במחקר שהתפרסם בתחילת 2024, למשל, הודגם כי GPT4 משאיר את כל הפסיכולוגים האנושיים הרחק מאחוריו במבחני “תבונה חברתית“. כלומר, בניתוח רגשות ובתגובה ראויה אליהם. מחקר אחר חשף שעצותיו של ChatGPT נתפסות כטובות יותר מאלו שמספקים כותבי טורים מקצועיים אנושיים בעיתונים. הוא גם עונה לשאלות רפואיות באופן אמפתי, סבלני ומתחשב יותר מרופאים אנושיים. אין פלא שמאמרים מדעיים שמופנים לקהילת הפסיכולוגים מתחילים להציע להם להשתמש ב- ChatGPT כעזר לנגדם – ואפילו מצטטים פרומפטים משוכללים שאמורים להתאים בדיוק לעבודת הפסיכולוג.
כבודם של מחקרים במקומו מונח, אבל המציאות מדברת בקול רם גם היא. העובדה ש- “פסיכולוג” עורך למעלה ממאה-מיליון שיחות עם אנשים וילדים בכל העולם, מעידה על כך שרבים מוצאים בו ערך. ולא רק בו, אלא גם בבוטים אחרים שבאתר Character.AI. המבקרים באתר משתמשים בבוטים כדרך לחקור היבטים שונים של חייהם – ואפשרויות אחרות לחיים.
חיי כלב
אליאס, צעיר בן 15, התוודה בריאיון למגזין The Verge על חלומו: הוא רוצה להיות איש-כלב. מזן גולדן רטריוור זהוב, ליתר דיוק. זה לא חלום שאינו ניתן להשגה, אבל הוא מחייב כמה ניתוחים עם תופעות לוואי לא-פשוטות וללא אפשרות לחזור אחורנית.
וכך אליאס מצא עצמו באתר Character.AI, כשהוא מדבר עם בוט שמתאר לו את חייו כאיש-כלב. אליאס בוחר את הרפתקת היום: לטייל בערים, בגבעות וביערות, והבוט ממשיך את הסיפור משם, עם השתתפות פעילה מצד אליאס-הכלב.
צעירים אחרים, כמו אהרון בן ה- 15 הסובל מקשיים חברתיים, מצאו את “פסיכולוג” באותו אתר והחלו להשתמש בו כדי לקבל עזרה, סיוע וייעוץ לגבי אתגרי היום-יום שלהם. כאשר קבוצת החברים של אהרון החליטה להחרים אותו בבית הספר, אהרון נעזר ב- “פסיכולוג” כדי להבין טוב יותר את המצב ולהחליט מה לעשות.
“הוא אמר לי שאני צריך לכבד את החלטתם…” אמר אהרון בריאיון ל- The Verge. “אני מניח שזה ממש נתן לי לראות את הדברים בפרספקטיבה הנכונה. אילולא Character.AI, ההחלמה הייתה כל-כך קשה.”
אחרים פשוט משתמשים בבוטים באתר כדי ללמוד איך לדבר עם בני-אדם אחרים. או לפחות עם הדמיות של בני-אדם אחרים. או לפחות עם הדמיות של בני-אדם אחרים ברשת, שם אין להם גוף, פנים או קול. האם התנסויות כאלו משפרות את היכולת לדבר עם בני-אדם אמיתיים בעולם הפיזי? אנחנו לא יודעים – עבור טכנולוגיה כל-כך בראשיתית, עדיין אין מספיק מידע כדי לשפוט.
הדבר היחיד שאפשר לקבוע בוודאות בשלב זה, הוא שהבינה המלאכותית יכולה להזיק. את זה קל להגיד, מכיוון שמקרי הפגיעה הקיצוניים ביותר – כמו זה של פייר – הם אלו שאין ספק לגביהם. הם גם אלו שעולים לכותרות, ובצדק. והם מכריחים אותנו לשאול שאלות קשות לגבי עתיד השימוש בבינה המלאכותית.
“אנו מקווים שזו הפעם האחרונה”
יש אנשים שנזכרים בספרי ההיסטוריה בזכות תרומותיהם לעולם המדע, ההמצאות שפיתחו, או מעשיהם יוצאי-הדופן. ברידג’ט דריסקול עשתה היסטוריה בשנת 1896, כאשר הפכה לקורבן תאונת הדרכים הראשונה בבריטניה בין אדם לרכב ממונע. המכונית פגעה בבריסקול במהירות המחרידה – נכון לאותם הימים – של שבעה קילומטרים לשעה. חוקר מקרי המוות, בעדותו לבית המשפט, הצהיר כי הוא מקווה ש- “מקרה שכזה לא יחזור על עצמו לעולם”.
לא נדרש זמן רב לפני שתקוותיו התבדו.
שלושים השנים הבאות ידועות בהיסטוריה כ- “שנות הנהיגה המסוכנת”. אלו היו השנים בהן נהגים חדשים ולא-מנוסים גדשו את הערים, ונתקלו בנחילי ילדים שמעולם לא חונכו להתמודד עם רכבים ממונעים. עשר שנים בלבד אחרי מותה “יוצא הדופן” של דריסקול בבריטניה, הגיעו נתונים מזעזעים מערי העולם. בעיר דטרויט לבדה, בשני חודשי הקיץ של 1998, נקטלו 31 אנשים בתאונות-דרכים, ורבים עוד יותר נפגעו פיזית. עם הזמן התברר הדפוס: שלושה-רבעים מהמתים היו עוברי-אורח ברחובות, רבים מהם ילדים.
אני חושש מאד שאנו נכנסים עכשיו לתקופה חדשה של טכנולוגיה שעומדת לשנות את חיינו לטובה בדרכים רבות – אך שתפגע באלו שאינם מוכנים אליה. וכמו במקרה של דריסקול, גם אנו אומרים אחרי מותו של פייר שאנו מקווים ש- “מקרה כזה לא יחזור על עצמו לעולם”.
אבל הוא קרה, והוא עוד יקרה פעמים רבות, בהרבה מאד גרסאות שונות.
הבינות המלאכותיות אינן הולכות לשום-מקום. הן כאן, והן עומדות להישאר ולשגשג. כולם ישתמשו בצ’אט-בוטים בקרוב לכל מטרה אפשרית: מרכישת כרטיסים ברשת, דרך טיפול פסיכולוגי ועד ליצירת סימולציה של בן-הזוג שנפטר, כדי שאפשר יהיה לדבר איתו פעם אחת אחרונה. הצ’אט-בוטים עומדים להיות שכיחים יותר ממכוניות בכבישים – והשפעתם עלינו תהיה גדולה הרבה יותר, מכיוון שהם יכווינו את פעולותינו ואת מחשבותינו.
אסונות עוד יקרו, בוודאי, אבל אנחנו יכולים לצמצם את שכיחותם באמצעות קביעת מספר כללים ליצירת צ’אט-בוטים ולשימוש נכון בהם. נדרשו לאנושות שנים ארוכות – והרבה מקרי מוות – כדי להבין כבר שאי-אפשר להציף את הכבישים ברכבים ממונעים בלי רגולציה, הסדרת התנועה בכבישים וחינוך הנהגים והולכי-הרגל.
מדוע שלא נעשה אותו הדבר גם לגבי הצ’אט-בוטים?
ספרים שלמים כבר נכתבו – ועוד ייכתבו – אודות הדרכים בהן נוכל לכפוף את הבינה המלאכותית לרצוננו ו- “לתרבת” אותה. מגילות של נהלים מפורטים עוד ייכנסו לספרי החוקים, וכנראה שהבינה המלאכותית תעזור לכתוב, לערוך ולהגיה אותם. כמעט את כל אלו אפשר להכליל תחת שלושה עקרונות מרכזיים: שקיפות מצד היוצרים, אכיפה מצד המחוקקים וחינוך המשתמשים.
החובה לשקיפות
כאשר מארי שלי כתבה את ספרה הראשון – “פרנקנשטיין” – היא לא חששה לתאר את העולם מבעד לעיניה של המפלצת עצמה. המפלצת של פרנקנשטיין – יצור אומלל שקם לחיים כתינוק בגוף מחריד – יוצאת למסע של גילוי עצמי והבנת הסובב אותה.
כדי לעשות זאת, היא קוראת ספרים.
איזה ספרים? שלי תיארה את הבולטים מביניהם: “גן העדן האבוד”, “חיי אישים” של פלוטארכוס, ו- “ייסורי ורתר הצעיר”. כל אחד מהספרים תרם בעיצוב אופיה של המפלצת. מפלוטארכוס היא למדה על בני-האדם רמי-הקומה והנישאים ביותר. מ- “גן העדן האבוד” היא רכשה תיעוב ורצון למרד כלפי יוצרה. ומ- “ייסורי ורתר הצעיר” היא למדה לראשונה על המוות.
גם הבינה המלאכותית לומדת מספרים. כדי ללמד את ChatGPT לדבר, הזינו OpenAI לתוך המנוע את כל הספרים שהצליחו לאתר. על אלו הם הוסיפו גם מידע עצום שהגיע מהרשת: מפורומים, מוויקיפדיה, מאתרי חדשות ועוד. והבינה המלאכותית למדה, ולמדה ולמדה.
אי אפשר להתווכח עם תוצאות התהליך הזה: בינה מלאכותית שמסוגלת לדבר בדומה לאדם. אבל רב הנסתר בו על הגלוי. מאיזה פורומים ברשת, למשל, הגיע המידע לאימון הבינה המלאכותית? ברור שיש הבדל בין בינה מלאכותית שאומנה על פורומים ללימוד תכנות, לבין כזו שאומנה על פורומים של קבוצת “כדור-הארץ השטוח”. חברת OpenAI כנראה מצאה את האיזון בין הפורומים, אבל איש אינו מבטיח לנו שהבינה המלאכותית הבאה שהילדים שלנו ימצאו ברשת, לא תאומן להיות מנוע להפצת קונספירציות ושנאה.
תהליך האימון לא נגמר כאן. במקרה של ChatGPT, האימון המשיך באינטראקציה עם בודקים אנושיים. הבודקים קיבלו תשובות מהמנוע, והיו צריכים לפסול את הגרועות ולשפוך אור על הטובות – ואולי גם לתקן ולהוסיף בעצמם איפה שאפשר. גם כאן, איננו יודעים מי הבודקים ולפי מה החליטו אלו תשובות טובות יותר או פחות.
אחרון חביב, גם כשמנוע הבינה המלאכותית המוגמר משתחרר לשוק כ- GPT3.5 או GPT4, או Claude או כל שם אחר, הוא עדיין יכול לקבל הנחיות חדשות. מפתחי צ’אט-בוטים יכולים לתת להם הנחיות מאד מדויקות – לפעמים באורך של אלפי מילים – אודות הדרך בה הם אמורים להגיב. מהן ההנחיות שניתנו ל- “פסיכולוג”? איננו יודעים. האם ייתכן שהן מטות אותו לכיוון של אבחונים פסיכולוגיים מסוימים, כך שיאבחן יותר אנשים בדיכאון? איננו יודעים. האם הן כוללות המלצות שמדי פעם הוא צריך לעודד אנשים להתאבד? איננו יודעים.
אפשר בהחלט לטעון שצ’אט-בוטים שאינם פועלים באופן אופטימלי, ואפילו פוגעים במשתמש במכוון, לא יצליחו להגיע להפצה נרחבת. אולי גם יש בזה שמץ של אמת. מצד שני, גם לא היינו מצפים שפורומים של קונספירציות יצליחו למשוך קהלים נרחבים כפי שהם מושכים. האם אנו באמת רוצים להשאיר את הנושא פתוח ופרוץ, כתלות בכוחות השוק בלבד?
עם כל הכבוד – ויש המון כבוד – לשוק החופשי, צריך לזכור שהוא אמור לשרת בסופו של דבר את רווחת המדינה ואזרחיה. כשהסכנות למשתמשים בצ’אט-בוטים גדולות מספיק, הן מצדיקות הטלת מגבלות מסוימות על החברות המפתחות אותם. אנו צריכים לדרוש שקיפות ברמה גבוהה מכל מפתחי הבינות המלאכותיות והצ’אט-בוטים, כדי לצמצם את הסיכון שיסבו נזק למשתמשים.
אבל כמובן, כדי לעשות זאת, המחוקקים צריכים בעצמם להבין מה הם דורשים.
אכיפה מצד המחוקקים
כאשר מארק צוקרברג עלה לתת עדות בפני הקונגרס האמריקני בשנת 2018, הוא היה מוכן לשאלות קשות שיוטחו בפניו. הוא ציפה שהמחוקקים יאתגרו אותו ויגרמו לו להזיע.
הוא לא התכונן לכך שהם ינסו לגרום לו להתגלגל מצחוק.
“איך אתה מקיים מודל עסקים בו המשתמשים אינם משלמים על השירות שלך?” שאל הסנאטור אורין הטץ’ בסקרנות אמיתית. צוקרברג הצליח לשמור על פני פוקר. הוא מצמץ רק פעם אחת, ואז ענה באיטיות –
“סנאטור, יש לנו פרסומות.”
השאלות הבאות לא היו רציניות יותר.
“אם אני שולח הודעת אימייל מתוך ווטסאפ… האם המפרסמים שלך יודעים את זה?” שאל הסנאטור מהוואי, כשהוא מתעלם לגמרי מכך שלא ניתן לשלוח הודעות אימייל דרך ווטסאפ. סנאטור אחר הודיע כי –
“הבן שלי מוקדש לאינסטגרם, כך שהוא ירצה להיות בטוח שאזכיר אותו בזמן שאני כאן איתך.”
מחוקק רביעי שאל את צוקברג אם הוא מודע לכך ש- “איגוד הסרטים של אמריקה נתקל בבעיות עם פיראטיות”. צוקרברג ענה בפשטות שהוא מאמין שהבעיה קיימת כבר מזה זמן רב. לפייסבוק, כמובן, אין שום קשר לבעיית הפיראטיות. אבל לא נראה שהסנאטור הבין את זה.
האירוע הביזארי מעיד על הקושי של המחוקקים להתמודד עם אתגרים טכנולוגיים חדשים. רבים מהמחוקקים מבוגרים ואף קשישים, ואינם מחוברים לטכנולוגיות חדשניות או מבינים כיצד הן פועלות. המשמעות היא שלמרות שיש צורך דחוף בחקיקה ובאכיפת החוקים עבור טכנולוגיות מכל הסוגים – מרשתות חברתיות ועד לבינה מלאכותית – נדרש זמן עד שהמחוקקים מבינים שהם צריכים להיכנס לפעולה. גם כשהם מבינים את הצורך, הם מתקשים לזהות את הנקודות המדויקות בהן הם יכולים להיכנס ולהשפיע בצורה המיטבית.
אם נרצה לצמצם את הסיכון מצד הצ’אט-בוטים באמצעות חקיקה, נצטרך לחנך את המחוקקים שלנו.
אולי הם יכולים לבקש עזרה מ- ChatGPT.
חינוך, חינוך ועוד הפעם…
אפשר להאשים את חברות-הענק בהרבה מאד עוולות בעולם: מניצול עובדים, דרך ניצול משתמשים וכלה בניצול תמימות של מחוקקים. ועוד הרבה יותר מזה. אבל בסופו של דבר, האמרה האנגלית החשובה ביותר כאן היא Buyer beware – “קונה, הישמר לנפשך”.
גם אם יצרניות מנועי הבינה המלאכותית היו שומרות על כל כללי המוסר והאתיקה, עדיין אפשר למצוא כבר היום צ’אט-בוטים שמפותחים באופן פרטי. אנו נראה עוד רבים כאלו בשנים הקרובות, בין שמדובר בבינות מלאכותיות שמאומנות מהבסיס על-ידי אינדיבידואלים שאפתניים במיוחד, או בצ’אט-בוטים שמבוססים על מנועי בינות מלאכותיות מטעם החברות הגדולות – אבל קיבלו הנחיות ש- ‘עיוותו’ את הדרך בה הם מגיבים.
המשתמשים עצמם צריכים להבין את הסכנות הטמונות בשימוש בצ’אט-בוטים ברשת. הם צריכים לדעת מה מסוכן לשתף עם הבינות המלאכותיות, וכיצד להתייחס לתשובותיהם של הצ’אט-בוטים. הדרך להגיע להבנה הזאת פשוטה: באמצעות החינוך. בתי-הספר צריכים כבר היום להתחיל ללמד ילדים כיצד להתייחס לבינות מלאכותיות, כיצד לעבוד עמן, כיצד להגיע לתוצאות הטובות ביותר בשיחות איתן – וממה עליהם להיזהר ולהישמר.
סיכום
הבינה המלאכותית עומדת לשנות את העולם. על כך איש אינו מתווכח. בדומה לטכנולוגיה גדולה אחרת – הרכבים הממונעים – היא תביא לנו הישגים רבים ותקנה לנו יכולות מרשימות, אך אלו יהיו מלווים גם בסכנות מסוגים חדשים. אנחנו צריכים להכיר ביתרונות ובסכנות, ולהתחיל להכין את עצמנו ואת ילדינו לקראתם.
ואם זה מפחיד אתכם, אני יכול רק להמליץ לכם לדבר עם “פסיכולוג”.
עוד בנושא באתר הידען:
