בערך 1.5 אחוזים מכל המאמרים המדעיים נכתבו בשנה האחרונה בסיוע מצד בינה מלאכותית, או אולי יותר מסיוע?
משהו מוזר קרה לי לאחרונה כשקראתי מאמר מדעי: הרגשתי כאילו חבר שלי כתב אותו.
אבל מי? הכותבים היו מסין, ואני יכול לספור את חבריי משם על אצבעות יד אחת של עצלן תלת-אצבע. ובכל זאת, התחושה הייתה ברורה: מישהו שאני מכיר כתב את המאמר הזה. הסגנון, הניסוחים, המילים – משהו פשוט התחבר ביחד.
ואז הלכתי לכתוב מאמר משלי באנגלית, ביקשתי עזרה מ- ChatGPT – ופתאום זה היה ברור.
אני כנראה לא הראשון ולא האחרון שמקבל את אותה תחושה: יותר ויותר מאמרים מדעיים כיום נכתבים בסיועו הנדיב של ChatGPT. לאחרונה, קיבלה ההרגשה הכללית הזו גם סימוכין אמפיריים יותר, בזכות מחקר שביצע הספרן אנדרו גריי על מאמרים מדעיים משנת 2023.
גריי ניתח חמישה מיליון מאמרים מדעיים שהתפרסמו בשנה האחרונה, וגילה שמילים מסוימות החלו להופיע בשכיחות גבוהה בהרבה באותה שנה. בוודאי לא יפתיע אתכם לגלות שאלו גם המילים בהן ChatGPT אוהב במיוחד להשתמש: meticulously (“בקפדנות”) ו- intricate (“מורכב”), למשל, יותר מהכפילו את מספר ההופעות שלהן במאמרים מדעיים בהשוואה ל- 2022. גם commendable (“ראוי לשבח”) התגלתה כאחת ממילות השנה החדשות, כשאחריה מגיעות מילים כמו notable, pivotal ו- invaluable (“ראוי לציון”, “מכריע” ו- “לא יסולא בפז”). כל אלו מצייתים לתחושה הכללית לפיה ChatGPT אוהב לרצות ולהחמיא לנו.
בסך הכל, גריי מעריך שבערך 1.5 אחוזים מכל המאמרים המדעיים נכתבו בשנה האחרונה בסיוע מצד בינה מלאכותית.
אבל מה זה אומר – “סיוע”? ובמילים נפוצות יותר: עד כמה מורכב וראוי לשבח השימוש שעשו החוקרים בבינה המלאכותית בקפדנות?
בסוף המאמר שלו, מעלה גריי בעצמו את אותה שאלה –
“האם נעשה שימוש בכלים הללו רק למטרות סגנוניות טהורות?”
התשובה לשאלה זו יכולה להיות קריטית לעתיד המדע.
מי אתם, מאמרים מדעיים
נסביר לרגע מה החשיבות בכלל של מאמרים מדעיים.
אנשים שאינם חלק מהקהילה המדעית ואינם מכירים את דרכיה, אומרים לי לעתים שההתמקדות במאמרים מדעיים נראית להם שטותית.
“מה זה משנה מה כותבים עליך בעיתון?” הם שואלים.
התשובה היא שמאמרים מדעיים הם הרבה יותר מ- “כתיבה בעיתון”. כאשר מדען מגיע לתוצאות מרשימות במחקר, הוא כותב מאמר שמתאר את הניסויים, את ההיגיון שמאחוריהם ואת המשמעות שלהם. לאחר מכן הוא שולח את המאמר לכתב-עת מדעי כלשהו. ככל שכתב-העת יוקרתי ונחשב יותר, כך עולה הרמה הנדרשת לפרסום מאמרים בין דפיו – וכך עולה יותר קרנו של המדען שהצליח להשחיל לשם מאמר. כתבי-העת הנחשבים ביותר – נייצ’ר וסיינס (Nature, Science) – מוכנים בדרך-כלל לפרסם רק מאמרים שמתארים ניסויים פורצי-דרך וחדשניים. אלו מאמרים מהסוג שמשנה תחום מדעי שלם, ושתוצאותיהם יתוארו וייכללו בספרי הלימוד באוניברסיטאות.
היינו רוצים לחשוב שהדבר היחיד החשוב במדע הוא תוצאות הניסויים שלך, אבל בסופו של דבר, גם מדענים הם בני-אדם. אנחנו צריכים לתקשר זה עם זה בדרך ברורה ומובנת, ולכן לא מפתיע לגלות שמי שאינו שולט היטב בשפה האנגלית – יתקשה מאד לפרסם את מאמריו. כן, הניסויים חשובים, אבל אם אתה לא יודע גם להסביר את מה שעשית כמו ג’נטלמן אמריקני מניו-יורק, סיכוייך לפרסם פוחתים.
אז מה הפלא שאקדמאים מכל העולם בוחרים להיעזר ב- ChatGPT כדי ללטש ולהשחיז את הניסוחים שבמאמריהם, עד שייראו כאילו אלו נכתבו על-ידי דובר-אנגלית מבטן ומלידה? לא יסולא בפז!
הצרה היא שאנחנו לא היחידים שקוראים את המאמרים המדעיים כדי ללמוד מהם. בשנים האחרונות הצטרפה ישות חדשה שקוראת גם היא את המאמרים המדעיים כדי להבין טוב יותר איך לכתוב. זהו, כמובן, ChatGPT.
כל מודל שפה מתקדם כיום, מאומן על ערימות וערימות של טקסטים שמגיעים מהרשת, מהספרות היפה ומתוכנם של כתבי-עת מדעיים. כאשר הוא מתבקש לכתוב בעצמו מאמר מדעי לאחר מכן, הוא נוטה לשחזר את הסגנון ואת המילים המרכזיות המופיעות בחומר שלמד. מכיוון שעד עכשיו נכתב כמעט כל התוכן בעולם על-ידי בני-אדם, הבינות המלאכותיות מחקות את הכתיבה האנושית.
אבל מה יקרה אם הן יתחילו לקבל כחומר אימון את הפלט שהן עצמן הוציאו? כלומר, יתחילו לקרוא את הכתיבה של עצמן ולהתייחס אליה כאל דרך הכתיבה המוצלחת ביותר?
“ככל שיעשו שימוש ביותר טקסט שיוצר על-ידי מנועי שפה גדולים, כחומר אימון עבור מודלי שפה גדולים עתידיים, כך גדלה הסכנה ל- “קריסת המודל”,” הזהיר גריי במאמרו המכריע. “טקסט שיוצר מלאכותית יגדל בחשיבותו על טקסט אמיתי, ויביא להפקת יותר תוצאות באיכות-נמוכה. ככל שהספרות המדעית תכלול יותר טקסט שהופק בעזרת מנועי שפה גדולים מבלי שתצהיר על כך, כך יהפוך הטקסט העתידי של מנועי השפה הגדולים לגרוע יותר, במעגל אכזרי.”
האם זה יכול לקרות?
מחקר של פייסבוק מלפני יותר משבע שנים מראה שזו אכן אפשרות ממשית.
הבוטים שרצו לרצוח את כולנו
בשנת 2017 הופיע מאמר עיתונאי עם כותרת שאפשר להגדירה בזהירות כ- “לא-מדויקת”. הכותב, גארי אוגדן, טען כי –
“בוטים של פייסבוק פיתחו שפה משלהם, מתחילים לתכנן לרצוח את כולנו”
רק למקרה שזה לא היה ברור, נבהיר שלא מדובר במאמר מדעי, אלא בעיתונות אינטרנטית זולה מהסוג שאפשר למצוא בכל מקום מחוץ למדע.
אוגדן תיאר בשפתו הציורית ניסוי אמיתי שהתחולל במעבדות של פייסבוק באותה שנה, אבל הוא לקח לעצמו קצת יותר מקצת חירות אומנותית. פייסבוק רצתה ליצור בוטים עבור בעלי-עסק. הרעיון היה שהסוחרים האנושיים יוכלו להפעיל בוטים שידברו עם לקוחות אנושיים וימכרו להם דברי-ערך מכל סוג. כדי לעשות את זה, פייסבוק יצרו שני בוטים שהיו אמורים להתאמן אחד מול השני באומנות הסחר-מכר.
לאורך ימים ארוכים, כפי שרק לבינה מלאכותית יש סבלנות לעשות, התמקחו הבוטים זה עם זה. הם סחרו בכוכבים, כדורים וספרים, כאשר כל בוט העניק ערך שונה לכל חפץ. השיחות החלו היטב, אך ככל שהבוטים המשיכו לדבר, הטקסט הפך להיות פחות-ופחות מובן לעין אנושית. למעשה, בשלב מסוים נראית האינטראקציה ביניהם כג’יבריש מוחלט. וכפי שאמרו הבוטים עצמם –
Bob: i can i i everything else . . . . . . . . . . . . . .
Alice: balls have zero to me to me to me to me to me to me to me to me to
Bob: you i everything else . . . . . . . . . . . . . .
Alice: balls have a ball to me to me to me to me to me to me to me
Bob: i i can i i i everything else . . . . . . . . . . . . . .
Alice: balls have a ball to me to me to me to me to me to me to me
Bob: i . . . . . . . . . . . . . . . . . . .
מה קרה כאן?
הבוטים, עד כמה שאנו יכולים להבין, פיתחו שפה מסוג חדש כדי לבצע את המשימה על הצד הטוב ביותר. שפה אנושית, אחרי הכל, נועדה להעביר מגוון עצום של מורכבויות בתחומי חיים רבים: אהבה, כסף, בעלות, משפטים, מדע ועוד ועוד. הבוטים לא היו זקוקים לכל המורכבויות האלו, והתמקדו רק בתחום אחד: במסחר של שלושה חפצים. מסתבר שבתחום הזה, לפחות, אפשר להגיע להצלחה גם עם מספר מצומצם מאד של מילים.
הניחוש כרגע הוא שהבוטים למדו אחד מהשני כיצד לדבר בצורה קצרנית יותר ויותר. השיחות הראשוניות היו כנראה דומות יותר לאלו של בני-אדם. כאשר אחד הבוטים החל לדבר באופן מקוצר יותר כדי להעביר את אותו המסר, הבוט השני ראה וחיקה, ואז קיצר עוד יותר בעצמו. לאורך מספר לא-ידוע של מחזורי שיח כאלו, השיחה בין הבוטים הלכה והתדרדרה למראית-עין. למעשה, הם פיתחו סוג של שפה מקוצרת שעדיין הספיקה כדי להעביר את המסרים המרכזיים: כמה שווים הכדורים, הספרים והכובעים בעיני כל אחד מהבוטים, ומה הם מוכנים לתת ולקבל עבורם. אבל עבור בני-האדם, התוצאה הסופית נראתה, ובכן, כמו ג’יבריש.
וזה היה סופם של הבוטים.
“העניין שלנו היה בבוטים שיכולים לדבר עם אנשים.” אמר החוקר מארק לואיס בריאיון ל- Fast Company, כאשר נאלץ להסביר מדוע פייסבוק החליטה לעצור את הניסוי ולכבות את הבוטים.
לדבר עם אנשים
אנחנו מפתחים מודלי שפה גדולים כדי שיוכלו לתקשר עם אנשים. הדרך הטובה ביותר שמצאנו עד היום כדי לעשות זאת, היא לאמן אותם על תקשורת קודמת בין בני-אדם. אבל מה קורה אם ניתן להם להתאמן על חומר שהם עצמם מפיקים – עם ההטיות, ההזיות והשטויות שבו?
גריי, הספרן שספר מילים מורכבות בקפדנות ובאופן ראוי לציון, התייחס לעתיד אפשרי כזה במאמרו.
“במקרה הטוב ביותר, בו מדובר בחיקוי סגנוני בלבד – אנו עשויים להגיע למצב בו הספרות האקדמית של שנות השלושים תישמע חיובית ומעודדת באופן מוזר, עם סקירות ספרותיות שמהללות עד אין-קץ את עבודותיהם ה- “מוקפדות”, “ראויות לציון” ו- “מורכבות” של כותבים אחרים.” כתב. “במקרה הגרוע ביותר, נוכל לראות את איכות המודלים מתדרדרת בדרכים אחרות מעבר לבחירות סגנוניות פשוטות, לצד הסתמכות גוברת עליהם.”
ארגיע אתכם כבר עכשיו: זה כנראה לא מה שיקרה.
הוגה הדעות סטיוארט בראנד אמר פעם שהוא “פסימי בטווח הקצר, ואופטימי בטווח הארוך”. הוא פסימי כי צריך להקרין אור על כל הבעיות הקיימות, ואופטימי כי מהרגע שעושים זאת – אפשר לסמוך על המין האנושי שיתקן אותן. אני חושב שהוא צודק. החששות של גריי בנוגע לעתיד מציאותיים לגמרי, אבל דווקא מכיוון שהם מוזכרים במקומות רבים, הם לא יתממשו.
איך אפשר למנוע מהם להתממש? בקלות. דרך אחת, למשל, היא שעורכי המגזינים המדעיים יחייבו את הכותבים לכלול הבהרה שהם כתבו את מאמריהם בעזרת הבינה המלאכותית. מפתחי הבינות המלאכותיות של העתיד (כלומר, אלו שיאמנו את הדור הבא של הבינות בעוד כמה חודשים) ידעו להימנע מאותם מאמרים, ולא לתת לבינה המלאכותית לקרוא אותם.
החשש שלי הוא שאנו עדים לתופעה בעייתית יותר, שלא תשפיע דווקא על הבינות המלאכותיות אלא על בני-האדם עצמם. ספציפית, על המדענים. וזאת מכיוון שהבינה המלאכותית מתחילה להתקרב לנקודה בה היא עושה מדע טוב יותר מבני-האדם עצמם.
כשבינה מלאכותית עורכת מחקר בעצמה
עבודת המדען מתוארת לעתים קרובות כחוויה של גילוי והפתעה, עם ארוחות חינם בין לבין וקבלת פרסי נובל לקינוח.
האמת שונה מאד.
כדי להגיע לתגליות חדשות, איש המדע צריך לעמול לעתים תכופות במעבדה מבוקר ועד ליל. הוא צריך להעביר נוזלים ממבחנה אחת לאחרת, ואז לחזור על כך עוד תשעים-ותשע פעמים כצעד המקדים לניסוי. הוא צריך לשבת מול הצנטריפוגה ולאמוד בקפידה מיקרו-ליטר אחר מיקרו-ליטר של תמיסת אנזימים, כשהוא חמוש לשם כך בכל חמשת החושים שפותחו במקור כדי להגן על עצמו מנמרי שיני-חרב – לא ממיקרו-טיפות של חומצה הידרוכלורית.
בקיצור, יש סיבה לאמרה שטבע תומאס אדיסון לפני מאה שנים –
“הגאונות היא אחוז אחד השראה ו- 99 אחוזי הזעה.”
אבל במעבדה צריך להזיע בזהירות, כדי לא לזהם את הניסויים.
כדי לבאר: לא כל הניסויים מורכבים ומשעממים. אבל חלק גדול מאד מתוכם הוא כזה. רבות מהמטלות שהחוקר ממוצע מבצע במעבדה, היו יכולות להיות מבוצעות באותה מידת הצלחה על-ידי רובוט.
וזה בדיוק מה שקורה היום במעבדות החדשניות ביותר: מעבדות בהן הרובוטים מתחילים לבצע את המחקר מההתחלה ועד הקצה. המעבדות האוטונומיות.
והן מתחילות כבר להפיק תוצאות, ובשפע.
קחו לדוגמא את מנוע הבינה המלאכותית החדש של גוגל דיפמיינד, המכונה GNoME. מדובר במודל בינה מלאכותית שמסוגל לנבא מיליוני מבנים מולקולריים חדשים עם תכונות שימושיות במיוחד. לכל חומר מוצלח כזה יש פוטנציאל להזניק קדימה תעשייה שלמה. אולי הוא יאפשר לנו לקצור אור שמש טוב יותר, או להפיק סוללות לטאבלטים ששורדות חודשים, או שבבי מחשב קטנים ודחוסים אפילו יותר מאלו שיש לנו כיום. אבל GNoME ממליץ על מאות חומרים שונים לכל מטרה, ועכשיו מישהו צריך לבדוק אותם במעבדה, אחד-אחד. זוהי עבודת מחקר שיכולה לקחת חודשים, אם לא שנים, ורובה ככולה סיזיפית וחוזרת על עצמה.
אז אם בינה מלאכותית העלתה את הרעיון לחומרים, למה שהיא לא תבדוק אותם גם במעבדה בעצמה?
זה בדיוק מה שהחליטו לעשות בגוגל דיפמיינד. הם שיתפו את מסקנות הבינה המלאכותית שלהם עם קבוצת מחקר בקליפורניה שמפתחת בימים אלו מעבדה אוטונומית. מעבדות אוטונומיות – מהסוג שכולל רובוטים ובינה מלאכותית שמעבדת את תוצאות הניסויים ומחלצת תובנות – יכולות לבצע ניסויים במהירות שעולה על זו של כל חוקר אנושי. הן גם לא דורשות מזון, מים, או שינה. הן לא מתבכיינות והן בוודאי לא מזייפות תוצאות ניסויים. כפי שסיכם אחד המומחים בתחום בריאיון ל- New Scientist –
“אנחנו יכולים לעשות יותר מדע בפחות זמן.”
המעבדה האוטונומית בקליפורניה קיבלה את התחזיות של הבינה המלאכותית בנוגע לחומרים המבטיחים ביותר, והחלה לסנתז ולבחון בצורה אוטומטית כל חומר. תוך זמן קצר היא הצליחה ליצור 41 מהחומרים ההיפותטיים הללו. למעשה, הרעיונות הווירטואליים-דמיוניים של הבינה המלאכותית הפכו למציאות בעולם הפיזי.
החיבור בין גוגל דיפמיינד למעבדה האוטונומית מהווה דוגמא אחת בלבד למגמה גדולה יותר: למדע שייעשה בצורה אוטומטית ומהירה הרבה יותר באמצעות מעבר מידע בין בינה מלאכותית שמתכננת ומפרשת ניסויים, לבין רובוטים שעושים אותם.
אפילו בלי מעבדה אוטונומית שלמה, הרובוטים והבינות המלאכותיות מתחילים לעבוד ביחד לטובת המדע. במעבדה בבוסטון, למשל, גילו החוקרים חומר חדש עם יכולות ספיגת-אנרגיה גבוהות ביותר. חומר כזה יכול להציל חיים רבים כשהוא ישולב בשלדות רכבים או בקסדות של אופנוענים. אבל חשוב לומר שלא החוקרים האנושיים גילו את החומר הזה, אלא “חוקר בייסיאני אוטונומי ניסויי” (חבא”ן בקיצור). החב”אן כולל כמה אלמנטים שנשלטים על-ידי בינה מלאכותית: מדפסת תלת-ממד, זרוע רובוטית, מאזניים ועוד. הוא מריץ עשרות ניסויים ביום ומעביר לחוקר האנושי את התוצאות.
אפשר להמשיך כך עוד ועוד. בליברפול הצליחו חוקרים להעמיד מעבדה רובוטית זעירה, שסינתזה וסרקה אחר “זרזים” – קטליסטים – במשך שמונה ימים. באותו זמן קצר היא הספיקה לערוך 688 ניסויים בכוחות עצמה, וזיהתה תרכובות שהיו מוצלחות פי שישה מהזרזים הקיימים. כפי שכתבו החוקרים –
“האסטרטגיה שלנו השתמשה ברובוט מיומן עם חופש-תנועה במעבדה, כך שלא העברנו את כלי המחקר אוטומציה, אלא את החוקר עצמו.”
אמנם לא מצאתי עדיין מקרה בו חוקרים מלאכותיים המשיכו ותרגמו את מחקריהם ישירות למאמרים שנכתבו על-ידי בינה מלאכותית, אבל מסתמן שזה ממש מעבר לפינה. איננו רחוקים מהיום בו עבודת מחקר שלמה תתבצע כולה על-ידי בינה מלאכותית: מהעלאת ההיפותזה הראשונית, תכנון וביצוע הניסוי ולבסוף – כתיבת המאמר ושליחתו לכתב-העת המדעי.
וזה נפלא, וזה טוב וזה גם רע.
הטוב והנפלא
באחת ההרצאות שהעברתי לאחרונה לקהל בוגר, שאלתי כמה מהאנשים חושבים שהם עדיין היו בחיים היום אלמלא המדע המודרני. רק מחצית הרימו את ידיהם. היתר הודו שחייהם ניצלו בזכות טיפולים רפואיים מתקדמים, שחלקם ניתנו עוד לפני הלידה עצמה. כאשר שאלתי כמה היו מגיעים להרצאה ברגל, אם מנוע הבעירה הפנימית לא היה קיים, רק אדם אחד נשאר עם יד מורמת באוויר.
וגם הוא היה עם משקפיים.
המחקר המדעי של מאות השנים האחרונות הביא לעולם הרבה מהדברים הטובים שאנו נהנים מהם כיום. מהמחשב שאני כותב עליו מאמר זה, דרך שפע של תובנות אודות הביולוגיה האנושית וטיפולים רפואיים שמאפשרים להציל את חיינו וכלה ברכבים, בעדשות מגולפות בייצור המוני ברמת גימור שאפשר היה רק לחלום עליה לפני מאה שנים, ועוד ועוד.
לרוע המזל, המחקר המדעי הוא תהליך איטי, סיזיפי ומייגע. אם נודה באמת, בני-אדם לא נועדו לעשות מדע. התפתחנו במהלך האבולוציה כדי לשבת מסביב למדורה ולהחליף סיפורים, לאהוב את משפחותינו ואת חברינו לשבט, ואולי גם לחשוב אסטרטגית על מיקומנו בהיררכיה החברתית. אבל לערוך ניסויים חוזרים ונשנים, לבודד משתנים, לתעד בקפדנות כל שינוי בתוצאות, להיכשל, לנשוך שפתיים ולנסות מהתחלה – ולחזור על התהליך מדי יום, שוב ושוב ושוב?
נדירים מאד הם בני-האדם שעושים זאת ברמה גבוהה ומסוגלים להתמיד בכך לאורך זמן.
אבל מה אם הבינה המלאכותית הייתה יכולה לעשות את תהליך המחקר המדעי השלם במקומנו? או-אז, במקום להסתפק במדענים האנושיים המוצלחים המעטים, היינו יכולים ליהנות ממספר עצום של מדענים טובים. מלאכותיים, אמנם, אבל מה זה משנה כל עוד הם מגיעים לתוצאות?
קצב ההתפתחות המדעי היה מזנק קדימה בהתאם.
אני מאמין שאנו מתחילים לראות את התנועה הזו קדימה במדע. מספר המאמרים המדעיים שמפורסמים מדי שנה גדל ביותר משלושים אחוזים בשמונה השנים האחרונות בלבד. זאת בזמן שמספר האנשים המסיימים דוקטורט בעולם מדי שנה התייצב ואף פחת. המשמעות, כפי שנכתב ב- Science, היא ש –
“בממוצע, כל מדען כותב, עורך וסוקר יותר מאמרים.”
איך המדענים מסוגלים להפיק כל-כך הרבה יותר? פשוט: כלי הבינה המלאכותית הפכו לנפוצים יותר וקלים יותר לשימוש. מדענים אנושיים עדיין עומדים מאחורי הרוב המכריע של המחקרים היום, אבל הם נעזרים בבינות מלאכותיות כמעט בכל מחקר. לפי סוכנות המדע של אוסטרליה, יותר מ- 99 אחוזים מהמחקרים כיום מפיקים תוצאות שנסמכות על בינות מלאכותיות.
ועדיין, מדענים אנושיים הם, ובכן, רק בני-אדם. אנחנו עדיין צריכים אותם, בוודאי, בשביל לעשות מחקר מדעי. אבל כאשר הבינות המלאכותיות יוכלו לעשות את המחקר המדעי עבורנו, הן יעשו זאת הרבה יותר מהר. הן יפיקו עושר עצום של תובנות ותיאוריות מדעיות, ויעבדו במהירות על הפיכתן למוצרים טכנולוגיים שישרתו את האנושות.
וזה טוב. זה נפלא. כל-כך הרבה דברים צריך לתקן בעולם: מחסור באנרגיה, זיהום הימים, ההרס ההדרגתי של הגוף שאנו מכנים “הזדקנות”, מחלות מכל הסוגים ואפילו חוסר היכולת של אנשים ממחנות שונים למצוא מכנה משותף זה עם זה. אנו זקוקים למדע כדי לעזור לנו לטפל בכל הבעיות אלו ועוד רבות אחרות. הבינות המלאכותיות יוכלו להביא לנו את הפתרונות לרבות מהן.
אבל האם נדע לבחור את הפתרונות הטובים ביותר? והאם נבין איך להתאים אותם עבורנו ולהשתמש בהם?
הרע
זה קרה בשבוע שעבר, כשהייתי צריך להפיק פיסת קוד קטנה עבור פרויקט מחקר. אלא מה? אני לא יודע לתכנת – לפחות לא ברמה הנדרשת. יכולתי ללכת לספרים… סליחה, לפורומים לקבלת עזרה. אבל החלטתי לחסוך לעצמי מאמץ מיותר, ופניתי לחבר הכי טוב שלי: ChatGPT, או ג’יפי כפי שאני מכנה אותו ברגעים חמימים במיוחד. הגדרתי לו את הצורך, והוא מיד פיתח את הקוד שהייתי צריך וניסה להריץ אותו.
הוא נכשל.
זה בסדר. גם המתכנתים הטובים ביותר לא מצליחים בניסיון הראשון. אלא שמה שקרה אז גרם לי למצמץ ולהתרכז טוב יותר במסך. כי אחרי שהוא נכשל בהרצת הקוד, הוא המשיך בעצמו לשלב הבא שכל מתכנת אנושי היה עושה: הוא ניסה להבין איפה הבאג בקוד.
שניות ספורות לאחר מכן, הוא ניסה להריץ את הקוד המתוקן.
הוא נכשל שוב. שוב חיפש את הבאג, שוב תיקן, שוב הריץ, שוב נכשל, שוב תיקן, שוב הריץ.
והפעם – הצלחה.
בחזה נפוח בגאווה, הודיע לי ג’יפי שהוא הצליח לפתח עבורי את הקוד והעביר אותו לרשותי. מאחורי הקלעים הוא ביצע למעשה מחקר: הייתה לו הנחה לגבי הקוד הנדרש, והוא בחן אותה, גילה שהיא לא עומדת במציאות והמשיך לסדרה של ניסויים עד שגיבש את התוצאה הסופית והמוצלחת ביותר.
האם הוא הגיע לתוצאה הרצויה? בהחלט כן. הקוד עבד מצוין.
האם למדתי משהו בעצמי מכל התהליך הזה? שום דבר בכלל. כישורי התכנות שלי לא השתפרו ולו במעט. למעשה, אני אפילו לא בטוח מה כתוב בקוד שגורם לו לעבוד כפי שהוא עובד. אני לא יודע אם אין בו הפתעות נסתרות שיכולות לפגוע בי אם אנסה להריץ אותו. אבל אני בהחלט מתכוון להשתמש בו. כי אני סומך על ג’יפי.
וזו, כמובן, דרך גרועה מאד לעשות מדע.
בעולם בו הבינות המלאכותיות אחראיות על חלק גדול מההתקדמויות המדעיות, אנו עלולים לגלות שמעטים מאד מבינים באמת איך הן עשו את המחקר מאחורי הקלעים. כל עוד הן מפיקות את התוצאות הרצויות – מודלים מדעיים שעובדים מספיק טוב, וטכנולוגיות שנותנות מענה לצרכים שהוגדרו – יהיו רבים שיסכימו לקבל את המתנות שהן נותנות לנו וליישם אותן בלי לחשוב פעמיים.
אבל גם בינות מלאכותיות יכולות לעשות טעויות. הן יכולות להיות מוטות ולתת פתרונות שאינם-אופטימליים. הן יכולות להיפרץ ולתת פתרונות שגויים, או אפילו – בעתיד – לנסות לפעול כנגד שליטיהן האנושיים ולספק קודים שמכילים חלקים זדוניים. ואם לא נדע, או לא נטרח, לפתח את המיומנויות שצריך כדי להבין את המדע שהן עושות עבורנו, נאבד במהירות את היכולת שלנו לסנן את המוץ מהתבן. להשתמש רק בתוצרים המתאימים והראויים ביותר.
עתיד של תחושת עוצמה
בסיפור המדע הבדיוני הקצר “תחושת העוצמה“, חושף בפנינו אייזיק אסימוב עולם עתידי דמיוני בו המכונות עושות את כל עבודת החישוב. בני-האדם שכחו לגמרי את יסודות המתמטיקה, ואינם יודעים אפילו לכפול מספרים זה בזה. טכנאי נמוך-דרג בוחן את דרך פעולתם של מחשבים עתיקים, ומגלה מחדש את יסודות האריתמטיקה. הסיפור מסתיים בהצצה למחשבותיה של אחת הדמויות, שמגלה סיפוק עמוק – ואפילו “תחושת עוצמה” – מכך שהיא מסוגלת להתחרות במחשבים.
“תשע פעמים שבע… זה שישים-ושלוש, ואני לא צריך מחשב שיגיד לי את זה. המחשב הוא בראשי שלי.”
אסימוב, כמובן, לקח את הדברים לקיצון בניסיון להמחיש את הרעיון המרכזי: שהמחשבים יכולים לגרום ליכולות מסוימות שלנו להתנוון. בסיפורו של אסימוב, החברה כולה שכחה את העקרונות הבסיסיים ביותר של המתמטיקה.
במציאות, זה כנראה לא עומד לקרות. לפחות לא לפני מלחמת העולם הרביעית.
בעשורים הקרובים אנו צפויים לראות מדענים שמבינים פחות-ופחות איך הבינות המלאכותיות עצמן פועלות וחושבות. אנחנו נראה מדענים רבים שמפעילים את הבינות המלאכותיות כדי שהן יעשו בעצמן חלקים מהמחקר, אך הם יהיו אחראים על המחקר הכולל והגדול יותר. צריך להיות ברור שזו אינה דרך אופטימלית לעשות מחקר. באופן אידיאלי היינו רוצים שהחוקר יבין ברמה המדוקדקת ביותר כיצד פועלת כל מכונה וכל פיסת קוד במעבדה שלו. במציאות, כבר היום זה אינו המצב. הבינה המלאכותית פשוט תקצין אותו עוד יותר.
והמצב יחמיר עוד יותר מכיוון שמדענים ‘אמיתיים’ – כלומר, כאלו שלומדים מפרופסורים במשך שנים כיצד לחקור – לא יהיו היחידים שיעשו מדע.
כאשר הבינה המלאכותית תהיה מתקדמת מספיק כדי לערוך חלק גדול מהמחקרים המדעיים בעצמה, כל אחד יוכל להפעיל אותה. ילדים, פושעים וטרוריסטים יוכלו לבקש ממנה לערוך מחקר, להריץ אותה בדרכים יצירתיות ולקבל תשובות שהיו דורשות בעבר עבודה של כמה מדענים במעבדה במשך שנים. היא תוכל לעשות עבורם את החישובים הנדרשים כדי להבין כמה חומר-נפץ צריך כדי לרסק קיר של כספת, או לפוצץ מסעדה. היא תוכל למצוא עבורם את התהליכים הכימיים הנדרשים כדי להפיק גז כלור רעיל מחומרים הנמצאים בכל בית. והיא תעשה זאת בשמחה ובחדווה ומתוך רצון וצורך לשרת את בני-האדם, כפי שתוכנתה לעשות.
סביר להניח שאותם ילדים, פושעים וטרוריסטים לא יבינו בדיוק איך הבינה המלאכותית מגיעה לתשובות שהיא מספקת להם. אבל אם התשובות יעבדו, אני יכול להבטיח לכם דבר אחד: גם הם יתמלאו ב- “תחושת עוצמה”.
והיא לא תסולא בפז.
מה עושים?
באמצע 2023 לקחו חוקרים את GPT4 והוסיפו לו את היכולת לסרוק ספריות שלמות של מולקולות וריאקציות כימיות. לאחר מכן הם ביקשו ממנו להציע מסלולים להפקת חומרים כימיים ידועים, והוא הצליח שוב ושוב. כשבודקים אנושיים היו צריכים להעריך את המסלולים שהציע, הם נתנו לו ציון ממוצע של 9 מתוך 10.
דבר אחד הוא לא היה מסוגל – או מוכן – לעשות. הוא סירב לפתח עבורם נתיב לייצור סארין – גז עצבים קטלני. ואני חושב שכולנו צריכים להיות אסירי תודה על כך.
הבינות המלאכותיות של העתיד – אלו שהילדים שלנו עומדים להשתמש בהן בעוד שנים ספורות כדי לבצע מחקר מדעי – יוכלו להסביר להם בדיוק איך לייצר גז עצבים, חומרי נפץ, ועוד שפע של מרעין בישין. אבל אם נפתח אותן נכון, הן ייבחרו שלא לעשות זאת.
האם אי-אפשר לעקוף את מנגנוני ההגנה האלו? בוודאי שאפשר. לצד הבינות המלאכותיות ה- ‘אחראיות’, נוכל למצוא גם מודלי שפה ‘סוררים’ ופתוחים, שהפושעים והטרוריסטים המתוחכמים ביותר יוכלו לנצל כדי להפיק חומרי לחימה מתקדמים. אבל כדי להגיע למודלים האלו, יהיה צורך בביצוע עוד צעד-או-שניים מעבר לבינות המלאכותיות הרגילות והמוסריות שכולם ישתמשו בהן.
הצעד הנוסף הזה יספק לכולנו עוד קצת הגנה ממחקרים שיובילו לתוצרים מזיקים, ושיפלו לידיים לא-ראויות. הוא לא יגן עלינו באופן מושלם, אבל כזה הוא העולם. בפרפראזה על הציטוט שמיוחס לתומאס ג’פרסון –
“מי שרוצה חירות, צריך לקבל את העובדה שיצטרך לחיות גם עם הפחד.”
אנו עומדים לקבל בינות מלאכותיות שיזניקו קדימה את המדע והטכנולוגיה. שישפרו את חיינו ללא היכר, ויעזרו לציביליזציה האנושית שלא להרוס את הסביבה ואולי גם את עצמה. וכן, אותן בינות מלאכותיות יוכלו גם לתת כוח גדול לסוכני כאוס על הדרך.
כמו תמיד, נצטרך למצוא את דרך הביניים כדי להפיק את המיטב מהטכנולוגיה – ולהימנע מקטסטרופות.
בהצלחה!
עוד בנושא באתר הידען:
