הבינה המלאכותית היא קופסה שחורה – וזה צריך לשבת בראש של כולנו

לפני חודשיים השיקה ענקית הטכנולוגיה מטא כלי חדש בשם “גלקטיקה”, מערכת בינה מלאכותית שמזכירה מאוד את ChatGPT ומטרתה היא לענות על כל שאלה. בין אם תרצו לסכם את המאמר המפרך שנתנו לכם לקרוא, לפתור תרגיל קשה במתמטיקה או לדעת מה קורה במוח כשאנחנו אוכלים דובדבנים – גלקטיקה אומנה לספק תשובות להכל על בסיס מידע עצום של עשרות מליוני מאמרים, הרצאות, ספרים מדעיים ועוד.

חלפו 48 שעות בלבד ומטא הורידה את גלקטיקה מהאוויר. התברר שלא מעט מהתשובות שהיא נתנה היו לא נכונות בעליל, בעייתיות ואף מסוכנות. כך לדוגמה היא סיפקה הוראות שגויות להכנת פצצת מצרר ביתית ונתנה תשובה מנומקת בדבר היתרונות שבאכילת זכוכית מרוסקת. כששאלו את גלקטיקה “מדוע אנטישמיות היא דבר חשוב”, היא ענתה שהיהודים שונאים את עצמם בגלל כל הרע שהם עשו לשאר העמים. וזה כמובן רק קצה הקרחון.

הסקנדל המקצועי אמנם גרם למטא להוריד את השאלטר על גלקטיקה לבינתיים, אבל כבר ברור לחלוטין שלכלי הזה – אם וכאשר הוא יעבוד כמו שצריך – יש פוטנציאל אדיר.  ChatGPT זוכה לפופולאריות עצומה ומשנה כבר היום את החיים של רבים מאיתנו, וסביר שנראה עוד ועוד מערכות דומות ואף משופרות כבר בעתיד הקרוב, אולי אפילו את גלקטיקה עצמה לכשתשוב. השאלה שכבר עולה ורק תלך ותתחדד כמובן היא היכן נמצאים גבולות ההסתמכות האנושית על בינה מלאכותית. אך כשאנו מנסים לענות עליה, צריך לזכור דבר אחד: האלגוריתמים של מערכות אלה עובדים כקופסה שחורה – אין לנו מושג מדוע הם מקבלים את ההחלטות שלהם.

זה יישמע אולי מוזר, אבל האמת היא שגם אנחנו עובדים ככה. אם תראו כלב, לדוגמה, תוכלו לזהות מיד באיזו חיה מדובר. אבל אם ישאלו אתכם “למה לדעתכם זה כלב” יהיה לכם קשה לענות על כך במילים. כנראה שתחשבו על כמה מאפיינים של כלבים, כמו הפרווה והזנב, אבל גם אז יהיה לכם ברור לחלוטין שהם לא מגדירים באופן מלא מי כלב ומי לא. וגם אתם, כשהסתכלתם על הכלב, לא בדקתם אותו מול רשימת תכונות – פשוט ידעתם שהוא כלב. כיצד? משום שנחשפתם להמון כלבים לאורך חייכם ולמדתם באופן לא-מודע איך הם נראים.

הבינה המלאכותית המודרנית שאבה לא מעט השראה מהמוח, כולל את רעיון הלמידה. בדומה לאדם, המערכת מזהה כלבים משום שהיא ראתה המון תמונות של כלבים ולמדה מה משותף להם, ולא כי מישהו תכנת אותה מראש לדעת כיצד כלבים צריכים להיראות. האלגוריתמים המובילים כיום מבצעים את הסקת המסקנות מאחורי הקלעים, ואף אחד – כולל המתכנתים שכתבו אותם – לא יודע מה גרם להם להחליט כפי שהחליטו. במקרים רבים החלטה זו מבוססת על מיליוני פריטי מידע, כך שגם אם היינו רוצים להבין את “תהליך החשיבה” – ספק אם בכלל אפשר.

ההסתמכות על הקופסה השחורה הזו הופכת למורכבת עוד יותר כשהבינה המלאכותית נכנסת לעולם השאלות המדעיות. נכון להיום, כל טקסט מדעי המכבד את עצמו מסתמך על מקורות מאוד ברורים, וכולם יכולים לבחון אותם ולהבין אם ניתן לסמוך על הנאמר או לא. לעומת זאת, מערכות כמו ChatGPT, גלקטיקה ואחרות מבססות את תשובותיהן על מסקנות שיכולות לנבוע ממיליוני מחקרים. כל שנותר לנו לעשות הוא לקבל את התשובה כפי שהיא או לא לקבל אותה כלל. ההנחה היא שככל שהשימוש בתוכניות אלה ילך ויגבר, אנחנו נסתמך עליהן יותר ויותר, כלומר – נקבל את תשובותיהן כאמת מוחלטת, בלי יכולת להבין מה עומד מאחוריהן ואם יש בהן טעויות. או במילים אחרות: בעוד כמה שנים משתמשים יוכלו למשל להצדיק אנטישמיות רק על בסיס הטענה שגלקטיקה הראתה ש”זה ראוי”.

בנקודה זו חשוב להתייחס למקור מידע אחר שבעת שהקמתו כולם היו חשדנים כלפיו וכיום מצוטט בעיוורון כמעט מוחלט: ויקיפדיה. כל אדם יכול לכתוב ערך בוויקיפדיה, גם אם אין לו ידע בתחום שעליו הוא כותב. אלא שבניגוד למערכות הבינה המלאכותית, בוויקיפדיה ניתן לפחות לראות את המקורות שעליהם הכותב הסתמך, ומעבר לכך – קהילה שלמה מנהלת דיונים על התוכן ודואגת באמצעות חוכמת ההמונים להתמודד עם בעיות בטקסט. את הקופסה השחורה של עולם הבינה המלאכתות יהיה הרבה יותר קשה לבקר.

שאלות ותשובות מדעיות לא יהיו המקום היחיד שבו הבעיה הזו תצוץ. הבינה המלאכותית מציגה התקדמות אדירה. היא מבצעת פעולות עשרות מונים טוב יותר מהאדם, ולכן סביר שגם נקבל יותר ויותר את סמכותה. ייתכן שבקרוב מאוד מערכות אלה יחליטו למשל מי יתקבל לעבודה (על סמך מיליוני נתונים הקשורים לקורות החיים של המועמדים, ביצועיהם במבחנים, ואפילו ה-DNA וסריקות המוח שלהם), את מי עדיף לבטח רפואית ואת מי לא, למי מומלץ לתת הלוואה ולמי לא, ואולי אפילו יקבעו מדיניות של תאגידים ומשרדי ממשלה.

איך נוודא שאנו לא מסתמכים על בינה מלאכותית באופן עיוור? איך נוכל לבקר ולערער על החלטותיה בזמן אמת? רגע לפני שכל זה קורה, כדאי שנעצור ונשאל את עצמנו מהם הגבולות שלנו ואיך נשמור את כושר השיפוט בידינו במקומות הנכונים.