נורמן הוא תוכנה מעניינת שנחשפה בחודש שעבר על ידי צוותי מחקר ב-MIT. הם קראו לו “המחשב הפסיכופת”. המטלה שנורמן מבצע היא נתינה של תיאור מילולי לתמונות. משימה שבני אדם עושים בקלות, אך היא מצריכה יכולות רבות מאוד של עיבוד תמונה, עיבוד שפה והתאמה ביניהם. דבר שלא טריוויאלי להשיג, אם כי כיום תוכנות רבות מראות בו הצלחה לא מבוטלת. לנורמן נתנו כתמי רורשאך, מבחן קליני מפורסם שאמור לזהות מאפייני אישיות. התוצאות היו מדהימות: כתם שתואר על ידי תוכנה רגילה כ”ציור בשחור-לבן של כפפת בייסבול” תואר על ידי נורמן כ”גבר נקצר על ידי מכונת ירייה לאור היום”, במקום בו תוכנה אחרת ראתה “אדם שמחזיק מטריה”, נורמן ראה “איש נרצח לנגד עיני אשתו”. מפחיד, לא?
אז מה גרם לנורמן להתנהג ככה? התשובה מגיעה מהתוכן שממנו הוא למד. הבינה המלאכותית של ימינו היא עוצמתית כל כך לא משום שמישהו תכנת אותה מראש לתת תשובות כאלה ואחרות, אלא משום שהיא מגיעה לעולם כ”לוח ריק” ולומדת מכל אינטרקציה עם תוכן שיש לה. במידה מסוימת, בדיוק כמו בני אדם, שמתחילים כחסרי ישע ולומדים לאחר עוד ועוד חשיפות ואינטרקציות. בניגוד לתוכנות האחרות, שהתאמנו ולמדו ממאגרי מידע של תמונות כלליות, נורמן למד ממאגר של תמונות ותכנים מזוויעים במיוחד (כל כך מזוויעים, שהחוקרים מסרבים לתת את שם המאגר). הלמידה מתוך מאגר המידע הזה היא זו שגרמה לו להגיב בצורה הזו.
זה אולי נשמע לכם הגיוני שהתוכן שאליו אנחנו ומחשבים נחשפים משפיע על מה שנלמד, אבל לא תמיד מפתחי תוכנות שמים זאת לנגד עיניהם. הרבה פעמים הם מתאמצים מאוד כדי לפתח את התוכנה הכי יעילה והכי מוצלחת ושוכחים להסתכל על מאגר המידע שבו הם ישתמשו כדי לאמן את התוכנה, כדי לראות האם הוא באמת מסייע, כללי, וכמובן, נקי מהטיות. כך קרה למשל שמייקרוסופט יצרה לפני שנתיים את “טיי”, תוכנה שהייתה אמורה לתקשר עם משתמשי טוויטר וללמוד מהם על העולם. מהר מאוד הטרולים באינטרנט החלו לפנות אליה, “ללמד אותה”, וגרמו לה לפלוט ציוצים אנטישמיים, גזעניים, ודברים מחרידים הרבה יותר שראוי שלא להעלות על הכתב, תוך פחות מיממה מיקרוסופט הסירה את טיי. הדברים האלה יכולים לקרות גם לתוכנות שמשמשות בני אדם בחיים האמיתיים, כך לדוגמה גילו עיתונאים כי תוכנת בינה מלאכותית שמשמשת בתי כלא בארה”ב לבחינת מידת הסיכון של כל אסיר, מסווגת באופן שיטתי אסירים שחורים כמסוכנים יותר מאסירים לבנים, וכשזה מגיע לשירותים כאלה, שנעשים באופן קבוע על ידי מכונות, זה כבר הופך להיות מסוכן באמת.
המסקנה מכל הסיפור היא שבדיוק כמו שאצל בני אדם אנחנו לא רק סומכים על כך שילדים יוולדו עם מוח של “גאון”, אלא דואגים לכך שהם יקבלו חינוך ראוי שיאפשר למוח שלהם ללמוד ולהתפתח כמו שאנחנו מאמינים שנכון, כך גם יש חשיבות לסוג ואופן ה”חינוך” שתוכנות בינה מלאכותית מקבלות, ואנשי מדעי המחשב צריכים לתת על כך את הדעת.
באתר הפרויקט תוכלו למצוא עוד מגוון של תשובות שנורמן נתן, וכמו כן, לקחת חלק בתהליך ה”חינוך מחדש” של נורמן, ולהוסיף את תשובותיכם ה”נורמליות” לתשובות שאליהם נורמן ייחשף עבור כתמי רורשאך שונים.
הערה חשובה: נורמן הוא לא באמת “פסיכופת”, אין חשש שהוא יקום וירצח אנשים בדם קר, זו תוכנה שמבצעת מטלה מסוימת, התאמת טקסט לתמונה, ותו לא.
נורמן בייטס מהסרט “פסיכו” של היצ’קוק, שעל שמו קרוי נורמן “המחשב הפסיכופת” (מקור: ויקיפדיה)