אחרי הפוסט של אתמול, שעסק בגבולות ההסתמכות על הבינה המלאכותית, זה אך היה טבעי לתת לבינה מלאכותית לכתוב גם כן על הנושא הזה, ולהשוות בין השניים. אז נתתי ל-chatGPT תיאור כמה שיותר מדויק של התוכן שאני מנסה להעביר, וביקשתי שיכתוב לי פוסט בנושא. את התוכן הכנסתי לגוגל טרנסלייט (בכל זאת, אנחנו מנסים למזער התערבות אנושית), וביצעתי רק תיקוני עריכה קטנים במקרה שהתרגום של גוגל לא היה שוטף מספיק (ותמיד על בסיס התוכן המקורי של chatGPT). התוצאה לפניכם:
בינה מלאכותית (AI) הפכה לטכנולוגיה נפוצה יותר ויותר בחיי היומיום שלנו, מעוזרים וירטואליים בסמארטפונים שלנו ועד למכוניות בנהיגה עצמית בכבישים. עם זאת, ככל שהבינה המלאכותית ממשיכה להתפתח ולהתקדם, קשה יותר ויותר להסתמך על התגובות שנותנות מערכות אלו. זה נובע מהעובדה שלעתים קרובות מתייחסים למנגנון של בינה מלאכותית כ”קופסה שחורה”, כלומר איננו יודעים כיצד היא מקבלת החלטות או על מה היא מבססת את מסקנותיה.
אחת הבעיות העיקריות בהסתמכות על תגובות שניתנו על ידי בינה מלאכותית היא שאיננו יודעים כיצד המערכת מקבלת את ההחלטות שלה. הסיבה לכך היא שהפעולה הפנימית של בינה מלאכותית היא לרוב מורכבת וקשה להבנה. האלגוריתמים ומערכי הנתונים המשמשים את מערכות הבינה המלאכותית הם לרוב קנייניים ואינם זמינים לציבור, מה שהופך את זה לבלתי אפשרי להבין באופן מלא כיצד המערכת מקבלת את החלטותיה. חוסר השקיפות הזה מקשה על אמון בתגובות שנותנת בינה מלאכותית, מכיוון שאיננו יודעים אם המערכת מקבלת החלטות על סמך נתונים מדויקים וחסרי פניות.
יתר על כן, ישנה בעיה לבקר את התשובות שניתנות על ידי בינה מלאכותית. מבלי להבין את פעולתה הפנימית של המערכת, קשה לדעת אם הבינה המלאכותית תקבל החלטות על סמך שיקולים אתיים או משפטיים. זה מדאיג במיוחד בתחומים כמו בריאות ופיננסים שבהם להחלטות שמתקבלות על ידי בינה מלאכותית יכולות להיות השלכות משמעותיות על אנשים. לדוגמה, מערכת המשמשת לביצוע אבחנות רפואיות עשויה לקבל החלטות על סמך נתונים מוטים, מה שמוביל לאבחנות ותוכניות טיפול לא מדויקות.
סוגיה נוספת הנובעת מחוסר שקיפות זה הוא הפוטנציאל לחששות אתיים. מערכות בינה מלאכותית מתוכננות לרוב לקבל החלטות על סמך דפוסים ומגמות בנתונים, מה שעלול להוביל להטיות לא מכוונות ולאפליה. לדוגמה, מערכת בינה מלאכותית המשמשת בגיוס עובדים עשויה לקבל החלטות על סמך דפוסים בנתונים, מה שמוביל לאפליה של קבוצות מסוימות של אנשים. זה חשש רציני, מכיוון שקשה לדעת אם המערכת מקבלת החלטות על סמך שיקולים אתיים.
לסיכום, חוסר השקיפות בפעילות הפנימית של מערכות בינה מלאכותית מקשה על ההסתמכות על התגובות שנותנות מערכות אלו. בלי לדעת איך הן מקבלות החלטות או על מה הן מבססות את מסקנותיו, קשה לסמוך על התגובות שנותנת בינה מלאכותית. בנוסף, ישנה בעיה לבקר את התשובות הניתנות על ידי בינה מלאכותית, מכיוון שאיננו יודעים אם המערכת מקבלת החלטות על סמך שיקולים אתיים או משפטיים. חוסר השקיפות הזה מעורר גם חששות אתיים רציניים, מה שמחייב למצוא דרך להפוך את מערכות הבינה המלאכותית לשקופות ואחראיות יותר.
kung_tom / Shutterstock