אתיקה בבינה מלאכותית

דוגמה: גיוס עובדים

חברת Amazon פיתחה AI לסינון קורות חיים. הוא למד מהיסטוריית הגיוסים של החברה - ומכיוון שהיסטורית רוב המגויסים היו גברים, ה-AI העדיף גברים והפלה נשים.

התוצאה: הפרויקט בוטל.

דוגמה: זיהוי פנים

מערכות זיהוי פנים רבות מדויקות פחות בזיהוי אנשים עם גוון עור כהה - כי הן אומנו בעיקר על תמונות של אנשים לבנים.

השאלות הקשות:

• האם בסדר שגוגל קורא את המיילים שלנו כדי לסנן ספאם?
• האם בסדר שנטפליקס יודע בדיוק מה אנחנו אוהבים לראות?
• האם בסדר שהמעסיק ינטר את הפרודוקטיביות שלנו עם AI?
• מה קורה כשהממשלה משתמשת ב-AI לזיהוי פנים במרחב הציבורי?

סין: מערכת "אשראי חברתי"

AI עוקב אחרי התנהגות אזרחים ונותן להם "ציון חברתי". ציון נמוך = הגבלות על טיסות, רכבות, ועוד.

מקצועות בסיכון גבוה:

• נהגים (רכבים אוטונומיים)
• קופאים (קופות אוטומטיות)
• עובדי מוקד שירות (צ'אטבוטים)
• מתרגמים (תרגום אוטומטי)
• עורכי תוכן בסיסי

מקצועות שכנראה בטוחים (בינתיים):

• עבודות שדורשות יצירתיות גבוהה
• עבודות עם אינטראקציה אנושית עמוקה
• עבודות פיזיות מורכבות
• עבודות שדורשות שיפוט אתי

הסכנות:

• פוליטיקה: סרטונים מזויפים של פוליטיקאים אומרים דברים שמעולם לא אמרו
• הונאות: שיחות טלפון מזויפות בקול של בני משפחה
• פגיעה במוניטין: תמונות או סרטונים מביכים מזויפים
• חדשות מזויפות: קשה יותר לדעת מה אמיתי

תרחיש: רכב אוטונומי פוגע באדם

מי אשם?

• היצרן שבנה את הרכב?
• המתכנתים שכתבו את הקוד?
• הנהג שהיה אמור לפקח?
• ה-AI עצמו? (אבל אי אפשר לשפוט תוכנה...)

תרחיש: AI רפואי מאבחן לא נכון

מי אחראי על אבחון שגוי?

• הרופא שסמך על ה-AI?
• החברה שפיתחה את המערכת?
• בית החולים שאימץ אותה?

הדילמה של הרכב האוטונומי

רכב אוטונומי צריך להחליט: לפגוע בהולך רגל או להסתכן בנוסעים?

מי צריך להחליט איך הרכב יתכנת? היצרן? הממשלה? הקונה?

נשק אוטונומי

האם מותר ל-AI להחליט לבד אם לירות באדם? רוב המומחים אומרים: לא. תמיד צריך אדם בלופ ("Human in the loop").

שימושים חיוביים:

• רפואה: אבחון מוקדם של סרטן, פיתוח תרופות
• סביבה: חיזוי אסונות טבע, התייעלות אנרגטית
• נגישות: תיאור תמונות לעיוורים, תרגום לשפת סימנים
• חינוך: למידה מותאמת אישית
• מדע: גילויים שייקח לאנושות עשרות שנים