الأخلاقيات في الذكاء الاصطناعي

مثال: التوظيف

طوّرت أمازون ذكاءً اصطناعياً لفرز السير الذاتية. تعلّم من تاريخ التوظيف في الشركة – ولأن معظم التعيينات تاريخياً كانت لرجال، فضّل الرجال وميّز ضد النساء. النتيجة: أُلغي المشروع.

مثال: التعرّف على الوجوه

كثير من أنظمة التعرّف على الوجوه أقل دقّة للأشخاص ذوي البشرة الداكنة – لأنها دُرّبت أساساً على صور أشخاص بيض.

أسئلة صعبة:

• هل من المقبول أن يقرأ غوغل رسائلنا لفلترة البريد المزعج؟
• هل من المقبول أن يعرف نتفلِكس بالضبط ماذا نحب أن نشاهد؟
• هل من المقبول أن يراقب أصحاب العمل الإنتاجية بالذكاء الاصطناعي؟
• ماذا عندما تستخدم الحكومات الذكاء الاصطناعي للتعرّف على الوجوه في الأماكن العامة؟

الصين: نظام «الائتمان الاجتماعي»

يتتبّع الذكاء الاصطناعي سلوك المواطنين ويمنح «درجة اجتماعية». درجة منخفضة = قيود على الرحلات والقطارات والمزيد.

وظائف أعلى خطراً:

• السائقون (مركبات ذاتية القيادة)
• أمينو الصناديق (الدفع الذاتي)
• عاملو مراكز الاتصال (روبوتات دردشة)
• المترجمون (الترجمة الآلية)
• محرّرو المحتوى الأساسي

وظائف يرجّح أن تكون أكثر أماناً (حالياً):

• عمل يتطلّب إبداعاً عالياً
• عمل بتفاعل بشري عميق
• عمل مادّي معقّد
• عمل يتطلّب حكماً أخلاقياً

المخاطر:

• السياسة: فيديوهات مزيفة لسياسيين يقولون ما لم يقولوه
• الاحتيال: مكالمات مزيفة بصوت فرد من العائلة
• السمعة: صور أو فيديوهات محرجة مزيفة
• الأخبار الكاذبة: أصعب معرفة ما هو حقيقي

سيناريو: سيارة ذاتية تصدم مشاة

من المخطئ؟ الشركة المصنّعة؟ المبرمجون؟ السائق الذي كان يفترض أن يشرف؟ الذكاء الاصطناعي نفسه؟ (لكن لا يمكن محاكمة برمجيات…)

سيناريو: ذكاء اصطناعي طبي يخطئ في التشخيص

من المسؤول؟ الطبيب الذي اعتمد عليه؟ الشركة التي بنت النظام؟ المستشفى الذي تبنّاه؟

معضلة السيارة الذاتية

يجب أن تقرّر سيارة ذاتية: تصدم مشاة أم تعرّض الركاب للخطر؟ من يجب أن يقرّر كيف تُبرمج السيارة – الشركة؟ الحكومة؟ المشتري؟

الأسلحة المستقلة

هل يُسمح للذكاء الاصطناعي أن يقرّر بنفسه إطلاق النار على شخص؟ يقول معظم الخبراء لا. يجب دائماً أن يكون هناك «إنسان في الحلقة».

استخدامات إيجابية:

• الطب: اكتشاف مبكر للسرطان، تطوير أدوية
• البيئة: توقّع الكوارث الطبيعية، كفاءة الطاقة
• الإتاحة: وصف صور للمكفوفين، ترجمة لغة الإشارة
• التعليم: تعلّم مخصّص
• العلم: اكتشافات كانت ستستغرق البشرية عقوداً