कृत्रिम बुद्धिमत्ता में नैतिकता

उदाहरण: भर्ती

Amazon ने रिज़्यूमे छाँटने के लिए एक एआई विकसित की। इसने कंपनी के भर्ती के इतिहास से सीखा – और क्योंकि इतिहास में अधिकतर पुरुष भर्ती हुए थे, एआई ने पुरुषों को तरजीह दी और महिलाओं के प्रति भेदभाव किया। परिणाम: परियोजना रद्द कर दी गई।

उदाहरण: चेहरा पहचान

कई चेहरा पहचान प्रणालियाँ गहरे रंग के लोगों के लिए कम सटीक होती हैं – क्योंकि इन्हें मुख्यतः गोरे लोगों के चित्रों पर प्रशिक्षित किया गया था।

कठिन प्रश्न:

• क्या यह ठीक है कि Google स्पैम छाँटने के लिए हमारे ईमेल पढ़े?
• क्या यह ठीक है कि Netflix को बिल्कुल पता हो कि हमें क्या देखना पसंद है?
• क्या यह ठीक है कि नियोक्ता एआई से कर्मचारियों की उत्पादकता पर नज़र रखें?
• और क्या यह ठीक है कि सरकारें सार्वजनिक स्थानों पर चेहरा पहचानने के लिए एआई का उपयोग करें?

चीन: "सामाजिक क्रेडिट" प्रणाली

एआई नागरिकों के व्यवहार को ट्रैक करती है और "सामाजिक स्कोर" देती है। कम स्कोर = हवाई यात्रा, ट्रेन यात्रा और कई अन्य चीज़ों पर प्रतिबंध।

अधिक जोखिम वाली नौकरियाँ:

• चालक (स्वायत्त यानी सेल्फ़-ड्राइविंग वाहन)
• कैशियर (सेल्फ़-चेकआउट)
• कॉल सेंटर कर्मी (चैटबॉट)
• अनुवादक (मशीन अनुवाद)
• बुनियादी सामग्री संपादक

नौकरियाँ जिनके (फ़िलहाल) ज़्यादा सुरक्षित रहने की संभावना है:

• उच्च रचनात्मकता वाला काम
• गहरी मानवीय बातचीत वाला काम
• जटिल शारीरिक काम
• नैतिक निर्णय की आवश्यकता वाला काम

जोखिम:

• राजनीति: राजनेताओं के नकली वीडियो, जिनमें वे ऐसी बातें कहते दिखते हैं जो उन्होंने कभी कही ही नहीं
• धोखाधड़ी: परिवार के सदस्य की आवाज़ में नकली फ़ोन कॉल
• प्रतिष्ठा: नकली शर्मनाक चित्र या वीडियो
• फ़र्ज़ी समाचार: यह जानना और मुश्किल हो जाता है कि असली क्या है

परिदृश्य: स्वायत्त कार ने पैदल यात्री को टक्कर मारी

कौन दोषी है? निर्माता? प्रोग्रामर? वह चालक जिसे निगरानी करनी थी? खुद एआई? (लेकिन सॉफ़्टवेयर पर तो मुकदमा नहीं चलाया जा सकता…)

परिदृश्य: चिकित्सा एआई ने गलत निदान किया

कौन जिम्मेदार है? वह डॉक्टर जिसने एआई पर भरोसा किया? वह कंपनी जिसने प्रणाली बनाई? वह अस्पताल जिसने इसे अपनाया?

स्वायत्त कार की दुविधा

एक स्वायत्त कार को निर्णय लेना पड़ता है: पैदल यात्री को टक्कर मारे या यात्रियों को खतरे में डाले? कार को कैसे प्रोग्राम किया जाए यह कौन तय करे – निर्माता? सरकार? खरीदार?

स्वायत्त हथियार

क्या एआई को खुद यह तय करने की अनुमति देनी चाहिए कि किसी व्यक्ति पर गोली चलानी है या नहीं? अधिकतर विशेषज्ञ कहते हैं – नहीं। हमेशा एक "ह्यूमन इन द लूप" (यानी निर्णय-प्रक्रिया में शामिल एक इंसान) होना चाहिए।

सकारात्मक उपयोग:

• चिकित्सा: कैंसर की शुरुआती पहचान, दवा विकास
• पर्यावरण: प्राकृतिक आपदा की भविष्यवाणी, ऊर्जा दक्षता
• सुलभता: दृष्टिहीन लोगों के लिए चित्रों का विवरण, सांकेतिक भाषा अनुवाद
• शिक्षा: व्यक्तिगत सीख
• विज्ञान: ऐसी खोजें जिनमें मानवता को दशकों लग जाते