क्या आप एआई पर भरोसा कर सकते हैं? क्या आपको इसके निष्कर्षों को बिना प्रश्न के निष्पक्ष रूप से मान्य होना चाहिए? समस्या यह है कि एआई पर सवाल उठाने से भी स्पष्ट जवाब नहीं मिलेगा।
AI सिस्टम ने आम तौर पर एक ब्लैक बॉक्स की तरह काम किया है: डेटा इनपुट है, और डेटा आउटपुट है, लेकिन उस डेटा को बदलने वाली प्रक्रिया एक रहस्य है। यह एक दोहरी समस्या पैदा करता है। एक यह है कि यह स्पष्ट नहीं है कि कौन से एल्गोरिदम का प्रदर्शन सबसे विश्वसनीय है। दूसरा यह है कि प्रतीत होता है कि उद्देश्य के परिणाम मनुष्यों के मूल्यों और पूर्वाग्रह से तिरछे हो सकते हैं जो सिस्टम को प्रोग्राम करते हैं। यही कारण है कि इस तरह के सिस्टम का उपयोग करने वाले आभासी विचार प्रक्रियाओं के लिए पारदर्शिता की आवश्यकता है, या "व्याख्या करने योग्य एआई।"
नैतिक अनिवार्यता GDPR के अधीन किसी के लिए भी कानूनी बन गई है, जो न केवल ईयू पर आधारित व्यवसायों पर प्रभाव डालती है, बल्कि ऐसे लोगों या संगठनों के साथ व्यवहार करती है। इसमें डेटा संरक्षण पर कई प्रावधान शामिल हैं, जो यूरोपीय संघ के नागरिकों के लिए "कुछ निर्णय के अलावा, केवल स्वचालित निर्णय लेने के अधीन नहीं होने का अधिकार है" और "निर्णय में शामिल तर्क के बारे में सार्थक जानकारी प्रदान करने का अधिकार" । "
