प्रश्न:
कोई कंपनी चैटबोट AI प्रोजेक्ट को बंद क्यों कर सकती है?
ए:कंपनियां कई कारणों से कृत्रिम बुद्धिमत्ता चैटबॉट परियोजनाओं को बंद कर सकती हैं, लेकिन सबसे अधिक संभावना वाले लोगों को एक युगल श्रेणियों में बांटा जा सकता है। सबसे पहले, कंपनियां चैटबॉट प्रौद्योगिकियों को बंद कर सकती हैं यदि वे उन तरीकों से कार्य करते हैं जो कंपनी को असहज कर सकते हैं, जैसे कि आपत्तिजनक भाषण को बढ़ावा देना। वैकल्पिक रूप से, कंपनियां एक चैटबोट परियोजना को बंद कर सकती हैं यदि यह भावनाओं और क्षमता को प्रदर्शित करना शुरू करती है जिसे या तो आसानी से नियंत्रित नहीं किया जा सकता है, या सार्वजनिक स्वास्थ्य और सुरक्षा के लिए किसी प्रकार का खतरा पैदा कर सकता है।
हमारे पास हाल के इतिहास में प्रलेखित ये दोनों परिदृश्य हैं। तय चैटबॉट के साथ माइक्रोसॉफ्ट का प्रयोग तब समाप्त हुआ जब तैय ने अपने मानव समकक्षों की कुछ सबसे खराब विशेषताओं को लेना शुरू कर दिया - नस्लवादी और आक्रामक टिप्पणियां, और आमतौर पर आपत्तिजनक गतिविधि, जिनमें से अधिकांश को स्पष्ट रूप से सीखा गया था या उपयोगकर्ताओं से सीधे तोता था।
एक बहुत ही अलग मामले के अध्ययन में, फेसबुक द्वारा अग्रणी एक चैटबॉट सेटअप को बंद कर दिया गया था जब वैज्ञानिकों ने दो चैटबॉट्स को एक दूसरे के साथ संचार करते हुए देखा था जो कि मानव अवलोकन के लिए कुछ हद तक अनन्य था। इस बात पर विवाद था कि चैटबॉट संस्थाओं ने "एक तरह के कोड में बात करना" शुरू किया था जो उनके लिए अधिक सुविधाजनक था और उनके मानव संचालकों के लिए कम पारदर्शी था। यह सामान्य रूप से कृत्रिम बुद्धिमत्ता के आस-पास बहुत वास्तविक चिंता का एक उदाहरण है - कि हम मजबूत कृत्रिम बुद्धिमत्ता की प्रगति में महान प्रगति करते हैं, मानवों को एआई कार्यान्वयन के किसी भी उदाहरण को शामिल करने और नियंत्रित करने के लिए कार्य करना चाहिए, ताकि यह सुनिश्चित हो सके कि वे पार नहीं किए गए हैं सीमाओं। बड़ी संख्या में नैतिक चिंताएं और सुरक्षा मुद्दे हैं जिन्हें मजबूत कृत्रिम बुद्धि के साथ संबोधित करने की आवश्यकता है, और यह प्राथमिक कारणों में से एक है कि भविष्य में कुछ चैटबॉट या अन्य कृत्रिम खुफिया परियोजनाएं उन हितधारकों द्वारा बंद कर दी जा सकती हैं जिन्होंने निर्माण किया है और एक निश्चित प्रक्रिया के माध्यम से उनका समर्थन किया।
