सिर्फ़ निजता का सवाल नहीं हैः भावनाओं को पहचानने वाली टैक्नोलॉजी के खतरे

भावनाओं को पहचानने वाली टैक्नोलॉजी का भारतीय बाज़ार पिछले कुछ वर्षों में तेज़ी से बढ़ा है. AI स्टार्ट-अप भारतीय नियोक्ताओं को "डार्क पर्सनैलिटी इन्वेंटरी" की पेशकश कर रहे हैं जो संभावित नियुक्तियों में अपने-जुनून और आवेग जैसे "नकारात्मक" लक्षणों की पहचान करने का दावा करते हैं. "ह्यूमन रिसोर्सेज़ टैक" लक्षण कर्मचारियों के कार्यस्थल में प्रवेश करते समय उनकी मनोदशा को वर्गीकृत करने के लिए भावना पहचान प्रणाली प्रदान करने का दावा करता है. कुछ कंपनियाँ विज्ञापनों, वीडियो और अन्य उत्तेजनाओं पर ग्राहकों की प्रतिक्रियाओं की निगरानी करने के लिए भावना पहचान प्रणालियों में भी निवेश कर रही हैं. ये धारणाएँ विभिन्न प्रकार के इनपुट डेटा की मात्रा निर्धारित करके बनाई गई हैं - चेहरे के भावों से लेकर चाल तक, स्वर की टोन और मस्तिष्क तरंगों तक.

भावना पहचान टैक्नोलॉजी में वे तमाम बायोमेट्रिक अनुप्रयोग भी शामिल हैं जो चेहरे के भाव, मौखिक स्वर और बाहरी मार्करों से लेकर किसी व्यक्ति की आंतरिक भावनात्मक स्थिति जैसे अन्य बायोमेट्रिक संकेतों का भी अनुमान लगाने में सक्षम होने का दावा करते हैं. मशीन-लर्निंग तकनीकों का उपयोग करते हुए, भावना पहचान प्रौद्योगिकी भय, क्रोध, आश्चर्य, खुशी आदि जैसी आंतरिक भावनात्मक स्थितियों को अलग-अलग श्रेणियों में वर्गीकृत कर देती है.

कारोबारी नेता इसे नियोक्ताओं से टैक्नोलॉजी के द्वारा निगरानी करने वाले कर्मचारियों तक के प्राकृतिक विकास के रूप में देखते हैं, ताकि मनुष्य अधिक "रणनीतिक" निर्णय लेने के लिए स्वतंत्र हो. भारत के लिए यह बाज़ार कोई अनूठा नहीं है. यह बाज़ार विभिन्न क्षेत्रों में लगातार बढ़ रहा है, यूरोपीय संघ (EU) द्वारा इसका उपयोग सीमाओं पर धोखाधड़ी का पता लगाने के लिए किया जाता है, चीनी कंपनी द्वारा इसका उपयोग ड्राइविंग सुरक्षा और शिक्षा पर ध्यान केंद्रित करने के लिए किया जाता है और दक्षिण कोरियाई कंपनियों द्वारा इसका उपयोग तकनीकी कर्मचारियों को भर्ती करने के लिए किया जाता है.

लेकिन भावना पहचान टैक्नोलॉजी का यह उपयोग न तो सीधे ढंग से हो सकता है और न ही  यह कोई सहज धुरी है. यह केवल विशिष्ट लोगों की पहचान या सत्यापन करने वाले बायोमेट्रिक सिस्टम से यह पूछकर मात्र यही बुनियादी बदलाव दर्शाता है कि "यह किस प्रकार का व्यक्ति है?" या यह व्यक्ति क्या सोच रहा है/महसूस कर रहा है?” हालाँकि यह मुख्य रूप से निजता और डेटा सुरक्षा का मुद्दा लग सकता है, लेकिन वास्तविक समस्याएँ मौजूदा तौर पर कहीं अधिक गहरी हैं. बुनियादी तौर पर, भावना पहचान प्रणालियाँ मूल भावना के सिद्धांत पर आधारित होती हैं. यह सिद्धांत छद्म वैज्ञानिक मान्यताओं का एक समुच्चय है, जो यह दावा करता है कि किसी व्यक्ति की बाहरी उपस्थिति और उसकी आंतरिक भावनात्मक स्थिति के बीच एक संबंध होता है और यह कि इस प्रकार मूल भावनाएँ अलग-अलग होती हैं और विभिन्न संस्कृतियों में समान रूप से व्यक्त की जाती हैं. यह AI के माध्यम से फ़िज़ियोलॉजी और फ्रेनोलॉजी के कुख्यात वैज्ञानिक विचारों को विधिसंगत बनाने की प्रक्रिया को दर्शाता है. इसलिए, ऐसा प्रतीत होता है कि मात्र निजता या डेटा सुरक्षा के सरोकारों को संबोधित करने से मात्र नुक्सान को संबोधित करने का एक कमजोर प्रयास ही होगा; ऐसी प्रौद्योगिकियों के अस्तित्व का परीक्षण और जाँच की जानी चाहिए और संभव हो तो उनके उपयोग पर प्रतिबंध लगाया जाना चाहिए.

जैसे-जैसे कंपनियाँ उत्साहपूर्वक भावना पहचान प्रणालियों को अपनाने लगती हैं, उनकी पसंद के नतीजे दो महत्वपूर्ण तरीकों से उनके कार्यक्षेत्र से आगे बढ़ जाते हैं. सबसे पहले तो भावना पहचान प्रौद्योगिकियाँ बायोमेट्रिक निगरानी के एक नए चरण की शुरुआत करती हैं, जिसके द्वारा जिन लोगों की निगरानी की जा रही है, एकतरफ़ा और परिणामी धारणाओं के अधीन उनके चरित्र और भावनात्मक स्थिति के बारे में बताती हैं, लेकिन उनमें सार्थक जवाबदेही के लिए बहुत कम या कोई गुंजाइश नहीं होती. व्यक्ति उन संस्थाओं के प्रति तेज़ी से पारदर्शी होते जा रहे हैं जो उन पर अधिकार रखती हैं, जबकि संस्थाएँ स्वयं तेजी से अपारदर्शी और गैरजिम्मेदार होती जा रही हैं. उदाहरण के लिए, यदि कोई भावना पहचान प्रणाली आपको मनमौजी और रोमांच-चाहने वाले व्यक्ति के रूप में चिह्नित करती है, अर्थात्, कई "काले लक्षणों" वाले व्यक्ति के रूप में, तो इस धारणा को साबित करना या अस्वीकार करना मुश्किल या असंभव हो सकता है.

दूसरी बात यह है कि निजी क्षेत्र में इन प्रौद्योगिकियों की क्रमिक लेकिन लगातार सामान्यीकरण और "सुधार" की प्रक्रिया यह दर्शाती है कि सार्वजनिक क्षेत्र में भविष्य में इनके उपयोग का मार्ग प्रशस्त हो रहा है. जैसा कि चेहरे के पहचान प्रक्षेप पथ (ट्रैजेक्टरी) ने हमें दिखाया, बाद में AI समाधानों को अपनाने की जबर्दस्त भूख को देखते हुए, निजी से सार्वजनिक क्षेत्र तक की पाइपलाइन उल्लेखनीय रूप में कुशल है. इस निजी से सार्वजनिक प्रक्षेप पथ (ट्रैजेक्टरी) का एक और परिणाम यह है कि यह वस्तुतः सार्वजनिक क्षेत्र में अंतिम उपयोग पर निजी क्षेत्र का असर और प्रभाव डालता है. एकमात्र संस्थाओं के रूप में जो भावना पहचान जैसी प्रतीत होने वाली जटिल और जादुई टैक्नोलॉजी को विकसित और संचालित करना जानती हैं, वे अपने उत्पादों का विपणन (मार्केटिंग) इस तरह करेंगी और प्रभावित करेंगी कि सार्वजनिक नीति ऐसी टैक्नोलॉजी के उपयोग को कैसे अपनाएगी.

इसके बीज बोये जा चुके हैं. 2021 में, उत्तर प्रदेश पुलिस ने अपनी सुरक्षित शहर पहल के लिए एक निविदा आमंत्रित की थी, जिसमें विजेता बोली के लिए AI सिस्टम को शामिल करने की आवश्यकता शामिल थी जो "संकटग्रस्त" महिलाओं का पता लगाने में सक्षम होगी. इसके अलावा, सार्वजनिक क्षेत्र खास तौर पर महामारी की शुरुआत के बाद से आम तौर पर कर्मचारी निगरानी उपकरणों को अपनाने, लागू करने और निवेश करने के लिए तैयार है. इस प्रथा में तेज़ी से वृद्धि देखी गई है. हरियाणा में सफ़ाई कर्मचारियों को माइक्रोफोन और जीपीएस ट्रैकर से लैस स्मार्ट घड़ियाँ प्रदान की गई हैं ताकि उनकी गतिविधियों को पर्यवेक्षकों द्वारा देखा और सुना जा सके. महिला एवं बाल विकास मंत्रालय द्वारा लॉन्च किया गया एक ऐप पोषण ट्रैकर, आंगनवाड़ी कार्यकर्ताओं पर नज़र रखता है और भारत की पोषण वितरण सेवाओं में पारदर्शिता लाने का दावा करता है. निगरानी में रहने वाली कार्यकर्ताओं द्वारा इसका विरोध भी किया गया है. इसका कारण यह कि इन कार्यकर्ताओं पर काम का बहुत बोझ रहता है और ऐप के कारण इन्हें काफ़ी घाटा भी उठाना पड़ता है.

कार्यस्थल निगरानी के लिए बुनियादी ढाँचा और नियोक्ताओं की तत्परता पहले से काफ़ी बढ़ी हुई है. एक बार मजबूत और विचारशील कानून बन जाए तो भावना पहचान जैसी नई प्रौद्योगिकियों के आने में बहुत समय नहीं लगेगा. इस बात पर विचार करने के लिए कि कौन-सा कानून इसके लिए अपेक्षित होगा, हमें दो धुरों पर होने वाले नुक्सान के बारे में सोचना होगा: डेटा और पावर; और यह भी विचार करना चाहिए कि इन प्रणालियों के बजाय कार्रवाई और पारदर्शिता का बोझ सत्ता में मौजूद संस्थाओं पर कैसे डाला जाना चाहिए.

आरंभ में, भावना पहचान प्रणालियों के उपयोग से होने वाली सभी कमियों और हानियों को देखते हुए, बायोमेट्रिक डेटा के इस स्वरूप को एकत्र करने, विश्लेषण करने, उपयोग करने, बेचने या बनाए रखने पर प्रतिबंध लगाया जाना चाहिए. हालाँकि भारत में इस समय डेटा संरक्षण का कोई कानून नहीं है, लेकिन संवेदनशील व्यक्तिगत डेटा के संबंध में एकमात्र अन्य कानून सूचना प्रौद्योगिकी अधिनियम के 43ए में है, जो निजी अभिनेताओं के लिए "उचित सुरक्षा प्रथाओं और प्रक्रियाओं" को बनाए रखने के लिए अपेक्षाकृत कमजोर कानून है. हालाँकि, अंतर्निहित समस्या ऐसे डेटा का संग्रह, उपयोग और संभावित अंतरण है - इस धारणा के भीतर काम करना कि इस तरह के डेटा को एकत्र किया जाएगा और सही उपयोग के लिए अनुकूलित किया जाएगा, बिल्कुल बेकार सिद्ध हो रहा है. इस प्रकार, डेटा सुरक्षा का स्तर उपयोगी हो सकता है क्योंकि यह इस प्रकार के संवेदनशील व्यक्तिगत डेटा के संग्रह, उपयोग, बिक्री, अंतरण और उसे रोके रखने पर पूरी तरह से प्रतिबंध लगाता है..

जैसा कि ऊपर चर्चा की गई है, सशक्त होने पर, भावना पहचान प्रौद्योगिकियाँ नियोक्ताओं और कर्मचारियों के बीच असमानताओं को सुगम और व्यापक बना सकती हैं. इसका गंभीर मूल्यांकन किया जाना चाहिए और कार्यस्थल में व्यक्तियों और समूहों की निगरानी के नियमों के माध्यम से इसे स्पष्ट बनाया जाना चाहिए. इसमें सामान्य तौर पर AI उपकरणों द्वारा श्रमिकों के बारे में क्या जानकारी प्राप्त की जा सकती है, इसकी सीमाएँ शामिल होनी चाहिए और विशेष रूप से भावना पहचान उपकरणों से किए गए ऐसे किसी भी निष्कर्ष को रोकना चाहिए. श्रमिकों को सशक्त बनाने के लिए उन मामलों में एल्गोरिदम प्रबंधन उपकरणों का विरोध करने, सवाल करने और ऑप्ट-आउट करने के लिए भावना पहचान ही नहीं, वे तमाम अन्य उपाय भी किये जाने चाहिए जो AI घटक के साथ अनुप्रयोगों का उपयोग करते हैं.

भावना पहचान प्रौद्योगिकी समस्याग्रस्त और कुख्यात विज्ञान की विरासत पर आधारित है और कई तरीकों से शक्ति के अंतर को भी बढ़ाती है. डेटा संरक्षण की प्रथाओं में कितनी भी सावधानी बरती जाए, इसके उपयोग को कानूनी जामा नहीं पहनाया जा सकता. निजी क्षेत्र के लिए मजबूत कानून के अभाव में अंततः सार्वजनिक क्षेत्र में ही इसका मार्ग प्रशस्त होगा. जैसा कि हमने चेहरे की पहचान के साथ देखा, अब तक इसका उपयोग मूल रूप से व्यक्तियों को विश्वविद्यालय की प्रयोगशालाओं और कार्यस्थलों तक पहुँचने की अनुमति देने या अस्वीकार करने के तरीके के रूप में किया जाता था, अब इसका उपयोग शांतिपूर्ण प्रदर्शनकारियों की निगरानी करने, एकतरफ़ा गिरफ्तारी करने और नागरिकों के स्थान को बुनियादी तौर पर धमकी देने के लिए किया जाता है.

विदुषी मर्दा REAL ML की सह-कार्यपालक निदेशक हैं. यहाँ व्यक्त विचार उनके अपने निजी विचार हैं. 

हिंदी अनुवादः डॉ. विजय कुमार मल्होत्रा, पूर्व निदेशक (हिंदी), रेल मंत्रालय, भारत सरकार

Hindi translation: Dr. Vijay K Malhotra, Director (Hindi), Ministry of Railways, Govt. of India

<malhotravk@gmail.com> / Mobile : 91+991002991/WhatsApp:+91 83680 68365