गुन्हेगार आणि अतिरेक्यांना ओळखण्यासाठी ऑटोमॅटिक फेशियल रेकग्निशन (चेहरे ओळखणारं तंत्रज्ञान)चा वापर करता येईल का, याची चाचणी जगभरातले पोलीस आणि सुरक्षा यंत्रणा घेत आहेत. पण ही टेक्नॉलॉजी किती अचूक आहे? आणि ही टेक्नॉलॉजी आणि ती ज्यावर चालते ती आर्टिफिशियल इंटेलिजन्स प्रणाली, पिळवणूक करण्याचं माध्यम ठरू शकते का?
कल्पना करा, की एक अतिरेकी एका गजबजलेल्या शहरामध्ये आत्मघातकी कारवाई करण्यासाठी निघालेला आहे. त्याने जर बॉम्बस्फोट घडवला तर शेकडो लोक ठार होऊ शकतात किंवा गंभीर जखमी होऊ शकतात.
पण गर्दीचे चेहरे पडताळणारे सीसीटीव्ही त्याला टिपतात आणि त्याच्या फोटोमधली फीचर्स (चेहऱ्याचे बारकावे) सुरक्षा यंत्रणांकडच्या अतिरेक्यांच्या डेटासोबत किंवा 'संशयित व्यक्तींच्या' फोटोंसोबत पडताळून पाहतात.
ही यंत्रणा धोक्याची घंटा वाजवते आणि दहशतवादविरोधी पथक त्वरीत या घटनास्थळी पाठवली जातात. आरोपीने बॉम्बस्फोट घडवण्याआधीच ही पथकं त्याला जेरबंद करतात. शेकडो जीव वाचतात. टेक्नॉलॉजी गंभीर घटना टाळते.
पण जर समजा या फेशियल रेकग्निशन टेक्नॉलॉजीने काही चूक केली तर?
जर तो अतिरकी नसून दुर्दैवाने त्याच्यासारखीच दिसणारी दुसरी व्यक्ती असेल तर? चूक करु शकणाऱ्या एका प्रणालीमुळे एका निरपराधाने आयुष्य गमावलं असतं.
आणि जर तुम्ही ती निरपराध व्यक्ती असता तर?
फेशियल रेकग्निशन आणि आर्टिफिशियल इंटेलिजन्समुळे निर्माण होणाऱ्या नैतिक समस्यांपैकी ही एक आहे.
मशीन्सना वस्तू आणि चेहऱ्यामधले फरक ओळखून त्यामध्ये भेद करायला शिकवणं अतिशय कठीण आहे. याला अनेकदा - कम्प्युटर व्हिजन असं म्हटलं जातं. अगदी काही काळ पूर्वीपर्यंत या कम्प्युटर व्हिजनला एक मफिन आणि एक चिव्हाव्हा (Chihuahua - कुत्र्याची एक जात) यातला फरक ओळखणंही कठीण जात होतं.
स्त्रिया आणि पुरुषांच्या त्वचेचा रंग जसा गडद होत जातो, तसतसं फेशियल रेकग्निशन यंत्रणेला त्यांच्यात फरक करणं कठीण जात असल्याचं गुगलच्या एथिकल आर्टिफिशियल इंटेलिजन्स टीममधले कम्प्युटर सायंटिस्ट आणि टेक्निकल को-लीड, टीमनिट गेब्रू यांनी दाखवून दिलं होतं. एका कृष्णवर्णीय महिलेची गणना पुरुष म्हणून होण्याची शक्यता होती.
"फेस रेकग्निशन डेटाबेसमध्ये सध्या 13 कोटी सज्ञान अमेरिकन नागरिकांची माहिती आहे. पण या मूळ डेटामधले बहुतेक श्वेतवर्णीय आणि पुरुष आहेत. त्यामध्ये वर्णभेद करण्यात आला होता. त्यामुळे त्वचेच्या रंगावरून आणि लिंगामुळे चूक होण्याचं प्रमाण जास्त आहे," त्यांनी मे महिन्यामध्ये 'आर्टिफिशियल इंटेलिजन्स फॉर गुड समिट'मध्ये बोलताना सांगितलं होतं.
या तंत्रज्ञानातल्या उणिवा आणि यामुळे नागरी स्वातंत्र्याला असलेला धोका लक्षात घेत कॅलिफोर्नियातल्या सॅन फ्रान्सिस्को शहराने नुकतीच वाहतूक आणि कायदा सुव्यस्था यंत्रणांद्वारे फेशियल रेकग्निशन तंत्रज्ञान वापरण्य़ावर बंदी घातली. पण अमेरिकेतल्या आणि जगभरातल्या इतर शहरांमध्ये या तंत्रज्ञानाची चाचणी घेण्यात येत आहे.
उदाहरणार्थ युनायटेड किंग्डममध्ये साऊथ वेल्स, लंडन, मँचेस्टर आणि लिस्टरमधील पोलीस ही यंत्रणा वापरण्याची चाचणी करत आहेत. नागरी स्वातंत्र्य आणि हक्कांसाठी काम करणाऱ्या लिबर्टी आणि बिग ब्रदर वॉच यासारख्या संघटना यामुळे नाराज असून या दोन्ही संस्थांनी यंत्रणेकडून करण्यात आलेल्या चुकांबद्दल काळजी व्यक्त केली आहे.
कारण यामुळे निरपराध लोकांना चुकून संशयित गुन्हेगार मानलं जाऊ शकतं.
"भेदभावाची भीती सर्वांनाच वाटायला हवी, प्रेडिक्टिव्ह पोलिसिंग (गुन्हा घडण्याआधीच तो थांबवणं)करताना अनेक गोष्टी पणाला लागतात."
अमेरिकेमध्ये कृष्णवर्णीयांचं एकूण लोकसंख्येतलं प्रमाण आहे 13%. पण अमेरिकेच्या तुरुंगामध्ये असलेल्या एकूण लोकांच्या 37.5%जण हे कृष्णवर्णीय आहेत. (माहिती : फेडरल ब्युरो ऑफ प्रिझन्स). जर समजा एखादा चुकीच्या पद्धतीने लिहीलेला अल्गोरिदम यातून कृष्णवर्णीयांकडून गुन्हा घडण्याची शक्यता असल्याचं वर्तवेल.
याचा सामाजिकदृष्ट्या काय परिणाम होऊ शकतो, याचा अंदाज लावणं फारसं कठीण नाही.
लंडन मेट्रोपोलिटन पोलिसांच्या चाचणीतील जवळपास 80% निष्कर्ष चूक असून यामुळे न्यायव्यवस्थेला धक्का बसू शकतो आणि नागरिकांच्या हक्कावर गदा येऊ शकते असं, युनिव्हर्सिटी ऑफ एसेस्कसमधल्या तज्ज्ञांनी याच आठवड्यात जाहीर केलं होतं.
एड ब्रिजेस या ब्रिटीश व्यक्तीचा तो खरेदीसाठी बाहेर गेलेला असताना फोटो काढण्यात आला. त्यानंतर त्याने साऊथ वेल्स पोलिसांनी ही टेक्नॉलॉजी वापरण्याला कायदेशीर आव्हान दिलं आहे. तर अशा प्रकारच्या फेशियल रेकग्निशन टेक्नॉलॉजीच्या वापराबद्दल पुरेशी कायदेशीर माहिती उपलब्ध नसल्याबद्दल युकेच्या माहिती आयुक्त एलिझाबेथ डेनहम यांनी काळजी व्यक्त केली आहे.
तर असे आक्षेप घेण्यात येऊनही अमेझॉनने अमेरिकेतल्या पोलिस यंत्रणांना अशाच प्रकारचं फेशियल रेकग्निशन टूल विकलेलं आहे.
आपण विकलेल्या टेक्नॉलॉजीचा ग्राहक कसा वापर करतात याच्याशी आपलं देणंघेणं नसल्याचं अमेझॉनने म्हटलंय. तर सेल्सफोर्स या कंपनीने स्वतःचं आईनस्टाईन व्हिजन नावाचं इमेज रेकग्निशन टूल विकसित केलेलं आहे.
"तुरुंगामध्ये गँग युद्धातून हिंसा घडू नये म्हणून तुरुंगामध्ये फेशियल रेकग्निशन टेक्नॉलॉजीचा कदाचित फायदा होऊ शकतो. पण जर पोलीस याचा वापर त्यांच्या बॉडी कॅमेऱ्याने लोकांना अटक करणार असतील, तर आमचा त्याला आक्षेप आहे," सेल्सफोर्सच्या एथिकल ए.आय. प्रॅक्टिसच्या आर्किटेक्ट कॅथी बॅक्स्टर सांगतात.
"फेशियल रेकग्निशन हे तर एक उदाहरण आहे. एकूणच आर्टिफिशियल इंटेलिजन्सचा अशा प्रकरणांमध्ये वापर करायला हवा का, हा सवाल आपण करायला हवा."
आता लष्कराकडूनही फेशियल रेकग्निशनचा वापर करण्यात येत आहे. आणि हे तंत्रज्ञान विकणाऱ्यांचा असा दावा आहे की त्यांचं सॉफ्टवेअर हे संभाव्य शत्रूंची फक्त ओळखच पटवतील असं नाही तर त्यांच्या वर्तनाचा अर्थही लावू शकतील.
पण 'इंटरनॅशनल कमिटी ऑफ द रेड क्रॉस'चे डायरेक्टर - जनरल युव्हज डॅकॉर्ड या सगळ्याविषयी शंका उपस्थित करतात.
"सध्याच्या काळात हाय-टेक युद्ध होतं. आपल्याकडे स्वयंचलित ड्रोन्स आहे, हत्यारं आहेत जी कुठे हल्ला करायचा कुठे नाही करायचा हे ठरवतात. पण त्यांचे निर्णय योग्य असतात का? याचा भयंकर परिणाम होऊ शकतो," ते धोक्याची सूचना देतात.
आर्टिफिशियल इंटेलिजन्स तंत्रज्ञान अजूनही परिपूर्ण नसून त्याचं नियमन करण्याची गरज असल्याची भावना जगभर वाढतेय.
"हे ए.आय. तंत्रज्ञान पूर्णपणे खासगी क्षेत्राच्या हाती सोडणं योग्य नाही, कारण याचा खूप मोठा परिणाम होऊ शकतो," इंटरनॅशनल टेलिकम्युनिकेशन्स युनियनचे डॉ. चौसब ली सांगतात.
"यामध्ये योग्य डेटा वापरणं गरजेचं आहे, पण ती माहिती योग्य आहे, याची खात्री कोण करणार? हे अल्गोरिदम भेदाभेद करणारे नाहीत, याची हमी कोण देणार? यासाठी व्यापक दृष्टीकोन हवा. "
तोपर्यंत फेशियल रेकग्निशनबद्दल सर्वजण साशंक राहतील आणि या तंत्रज्ञानावर करडी नजर ठेवण्यात येईल.