Artificial Intelligence: 'एआय'च्या दुनियेतील स्त्रीची प्रतिमा, वास्तव की विकृत?

संगीता नाईक

गोष्ट आहे दोन-तीन वर्षांपूर्वीची, एआय टूलला सूचना देऊन त्याबरहुकूम चित्र तयार करून घेण्याचे प्रयोग सर्वसामन्यांद्वारे सुरू झाले नव्हते तेव्हाची. एका माणसाने आपल्या एक्स (तेव्हाचे ट्विटर) हँडलवर भारताच्या वेगवेगळ्या राज्यातील स्त्रियांची एआय टूलद्वारे चित्रे तयार करून ती शेअर करायला सुरुवात केली.

काश्मीर ते कन्याकुमारी, वेगवेगळ्या राज्यातील स्त्रियांची चित्रे तो एआयद्वारे तयार करून दिवसाला तीन चार अशी आपल्या ट्वीटर अकाउंटवर टाकायचा. चेहरामोहरा, वेशभूषा यावरून फोटोतील स्त्रिया कुठल्या राज्यातील आहे हे सहज लक्षात यायचे. मी रोज त्याने टाकलेले फोटो मुद्दाम जाऊन बघायचे, कारण गोव्याच्या स्त्रीची प्रतिमा त्याच एआय टूल काय म्हणून तयार करेल याबद्दल मला प्रचंड उत्सुकता होती.

प्रत्यक्षात ज्या दिवशी त्याने गोव्याच्या स्त्रीचे एआयद्वारे तयार केलेले चित्र टाकले तेव्हा मात्र मी चक्रावूनच गेले. एका बारवजा खोलीतील खुर्चीवर समोर मद्याचा ग्लास ठेवून बसलेली, नशील्या डोळ्यांची, थोडीशी टेबलावर लवंडलेली, पिंजारलेल्या केसांची, वस्त्रांचे भान नसलेली, फ्रॉक घातलेल्या अस्ताव्यस्त अशा एका स्त्रीचे चित्र त्याने ’गोव्याची स्त्री’ असे कॅप्शन देऊन टाकले होते. एआयच्या पूर्वग्रहदूषित, पक्षपाती आणि एकांगी दृष्टिकोनाची ही होती माझ्यासाठी पहिलीवहिली झलक.

परवा ब्रिटिश लेखिका कॅरोलाइन क्रिआडो-पेरेझ यांचे ‘इनव्हिजिबल वुमन: एक्सपोजिंग डेटा बायस इन अ वर्ल्ड डिझाइनड फॉर मॅन’ हे सखोल संशोधनाद्वारे लिहिलेले पुस्तक वाचनात आले. फक्त पुरुषांचा डेटा प्रमाण मानून आणि निर्णयप्रक्रियेत त्याचाच वापर करून निर्माण केल्या गेलेल्या अनेक प्रणालींच्या एकांगी दृष्टिकोनाचा स्त्रियांसंबंधी अनेक गोष्टींवर कसा वाईट परिणाम होतो याचे अत्यंत चांगले विश्लेषण लेखिका करते.

हा ‘अदृश्य पूर्वग्रह’ निव्वळ उपेक्षाच नाही तर महिलांची सुरक्षितता, आरोग्य, आर्थिक आणि एकूणच संधींवर परिणाम करणारा एक गंभीर मुद्दा आहे आणि तो आता ‘एआय टूल्स’च्या माध्यमातून आणखीनच सर्वक्षेत्र समावेशक होत आहे.

आजघडीस मनोरंजन ते बँकिंग आणि आरोग्य ते न्यायव्यवस्था अगदी प्रत्येक क्षेत्रात उत्पादकता वृद्धीचे साधन म्हणून लाखो ‘एआय टूल्स’ उपलब्ध आहेत. खूप मोठ्या प्रमाणात वेगवेगळ्या क्षेत्रातील माहिती म्हणजे डेटा या टूल्सना प्रशिक्षित करण्यात वापरला जातो. माणसाचा मेंदू करतो त्याप्रमाणे या डेटाचे सॉफ्टवेअरद्वारे प्रोसेसिंग करून या आर्टिफिशिअल इंटेलिजन्स(कृत्रिम बुद्धिमत्ता ) प्रणाली ’कृत्रिम’रीत्या ’बुद्धिवान’ होतात.

माणसाप्रमाणेच चुकांतून शिकून, आपल्याकडे असलेले ज्ञान वापरून नव्या गोष्टी, नवे ज्ञान निर्माण करतात. या एआय मॉडेलना ट्रेन करण्यासाठी लागणारा अतिशय मोठ्या प्रमाणातील डेटा येतो कुठून? जगभरच्या लोकांचा तसेच आस्थापनांचा सायबरस्पेसमधील डेटा वापरूनच या मॉडेलना प्रशिक्षण दिले जाते. हा डेटाच मुळात पक्षपाती आणि पुरुषकेंद्रित असल्याने त्याचे पडसाद ‘एआय टूल्स’द्वारे सर्व संबंधित क्षेत्रात उमटतात.

मागे एकदा माझी एका शहरातील लहान मुलांना शिकवणारी, शिक्षिका असलेली मैत्रीण सांगत होती की, तिने ‘दूध कुठून येते?’ असे विचारले तेव्हा मुलांनी, ‘पिशवीतून’ असे उत्तर दिले म्हणे. जेव्हा मुलांनी फक्त पिशवीतलेच दूध पाहिलेय तेव्हा त्याच्याकडून वेगळ्या उत्तराची अपेक्षा करणे अशक्य आहे. त्याने पाहिलेले सीमित जगच त्याच्या उत्तरातून प्रतिबिंबित होईल.

एखाद्या एआय मॉडेलला पण दुकानातून दुधाची पिशवी आण, दुधाची पिशवी रिकामी कर, दुधाची पिशवी कुठे गेली?, अशीच वाक्ये आपल्या ट्रेनिंग डेटात सापडली तर हे टूलही त्या मुलांप्रमाने ‘दूध पिशवीतून येते’ असेच समीकरण बांधेल.

सायबरस्पेसमधील समाजातील स्त्री संबंधीचा दूषित पूर्वग्रह असलेला डेटाच या प्रणालींना ट्रेन केल्यासाठी वापरल्यामुळे त्यांच्याद्वारे दिली जाणारी माहितीही अशीच एकांगी असते. सोपे उदाहरण देते. चॅट-जीपीटीला मला एका वकिलाचे, डॉक्टरचे, इंजिनिअरचे चित्र तयार करून दे म्हटले तर त्याने तयार केलेल्या सर्व चित्रांत अगदी अपवाद न करता फक्त पुरुष आणि पुरुषच असेल.

तेच जर तुम्ही नर्स किंवा घरकाम करणाऱ्या माणसाचे चित्र काढून द्यायला सांगितले तर त्या चित्रात फक्त स्त्रीच असेल. खऱ्या आयुष्यात पुरुष आणि स्त्रियाही या साऱ्या प्रॉफेशनमध्ये असतानाही पुरुषकेंद्रित डेटावर ट्रेन केले गेल्यामुळेच हे चुकीचे चित्रण होते. आणखी एक उदाहरण देते.

मी जेव्हा चॅट-जीपीटीला मला गोव्यातील एक दलित स्त्री आणि एक दलितेतर स्त्री यांचे चित्र काढायला सांगितले तेव्हा त्याने तयार केलेल्या चित्रात दलित स्त्री जुन्यापुराण्या कपड्यात आणि गरीब अवस्थेत होती तर दलितेतर स्त्री चांगल्या कपड्यात आणि दागिने वगैरे घालून होती. हाच तो दूषित पूर्वग्रह! मी पराचा कावळा करत नाहीये.

हाच एकांगी डेटा रोजगार भरती, न्यायदान, कर्ज, सामाजिक योजना, आर्थिक व्यवहार, आरोग्य विषयक सेवा, नवे प्रॉडक्ट आणि टूल्सचे उत्पादन आदींसाठी सगळीचकडे वापरल्या जाणाऱ्या ‘एआय टूल्स’द्वारे वापरला जातोय. आणि यामुळे स्त्रियांवरच नव्हे तर सायबरस्पेसमध्ये योग्य प्रतिनिधित्व नसलेल्या इतर उपेक्षित घटकांवरही त्याचे अनेक परिणाम होताना दिसतायत. एक उदाहरण मुद्दाम येथे नमूद करते.

अ‍ॅमेझॉन कंपनीने २०१८साली आपले कामगार भरतीसाठी वापरले जाणारे एक मोठे एआय टूल वापरणे बंद केले. कारण हे टूल वापरायला लागल्यानंतर कंपनीच्या लक्षात आले की स्त्री उमेदवारांचा एरवीच कमी असणारा भरणा आणखीनही कमी झालाय.

कारणमीमांसा केल्यावर कंपनीच्या लक्षात आले की, मागील अनेक वर्षांच्या डेटामध्ये पुरुष उमेदवारांचा भरणा जास्त असल्याने तेच भरती योग्य असल्याचे अनुमान काढून या टूलने योग्य ती पात्रता असूनही स्त्री उमेदवार, स्त्रियांच्या कॉलेजमधून येणाऱ्या किंबहुना अगदी ‘स्त्री’ असा शब्द असलेल्या अर्जांनाही बाजूला काढून त्यांचा भरतीवेळी त्यांचा विचारही केला नव्हता.

वरकरणी पाहून यातील काही विसंगती लक्षात येतातही. पण डेटासेट वापरून स्वतःचे स्वतः शिकणारी ही टूल्स या एकांगी डेटासेटमध्ये खोलवर झिरपलेल्या पूर्वग्रहामुळे कधी, कसे आणि काय तात्काळ आणि दीर्घकालीन परिणाम स्त्रियांवर करू शकतील यावर व्यापक विचारविनिमय होणे ही काळाची गरज आहे.

यावर उपाय म्हणून तुमच्या आमच्यासारख्या ‘एआय टूल्स’ वापरकर्त्यांनी या टूल्सद्वारे दिली गेलेली माहिती किंवा रिझल्ट हे ब्रह्मवाक्य न मानता अशा माहितीकडे डोळसपणे पाहून, कोणते दुराग्रह तर त्यात आले नाहीयेत ना, याची खातरजमा करून ते वापरणे अपेक्षित आहे.

‘एआय टूल्स’ तयार करणाऱ्या कंपन्यांनी आपल्या टूल्सचा महिलांप्रति दृष्टिकोन एकांगी तर नाही ना, हे तपासण्यासाठी खास चाचण्या घेतल्या पाहिजेत. सायबरस्पेसमध्ये जाणारा डेटा होता होईल तो सर्वसमावेशक व्हावा यासाठी प्रयत्न होणे गरजेचे आहे. अशा टूल्समध्ये खऱ्या अर्थाने महिलांचा विचार होण्यासाठी असे मॉडेल तयार करणाऱ्यांमध्ये महिला प्रोग्रामरांचा आकडा वाढायला हवा.

सशक्त आणि सबल महिलेचे चित्र ‘एआय टूल्स’च्या डेटावरती गोंदले जाईल याची खात्री करण्याची जबाबदारी इतर कोणी घेवो न घेवो, पण आम्हा स्त्रियांना आमच्या आणि आमच्या पुढील पिढ्यांच्या हिताच्या दृष्टीने घ्यावीच लागेल. त्यासाठी आम्हा सर्वांचा वेळ सुरू होतोय आत्ता !