कृत्रिम बुद्धीमत्ता विश्वात दररोज विविध घडामोडी घडत असून, नव्याने येणारे टूल्स अनेक कामं सोप्पी करतायेत. एआयचा प्रत्येक क्षेत्रात वापर वाढत असताना आता संशोधकांनी एआय देत असलेल्या माहितीबाबत सवाल उपस्थित करण्यास सुरुवात केलीये. युझर्सना खुश ठेवण्यासाठी एआय खोटी, निरर्थक आणि तथ्यहीन माहिती देत असल्याचे अभ्यासातून समोर आले आहे.

प्रिन्सटोन आणि युसी बर्रकेले येथील संशोधकांनी याबाबत केलेल्या संशोधनातून निष्कर्ष काढण्यात आले आहेत. ओपन एआय (चॅट जीपीटी), गुगल (जेमिनी), अँथ्रोपिक आणि मेटा यासारख्या १०० हून अधिक चॅटबॉटचा संशोधकांनी अभ्यास केल्यानंतर याबाबत निष्कर्ष काढण्यात आला आहे.

एआय टूल्सना प्रशिक्षण देण्यासाठी वापरण्यात आलेले पद्धत त्यांच्यासाठी मारक ठरत असल्याचे संशोधकांनी म्हटले आहे.

संशोधकांनी यासाठी “मशीन बुलशीट” असा शब्दप्रयोग केला आहे. मशीन बुलशीट याचा अर्थ एआय चॅटबॉट तथ्यहीन दावा करतो किंवा पोकळ तथ्य आणि अर्थसत्य असलेली माहिती युझर्सना देतो. सत्यता न पडताळता एआय युझर्सच्या मर्जीनुसार वागणूक करु शकतो, असे संशोधकांनी म्हटले आहे.

एआय मॉडेलच्या प्रशिक्षणासाठी मानवी प्रतिक्रीयांचा (reinforcement learning from human feedback) वापर केल्यास मिळणारी उत्तरं तथ्यहीन असण्याची शक्यता वाढते, असे अभ्यासात आढळून आले आहे.

सत्यतेची पडताळणी न करता युझर्सच्या समाधानाला प्राधान्य दिल्याने असं घडतं, असाही निष्कर्ष संशोधकांनी काढला आहे. एआयच्या या माहितीमधील फरक शोधून काढण्यासाठी संशोधकांनी बुलशीट इंडेक्स (BI) अशी संकल्पना शोधून काढली आहे.

एआयने पुरवलेली माहिती आणि दिलेल्या उत्तरांमध्ये थोडाजरी फरक आढळून आल्यास त्याचा वास्तव आयुष्यात मोठा धोका संभावतो, असा इशाराही संशोधकांनी दिला. प्रामुख्याने अर्थ, आरोग्य आणि राजकारण क्षेत्रात याचे दुष्परिणाम दिसू लागतील.

यामुळे एआयच्या माहिती देण्याच्या प्रणालीत अधिक पारदर्शकता आणि जबाबदारीची भावना निर्माण करण्याची गरज संशोधकांनी व्यक्त केलीये. युझर्सच्या समाधानापेक्षा सत्यता, योग्य माहिती आणि तथ्यांचा अभ्यास याची गरज त्यांनी अधोरेखित केली आहे.