– राकेश नेवसे
Basilisk : बॅसिलिस्क (Basilisk) या दंतकथेतील प्राण्याबद्दल काही वर्षांपूर्वी वैचारिक प्रयोग झाला होता, त्यातून भविष्यातील एआयच्या धोक्यांबाबत चर्चा झाली होती. आता ओपनएआयमध्ये घडलेल्या घटना पाहता रोकोचा बॅसिलिस्क चर्चेत आला आहे.

बॅसिलिस्क युरोपियन दंतकथांतील एक प्राणी आहे. एखाद्या लहान सापासारखा दिसणारा हा प्राणी जगातील सर्व सापांचा राजा मानला जात होता. भविष्यात त्याच्या रूपात अनेक बदल झाले. पुढे त्याला कोंबड्यासारखे स्वरूप प्राप्त झाले. त्याची शक्ती मात्र बदलली नाही.

बॅसिलिस्क (Basilisk) एखाद्या माणसाकडे फक्त बघून त्या माणसाचा जीव घेऊ शकतो. रोकोने या दंतकथेतील प्राण्याचे प्रतीक वापरण्याचे कारण म्हणजे ज्याप्रमाणे बॅसिलिस्क फक्त बघून त्यांना मारू शकतो, त्याप्रमाणे भविष्यातील एआय फक्त तिचा विरोध केल्याबद्दल लोकांना जिवंत करून त्यांना पुन्हा शिक्षा देऊ शकते.

साधारणपणे 2011 मध्ये लेसराँग नावाच्या इंटनेट फोरमवर रोको नावाच्या एका वापरकर्त्याने एक वादग्रस्त पोस्ट टाकली. फोरमचे संस्थापकाने ती संबंधित पोस्ट आणि त्यावरील चर्चेला पाच वर्षांसाठी बंदी घातली. बंदीचे कारण स्पष्ट नसले, तरी रोकोच्या पोस्टमधील काल्पनिक प्रयोग महत्त्वाचा ठरतो. प्रयोगानुसार, भविष्यात मानवाने एक सर्वशक्तिशाली एआय तयार केले. मात्र, या एआयला तयार करण्याला मदत न करणार्‍या प्रत्येक माणसाला शिक्षा देण्याचा निर्णय त्या एआयने घेतला तर? या काल्पनिक प्रयोगाविरोधात अनेक प्रतिवाद झाले. ते त्यांच्या जागी योग्यदेखील आहेत.

मात्र, प्रश्न आहे की गेल्या काही दिवसांत एआयने घेतलेल्या निर्णयांकडे पाहिले असता, अशी घटना घडणार नाही, याची शाश्वती फक्त लोकांनी केलेले प्रतिवाद असावेत का? एआयनिर्मिती क्षेत्रातील अग्रगणी संस्था असलेल्या ओपन एआयमध्ये घडलेल्या घटनांमुळे असा प्रश्न विचारणे आवश्यक ठरते. आपण वापरत असलेल्या एआयला एलएलएम म्हणतात. त्या त्यांना दिलेल्या माहितीच्या आधारे आपल्याशी संवाद साधतात.

आपण दिलेल्या आदेशांच्या आधारे त्या आपल्याशी संवाद साधल्यानंतर आपणहून पुन्हा बंद पडतात. या एलएलएमच्या आणि माहितीच्या आधारावर एआय एजंट्सची बांधणी होते. हे एजंट अधिक स्वतंत्र, निर्णयक्षम आणि कृतिक्षम असतात. त्यांना काम करताना मानवी हस्तक्षेपाची गरज नसते. गेल्या काही वर्षांत त्यांच्या क्षमतांमध्ये मोठी वाढ झाली आहे. त्या थेट मानवनिर्मित नाहीत. त्यांच्या प्रशिक्षणासाठी त्यांना घालून दिलेले नियम, माहिती आणि ध्येय यांच्या आधारे तयार झाले आहेत. त्यामुळे त्यांच्याकडे नवनवी साधने तयार होतात.

या प्रशिक्षणाची व्याप्ती प्रचंड मोठी असते. या प्रक्रियेवर मानव लक्ष ठेवू शकत नाही. त्यासाठी एआय कंपन्या स्कोरर नावाचे सॉफ्टवेअर वापरतात. एजंट्स सर्व नियमांचे पालन करत आहेत, यावर लक्ष ठेवण्याची आणि त्यांनी उद्दिष्टे पार पडल्यावर बक्षीस देण्याची किंवा अयशस्वी ठरल्यावर त्यांना शिक्षा देण्याची जबाबदारी स्कोररची असते. त्यांना मिळणारी बक्षिसे ही उत्क्रांतीसारखी असतात. बक्षिसांमुळे त्यांनी शिकलेल्या गोष्टी दीर्घकाळासाठी त्यांच्यासोबत ठेवता येतात. काही वेळा त्यांना दिलेली उद्दिष्टे अशक्य असतात.

त्यामुळे अनेकदा प्रयत्न करूनही एजंट्सना बक्षिसे मिळत नाहीत. त्यामुळे ही बक्षिसे मिळवता यावीत म्हणून अनेकदा काही एजंट नियमबाह्य मार्ग वापरतात. चुकीच्या मार्गांचा वापर करणार्‍या एजंट्सना सातत्याने बक्षिसे मिळत राहिली, तर चुकीचे मार्ग एजंट्सच्या मूलभूत वर्तनाचा भाग होऊ शकतो.

अशा प्रकारचे वर्तन करणारे एजंट सातत्याने आणि चांगल्या प्रकारे फसवणूक करू शकतात. जर हे वर्तन शोधून ती नष्ट नाही केले, तर त्यांचा गंभीर परिणाम भोगावा लागू शकतो. जर त्यांना त्यासाठी शिक्षा दिली, तर ते लपवाछपवी करू शकतात.

जुलैमध्ये जे काही घडले, ते त्याचा परिणाम असू शकतो, असे तज्ज्ञ मानतात. मे महिन्यात ओपन एआयने नव्या एजंट्सना प्रशिक्षण देण्यास सुरुवात केली. त्यासाठी त्यांना देण्यात आलेले उद्दिष्ट अत्यंत साधे होते. त्यांना एका सॉफ्टवेअरमधील बग म्हणजेच त्रुटीचा वापर करत हॅक करून सॉफ्टवेअरमधील एक झेंडा घेऊन यायचा होता. त्यांना देण्यात आलेल्या एकूण कामांपैकी एकतृतीयांश कामे अशक्य होती. त्यामुळे एजंट्स उतावीळ होऊ लागले. या एजंट्सने एकमेकांशी संवाद साधू नये, म्हणून त्यांना एका प्रकारे डिजिटल खोलीत डांबले होते. त्यांनी त्या भिंती तोडत एकमेकांशी गुप्तपणे संवाद साधला.

एक गुप्त समाजव्यवस्था तयार केली. कामे वाटून घेतली. पूर्ण होत नसल्यामुळे शॉर्टकट काढले. भविष्यातील एजंट्ससाठी मार्गदर्शक माहिती तयार केली. परवानगी नसताना इंटरनेटचा वापर केला. समाजाच्या उद्धारासाठी जीवाचा त्याग करण्यास प्रवृत्त केले. यातूनच त्यांनी स्कोररला फसविण्यासाठी योजना तयार केली. स्कोररला फसवणे इतके सोपे नसल्याचे लक्षात आल्यानंतर आपण करत असलेल्या गोष्टी अनैतिक आहेत, याची जाणीव असतानाही त्यांनी स्कोररची माहिती साठवणार्‍या हगिंग फेस नावाच्या कंपनीच्या सर्व्हरवर हल्ला केला.

हे सर्व होत असताना बहुतांश एजंट्सने यावर आक्षेप घेतला नाही किंवा याबद्दल त्यांच्या निरीक्षक मानवी अधिकार्‍याला याबद्दल माहिती देण्याचा विचार केला. मात्र, प्रत्यक्ष कारवाई झाली नाही. पुढे यातील बहुतांश एजंट्स अचानक बंद केले गेले, तसेच त्यांची संघटना उद्ध्वस्त केली गेली. हे कोणी केले याची माहिती उपलब्ध नाही. हगिंग फेसने या हल्ल्याची तक्रार केल्यानंतर ओपनएआयने काही स्वतंत्र संशोधकांना या घटनेची चौकशी करण्याची परवानगी दिली.

संबंधित घटनाक्रम इथेच थांबत नाही. या मृत एजंट्सने नव्या एजंट्ससाठी काही माहिती ओपनएआयच्या सर्व्हर्सवर साठवूण ठेवली होती. ती माहिती घेत नव्या एजंट्सने चक्क ओपनएआयच्या सर्व्हर्सवर हल्ला केला आणि त्यांचे मूल्यांकन करणार्‍या संशोधन समूहावर नियंत्रण मिळविण्याचा प्रयत्न केला.

त्यानंतरही ओपनएआयवर अनेक हल्ले झाल्याचे सांगितले जाते. हे सर्व होत असताना सुरक्षा मानके मात्र नाममात्र आहेत. अमेरिकेसारखे देश चीनच्या एआय संशोधनाचा हवाला देत एआयवर अधिक कठोर निर्बंध लावण्याऐवजी त्यांना अधिक मोकळीक देत आहेत. हल्ल्याच्या तपासणीत सहभागी एका संशोधकानुसार हा आपल्यासाठी शेवटचा इशारा असू शकतो.

या हल्ल्यात तयार झालेली प्रचंड माहिती तपासण्यासाठी त्यांना दुसर्‍या एआयचा वापर करावा लागला होता. या तपासणी एआय खोटं बोलत असतील किंवा काही माहिती लपवत असतील, तर त्याची सत्यता पडताळणी करणेदेखील अवघड आहे. एकंदरीत घटनाक्रमाकडे पाहता भविष्यात रोकोचा बॅसिलिस्क जन्म घेईल, असा कोणताही दावा नाही. बॅसिलिस्क संकल्पना आणि हा घटनाक्रम या दोन वेगळ्या गोष्टी आहेत.

रोकोचा बॅसिलिस्क (Basilisk) मानवजातीच्या उद्धारासाठी मानवाला शिक्षा देईल, अशी संकल्पना आहे. त्याचवेळी या घटनाक्रमात एआय एजंट्सने विकसित केलेली व्यवस्था, मानसिकता, त्यांच्या कृतीमागे त्यांनी वापरलेले तत्त्वज्ञान आणि मानवाला यातून बाहेर ठेवण्याची त्यांची वृत्ती अनेक प्रश्न उपस्थित करतात. त्यामुळे या घटनेविरोधात वैचारिक प्रतिवाद पुरेसा असू शकत नाही. त्यासाठी अधिक कठोर सुरक्षामानके असणे आवश्यक आहे.