CJI ने जताई चिंता, जजों की मॉर्फ्ड तस्वीरें तक वायरल, AI के दुरुपयोग पर सख्त नियमों की जरूरत

सुप्रीम कोर्ट के चीफ जस्टिस ऑफ इंडिया (CJI) बी.आर. गवई ने सोमवार को आर्टिफिशियल इंटेलिजेंस (AI) और डिजिटल तकनीकों के बढ़ते दुरुपयोग पर गंभीर चिंता जताई. उन्होंने खुलासा किया कि अब जज तक इनका शिकार हो रहे हैं और उनकी मॉर्फ्ड तस्वीरें सोशल मीडिया पर वायरल की जा रही हैं. यह टिप्पणी उन्होंने उस समय की जब कोर्ट में एक जनहित याचिका (PIL) पर सुनवाई चल रही थी, जिसमें न्यायपालिका में जनरेटिव एआई (GenAI) के इस्तेमाल पर दिशा-निर्देश बनाने की मांग की गई है.

हमने तो अपनी मॉर्फ्ड वीडियो देखी

CJI ने कहा, “हां, हां, हमने अपनी मॉर्फ्ड तस्वीरें भी देखी हैं,” यह बयान सुनवाई के दौरान अदालत में मौजूद सभी को चौंका गया. इस मामले में याचिकाकर्ता अधिवक्ता कार्तिकेय रावल ने कहा कि पारंपरिक एआई और जनरेटिव एआई के बीच स्पष्ट अंतर है. उनका कहना है कि सामान्य एआई केवल मौजूदा डेटा का विश्लेषण करता है, जबकि जनरेटिव एआई नई जानकारी, तस्वीरें और यहां तक कि नकली केस लॉ (case laws) भी गढ़ सकता है — जो न्यायिक प्रणाली में भ्रम और गड़बड़ी पैदा कर सकता है.

ये कानून का उल्लंघन है

याचिका में कहा गया कि जनरेटिव एआई की सबसे बड़ी समस्या इसकी ब्लैक बॉक्स प्रकृति है, यानी इसका कामकाज पारदर्शी नहीं है. यह तकनीक न्यूरल नेटवर्क और अनसुपरवाइज्ड लर्निंग के जरिए ऐसे परिणाम दे सकती है जो पूरी तरह काल्पनिक हों. इससे हैलुसिनेशन (hallucination) की स्थिति बनती है, जिसमें एआई ऐसी बातें प्रस्तुत करता है जो असल में अस्तित्व में नहीं होतीं. इस तरह के मनगढ़ंत कानून या निष्कर्ष संविधान के अनुच्छेद 14 के तहत समानता के अधिकार का उल्लंघन माने जा सकते हैं.

जवाबदेही तय की जाए

रावल ने यह भी कहा कि एआई का परिणाम उसके डेटा की गुणवत्ता पर निर्भर करता है. यदि डेटा पक्षपाती या अधूरा है तो नतीजे भी वैसे ही होंगे, जिससे न्याय प्रक्रिया पर नकारात्मक असर पड़ सकता है. इसलिए यह आवश्यक है कि न्यायिक प्रणाली में इस्तेमाल होने वाले किसी भी एआई टूल में पारदर्शिता, डेटा स्वामित्व की स्पष्टता और जवाबदेही तय की जाए.

इस बीच, जस्टिस के. विनोद चंद्रन की अध्यक्षता वाली पीठ ने मामले की सुनवाई दो हफ्ते बाद के लिए स्थगित कर दी. अब उम्मीद की जा रही है कि अदालत आने वाले दिनों में जनरेटिव एआई के इस्तेमाल पर विस्तृत दिशा-निर्देश तय कर सकती है, ताकि न्यायपालिका को तकनीकी दुरुपयोग से बचाया जा सके.

ये भी पढ़ें- टेस्ला के साइबरट्रक प्रोग्राम के हेड सिद्धांत अवस्थी ने दिया इस्तीफा, इंटर्न के तौर पर हुए थे शामिल