द गार्जियन की रिपोर्ट बताती है कि बदाजोज की युवा अदालत ने मंगलवार को नाबालिगों को बाल दुर्व्यवहार की तस्वीरें बनाने के 20 मामलों और उनके पीड़ितों की नैतिक अखंडता के खिलाफ अपराधों के 20 मामलों में दोषी ठहराया। 15 बच्चों में से प्रत्येक को एक वर्ष की परिवीक्षा दी गई। कोर्ट ने इस बच्चों को कथित तौर पर समानता जागरूकता के साथ टेक्नोलॉजी का जिम्मेदारी से उपयोग समझने के लिए स्पेशल क्लासेस में भाग लेने का आदेश भी दिया है।
रिपोर्ट बताती है कि अदालत के बयान ने पुष्टि की कि नाबालिगों ने मूल छवियों में हेरफेर करने के लिए एआई अनुप्रयोगों का उपयोग किया था। सभी बच्चों की उम्र 13 से 15 वर्ष बताई गई है। बता दें कि स्पेन का कानून 14 वर्ष से कम उम्र के नाबालिगों को आपराधिक मुकदमे से बचाता है। हालांकि, उनके मामले अक्सर बाल संरक्षण विभागों को ट्रांसफर कर दिए जाते हैं, जो पुनर्वास संबंधी प्रोग्राम में भागीदारी को अनिवार्य कर सकते हैं।
रिपोर्ट आगे बताती है कि पांच महीने पहले पब्लिकेशन के साथ एक इंटरव्यू में, पीड़ितों में से एक की माता ने अपने सदमे को याद किया और बताया कि “जब आप इसे देखेंगे तो यह एक शॉक होगा।” “छवि पूरी तरह से यथार्थवादी है… अगर मैं अपनी बेटी के शरीर को नहीं जानती, तो मुझे लगता कि वह तस्वीर वास्तविक है।”
निश्चित तौर पर यह हासदा हमें अभी से डीपफेक टेक्नोलॉजी को लेकर गंभीरता से सोचने पर मजबूर करता है। जैसे-जैसे इस टेक्नोलॉजी को एक्सेस और इस्तेमाल करना आसान होता जाएगा, लोगों के लिए चिंता अधिक बढ़ती जाएगी, खासतौर पर सोशल मीडिया पर बढ़ती भीड़ और बच्चों पर इसके प्रभाव को देखते हुए।
भारत में भी AI के इस्तेमाल से सेलेब्रिटीज के जाली वीडियो या डीपफेक्स बनाने के मामले बढ़े हैं। ऐसे में हाल ही में सोशल मीडिया प्लेटफॉर्म Facebook और YouTube को डीपफेक्स को लेकर केंद्र सरकार ने चेतावनी दी थी। फेसबुक और यूट्यूब सहित सोशल मीडिया प्लेटफॉर्म्स को यह बताया गया था कि देश के कानून के तहत डीपफेक्स और ऐसे कंटेंट पोस्ट करने पर प्रतिबंध है जो अश्लीलता या गलत जानकारी फैलाता है।
