अब Meta AI रखेगा Teenager की सुरक्षा का ध्यान, सुसाइड से जुड़े संकेत मिलते ही पैरेंट्स को भेजेगा अलर्ट

Meta AI Safety Feature: मेटा (Meta) अपने AI चैटबॉट को पहले से ज्यादा सुरक्षित बनाने की दिशा में एक नया फीचर लाने की तैयारी कर रही है।  इस फीचर का मकसद  किशोर (Teen Users) की सुरक्षा बढ़ाना है। अगर कोई टीनएजर मेटा AI से बात करते समय सुसाइड  या खुद को नुकसान पहुंचाने जैसी बातें करता है, तो उसके माता-पिता को इसकी जानकारी दी जाएगी। इससे परिवार समय रहते हालात  को समझकर जरूरी कदम उठा सकेगा।

मीडिया रिपोर्ट के अनुसार,  फिलहाल इस सुविधा की शुरुआत अमेरिका, ब्रिटेन, ऑस्ट्रेलिया और कनाडा में की गई है। यह फीचर उन परिवारों के लिए  है, जो इंस्टाग्राम के पैरेंटल सुपरविजन टूल का इस्तेमाल कर रहे हैं। कंपनी का कहना है कि साल के आखिर तक इसे भारत समेत कई अन्य देशों में भी लॉन्च किया जाएगा।

नया फीचर कैसे करेगा काम?

मेटा ने इसके लिए एक खास AI सिस्टम तैयार किया है। अगर कोई टीनएजर मेटा AI के साथ बातचीत के दौरान खुद को नुकसान पहुंचाने या सुसाइड से जुड़ी बातें करता है, तो सिस्टम ऐसे सिग्नल को पहचानने की कोशिश करेगा।  लेकिन, केवल AI के बेस्ड  पर अलर्ट नहीं भेजा जाएगा। पहले उस बातचीत की जांच इंसानी टीम द्वारा की जाएगी। अगर टीम को लगे कि मामला गंभीर हो सकता है, तो  टीनएजर के माता-पिता को नोटिफिकेशन भेज दिया जाएगा।

कंपनी के अनुसार, अगर बातचीत पूरी तरह स्पष्ट नहीं भी हो, तब भी पैरेंट्स को सूचना दी जा सकती है। इसका मतलब यह है कि कुछ मामलों में ऐसा अलर्ट भी मिल सकता है, जहां वास्तविक खतरा मौजूद न हो।

बातचीत नहीं पढ़ पाएंगे पैरेंट्स

मेटा ने साफ किया है कि इस फीचर का मकसद  बच्चों की प्राइवेसी खत्म करना नहीं है। इसलिए माता-पिता को केवल अलर्ट मिलेगा, लेकिन वे अपने बच्चे और मेटा AI के बीच हुई पूरी बातचीत नहीं पढ़ सकेंगे। पैरेंट्स सिर्फ यह जान पाएंगे कि बच्चे ने किन विषयों पर AI से बात की है। इससे एक तरफ बच्चों की प्राइवेसी बनी रहेगी और दूसरी ओर जरूरत पड़ने पर परिवार  अलर्ट भी हो सकेगा।

बता दें कि पिछले कुछ समय से मेटा अपने प्लेटफॉर्म पर सुरक्षा से जुड़े कई फीचर जोड़ रही है। इंस्टाग्राम पर पहले से ही ऐसा सिस्टम मौजूद है, जो यह पहचान सकता है कि कोई टीनएजर बार-बार सुसाइड  या सेल्फ-हार्म से जुड़ा कंटेंट सर्च कर रहा है या नहीं। अगर ऐसा होता है, तो पैरेंट्स को इसकी सूचना भेजी जाती है। साथ ही उन्हें यह भी जानकारी मिलती है कि बच्चा किन विषयों में ज्यादा इन्टरेस्ट ले रहा है। लेकिन, प्राइवेट चैट या पूरा कंटेंट देखने की परमिशन उन्हें नहीं दी जाती है।

Meta AI में भी आएगा इंस्टाग्राम जैसा सुरक्षा मोड

मेटा अब इंस्टाग्राम के "Limited Content" फीचर को अपने AI चैटबॉट में भी जोड़ने की तैयारी कर रही है। इस फीचर के जरिए टीनएजर यूजर्स को कुछ सेंसिटिव या नुकसान पहुंचाने वाले कंटेंट से दूर रखा जाएगा। कंपनी का मानना है कि इससे टीनएजर्स  को सुरक्षित ऑनलाइन अनुभव मिलेगा और वे ऐसे कंटेंट के संपर्क में कम आएंगे, जो मानसिक रूप से नुकसान पहुंचा सकता है।

इमरजेंसी सर्विस को भी भेजी जा सकती है सूचना

मेटा फ्यूचर  में सुरक्षा व्यवस्था को और मजबूत बनाने पर भी काम कर रही है। कंपनी ऐसे सिस्टम पर विचार कर रही है, जो किसी यूजर के गंभीर खतरे में होने के हालात में इमरजेंसी सर्विस या संबंधित एजेंसी को भी सूचना दे सके। अगर सिस्टम और जांच टीम को लगे कि किसी व्यक्ति की जान को खतरा हो सकता है, तो जरूरत पड़ने पर संबंधित इमरजेंसी रिस्पॉन्डर को अलर्ट भेजा जा सकता है। हालांकि, इस फीचर को लेकर कंपनी अभी टेस्टिंग और  प्लान कर रही है।

यह भी पढ़ें: 19,999 कीमत, 6500mAh की बड़ी Battery और बेस्ट AI फीचर्स! VIVO ने लॉन्च किया अपना न्यू 5G स्मार्टफोन