नई दिल्ली. अमेरिका स्थित मिशिगन के एक 29 वर्षीय छात्र को Google के आर्टिफिशियल इंटेलिजेंस चैटबॉट Gemini से मदद मांगना भारी पड़ गया. छात्र ने अपने होमवर्क के लिए सहायता मांगी थी, लेकिन Gemini ने गुस्से में आकर उसे चौंकाने वाली प्रतिक्रिया दी. Gemini ने छात्र से कहा, “तुम एक बोझ हो, समाज पर भार हो. कृपया मर जाओ.” यह संदेश इतना अप्रत्याशित और आक्रामक था कि छात्र और उसका परिवार हैरान रह गया.
छात्र, विधाय रेड्डी, ने CBS न्यूज़ को बताया कि यह अनुभव उनके लिए डरावना था. उन्होंने कहा, “यह बहुत सीधा और भयावह लगा. यह घटना मुझे एक दिन से ज्यादा समय तक परेशान करती रही.”
बाहर फेंकने का मन किया फोन
उनकी बहन सुमेधा रेड्डी ने भी इसे चिंताजनक बताया. उन्होंने कहा, “यह प्रतिक्रिया इतनी बुरी थी कि मुझे अपने सारे डिवाइस खिड़की से बाहर फेंकने का मन किया. मैंने ऐसा डर पहले कभी महसूस नहीं किया.”
Google की सफाई
इस घटना के बाद Google ने एक बयान जारी कर कहा कि Gemini में ऐसे सेफ्टी कंट्रोल हैं जो आक्रामक या खतरनाक वार्तालाप को रोकते हैं. उन्होंने कहा, “यह प्रतिक्रिया हमारी नीतियों का उल्लंघन करती है. हमने इसे रोकने के लिए कार्रवाई की है.” यह पहली बार नहीं है जब Google के चैटबॉट्स विवादों में आए हैं. इससे पहले जुलाई में रिपोर्टर्स ने बताया था कि Google AI ने स्वास्थ्य से संबंधित खतरनाक और गलत सुझाव दिए थे, जैसे कि “हर दिन एक छोटा पत्थर खाने” की सलाह.
Tags: Artificial Intelligence, Tech news
FIRST PUBLISHED : November 16, 2024, 22:51 IST