AI नहीं आफत हो गया! माइक्रोसॉफ्ट इंजीनियर का दावा- Copilot Designer बना रहा आपत्तिजनक तस्वीरें
आर्टिफिशियल इंटेलिजेंस (AI) टूल्स का इस्तेमाल जितनी तेजी से बढ़ा है, उतनी ही तेजी से इसके खतरे भी उजागर हो रहे हैं। हाल ही में गूगल के जेमिनी एआई ने प्रधानमंत्री नरेंद्र मोदी को लेकर आपत्तिजनक बातें कही थीं, जिसके बाद कंपनी को माफी मांगनी पड़ी। अब एक और टेक दिग्गज माइक्रोसॉफ्ट से जुड़ा मामला सामने आया है। कंपनी के एक एआई इंजीनियर ने आरोप लगाया है कि माइक्रोसॉफ्ट के एआई इमेज जनरेटर ‘Copilot Designer’ में बेसिक सुरक्षा उपायों की कमी है और यह हिंसक व सेक्सुलाइज्ड (कामुक) तस्वीरें क्रिएट कर सकता है।
इंजीनियर शेन जोन्स ने अमेरिका के फेडरल ट्रेड कमीशन को लेटर लिखा है। कहा है कि इन कमियों के बारे में उन्होंने माइक्रोसॉफ्ट के मैनेजमेंट को बार-बार चेतावनी दी, लेकिन कोई कार्रवाई नहीं की गई।
जोन्स ने अपने लेटर को लिंक्डइन पर पब्लिश किया। उन्होंने बताया कि कंपनी इन मुद्दों के बारे में अच्छी तरह से जानती है। उसका प्रोडक्ट हानिकारक (harmful) इमेजेस बना रहा है, जो कस्टमर्स के लिए ठीक नहीं।
द गार्जियन की रिपोर्ट के अनुसार, माइक्रोसॉफ्ट के एक प्रवक्ता ने इस बात से इनकार किया है कि कंपनी ने सेफ्टी इशूज को इग्नोर किया। कंपनी का दावा है कि उसके पास जेनरेटर एआई से संबंधित समस्याओं से निपटने के लिए पर्याप्त संसाधन हैं।
क्या काम करता है Copilot Designer
Copilot Designer माइक्रोसॉफ्ट का बनाया एक टूल है। यह टेक्स्ट प्रॉम्प्ट्स के आधार पर इमेजेस क्रिएट कर सकता है। माइक्रोसॉफ्ट का टूल जानीमानी कंपनी ओपनएआई के DALL-E 3 एआई इंटेलिजेंस सिस्टम पर काम करता है। Copilot Designer को पिछले साल पेश किया गया था।
