AI systems: किसी फिल्म या रेसिपी की सिफारिश में AI की गलती शायद कोई फर्क नहीं पड़े। लेकिन अगर वही गलती कोर्ट केस, मेडिकल रिपोर्ट या बिजनेस डेटा में हो जाए, तो नुकसान बहुत बड़ा हो सकता है
AI systems: सोचिए कि आप एक टेक्नोलॉजी कंपनी के कस्टमर हैं और आपको अचानक एक मेल आया कि अब आप उस सेवा को सिर्फ एक ही कंप्यूटर पर चलाना होगा, जबकि पहले ऐसा कोई नियम नहीं था। जब आप गुस्से में सब्सक्रिप्शन प्राप्त करते हैं, तो आपको पता चलता है कि ये सब एक कृत्रिम बुद्धि बोट की गलती थी!
ठीक है, AI की गलतियाँ बढ़ती जाती हैं जैसे-जैसे वह तेज होती जाती है। तकनीकी भाषा में इस गड़बड़ी को हैलूसिनेशन (Hallucination) कहा जाता है। यानी जब AI बिना किसी स्पष्ट कारण के खुद से कुछ बनाता है।
AI ने फर्जी नियम बनाए, लोग नाराज
Cursor नामक एक प्रोग्रामिंग टूल कंपनी में हाल ही में ऐसा ही हुआ। कुछ ग्राहकों को उनके AI सपोर्ट बोट ने बताया कि Cursor अब सिर्फ एक कंप्यूटर पर काम करेगा। कुछ लोगों ने अपने अकाउंट को कैंसिल कर दिया क्योंकि वे इस जानकारी से इतना परेशान हो गए।
बाद में Reddit पर कंपनी के CEO माइकल ट्रुएल ने सफाई दी। उनका कहना था कि हमारी कोई ऐसी पॉलिसी नहीं है। यह फ्रंटलाइन आर्टिफिशियल इंटेलिजेंस बोट की गलत प्रतिक्रिया थी।’
AI में सुधार, लेकिन सच्चाई से दूर
आज ChatGPT, Google Gemini और अन्य AI टूल्स बहुत कुछ कर रहे हैं। जैसे कोड बनाना, ईमेल भेजना, रिपोर्ट बनाना और प्रश्नों का उत्तर देना लेकिन एक बड़ी समस्या है कि ये सिस्टम बिना किसी स्रोत से जानकारी बना लेते हैं या तथ्य गलत बताते हैं।
कुछ नवीनतम AI मॉडलों की जांच ने पाया कि वे 79% तक गलत जानकारी दे सकते हैं। “चाहे हम कितनी भी कोशिश करें, AI हमेशा थोड़ी बहुत गलतियां करता रहेगा,” आईटी एक्सपर्ट अमर अवदल्लाह ने इंडियन एक्सप्रेस को बताया। ये कभी पूरी तरह से नहीं रुकेंगी.’
कहां गलत जानकारी खतरनाक होती है?
किसी फिल्म या रेसिपी की सिफारिश में AI की गलती शायद कोई फर्क नहीं पड़े। लेकिन नुकसान बहुत बड़ा हो सकता है अगर वही गलती कोर्ट केस, मेडिकल रिपोर्ट या बिजनेस डेटा में हो जाए।
Google और Bing जैसे सर्च इंजनों में AI भी अक्सर गलत जवाब देते हैं जो या तो कोई असली स्रोत नहीं होता या पूरी तरह गलत होते हैं। उदाहरण के लिए, अगर किसी से पूछा जाए कि वेस्ट कोस्ट में कौन-सी मैराथन सबसे अच्छी है, तो वह फिलाडेल्फिया की दौड़ बता सकता है क्योंकि यह ईस्ट कोस्ट में है।
भरोसे से पहले भी जांच होनी चाहिए
लेकिन AI हमारे जीवन को आसान बना रहा है, अंधे भरोसे से काम नहीं चलेगा। इंसानी दिमाग की जांच अभी भी बहुत महत्वपूर्ण है, खासकर मेडिकल, लीगल या संवेदनशील डेटा के मामले में। सावधान रहना सबसे अच्छा उपाय है जब तक AI नहीं समझ पाता कि “सच क्या है और झूठ क्या”।
For more news: Technology