चरण · AI है क्या चीज़
07हैलुसिनेशन
वो पूरे भरोसे से ग़लत बोल सकती है। ये बग नहीं, उसकी फ़ितरत है
शब्द अजीब है, पर मामला सिंपल: AI कभी-कभी चीज़ें गढ़ लेती है और पूरे भरोसे से परोसती है। लिंक, जो है ही नहीं। फ़ंक्शन, जो एक्ज़िस्ट नहीं करता। क़ीमत, जो हवा से उठाई।
ये न ख़राबी है, न बदनीयती। याद करो वो बनी कैसे है: उसका काम है टेक्स्ट को विश्वसनीय ढंग से आगे बढ़ाना। आमतौर पर विश्वसनीय सच से मेल खाता है। कभी-कभी नहीं खाता।
इसका क्या करें - तीन नियम, जो लगभग सब कुछ ढक लेते हैं।
जो फ़ैक्ट आसानी से जाँचे जा सकते हैं, जाँचो। क़ीमतें, वर्ज़न, लिंक, नाम। खोला और देख लिया - दस सेकंड।
कोड की जाँच रन करना है। उससे बहस मत करो कि कोड चलता है या नहीं। चला लो। नहीं चलता - उसे पूरी एरर दिखाओ, वो ठीक कर देगी।
टॉपिक जितना ताज़ा, उतनी सावधानी। मॉडल किसी तारीख़ तक ट्रेन हुआ था। जो कल निकला है, उसके बारे में वो भरोसे के साथ बकवास सुना सकती है। यहाँ इंटरनेट सर्च मदद करता है - ज़्यादातर AI में है, बस देखने को कह दो।
और उससे ये कहने से मत डरो कि 'ये सच नहीं है, चेक करो'। वो बुरा नहीं मानेगी और आमतौर पर सुधर जाएगी।