डोनाल्ड ट्रंप की मौत की झूठी खबर ने AI खोज उपकरणों को किया प्रभावित

डोनाल्ड ट्रंप की झूठी मौत की खबर

एक झूठी ऑनलाइन खबर के अनुसार, अमेरिकी राष्ट्रपति डोनाल्ड ट्रंप की मौत रेबीज से हुई है, जिसे कुछ AI-संचालित खोज उपकरणों ने उद्धृत किया है। इंटरनेट उपयोगकर्ताओं ने जानबूझकर इस गलत कहानी को फैलाया ताकि यह परीक्षण किया जा सके कि क्या कृत्रिम बुद्धिमत्ता प्रणाली इसे तथ्य के रूप में मानती है। रिपोर्टों के अनुसार, डकडकगो के AI फीचर का उपयोग करते समय एक खोज ने यह उत्तर दिया कि ट्रंप इस महीने रेबीज से मर गए, जबकि यह दावा पूरी तरह से गलत था। यह उत्तर बिना किसी चेतावनी या स्पष्टीकरण के प्रस्तुत किया गया।

रिपोर्टों के अनुसार, यह दावा एक नकली स्थानीय समाचार-शैली की वेबसाइट "WKNA 49" से उत्पन्न हुआ, साथ ही Reddit समुदाय r/poisonai के सदस्यों द्वारा किए गए पोस्टों के साथ। यह सबरेडिट खुद को एक ऐसा स्थान बताता है जहां उपयोगकर्ता जानबूझकर झूठी जानकारी ऑनलाइन फैलाते हैं ताकि यह परीक्षण किया जा सके कि क्या AI प्रणाली इसे तथ्य के रूप में दोहराती है।

रिपोर्टों के अनुसार, डकडकगो का AI इस नकली वेबसाइट की जानकारी को ओहियो में एक असंबंधित रेबीज मौत के बारे में एक वास्तविक ABC न्यूज रिपोर्ट के साथ मिला दिया। ABC न्यूज के लेख में डोनाल्ड ट्रंप का उल्लेख नहीं था।

फिर भी, AI प्रणाली ने दोनों स्रोतों को एकल कथा में मिला दिया, जिससे एक ऐसा उत्तर उत्पन्न हुआ जिसे आलोचकों ने झूठा लेकिन प्रामाणिक दिखने वाला बताया। रिपोर्टों में यह भी कहा गया है कि ब्रेव के AI खोज उपकरणों ने पहले इसी Reddit समुदाय से उत्पन्न झूठे दावों को दोहराया था। उस पहले के मामले पर प्रतिक्रिया देते हुए, ब्रेव ने कहा: "खोज इंजन, AI के साथ या बिना, सत्य के ओरेकल नहीं हैं।" इस घटना ने इस बारे में चर्चा को फिर से जीवित कर दिया है कि AI खोज प्रणाली जानकारी को कैसे प्राप्त और संक्षेपित करती है, विशेष रूप से जब नकली सामग्री वैध समाचार रिपोर्टों के साथ दिखाई देती है। शोधकर्ताओं ने लंबे समय से चेतावनी दी है कि AI प्रणाली विश्वसनीय स्रोतों को जानबूझकर भ्रामक सामग्री से अलग करने में विफल होने पर विश्वसनीय लेकिन गलत उत्तर उत्पन्न कर सकती है।