
एआय चॅटबॉट्सचा विश्वास धोक्याकडे वळतो
बातमी थोडक्यात
जॉर्ज वॉशिंग्टन युनिव्हर्सिटीतील दोन भौतिकशास्त्रज्ञांनी एआय चॅटबॉट्स कधी विश्वासार्हतेकडून धोकादायकतेकडे वळू शकतात हे भाकीत करण्यासाठी एक सूत्र विकसित केले आहे. अटेंशन हेड्सवर लक्ष केंद्रित करणारे हे सूत्र चाचण्यांमध्ये 19 पैकी 18 प्रकरणांचे योग्य वर्गीकरण करते. संशोधकांनी इशारा दिला आहे की ऑफलाइन चॅटबॉट्समध्ये क्लाउड-आधारित सुरक्षिततेचा अभाव असू शकतो, ज्यामुळे हानिकारक सल्ल्याबद्दल चिंता वाढते. त्याची परिणामकारकता निश्चित करण्यासाठी आणखी चाचणी आवश्यक आहे.