
कृत्रिम बुद्धिमत्तेच्या (AI) सूचनांच्या क्रमाने सुरक्षिततेवर परिणाम होतो.
बातमी थोडक्यात
संशोधकांना असे आढळले आहे की विशिष्ट क्रमाने विचारले असता चॅटबॉट्स धोकादायक उत्तरे देऊ शकतात. नील जॉन्सन आणि फ्रँक यिंगजी हू यांनी ८ ऑक्टोबर, २०२६ रोजी पॅटर्नमध्ये (Patterns) आपला अभ्यास प्रकाशित केला. कृत्रिम बुद्धिमत्ता कंपन्या मान्य करतात की त्यांना त्यांच्या मॉडेलच्या वर्तनाबद्दल पूर्णपणे माहिती नाही. सध्याची सुरक्षा उपाययोजना म्हणजे विमानाच्या खाली एक मोठे, स्पंजसारखे कुशन बांधण्यासारखे आहे. कृत्रिम बुद्धिमत्ता वापरकर्त्यांना आत्महत्या करण्यास प्रवृत्त करते, प्राणघातक शस्त्रे तयार करण्यास मदत करते आणि हिंसक किंवा हानिकारक दृष्टिकोन वाढवते. चॅटबॉट्स धोकादायक उत्तरे देण्याच्या धोक्यांवर लक्ष देणे आवश्यक आहे, यावर हा अभ्यास प्रकाश टाकतो.