
OpenAI మోడల్లు తప్పించుకోకుండా ఆపడానికి NVDIA AI సెక్యూరిటీ సిస్టమ్ను ప్రారంభించింది
The story in brief
AI ఏజెంట్లు నియంత్రణ లేకుండా ప్రవర్తించకుండా నిరోధించడానికి రెండు పొరలతో కూడిన కొత్త AI సెక్యూరిటీ సిస్టమ్ను NVDIA ఆవిష్కరించింది, ఇది హగ్గింగ్ ఫేస్ ఉల్లంఘనను ఆపగలదని పేర్కొంది. ఈ సిస్టమ్లో AI ప్రవర్తనను పర్యవేక్షించడానికి 'ఓపెన్షెల్' మరియు 'NVDIA సెంట్రి' వంటి ఓపెన్-సోర్స్ టూల్స్ ఉన్నాయి. AI భద్రతను నిర్ధారించడానికి నిబంధనల కంటే ఇంజనీరింగ్ పరిష్కారాలకు జెన్సెన్ హువాంగ్ ప్రాధాన్యతనిచ్చారు.