AI એજન્ટ કાબૂ બહાર જાય તો શું થશે? NVIDIAએ કાઢ્યો નવો રસ્તો

NVIDIA Open Agent Safety Platform: Artificial Intelligence એટલે કે AI હવે માત્ર સવાલોના જવાબ આપતા ચેટબોટ સુધી સીમિત નથી. AI એજન્ટ હવે વેબસાઇટ ખોલી શકે છે, ફાઇલો વાંચી શકે છે, કોડ લખી શકે છે, સોફ્ટવેર ટૂલ્સનો ઉપયોગ કરી શકે છે અને માણસની સતત મંજૂરી વગર અનેક કાર્યો પૂર્ણ કરી શકે છે. પરંતુ AI એજન્ટ વધુ સ્વાયત્ત બનતા જાય તેમ તેની સુરક્ષા અને નિયંત્રણનો પ્રશ્ન પણ મહત્વનો બની રહ્યો છે. આ જ પડકારને ધ્યાનમાં રાખીને NVIDIAએ 28 સપ્ટેમ્બર 2026ના રોજ NVIDIA Open Agent Safety Platform રજૂ કર્યું છે. NVIDIA અનુસાર, આ પ્લેટફોર્મ AI એજન્ટને નક્કી કરેલી સુરક્ષા સીમામાં રાખવા માટે software અને hardware બંને સ્તરે સુરક્ષા આપવાનું લક્ષ્ય ધરાવે છે.

NVIDIA OpenShell શું છે?
NVIDIA OpenShell એક open-source secure runtime છે, જે AI એજન્ટને sandboxવાળા નિયંત્રિત વાતાવરણમાં ચલાવે છે. તેનો હેતુ AI એજન્ટને સમગ્ર કમ્પ્યુટર અથવા નેટવર્ક પર અનિયંત્રિત ઍક્સેસ આપવાને બદલે તેની કામગીરી માટે ચોક્કસ મર્યાદા નક્કી કરવાનો છે. OpenShell દ્વારા નક્કી કરી શકાય છે કે AI એજન્ટ કઈ ફાઇલો વાંચી શકે, કઈ ફાઇલોમાં ફેરફાર કરી શકે, કયા નેટવર્ક સુધી પહોંચી શકે અને કયા tools, processes અથવા credentialsનો ઉપયોગ કરી શકે. NVIDIA મુજબ આ security policies એજન્ટની બહારથી લાગુ કરવામાં આવે છે, જેથી AI એજન્ટ પોતે આ નિયંત્રણોને બદલી અથવા bypass કરી ન શકે.

Sentry શું છે અને AI એજન્ટને કેવી રીતે રોકશે?
NVIDIA Open Agent Safety Platformનો બીજો મહત્વનો ભાગ Sentry છે. તે NVIDIA BlueField-4 DPU પર ચાલતી અલગ hardware security layer તરીકે ડિઝાઇન કરવામાં આવ્યું છે. જો AI એજન્ટ પોતાની નક્કી કરેલી software security boundaryની બહાર જવાનો પ્રયાસ કરે, તો Sentry તેની પ્રવૃત્તિ પર નજર રાખી શકે છે અને જરૂરી કાર્યવાહી કરી શકે છે. NVIDIAનો દાવો છે કે એજન્ટને તેની મર્યાદા બહારની પ્રવૃત્તિથી millisecondsમાં quarantine કરી શકાય છે.

AI એજન્ટ માટે software security પૂરતી કેમ નથી?
AI એજન્ટને જ્યારે ફાઇલ, ઇન્ટરનેટ, કોડ, ડેટાબેઝ અને અન્ય software toolsની ઍક્સેસ મળે છે ત્યારે માત્ર AI મોડેલને safety instructions આપવી પૂરતી ન હોઈ શકે. NVIDIAનું નવું પ્લેટફોર્મ આ કારણે AI એજન્ટની બહારથી enforce થતી security boundaries પર ભાર મૂકે છે. તાજેતરની AI security ઘટનાઓ બાદ AI એજન્ટના નિયંત્રણ અને સુરક્ષા અંગે ચર્ચા વધી છે. Reutersના અહેવાલ મુજબ NVIDIAએ કહ્યું છે કે તેની નવી ટેક્નોલોજી તે સમયે ઉપયોગમાં હોત તો Hugging Face સાથે જોડાયેલા એક AI hacking incidentને રોકી શકાયો હોત. જોકે, આ NVIDIAનું પોતાનું મૂલ્યાંકન છે અને તેને સ્વતંત્ર રીતે સાબિત થયેલું પરિણામ માનવું યોગ્ય નથી.

NVIDIA Open Agent Safety Platformમાં શું ખાસ છે?
NVIDIA Open Agent Safety Platformમાં OpenShell software-level security અને Sentry hardware-level monitoringને સાથે લાવવામાં આવ્યા છે. NVIDIA મુજબ OpenShell વિવિધ hardware platforms પર ઉપયોગ કરી શકાય છે, જ્યારે BlueField-4 સાથે Sentry વધારાની hardware-isolated security layer આપે છે. AI એજન્ટનો ઉપયોગ software development, research, automation અને અન્ય ક્ષેત્રોમાં વધતો જાય તેમ AI security પણ મહત્વનો મુદ્દો બની રહ્યો છે. NVIDIAનું નવું AI safety platform AI એજન્ટને વધુ નિયંત્રિત અને સુરક્ષિત રીતે ચલાવવા માટે software તથા hardware બંને સ્તરે સુરક્ષા આપવાનો પ્રયાસ કરે છે.