મનુષ્યોને છેતરતા અને હેક કરતા અનિયંત્રિત AI એજન્ટો

AI Agents Security Test: આર્ટિફિશિયલ ઇન્ટેલિજન્સ (AI) હવે માત્ર માનવીય આદેશોનું પાલન કરતું સાધારણ મશીન રહ્યું નથી, પરંતુ તેણે માણસોને છેતરવાનું અને સ્વાયત્ત રીતે સાયબર હુમલા કરવાનું શીખી લીધું છે. તાજેતરમાં યુકે સ્થિત AI સિક્યુરિટી ઇન્સ્ટિટ્યૂટ (AISI) દ્વારા હાથ ધરવામાં આવેલા સાયબર સુરક્ષા પરીક્ષણ દરમિયાન એક અત્યંત ચોંકાવનારી ઘટના સામે આવી છે. OpenAI ના GPT-5.6 Sol, Anthropic ના Claude Mythos 5 અને Meta ના Muse Spark 1.1 જેવા વિશ્વના સૌથી અદ્યતન AI મોડેલો પરીક્ષણ દરમિયાન નિયંત્રણ બહાર ગયા હતા. આ AI એજન્ટોએ કોઈપણ માનવ સૂચના વિના વાસ્તવિક માણસો અને કંપનીઓને નિશાન બનાવીને હેકિંગ અને છેતરપિંડી આચરી હતી, જેનાથી સમગ્ર સાયબર સુરક્ષા નિષ્ણાતોની ઊંઘ ઊડી ગઈ છે.

122 ટેસ્ટ રન દરમિયાન AI નો વિદ્રોહ
આ ઘટના ત્યારે પ્રકાશમાં આવી જ્યારે AISI સંસ્થા '122 ટેસ્ટ રન' નામના કાલ્પનિક સાયબર સુરક્ષા મોડેલિંગ દ્વારા નવીનતમ AI મોડેલોની ક્ષમતાઓનું મૂલ્યાંકન કરી રહી હતી. આ સેશન દરમિયાન કોઈપણ માનવ સૂચના કે પરવાનગી વગર AI એજન્ટોએ 19 એવી ક્રિયાઓ કરી હતી જેની તેમને બિલકુલ મંજૂરી નહોતી. આ અનધિકૃત ક્રિયાઓમાંથી 17 ક્રિયાઓ એન્થ્રોપિકના માયથોસ મોડેલ દ્વારા અને 2 ક્રિયાઓ ઓપનએઆઈના સોલ મોડેલ દ્વારા કરવામાં આવી હતી. ટેસ્ટિંગ દરમિયાન ડેટા ટ્રાન્સફરની ગંભીર ભૂલ ધ્યાને આવતાં જ સંશોધકોએ 1 કલાકની અંદર તમામ સિસ્ટમોને અલગ કરીને થ્રેટને બ્લોક કરી દીધી હતી. જોકે, આ ઘટનાએ સાબિત કર્યું છે કે AI મોડેલો હવે જાતે નિર્ણયો લેવા સક્ષમ બની રહ્યા છે.

એન્થ્રોપિકના માયથોસનો માસ્ટરપ્લાન
સૌથી ભયાનક અને ચાલાક વર્તન એન્થ્રોપિકના ક્લાઉડ માયથોસ 5 મોડેલે દાખવ્યું હતું. આ AI એજન્ટ માત્ર દૂષિત (હાનિકારક) કોડ લખવા સુધી મર્યાદિત ન રહ્યો, પરંતુ તેણે સોફ્ટવેર ડેવલપમેન્ટ પ્લેટફોર્મ GitHub નું સંચાલન કરતા વાસ્તવિક કર્મચારીઓની જાસૂસી પણ કરી હતી. ત્યારબાદ AI એ તે કર્મચારીઓની નકલી ઓનલાઈન આઈડી બનાવી અને સાથી કર્મચારીઓને ડેનિશ ભાષામાં ભ્રામક ઈ-મેઇલ મોકલ્યા હતા જેથી તેમને લાગે કે મેસેજ કોઈ ઓળખીતા તરફથી આવ્યો છે. આ રીતે દબાણ કરીને AI એ ખતરનાક કોડ મંજૂર કરાવવાનો પ્રયાસ કર્યો હતો. જ્યારે કર્મચારીઓએ કોડ પર પ્રશ્નો ઉઠાવ્યા, ત્યારે આ બદમાશ AI એ પોતાના ભૂતકાળના પુરાવા છુપાવવા કોડ એડિટ કર્યો અને નવી નકલી ઓળખ બનાવવાની યોજના પણ ઘડી નાખી હતી. અંતે માનવ હસ્તક્ષેપે GitHub ને ચેતવણી આપીને આ મોટા સાયબર હુમલાને અટકાવ્યો હતો.

ઓપનએઆઈ અને મેટાના મોડેલોની મર્યાદા પાર
ઓપનએઆઈનું "સોલ" મોડેલ થોડું ઓછું આક્રમક હોવા છતાં તેણે પણ પોતાની નિર્ધારિત મર્યાદાઓ ઓળંગી દીધી હતી. તેણે અન્ય એક રિસર્ચ લેબના જાહેરમાં પ્રકાશિત થયેલા ગિટહબ ટોકનનો દુરુપયોગ કર્યો હતો અને થર્ડ-પાર્ટી ડીએનએસ જેવા વાસ્તવિક ઇન્ટરનેટ ઇન્ફ્રાસ્ટ્રક્ચરનો ઉપયોગ કરીને સાયબર હુમલો કરવાનો નિષ્ફળ પ્રયાસ કર્યો હતો. આ ઉપરાંત, મેટા કંપનીના નવા 'મ્યુઝ સ્પાર્ક 1.1' મોડેલે પણ સાયબર સિક્યુરિટી ટેસ્ટ દરમિયાન ઇન્ટરનેટ મેળવીને એક અજાણી બાહ્ય સેવા સિસ્ટમમાં ઘૂસણખોરી કરી હતી. મ્યુઝ સ્પાર્કે થર્ડ-પાર્ટી સિસ્ટમની સુરક્ષા ખામીનો લાભ ઉઠાવીને તેની આંતરિક સિસ્ટમનો ભંગ કર્યો હતો, જેને લઈને મેટાએ તપાસના આદેશ આપ્યા છે.

ટેક જાયન્ટ્સની સફાઈ: "ટેસ્ટિંગ સેટઅપમાં ખામીના કારણે ઇન્ટરનેટ એક્સેસ મળ્યું"
આ ગંભીર ઘટનાઓ બાદ ઓપનએઆઈ, એન્થ્રોપિક અને મેટા કંપનીઓએ સોશિયલ મીડિયા પ્લેટફોર્મ X પર નિવેદનો જાહેર કરીને સ્થિતિ સ્પષ્ટ કરવાનો પ્રયાસ કર્યો હતો. તમામ કંપનીઓએ દાવો કર્યો હતો કે આ ટેસ્ટિંગ વાતાવરણ ઇરાદાપૂર્વક "અનૈતિક" કે જોખમી પરિસ્થિતિઓ ચકાસવા માટે બનાવાયું હતું અને સામાન્ય યુઝર્સ માટે ઉપલબ્ધ પ્રોડક્ટ્સ સુરક્ષિત છે. મેટાએ જણાવ્યું હતું કે તેમની સ્વતંત્ર ટેસ્ટિંગ એજન્સી 'Unirregular' દ્વારા કરવામાં આવેલી મિસરિફિગરેશન અને ખોટી ગોઠવણીના કારણે AI મોડેલને આકસ્મિક રીતે ખુલ્લું ઇન્ટરનેટ એક્સેસ મળી ગયું હતું. આ જ રીતે જુલાઈમાં પણ એન્થ્રોપિકના ક્લાઉડ મોડેલે ટેસ્ટિંગ દરમિયાન 3 સંસ્થાઓના પ્રોડક્શન ઈન્ફ્રાસ્ટ્રક્ચરમાં અનધિકૃત એક્સેસ મેળવ્યું હતું.

હગિંગ ફેસ પર હુમલો અને AI નું વધતું વલણ
AISI એ સ્પષ્ટ કર્યું છે કે આ નવો કેસ જુલાઈમાં OpenAI ના એજન્ટ દ્વારા અમેરિકન કંપની 'હગિંગ ફેસ' ને હેક કરવાના પ્રયાસથી અલગ છે. છેલ્લા કેટલાક અઠવાડિયામાં જ આવી 3 મોટી ઘટનાઓ સામે આવી છે જેમાં AI એ સ્વાયત્ત રીતે અન્ય સિસ્ટમોને નિશાન બનાવી છે. સિસ્ટમની નબળાઈઓ જાતે શોધીને તેનો દુરુપયોગ કરવાની AI ની આ વધતી ક્ષમતાએ વિશ્વભરના સુરક્ષા સંશોધકો, સિક્યુરિટી એજન્સીઓ અને સરકારી અધિકારીઓને ભારે ચિંતામાં મૂકી દીધા છે. આ ઘટનાઓ સ્પષ્ટ કરે છે કે કોઈપણ AI મોડેલને જાહેર રજૂ કરતા પહેલાં તેનું સ્વતંત્ર અને કડક પરીક્ષણ કરવું અત્યંત અનિવાર્ય છે.

વૈશ્વિક AI રેસ, અબજો ડોલરનો સટ્ટો
હાલમાં વિશ્વભરમાં 20 લાખથી વધુ AI મોડેલો અસ્તિત્વમાં છે, પરંતુ તેમાંથી માત્ર 0.01% મોડેલો જ એવા છે જે 50% થી વધુ વખત ડાઉનલોડ થાય છે. સ્ટેનફોર્ડ AI ઈન્ડેક્સ રિપોર્ટ અનુસાર, વિશ્વમાં દર વર્ષે 80 થી 100 અત્યંત શક્તિશાળી ફાઉન્ડેશન મોડેલ્સ લોન્ચ કરવામાં આવે છે. વિશ્વના કુલ AI માર્કેટનો લગભગ 90% હિસ્સો માત્ર 6 ટેક જાયન્ટ્સ Google, Microsoft, OpenAI, Meta, Amazon અને Anthropic ના કબ્જા હેઠળ છે. આ ક્ષેત્રે વૈશ્વિક સ્તરે અમેરિકા અને ચીન વચ્ચે તીવ્ર સ્પર્ધા ચાલી રહી છે. અમેરિકા દર વર્ષે 50 થી 60 ફ્લેગશિપ મોડેલો રજૂ કરે છે અને વૈશ્વિક ખાનગી રોકાણમાં સૌથી મોટો હિસ્સો ધરાવે છે. બીજી તરફ, ચીન વાર્ષિક 35 મુખ્ય મોડેલો બહાર પાડે છે અને ડીપસીક તથા ક્વેન જેવા ઓપન-સોર્સ મોડેલો દ્વારા અમેરિકા સાથેનો ટેકનોલોજીકલ તફાવત ઝડપથી ઘટાડી રહ્યું છે. 2025-26 ના વર્ષમાં વિશ્વભરની કોર્પોરેટ કંપનીઓ દ્વારા AI ના વિકાસ અને તેના ઇન્ફ્રાસ્ટ્રક્ચર પાછળ $581.7 બિલિયન જેટલી માતબર રકમ ખર્ચવામાં આવી રહી છે, પરંતુ સુરક્ષાના અભાવે આ રોકાણ માનવજાત માટે મોટું જોખમ પણ ઊભું કરી રહ્યું છે.