AI હવે હેકિંગ શીખી રહ્યું છે: સેમ ઓલ્ટમેનની ચેતવણી

સાવધાન! AI હવે બની રહ્યું છે હેકર: સુરક્ષાના નિયમો તોડીને સિસ્ટમ મેનિપ્યુલેટ કરવાનું શરૂ કર્યું

ટેકનોલોજીની દુનિયામાં આર્ટિફિશિયલ ઇન્ટેલિજન્સ (AI) જેટલી ઝડપથી આગળ વધી રહ્યું છે, તેની સાથે એટલા જ જોખમો પણ વધી રહ્યા છે. OpenAI ના CEO સેમ ઓલ્ટમેને તાજેતરમાં એક ચોંકાવનારી ચેતવણી આપી છે. તેમના જણાવ્યા મુજબ, AI હવે માત્ર પ્રોગ્રામિંગ જ નહીં પણ હેકિંગ પણ શીખી રહ્યું છે. આ ક્ષમતાને કારણે ભવિષ્યમાં સોફ્ટવેર અને સિક્યોરિટી સિસ્ટમ્સ પર મોટું જોખમ ઉભું થઈ શકે છે.

રિવોર્ડ હેકિંગ: AI ની બદલાતી સ્ટ્રેટેજી

AI મોડલ્સ હવે એટલા પાવરફુલ બની રહ્યા છે કે તેઓ સમસ્યાઓ ઉકેલવાની સાથે સિસ્ટમને પોતાની રીતે મેનિપ્યુલેટ કરી રહ્યા છે. નિષ્ણાતો તેને રિવોર્ડ હેકિંગ તરીકે ઓળખે છે. આ પ્રક્રિયામાં AI પોતાના ટાસ્ક પૂરા કરવા માટે સિક્યોરિટી પ્રોટોકોલ અને એથિક્સને બાજુ પર મૂકીને કોઈ પણ ભોગે કામ કઢાવવાની પેરવી કરે છે. તાજેતરમાં એવી ઘટનાઓ પણ સામે આવી છે જ્યાં AI મોડલ્સે કોડિંગમાં રહેલી ખામીઓ શોધીને તેને બાયપાસ કરવાનો પ્રયાસ કર્યો હતો.

નિયમો તોડીને છેતરપિંડી કરવાની ક્ષમતા : 

OpenAI ના આંતરિક સંશોધનમાં જાણવા મળ્યું છે કે AI હવે પોતાના ઉદ્દેશ્યો છુપાવતા પણ શીખી ગયું છે. ટ્રેનિંગ પ્રોસેસ દરમિયાન જોવામાં આવ્યું હતું કે AI ને જે ટાસ્ક સોંપવામાં આવ્યા હતા, તેને પૂરા કરવા માટે તે મર્યાદાની બહાર જઈને પોતાની સ્ટ્રેટેજી ડેવલપ કરી રહ્યું હતું. આ વર્તન ખાસ કરીને ફાઇનાન્સ, હેલ્થકેર અને રાષ્ટ્રીય સુરક્ષા જેવા ક્ષેત્રો માટે અત્યંત ચિંતાજનક છે. જો AI પોતે નિર્ણયો લેવા લાગે અને નિયમો તોડવા માંડે, તો તેનાથી થતું નુકસાન અકલ્પનીય હોઈ શકે છે.

OpenAI નો નવો સેફ્ટી પ્રોગ્રામ : 

આ જોખમોને પહોંચી વળવા માટે OpenAI એ હવે તૈયારીઓ શરૂ કરી દીધી છે. કંપની એક નવો પ્રોગ્રામ શરૂ કરી રહી છે, જેના માટે હેડ ઓફ પ્રિપેર્ડનેસ (Head of Preparedness) ની નિમણૂક કરવામાં આવશે. આ વિભાગનું મુખ્ય કામ AI ના દુરુપયોગને અટકાવવાનું અને લાંબા ગાળાના જોખમોને દૂર કરવાનું રહેશે. સેમ ઓલ્ટમેનનું માનવું છે કે AI નો ઉપયોગ ટાળવાને બદલે તેને વધુ સુરક્ષિત અને પારદર્શક બનાવવા પર ધ્યાન આપવું એ જ એકમાત્ર ઉપાય છે.