AIનો આ ઉપયોગ જોઈને Anthropic પણ ચોંકી ગયું! Claude સાથે શું થઈ રહ્યું હતું?

AI News: આર્ટિફિશિયલ ઇન્ટેલિજન્સના વધતા ઉપયોગ વચ્ચે AIના દુરુપયોગને લઈને મોટો ખુલાસો થયો છે. AI કંપની Anthropicના જણાવ્યા અનુસાર, તેના Claude AI મોડેલનો ઉપયોગ જૈવિક હથિયારો (Biological Weapons) સાથે જોડાયેલી જોખમી પ્રવૃત્તિઓ માટે કરવાનો પ્રયાસ થયો હતો. કંપનીએ શંકાસ્પદ એકાઉન્ટ્સ સામે કાર્યવાહી કરીને તેમને બંધ કરી દીધા છે.Anthropicના જણાવ્યા અનુસાર, આ વર્ષે Claude AIનો ઉપયોગ એવી વૈજ્ઞાનિક માહિતી મેળવવા માટે કરવાનો પ્રયાસ થયો હતો, જેનો દુરુપયોગ જોખમી જૈવિક એજન્ટો અને પેથોજેન્સ સાથે સંકળાયેલી પ્રવૃત્તિઓમાં થઈ શકે છે.

Claude AIથી ચિકનગુનિયા વાયરસમાં ફેરફાર કરવાનો પ્રયાસ

Anthropic દ્વારા સામે આવેલા સૌથી ગંભીર કિસ્સાઓમાંથી એક ચિકનગુનિયા વાયરસ સાથે જોડાયેલો છે.કંપનીના જણાવ્યા અનુસાર, મે મહિનામાં એક વૈજ્ઞાનિકે ચિકનગુનિયા વાયરસના જીનોમમાં ફેરફાર કરવા માટે Claude AIની મદદ લેવાનો પ્રયાસ કર્યો હતો. આ પ્રકારની પ્રવૃત્તિ વાયરસની ગંભીરતા વધારવાના જોખમ સાથે જોડાયેલી હોઈ શકે છે.Anthropicએ જણાવ્યું કે આ પ્રવૃત્તિ સાથે જોડાયેલી સંસ્થા એક વિદેશી લશ્કરી સંશોધન કેન્દ્ર હોવાનું તપાસમાં સામે આવ્યું હતું. કંપનીની સુરક્ષા પ્રણાલીએ આ પ્રવૃત્તિને શંકાસ્પદ ગણીને તેને અટકાવવા માટે કાર્યવાહી કરી હતી.

AIથી જૈવિક હથિયારો બનાવવાનો ખતરો કેમ વધ્યો?

AIની સૌથી મોટી ખાસિયત એ છે કે તે જટિલ વૈજ્ઞાનિક માહિતી સમજવામાં અને વિશ્લેષણ કરવામાં મદદ કરી શકે છે. પરંતુ આ ક્ષમતાનો ખોટો ઉપયોગ પણ થઈ શકે છે.જૈવિક સંશોધનના કિસ્સામાં આ પડકાર વધુ ગંભીર છે. કોઈ માહિતીનો ઉપયોગ એક તરફ રસી, દવા અને રોગની સારવાર માટે થઈ શકે છે, જ્યારે બીજી તરફ તેનો દુરુપયોગ જોખમી જૈવિક એજન્ટો સાથે સંકળાયેલી પ્રવૃત્તિઓ માટે પણ થઈ શકે છે.Anthropicના થ્રેટ ઇન્ટેલિજન્સ વિભાગના વડા જેકબ ક્લેઈનના જણાવ્યા અનુસાર, વૈજ્ઞાનિક સંશોધન અને દૂષિત ઈરાદા વચ્ચેનો તફાવત ઓળખવો ઘણી વખત મુશ્કેલ બને છે.

AIની Dual-Use Technology શું છે?

આ સમગ્ર મામલામાં Dual-Use AI Technology મહત્વનો મુદ્દો છે. તેનો અર્થ એ છે કે એક જ AI ક્ષમતાનો ઉપયોગ સારા તેમજ નુકસાનકારક બંને હેતુ માટે થઈ શકે છે.માઇક્રોબાયોલોજિસ્ટ ડૉ. સુસાન મોનારેઝે ચેતવણી આપી છે કે અદ્યતન AI સિસ્ટમો લોકોને જટિલ વૈજ્ઞાનિક કાર્યોમાં મદદ કરી શકે છે. તેથી જોખમી પેથોજેન્સ અને સંવેદનશીલ જૈવિક સંશોધન સાથે જોડાયેલી AI પ્રવૃત્તિઓ પર સુરક્ષા, નિયમન અને દેખરેખ જરૂરી બની રહી છે.

AIનો ઉપયોગ મિસાઇલ અને ડ્રોન માટે પણ?

Anthropicએ માત્ર જૈવિક હથિયારો સાથે જોડાયેલી પ્રવૃત્તિઓ જ નહીં, પરંતુ મિસાઇલ, બોમ્બ, પરંપરાગત હથિયારો અને ડ્રોન સિસ્ટમ્સ સાથે જોડાયેલા શંકાસ્પદ કિસ્સાઓનો પણ ઉલ્લેખ કર્યો છે.

કંપનીના જણાવ્યા અનુસાર, ચીન સાથે જોડાયેલા ત્રણ કિસ્સામાં મિસાઇલ, પરંપરાગત હથિયારો અને બોમ્બની ડિઝાઇન માટે સોફ્ટવેર વિકસાવવાના પ્રયાસો સામે આવ્યા હતા.

રશિયા સાથે જોડાયેલા બે કેસમાં ચૂંટણી સંબંધિત ખોટી માહિતી તૈયાર કરવા અને ઘાતક હથિયારોની ડિઝાઇન સાથે સંકળાયેલી પ્રવૃત્તિઓનો ઉલ્લેખ કરવામાં આવ્યો છે.

યમનમાં ઈરાન સમર્થિત હુતી નેટવર્ક સાથે જોડાયેલા એક કિસ્સામાં ડ્રોન અને મિસાઇલ સિસ્ટમ માટે સોફ્ટવેર કોડ તૈયાર કરવાનો પ્રયાસ થયો હોવાનું Anthropicએ જણાવ્યું છે.

Anthropicએ Claude AIના એકાઉન્ટ્સ કર્યા બંધ

Anthropicનું કહેવું છે કે કંપનીની સુરક્ષા વ્યવસ્થા આવી શંકાસ્પદ પ્રવૃત્તિઓ પર નજર રાખી રહી છે. કંપનીએ જોખમી ઉપયોગ સાથે જોડાયેલા કેટલાક Claude AI એકાઉન્ટ્સ કાયમી ધોરણે બંધ કર્યા છે.સાથે જ, શંકાસ્પદ પ્રવૃત્તિ સાથે જોડાયેલા કેટલાક IP એડ્રેસને પણ બ્લોક કરવામાં આવ્યા હોવાનું કંપનીએ જણાવ્યું છે.

AI સુરક્ષા સામે હવે મોટો પડકાર

આ કિસ્સાઓ દર્શાવે છે કે AIની વધતી ક્ષમતાઓ સાથે તેના દુરુપયોગનું જોખમ પણ વધી રહ્યું છે. AIનો ઉપયોગ હવે માત્ર કન્ટેન્ટ, ચેટબોટ અથવા સોફ્ટવેર સહાય પૂરતો મર્યાદિત નથી રહ્યો.

જૈવિક સંશોધન, સાયબર સુરક્ષા અને લશ્કરી ટેક્નોલોજી જેવા સંવેદનશીલ ક્ષેત્રોમાં AIના ઉપયોગને કારણે AI Safety, નિયમન, જોખમની ઓળખ અને માનવ દેખરેખ વધુ મહત્વપૂર્ણ બની રહ્યા છે.

Anthropicની કાર્યવાહી એ પણ દર્શાવે છે કે AI કંપનીઓ માટે શંકાસ્પદ ઉપયોગને સમયસર ઓળખવો અને જોખમી પ્રવૃત્તિ અટકાવવી હવે AI સુરક્ષાનો મહત્વનો ભાગ બની ગયો છે.