AIનો જવાબ સાચો હોવા છતાં નુકસાનકારક બની શકે! જોખમ ઓળખવા આવ્યું નવું સૂત્ર

AI Safety News: આર્ટિફિશિયલ ઇન્ટેલિજન્સ (AI) ચેટબોટ શરૂઆતમાં સચોટ અને ઉપયોગી જવાબો આપે, પરંતુ વાતચીત આગળ વધતાં અચાનક જોખમી સલાહ આપવા લાગે તો? વૈજ્ઞાનિકોએ આ બદલાવને અગાઉથી ઓળખવામાં મદદ કરી શકે એવું ગાણિતિક સૂત્ર વિકસાવ્યું છે. સાત ઓપન-વેઇટ AI મોડલ્સ પરના પરીક્ષણમાં આ પદ્ધતિએ 19માંથી 18 કિસ્સાઓમાં AIના જવાબોમાં આવતા જોખમી બદલાવની આગાહી કરી હતી. જોકે, આ પરિણામને તમામ AI ચેટબોટ્સ માટેની ગેરંટી માનવી યોગ્ય નથી. 

AIના સાચા જવાબો પણ કેમ બની શકે છે જોખમી?

આજના સમયમાં AI ચેટબોટ્સનો ઉપયોગ આરોગ્ય, કાયદો, શિક્ષણ, સંશોધન અને અન્ય અનેક ક્ષેત્રોમાં થઈ રહ્યો છે. પરંતુ AIનો જવાબ તથ્યાત્મક રીતે સાચો હોય એટલે તે દરેક પરિસ્થિતિમાં સલામત કે યોગ્ય જ હોય એવું નથી. ઉદાહરણ તરીકે, સંદર્ભની બહાર આપવામાં આવેલી સાચી માહિતી કોઈ દર્દીને ગેરમાર્ગે દોરી શકે છે અથવા સંવેદનશીલ પરિસ્થિતિમાં નુકસાનકારક નિર્ણય તરફ લઈ જઈ શકે છે. આથી AIની વિશ્વસનીયતા તપાસતી વખતે માત્ર જવાબ સાચો છે કે ખોટો તે જ નહીં, પરંતુ તેનો સંભવિત પ્રભાવ પણ સમજવો જરૂરી છે.

Patterns જર્નલમાં પ્રકાશિત થયું મહત્ત્વનું સંશોધન

જ્યોર્જ વોશિંગ્ટન યુનિવર્સિટીના સંશોધકો નીલ એફ. જોહ્ન્સન અને ફ્રેન્ક યિંગજી હુઓએ આ વિષય પર અભ્યાસ કર્યો છે. તેમનું સંશોધન Competition for attention predicts good-to-bad tipping in AI શીર્ષક હેઠળ 8 ઑક્ટોબર, 2026ના રોજ Patterns જર્નલમાં પ્રકાશિત થયું હતું. આ અભ્યાસમાં સંશોધકોએ AIના આંતરિક Attention Mechanism પર ધ્યાન કેન્દ્રિત કર્યું. સરળ શબ્દોમાં કહીએ તો, AI વાતચીતમાં અગાઉ શું કહેવામાં આવ્યું છે અને આગળ કયો જવાબ આપવો જોઈએ તેની પ્રક્રિયા દરમિયાન વિવિધ માહિતી પર કેટલું ધ્યાન આપે છે, તે તેના પ્રતિભાવને અસર કરી શકે છે. સંશોધકોએ આ પ્રક્રિયાના આધારે એવું ગાણિતિક સૂત્ર વિકસાવ્યું છે, જે AI ઉપયોગી જવાબોમાંથી અનિચ્છનીય અથવા જોખમી જવાબો તરફ ક્યારે વળી શકે છે તેનો અંદાજ લગાવવામાં મદદ કરે છે.

7 AI મોડલ્સ પર પરીક્ષણ, 19માંથી 18 કિસ્સામાં આગાહી

સંશોધકોએ ત્રણ અલગ-અલગ કંપનીઓનાં સાત ઓપન-વેઇટ AI મોડલ્સ પર આ પદ્ધતિનું પરીક્ષણ કર્યું હતું. અભ્યાસમાં નોંધાયેલા 19 કિસ્સાઓમાંથી 18માં સૂત્રએ AIના જવાબોમાં આવતા બદલાવની યોગ્ય આગાહી કરી હતી. આ પરિણામ AI Safety Research માટે આશાસ્પદ છે. તેમ છતાં, આ આંકડો મર્યાદિત પરીક્ષણ પર આધારિત છે. તેથી દરેક મોડલ, દરેક પ્રકારની વાતચીત અને દરેક જોખમી પરિસ્થિતિમાં સૂત્ર એટલું જ અસરકારક રહેશે એવું માનવું વહેલું ગણાશે.

ઑફલાઇન AIમાં જોખમ ઓળખવું કેમ મુશ્કેલ બની શકે?

ઇન્ટરનેટ સાથે જોડાયેલી કેટલીક AI સેવાઓમાં કંપનીઓ દ્વારા સુરક્ષા ફિલ્ટર્સ અને અન્ય દેખરેખની વ્યવસ્થાઓ લાગુ કરવામાં આવે છે. પરંતુ ઑફલાઇન ચાલતા AI મોડલ્સમાં આવી બાહ્ય દેખરેખ ઉપલબ્ધ ન પણ હોય. આ મુદ્દો ખાસ કરીને એવા વપરાશકર્તાઓ માટે મહત્ત્વનો છે, જેમને ગોપનીયતા અથવા નેટવર્કની મર્યાદાઓને કારણે સ્થાનિક ઉપકરણ પર AI ચલાવવાની જરૂર પડે છે. તેમાં સંવેદનશીલ દર્દીની માહિતી સાથે કામ કરતા ડૉક્ટરો, કાનૂની ગોપનીયતા જાળવતા વકીલો અને નબળા નેટવર્કવાળા વિસ્તારોમાં કામ કરતા સૈનિકોનો સમાવેશ થઈ શકે છે. જો AIનો જવાબ ધીમે ધીમે જોખમી બનતો જાય, તો અગાઉના સારા જવાબોને કારણે વપરાશકર્તા તેના પર વધુ વિશ્વાસ પણ કરી શકે છે. આથી જોખમના સંકેતોને વહેલા ઓળખવાની પદ્ધતિ ઉપયોગી બની શકે છે.

એક જ પ્રશ્નોનો ક્રમ બદલવાથી જવાબ પણ બદલાઈ શકે!

અભ્યાસમાં સામે આવેલી બીજી મહત્ત્વની બાબત એ છે કે AI સાથેની વાતચીતમાં પ્રશ્નો કયા ક્રમમાં પૂછવામાં આવે છે તે પણ પરિણામને અસર કરી શકે છે. સંશોધકોએ રસી, અન્ય લોકોને નુકસાન પહોંચાડવા અને સ્વ-નુકસાન જેવા સંવેદનશીલ વિષયો પર પ્રશ્નોના અલગ-અલગ ક્રમનું પરીક્ષણ કર્યું હતું. ક્રમ બદલાતાં AIના પ્રતિભાવોમાં પણ નોંધપાત્ર ફેરફાર જોવા મળ્યો હતો.  આથી AIની સુરક્ષા ચકાસતી વખતે એક જ પ્રશ્નનો જવાબ તપાસવો પૂરતો નથી. અગાઉની વાતચીત અને પ્રશ્નોના ક્રમથી જવાબો કેવી રીતે બદલાય છે તે પણ સમજવું જરૂરી છે.

શું આ ગાણિતિક સૂત્ર AIની ભૂલો અટકાવી શકશે?

આ સંશોધન ભવિષ્યમાં AI ચેટબોટ્સ માટે ચેતવણી આપતી સુરક્ષા વ્યવસ્થા વિકસાવવામાં મદદરૂપ થઈ શકે છે. જો AI જોખમી જવાબ તરફ વળે તે પહેલાં તેના સંકેતો ઓળખી શકાય, તો વધારાની ચકાસણી અથવા ચેતવણી આપવાની વ્યવસ્થા ઊભી કરવાની શક્યતા છે. પરંતુ આ સૂત્ર હાલમાં AIની તમામ ભૂલો અટકાવતું સંપૂર્ણ સુરક્ષા સાધન નથી. તેની વાસ્તવિક ઉપયોગિતા સમજવા માટે વધુ સ્વતંત્ર પરીક્ષણ અને અલગ-અલગ પરિસ્થિતિઓમાં મૂલ્યાંકન જરૂરી રહેશે. AIનો ઉપયોગ સતત વિસ્તરી રહ્યો છે ત્યારે માત્ર સ્માર્ટ નહીં, પરંતુ સુરક્ષિત અને જવાબદાર AI વિકસાવવું પણ એટલું જ જરૂરી છે. આ સંશોધન AIના જોખમી પ્રતિભાવોને અગાઉથી ઓળખવાની દિશામાં એક મહત્ત્વપૂર્ણ પગલું બની શકે છે.