એલોન મસ્કના આર્ટિફિશિયલ ઇન્ટેલિજન્સ ચેટબોટ 'Grok' દ્વારા અશ્લીલ અને આપત્તિજનક તસવીરો જનરેટ થવાના મામલે વૈશ્વિક સ્તરે હોબાળો મચી ગયો છે. 
ભારત સરકારે આ બાબતે અત્યંત કડક વલણ અપનાવતા 'X' પ્લેટફોર્મ પર દબાણ વધાર્યું હતું, જેના પરિણામે કંપનીએ અત્યાર સુધીમાં 3,500થી વધુ કન્ટેન્ટ પીસ બ્લોક કર્યા છે અને નિયમોનું ઉલ્લંઘન કરનારા 600થી વધુ એકાઉન્ટ્સને કાયમી ધોરણે ડિલીટ કરી દીધા છે.
ભારત સરકારના ઇલેક્ટ્રોનિક્સ અને આઇટી મંત્રાલય (MeitY)એ Grokના 'સ્પાઈસી મોડ' દ્વારા મહિલાઓ અને સગીરોની વાંધાજનક ડીપફેક તસવીરો બનાવવાની ક્ષમતા સામે સખત વાંધો ઉઠાવ્યો હતો. આઈટી નિયમો હેઠળ નોટિસ ફટકારીને સરકારે 72 કલાકનું અલ્ટીમેટમ આપ્યું હતું. 
તપાસમાં બહાર આવ્યું કે આ&nbsp;AI ટૂલનો ઉપયોગ કરીને 11 વર્ષ જેટલી નાની વયના બાળકોને નિશાન બનાવતી અશ્લીલ સામગ્રી પીરસવામાં આવી રહી હતી, જે ભારત સહિત યુકે, ઈન્ડોનેશિયા અને ફ્રાન્સ જેવા દેશોમાં પણ વિવાદનું કારણ બની છે.
બીજી તરફ, એલોન મસ્કે આ જવાબદારી યુઝર્સ પર ઢોળતા જણાવ્યું છે કે AI દ્વારા જનરેટ થતી ગેરકાયદે સામગ્રી માટે યુઝર્સ પોતે જવાબદાર રહેશે. જોકે, વૈશ્વિક નિયમનકારો આ તર્કને સ્વીકારવા તૈયાર નથી. 
બ્રિટિશ વડાપ્રધાન કાર્યાલય અને અન્ય દેશોએ મસ્કના આ વલણને પીડિતો માટે 'અપમાનજનક' ગણાવ્યું છે. હાલમાં 'X' એ ભારતીય કાયદાઓનું પાલન કરવાની ખાતરી આપી છે, પરંતુ એઆઈ ઇનોવેશન અને સુરક્ષા વચ્ચેના આ સંઘર્ષે ડિજિટલ દુનિયામાં નૈતિકતાના ગંભીર પ્રશ્નો ઉભા કર્યા છે.
આ કાર્યવાહી બાદ ટેક જગતમાં એક નવી ચર્ચા છેડાઈ છે કે શું માત્ર યુઝર્સને જવાબદાર ઠેરવવાથી સોશિયલ મીડિયા પ્લેટફોર્મ પોતાની જવાબદારીમાંથી મુક્ત થઈ શકે? ભારત સરકારના કડક વલણે સ્પષ્ટ સંકેત આપ્યો છે કે એઆઈ (AI) ના નામે કોઈપણ પ્લેટફોર્મ દેશની સુરક્ષા અને વ્યક્તિગત ગરિમા સાથે બાંધછોડ કરી શકશે નહીં. ભવિષ્યમાં આવા કિસ્સાઓ રોકવા માટે સરકાર હવે 'સેફ હાર્બર' સુરક્ષા હેઠળના નિયમોને વધુ ચુસ્ત બનાવવાની દિશામાં વિચારી રહી છે, જેનો સીધો અર્થ એ છે કે જો કંપનીઓ કન્ટેન્ટ ફિલ્ટર કરવામાં નિષ્ફળ જશે તો તેની સામે ફોજદારી ગુનો પણ નોંધી શકાશે.
&nbsp;

Grok AI પર દુનિયાભરમાં પ્રતિબંધનો ખતરો

ગ્રોક એઆઈ દ્વારા મહિલાઓની અશ્લીલ તસવીરો બનાવતા યુઝર્સ સામે મોટી કાર્યવાહી

January 11, 2026 | 16:35 IST