ગ્રોક AIના દુરુપયોગ પર કેન્દ્ર સરકારની કાર્યવાહી

કેન્દ્રના ઈલેક્ટ્રોનિક્સ અને આઈટી મંત્રાલય (MeitY)એ ઈલોન મસ્કના એક્સ (પહેલાં ટ્વિટર) પ્લેટફોર્મને ગ્રોક AIના દુરુપયોગ અંગે કડક નોટિસ ફટકારી છે. મંત્રાલયે એક્સને આદેશ આપ્યો છે કે અશ્લીલ, નગ્નતા દર્શાવતું, જાતીય અને ગેરકાયદેસર કન્ટેન્ટ તાત્કાલિક હટાવો અને ગ્રોકની તકનીકી તથા ગવર્નન્સ વ્યવસ્થાની સંપૂર્ણ સમીક્ષા કરો. આ માટે 72 કલાકમાં વિગતવાર એક્શન ટેકન રિપોર્ટ (ATR) સબમિટ કરવાનો આદેશ છે, નહીં તો IT એક્ટ અને રૂલ્સ હેઠળ કડક કાર્યવાહી કરવામાં આવશે.

આ નોટિસ 2 જાન્યુઆરી 2026ના રોજ જારી કરવામાં આવી છે. મંત્રાલયે જણાવ્યું છે કે ગ્રોક AIનો દુરુપયોગ કરીને યુઝર્સ ફેક એકાઉન્ટ્સ બનાવી મહિલાઓની તસવીરોને અશ્લીલ રીતે બદલીને (જેમ કે કપડાં ઘટાડીને અથવા નગ્નતા દર્શાવીને) ડીપફેક ઈમેજ બનાવી રહ્યા છે. આનાથી મહિલાઓની ગરિમા, પ્રાઈવસી અને સુરક્ષાનું ગંભીર ઉલ્લંઘન થઈ રહ્યું છે. કેટલાક કિસ્સાઓમાં બાળકોને પણ ટાર્ગેટ કરવામાં આવ્યા છે.

આ મુદ્દો રાજ્યસભા સાંસદ પ્રિયંકા ચતુર્વેદીએ ઉઠાવ્યો હતો. તેમણે આઈટી મંત્રી અશ્વિની વૈષ્ણવને પત્ર લખીને ગ્રોકના દુરુપયોગ અંગે તાત્કાલિક પગલાં લેવાની માંગ કરી હતી. નોટિસ જારી થયા પછી ચતુર્વેદીએ મંત્રીનો આભાર માન્યો છે અને કહ્યું કે આ પગલું મહિલાઓની ગરિમા અને સંમતિનું ઉલ્લંઘન કરતા કન્ટેન્ટ સામે મહત્વનું છે.

મંત્રાલયે એક્સને આદેશ આપ્યો છે કે:

• ગ્રોકની પ્રોમ્પ્ટ પ્રોસેસિંગ, આઉટપુટ જનરેશન અને સેફ્ટી ગાર્ડરેલ્સની તાત્કાલિક સમીક્ષા કરો.
• અશ્લીલ કન્ટેન્ટ હટાવો અને દોષિત યુઝર્સ/એકાઉન્ટ્સ સામે કાર્યવાહી કરો (સસ્પેન્ડ અથવા ટર્મિનેટ).
• પ્લેટફોર્મની ટર્મ્સ ઓફ સર્વિસ અને AI યુઝ પોલિસી કડક અમલ કરો.

જો એક્સ આમાં નિષ્ફળ જશે તો તેને IT એક્ટની સેક્શન 79 હેઠળની સેફ હાર્બર સુરક્ષા ગુમાવવાનો ભય છે, જેનાથી કંપનીને કાનૂની જવાબદારી ભોગવવી પડશે.

હાલના અપડેટ્સ (3 જાન્યુઆરી 2026 સુધી) એક્સ તરફથી હજુ સુધી આધિકારિક પ્રતિક્રિયા આવી નથી, પરંતુ ગ્રોકે કહ્યું છે કે તે MeitYના નિર્દેશોની સમીક્ષા કરી રહ્યું છે અને ગ્રોકના સેફગાર્ડ્સ વધારવા પર કામ કરી રહ્યું છે. આ મુદ્દો આંતરરાષ્ટ્રીય સ્તરે પણ ચર્ચામાં છે, જ્યાં ફ્રાન્સ અને યુકેમાં પણ ગ્રોકના દુરુપયોગ પર તપાસ ચાલી રહી છે. ભારતમાં આ પગલું ડીપફેક અને AI દુરુપયોગ સામેની મોટી કાર્યવાહી તરીકે જોવામાં આવી રહ્યું છે.