സ്ത്രീകളുടെയും കുട്ടികളുടെയും അശ്ലീല ചിത്രങ്ങൾ നിർമ്മിക്കാൻ എഐ ദുരുപയോഗം ചെയ്തതിന് സമൂഹമാധ്യമമായ എക്സിന് കേന്ദ്ര ഐടി മന്ത്രാലയം നോട്ടീസയച്ചു. എഐ ചാറ്റ്ബോട്ടായ ഗ്രോക്ക് ഉപയോഗിച്ച് ലൈംഗിക ഉള്ളടക്കം സൃഷ്ടിക്കുന്നത് വ്യാപകമായതിനെ തുടർന്നാണ് നടപടി.
ദില്ലി: വിവാദ എഐ ഇമേജ് എഡിറ്റുകളിൽ സമൂഹമാധ്യമായ എക്സിന് നോട്ടീസയച്ച് കേന്ദ്ര ഐടി മന്ത്രാലയം. സ്ത്രീകളുടെയും കുട്ടികളുടെയും അടക്കം ചിത്രങ്ങൾ എക്സിലെ എഐ ചാറ്റ്ബോട്ടായ ഗ്രോക്കുപയോഗിച്ച് മോശം രീതിയിൽ എഡിറ്റ് ചെയ്യുന്നത് വ്യാപകമായിരുന്നു. ലൈംഗീക ചുവയുള്ള രീതിയിൽ കുട്ടികളുടെയടക്കം ചിത്രങ്ങൾ എഐ എഡിറ്റ് ചെയ്തിട്ടും അത് നിയന്ത്രിക്കാനോ നീക്കം ചെയ്യാൻ എക്സ് ഒരു ശ്രമം നടത്തിയിരുന്നില്ല. എഐ ദുരുപയോഗത്തിനെതിരെ വ്യാപക വിമർശനം ഉയരുന്നതിനിടെയാണ് കേന്ദ്ര നീക്കം. എഴുപത്തിരണ്ട് മണിക്കൂറിനകം നടപടിയെടുത്ത് മറുപടി നൽകണമെന്നാണ് നിർദ്ദേശം.
2000-ലെ ഇൻഫർമേഷൻ ടെക്നോളജി ആക്ടും 2021-ലെ ഐടി നിയമങ്ങളും പ്രകാരമുള്ള നിയമപരമായ ജാഗ്രത പാലിക്കുന്നതിൽ പരാജയപ്പെട്ടുവെന്ന് ചൂണ്ടിക്കാട്ടിയാണ് ഇലക്ട്രോണിക്സ് ആൻഡ് ഇൻഫർമേഷൻ ടെക്നോളജി മന്ത്രാലയം എക്സിന് നോട്ടീസ് നൽകിയത്. സ്ത്രീകളെ ലക്ഷ്യം വച്ചുള്ള അശ്ലീലവും ലൈംഗികതയും പ്രകടമാക്കുന്നതുമായ ഉള്ളടക്കം സൃഷ്ടിക്കുന്നതിനും പങ്കിടുന്നതിനും എക്സിന്റെ എഐ സേവനമായ ഗ്രോക് ദുരുപയോഗം ചെയ്യപ്പെടുന്നുണ്ടെന്ന റിപ്പോർട്ടുകളിൽ മന്ത്രാലയം കടുത്ത ആശങ്ക പ്രകടിപ്പിച്ചു.
ഗ്രോക് ഉപയോഗിച്ച് ഉപയോക്താക്കൾ സിന്തറ്റിക് ഇമേജുകളും വീഡിയോകളും സൃഷ്ടിച്ച് അവഹേളിക്കുന്ന രീതിയിൽ സ്വകാര്യതയും അന്തസ്സും ലംഘിച്ചുവെന്ന് കത്തിൽ കുറ്റപ്പെടുത്തി. നിയമവിരുദ്ധമായ ഉള്ളടക്കം സൃഷ്ടിക്കുന്നത് തടയുന്നതിനായി ഗ്രോക്കിന്റെ സാങ്കേതിക, ഭരണ ചട്ടക്കൂടുകളുടെ സമഗ്രമായ അവലോകനം നടത്താൻ മന്ത്രാലയം നിർദ്ദേശം നൽകി. തെളിവുകൾ നശിപ്പിക്കാതെ കുറ്റകരമായ ഉള്ളടക്കങ്ങൾ ഉടനടി നീക്കം ചെയ്യണമെന്നും ആവശ്യപ്പെട്ടു. സ്ത്രീ സുരക്ഷയ്ക്കായി എക്സിന്റെ എഐ ആപ്പുകളിൽ സുരക്ഷാ സംവിധാനങ്ങൾ ഉൾപ്പെടുത്തിയിട്ടുണ്ടെന്ന് ഉറപ്പാക്കാൻ കേന്ദ്രത്തിന്റെ ഇടപെടൽ വേണമെന്ന് ശിവസേന (യുബിടി) എംപി പ്രിയങ്ക ചതുർവേദി ആവശ്യപ്പെട്ടിരുന്നു. പിന്നാലെയാണ് നടപടി.
