ഗ്രോക്ക് വഴി സൃഷ്ടിച്ച ലൈംഗികവും അശ്ലീലകരവുമായ ഉള്ളടക്കങ്ങള് 72 മണിക്കൂറിനകം നീക്കം ചെയ്ത് വിശദമായ റിപ്പോര്ട്ട് സമര്പ്പിക്കാന് എക്സ് കോര്പ്പറേഷന് ഇലക്ട്രോണിക്സ് ആന്ഡ് ഇന്ഫര്മേഷന് ടെക്നോളജി മന്ത്രാലയം അന്ത്യശാസനം നല്കിയിരുന്നു
ദില്ലി: സ്ത്രീകളുടെയും കുട്ടികളുടെയും ഫോട്ടോകള് ചാറ്റ്ബോട്ടായ ഗ്രോക്ക് എഐ ഉപയോഗിച്ച് അശ്ലീല ചിത്രങ്ങളും ഉള്ളടക്കങ്ങളുമാക്കി മാറ്റാന് ഉപയോക്താക്കളെ അനുവദിക്കുന്നതില് എക്സ് പ്ലാറ്റ്ഫോമിനെതിരെ ശക്തമായ നീക്കവുമായി കേന്ദ്ര സര്ക്കാര്. ഗ്രോക്ക് വഴി സൃഷ്ടിച്ച ലൈംഗികവും അശ്ലീലകരവുമായ ഉള്ളടക്കങ്ങള് 72 മണിക്കൂറിനകം നീക്കം ചെയ്ത് വിശദമായ റിപ്പോര്ട്ട് സമര്പ്പിക്കാന് എക്സ് കോര്പ്പറേഷന് ഇലക്ട്രോണിക്സ് ആന്ഡ് ഇന്ഫര്മേഷന് ടെക്നോളജി (MeitY) മന്ത്രാലയം രണ്ട് ദിവസങ്ങള്ക്ക് മുമ്പ് അന്ത്യശാസനം നല്കിയിരുന്നു. ഈ കാലാവധി അവസാനിക്കാനിരിക്കേ എക്സ് ഉടന് തന്നെ, സ്വീകരിച്ച നടപടികളെ കുറിച്ച് കേന്ദ്രത്തിന് റിപ്പോര്ട്ട് സമര്പ്പിക്കണം. 2000-ത്തിലെ ഐടി ആക്ട്, 2021-ലെ ഐടി റൂള്സ് എന്നിവയില് എക്സ് അധികൃതര് വീഴ്ച വരുത്തിയതായി കേന്ദ്രമയച്ച നോട്ടീസില് പറയുന്നു.
ദുരുപയോഗം ചെയ്യപ്പെടുന്ന ഗ്രോക്ക് എഐ
സ്ത്രീകളെയും കുട്ടികളെയും ലക്ഷ്യംവച്ചുള്ള അശ്ലീലവും ലൈംഗികത പ്രകടമാക്കുന്നതുമായ ഉള്ളടക്കം സൃഷ്ടിക്കുന്നതിനും പങ്കിടുന്നതിനും എക്സിന്റെ എഐ സേവനമായ ഗ്രോക്ക് വ്യാപകമായി ദുരുപയോഗം ചെയ്യപ്പെടുന്നുണ്ടെന്ന റിപ്പോർട്ടുകളിൽ ഇലക്ട്രോണിക്സ് ആന്ഡ് ഇന്ഫര്മേഷന് ടെക്നോളജി മന്ത്രാലയം കടുത്ത ആശങ്ക പ്രകടിപ്പിച്ചു. ഗ്രോക്കിന്റെ എഐ കഴിവുകൾ ദുരുപയോഗം ചെയ്ത് എക്സ് ഉപയോക്താക്കൾ സിന്തറ്റിക് ഇമേജുകളും വീഡിയോകളും സൃഷ്ടിച്ച് വ്യക്തികളുടെ സ്വകാര്യതയും അന്തസ്സും ലംഘിക്കുന്നതായും കത്തില് ചൂണ്ടിക്കാട്ടുന്നു. ലൈംഗിക ഉള്ളടക്കങ്ങള് സൃഷ്ടിക്കാനും വ്യക്തികളെ തേജോവധം ചെയ്യാനും എഐയെ ദുരുപയോഗം ചെയ്യുന്നതിനെ കുറിച്ചുള്ള ആഗോള ആശങ്ക വര്ധിക്കുന്നതിനിടെയാണ് എക്സ് കോര്പ്പറേഷന് കേന്ദ്ര സര്ക്കാര് നോട്ടീസ് അയച്ചത്.
എക്സില് അപകടകരമായ പ്രവണത
സാധാരണ ഫോട്ടോകളെ ഗ്രോക്ക് എഐ ഉപയോഗിച്ച് അശ്ലീലവും അധിക്ഷേപകരവുമായ ചിത്രങ്ങളാക്കി മാറ്റുന്ന പ്രവണത കുറച്ച് ദിവസങ്ങള്ക്ക് മുമ്പാണ് എക്സില് വ്യാപകമായത്. പുതുവത്സരദിനത്തില് ഈ അപകടകരമായ ട്രെന്ഡ് കൂടുതല് വ്യാപകമായി. എക്സ് ഉപയോക്താക്കള് സ്ത്രീകളുടെയും കുട്ടികളുടെയും സാധാരണ ചിത്രങ്ങള് ഗ്രോക്കില് അപ്ലോഡ് ചെയ്ത ശേഷം നേരിട്ട് പ്രോംപ്റ്റുകള് നല്കിയാണ് ഇവ നിര്മ്മിച്ചത്. ഇത്തരം ചിത്രങ്ങള് എക്സ് പ്ലാറ്റ്ഫോമില് വ്യാപകമായി ഷെയര് ചെയ്യപ്പെടുകയും ചെയ്തു. സ്ത്രീകളുടെയും കുട്ടികളുടെയും സ്വകാര്യതയെയും അവകാശങ്ങളെയും കുറിച്ച് ആഗോളതലത്തില് വലിയ ചോദ്യങ്ങളുയര്ത്തി ഈ ദാരുണ സംഭവം. ആളുകളെ അപമാനിക്കാനും തേജോവധം ചെയ്യാനും പലരും ഇത്തരം എഐ നിര്മ്മിത ചിത്രങ്ങള് ഉപയോഗിച്ചത് പ്രശ്നത്തിന്റെ തീവ്രത ചൂണ്ടിക്കാട്ടുന്നു. ഗ്രോക്ക് എഐ ഇത്തരത്തില് ദുരുപയോഗം ചെയ്യപ്പെടുന്നത് ഉടന് നിയന്ത്രിക്കണം എന്നാവശ്യപ്പെട്ട് നിരവധി രാജ്യങ്ങളില് നിന്നുള്ള വനിതാ അവകാശ പ്രവര്ത്തകര് രംഗത്തെത്തിയിട്ടുണ്ട്.
Related Articles
ഗ്രോക്ക് എഐ ഉപയോഗിച്ച് ചിത്രങ്ങള് മോര്ഫ് ചെയ്യുന്ന ഈ സങ്കീര്ണ പ്രശ്നം ഇന്ത്യയിലും റിപ്പോര്ട്ട് ചെയ്യപ്പെട്ടിട്ടുണ്ട്. ഓണ്ലൈനില് സുഹൃത്തുക്കളെയും എതിരാളികളെയും ട്രോളുന്നതിനും അപ്പുറം വലിയ സൈബര് ഭീഷണിയാണ് ഇത്തരം എഐ ചിത്രങ്ങള് എന്ന് സൈബര് വിദഗ്ധര് പറയുന്നു.
