അശ്ലീല ഉള്ളടക്കങ്ങളും ഡീപ്പ്‌ഫേക്കുകളും; ഇന്തോനേഷ്യയ്ക്ക് പിന്നാലെ മലേഷ്യയും ഗ്രോക്ക് നിരോധിച്ചു

നിലവിലുള്ള സുരക്ഷാ നടപടികൾ ഗ്രോക്കിന്‍റെ ദുരുപയോഗം തടയുന്നതിൽ ഫലപ്രദമല്ല എന്ന് വിവിധ രാജ്യങ്ങള്‍ പറയുന്നു. ഗ്രോക്കിനെതിരെ നടപടിയുമായി ഇന്തോനേഷ്യയും മലേഷ്യയും. 

കോലാലമ്പൂർ: ഇലോൺ മസ്‌കിന്‍റെ എഐ ചാറ്റ്ബോട്ടായ ഗ്രോക്കിനെ മലേഷ്യയും ഇന്തോനേഷ്യയും നിരോധിച്ചു. ഗ്രോക്ക് എഐ സൃഷ്‍ടിക്കുന്ന അശ്ലീല ഉള്ളടക്കങ്ങളെയും ഡീപ്ഫേക്കുകളെയും കുറിച്ചുള്ള ആശങ്കകള്‍ വർധിച്ചുവരുന്ന സാഹചര്യത്തിലാണ് ഈ നടപടി. മസ്‌കിന്‍റെ തന്നെ മൈക്രോ ബ്ലോഗിംഗ് പ്ലാറ്റ്‌ഫോമായ എക്‌സില്‍ ഗ്രോക്ക് ഉപയോഗിച്ച് സൃഷ്‌ടിച്ച അനേകം അശ്ലീല ഉള്ളടക്കങ്ങള്‍ അടുത്തിടെ പ്രത്യക്ഷപ്പെട്ടത് രാജ്യാന്തര പ്രതിഷേധത്തിന് ഇടയാക്കിയിരുന്നു. ഗ്രോക്ക് എഐ സിസ്റ്റത്തിന്‍റെ ദുരുപയോഗം തടയുന്നതിൽ കമ്പനിയുടെ നിലവിലുള്ള സുരക്ഷാ സവിശേഷതകൾ പരാജയപ്പെടുന്നുവെന്ന് ഇരു രാജ്യങ്ങളും വ്യക്തമാക്കി.

ഡീപ്പ്ഫേക്കുകളെക്കുറിച്ചുള്ള ആഗോള ആശങ്ക വളരുന്നു

അടുത്തിടെ എക്‌സിൽ ഗ്രോക്ക് എഐ സ്ത്രീകളുടെയും കുട്ടികളുടെയും അനേകായിരം അശ്ലീല ഡീപ്പ്ഫേക്ക് ചിത്രങ്ങൾ സൃഷ്‌ടിച്ചിരുന്നു. യഥാർഥമാണെന്ന് തോന്നിപ്പിക്കുന്ന ചിത്രങ്ങളും ഓഡിയോകളും സൃഷ്‌ടിക്കാൻ ഗ്രോക്കിനാകുമെന്നാണ് ഈ സംഭവം തെളിയിക്കുന്നത്. നിലവിലുള്ള സുരക്ഷാ നടപടികൾ ഗ്രോക്കിന്‍റെ ദുരുപയോഗം തടയുന്നതിൽ ഫലപ്രദമല്ല എന്നതാണ് പ്രശ്നം. സ്ത്രീകളെ ബിക്കിനിയിലോ ആക്ഷേപകരമായ പോസുകളിലോ കാണിക്കുന്ന ഉള്ളടക്കത്തെക്കുറിച്ചും കുട്ടികളുമായി ബന്ധപ്പെട്ട ഉള്ളടക്കങ്ങളെക്കുറിച്ചും ആശങ്കകൾ ഉയർന്നിട്ടുണ്ട്. ഈ ചിത്രങ്ങൾ വളരെ യഥാർഥമായി കാണപ്പെടുന്നു എന്നതാണ് പ്രശ്‍നത്തെ അതീവ ഗുരുതരമാക്കുന്നത്.

ഇന്തോനേഷ്യയുടെയും മലേഷ്യയുടെയും നിലപാട്

ഇന്തോനേഷ്യൻ സർക്കാർ ഗ്രോക്കിലേക്കുള്ള പ്രവേശനം താൽക്കാലികമായി തടഞ്ഞു. തൊട്ടുപിന്നാലെ മലേഷ്യയും ഇതേ നടപടി സ്വീകരിച്ചു. ഡീപ്ഫേക്കുകൾ മനുഷ്യാവകാശങ്ങളുടെയും അന്തസ്സിന്‍റെയും ഡിജിറ്റൽ സുരക്ഷയുടെയും ഗുരുതരമായ ലംഘനമാണെന്ന് ഇന്തോനേഷ്യയുടെ കമ്മ്യൂണിക്കേഷൻസ് ആൻഡ് ഡിജിറ്റൽ കാര്യ മന്ത്രി മെത്യ ഹാഫിദ് പറഞ്ഞു. യഥാർഥ ചിത്രങ്ങളെ അടിസ്ഥാനമാക്കിയുള്ള വ്യാജ അശ്ലീല ഉള്ളടക്കം സൃഷ്‌ടിക്കുന്നതും പ്രചരിപ്പിക്കുന്നതും തടയാൻ ഗ്രോക്കിന് ഫലപ്രദമായ സുരക്ഷാ സംവിധാനങ്ങളില്ലെന്ന് പ്രാഥമിക അന്വേഷണത്തിൽ കണ്ടെത്തിയതായി ഇന്തോനേഷ്യയുടെ ഡിജിറ്റൽ സ്‌പേസ് സൂപ്പർവിഷൻ ഡയറക്‌ടർ ജനറൽ അലക്‌സാണ്ടർ സബാർ പറഞ്ഞു. ഇത് ആളുകളുടെ സ്വകാര്യത, അവകാശങ്ങൾ, മാനസിക-സാമൂഹിക പ്രശസ്‌തി എന്നിവയെ ദോഷകരമായി ബാധിക്കുന്നുവെന്നും അധികൃതർ വ്യക്തമാക്കുന്നു.

ആവർത്തിച്ചുള്ള ദുരുപയോഗം ചൂണ്ടിക്കാട്ടിയാണ് മലേഷ്യൻ കമ്മ്യൂണിക്കേഷൻസ് ആൻഡ് മൾട്ടിമീഡിയ കമ്മീഷൻ ഗ്രോക്കിനെ താൽക്കാലികമായി നിരോധിച്ചത്. എക്‌സ് കോർപ്പറേഷനും എക്‌സ്എഐക്കും അയച്ച നോട്ടീസുകൾക്കുള്ള മറുപടി ഉപയോക്തൃ റിപ്പോർട്ടിംഗ് സംവിധാനങ്ങളെ മാത്രം ആശ്രയിച്ചിരിക്കുന്നുവെന്നും അത് അപര്യാപ്‌തമാണെന്നും മലേഷ്യൻ കമ്മ്യൂണിക്കേഷൻസ് ആൻഡ് മൾട്ടിമീഡിയ കമ്മീഷൻ പറഞ്ഞു. ശക്തമായ സുരക്ഷാ നടപടികൾ നടപ്പിലാക്കുന്നതുവരെ നിരോധനം നിലനിൽക്കുമെന്നും മലേഷ്യൻ അധികൃതർ വ്യക്തമാക്കി.

2023-ൽ ആരംഭിച്ച ഗ്രോക്ക് സോഷ്യൽ മീഡിയ പ്ലാറ്റ്‌ഫോമായ എക്‌സിലും ലഭ്യമാണ്. അഡൾട്ട് കണ്ടന്‍റ് സൃഷ്‌ടിക്കാൻ കഴിയുന്ന സ്‌പൈസി മോഡ് ഉൾപ്പെടുന്ന ഗ്രോക്ക് ഇമാജിൻ എന്ന ഇമേജ് ജനറേഷൻ ഫീച്ചറും കഴിഞ്ഞ വര്‍ഷം ഗ്രോക്കില്‍ ചേർത്തിരുന്നു. ഈ ഫീച്ചറും വൻ വിവാദങ്ങൾക്ക് തിരികൊളുത്തിയതാണ്.