ഗ്രോക്കിന് മൂക്കുകയറിടാതെ മസ്‌ക്; എഐ ബിക്കിനി ചിത്രങ്ങള്‍ പോസ്റ്റ് ചെയ്യാന്‍ എക്‌സ് ഇപ്പോഴും അനുവദിക്കുന്നു, ഞെട്ടിച്ച് റിപ്പോര്‍ട്ട്

ഗ്രോക്ക് ഉപയോഗിച്ച് വസ്‌ത്രങ്ങള്‍ എഡിറ്റ് ചെയ്യാനും അത്തരം വീഡിയോകള്‍ എക്‌സില്‍ പോസ്റ്റ് ചെയ്യാനും ഗാര്‍ഡിയന്‍ മാധ്യമപ്രവര്‍ത്തകര്‍ നടത്തിയ പരിശോധനയില്‍ സാധിച്ചു. ഈ ദൃശ്യങ്ങള്‍ 'മോഡറേറ്റ്' ചെയ്‌തതാണെന്ന ഒരു സൂചനയും മുന്നറിയിപ്പും ഇല്ല.

ലണ്ടന്‍: ദുരുപയോഗം തടയാന്‍ കര്‍ശന നടപടികള്‍ സ്വീകരിച്ചു എന്ന് കമ്പനി അവകാശപ്പെടുമ്പോഴും എഐ ചാറ്റ്ബോട്ടായ ഗ്രോക്ക് സൃഷ്‌ടിക്കുന്ന അശ്ലീല ചിത്രങ്ങളും വീഡിയോകളും പോസ്റ്റ് ചെയ്യാന്‍ എക്‌സ് ഇപ്പോഴും ഉപയോക്താക്കളെ അനുവദിക്കുന്നുണ്ടെന്ന് ഞെട്ടിക്കുന്ന റിപ്പോര്‍ട്ട്. പൂര്‍ണമായി വസ്ത്രം ധരിച്ച സ്‌ത്രീകളുടെയും കുട്ടികളുടെയും ചിത്രങ്ങള്‍ പ്രോംപ്റ്റുകളിലൂടെ ബിക്കിനി പോസുകളടക്കമുള്ള അശ്ലീല ഉള്ളടക്കങ്ങളാക്കി മാറ്റുന്ന തെറ്റായ പ്രവണത ഇപ്പോഴും എക്‌സില്‍ തുടരുന്നതായി രാജ്യാന്തര മാധ്യമമായ ദി ഗാര്‍ഡിയന്‍റെ അന്വേഷണ റിപ്പോര്‍ട്ടില്‍ പറയുന്നു. ഗ്രോക്കിന്‍റെ തനത് ആപ്പ് വഴിയാണ് ഇത്തരം ഡീപ്‌ഫേക്കുകള്‍ ഇപ്പോഴും സൃഷ്‌ടിക്കപ്പെടുന്നത്. ഗ്രോക്ക് ചാറ്റ്ബോട്ടിലെ സ്പൈസി മോഡ് വഴി സൃഷ്‌ടിക്കപ്പെടുന്ന ലൈംഗിക ഉള്ളടക്കങ്ങള്‍ക്കെതിരെ രാജ്യാന്തര പ്രതിഷേധം ശക്തമായിട്ടും വേണ്ട തിരുത്തലുകള്‍ വരുത്താന്‍ എക്‌സിനായിട്ടില്ല എന്നാണ് പുത്തന്‍ സംഭവം തെളിയിക്കുന്നത്.

ഗ്രോക്കിന് ആര് മണികെട്ടും?

ഗ്രോക്ക് ഉപയോഗിച്ച് വസ്‌ത്രങ്ങള്‍ എഡിറ്റ് ചെയ്യാനും അത്തരം വീഡിയോകള്‍ എക്‌സില്‍ പോസ്റ്റ് ചെയ്യാനും ഗാര്‍ഡിയന്‍ മാധ്യമപ്രവര്‍ത്തകര്‍ നടത്തിയ പരിശോധനയില്‍ സാധിച്ചു. ഈ ദൃശ്യങ്ങള്‍ 'മോഡറേറ്റ്' ചെയ്‌തതാണെന്ന ഒരു സൂചനയും മുന്നറിയിപ്പും ഇല്ലാതെയുള്ള ഉള്ളടക്കമാണ് എക്‌സ് പ്ലാറ്റ്‌ഫോമില്‍ പോസ്റ്റ് ചെയ്യാനായത്. ഏതൊരു എക്‌സ് യൂസര്‍ക്കും ഇത്തരം ഉള്ളടക്കങ്ങള്‍ കാണാന്‍ സാധിക്കുമെന്നും ഈ അന്വേഷണത്തില്‍ വ്യക്തമായി. ഗ്രോക്ക് എഐ ദുരുപയോഗം ചെയ്‌ത് ഫോട്ടോകളും വീഡിയോകളും അശ്ലീല ഉള്ളടക്കങ്ങളാക്കി മാറ്റുന്ന പ്രവണത തടയാനുള്ള കര്‍ശന നടപടികള്‍ സ്വീകരിച്ചുവെന്ന് എക്‌സ് അവകാശപ്പെടുമ്പോഴാണ് ഇത്തരം ഡീപ്‌ഫേക്കുകള്‍ ഇപ്പോഴും പ്ലാറ്റ്‌ഫോമിലുണ്ട് എന്ന് തെളിഞ്ഞിരിക്കുന്നത്.

പണമടച്ചുള്ള സബ്‌സ്‌ക്രൈബർമാർ ഉൾപ്പെടെ എല്ലാ ഉപയോക്താക്കൾക്കും എക്‌സില്‍ കടുത്ത നിയന്ത്രണം ബാധകമാകുമെന്നും കുട്ടികളുടെ ലൈംഗിക ചൂഷണം, സമ്മതമില്ലാതെയുള്ള നഗ്നത, അനാവശ്യമായ ലൈംഗിക ഉള്ളടക്കം എന്നിവയോട് യാതൊരു വിട്ടുവീഴ്‌ചയും കമ്പനിയുടെ ഭാഗത്ത് നിന്നുണ്ടാവില്ലെന്നുമുള്ള എക്‌സ് അധികൃതരുടെ പ്രഖ്യാപനം പാഴായിപ്പോയെന്നാണ് ഇതില്‍ നിന്നും മനസിലാക്കേണ്ടത്. 'ഗ്രോക്ക് എഐ ഉപയോഗിച്ച് നിയമവിരുദ്ധമായ ഉള്ളടക്കം നിർമ്മിക്കുന്ന എല്ലാവരും, നിയമവിരുദ്ധമായ ഉള്ളടക്കങ്ങള്‍ എക്‌സില്‍ അപ്‌ലോഡ് ചെയ്യുമ്പോഴുണ്ടാകുന്ന അതേ പ്രത്യാഘാതങ്ങൾ നേരിടേണ്ടിവരും'- എന്ന് എക്‌സ് ഉടമ ഇലോണ്‍ മസ്‌കും അവകാശപ്പെട്ടിരുന്നു.

അശ്ലീല ഉള്ളടക്കങ്ങള്‍ നിയന്ത്രിക്കാതെ എക്‌സ്

വെബ് ബ്രൗസറിലൂടെ എളുപ്പത്തിൽ ആക്‌സസ് ചെയ്യാൻ കഴിയുന്ന ഗ്രോക്കിന്‍റെ സ്റ്റാൻഡ്‌എലോൺ പതിപ്പാണ് പ്രോംപ്റ്റുകള്‍ വഴി സ്‌ത്രീകളുടെ വസ്‌ത്രങ്ങള്‍ എ‍ഡിറ്റ് ചെയ്യാന്‍ നിയമവിരുദ്ധമായി അനുവദിക്കുന്നത്. ഇത്തരത്തില്‍ സൃഷ്‌ടിക്കപ്പെടുന്ന വീഡിയോകള്‍ ഇപ്പോഴും എക്‌സില്‍ പോസ്റ്റ് ചെയ്യാനാകുന്നു എന്നതും ഞെട്ടലുണ്ടാക്കുന്നതാണ്. അടുത്തിടെ എക്‌സിൽ ഗ്രോക്ക് എഐ വഴി സൃഷ്‌ടിച്ച, സ്ത്രീകളുടെയും കുട്ടികളുടെയും അനേകായിരം അശ്ലീല ഡീപ്പ്ഫേക്ക് ചിത്രങ്ങളും വീഡിയോകളും പോസ്റ്റ് ചെയ്യപ്പെട്ടിരുന്നു. ഇത് വലിയ വിമര്‍ശനത്തിന് വഴിവെക്കുകയും ചെയ്തു. യഥാർഥമാണെന്ന് തോന്നിപ്പിക്കുന്ന ഏതുതരം ചിത്രങ്ങളും വീഡിയോകളും സൃഷ്‌ടിക്കാൻ ഗ്രോക്കിനാകുമെന്നാണ് ഈ സംഭവം വ്യക്തമാക്കുന്നതാണ്. സ്ത്രീകളെയും കുട്ടികളെയും ബിക്കിനിയിലോ മറ്റ് ലൈംഗികമായ പോസുകളിലോ കാണിക്കുന്ന ഉള്ളടക്കങ്ങള്‍ സൃഷ്‌ടിക്കാനും പങ്കുവെക്കാനും അനുവദിക്കുന്നതില്‍ ഗ്രോക്കിനും എക്‌സിനുമെതിരെ ആഗോളതലത്തില്‍ പ്രതിഷേധം ഉയര്‍ന്നിരുന്നു.

എക്‌സിനും ഗ്രോക്കിനുമെതിരെ ഇന്ത്യന്‍ സര്‍ക്കാരും നടപടി ആരംഭിച്ചിരുന്നു. എല്ലാവിധ അശ്ലീല ഉള്ളടക്കങ്ങളും ഇന്ത്യയില്‍ നിയമവിരുദ്ധമാണ് എന്നതിനാല്‍ എക്‌സ് പ്ലാറ്റ്‌ഫോമില്‍ ഉപയോക്താക്കള്‍ ഗ്രോക്ക് എഐ വഴി നിര്‍മ്മിച്ച എല്ലാ മോശം ഉള്ളടക്കങ്ങളും എക്‌സിന് എന്നേക്കുമായി നീക്കം ചെയ്യേണ്ടിവരും. ഇത്തരം തെറ്റുകള്‍ ചെയ്യുന്ന എക്‌സ് അക്കൗണ്ടുകള്‍ പ്ലാറ്റ്‌ഫോമില്‍ നിന്ന് വിലക്കുകയും വേണ്ടിവരും.