Asianet News MalayalamAsianet News Malayalam

മുഖം നോക്കി 'ക്രിമിനലാണോ' എന്ന് പറയുന്ന സോഫ്റ്റ്‌വെയറിനെതിരെ പ്രതിഷേധം, വംശീയതക്ക് ബലമേകും എന്ന് ആക്ഷേപം

 ഒരാളുടെ ഒരു പോർട്രെയ്റ്റ് ചിത്രം മാത്രം വെച്ചുകൊണ്ട് അയാളുടെ 'ക്രിമിനാലിറ്റി' പ്രവചിക്കാനാകും എന്നായിരുന്നു  ഗവേഷകരുടെ അവകാശവാദം. 

uproar against software that predicts criminality based on photograph of the face of a person
Author
Harrisburg, First Published Jun 25, 2020, 4:12 PM IST
  • Facebook
  • Twitter
  • Whatsapp

ഫേഷ്യൽ റെക്കഗ്നിഷ്യൻ വഴി ഒരു വ്യക്തിയിലെ അക്രമവാസന പ്രവചിക്കാനാകും എന്ന അവകാശവാദവുമായി അമേരിക്കയിലെ ഒരു സർവകലാശാലയിലെ ഗവേഷകർ രംഗത്തെത്തിയത് വിവാദങ്ങൾക്ക് കാരണമായി. നിർമിത ബുദ്ധി(AI) പ്രയോജനപ്പെടുത്തി തങ്ങൾ വികസിപ്പിച്ചെടുത്ത സോഫ്റ്റ്‌വെയറിന്റെ സഹായത്തോടെ, ഒരാളുടെ ഒരു പോർട്രെയ്റ്റ് ചിത്രം മാത്രം വെച്ചുകൊണ്ട് അയാളുടെ 'ക്രിമിനാലിറ്റി' പ്രവചിക്കാനാകും എന്നായിരുന്നു പെൻസിൽവാനിയയിലുള്ള ഹാരിസ്ബർഗ് സർവകലാശാലയിലെ ഒരുപറ്റം ഗവേഷകരുടെ അവകാശവാദം. തങ്ങളുടെ സോഫ്റ്റ്‌വെയറിന്റെ ഉപയോഗം സമൂഹത്തിൽ കുറ്റകൃത്യങ്ങൾ കുറയ്ക്കാൻ സഹായിക്കും എന്നായിരുന്നു ഗവേഷകരുടെ പ്രതീക്ഷ. ഇങ്ങനെ ക്രിമിനാലിറ്റി പ്രവചിക്കുന്നത് കുറ്റകൃത്യങ്ങൾ നടക്കും മുമ്പുതന്നെ തടയാൻ സഹായിക്കുമെന്നും അതുവഴി കുറ്റകൃത്യങ്ങളുടെ നിരക്ക് കുറയ്ക്കാനാകും എന്നും ഗവേഷകർ വാദിച്ചു.

80 % കൃത്യതയോടെ 'ന്യൂറൽ നെറ്റ്‌വർക്ക് മോഡൽ ടു പ്രെഡിക്ട് ക്രിമിനാലിറ്റി യൂസിങ് ഇമേജ് പ്രോസസിംഗ് " എന്ന അൽഗോരിതം വഴി തങ്ങളുടെ സോഫ്റ്റ് വെയറിന്, ഒരാളുടെ മുഖത്തിന്റെ മഗ് ഷോട്ട് ചിത്രം വെച്ചുമാത്രം അയാളുടെ ക്രിമിനലിറ്റി പ്രവചിക്കാനാകും എന്നാണ് ഈ പേപ്പർ പറയുന്നത്.  സ്റ്റാൻഫോർഡിൽ നിന്നും ഗൂഗിളിൽ നിന്നും ഒക്കെ ഈ സോഫ്റ്റ്‌വെയറിനെതിരെ പ്രതിഷേധമുയർന്നിട്ടുണ്ട്. 

എന്നാൽ ഈ പഠനത്തെ ടെക്‌നോളജി രംഗത്തെ വംശീയതക്ക് ഉദാഹരണമായി ചൂണ്ടിക്കാണിച്ചുകൊണ്ട്, ഈ ഗവേഷണഫലം എത്രയും പെട്ടെന്ന് റദ്ദാക്കണം എന്നാവശ്യപ്പെട്ട് 1700 ലധികം ഗവേഷകർ ഒരു തുറന്ന കത്തുതന്നെ സർവകലാശാലയ്ക്ക് എഴുതിയിട്ടുണ്ട്. ഇത്തരത്തിലുള്ള സോഫ്റ്റ്‌വെയറുകൾ ശാസ്ത്രീയമായ മാർഗങ്ങൾ അല്ല അവലംബിക്കുന്നത് എന്നും, അടിസ്ഥാനപരമായ ഒരു വംശീയ വിരോധം അറിയാതെയെങ്കിലും പ്രവർത്തിക്കുന്ന ഇത്തരം സോഫ്റ്റ്‌വെയറുകൾ ചില വംശീയ ന്യൂനപക്ഷങ്ങൾക്ക് ദോഷകരമായ റിസൾട്ടുകളാണ് ഉണ്ടാക്കുക എന്നും അവർ പറഞ്ഞു. " ഒരാളുടെ ചിത്രം വെച്ച് അയാളുടെ ക്രിമിനാലിറ്റി പ്രവചിക്കാനാകും എന്നൊക്കെ ചിന്തിക്കുന്നത് തന്നെ ഒരു ക്രിമിനൽ കുറ്റമാണ് " എന്നായിരുന്നു കേംബ്രിഡ്ജിലെ കമ്പ്യൂട്ടർ സയൻസ് ഗവേഷക കൃതിക ഡിസിൽവ പറഞ്ഞു. 

ഇത്തരത്തിലുള്ള പല മെഷീൻ ലേർണിംഗ് അൽഗോരിതങ്ങളും, വിശിഷ്യാ ഫേഷ്യൽ റെക്കഗ്‌നൈസിംഗ് സോഫ്റ്റ്‌വെയറുകൾ പ്രയോജനപ്പെടുത്തുന്നവ, പ്രകടമായ വംശീയ, ലിംഗപരമായ, പ്രായത്തിന്റെ അടിസ്ഥാനത്തിലുള്ള ഭേദഭാവം ഉൾക്കൊള്ളുന്നവയാണ് എന്ന് മുമ്പും പഠനങ്ങൾ തെളിയിറിച്ചുള്ളതാണ്. ഫേസ് റെക്കഗ്നിഷൻ സോഫ്റ്റ്‌വെയറിൽ പിശക് കാരണം തെറ്റായി ആളുകൾ അറസ്റ്റ് ചെയ്യപ്പെടുന്ന സംഭവവും ഉണ്ടായിട്ടുണ്ട്. ഇത്തരത്തിലുള്ള അബദ്ധങ്ങൾ പ്രസിദ്ധപ്പെടുത്തുന്നതിൽ നിന്ന് റിസർച്ച് ജേർണലുകൾ വിട്ടുനിൽക്കണം എന്ന് കൊയാലിഷാണ് ഓഫ് ക്രിട്ടിക്കൽ ടെക്ക്നോളജി ഓർഗനൈസേഷൻ മുന്നറിയിപ്പ് നൽകി. 

Follow Us:
Download App:
  • android
  • ios