ഹമ്മോ! ജെമിനി നാനോ ബനാന പ്രോ ഉപയോഗിച്ച് വ്യാജ പാൻ കാർഡും ആധാറും സൃഷ്‍ടിച്ച് ടെക്കി; ചിത്രങ്ങള്‍ ചര്‍ച്ചയാവുന്നു

ഹർവീൻ സിംഗ് ഛദ്ദ എന്ന എക്‌സ് യൂസര്‍ പങ്കിട്ട ആധാര്‍ കാര്‍ഡിന്‍റെയും പാന്‍ കാര്‍ഡിന്‍റെയും ജെമിനി ചിത്രങ്ങളാണ് നാനോ ബനാനയുടെ കൃത്യതയെ കുറിച്ച് ആശങ്ക പടര്‍ത്തുന്നു

ദില്ലി: ഗൂഗിളിന്‍റെ ജെമിനി നാനോ ബനാന എഐ ടൂള്‍ ഉപയോഗിച്ച് വ്യാജ ആധാര്‍, പാന്‍ കാര്‍ഡ് എന്നിവ സൃഷ്‌ടിച്ച് ബെംഗളൂരുവിലെ ടെക്കിയുടെ മുന്നറിയിപ്പ്. ഹർവീൻ സിംഗ് ഛദ്ദ എന്ന എക്‌സ് യൂസര്‍ പങ്കിട്ട ആധാര്‍ കാര്‍ഡിന്‍റെയും പാന്‍ കാര്‍ഡിന്‍റെയും ജെമിനി ചിത്രങ്ങളാണ് നാനോ ബനാനയുടെ കൃത്യതയെ കുറിച്ച് ആശങ്ക പടര്‍ത്തുന്നത്. ഉയര്‍ന്ന കൃത്യതയോടെ വ്യാജ തിരിച്ചറിയല്‍ കാര്‍ഡുകള്‍ സൃഷ്‌ടിക്കാന്‍ നാനോ ബനാനയ്‌ക്കാകുമെന്ന് ഹർവീൻ എക്‌സ് പോസ്റ്റില്‍ തെളിയിക്കുന്നു. ട്വിറ്റര്‍പ്രീത് സിംഗ് എന്ന സാങ്കല്‍പിക ആളുടെ പേരിലാണ് ഒറിജിനലിനെ വെല്ലുന്ന പാനും ആധാറും ഹർവീൻ സിംഗ് ഛദ്ദ നാനോ ബനാന ഉപയോഗിച്ച് സൃഷ്‌ടിച്ചത്.

നാനോ ബനാന പ്രോയുടെ കൃത്യത അപകടം

ഗൂഗിളിന്‍റെ ജെമിനി നാനോ ബനാന പ്രോ വ്യാജ ആധാർ കാർഡുകൾ, പാൻ കാർഡുകൾ, പാസ്‌പോർട്ട് ഫോട്ടോകൾ എന്നിവ എളുപ്പത്തിൽ സൃഷ്‍ടിക്കുന്നു എന്നതാണ് പ്രശ്‌നം. ഒറിജിനലിനെ വെല്ലും എന്നതിനാല്‍, നാനോ ബനാന സൃഷ്‌ടിക്കുന്ന ചിത്രങ്ങൾ ഒറ്റനോട്ടത്തിൽ കണ്ടെത്താൻ പ്രയാസമാണ്. വ്യാജ തിരിച്ചറിയൽ കാർഡുകൾ സൃഷ്‌ടിച്ച് ആളുകളെ വഞ്ചിക്കാൻ ഇത് തട്ടിപ്പുകാർക്ക് അവസരം നൽകിയേക്കാം എന്നതാണ് ആശങ്ക. ഗൂഗിളിന്‍റെ നാനോ ബനാന പ്രോയെക്കുറിച്ച് സാങ്കേതിക വിദഗ്‌ധരും ആശങ്ക പ്രകടിപ്പിക്കുന്നു.

ബെംഗളൂരുവിൽ നിന്നുള്ള ടെക്കിയായ ഹർവീൻ സിംഗ് ഛദ്ദ തന്‍റെ എക്‌സ് പോസ്റ്റിൽ നാനോ ബനാന പ്രോയുടെ അപകടങ്ങളെക്കുറിച്ച് എടുത്തുപറയുന്നു. നാനോ ബനാന കുഴപ്പമല്ലെന്ന് ഹര്‍വീന്‍ പറയുന്നുവെങ്കിലും അതിലെ ഏറ്റവും വലിയ പ്രശ്‌നം അത് യഥാർഥമായതിന് സമാനമായി കാണപ്പെടുന്ന വ്യാജ ഐഡന്‍റിറ്റി കാർഡുകൾ സൃഷ്‍ടിക്കുന്നു എന്നതാണെന്ന് ഹർവീൻ സിംഗ് ഛദ്ദ ചൂണ്ടിക്കാട്ടുന്നു. ഇമേജ് ജനറേഷൻ ടൂളിന്‍റെ വെരിഫിക്കേഷൻ സിസ്റ്റങ്ങൾ പലപ്പോഴും പരാജയപ്പെടാറുണ്ടെന്ന് ഹർവീൻ പറയുന്നു. ഒരു സാങ്കൽപ്പിക വ്യക്തിയുടെ വ്യാജ പാൻ കാർഡിന്‍റെയും ആധാർ കാർഡിന്‍റെയും പകർപ്പ് സൃഷ്‌ടിച്ചുകൊണ്ട് ഹർവീൻ സിംഗ് ഛദ്ദ ഇത് തെളിയിച്ചു. അദേഹം പങ്കിട്ട രണ്ട് ചിത്രങ്ങളിലെയും കാര്‍ഡുകള്‍ ഒറ്റനോട്ടത്തിൽ യാഥാർഥമായി തോന്നുന്നു.

ജെമിനി ഫോട്ടോകളിലെ വാട്ടർമാർക്ക്

ജെമിനി ഉപയോഗിച്ച് സൃഷ്‌ടിക്കുന്ന എല്ലാ ഫോട്ടോകളിലും ഒരു വാട്ടർമാർക്ക് ഉണ്ടാകും. ചിത്രം എഐ ഉപയോഗിച്ചാണോ സൃഷ്‌ടിച്ചതെന്ന് തിരിച്ചറിയുന്നതിനാണ് ഗൂഗിൾ ഈ ഫീച്ചർ നൽകുന്നത്. എങ്കിലും ഫോട്ടോഷോപ്പ് ഉപയോഗിച്ച് വാട്ടർമാർക്ക് പിന്നീട് നീക്കം ചെയ്യാൻ കഴിയും. എഐ സൃഷ്‍ടിച്ച ഫോട്ടോയുടെ താഴെ വലത് കോണിലാണ് ഈ വാട്ടർമാർക്ക് സ്ഥിതിചെയ്യുന്നത്. എന്നാൽ ഇത് ഫോട്ടോഷോപ്പും മറ്റും ഉപയോഗിച്ച് അദൃശ്യമാക്കാൻ സാധിക്കുമെന്നതും അപകടമാണ്.

എഐ സൃഷ‌്‌ടിച്ച ചിത്രങ്ങൾ, ടെക്സ്റ്റ്, ഓഡിയോ, വീഡിയോ എന്നിവ തിരിച്ചറിയാൻ ഗൂഗിൾ സിന്ത്ഐഡി (SynthID) ഉപയോഗിക്കുന്നു. ജെമിനി എഐ ഉപയോഗിച്ച് സൃഷ്‌ടിച്ച എല്ലാ ഉള്ളടക്കത്തിലും ഓട്ടോമാറ്റിക്കായി ഉൾച്ചേർത്ത, ഗൂഗിൾ ഡീപ്മൈൻഡ് വികസിപ്പിച്ചെടുത്ത ഒരു അദൃശ്യ ഡിജിറ്റൽ വാട്ടർമാർക്കാണ് സിന്ത്ഐഡി. എങ്കിലും സിന്ത്ഐഡിക്കും അതിന്‍റേതായ പോരായ്‌മകളുണ്ട്. ജെമിനി ഉപയോഗിച്ച് സൃഷ്‌ടിച്ച ചിത്രങ്ങളിലെ ആധികാരികത മാത്രമേ ഇതിന് തിരിച്ചറിയാൻ കഴിയൂ. ചാറ്റ്‍ജിപിടി പോലുള്ള മറ്റ് ഇമേജ് ജനറേഷൻ ഉപകരണങ്ങൾ ഉപയോഗിച്ച് സൃഷ്‌ടിച്ച ചിത്രങ്ങൾ സിന്ത്ഐഡിക്ക് പരിശോധിക്കാൻ കഴിയില്ല.

വ്യാജ നിർമതികള്‍ക്ക് ചാറ്റ്‍ജിപിടിയും

അതേസമയം, ജെമിനി നാനോ ബനാന പ്രോയുടെ കാര്യത്തിൽ മാത്രമല്ല ഇത്തരം ആശങ്കകള്‍ നിലനില്‍ക്കുന്നത്. വ്യാജ ഇമേജുകൾ സൃഷ്‌ടിക്കാൻ പ്രോംപ്റ്റുകൾ ഉപയോഗിച്ച് ഇമേജ് ജനറേഷൻ സവിശേഷത ആദ്യമായി അവതരിപ്പിച്ച ചാറ്റ്ജിപിടിയും പ്രശ്‌നങ്ങൾ നേരിട്ടു. ഇപ്പോൾ, നാനോ ബനാന ടൂൾ കൂടി എത്തിയതോടെ ഈ പ്രശ്‍നം കൂടുതൽ ഗുരുതരമായിരിക്കുന്നു. കാരണം നാനോ ബനാനയും പുതിയ നാനോ ബനാന പ്രോ ടൂളുമൊക്കെ ചാറ്റ്ജിപിടിയേക്കാൾ മികച്ചതും കൂടുതൽ യാഥാർഥ്യബോധമുള്ളതുമായ ചിത്രങ്ങൾ സൃഷ്‍ടിക്കുന്നു.

"ഭയം അല്ല, അവബോധം സൃഷ്‌ടിക്കുക"

അതേസമയം, അവബോധം സൃഷ്‌ടിക്കുക എന്നതാണ് തന്‍റെ ലക്ഷ്യമെന്ന് പോസ്റ്റിന് പിന്നിലെ ഉദ്ദേശ്യം വിശദീകരിച്ചുകൊണ്ട് സാങ്കേതികവിദഗ്‌ധന്‍ കൂടിയായ ഹർവീൻ സിംഗ് ഛദ്ദ പറഞ്ഞു. “ധാരാളം ആളുകൾ ഭയപ്പെടുന്നുണ്ട്, പക്ഷേ പോസ്റ്റിന് പിന്നിലെ ഉദ്ദേശ്യം ഭയം സൃഷ്‌ടിക്കുക എന്നതല്ല, അവബോധം സൃഷ്‌ടിക്കുക എന്നതായിരുന്നു. ഇന്നത്തെ എഐ മോഡലുകൾക്ക് എന്ത് ചെയ്യാൻ കഴിയുമെന്ന് കാണിക്കാൻ ഞാൻ ആഗ്രഹിച്ചു, കാരണം അവ അവിശ്വസനീയമാംവിധം വേഗത്തിലും പഴയ രീതികളേക്കാൾ വളരെ കുറച്ച് പിശകുകളുമായാണ് പ്രവർത്തിക്കുന്നത്. ഈ മോഡലുകൾ മെച്ചപ്പെടുന്ന അതേ വേഗതയിൽ നമ്മുടെ പരമ്പരാഗത പരിശോധനാ സംവിധാനങ്ങൾ മെച്ചപ്പെടുത്തേണ്ടതും ഇതിനാവശ്യമാണ്”- ഹർവീൻ സിംഗ് ഛദ്ദ കൂട്ടിച്ചേര്‍ത്തു.