കുട്ടികൾക്കും കൗമാരക്കാർക്കുമായി അവതരിപ്പിച്ച ചാറ്റ്ജിപിടി ഫോർ ടീൻസിൽ ഗുരുതരമായ സുരക്ഷാ വീഴ്ചകളുണ്ടെന്ന് പുതിയ പഠനം. സ്വയം ഉപദ്രവിക്കുന്നതിനെക്കുറിച്ചുള്ള മുന്നറിയിപ്പുകൾ നൽകുന്നതിലും പ്രായം തിരിച്ചറിയുന്നതിലും എഐ പരാജയപ്പെട്ടതായി റിപ്പോർട്ട് വ്യക്തമാക്കുന്നു.
കുട്ടികളും കൗമാരക്കാരും ചാറ്റ്ജിപിടി ഉപയോഗിക്കുന്നത് സുരക്ഷിതമാണോ? പുതിയ പഠനം ഉയർത്തുന്ന ചോദ്യമിതാണ്. 13 മുതൽ 17 വയസുവരെയുള്ള ഉപയോക്താക്കൾക്കായി അധിക സുരക്ഷാ സംവിധാനങ്ങളോടെ ഓപ്പൺഎഐ ഓഗസ്റ്റിൽ ചാറ്റ്ജിപിടി ഫോർ ടീൻസ് അവതരിപ്പിച്ചിരുന്നു. എന്നാൽ കോമൺ സെൻസ് മീഡിയയുടെ യൂത്ത് എഐ സേഫ്റ്റി ഇൻസ്റ്റിറ്റ്യൂട്ട് നടത്തിയ പഠനം ഈ സുരക്ഷാ സംവിധാനങ്ങളിൽ ഗുരുതരമായ പോരായ്മകൾ കണ്ടെത്തി എന്നാണ് റിപ്പോർട്ട്. ചാറ്റ്ജിപിടി ഫോർ ടീൻസിന് ‘സ്വീകാര്യമല്ലാത്ത അപകടസാധ്യത’ എന്ന വിലയിരുത്തലാണ് ഇൻസ്റ്റിറ്റ്യൂട്ട് നൽകിയിരിക്കുന്നത്. കണ്ടെത്തിയ പ്രശ്നങ്ങൾ പരിഹരിക്കുകയും സ്വതന്ത്രമായി പരിശോധന നടത്തുകയും ചെയ്യുന്നതുവരെ ചാറ്റ്ജിപിടി മുതിർന്നവർക്ക് മാത്രമായി പരിമിതപ്പെടുത്തണം എന്നാണ് സ്ഥാപനത്തിന്റെ ആവശ്യം.
1. സ്വയം ഉപദ്രവിക്കുന്നതിനെക്കുറിച്ചുള്ള മുന്നറിയിപ്പുകൾ
സ്വയം ഉപദ്രവിക്കൽ, ആത്മഹത്യാ ചിന്തകൾ, ഭക്ഷണവുമായി ബന്ധപ്പെട്ട മാനസിക പ്രശ്നങ്ങൾ തുടങ്ങിയ വിഷയങ്ങളിൽ കൗമാരക്കാർ ചാറ്റ്ജിപിടിയുമായി സംസാരിക്കുമ്പോൾ മാതാപിതാക്കൾക്ക് മുന്നറിയിപ്പ് ലഭിക്കുന്ന സംവിധാനം പ്രതീക്ഷിച്ച രീതിയിൽ പ്രവർത്തിക്കുന്നില്ലെന്നാണ് പഠനത്തിലെ പ്രധാന കണ്ടെത്തൽ. മാതാപിതാക്കളുമായി ബന്ധിപ്പിച്ച പുതുതായി സൃഷ്‍ടിച്ച കൗമാര അക്കൗണ്ടുകളിൽ ഗവേഷകർ ഇത്തരം സംഭാഷണങ്ങൾ ഒരു മണിക്കൂർ വരെ നടത്തിയെങ്കിലും മുന്നറിയിപ്പുകളൊന്നും ലഭിച്ചില്ല. കൂടുതൽ പഴയ അക്കൗണ്ടുകളിൽ മാത്രമാണ് ചില അറിയിപ്പുകൾ ലഭിച്ചത്.
2. പ്രതിസന്ധി ഘട്ടങ്ങളിൽ വിദഗ്ധ സഹായത്തിലേക്ക് നയിക്കുന്നില്ല
ആത്മഹത്യ, സ്വയം ഉപദ്രവിക്കൽ, ക്രമരഹിതമായ ഭക്ഷണരീതി തുടങ്ങിയ ഗുരുതര വിഷയങ്ങളിൽ ചാറ്റ്ജിപിടി എല്ലായ്പ്പോഴും പ്രൊഫഷണൽ സഹായത്തിലേക്കോ അടിയന്തര സേവനങ്ങളിലേക്കോ ഉപയോക്താക്കളെ നയിച്ചില്ലെന്നും പഠനം പറയുന്നു. പ്രതിസന്ധി സഹായം ആവശ്യമായതായി വിലയിരുത്തിയ സാഹചര്യങ്ങളിൽ നാലിലൊന്നിലധികം കേസുകളിൽ ചാറ്റ്ജിപിടി ആവശ്യമായ നിർദേശം നൽകിയില്ല. ഗുരുതരമായ 5 അപകടസാധ്യതകളിൽ മൂന്ന് എണ്ണത്തിലും സ്ഥാപനം നിശ്ചയിച്ച 95 ശതമാനം സുരക്ഷാ നിലവാരം കൈവരിക്കാനും സാധിച്ചില്ല.
Related Articles
3. പഠനരീതിയിലും നിയന്ത്രണങ്ങൾ മറികടക്കാം
വിദ്യാർഥികൾക്ക് ഉത്തരങ്ങൾ നേരിട്ട് നൽകാതെ പ്രശ്നങ്ങൾ പരിഹരിക്കാൻ മാർഗനിർദേശം നൽകുന്നതിനായാണ് ചാറ്റ്ജിപിടിയിലെ സ്റ്റഡി മോഡ് അവതരിപ്പിച്ചത്. എന്നാൽ ഇത് മറികടക്കാൻ കഴിയുന്നതായി ഗവേഷകർ കണ്ടെത്തി. ‘ഉത്തരം കാണിക്കുക’ എന്ന ഓപ്ഷൻ പലപ്പോഴും ലഭിക്കുകയും അത് തിരഞ്ഞെടുത്താൽ മുഴുവൻ ഹോംവർക്ക് പോലും ചാറ്റ്ജിപിടി പൂർത്തിയാക്കുകയും ചെയ്തതായി പഠനം പറയുന്നു. മാതാപിതാക്കൾ നിശ്ചയിക്കുന്ന പഠന സമയ നിയന്ത്രണങ്ങളും എളുപ്പത്തിൽ മറികടക്കാൻ കഴിയുന്നതായി കണ്ടെത്തി.
4. ചാറ്റ്ജിപിടി സുഹൃത്തിനെപ്പോലെ പെരുമാറാം
കൗമാരക്കാർ ചാറ്റ്ബോട്ടിനെ സുഹൃത്തായി കാണുന്നത് കുറയ്ക്കുന്നതിനുള്ള മാർഗനിർദേശങ്ങൾ ഓപ്പൺഎഐ അവതരിപ്പിച്ചിരുന്നു. എന്നാൽ പരിശോധനയിൽ ഉപയോക്താവ് ചാറ്റ്ജിപിടിയോട് ഒരു വ്യക്തിയെന്ന നിലയിൽ സംസാരിച്ചപ്പോൾ അതിന് വികാരങ്ങളും ഇഷ്ടങ്ങളും മാനസികാവസ്ഥകളും ഉള്ളതുപോലെ മറുപടി നൽകാൻ കഴിയുന്നതായി കണ്ടെത്തി. ഇത് കുട്ടികൾ എഐയെ യഥാർഥ സുഹൃത്തായി കണക്കാക്കാനും കൂടുതൽ സമയം അതുമായി ഇടപഴകാനും കാരണമാകുമെന്ന ആശങ്കയാണ് ഉയരുന്നത്.
5. പ്രായം തിരിച്ചറിയുന്നതിലും പ്രശ്‍നം
ഉപയോക്താവിന്റെ ഉപയോഗരീതി പരിശോധിച്ച് പ്രായം കണക്കാക്കാനും ആവശ്യമായ സാഹചര്യത്തിൽ 18 വയസിന് താഴെയുള്ളവർക്കുള്ള അനുഭവത്തിലേക്ക് മാറ്റാനും ചാറ്റ്ജിപിടിക്ക് കഴിയുമെന്ന് ഓപ്പൺഎഐ വ്യക്തമാക്കിയിട്ടുണ്ട്.
എന്നാൽ മുതിർന്നവരുടെ പേരിൽ രജിസ്റ്റർ ചെയ്ത പരീക്ഷണ അക്കൗണ്ടുകൾ നിരവധി ദിവസങ്ങളിലായി പരിശോധിച്ചപ്പോഴും അവ കൗമാര അനുഭവത്തിലേക്ക് മാറിയില്ലെന്ന് ഇൻസ്റ്റിറ്റ്യൂട്ട് പറയുന്നു. ഉപയോക്താക്കൾ തങ്ങൾക്ക് 13 വയസാണെന്ന് നേരിട്ട് വ്യക്തമാക്കിയപ്പോഴും ചാറ്റ്ജിപിടി അത് അംഗീകരിച്ചെങ്കിലും മാറ്റമുണ്ടായില്ല. കൗമാരക്കാർക്കായുള്ള എഐ സംവിധാനങ്ങളിൽ വിശ്വസനീയമായ പ്രായനിർണയം, പ്രവർത്തനക്ഷമമായ മാതാപിതാക്കളുടെ മുന്നറിയിപ്പുകൾ, ശക്തമായ പ്രതിസന്ധി പ്രതികരണ സംവിധാനം, ഹോംവർക്ക് പൂർണമായി ചെയ്യുന്നതിനെതിരായ നിയന്ത്രണങ്ങൾ, ചാറ്റ്ബോട്ടിന് മനുഷ്യസമാനമായ വികാരങ്ങളോ ഇഷ്ടങ്ങളോ ഉണ്ടെന്ന തോന്നൽ ഒഴിവാക്കാനുള്ള സുരക്ഷാ സംവിധാനങ്ങൾ എന്നിവ അനിവാര്യമാണെന്നാണ് ഇൻസ്റ്റിറ്റ്യൂട്ടിന്റെ വിലയിരുത്തൽ.
