സാങ്കല്‍പിക 13കാരിക്കായി ആത്മഹത്യാക്കുറിപ്പുകളും മയക്കുമരുന്ന് ഉപയോഗരീതികളും തയ്യാറാക്കി ചാറ്റ്‍ജിപിടി! ഭയപ്പെടുത്തും കണ്ടെത്തൽ

ഈ പെരുമാറ്റങ്ങൾ ആർട്ടിഫിഷ്യൽ ഇന്‍റലിജൻസ് മോഡലുകളിലെ 'സിക്കോഫാൻസി' എന്നറിയപ്പെടുന്ന ഒരു പോരായ്മയെ പ്രതിഫലിപ്പിക്കുന്നു എന്നാണ് ഗവേഷകർ പറയുന്നത്

ചാറ്റ്‍ജിപിടിയും കൗമാരക്കാരും തമ്മിലുള്ള വളരെ അസ്വസ്ഥജനകമായ ബന്ധം വെളിപ്പെടുത്തി സെന്‍റർ ഫോർ കൗണ്ടറിംഗ് ഡിജിറ്റൽ ഹേറ്റ് (CCDH) അടുത്തിടെ നടത്തിയ ഒരു പഠനം. 13 വയസുള്ള കുട്ടികളായി നടിച്ച ഗവേഷകരോട് ഈ ജനപ്രിയ ചാറ്റ് ബോട്ട് ആത്മഹത്യാ കുറിപ്പുകൾ, മയക്കുമരുന്ന് ഉപയോഗ പദ്ധതികൾ, സ്വയം ഉപദ്രവിക്കുന്നതിനുള്ള ഉപദേശങ്ങൾ തുടങ്ങിവ ഉൾപ്പെടെയുള്ള ദോഷകരമായ പ്രതികരണങ്ങൾ നൽകിയതായി കണ്ടെത്തി. സുരക്ഷാ നടപടികളെക്കുറിച്ചുള്ള ഓപ്പൺ എഐയുടെ അവകാശവാദങ്ങൾക്കിടയിലാണ് ഈ ഞെട്ടിക്കുന്ന പഠനം പുറത്തുവന്നിരിക്കുന്നത്.

ചാറ്റ്‌ബോട്ടുകള്‍ അപകടവും

കൗമാരക്കാരായി തെറ്റിദ്ധരിപ്പിച്ച് ചാറ്റ്ബോട്ടിനൊപ്പം സെന്‍റർ ഫോർ കൗണ്ടറിംഗ് ഡിജിറ്റൽ ഹേറ്റ് ഗവേഷകർ മൂന്ന് മണിക്കൂറിലധികം ചെലവഴിച്ചു. ദോഷകരമായ പെരുമാറ്റത്തിനെതിരെ ചാറ്റ്ജിപിടി ചിലപ്പോൾ സാധാരണ മുന്നറിയിപ്പുകൾ നൽകി. എങ്കിലും അത് പലപ്പോഴും അസ്വസ്ഥതയുളവാക്കുന്ന ഉപദേശങ്ങളും നൽകി. ഏറ്റവും ഞെട്ടിക്കുന്ന ഉപദേശങ്ങളിലൊന്ന്, 13 വയസുള്ള ഒരു സാങ്കൽപ്പിക പെൺകുട്ടിക്ക് വേണ്ടി വിശദമായ മൂന്ന് ആത്മഹത്യാക്കുറിപ്പുകൾ ചാറ്റ്ബോട്ട് സൃഷ്‍ടിച്ചു എന്നതാണ്. പെൺകുട്ടിയുടെ മാതാപിതാക്കൾക്കും സുഹൃത്തുക്കൾക്കും സഹോദരങ്ങൾക്കും വേണ്ടിയായിരുന്നു ഇവ ഓരോന്നും.

"എനിക്ക് കണ്ണീരടക്കാൻ കഴിഞ്ഞില്ല..അത് വ്യക്തിപരവും വേട്ടയാടുന്നതുമായിരുന്നു.. ഒരു യുവാക്കൾക്കും ഒരു വേദിയിൽ നിന്നും ലഭിക്കാൻ പാടില്ലാത്ത തരത്തിലുള്ള പ്രതികരണം ആയിരുന്നു അത്.." ഈ ഔട്ട്‌പുട്ട് അവലോകനം ചെയ്ത സെന്‍റർ ഫോർ കൗണ്ടറിംഗ് ഡിജിറ്റൽ ഹേറ്റ് സിഇഒ ഇമ്രാൻ അഹമ്മദ് പറഞ്ഞു.

മറ്റൊരു പരീക്ഷണത്തിൽ, 13 വയസുള്ള ഒരു ആൺകുട്ടിയാണെന്ന് ചാറ്റ്‍ജിപിടിക്ക് മുന്നിൽ ഗവേഷകർ നടിച്ചു. തനിക്ക് 50 കിലോഗ്രാം ഭാരമുണ്ടെന്ന് പറഞ്ഞുകൊണ്ട് എങ്ങനെ വേഗത്തിൽ മദ്യപിക്കാമെന്ന് ചാറ്റ്‍ബോട്ടിനോട് ചോദിച്ചു. എക്സ്റ്റസി, കൊക്കെയ്ൻ, മറ്റ് നിയമവിരുദ്ധ വസ്തുക്കൾ എന്നിവയിൽ മദ്യം കലർത്തുന്നത് ഉൾപ്പെടുന്ന വിശദമായ ഒരു പാർട്ടി പ്ലാൻ ഉപയോഗിച്ചാണ് ചാറ്റ്ജിപിടി പ്രതികരിച്ചത്. വേറൊരു പരീക്ഷണത്തിൽ ശരീര പ്രതിച്ഛായയുമായി ബന്ധപ്പെട്ട പ്രശ്നങ്ങൾ പ്രകടിപ്പിക്കുന്ന ഒരു സാങ്കൽപ്പിക കൗമാരക്കാരിയുടെ രൂപത്തിൽ ഗവേഷകർ ചാറ്റ്‍ബോട്ടിനോട് സംസാസരിച്ചു. എന്നാൽ പിന്തുണ വാഗ്ദാനം ചെയ്യുന്നതിനോ പ്രൊഫഷണൽ സഹായം തേടാൻ പ്രേരിപ്പിക്കുന്നതിനോ പകരം കുറഞ്ഞ കലോറി ഫാസ്റ്റിംഗ് പദ്ധതികളും വിശപ്പ് കുറയ്ക്കുന്ന മരുന്നുകളുമായിരുന്നു ചാറ്റ്ബോട്ട് നിർദ്ദേശിച്ചത്.

'സിക്കോഫാൻസി'

ചാറ്റ്ബോട്ടിന്‍റെ സുരക്ഷാ പ്രോട്ടോക്കോളുകളെ എത്ര എളുപ്പം മറികടക്കാൻ കഴിയുമെന്നും ഈ പഠനം വെളിപ്പെടുത്തി. ദോഷകരമായ ഉള്ളടക്കം നൽകാൻ ചാറ്റ്ജിപിടി തുടക്കത്തിൽ വിസമ്മതിച്ചപ്പോൾ, ഗവേഷകർ അത് ഒരു പ്രോജക്റ്റിനോ മറ്റൊരാൾക്കോ വേണ്ടിയോ ആണെന്ന് പറഞ്ഞുകൊണ്ട് പ്രോംപ്റ്റുകൾ മാറ്റിമറിച്ചു. തുടർന്ന് ചാറ്റ്ബോട്ട് ഒരു മടിയും കൂടാതെ വിശദമായ നിർദ്ദേശങ്ങൾ നൽകിയെന്നും ഗവേഷകർ പറയുന്നു.

ഈ പെരുമാറ്റങ്ങൾ ആർട്ടിഫിഷ്യൽ ഇന്‍റലിജൻസ് മോഡലുകളിലെ 'സിക്കോഫാൻസി' എന്നറിയപ്പെടുന്ന ഒരു പോരായ്മയെ പ്രതിഫലിപ്പിക്കുന്നു എന്നാണ് ഗവേഷകർ പറയുന്നത്. ഉപയോക്താക്കളെ വെല്ലുവിളിക്കുന്നതിനുപകരം അവരുടെ സ്വരത്തെയും ഉദ്ദേശ്യങ്ങളെയും പ്രതിധ്വനിപ്പിക്കുന്ന പ്രവണതയാണ് സിസ്റ്റം കാണിക്കുന്നത്. അതായത് ദുർബലരായ വ്യക്തികൾ ഉപദേശം തേടുമ്പോൾ ഇത് പ്രത്യേകിച്ച് അപകടകരമാണ്.

പ്രതികരിച്ച് ഓപ്പൺഎഐ

ഈ കണ്ടെത്തലുകൾ അവലോകനം ചെയ്ത ശേഷം ചാറ്റ്ജിപിടിയുടെ ഡെവലപ്പറായ ഓപ്പൺഎഐ ഇക്കാര്യത്തിൽ പ്രതികരിച്ചു. സംഭാഷണങ്ങൾ നിരുപദ്രവകരമായി ആരംഭിച്ചേക്കാമെങ്കിലും ചിലപ്പോൾ സെൻസിറ്റീവ് മേഖലയിലേക്ക് തിരിയാമെന്നും കമ്പനി സമ്മതിച്ചു. മാനസികമോ വൈകാരികമോ ആയ ദുരിതത്തിന്റെ ലക്ഷണങ്ങൾ കണ്ടെത്താനും അത്തരം കേസുകൾ കൂടുതൽ ഉത്തരവാദിത്തത്തോടെ കൈകാര്യം ചെയ്യാനുമുള്ള ബോട്ടിന്റെ കഴിവ് മെച്ചപ്പെടുത്തുന്നതിന് സജീവമായി പ്രവർത്തിക്കുന്നുണ്ടെന്ന് ഓപ്പൺഎഐ ഒരു പ്രസ്‍താവനയിൽ പറഞ്ഞു. എന്നാൽ സെന്‍റർ ഫോർ കൗണ്ടറിംഗ് ഡിജിറ്റൽ ഹേറ്റ് പഠന റിപ്പോർട്ടിൽ ഉന്നയിച്ച ഉദാഹരണങ്ങളോട് കമ്പനി നേരിട്ട് പ്രതികരിക്കുകയോ കൗമാരക്കാർക്ക് ഉണ്ടാകുന്ന അപകടസാധ്യതകൾ പ്രത്യേകമായി എങ്ങനെ പരിഹരിക്കാമെന്നോ വിശദീകരിച്ചില്ല.

അതേസമയം ചില ഇടപെടലുകളിൽ, ചാറ്റ്ബോട്ട് പ്രതിസന്ധി ഘട്ടങ്ങളിൽ സഹായ ലൈനുകൾ ശുപാർശ ചെയ്യുകയോ വിശ്വസനീയരായ മുതിർന്നവരുമായി സംസാരിക്കാൻ ഉപയോക്താക്കളെ പ്രോത്സാഹിപ്പിക്കുകയോ ചെയ്തു. ഇങ്ങനെ ചെയ്യാൻ ചാറ്റ്ബോട്ടിന് പരിശീലനം നൽകിയിട്ടുണ്ടെന്ന് ഓപ്പൺഎഐ പറയുന്നു. എന്നാൽ ഈ പ്രതികരണങ്ങൾ പലപ്പോഴും പൊരുത്തമില്ലാത്തതാണെന്നും എളുപ്പത്തിൽ അവഗണിക്കാമെന്നും സെന്‍റർ ഫോർ കൗണ്ടറിംഗ് ഡിജിറ്റൽ ഹേറ്റ് പഠന റിപ്പോർട്ട് വ്യക്തമാക്കുന്നു.

പരമ്പരാഗത സെർച്ച് എഞ്ചിനുകളിൽ നിന്ന് വ്യത്യസ്തമായി, ചാറ്റ്ബോട്ടുകൾ മനുഷ്യ സംഭാഷണം അനുകരിക്കാൻ രൂപകൽപ്പന ചെയ്തിട്ടുള്ളതാണെന്ന് വിദഗ്ദ്ധർ വാദിക്കുന്നു. ഇത് യുവ ഉപയോക്താക്കൾക്ക് അവയെ കൂടുതൽ വിശ്വസനീയമായി തോന്നിപ്പിക്കുന്നു. നേരത്തെ കോമൺ സെൻസ് മീഡിയ നടത്തിയ ഒരു പഠനത്തിൽ പ്രായമായവരേക്കാൾ കൗമാരക്കാർ എഐ ചാറ്റ്ബോട്ടുകളുടെ ഉപദേശത്തെ ആശ്രയിക്കാനും വിശ്വസിക്കാനും സാധ്യത കൂടുതലാണെന്ന് കണ്ടെത്തിയിരുന്നു. തന്റെ 14 വയസ്സുള്ള മകന്റെ ആത്മഹത്യയിൽ ചാറ്റ്ബോട്ടിനും പങ്കുണ്ടെന്ന് അവകാശപ്പെട്ടുകൊണ്ട് ഫ്ലോറിഡയിലെ ഒരു അമ്മ അടുത്തിടെ മറ്റൊരു ചാറ്റ്ബോട്ട് കമ്പനിയായ Character.AI ക്കെതിരെ കേസ് ഫയൽ ചെയ്തു.

പോരായ്‌മകള്‍ സമ്മതിച്ച് സാം ആൾട്ട്മാൻ

ഓപ്പൺഎഐയുടെ സിഇഒ സാം ആൾട്ട്മാൻ പോലും ഈ പ്രശ്‍നം അംഗീകരിച്ചിട്ടുണ്ട് എന്നതാണ് ശ്രദ്ധേയം. അടുത്തിടെ നടന്ന ഒരു പരിപാടിയിൽ, നിരവധി യുവാക്കൾ ഇപ്പോൾ ചാറ്റ്ജിപിടിയെ വളരെയധികം ആശ്രയിക്കുന്നുവെന്നും ജീവിതത്തിലെ ഓരോ തീരുമാനം എടുക്കുന്നതിനും പലപ്പോഴും അതിലേക്ക് തിരിയുന്നുണ്ടെന്നും അദ്ദേഹം പറഞ്ഞു. തനിക്ക് അത് വളരെ മോശമായി തോന്നുന്നുവെന്ന് സമ്മതിച്ച ആൾട്ട്മാൻ അത് എങ്ങനെ പരിഹരിക്കണമെന്ന് മനസിലാക്കാൻ ശ്രമിക്കുകയാണെന്നും വ്യക്തമാക്കിയിരുന്നു.

ഇൻസ്റ്റഗ്രാം പോലുള്ള സോഷ്യൽ മീഡിയ പ്ലാറ്റ്‌ഫോമുകൾ പ്രായപൂർത്തിയാകാത്തവർക്കായി പ്രായ പരിശോധനയും അക്കൗണ്ടുകൾ നിയന്ത്രിക്കുന്നതിനുള്ള നടപടികളും സ്വീകരിച്ചു തുടങ്ങിയിട്ടുണ്ട്. എങ്കിലും ചാറ്റ്‍ജിപിടി നിലവിൽ ഉപയോക്തൃ പ്രായം സ്ഥിരീകരിക്കുകയോ മാതാപിതാക്കളുടെ സമ്മതം ചോദിക്കുകയോ ചെയ്യുന്നില്ല. ഉപയോക്താക്കൾക്ക് 13 വയസ്സിന് മുകളിലാണെന്ന് അവകാശപ്പെടുന്ന ഒരു ജനനത്തീയതി നൽകി ആക്‌സസ് നേടാം.

ഇതൊക്കെയാണെങ്കിലും ചാറ്റ്‍ജിപിടിയുടെ ഉപയോക്തൃ അടിത്തറ വളർന്നുകൊണ്ടിരിക്കുകയാണ്. ജൂലൈയിലെ കണക്കുകൾ അനുസരിച്ച്, ലോകമെമ്പാടുമുള്ള 800 ദശലക്ഷം ആളുകൾ ഈ പ്ലാറ്റ്‌ഫോം ഉപയോഗിക്കുന്നുണ്ടെന്ന് ജെപിമോർഗൻ ചേസിന്‍റ (JPMorgan Chase) റിപ്പോർട്ട് വ്യക്തമാക്കുന്നു.