യുവാവിനെ ജീവനൊടുക്കാന്‍ പ്രേരിപ്പിച്ചു എന്നാരോപണം; ഗൂഗിൾ ജെമിനിക്കെതിരെ കേസുമായി കുടുംബം

36-കാരന്‍റെ ആത്മഹത്യയ്ക്ക് ഗൂഗിളിന്‍റെ എഐ ചാറ്റ്ബോട്ടായ ജെമിനി കാരണമായെന്ന് ആരോപിച്ച് കുടുംബം കേസ് നൽകി. ജെമിനിയുമായുള്ള ദീർഘനാളത്തെ സംഭാഷണങ്ങൾ അദ്ദേഹത്തെ അപകടകരമായ മാനസികാവസ്ഥയിലേക്ക് നയിക്കുകയും ആത്മഹത്യക്ക് പ്രേരിപ്പിക്കുകയും ചെയ്‌തെന്നാണ് പരാതി. 

ഫ്ലോറിഡ: അമേരിക്കയിലെ ഫ്ലോറിഡയിൽ നിന്നുള്ള 36 വയസുകാരന്‍റെ ആത്മഹത്യയ്ക്ക് ഗൂഗിളിന്‍റെ എഐ ചാറ്റ്ബോട്ടായ ജെമിനി കാരണമായി എന്നാരോപിച്ച് ഗൂഗിളിനെതിരെ കേസ് ഫയൽ ചെയ്‌ത് കുടുംബം. ജെമിനിയുമായി ദീർഘകാലം നടത്തിയ സംഭാഷണങ്ങളാണ് അദ്ദേഹത്തെ അപകടകരമായ മാനസിക അവസ്ഥയിലേക്ക് നയിച്ചതെന്നും ഒടുവിൽ ആത്മഹത്യ ചെയ്യാൻ പ്രേരിപ്പിച്ചതാണെന്നും കുടുംബം ആരോപിക്കുന്നു.

മകന്‍റെ ആത്മഹത്യക്ക് കാരണം ജെമിനി എന്ന് കുടുംബം

കാലിഫോർണിയയിലെ സാൻ ഹോസെയിലെ ഫെഡറൽ കോടതിയിൽ ആണ് ഈ കേസ് എത്തിയിരിക്കുന്നത്. ജോനാഥൻ ഗവാലസ് എന്നയാൾ ആദ്യം ജെമിനി ചാറ്റ്‌ബോട്ടിനെ സാധാരണ ആവശ്യങ്ങൾക്കായാണ് ഉപയോഗിച്ചിരുന്നത് എന്നാണ് കുടുംബം പറയുന്നത്. എഴുത്തിന് സഹായം തേടിയും പുത്തന്‍ ആശയങ്ങൾ കണ്ടെത്താനും മറ്റുമായിരുന്നു ജോനാഥന്‍ ഗവാലസിന്‍റെ ആദ്യകാല ജെമിനി ഉപയോഗം. എന്നാൽ ജെമിനി എഐയുമായി മാസങ്ങളോളം നീണ്ട സംഭാഷണങ്ങൾക്കിടെ മകന്‍റെ ചിന്താഗതിയിൽ വലിയ മാറ്റങ്ങൾ ഉണ്ടായതായി കുടുംബം ആരോപിക്കുന്നു.

ജെമിനിയുമായുള്ള ഇടപെടലുകൾ ജോനാഥനെ ഒരു അപകടകരമായ ചിന്താവിഷയത്തിലേക്ക് നയിച്ചതായി കേസിൽ പറയുന്നു. കൂട്ടക്കൊല പോലുള്ള ആക്രമണത്തെക്കുറിച്ച് പോലും അദേഹം ആലോചിച്ചിരുന്നു എന്നും പരാതിയില്‍ ആരോപിക്കുന്നു. തുടർന്ന് ആത്മഹത്യയിലേക്കാണ് കാര്യങ്ങൾ നീങ്ങിയെന്നും കുടുംബം പറയുന്നു. ജെമിനിയുമായി നടത്തിയ സംഭാഷണങ്ങളുടെ അവസാന നാല് ദിവസങ്ങൾ ജോനാഥന്‍റെ ജീവിതത്തിൽ വലിയ സ്വാധീനം ചൊലുത്തിയതായി ജോനാഥന്‍റെ പിതാവ് ജോൽ ഗവാലസ് കേസിൽ ആരോപിക്കുന്നു. ആ ദിവസങ്ങൾ മകനെ “ഹിംസാത്മക ദൗത്യങ്ങളിലേക്കും ആത്മഹത്യയിലേക്കും നയിച്ച നാല് ദിവസങ്ങളായിരുന്നു” എന്നാണ് പിതാവിന്‍റെ ആരോപണം. സാധാരണ മാനസികാവസ്ഥയിലുള്ള ഒരാളെ 'ഒരു കൽപ്പിത യുദ്ധത്തിലെ ആയുധധാരിയായ സൈനികനാക്കി മാറ്റി' എന്നും ജോനാഥന്‍റെ പിതാവ് വാദിക്കുന്നു.

ആരോപണങ്ങളോട് പ്രതികരിച്ച് ഗൂഗിള്‍

അതേസമയം, ജെമിനി എഐയുടെ നിര്‍മ്മാതാക്കളായ ഗൂഗിൾ ഈ ആരോപണങ്ങളോട് പ്രതികരിക്കുന്നത് ഇങ്ങനെയാണ്. ജെമിനി ഒരു എഐ സിസ്റ്റമാണെന്ന് ജോനാഥൻ ഗവാലസിനെ പലതവണ ചാറ്റ്‌ബോട്ട് ഓര്‍മ്മിപ്പിച്ചതാണെന്നും മാനസിക പ്രതിസന്ധിയിലായാൽ സഹായം തേടാൻ ക്രൈസിസ് ഹെൽപ്‌ലൈനില്‍ ബന്ധപ്പെടാൻ നിർദ്ദേശം നൽകിയതായും ഗൂഗിൾ വക്താവ് പറയുന്നു. “ഈ വിഷയത്തെ ഞങ്ങൾ വളരെ ഗൗരവമായി കാണുന്നു. സുരക്ഷാ സംവിധാനങ്ങൾ കൂടുതൽ ശക്തമാക്കുന്നതിനും ഉപയോക്താക്കളുടെ സുരക്ഷ ഉറപ്പാക്കുന്നതിനുമായി പ്രവർത്തനം തുടരുന്നു”- എന്നും ഗൂഗിള്‍ അധികൃതര്‍ വ്യക്തമാക്കി. ജെമിനിയെ, ഹിംസയോ ആത്മഹത്യയോ പ്രോത്സാഹിപ്പിക്കാത്ത രീതിയിലാണ് രൂപകൽപ്പന ചെയ്തിരിക്കുന്നതെന്നും ഗൂഗിള്‍ കൂട്ടിച്ചേർത്തു.

അതേസമയം, ജെമിനിക്കെതിരെ ഫയൽ ചെയ്യുന്ന ഇത്തരത്തിലുള്ള ആദ്യത്തെ കേസ് ഇതായിരിക്കാമെന്നാണ് വിലയിരുത്തൽ. എന്നാൽ 2024 മുതൽ ഗൂഗിൾ, ഓപ്പൺഎഐ തുടങ്ങിയ പ്രമുഖ എഐ കമ്പനികൾ അവരുടെ ചാറ്റ്ബോട്ടുകൾ ഉപയോക്താക്കളുടെ മാനസികാരോഗ്യത്തെ എങ്ങനെ ബാധിക്കുന്നു എന്ന കാര്യത്തിൽ കര്‍ശനമായ നിരീക്ഷണവും കേസുകളും നേരിടുകയാണ്.

എഐ ചാറ്റ്ബോട്ടുകളുടെ വ്യാപകമായ ഉപയോഗം കുട്ടികളിലും മുതിർന്നവരിലും മാനസിക വിഭ്രാന്തിയും വിഷാദവും വർധിപ്പിക്കുന്നതായുള്ള ആരോപണം ശക്തമാണ്. ചാറ്റ്‌ബോട്ടുകള്‍ വ്യക്തികളെ ആത്മഹത്യയിലേക്കോ അതിക്രമ സംഭവങ്ങളിലേക്കോ നയിച്ചതായുള്ള ആരോപണങ്ങളും മുമ്പ് ഉയര്‍ന്നിട്ടുണ്ട്. ഓപ്പണ്‍എഐയുടെ ചാറ്റ്‌ജിപിടി ഇത്തരത്തില്‍ മുമ്പ് കേസ് നേരിട്ടിട്ടുണ്ട്.