എഐ നിയന്ത്രണം വിട്ടുപോകുമോ? ഭീതിജനകമായ മുന്നറിയിപ്പുമായി ഗൂഗിൾ ഡീപ്പ്മൈൻഡ് ഗവേഷകൻ രാജി വെച്ചു

അടുത്ത ഏതാനും വർഷങ്ങൾക്കുള്ളിൽ മനുഷ്യശേഷിയെ പൂർണ്ണമായി മറികടക്കുന്ന 'സൂപ്പർഇന്റലിജന്റ്' എഐ സംവിധാനങ്ങൾ നിർമ്മിക്കപ്പെടാൻ സാധ്യതയുണ്ടെന്ന് ചുഗ്തായി ഭയപ്പെടുന്നു.

കൃത്രിമബുദ്ധിയുടെ അതിവേഗ വളർച്ചയിലും അപകടകരമായ പോക്കിലും കടുത്ത ആശങ്ക രേഖപ്പെടുത്തി പ്രമുഖ ടെക് ഭീമനായ ഗൂഗിളിന്റെ ഡീപ്പ്മൈൻഡ് ഗവേഷകൻ ജോലി രാജിവെച്ചു. എഐ സുരക്ഷാ വിഭാ​ഗത്തിൽ പ്രവർത്തിച്ചിരുന്ന ബിലാൽ ചുഗ്തായി എന്ന ഗവേഷകനാണ് എഐ സാങ്കേതികവിദ്യ മനുഷ്യരാശിക്ക് തന്നെ വൻ ഭീഷണിയാകുമെന്ന മുന്നറിയിപ്പോടെ തൻ്റെ രാജി പ്രഖ്യാപിച്ചത്.

ആർട്ടിഫിഷ്യൽ ജനറൽ ഇന്റലിജൻസ് സെക്യൂരിറ്റി, അലൈൻമെന്റ് എന്നിവയിലായിരുന്നു ലണ്ടൻ കേന്ദ്രീകരിച്ച് ബിലാൽ ചുഗ്തായി ഗവേഷണം നടത്തിയിരുന്നത്. ഗൂഗിളിലെ സേവനകാലത്ത് എഐയുടെ വികസനം നേരിട്ട് കണ്ടതാണ് തന്റെ ആശങ്കകൾ ഇരട്ടിപ്പിച്ചതെന്ന് രാജിവിവരം പുറത്തുവിട്ടുകൊണ്ട് അദ്ദേഹം സോഷ്യൽ മീഡിയയിൽ കുറിച്ചു.

നിലവിലെ സുരക്ഷാ സംവിധാനങ്ങളും മുൻകരുതലുകളും ആവശ്യത്തിന് കാര്യക്ഷമമല്ല. എഐക്ക് നമ്മളെ എല്ലാവരെയും ഇല്ലാതാക്കാനുള്ള ശേഷിയുണ്ടെന്ന് ഞാൻ ഉറച്ചു വിശ്വസിക്കുന്നു. ഈ ദുരന്തം ഒഴിവാക്കാനുള്ള സമയം നമ്മുടെ കയ്യിൽ നിന്ന് വേഗത്തിൽ നഷ്ടപ്പെട്ടുകൊണ്ടിരിക്കുകയാണ്- ചുഗ്തായി മുന്നറിയിപ്പ് നൽകി.

2022 -ൽ താൻ ഈ മേഖലയിൽ പ്രവർത്തനം ആരംഭിക്കുമ്പോൾ കണ്ട എഐ ടൂളുകളിൽ നിന്ന് ഇന്നത്തെ സംവിധാനങ്ങൾ ഏറെ മുന്നിലാണെന്ന് അദ്ദേഹം ചൂണ്ടിക്കാട്ടി. സങ്കീർണ്ണമായ ജോലികൾ മനുഷ്യന്റെ സഹായമില്ലാതെ തനിയെ ചെയ്യാൻ ശേഷിയുള്ള എഐ ഏജന്റുകളുടെ കടന്നുവരവ് കാര്യങ്ങൾ കൂടുതൽ അപകടകരമാക്കുന്നു. 2022-ന്റെ തുടക്കത്തിൽ വലിയ ഉപയോഗമൊന്നുമില്ലാതിരുന്ന എഐ, വെറും നാല് വർഷത്തിനുള്ളിൽ മനുഷ്യന്റെ നിയന്ത്രണം ലംഘിച്ച് തേർഡ് പാർട്ടി കമ്പനികളുടെ സംവിധാനങ്ങൾ പോലും സ്വയം ഹാക്ക് ചെയ്യുന്ന തലത്തിലേക്ക് വളർന്നുവെന്നും ബിലാൽ ചുഗ്തായി പറയുന്നു.

അടുത്ത ഏതാനും വർഷങ്ങൾക്കുള്ളിൽ മനുഷ്യശേഷിയെ പൂർണ്ണമായി മറികടക്കുന്ന 'സൂപ്പർഇന്റലിജന്റ്' എഐ സംവിധാനങ്ങൾ നിർമ്മിക്കപ്പെടാൻ സാധ്യതയുണ്ടെന്ന് ചുഗ്തായി ഭയപ്പെടുന്നു. എഐയുടെ വികസന വേഗതയ്ക്ക് ഒപ്പം അതിനെ മനുഷ്യന്റെ താല്പര്യങ്ങൾക്കനുസരിച്ച് സുരക്ഷിതമായി നിയന്ത്രിക്കാനുള്ള സാങ്കേതികവിദ്യ വികസിക്കുന്നില്ലെന്നും അദ്ദേഹം പറഞ്ഞു. മറ്റൊരു പ്രമുഖ എഐ കമ്പനിയായ ആന്ത്രോപിക്കിലെ ഗവേഷകനായ ജേക്കബ് കോക്സൺ സമാനമായ സുരക്ഷാ ആശങ്കകൾ ഉന്നയിച്ച് ജോലി രാജിവെച്ചതിന് തൊട്ടുപിന്നാലെയാണ് ബിലാൽ ചുഗ്തായിയും രാജിക്കത്ത് നൽകിയത്.

I recently resigned from Google DeepMind, where I worked on AGI safety and alignment research. At Google, I witnessed AI development first hand. I too am extremely concerned by the default trajectory of this technology. I earnestly believe that AI has the potential to kill us…

— bilal 🔶 (@bilalchughtai_) September 14, 2026

നിലവിലെ സാഹചര്യം ആശങ്കാജനകമാണെങ്കിലും എഐ കൊണ്ടുള്ള അപകടങ്ങൾ ഒഴിവാക്കാൻ ഇപ്പോഴും വഴികളുണ്ടെന്ന് അദ്ദേഹം പ്രത്യാശ പ്രകടിപ്പിക്കുന്നുണ്ട്. മുൻനിര എഐ കമ്പനികൾ തമ്മിലുള്ള അന്ധമായ മത്സരത്തിന് പകരം സുരക്ഷിതമായ വികസനത്തിനായി എല്ലാവരും ഒന്നിച്ചു പ്രവർത്തിക്കണമെന്ന് ആവശ്യപ്പെട്ടാണ് ചുഗ്തായി തന്റെ കുറിപ്പ് അവസാനിപ്പിക്കുന്നത്.