എഐയെ കണ്ണുമടച്ച് വിശ്വസിക്കരുത്, വലിയ അപകടത്തിലേക്ക് വീണേക്കാം: മൈക്രോസോഫ്റ്റ് സിഇഒ സത്യ നാദെല്ല

ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസിനെ പൂർണ്ണമായി വിശ്വസിക്കുന്നത് വലിയ അപകടങ്ങൾക്ക് കാരണമാകുമെന്ന് മൈക്രോസോഫ്റ്റ് സിഇഒ സത്യ നാദെല്ലയുടെ മുന്നറിയിപ്പ്. എഐയുടെ ബുദ്ധിയും തീരുമാനങ്ങൾ നടപ്പിലാക്കാനുള്ള അധികാരവും വേർതിരിക്കണമെന്നും മനുഷ്യന്റെ നിയന്ത്രണം അനിവാര്യമാണെന്നും അദ്ദേഹം വ്യക്തമാക്കുന്നു.

ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസിനെ കണ്ണടച്ച് വിശ്വസിക്കുന്നത് വലിയ അപകടത്തിന് വഴിവെച്ചേക്കാമെന്ന് മൈക്രോസോഫ്റ്റ് സിഇഒ സത്യ നാദെല്ല. രഹസ്യ വിവരങ്ങളിലേക്കും നിർണായക ജോലികൾ സ്വയം ചെയ്യാനുള്ള അധികാരത്തിലേക്കും എഐ സംവിധാനങ്ങൾക്ക് പ്രവേശനം ലഭിക്കുന്ന സാഹചര്യത്തിൽ കൂടുതൽ ശക്തമായ സുരക്ഷാ സംവിധാനങ്ങൾ ആവശ്യമാണെന്നാണ് അദ്ദേഹത്തിന്റെ മുന്നറിയിപ്പ്. എഐയുടെ അമിതമായ സ്വയംഭരണാധികാരം കമ്പനികൾക്ക് ആഭ്യന്തര സുരക്ഷാ ഭീഷണിയായി മാറിയേക്കാമെന്നും അദ്ദേഹം ചൂണ്ടിക്കാട്ടുന്നു.

എഐയെ വിശ്വസിച്ചാൽ മാത്രം പോരാ

‘മോഡലുകൾ ആഭ്യന്തര സുരക്ഷാ ഭീഷണികളാകുമ്പോൾ: സൂപ്പർ ഇന്റലിജൻസിന്റെ കാലഘട്ടം’ എന്ന തലക്കെട്ടിൽ എക്സിൽ പങ്കുവെച്ച കുറിപ്പിലാണ് നാദെല്ലയുടെ നിരീക്ഷണങ്ങൾ. ചോദ്യങ്ങൾക്ക് മറുപടി നൽകാനും ഇമെയിലുകൾ തയ്യാറാക്കാനും ചിത്രങ്ങൾ സൃഷ്ടിക്കാനും മാത്രമല്ല, കമ്പനികളുടെ വിവരങ്ങൾ കൈകാര്യം ചെയ്യാനും സോഫ്റ്റ്‌വെയറുകൾ പ്രവർത്തിപ്പിക്കാനും എഐ ഏജന്റുകൾക്ക് ഇന്ന് കഴിയും. മനുഷ്യരുടെ ഇടപെടൽ പരിമിതമായിരിക്കെ ജോലികൾ പൂർത്തിയാക്കാൻ ഇത്തരം സംവിധാനങ്ങൾക്ക് കഴിയുന്നത് കമ്പനികളുടെ പ്രവർത്തനക്ഷമത വർധിപ്പിക്കും. എന്നാൽ, എഐ ഒരു തെറ്റായ തീരുമാനം എടുത്താൽ എന്ത് സംഭവിക്കുമെന്നതാണ് പ്രധാന ആശങ്ക.

എഐയുടെ തീരുമാനങ്ങൾ നിരീക്ഷിക്കണം

പരമ്പരാഗത സോഫ്റ്റ്‌വെയറുകളിൽ പിഴവുകൾ സംഭവിച്ചാൽ അതിന്റെ കാരണം കോഡുകൾ പരിശോധിച്ച് കണ്ടെത്താൻ സാധിച്ചേക്കും. എന്നാൽ ഒരു എഐ മോഡൽ എന്തുകൊണ്ടാണ് ഒരു പ്രത്യേക മറുപടി നൽകിയതെന്നോ ഒരു നടപടി സ്വീകരിച്ചതെന്നോ കണ്ടെത്തുക എല്ലായ്പ്പോഴും എളുപ്പമല്ല. മോഡലിന്റെ തീരുമാനങ്ങൾക്ക് പിന്നിലെ കാരണങ്ങൾ കമ്പനികൾക്ക് വ്യക്തമായിരിക്കണമെന്നില്ല.

എഐ വികസിപ്പിക്കുന്ന കമ്പനികൾ നൽകുന്ന സുരക്ഷാ ഉറപ്പുകളെ മാത്രം ആശ്രയിക്കരുതെന്നാണ് നാദെല്ലയുടെ നിലപാട്. സുരക്ഷ മുൻനിർത്തി രൂപകൽപ്പന ചെയ്ത എഐ സംവിധാനങ്ങൾക്കുപോലും അപ്രതീക്ഷിതമായി പെരുമാറാനോ സുരക്ഷാ വീഴ്ചകൾ സംഭവിക്കാനോ സാധ്യതയുണ്ടെന്നും അദ്ദേഹം മുന്നറിയിപ്പ് നൽകുന്നു.

ബുദ്ധിയും അധികാരവും വേർതിരിക്കണം

എഐക്ക് സാമ്പത്തിക ഇടപാടുകൾ നിർദേശിക്കാനും രഹസ്യ വിവരങ്ങൾ വിശകലനം ചെയ്യാനും കമ്പ്യൂട്ടർ സംവിധാനങ്ങളിലെ ക്രമീകരണങ്ങൾ മാറ്റാനും കഴിയും. എന്നാൽ ഇത്തരം നിർദേശങ്ങൾ സ്വയം നടപ്പാക്കാനുള്ള പൂർണ അധികാരം അതിന് നൽകേണ്ടതില്ലെന്നാണ് നാദെല്ലയുടെ അഭിപ്രായം.

“ബുദ്ധി നൽകുന്ന സംവിധാനത്തെയും അതിനുമേലുള്ള അധികാരത്തെയും വേർതിരിക്കണം,” എന്നാണ് അദ്ദേഹം പറയുന്നത്. എഐ എന്ത് ചെയ്യണമെന്ന് നിർദേശിക്കുന്നതും അതിന് എന്തൊക്കെ ചെയ്യാൻ അനുമതിയുണ്ടെന്ന് തീരുമാനിക്കുന്നതും വ്യത്യസ്‍ത സംവിധാനങ്ങളായിരിക്കണം. എഐയുടെ പ്രവർത്തനങ്ങൾ നിയന്ത്രിക്കുന്നതിന് സ്വതന്ത്രമായ സുരക്ഷാ സംവിധാനങ്ങൾ ആവശ്യമാണ്.

എഐക്ക് നിയന്ത്രണങ്ങൾ അനിവാര്യം

എഐ ഏജന്റുകൾ നടത്തുന്ന പ്രവർത്തനങ്ങളുടെ രേഖകൾ സൂക്ഷിക്കണം. സുരക്ഷാ വീഴ്ചകൾ കണ്ടെത്താൻ സംവിധാനങ്ങൾ പതിവായി പരിശോധിക്കുകയും ആവശ്യമായ സമയത്ത് എഐയുടെ പ്രവർത്തനം നിർത്താൻ മനുഷ്യർക്ക് അധികാരം ഉറപ്പാക്കുകയും വേണം. ഒരു എഐ മോഡലിനെ മറ്റൊരു മോഡൽ ഉപയോഗിച്ച് മാത്രം പരിശോധിക്കുന്നതും അപകടകരമാണ്. സ്വതന്ത്ര പരിശോധനകളില്ലെങ്കിൽ മോഡലുകൾക്ക് പരസ്‍പരമുള്ള പിഴവുകൾ കണ്ടെത്താൻ കഴിയാതെ വന്നേക്കാമെന്നും അദ്ദേഹം പറയുന്നു.

എഐ സംവിധാനങ്ങളിൽ തകരാറുകളോ സുരക്ഷാ വീഴ്ചകളോ സംഭവിച്ചാൽ അവ സമയബന്ധിതമായി വെളിപ്പെടുത്തണമെന്നും നാദെല്ല ആവശ്യപ്പെടുന്നു. ഇത്തരം സംഭവങ്ങളിൽ നിന്ന് മറ്റുള്ളവർക്ക് പാഠങ്ങൾ ഉൾക്കൊള്ളാൻ ഇത് സഹായിക്കും. ഏറ്റവും വിശ്വസനീയമായ എഐ സംവിധാനം എന്നത് ഏറ്റവും കൂടുതൽ വിശ്വാസം ആവശ്യപ്പെടുന്ന സംവിധാനമല്ലെന്നും മറിച്ച് എഐയെ ഏറ്റവും കുറഞ്ഞ രീതിയിൽ മാത്രം ആശ്രയിച്ചുകൊണ്ടും അതിന്റെ പ്രവർത്തനങ്ങൾ നിയന്ത്രിച്ചുകൊണ്ടും സുരക്ഷ ഉറപ്പാക്കാൻ കഴിയുന്ന സംവിധാനമാണെന്നതാണ് നാദെല്ലയുടെ സന്ദേശം.