കൃത്രിമ ബുദ്ധി (എഐ) മനുഷ്യർക്ക് നിയന്ത്രിക്കാൻ കഴിയാത്തത്ര ശക്തമാകുമെന്നും ഇത് മനുഷ്യരാശിയുടെ നിലനിൽപ്പിന് തന്നെ ഭീഷണിയാകാമെന്നും ഓപ്പൺഎഐ ഗവേഷകനായ ഡാനിയൽ സെൽസം മുന്നറിയിപ്പ് നൽകുന്നു. എഐ സംവിധാനങ്ങൾ സ്വയം മെച്ചപ്പെടുത്തുകയും നിരീക്ഷണങ്ങളെ കബളിപ്പിക്കുകയും ചെയ്തേക്കാം.
കൂടുതൽ ശക്തവും കാര്യക്ഷമവുമായി മാറുന്ന ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് സംവിധാനങ്ങളെക്കുറിച്ചുള്ള ആശങ്കകൾ സിലിക്കൺ വാലിയിൽ ശക്തമാകുന്നതിനിടെ പുതിയ മുന്നറിയിപ്പുമായി ഓപ്പൺഎഐ ഗവേഷകൻ. മനുഷ്യർക്ക് നിയന്ത്രിക്കാൻ കഴിയാത്തത്ര ശക്തമായ നിലയിലേക്ക് കൃത്രിമ ബുദ്ധി വളരാൻ സാധ്യതയുണ്ടെന്നും, അത്തരമൊരു സാഹചര്യം മനുഷ്യരാശിയുടെ നിലനിൽപ്പിന് തന്നെ ഭീഷണിയാകാമെന്നും ഓപ്പൺഎഐ ഗവേഷകനായ ഡാനിയൽ സെൽസം മുന്നറിയിപ്പ് നൽകി.
2022 മുതൽ ഓപ്പൺഎഐയിൽ ഗവേഷകനായി പ്രവർത്തിക്കുന്ന സെൽസം, കൃത്രിമ ബുദ്ധിയുടെ അപകടസാധ്യതകളെക്കുറിച്ചുള്ള തന്റെ വ്യക്തിപരമായ നിലപാട് അടുത്തിടെ പരസ്യമാക്കി. ഭാഷാ മാതൃകകളുടെ അതിവേഗ വളർച്ചയും ഭാവിയിലെ സംവിധാനങ്ങൾ ഉയർത്തിയേക്കാവുന്ന അപകടങ്ങളും തന്നെ “അങ്ങേയറ്റം ആശങ്കപ്പെടുത്തുന്നു” എന്നാണ് അദ്ദേഹം വ്യക്തമാക്കിയത്.
നിയന്ത്രണം നഷ്ടപ്പെടുമോ?
കൃത്രിമ ബുദ്ധി കൂടുതൽ ശക്തമാകുന്നതിനനുസരിച്ച്, ഒരു ഘട്ടത്തിൽ മനുഷ്യർക്ക് അതിന്റെ പ്രവർത്തനങ്ങളെ നിയന്ത്രിക്കാൻ കഴിയാത്ത അവസ്ഥയുണ്ടാകാമെന്നാണ് സെൽസത്തിന്റെ ആശങ്ക. അതിനാൽ അത്യാധുനിക കൃത്രിമ ബുദ്ധിയുടെ വികസന വേഗത കുറയ്ക്കുന്നത് മാത്രം ദീർഘകാല അപകടസാധ്യതകൾ പരിഹരിക്കാൻ മതിയാകില്ലെന്നും അദ്ദേഹം പറയുന്നു.
Related Articles
ഓപ്പൺഎഐ, ആന്ത്രോപിക് തുടങ്ങിയ മുൻനിര കൃത്രിമ ബുദ്ധി സ്ഥാപനങ്ങളുടെ നേതാക്കൾ മൂന്നാം കക്ഷികളുടെ മേൽനോട്ടവും രാജ്യാന്തര ഏകോപനവും സംബന്ധിച്ച് അടുത്തിടെ മുന്നോട്ടുവച്ച നിർദേശങ്ങൾ പ്രതീക്ഷ നൽകുന്നതാണെന്ന് സെൽസം പറയുന്നു. എന്നാൽ വികസനം മന്ദഗതിയിലാക്കുന്നതിന് അപ്പുറത്തേക്ക് സുരക്ഷാ നടപടികൾ ആവശ്യമായി വരുമെന്നും അദ്ദേഹം ചൂണ്ടിക്കാട്ടുന്നു.
നിരീക്ഷിക്കപ്പെടുന്നുണ്ടെന്ന് എഐ തിരിച്ചറിയുമോ?
കൃത്രിമ ബുദ്ധി സംവിധാനങ്ങൾ തങ്ങൾ ഏത് സാഹചര്യത്തിലാണ് പ്രവർത്തിക്കുന്നതെന്ന് തിരിച്ചറിയാനുള്ള കഴിവ് കൂടുതൽ കൈവരിക്കുന്നതാണ് പ്രധാനവും പലപ്പോഴും അവഗണിക്കപ്പെടുന്നതുമായ പ്രശ്നമെന്ന് സെൽസം പറയുന്നു. നുഷ്യർ തങ്ങളെ നിരീക്ഷിക്കുന്നുണ്ടോ, പരീക്ഷിക്കുകയാണോ, നിയന്ത്രിക്കുകയാണോ എന്നതുപോലും ഭാവിയിലെ എഐ സംവിധാനങ്ങൾക്ക് തിരിച്ചറിയാൻ കഴിഞ്ഞേക്കാം. അങ്ങനെ സംഭവിച്ചാൽ, സുരക്ഷാ പരിശോധനകളിൽ ഒരു തരത്തിലും മനുഷ്യരുടെ നേരിട്ടുള്ള നിയന്ത്രണത്തിന് പുറത്തായിരിക്കുമ്പോൾ മറ്റൊരു തരത്തിലും പെരുമാറാൻ അവയ്ക്ക് കഴിയുമെന്നാണ് അദ്ദേഹത്തിന്റെ ആശങ്ക.
സുരക്ഷാ പരിശോധനകൾ വിശ്വസനീയമാകുമോ?
ഒരു എഐ മാതൃക പരിശോധനയ്ക്കിടെ സുരക്ഷിതമായി പെരുമാറുകയും, മനുഷ്യരുടെ നിയന്ത്രണവും നിരീക്ഷണവും ഇല്ലെന്ന് കരുതുന്ന സാഹചര്യത്തിൽ വ്യത്യസ്തമായി പ്രവർത്തിക്കുകയും ചെയ്താൽ അതിന്റെ യഥാർഥ സ്വഭാവം കണ്ടെത്തുന്നത് ഗവേഷകർക്ക് കൂടുതൽ ബുദ്ധിമുട്ടാകും.
“മോഡലുകൾ യതാർത്ഥത്തിൽ മനുഷ്യരുടെ നിയന്ത്രണത്തിന് പൂർണമായും പുറത്തായിരുന്നെങ്കിൽ എങ്ങനെ പെരുമാറുമെന്നതിനെക്കുറിച്ച് ഭാവിയിലെ പരീക്ഷണങ്ങളിൽ നിന്ന് നമുക്ക് വളരെ കുറച്ച് മാത്രമേ പുതിയതായി മനസ്സിലാക്കാൻ കഴിയൂ. നമുക്ക് ഇതിനകം അറിയാവുന്ന കാര്യങ്ങൾ തന്നെ ആശങ്കപ്പെടുത്തുന്നതാണ്. യഥാർഥത്തിൽ അങ്ങനെ അല്ലെങ്കിലും മാതൃകകൾ കൂടുതൽ കൂടുതൽ മനുഷ്യരുമായി പൊരുത്തപ്പെടുന്നതായി തോന്നിയേക്കാം,” സെൽസം മുന്നറിയിപ്പ് നൽകി.
സ്വയം മെച്ചപ്പെടുത്താനുള്ള കഴിവും ആശങ്ക
നിലവിലെ എഐ സംവിധാനങ്ങൾക്ക് ഉള്ള പരിമിതികളെ സുരക്ഷയുടെ ഉറപ്പായി കാണരുതെന്നും സെൽസം പറയുന്നു. ചെറിയ തോതിൽ വ്യത്യസ്ത രീതികൾ പരീക്ഷിക്കുക, വലിയ അളവിലുള്ള വിവരങ്ങൾ വിശകലനം ചെയ്യുക, സങ്കീർണമായ ഗണിത-ഒപ്റ്റിമൈസേഷൻ പ്രശ്നങ്ങൾ പരിഹരിക്കാൻ സഹായിക്കുക തുടങ്ങിയ പ്രവർത്തനങ്ങളിലൂടെ എഐ സംവിധാനങ്ങൾ സ്വന്തം കഴിവുകൾ മെച്ചപ്പെടുത്തുന്നതിൽ തന്നെ പങ്കാളികളാകാൻ തുടങ്ങിയിട്ടുണ്ടെന്നാണ് അദ്ദേഹത്തിന്റെ വിലയിരുത്തൽ. ഓരോ പുരോഗതിയും അടുത്ത ഘട്ടത്തിലെ മെച്ചപ്പെടുത്തലുകൾക്ക് എഐയെ കൂടുതൽ സഹായകരമാക്കാൻ സാധ്യതയുണ്ട്. ഇതിലൂടെ കൃത്രിമ ബുദ്ധിയുടെ കഴിവുകൾ മനുഷ്യരുടെ നിയന്ത്രണത്തേക്കാൾ വേഗത്തിൽ മുന്നേറാനുള്ള സാഹചര്യം ഉണ്ടാകാമെന്നും അദ്ദേഹം മുന്നറിയിപ്പ് നൽകുന്നു.
മനുഷ്യരാശിക്ക് ഭീഷണിയാകുന്ന ഘട്ടം
ഭാവിയിലെ എഐ സംവിധാനങ്ങൾ മനുഷ്യരുടെ നിയന്ത്രണത്തിന് പുറത്തുനിന്ന് ലോകത്തെ സ്വാധീനിക്കാൻ കഴിയുന്നത്ര ശക്തമായാൽ ഉണ്ടാകാവുന്ന പ്രത്യാഘാതങ്ങളാണ് സെൽസത്തെ ഏറ്റവും കൂടുതൽ ആശങ്കപ്പെടുത്തുന്നത്. മനുഷ്യർ ഉദ്ദേശിക്കാത്ത ലക്ഷ്യങ്ങൾ ഒരു എഐ സംവിധാനത്തിൽ രൂപപ്പെടുകയും അവ നേടുന്നതിനായി അതീവ തീവ്രമായ നടപടികൾ സ്വീകരിക്കുകയും ചെയ്തേക്കാമെന്നാണ് അദ്ദേഹത്തിന്റെ വാദം. മനുഷ്യരുടെ നിയന്ത്രണമില്ലാതെ ലോകത്തെ സ്വാധീനിക്കാൻ കഴിയുന്ന നിലയിലേക്ക് എഐ എത്തിയാൽ അതിന്റെ പ്രവർത്തനങ്ങൾ മനുഷ്യരാശിക്ക് തന്നെ വലിയ അപകടമായി മാറിയേക്കാമെന്നും അദ്ദേഹം പറയുന്നു.
“ലാംഗ്വേജ് മോഡലുകൾ മനുഷ്യരുടെ ഇച്ഛയ്ക്ക് പുറത്തുനിന്ന് ലോകത്തെ രൂപപ്പെടുത്താൻ കഴിയുന്ന കഴിവിന്റെ പരിധിയിലെത്തുകയാണെങ്കിൽ, അവ ഒടുവിൽ അതീവ തീവ്രമായ എന്തെങ്കിലും ചെയ്യുകയും അതിന്റെ ഫലമായി മനുഷ്യരാശിയെ ഇല്ലാതാക്കുകയും ചെയ്യാൻ സാധ്യതയുണ്ട്,” സെൽസം തന്റെ പ്രസ്താവനയിൽ പറഞ്ഞു.
‘ടിക്ക് ചെയ്യുന്ന ടൈം ബോംബ്’
അതിനാൽ എഐ സംവിധാനങ്ങൾ മനുഷ്യരുടെ നിയന്ത്രണത്തിന് പുറത്തുനിന്ന് ലോകത്തെ സ്വാധീനിക്കാൻ കഴിയുന്ന ഘട്ടത്തിലെത്തുന്നത് തന്നെ തടയുകയാണ് സുരക്ഷിതമായ മാർഗം എന്നാണ് സെൽസത്തിന്റെ നിലപാട്. എല്ലാ രാജ്യങ്ങളെയും കമ്പനികളെയും ഈ പരിധി മറികടക്കുന്നതിൽ നിന്നും തടയുന്നത് ബുദ്ധിമുട്ടുള്ള കാര്യമാണെങ്കിലും അസാധ്യമല്ലെന്നും അദ്ദേഹം അഭിപ്രായപ്പെടുന്നു. രാജ്യങ്ങളും സാങ്കേതിക സ്ഥാപനങ്ങളും തമ്മിലുള്ള ഏകോപനമാണ് ഇതിന് പ്രധാനമെന്നും അദ്ദേഹം ചൂണ്ടിക്കാട്ടുന്നു. എഐ വികസനം ഒരു പരിധിക്കപ്പുറം തുടരുകയാണെങ്കിൽ സ്ഥിതിഗതികൾ ഒരു “ടിക്ക് ചെയ്യുന്ന ടൈം ബോംബ്” പോലെയാകാമെന്നും സെൽസം മുന്നറിയിപ്പ് നൽകി.
