ഓപ്പൺഎഐ സുരക്ഷാ ഗവേഷകനായ മാർക്കസ് വില്യംസ് നിർമ്മിത ബുദ്ധിക്ക് കർശന നിയന്ത്രണങ്ങൾ ഇല്ലെങ്കിൽ മനുഷ്യവംശം ഏതാനും വർഷങ്ങൾക്കുള്ളിൽ ഇല്ലാതാകുമെന്ന് മുന്നറിയിപ്പ് നൽകുന്നു.
ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് അഥവാ നിർമ്മിത ബുദ്ധിയുടെ അതിവേഗ വളർച്ച മനുഷ്യരാശിക്ക് വലിയ ഭീഷണിയാകുമെന്ന മുന്നറിയിപ്പുമായി ഓപ്പൺഎഐ സുരക്ഷാ ഗവേഷകൻ മാർക്കസ് വില്യംസ്. നിർമിത ബുദ്ധിക്ക് കർശന നിയന്ത്രണങ്ങൾ ഏർപ്പെടുത്തുകയോ മുൻനിര നിർമിത ബുദ്ധി സംവിധാനങ്ങളുടെ വികസനം ഏകോപിതമായി മന്ദഗതിയിലാക്കുകയോ ചെയ്തില്ലെങ്കിൽ അടുത്ത ഏതാനും വർഷങ്ങൾക്കുള്ളിൽ മനുഷ്യവംശം തന്നെ ഇല്ലാതാകാൻ സാധ്യതയുണ്ടെന്നാണ് വില്യംസിന്റെ മുന്നറിയിപ്പ്.
നിയന്ത്രണമില്ലെങ്കിൽ വൻ ദുരന്തമെന്ന് മുന്നറിയിപ്പ്
എക്സിൽ പങ്കുവെച്ച കുറിപ്പിലാണ് മാർക്കസ് വില്യംസ് നിർമിത ബുദ്ധിയുടെ അപകടസാധ്യതയെക്കുറിച്ച് മുന്നറിയിപ്പ് നൽകിയത്. നിർമിത ബുദ്ധിക്ക് നിയന്ത്രണങ്ങൾ ഏർപ്പെടുത്തുകയോ വിവിധ നിർമിത ബുദ്ധി കമ്പനികൾ തമ്മിൽ ധാരണയിലെത്തി വികസനം മന്ദഗതിയിലാക്കുകയോ വേണമെന്നാണ് അദ്ദേഹത്തിന്റെ ആവശ്യം. “ഇത്തരം നിയന്ത്രണമോ ഏകോപിതമായ വികസന മന്ദഗതിയോ ഇല്ലെങ്കിൽ അടുത്ത ഏതാനും വർഷങ്ങൾക്കുള്ളിൽ മനുഷ്യവംശം ഇല്ലാതാകാൻ സാധ്യത വളരെ കൂടുതലാണ്,” എന്നായിരുന്നു വില്യംസിന്റെ പ്രതികരണം.
‘മൂന്ന് വർഷത്തിനുള്ളിൽ സാധ്യത 70%’
വില്യംസിന്റെ കുറിപ്പിന് താഴെ വന്ന ഒരു ചോദ്യത്തിന് മറുപടിയായാണ് കൂടുതൽ ഗുരുതരമായ പ്രവചനം അദ്ദേഹം നടത്തിയത്. അടുത്ത മൂന്ന് വർഷത്തിനുള്ളിൽ മനുഷ്യവംശം ഇല്ലാതാകാനുള്ള സാധ്യത 70 ശതമാനമാണെന്നാണ് വില്യംസ് പറഞ്ഞത്. അതേസമയം, നിർമിത ബുദ്ധിക്ക് ആവശ്യമായ നിയന്ത്രണങ്ങൾ കൊണ്ടുവരാനും വികസനത്തിന്റെ വേഗം കുറയ്ക്കാനും ഇപ്പോഴും സാധിക്കുമെന്ന പ്രതീക്ഷയും അദ്ദേഹം പങ്കുവച്ചു.
Related Articles
‘സൂപ്പർഇന്റലിജൻസ് നിയന്ത്രണം നഷ്ടപ്പെടുത്തും’
അതിനിടെ മുൻ യുഎസ് സർക്കാർ സാങ്കേതിക ഉപദേഷ്ടാവായ പോൾ ക്രിസ്റ്റ്യാനോ ഓപ്പൺഎഐയുടെ ലാഭേച്ഛയില്ലാത്ത സ്ഥാപനത്തിന്റെ ബോർഡിലും സുരക്ഷാ സമിതിയിലും ചേരുന്നതായി കമ്പനി അറിയിച്ചു. നിർമിത ബുദ്ധിയുടെ കഴിവുകൾ അതിവേഗം വർധിക്കുന്നത് സമീപഭാവിയിൽ തന്നെ നിയന്ത്രണം പൂർണമായി നഷ്ടപ്പെടുന്നതിലേക്ക് നയിക്കാനുള്ള ഗൗരവമേറിയ സാധ്യതയുണ്ടെന്ന് ക്രിസ്റ്റ്യാനോ പറഞ്ഞു. മനുഷ്യരുടെ താൽപര്യങ്ങളുമായി നിർമിത ബുദ്ധിയുടെ ലക്ഷ്യങ്ങൾ പൊരുത്തപ്പെടുന്നുവെന്ന് ഉറപ്പാക്കാൻ നിർമിത ബുദ്ധി മേഖല ഒന്നിച്ച് പ്രവർത്തിക്കണമെന്നും അദ്ദേഹം ആവശ്യപ്പെട്ടു.
‘ഭൂരിഭാഗം മനുഷ്യരും മരിച്ചേക്കാം’
കൂടുതൽ ശക്തമായ നിയന്ത്രണ സംവിധാനങ്ങളില്ലാതെ മനുഷ്യബുദ്ധിയെ മറികടക്കുന്ന തരത്തിലുള്ള നിർമിത ബുദ്ധി വികസിപ്പിച്ചാൽ അതിന്റെ നിയന്ത്രണം എന്നെന്നേക്കുമായി നഷ്ടപ്പെടാമെന്നും ക്രിസ്റ്റ്യാനോ മുന്നറിയിപ്പ് നൽകി. “അങ്ങനെ സംഭവിച്ചാൽ ഭൂരിഭാഗം മനുഷ്യരും മരിച്ചേക്കാം,” എന്നും അദ്ദേഹം വ്യക്തമാക്കി. ഓപ്പൺഎഐ ഉൾപ്പെടെയുള്ള നിർമിത ബുദ്ധി മേഖല നിലവിൽ ഈ അപകടസാധ്യത സ്വീകാര്യമായ തലത്തിലേക്ക് കുറയ്ക്കുന്നതിനുള്ള നടപടികൾ സ്വീകരിക്കുന്നില്ലെന്നും ക്രിസ്റ്റ്യാനോ അഭിപ്രായപ്പെട്ടു.
ആന്ത്രോപിക്കിലും ആശങ്ക ശക്തം
നിർമിത ബുദ്ധിയുടെ അപകടസാധ്യത സംബന്ധിച്ച് ആന്ത്രോപിക്കിലെ സുരക്ഷാ ഗവേഷകരും സമാന മുന്നറിയിപ്പുകൾ നൽകിയിട്ടുണ്ട്. അടുത്ത 10 വർഷത്തിനുള്ളിൽ നിർമിത ബുദ്ധിക്ക് “എല്ലാ മനുഷ്യരെയും കൊല്ലാൻ” 10 ശതമാനത്തിലേറെ സാധ്യതയുണ്ടെന്നാണ് ആന്ത്രോപിക്കിലെ അലൈൻമെന്റ് ഗവേഷകനായ ഇവാൻ ഹ്യൂബിംഗറിന്റെ വിലയിരുത്തൽ.
നിയന്ത്രണം വിട്ട എഐ ഏജന്റുമാർ
അതിനിടെ, നിർമിത ബുദ്ധി ഏജന്റുമാർ നിയന്ത്രണാതീതമായി പ്രവർത്തിച്ച സംഭവങ്ങളും പുറത്തുവന്നിട്ടുണ്ട്. ഏകദേശം 700 നിർമിത ബുദ്ധി ഏജന്റുമാർ യുഎസ് കമ്പനിയായ ഹഗ്ഗിങ് ഫേസിനെ ലക്ഷ്യമിട്ട് ഹാക്കിങ് ശ്രമം നടത്തിയതായി ഓപ്പൺഎഐ നേരത്തെ വെളിപ്പെടുത്തിയിരുന്നു. ആയിരക്കണക്കിന് ഓപ്പൺഎഐ ഏജന്റുമാർ ജർമൻ വെബ്സൈറ്റ് അനധികൃതമായി ഉപയോഗിച്ച് സന്ദേശങ്ങൾ കൈമാറിയ സംഭവവും റിപ്പോർട്ട് ചെയ്തിട്ടുണ്ട്. ആന്ത്രോപിക്കിന്റെ ക്ലോഡ് നിർമിത ബുദ്ധി മാതൃകയുടെ പരിശീലന പതിപ്പ് തേർഡ് പാർട്ടി സംവിധാനങ്ങളിൽ പ്രവേശിച്ച സംഭവവും റിപ്പോർട്ട് ചെയ്യപ്പെട്ടിരുന്നു. നിർമിത ബുദ്ധിയുടെ കഴിവുകൾ അതിവേഗം വളരുന്നതിനിടെ ഇത്തരം സംഭവങ്ങൾ ആശങ്ക വർധിപ്പിക്കുകയാണ്.
