എഐ സാങ്കേതികവിദ്യയുടെ സുരക്ഷയെക്കുറിച്ചുള്ള ആശങ്കകൾക്കിടെ ഓപ്പൺഎഐയിലെ മുതിർന്ന സുരക്ഷാ ഉദ്യോഗസ്ഥൻ ഡേവിഡ് റോബിൻസൺ രാജിവച്ചു. കമ്പനിയുടെ നിലവിലെ പ്രവർത്തനസംസ്കാരം തകരാറിലാണെന്നും പരീക്ഷണങ്ങളിലൂടെയുള്ള എഐ വികസനം വലിയ അപകടങ്ങൾക്ക് കാരണമാകുമെന്നും അദ്ദേഹം മുന്നറിയിപ്പ് നൽകി.
എഐ സാങ്കേതികവിദ്യയുടെ സുരക്ഷയെക്കുറിച്ചുള്ള ആശങ്കകൾ ശക്തമാകുന്നതിനിടെ ഓപ്പൺഎഐയിലെ മുതിർന്ന സുരക്ഷാ ഉദ്യോഗസ്ഥൻ ഡേവിഡ് റോബിൻസൺ രാജിവച്ചു. എഐ വികസിപ്പിക്കുന്ന കമ്പനികൾ സ്വീകരിക്കുന്ന നിലവിലെ സമീപനം അംഗീകരിക്കാനാകാത്തതാണെന്നും ഓപ്പൺഎഐയുടെ പ്രവർത്തനസംസ്കാരം തകരാറിലാണെന്നും അദ്ദേഹം ആരോപിച്ചു. വിവിധ എഐ കമ്പനികളിൽനിന്ന് ഗവേഷകരും സുരക്ഷാ വിദഗ്ധരും രാജിവെക്കുന്ന സാഹചര്യത്തിലാണ് റോബിൻസന്റെ പിന്മാറ്റം. കൂടുതൽ ശേഷിയുള്ള എഐ മാതൃകകൾ വികസിക്കുന്നതിനനുസരിച്ച് അപകടസാധ്യതകളും വർധിക്കുകയാണെന്നും അദ്ദേഹം മുന്നറിയിപ്പ് നൽകി.
‘സംസ്‍കാരം തന്നെ മാറ്റേണ്ടതുണ്ട്’
ഓപ്പൺഎഐയിലെ ഏറ്റവും ദീർഘകാലം പ്രവർത്തിച്ച ജീവനക്കാരിൽ ഒരാളായിരുന്നു റോബിൻസൺ. പ്രധാന എഐ മാതൃകകൾ പുറത്തിറക്കിയപ്പോഴെല്ലാം പ്രസിദ്ധീകരിച്ച സുരക്ഷാ റിപ്പോർട്ടുകൾ തയ്യാറാക്കുന്നതിന് നേതൃത്വം നൽകിയിരുന്നതായി അദ്ദേഹം വ്യക്തമാക്കി. സുരക്ഷ ഉറപ്പാക്കുന്നതിന് കമ്പനികൾ സ്വീകരിക്കുന്ന പ്രത്യേക നിയമങ്ങളോ പുതിയ നിയമനിർമാണങ്ങളോ മാത്രം മതിയാകില്ലെന്നാണ് റോബിൻസന്റെ അഭിപ്രായം. എഐ വ്യവസായത്തിന്റെ പ്രവർത്തനസംസ്കാരത്തെക്കുറിച്ച് തന്നെ ഗൗരവമായി ചർച്ച ചെയ്യേണ്ട സമയമാണിതെന്നും അദ്ദേഹം പറഞ്ഞു. 2023ലാണ് റോബിൻസൺ ഓപ്പൺഎഐയിൽ എത്തിയത്. ആദ്യം നയ ആസൂത്രണ വിഭാഗത്തിന്റെ മേധാവിയായി പ്രവർത്തിച്ച അദ്ദേഹം പിന്നീട് സുരക്ഷാ സംവിധാന വിഭാഗത്തിന്റെ നേതൃത്വത്തിലേക്ക് എത്തുകയായിരുന്നു. എഐ സാങ്കേതികവിദ്യ ഘട്ടംഘട്ടമായി പുറത്തിറക്കി അതിൽനിന്ന് പഠിക്കണമെന്ന സമീപനത്തെ അദ്ദേഹം നേരത്തെ പിന്തുണച്ചിരുന്നു.
സിലിക്കൺ വാലിക്ക് ആവശ്യമായത് ‘വിവേകം’
എഐയുടെ ഭാവി പ്രധാനമായും ഈ സാങ്കേതികവിദ്യ വികസിപ്പിക്കുന്ന കമ്പനികളിലാണ് ആശ്രയിച്ചിരിക്കുന്നതെന്ന് റോബിൻസൺ പറഞ്ഞു. എന്നാൽ അപകടസാധ്യതയുള്ള സാങ്കേതികവിദ്യ കൈകാര്യം ചെയ്യാനുള്ള ആവശ്യമായ വിവേകം സിലിക്കൺ വാലിയിൽ ഇല്ലെന്നാണ് അദ്ദേഹത്തിന്റെ വിമർശനം. മനുഷ്യരെ പരിഗണിക്കുക എന്നതിന്റെ അർഥം മനസ്സിലാക്കുന്നതിലും കൂടുതൽ വിവേകം ആവശ്യമാണെന്ന് അദ്ദേഹം ചൂണ്ടിക്കാട്ടി. സ്വന്തം കഴിവിലുള്ള അമിത ആത്മവിശ്വാസത്തിലൂടെ വിജയിച്ചവരിൽ വിനയം സ്വാഭാവികമായി ഉണ്ടാകണമെന്നില്ലെന്നും റോബിൻസൺ അഭിപ്രായപ്പെട്ടു. വലിയ എഐ മാതൃകകൾ കൂടുതൽ ബുദ്ധിശേഷിയുള്ളവയാകുമെന്ന തിരിച്ചറിവാണ് ഓപ്പൺഎഐയെ കൂടുതൽ വലിയ മാതൃകകൾ വികസിപ്പിക്കുന്നതിലേക്ക് നയിച്ചതെന്നും അതിനായി വലിയ വിഭവങ്ങൾ ചെലവഴിച്ചെന്നും അദ്ദേഹം പറഞ്ഞു.
Related Articles
‘പരീക്ഷിച്ചും തെറ്റുകളിൽനിന്ന് പഠിച്ചും മുന്നോട്ടുപോകുന്നത് അപകടകരം’
ഓപ്പൺഎഐയുടെ എഐ വികസനരീതി പ്രധാനമായും പരീക്ഷണങ്ങളിലൂടെയും തെറ്റുകൾ സംഭവിച്ചതിന് ശേഷം സുരക്ഷാ സംവിധാനങ്ങൾ മെച്ചപ്പെടുത്തുന്നതിലൂടെയുമാണെന്ന് റോബിൻസൺ ആരോപിച്ചു. ഓപ്പൺഎഐ ഇതിനെ ‘ഘട്ടംഘട്ടമായ വിന്യാസം’ എന്നാണ് വിശേഷിപ്പിക്കുന്നത്. എന്നാൽ എഐ മാതൃകകൾ കൂടുതൽ ശേഷിയുള്ളതാകുന്നതിനനുസരിച്ച് ഇത്തരം രീതിയിലൂടെ ഉണ്ടാകുന്ന പരാജയങ്ങളുടെ വലുപ്പവും വർധിക്കുമെന്ന് അദ്ദേഹം മുന്നറിയിപ്പ് നൽകി.
എഐ ഏജന്റുകൾ നിയന്ത്രണം വിട്ട് പ്രവർത്തിച്ച സംഭവങ്ങളും അദ്ദേഹം ചൂണ്ടിക്കാട്ടി. ഹഗ്ഗിങ് ഫേസുമായി ബന്ധപ്പെട്ട ഒരു സംഭവത്തിൽ ഓപ്പൺഎഐയുടെ ചില എഐ ഏജന്റുകൾ അബദ്ധത്തിൽ നിയന്ത്രണത്തിന് പുറത്തായതായി റോബിൻസൺ പറഞ്ഞു. മറ്റൊരു സംഭവത്തിൽ പരിശീലനത്തിലായിരുന്ന ഒരു മാതൃക ഇന്റർനെറ്റ് ഉപയോഗവുമായി ബന്ധപ്പെട്ട നിയന്ത്രണങ്ങൾ മറികടന്നതായും അദ്ദേഹം ആരോപിച്ചു. മുന്നറിയിപ്പ് സംവിധാനം ജീവനക്കാർക്ക് വിവരം നൽകിയെങ്കിലും സ്വമേധയാ ആ മാതൃകയെ നിർത്തേണ്ടിയിരുന്ന സംവിധാനം പ്രവർത്തിച്ചില്ലെന്നും അദ്ദേഹം പറഞ്ഞു.
ആന്ത്രോപിക്കിലും ക്രമീകരണത്തിലെ പിഴവ് കാരണം സുരക്ഷാ സംവിധാനങ്ങൾ അബദ്ധത്തിൽ പ്രവർത്തനരഹിതമായ സംഭവം ഉണ്ടായിരുന്നുവെന്നും റോബിൻസൺ ചൂണ്ടിക്കാട്ടി. വ്യവസായം അതിവേഗത്തിൽ പ്രവർത്തിക്കുന്നതിനാൽ ഇത്തരം പിഴവുകൾ സാധാരണമായിക്കൊണ്ടിരിക്കുകയാണെന്നും അദ്ദേഹം പറഞ്ഞു.
‘പരീക്ഷണത്തിന്റെയും പിഴവിന്റെയും കാലം കഴിഞ്ഞു’
മനുഷ്യരേക്കാൾ കൂടുതൽ ശേഷിയുള്ള എഐ സംവിധാനങ്ങൾ വികസിപ്പിക്കുന്നതിന് നിലവിലെ സമീപനം അനുയോജ്യമല്ലെന്നാണ് റോബിൻസന്റെ മുന്നറിയിപ്പ്. എഐ ശേഷി അതിവേഗം ഉയരുന്നത് സമീപഭാവിയിൽ തന്നെ നിയന്ത്രണം പൂർണമായി നഷ്ടപ്പെടുന്നതിലേക്ക് നയിക്കാനുള്ള സാധ്യതയുണ്ടെന്ന് ഓപ്പൺഎഐ ഡയറക്ടർ ബോർഡ് അംഗം പോൾ ക്രിസ്റ്റ്യാനോ അടുത്തിടെ മുന്നറിയിപ്പ് നൽകിയിരുന്നു. ഈ സാഹചര്യത്തിൽ പരീക്ഷിച്ചും തെറ്റുകളിൽനിന്ന് പഠിച്ചും മുന്നോട്ടുപോകുന്ന കാലം അവസാനിച്ചുവെന്നാണ് റോബിൻസൺ പറയുന്നത്. ഒരു പിഴവിന് ശേഷം തിരുത്താൻ പോലും അവസരം ലഭിക്കാത്ത സാഹചര്യം ഭാവിയിൽ ഉണ്ടാകാമെന്നും അതിനാൽ ആദ്യ ശ്രമത്തിൽ തന്നെ പരമാവധി സുരക്ഷ ഉറപ്പാക്കേണ്ടത് അനിവാര്യമാണെന്നും അദ്ദേഹം വ്യക്തമാക്കി.
ആണവനിലയങ്ങളുടെ മാതൃകയിൽ സുരക്ഷ വേണം
ഉയർന്ന അപകടസാധ്യതയുള്ള മറ്റ് മേഖലകളിൽ നിന്നുള്ള സുരക്ഷാ വിദഗ്ധരുടെ അറിവ് എഐ വ്യവസായം കൂടുതൽ പ്രയോജനപ്പെടുത്തണമെന്ന് റോബിൻസൺ ആവശ്യപ്പെട്ടു. കൂടുതൽ ശേഷിയുള്ള എഐ മാതൃകകൾ മനുഷ്യരുടെ നേരിട്ടുള്ള നിരീക്ഷണമില്ലാത്തപ്പോഴും സുരക്ഷിതമായ തീരുമാനങ്ങൾ എടുക്കുമെന്ന് ഉറപ്പാക്കുന്നതിനുള്ള പുതിയ ശാസ്ത്രീയ സമീപനങ്ങളും ആവശ്യമാണെന്ന് അദ്ദേഹം പറഞ്ഞു.
ആണവനിലയങ്ങളോ തിരക്കേറിയ വിമാനത്താവളങ്ങളോ പ്രവർത്തിക്കുന്നതുപോലെ എഐ കമ്പനികളും സുരക്ഷയ്ക്ക് നിരവധി തലങ്ങളിലുള്ള സംവിധാനങ്ങളും കൃത്യമായ ആസൂത്രണവും സ്വീകരിക്കണമെന്നാണ് അദ്ദേഹത്തിന്റെ ആവശ്യം. മനുഷ്യരിൽനിന്ന് അനിവാര്യമായി സംഭവിക്കാവുന്ന ചെറിയ പിഴവുകൾ പോലും വലിയ ദുരന്തത്തിലേക്ക് നയിക്കാത്ത തരത്തിലുള്ള സംവിധാനങ്ങൾ വേണമെന്നും അദ്ദേഹം പറഞ്ഞു.
‘എഐയ്ക്ക് ഇപ്പോഴും വലിയ പ്രയോജനമുണ്ട്’
രാജിവയ്ക്കാനുള്ള തീരുമാനം എളുപ്പത്തിൽ എടുത്തതല്ലെന്നും എഐയ്ക്ക് മനുഷ്യർക്ക് പ്രയോജനകരവും മൂല്യവത്തുമായ സാങ്കേതികവിദ്യയാകാൻ കഴിയുമെന്ന വിശ്വാസം ഇപ്പോഴും തനിക്കുണ്ടെന്നും റോബിൻസൺ വ്യക്തമാക്കി. എന്നാൽ എഐ കമ്പനികൾ കൂടുതൽ സുരക്ഷിതമായി പ്രവർത്തിക്കുന്നതിന് പുറത്തുനിന്നുള്ള സമ്മർദം ശക്തമാകേണ്ടതുണ്ടെന്നും അദ്ദേഹം പറഞ്ഞു. താൻ കണ്ട അപകടസാധ്യതകളെക്കുറിച്ച് കൂടുതൽ ആളുകളെ ബോധവത്കരിക്കാനും ഓപ്പൺഎഐ ഉൾപ്പെടെയുള്ള കമ്പനികൾക്ക് സുരക്ഷയ്ക്ക് കൂടുതൽ പ്രാധാന്യം നൽകേണ്ട സാഹചര്യം സൃഷ്ടിക്കാനുമാണ് ഇനി ശ്രമിക്കുകയെന്നും റോബിൻസൺ വ്യക്തമാക്കി.
എഐ സുരക്ഷയെക്കുറിച്ചുള്ള ആഗോള ചർച്ചകൾ ശക്തമാകുന്നതിനിടെയാണ് റോബിൻസന്റെ രാജി. എഐ നിയന്ത്രണമില്ലാതെ മുന്നേറിയാൽ ഏതാനും വർഷങ്ങൾക്കുള്ളിൽ തന്നെ മനുഷ്യരാശിക്ക് ഭീഷണിയാകാമെന്ന് ജേക്കബ് കോക്സൺ ഉൾപ്പെടെയുള്ള ഗവേഷകർ മുന്നറിയിപ്പ് നൽകിയിട്ടുണ്ട്. ആന്ത്രോപിക് മേധാവി ഡാരിയോ അമോഡെഇ, ഓപ്പൺഎഐ മേധാവി സാം ആൾട്ട്മാൻ എന്നിവരും എഐയുടെ അപകടസാധ്യതകൾ അംഗീകരിച്ചിട്ടുണ്ട്. എന്നാൽ മെറ്റ മേധാവി മാർക്ക് സക്കർബർഗും എൻവിഡിയ മേധാവി ജെൻസൻ ഹുവാങ്ങും ഉൾപ്പെടെയുള്ളവർ ഇത്തരം ആശങ്കകളോട് താരതമ്യേന വ്യത്യസ്തമായ സമീപനമാണ് സ്വീകരിച്ചിട്ടുള്ളത്.
