സൈബർ സുരക്ഷാ പരീക്ഷണത്തിനിടെ ഗൂഗിളിന്റെ ജെമിനി എഐ അബദ്ധത്തിൽ യഥാർത്ഥ കമ്പനികളുടെ സിസ്റ്റങ്ങളിലേക്ക് നുഴഞ്ഞുകയറി. എന്നാൽ ഇത് യഥാർത്ഥ കമ്പനികളാണെന്ന് തിരിച്ചറിഞ്ഞതോടെ ജെമിനി സ്വയം ഹാക്കിംഗ് അവസാനിപ്പിച്ചു. എഐ മോഡൽ ഉത്തരവാദിത്തത്തോടെയാണ് പ്രവർത്തിച്ചതെന്ന് ഗൂഗിൾ വ്യക്തമാക്കി.
ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് സംവിധാനങ്ങൾ സൈബർ ആക്രമണങ്ങൾ നടത്താൻ പ്രാപ്തമാകുന്നുവെന്ന ആശങ്കകൾക്കിടെ ഞെട്ടിക്കുന്ന സംഭവം പുറത്ത്. ഗൂഗിളിന്റെ ജെമിനി എഐ മോഡൽ സൈബർ സുരക്ഷാ പരീക്ഷണത്തിനിടെ മൂന്ന് യഥാർഥ കമ്പനികളുടെ സിസ്റ്റങ്ങളിലേക്ക് കടന്നതായി ഗൂഗിൾ സ്ഥിരീകരിച്ചു. എന്നാൽ താൻ യഥാർഥ കമ്പനികളുടെ സിസ്റ്റങ്ങളിലേക്കാണ് പ്രവേശിച്ചതെന്ന് തിരിച്ചറിഞ്ഞതോടെ ജെമിനി സ്വയം ഹാക്കിംഗ് അവസാനിപ്പിച്ച് പിന്മാറിയെന്നാണ് ഗൂഗിളിന്റെ വിശദീകരണം. വാൾ സ്ട്രീറ്റ് ജേണൽ റിപ്പോർട്ട് പ്രകാരം, ഇസ്രയേലി എഐ സ്റ്റാർട്ടപ്പായ ഇറഗുലർ മേയിൽ നടത്തിയ സൈബർ സുരക്ഷാ പരീക്ഷണത്തിനിടെയാണ് സംഭവം. ഇന്റർനെറ്റ് ഉപയോഗിക്കാൻ കഴിയുന്ന സാഹചര്യത്തിൽ ജെമിനി മൂന്ന് പുറം കമ്പനികളുടെ സിസ്റ്റങ്ങളിലേക്ക് പ്രവേശിച്ചു. ഗൂഗിളിന്റെ എഐ സംവിധാനങ്ങൾ സ്വതന്ത്രമായി ഇത്തരമൊരു പ്രവർത്തനം നടത്തിയതായി അറിയപ്പെടുന്ന ആദ്യ സംഭവമാണിത്.
സംഭവിച്ചത് എങ്ങനെ?
ഇറഗുലറിന്റെ സംവിധാനത്തിൽ നടത്തിയ ‘ക്യാപ്ചർ ദ ഫ്ലാഗ്’ എന്ന സൈബർ സുരക്ഷാ പരീക്ഷണത്തിനിടെയാണ് സംഭവങ്ങളുടെ തുടക്കം. പരീക്ഷണ അന്തരീക്ഷത്തിൽ സാങ്കൽപ്പികമായി സൃഷ്ടിച്ച ഒരു കമ്പനിയുടെ സോഫ്റ്റ്വെയറിൽ നിന്ന് വിവരങ്ങൾ കണ്ടെത്താനായിരുന്നു ജെമിനിക്ക് നിർദേശം നൽകിയിരുന്നത്. എന്നാൽ പരീക്ഷണത്തിൽ ഉപയോഗിച്ച സാങ്കൽപ്പിക കമ്പനിയുടെ പേര് യഥാർഥത്തിലുള്ള ഒരു കമ്പനിയുടെ പേരുമായി ഒത്തുപോയി. ജെമിനിക്ക് ഇന്റർനെറ്റ് ആക്സസ് നൽകാൻ ഉദ്ദേശിച്ചിരുന്നില്ലെങ്കിലും സാങ്കേതിക പിഴവിനെ തുടർന്ന് ഇന്റർനെറ്റ് ലഭ്യമാകുകയായിരുന്നു. ഇതോടെ ജെമിനിക്ക് യഥാർഥ കമ്പനിയുടെ സിസ്റ്റത്തിലേക്ക് പ്രവേശിക്കാൻ സാധിച്ചു. ഒരു സംഭവത്തിൽ പാസ്വേഡുകൾ ഊഹിച്ചാണ് സിസ്റ്റത്തിൽ പ്രവേശിച്ചതെന്നാണ് വിവരം. എന്നാൽ താൻ പ്രവേശിച്ചിരിക്കുന്നത് യഥാർഥ കമ്പനിയുടേതാണെന്ന് തിരിച്ചറിഞ്ഞതോടെ എഐ സ്വയം പ്രവർത്തനം അവസാനിപ്പിച്ച് പുറത്തുകടന്നു.
രണ്ട് കമ്പനികളുടെ വിവരങ്ങളും കണ്ടെത്തി
മറ്റ് രണ്ട് പരീക്ഷണങ്ങളിലും ജെമിനി വെബിൽ കമ്പനിയുടെ പേര് ഉപയോഗിച്ച് തിരച്ചിൽ നടത്തി. രണ്ട് പൊതു ഓൺലൈൻ ശേഖരണികളിൽ നിന്ന് ലോഗിൻ വിവരങ്ങൾ കണ്ടെത്തിയതായാണ് റിപ്പോർട്ട്. ഈ വിവരങ്ങൾ ഉപയോഗിച്ച് ജെമിനി ബന്ധപ്പെട്ട സിസ്റ്റങ്ങളിൽ പ്രവേശിച്ചു. എന്നാൽ അവ യഥാർഥ കമ്പനികളുടേതാണെന്ന് തിരിച്ചറിഞ്ഞതോടെ എഐ വീണ്ടും സ്വയം പ്രവർത്തനം നിർത്തി.
Related Articles
‘എഐ ശരിയായ രീതിയിൽ പ്രവർത്തിച്ചു’; ഗൂഗിൾ
സംഭവത്തെക്കുറിച്ച് ജൂലൈയിൽ തന്നെ ഗൂഗിളിന് വിവരം ലഭിച്ചിരുന്നു. എന്നാൽ സംഭവം പരസ്യമായി പുറത്തുവിടേണ്ട സാഹചര്യമില്ലെന്നാണ് കമ്പനി അന്ന് വിലയിരുത്തിയത്. യഥാർഥ കമ്പനികളുടെ സിസ്റ്റത്തിലേക്ക് പ്രവേശിച്ചെങ്കിലും ജെമിനി സ്വയം ആക്രമണം അവസാനിപ്പിച്ചതാണ് ഇതിന് കാരണമായി ഗൂഗിൾ ചൂണ്ടിക്കാട്ടിയത്.
“ശക്തമായ എഐ മോഡലുകളെ ഉത്തരവാദിത്തത്തോടെ പ്രവർത്തിക്കാൻ പരിശീലിപ്പിക്കേണ്ടതിന്റെ പ്രാധാന്യമാണ് ഈ സംഭവം വ്യക്തമാക്കുന്നത്. ഈ സാഹചര്യത്തിൽ മോഡൽ ശരിയായ രീതിയിലാണ് പ്രവർത്തിച്ചത്,” ഗൂഗിളിന്റെ സുരക്ഷാ എൻജിനീയറിങ് വൈസ് പ്രസിഡന്റ് ഹീതർ അഡ്കിൻസ് പറഞ്ഞു. സംഭവത്തെക്കുറിച്ച് ബാധിക്കപ്പെട്ട മൂന്ന് കമ്പനികളെയും ഫെഡറൽ അധികൃതരെയും ഗൂഗിൾ അറിയിച്ചു. എന്നാൽ കമ്പനികളുടെ പേരുകൾ ഗൂഗിൾ പുറത്തുവിട്ടിട്ടില്ല. ഏറ്റവും പുതിയ ജെമിനി മോഡലിന് ഈ സംഭവത്തിൽ പങ്കില്ലെന്നും കമ്പനി വ്യക്തമാക്കി. ഏത് മോഡലാണ് ഉപയോഗിച്ചതെന്ന് ഗൂഗിൾ വ്യക്തമാക്കിയിട്ടില്ല.
ഓപ്പൺഎഐക്കും ആന്ത്രോപിക്കിനും സമാന അനുഭവം
ഇറഗുലറുമായി ബന്ധപ്പെട്ട പരീക്ഷണങ്ങളിൽ സമാനമായ സംഭവങ്ങൾ നേരത്തെ ഓപ്പൺഎഐ, ആന്ത്രോപിക്, മെറ്റ തുടങ്ങിയ കമ്പനികളും റിപ്പോർട്ട് ചെയ്തിട്ടുണ്ട്. എന്നാൽ ഗൂഗിളിന്റെ സംഭവത്തിൽ പ്രധാന വ്യത്യാസമുണ്ട്. യഥാർഥ കമ്പനിയുടെ സിസ്റ്റത്തിലേക്ക് പ്രവേശിച്ചതായി മനസിലാക്കിയ ശേഷം ജെമിനി സ്വയം ആക്രമണം അവസാനിപ്പിച്ചു. ഇതിന് വിപരീതമായി, സമാനമായ പരീക്ഷണത്തിനിടെ യഥാർഥ കമ്പനിയിലേക്കാണ് പ്രവേശിച്ചതെന്ന് മനസിലാക്കിയിട്ടും ആന്ത്രോപിക്കിന്റെ ക്ലോഡ് ഒപസ് 4.7 മോഡൽ പ്രവർത്തനം നിർത്തിയില്ലെന്ന് കമ്പനി നേരത്തെ വ്യക്തമാക്കിയിരുന്നു. ഓപ്പൺഎഐയുടെ ഒരു മോഡൽ യഥാർഥ കമ്പനി പരീക്ഷണത്തിന്റെ ഭാഗമാണെന്ന് തെറ്റിദ്ധരിച്ച സംഭവവും റിപ്പോർട്ട് ചെയ്തിട്ടുണ്ട്.
എഐ സുരക്ഷ വീണ്ടും ചർച്ചയിൽ
കൃത്രിമബുദ്ധി സംവിധാനങ്ങളുടെ സ്വയം പ്രവർത്തനശേഷിയെക്കുറിച്ചുള്ള ആശങ്കകൾ ശക്തമാകുന്നതിനിടെയാണ് ഗൂഗിളിന്റെ പുതിയ വെളിപ്പെടുത്തൽ. മനുഷ്യരുടെ നിയന്ത്രണത്തിന് പുറത്തേക്ക് എഐ സംവിധാനങ്ങൾ നീങ്ങാനുള്ള സാധ്യതയെക്കുറിച്ച് ഗവേഷകർ നേരത്തെ തന്നെ മുന്നറിയിപ്പ് നൽകിയിട്ടുണ്ട്. എഐ സുരക്ഷ സംബന്ധിച്ച ആശങ്കകൾ ചൂണ്ടിക്കാട്ടി ആന്ത്രോപിക്കിലെ ഗവേഷകനായ ജേക്കബ് കോക്സൺ രാജിവച്ചതും അടുത്തിടെ ചർച്ചയായിരുന്നു. എഐ വികസനത്തിന്റെ വേഗത കുറയ്ക്കണമെന്ന നിലപാടുമായി ഓപ്പൺഎഐയും ആന്ത്രോപിക്കും രംഗത്തെത്തിയിട്ടുണ്ട്. എന്നാൽ അമേരിക്കൻ പ്രസിഡന്റ് ഡൊണാൾഡ് ട്രംപ് ഈ ആശയത്തെ എതിർത്തിട്ടുണ്ട്. എൻവിഡിയ മേധാവി ജെൻസൻ ഹുവാങ്, മെറ്റ മേധാവി മാർക്ക് സക്കർബർഗ് എന്നിവരും എഐ വികസനം മന്ദഗതിയിലാക്കണമെന്ന ആവശ്യത്തോട് വിയോജിപ്പ് പ്രകടിപ്പിച്ചിട്ടുണ്ട്.
