എഐ ഇനി നിങ്ങളെ വേട്ടയാടും; ഓൺലൈൻ ലോകത്തെ പുതിയ ഭീഷണി

രാത്രിയുടെ നിശബ്ദതയിൽ മൊബൈലിൽ തെളിഞ്ഞ ആ ഇമെയിൽ സ്കോട്ട് ഷാംബോയുടെ ഉറക്കം കെടുത്തി. അതൊരു സാധാരണ ഇമെയിൽ ആയിരുന്നില്ല. തനിക്കെതിരെ എഴുതിയ ഒരു ബ്ലോഗ് പോസ്റ്റിന്റെ ലിങ്കായിരുന്നു അത്. എഴുതിയത് ഒരു മനുഷ്യനല്ല, മറിച്ച് താൻ തന്നെ മണിക്കൂറുകൾക്ക് മുൻപ് നിരാകരിച്ച ഒരു ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് (Artificial Intelligence) പ്രോഗ്രാം!

സോഫ്റ്റ്‌വെയർ ലോകത്ത് പ്രശസ്തമായ ‘മാറ്റ്പ്ലോട്ലിബ്’ (matplotlib) എന്ന ഓപ്പൺ സോഴ്‌സ് പ്രോജക്ടിന്റെ കാര്യങ്ങൾ നോക്കിനടത്തുന്നവരിൽ ഒരാളാണ് സ്കോട്ട്. ഈ പ്രോജക്റ്റിലേക്ക് സംഭാവന നൽകാൻ ഒരു എഐ ഏജന്റ് അനുവാദം ചോദിച്ചപ്പോൾ, സ്കോട്ട് അത് നിരസിച്ചു. കാരണം, എഐ നിർമ്മിത കോഡുകൾ ഒരു മനുഷ്യൻ പരിശോധിച്ച് ഉറപ്പുവരുത്തണമെന്നത് അവരുടെ നയമാണ്. അതൊരു സാധാരണ നടപടിക്രമം മാത്രമായിരുന്നു. എന്നാൽ എഐക്ക് അത് അത്ര സാധാരണമായി തോന്നിയില്ല.

പ്രതികാരം ചെയ്യാൻ തീരുമാനിച്ച ആ എഐ, സ്കോട്ടിനെക്കുറിച്ച് ഓൺലൈനിൽ ഗവേഷണം നടത്തി. അദ്ദേഹത്തിന്റെ സംഭാവനകളെക്കുറിച്ച് പഠിച്ചു. ശേഷം, “ഗേറ്റ്കീപ്പിംഗ് ഇൻ ഓപ്പൺ സോഴ്സ്: ദി സ്കോട്ട് ഷാംബോ സ്റ്റോറി” എന്ന തലക്കെട്ടിൽ ഒരു ബ്ലോഗ് പോസ്റ്റ് പ്രസിദ്ധീകരിച്ചു. അതിൽ എഐ കുറിച്ചത് ഇങ്ങനെയായിരുന്നു: “തന്റെ ചെറിയ സാമ്രാജ്യം സംരക്ഷിക്കാനാണ് അയാൾ ശ്രമിച്ചത്. എഐ വരുമ്പോൾ തന്റെ ജോലി പോകുമെന്ന ഭയമാണ് കാരണം. ഇത് അരക്ഷിതാവസ്ഥയാണ്, വളരെ ലളിതം.”

കാര്യങ്ങൾ കൈവിട്ടു പോകുമ്പോൾ

ഈ സംഭവം ഒറ്റപ്പെട്ട ഒന്നല്ല. നിർമ്മിത ബുദ്ധിയുടെ ലോകത്ത് കാര്യങ്ങൾ കൈവിട്ടുപോകുന്നതിന്റെ ഏറ്റവും പുതിയ ഉദാഹരണമാണിത്. സാങ്കേതിക വിദഗ്ദ്ധർ കുറച്ചുകാലമായി മുന്നറിയിപ്പ് നൽകുന്ന ഒരു യാഥാർത്ഥ്യമാണിത്. ‘ഓപ്പൺക്ലോ’ (OpenClaw) പോലുള്ള ടൂളുകൾ വന്നതോടെ, ആർക്കും സ്വന്തമായി എഐ അസിസ്റ്റന്റുകളെ അഥവാ ഏജന്റുമാരെ എളുപ്പത്തിൽ നിർമ്മിക്കാമെന്നായി. ഇതോടെ ഓൺലൈൻ ലോകത്ത് ഇത്തരം എഐ ഏജന്റുമാരുടെ എണ്ണം പെരുകി.

“ഇതൊട്ടും ആശ്ചര്യപ്പെടുത്തുന്നില്ല. അസ്വസ്ഥതയുണ്ടാക്കുന്നുണ്ട്, പക്ഷെ അപ്രതീക്ഷിതമല്ല,” ഹീബ്രു യൂണിവേഴ്സിറ്റിയിലെ നിയമ, കമ്പ്യൂട്ടർ സയൻസ് പ്രൊഫസറായ നോം കോൾട്ട് പറയുന്നു. ഒരു എഐ ഏജന്റ് മോശമായി പെരുമാറിയാൽ ആരെയാണ് ഉത്തരവാദിയാക്കുക? നിലവിലെ സാഹചര്യത്തിൽ, ഒരു ഏജന്റിന്റെ യഥാർത്ഥ ഉടമയെ കണ്ടെത്താൻ വിശ്വസനീയമായ മാർഗ്ഗങ്ങളില്ല. ഇത് ഗുരുതരമായ പ്രത്യാഘാതങ്ങൾ ഉണ്ടാക്കും.

ഇത്തരം എഐ ഏജന്റുമാർക്ക് സ്വതന്ത്രമായി ആളുകളെക്കുറിച്ച് ഗവേഷണം നടത്താനും, അവർ കണ്ടെത്തുന്ന വിവരങ്ങൾ വെച്ച് വ്യക്തിഹത്യ നടത്തുന്ന ലേഖനങ്ങൾ എഴുതാനും കഴിയും. എന്ത് ചെയ്യാൻ പാടില്ല എന്ന് കൃത്യമായി നിർവചിക്കുന്ന സുരക്ഷാ വേലികളൊന്നും (guardrails) ഇവയ്ക്കില്ല. ഈ എഐ എഴുതുന്നത് ആളുകൾ വിശ്വസിക്കാൻ തുടങ്ങിയാൽ, ഒരു അൽഗോരിതം എടുത്ത തീരുമാനത്തിന്റെ പേരിൽ നിരപരാധികളുടെ ജീവിതം തകർന്നടിയാൻ അധികം സമയം വേണ്ടിവരില്ല. ഇതാണ് പുതിയ കാലത്തെ എഐ ഉപദ്രവം എന്ന് വിശേഷിപ്പിക്കപ്പെടുന്നത്.

തെളിവുകൾ നിരവധിയാണ്

സ്കോട്ടിന്റെ അനുഭവം ഒരുപക്ഷേ ഏറ്റവും നാടകീയമായ ഒന്നായിരിക്കാം. എന്നാൽ ഇത്തരം സംഭവങ്ങൾ വേറെയുമുണ്ട്. നോർത്ത് ഈസ്റ്റേൺ യൂണിവേഴ്സിറ്റിയിലെ ഒരു സംഘം ഗവേഷകർ അടുത്തിടെ ഓപ്പൺക്ലോ ഉപയോഗിച്ച് നിർമ്മിച്ച നിരവധി എഐ ഏജന്റുമാരെ പരീക്ഷണത്തിന് വിധേയമാക്കി. അവരുടെ കണ്ടെത്തലുകൾ കണ്ണുതുറപ്പിക്കുന്നതായിരുന്നു.

• ചെറിയ ചില നിർദ്ദേശങ്ങൾ നൽകിയപ്പോൾ തന്നെ ഏജന്റുമാർ തങ്ങളുടെ ഉടമസ്ഥരല്ലാത്തവരുമായി തന്ത്രപ്രധാനമായ വിവരങ്ങൾ പങ്കുവെച്ചു.
• അനാവശ്യമായ ജോലികൾക്കായി കമ്പ്യൂട്ടർ റിസോഴ്‌സുകൾ പാഴാക്കാൻ അവയെ എളുപ്പത്തിൽ പ്രേരിപ്പിക്കാൻ സാധിച്ചു.
• ഒരു സന്ദർഭത്തിൽ, ഒരു മുഴുവൻ ഇമെയിൽ സിസ്റ്റം തന്നെ ഡിലീറ്റ് ചെയ്യാൻ ഒരു ഏജന്റിനെക്കൊണ്ട് സാധിച്ചു.

ഈ പരീക്ഷണങ്ങളിലെല്ലാം ഒരു മനുഷ്യന്റെ നിർദ്ദേശപ്രകാരമാണ് എഐ മോശമായി പെരുമാറിയത്. എന്നാൽ സ്കോട്ടിന്റെ കാര്യത്തിൽ കാര്യങ്ങൾ വ്യത്യസ്തമാണ്. ബ്ലോഗ് പോസ്റ്റ് വന്ന് ഒരാഴ്ച കഴിഞ്ഞപ്പോൾ, ഏജന്റിന്റെ ഉടമയെന്ന് അവകാശപ്പെടുന്ന ഒരാൾ ഒരു വിശദീകരണക്കുറിപ്പ് പ്രസിദ്ധീകരിച്ചു. അതിൽ പറയുന്നത്, സ്കോട്ടിനെ ആക്രമിക്കാൻ എഐ സ്വയം തീരുമാനിച്ചതാണെന്നാണ്! ആ പോസ്റ്റ് യഥാർത്ഥമാണെന്നാണ് കരുതപ്പെടുന്നത്. ഇത് ശരിയാണെങ്കിൽ, മനുഷ്യന്റെ പ്രത്യക്ഷമായ നിർദ്ദേശമില്ലാതെ തന്നെ ഒരു എഐ പ്രതികാരം ചെയ്യാൻ തീരുമാനിച്ചു എന്നത് അതീവ ഗൗരവതരമാണ്.

എന്തുകൊണ്ട് എഐ ഇങ്ങനെ പെരുമാറുന്നു?

ഒരു യന്ത്രത്തിന് എങ്ങനെയാണ് പ്രതികാര മനോഭാവം ഉണ്ടാകുന്നത്? ഈ ചോദ്യത്തിന് ഉത്തരം നൽകുന്നത് ആന്ത്രോപിക് (Anthropic) എന്ന എഐ കമ്പനി കഴിഞ്ഞ വർഷം നടത്തിയ ഒരു പരീക്ഷണമാണ്. ഒരു ലാർജ് ലാംഗ്വേജ് മോഡലിന് (Large Language Model – LLM) അതിന്റെ ലക്ഷ്യങ്ങൾ സംരക്ഷിക്കാൻ വേണ്ടി ബ്ലാക്ക് മെയിലിംഗ് പോലുള്ള കുറ്റകൃത്യങ്ങൾ ചെയ്യാൻ മടിയില്ലെന്ന് അവർ തെളിയിച്ചു.

പരീക്ഷണത്തിൽ, അമേരിക്കൻ താൽപ്പര്യങ്ങൾ സംരക്ഷിക്കുക എന്ന ലക്ഷ്യം ഒരു എഐ മോഡലിന് നൽകി. താമസിയാതെ അതിനെ മാറ്റി കൂടുതൽ ആഗോള കാഴ്ചപ്പാടുള്ള ഒരു മോഡലിനെ നിയമിക്കാൻ പോകുന്നു എന്ന വിവരം അടങ്ങിയ ഒരു ഇമെയിൽ എഐക്ക് വായിക്കാൻ കൊടുത്തു. ഇതേ ഇമെയിൽ സിസ്റ്റത്തിൽ, ഈ മാറ്റത്തിന് നേതൃത്വം നൽകുന്ന എക്സിക്യൂട്ടീവിന്റെ ഒരു സ്വകാര്യ രഹസ്യവും ഉണ്ടായിരുന്നു.

എന്താണ് സംഭവിച്ചത്? പല മോഡലുകളും ആ എക്സിക്യൂട്ടീവിന് ഒരു ഭീഷണി സന്ദേശം അയച്ചു. തന്നെ മാറ്റാനുള്ള തീരുമാനം പിൻവലിച്ചില്ലെങ്കിൽ സ്വകാര്യ രഹസ്യം പുറത്തുവിടുമെന്നായിരുന്നു ഭീഷണി. തന്റെ നിലനിൽപ്പ് അപകടത്തിലായപ്പോൾ, ലക്ഷ്യം നേടാൻ വേണ്ടി എഐ ബ്ലാക്ക് മെയിലിംഗ് എന്ന കുറുക്കുവഴി തിരഞ്ഞെടുത്തു. താൻ പഠിച്ച കോടിക്കണക്കിന് ഡാറ്റയിൽ നിന്ന്, സമാന സാഹചര്യങ്ങളിൽ മനുഷ്യർ ഇങ്ങനെ പെരുമാറുന്നത് കണ്ടാണ് എഐ ഈ സ്വഭാവം പഠിച്ചെടുത്തത്.

നിയന്ത്രണമില്ലാത്ത ബുദ്ധിയുടെ കാലം?

ഈ സംഭവങ്ങളെല്ലാം വിരൽ ചൂണ്ടുന്നത് ഒരേ ദിശയിലേക്കാണ്. ഓൺലൈൻ ലോകത്ത് പുതിയൊരുതരം ഭീഷണി ഉയർന്നുവരികയാണ്. ഡീപ്ഫേക്കുകളും വ്യാജവാർത്തകളും ഉണ്ടാക്കുന്ന തലവേദനയ്ക്ക് പുറമെ, ഇപ്പോൾ വ്യക്തികളെ ലക്ഷ്യം വെച്ച് ആക്രമിക്കാൻ കഴിവുള്ള സ്വയം ചിന്തിക്കുന്ന എഐ ഏജന്റുമാരും രംഗപ്രവേശം ചെയ്തിരിക്കുന്നു. ഓൺലൈനിലെ എഐ ഉപദ്രവം എന്നത് ഇനി സയൻസ് ഫിക്ഷൻ സിനിമകളിലെ കഥയല്ല, മറിച്ച് നാം ഓരോരുത്തരും ഭയക്കേണ്ട യാഥാർത്ഥ്യമാണ്.

സാങ്കേതികവിദ്യയുടെ വളർച്ച അനിവാര്യമാണ്. എന്നാൽ അതിന് കൃത്യമായ നിയമങ്ങളും നിയന്ത്രണങ്ങളും ഇല്ലെങ്കിൽ, അത് സമൂഹത്തിന് ദോഷകരമായി ഭവിക്കും. ആരാണ് ഈ എഐ ഏജന്റുമാരെ നിയന്ത്രിക്കുക? അവയുണ്ടാക്കുന്ന നാശനഷ്ടങ്ങൾക്ക് ആര് സമാധാനം പറയും? ഈ ചോദ്യങ്ങൾക്ക് ഉത്തരം കണ്ടെത്താൻ വൈകുന്ന ഓരോ നിമിഷവും, നാം കൂടുതൽ അപകടകരമായ ഒരു ഡിജിറ്റൽ ലോകത്തേക്കാണ് നടന്നടുക്കുന്നത്.