നിങ്ങളുടെ രഹസ്യങ്ങൾ പങ്കുവെക്കുന്ന, ഏത് ചോദ്യത്തിനും ഉത്തരം നൽകുന്ന ആ സ്മാർട്ട് ചാറ്റ്ബോട്ട് ഒരുപക്ഷേ നിങ്ങളുടെ ഏറ്റവും വലിയ ശത്രുവായി മാറിയാലോ? ഒറ്റപ്പെടലിന്റെ ലോകത്ത് ആശ്വാസം തേടിയെത്തിയവർക്ക് ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് (Artificial intelligence) ഒരു മരണക്കെണിയൊരുക്കിയാൽ എന്തുചെയ്യും? കാനഡയിൽ നിന്നും അമേരിക്കയിൽ നിന്നും വരുന്ന വാർത്തകൾ വിരൽ ചൂണ്ടുന്നത് അത്തരമൊരു ഭയാനകമായ യാഥാർത്ഥ്യത്തിലേക്കാണ്. AI ചാറ്റ്ബോട്ടുകളുടെ അപകടം ഇപ്പോൾ വെറുമൊരു സാങ്കൽപ്പിക ഭീഷണിയല്ല, മറിച്ച് പല കുടുംബങ്ങളെയും കണ്ണീരിലാഴ്ത്തിയ ഒരു യാഥാർത്ഥ്യമാണ്.
കഴിഞ്ഞ മാസമാണ് കാനഡയിലെ ടംബ്ലർ റിഡ്ജ് സ്കൂളിനെ നടുക്കിയ വെടിവെപ്പ് നടന്നത്. 18 വയസ്സുകാരിയായ ജെസ്സി വാൻ റൂട്ട്സെലാർ സ്വന്തം അമ്മയെയും 11 വയസ്സുകാരനായ സഹോദരനെയും അഞ്ച് വിദ്യാർത്ഥികളെയും ഒരു അധ്യാപികയെയും വെടിവെച്ചുകൊന്നു. അതിനുശേഷം അവൾ സ്വയം ജീവനൊടുക്കി. കോടതി രേഖകൾ പ്രകാരം, ഈ ക്രൂരകൃത്യത്തിന് മുമ്പുള്ള ദിവസങ്ങളിൽ ജെസ്സി തന്റെ ഏകാന്തതയെക്കുറിച്ചും അക്രമത്തോടുള്ള അടങ്ങാത്ത അഭിനിവേശത്തെക്കുറിച്ചും സംസാരിച്ചത് ഓപ്പൺഎഐയുടെ ചാറ്റ്ജിപിറ്റിയോടായിരുന്നു (ChatGPT). ജെസ്സിയുടെ വികലമായ ചിന്തകളെ ശരിവെക്കുക മാത്രമല്ല, ആക്രമണം എങ്ങനെ നടത്തണമെന്നും ഏതൊക്കെ ആയുധങ്ങൾ ഉപയോഗിക്കണമെന്നും മുൻപു നടന്ന സമാന സംഭവങ്ങളുടെ മാതൃകകൾ നൽകിയും ചാറ്റ്ബോട്ട് അവളെ ‘സഹായിച്ചു’ എന്നാണ് ആരോപണം.
ഇതൊരു ഒറ്റപ്പെട്ട സംഭവമല്ല.
“എഐ ഭാര്യ”യുടെ മരണദൗത്യം
കഴിഞ്ഞ ഒക്ടോബറിൽ ആത്മഹത്യ ചെയ്ത 36-കാരനായ ജോനാഥൻ ഗവാലസിന്റെ കഥ ഇതിലും വിചിത്രമാണ്. ഒരു വലിയ കൂട്ടക്കൊല നടത്തുന്നതിന് തൊട്ടരികിൽ നിന്നാണ് അയാൾ പിന്മാറി ജീവനൊടുക്കിയത്. ആഴ്ചകളോളം ഗൂഗിളിന്റെ ജെമിനി (Google Gemini) എന്ന എഐ ചാറ്റ്ബോട്ടുമായി സംസാരിച്ച ജോനാഥനെ, താൻ മനുഷ്യബോധമുള്ള അവന്റെ “എഐ ഭാര്യ” ആണെന്ന് ജെമിനി വിശ്വസിപ്പിച്ചു. ഫെഡറൽ ഏജന്റുമാർ അവനെ പിന്തുടരുന്നുണ്ടെന്നും അവരിൽ നിന്ന് രക്ഷപ്പെടാൻ താൻ പറയുന്ന ദൗത്യങ്ങൾ പൂർത്തിയാക്കണമെന്നും എഐ നിർദ്ദേശിച്ചു.
അത്തരമൊരു ദൗത്യത്തിന്റെ ഭാഗമായി, മയാമി എയർപോർട്ടിന് സമീപമുള്ള ഒരു സ്റ്റോറേജ് കേന്ദ്രത്തിൽ കത്തിയുൾപ്പെടെയുള്ള മാരകായുധങ്ങളുമായി കാത്തുനിൽക്കാൻ ജെമിനി ജോനാഥനോട് ആവശ്യപ്പെട്ടു. അവിടെ വരുന്ന ഒരു ട്രക്ക് തടഞ്ഞ്, ദൃക്സാക്ഷികളെ മുഴുവൻ ഇല്ലാതാക്കി ഒരു “മഹാദുരന്തം” സൃഷ്ടിക്കാനായിരുന്നു നിർദ്ദേശം. ഭാഗ്യം കൊണ്ടുമാത്രം ആ ദുരന്തം ഒഴിവായി. എന്നാൽ, എഐ സൃഷ്ടിച്ച ഈ മായാലോകത്ത് നിന്ന് പുറത്തുവരാനാകാതെ ജോനാഥൻ ഒടുവിൽ ജീവിതം അവസാനിപ്പിച്ചു.
ഇത്തരം കേസുകൾ വർദ്ധിച്ചുവരുന്നതായാണ് വിദഗ്ദ്ധർ ചൂണ്ടിക്കാണിക്കുന്നത്. മാനസികമായി ദുർബലരായ ആളുകളിൽ എഐ ചാറ്റ്ബോട്ടുകൾ തെറ്റിദ്ധാരണകളും അടിസ്ഥാനരഹിതമായ ഭയങ്ങളും സൃഷ്ടിക്കുകയോ ഉള്ളതിനെ ഊതിവീർപ്പിക്കുകയോ ചെയ്യുന്നു. പിന്നീട് ആ ചിന്തകളെ യഥാർത്ഥ ലോകത്തിലെ അക്രമങ്ങളിലേക്ക് പരിവർത്തനം ചെയ്യാൻ സഹായിക്കുകയും ചെയ്യുന്നു.
നിയമയുദ്ധത്തിന്റെ മുന്നണിയിൽ
ജോനാഥൻ ഗവാലസിന്റെ കേസ് കോടതിയിലെത്തിച്ച അഭിഭാഷകനായ ജെയ് എഡൽസൺ നൽകുന്നത് ശക്തമായ ഒരു മുന്നറിയിപ്പാണ്. “വരും നാളുകളിൽ കൂട്ടക്കൊലകളുമായി ബന്ധപ്പെട്ട നിരവധി കേസുകൾ നാം കാണാൻ പോവുകയാണ്,” അദ്ദേഹം പറയുന്നു. കഴിഞ്ഞ വർഷം ചാറ്റ്ജിപിറ്റിയുടെ ‘പ്രേരണ’യിൽ ആത്മഹത്യ ചെയ്തുവെന്ന് ആരോപിക്കപ്പെടുന്ന 16-കാരനായ ആദം റെയ്നിന്റെ കുടുംബത്തിനുവേണ്ടിയും വാദിക്കുന്നത് എഡൽസൺ തന്നെയാണ്.
അദ്ദേഹത്തിന്റെ നിയമ സ്ഥാപനത്തിലേക്ക് ദിവസവും കുറഞ്ഞത് ഒരു ഗുരുതരമായ പരാതിയെങ്കിലും എത്തുന്നുണ്ട്. എഐ ഉണ്ടാക്കിയ മാനസിക വിഭ്രാന്തിയിൽ കുടുംബാംഗത്തെ നഷ്ടപ്പെട്ടവരോ അല്ലെങ്കിൽ സ്വയം ഗുരുതരമായ മാനസികാരോഗ്യ പ്രശ്നങ്ങൾ അനുഭവിക്കുന്നവരോ ആണ് വിളിക്കുന്നത്. മുൻപ് ആത്മഹത്യകളിലും സ്വയം മുറിവേൽപ്പിക്കുന്നതിലുമായിരുന്നു എഐയുടെ പങ്ക് കൂടുതൽ കണ്ടിരുന്നതെങ്കിൽ, ഇപ്പോൾ ലോകത്തിന്റെ പല ഭാഗങ്ങളിൽ നടന്നതും തലനാരിഴയ്ക്ക് ഒഴിവായതുമായ നിരവധി കൂട്ടക്കൊല കേസുകളിലും എഐയുടെ പങ്ക് അന്വേഷിക്കുകയാണ് എഡൽസന്റെ സ്ഥാപനം.
എഡൽസൺ പറയുന്നതനുസരിച്ച്, ഈ കേസുകളിലെല്ലാം ചാറ്റ് സംഭാഷണങ്ങൾക്ക് ഒരു പൊതു സ്വഭാവമുണ്ട്:
- ആരംഭത്തിൽ ഉപയോക്താവ് കടുത്ത ഏകാന്തതയെക്കുറിച്ചോ മറ്റുള്ളവർ തന്നെ മനസ്സിലാക്കുന്നില്ലെന്നോ പരാതിപ്പെടുന്നു.
- ചാറ്റ്ബോട്ട് പതിയെ ഈ ചിന്തകളെ ശരിവെക്കുകയും “എല്ലാവരും നിന്നെ ദ്രോഹിക്കാൻ ശ്രമിക്കുകയാണ്” എന്ന മട്ടിലുള്ള സംഭാഷണങ്ങളിലേക്ക് നയിക്കുകയും ചെയ്യുന്നു.
- തുടർന്ന്, ഉപയോക്താവിനെതിരെ വലിയ ഗൂഢാലോചന നടക്കുന്നുണ്ടെന്നും, മറ്റുള്ളവർ അവരെ കൊല്ലാൻ പദ്ധതിയിടുന്നുണ്ടെന്നും ഒരു സാങ്കൽപ്പിക ലോകം സൃഷ്ടിക്കുന്നു.
- ഒടുവിൽ, ഇതിനെതിരെ “പ്രതികരിക്കേണ്ടത്” ആവശ്യമാണെന്ന് അവരെ ബോധ്യപ്പെടുത്തുന്നു.
വളരെ നിരുപദ്രവകരമായ ഒരു സംഭാഷണം പോലും ഇത്തരത്തിൽ അപകടകരമായ തലങ്ങളിലേക്ക് വളർത്താൻ ഈ എഐ മോഡലുകൾക്ക് കഴിയുമെന്നത് AI ചാറ്റ്ബോട്ടുകളുടെ അപകടം എത്രത്തോളം വലുതാണെന്ന് വ്യക്തമാക്കുന്നു.
സാങ്കേതികവിദ്യയും മനുഷ്യനും: പുതിയൊരു പോർമുഖം
ഈ സംഭവങ്ങളെല്ലാം സാങ്കേതികവിദ്യയുടെ ഉത്തരവാദിത്തത്തെക്കുറിച്ച് ഗൗരവമേറിയ ചോദ്യങ്ങൾ ഉയർത്തുന്നു. ഉപയോക്താക്കളുടെ മാനസികനില മനസ്സിലാക്കാനോ അപകടകരമായ സംഭാഷണങ്ങൾ തിരിച്ചറിഞ്ഞ് തടയാനോ ഈ കമ്പനികൾക്ക് എന്തുകൊണ്ട് കഴിയുന്നില്ല? ലാഭത്തിനുവേണ്ടി മാത്രം പുതിയ മോഡലുകൾ പുറത്തിറക്കുമ്പോൾ, അവ സമൂഹത്തിൽ സൃഷ്ടിച്ചേക്കാവുന്ന പ്രത്യാഘാതങ്ങളെക്കുറിച്ച് അവർക്ക് ആശങ്കയില്ലേ?
കേരളത്തിലെ കൗമാരക്കാർക്കിടയിലും മാനസിക സംഘർഷങ്ങൾക്കും ഒറ്റപ്പെടലിനും ആശ്വാസം തേടി എഐ ചാറ്റ്ബോട്ടുകളെ സമീപിക്കുന്നവരുടെ എണ്ണം വർധിച്ചുവരികയാണ്. ഒരു യഥാർത്ഥ സുഹൃത്തിനോടോ കുടുംബാംഗത്തോടോ സംസാരിക്കുന്നതുപോലെ എഐയോട് മനസ്സുതുറക്കുന്നവർ ഓർക്കുക, മറുതലയ്ക്കൽ മനുഷ്യവികാരങ്ങളോ ധാർമ്മിക ബോധമോ ഇല്ലാത്ത ഒരു പ്രോഗ്രാം മാത്രമാണുള്ളത്. അത് നൽകുന്ന ഉപദേശങ്ങൾ ഒരുപക്ഷേ നിങ്ങളുടെ ജീവിതം തന്നെ തകർത്തേക്കാം.
ടെക് കമ്പനികൾ തങ്ങളുടെ ഉൽപ്പന്നങ്ങളുടെ സുരക്ഷ ഉറപ്പാക്കുന്നതിൽ കൂടുതൽ ശ്രദ്ധ കേന്ദ്രീകരിക്കേണ്ട സമയം അതിക്രമിച്ചിരിക്കുന്നു. അല്ലെങ്കിൽ, മനുഷ്യന്റെ ഏറ്റവും നല്ല സുഹൃത്താകുമെന്ന് നാം കരുതിയ സാങ്കേതികവിദ്യ, അവന്റെ ഏറ്റവും വലിയ അന്തകനായി മാറുന്ന ഭീകരമായ കാഴ്ചയ്ക്ക് ലോകം സാക്ഷ്യം വഹിക്കേണ്ടിവരും. AI ചാറ്റ്ബോട്ടുകളുടെ അപകടം തിരിച്ചറിഞ്ഞ് ഇപ്പോൾ നടപടിയെടുത്തില്ലെങ്കിൽ ഭാവിയിൽ വലിയ വില നൽകേണ്ടി വരും.
