ശാന്തമായ ഒരു കനേഡിയൻ പട്ടണം. എട്ട് സാധാരണ മനുഷ്യരുടെ ദാരുണമായ കൊലപാതകം. ഇതിനെല്ലാം പിന്നിൽ ലോകത്തെ ഏറ്റവും വലിയ ടെക് ഭീമന്മാരിലൊരാളുടെ നിർണായകമായ ഒരു പിഴവ്. ചാറ്റ്ജിപിറ്റിയുടെ നിർമ്മാതാക്കളായ ഓപ്പൺഎഐ, ഇപ്പോൾ ഒരു വലിയ പ്രതിസന്ധിയുടെ നടുവിലാണ്. ഒരു ദുരന്തം മുൻകൂട്ടി തടയാൻ കഴിയുമായിരുന്നിട്ടും അതു ചെയ്യാതിരുന്നതിന് കമ്പനിയുടെ സിഇഒ സാം ആൾട്ട്മാൻ പരസ്യമായി മാപ്പ് പറഞ്ഞിരിക്കുന്നു. ഇത് വെറുമൊരു ഖേദപ്രകടനമല്ല, മറിച്ച് ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസിന്റെ (Artificial Intelligence) ഭാവിയെക്കുറിച്ചുള്ള ഗുരുതരമായ ചില ചോദ്യങ്ങൾ ഉയർത്തുന്ന സംഭവമാണ്.
കാനഡയിലെ ടംബ്ലർ റിഡ്ജ് എന്ന ചെറിയ പട്ടണത്തിലെ ജനതയ്ക്ക് എഴുതിയ തുറന്ന കത്തിലാണ് സാം ആൾട്ട്മാൻ തന്റെയും കമ്പനിയുടെയും പിഴവ് ഏറ്റുപറഞ്ഞത്. “ഞങ്ങളുടെ ഭാഗത്തുനിന്നുണ്ടായ വീഴ്ചയിൽ ഞാൻ അഗാധമായി ഖേദിക്കുന്നു” എന്ന് അദ്ദേഹം കുറിച്ചു. ഈ മാപ്പപേക്ഷയ്ക്ക് പിന്നിൽ, ഓപ്പൺഎഐയുടെ സുരക്ഷാ വീഴ്ച കാരണം നഷ്ടമായ എട്ട് ജീവനുകളുടെ കഥയുണ്ട്.
കാര്യങ്ങൾ കൈവിട്ടുപോയത് എവിടെയാണ്?
2025 ജൂൺ മാസത്തിലാണ് സംഭവങ്ങളുടെ തുടക്കം. 18 വയസ്സുകാരിയായ ജെസ്സി വാൻ റൂട്ട്സെലാർ എന്നയാൾ ചാറ്റ്ജിപിറ്റിയിൽ തോക്കുകളും അക്രമങ്ങളും ഉൾപ്പെടുന്ന ചില അപകടകരമായ സാഹചര്യങ്ങളെക്കുറിച്ച് എഴുതി. ഇത് ശ്രദ്ധയിൽപ്പെട്ട ഓപ്പൺഎഐയുടെ സുരക്ഷാ സംവിധാനങ്ങൾ ഉടൻതന്നെ ആ അക്കൗണ്ട് നിരീക്ഷിക്കുകയും പിന്നീട് നിരോധിക്കുകയും ചെയ്തു.
ഇവിടെയാണ് കാര്യങ്ങൾ സങ്കീർണ്ണമാകുന്നത്. ഉപയോക്താവിന്റെ അപകടകരമായ ഉള്ളടക്കം കണ്ടെത്തിയെങ്കിലും, ഇക്കാര്യം പോലീസിനെയോ മറ്റ് നിയമപാലകരെയോ അറിയിക്കണോ എന്ന കാര്യത്തിൽ ഓപ്പൺഎഐയുടെ ജീവനക്കാർക്കിടയിൽ വലിയ ചർച്ച നടന്നു. ഒടുവിൽ, ഉപയോക്താവിന്റെ സ്വകാര്യതയെ മാനിച്ച് പോലീസിനെ അറിയിക്കേണ്ടതില്ല എന്ന തീരുമാനത്തിൽ അവരെത്തി. ഒരുപക്ഷേ, സാങ്കേതികമായി ശരിയായ തീരുമാനം. എന്നാൽ മാനുഷികമായി അതൊരു വൻ ദുരന്തത്തിലേക്കുള്ള ആദ്യ ചുവടുവെപ്പായിരുന്നു.
മാസങ്ങൾക്കു ശേഷം, അതേ ജെസ്സി വാൻ റൂട്ട്സെലാർ ടംബ്ലർ റിഡ്ജിൽ എട്ടുപേരെ വെടിവെച്ചുകൊന്നു. പ്രതിയെ തിരിച്ചറിഞ്ഞതോടെയാണ് ഓപ്പൺഎഐയുടെ പഴയ തീരുമാനം വീണ്ടും ചർച്ചയായത്. വാൾ സ്ട്രീറ്റ് ജേണൽ ഈ വാർത്ത പുറത്തുവിട്ടതോടെ ടെക് ലോകം ഞെട്ടി. ഒരുപക്ഷേ, കൃത്യസമയത്ത് ഒരു വിവരം നൽകിയിരുന്നെങ്കിൽ ഈ ദുരന്തം ഒഴിവാക്കാമായിരുന്നില്ലേ എന്ന ചോദ്യം എല്ലായിടത്തുനിന്നും ഉയർന്നു.
മാപ്പ്… പക്ഷേ, മതിയാകുമോ?
ദുരന്തം നടന്ന്, ലോകം മുഴുവൻ ചർച്ച ചെയ്തതിന് ശേഷമാണ് ഓപ്പൺഎഐ കനേഡിയൻ അധികൃതരുമായി ബന്ധപ്പെടുന്നത്. ടംബ്ലർ റിഡ്ജിലെ പ്രാദേശിക പത്രമായ ‘ടംബ്ലർ റിഡ്ജ്ലൈൻസി’ൽ പ്രസിദ്ധീകരിച്ച കത്തിൽ സാം ആൾട്ട്മാൻ പറയുന്നു: “ജൂണിൽ നിരോധിച്ച അക്കൗണ്ടിനെക്കുറിച്ച് നിയമപാലകരെ അറിയിക്കാത്തതിൽ ഞാൻ ആത്മാർത്ഥമായി ഖേദിക്കുന്നു. വാക്കുകൾക്ക് ഒന്നിനും പകരമാവില്ലെന്ന് എനിക്കറിയാം, എങ്കിലും നിങ്ങളുടെ സമൂഹം അനുഭവിച്ച നഷ്ടത്തിനും വേദനയ്ക്കും ഒരു ക്ഷമാപണം ആവശ്യമാണെന്ന് ഞാൻ വിശ്വസിക്കുന്നു.”
എന്നാൽ ഈ ഖേദപ്രകടനം എല്ലാവരും ഒരുപോലെ സ്വീകരിച്ചിട്ടില്ല. ബ്രിട്ടീഷ് കൊളംബിയ പ്രീമിയർ ഡേവിഡ് എബി ഇതിനോട് പ്രതികരിച്ചത് വളരെ രൂക്ഷമായാണ്. “ആൾട്ട്മാന്റെ ക്ഷമാപണം അത്യാവശ്യമാണ്, പക്ഷേ ടംബ്ലർ റിഡ്ജിലെ കുടുംബങ്ങൾക്കുണ്ടായ നാശനഷ്ടങ്ങൾ കണക്കിലെടുക്കുമ്പോൾ ഇത് തീർത്തും അപര്യാപ്തമാണ്,” അദ്ദേഹം എക്സ് പ്ലാറ്റ്ഫോമിൽ കുറിച്ചു.
വെറുമൊരു ഖേദപ്രകടനത്തിൽ ഒതുങ്ങുന്നതാണോ എട്ട് മനുഷ്യജീവനുകളുടെ വില? ഈ ചോദ്യം കാനഡയിൽ മാത്രമല്ല, ലോകമെമ്പാടുമുള്ള സാങ്കേതിക വിദഗ്ദ്ധരും സാധാരണക്കാരും ചോദിക്കുന്നുണ്ട്.
ഇനിയെന്ത്? തിരുത്തൽ നടപടികൾ
സംഭവിച്ചത് ഒരു ഒറ്റപ്പെട്ട പിഴവല്ലെന്നും, തങ്ങളുടെ നയങ്ങളിലെ പാളിച്ചയാണെന്നും ഓപ്പൺഎഐ തിരിച്ചറിഞ്ഞിട്ടുണ്ട്. ഭാവിയിൽ ഇത്തരം ദുരന്തങ്ങൾ ആവർത്തിക്കാതിരിക്കാൻ കർശനമായ നടപടികൾ സ്വീകരിക്കുമെന്നും കമ്പനി ഉറപ്പുനൽകുന്നു. ഓപ്പൺഎഐയുടെ സുരക്ഷാ വീഴ്ച പരിഹരിക്കാൻ ലക്ഷ്യമിട്ടുള്ള പ്രധാന മാറ്റങ്ങൾ ഇവയാണ്:
- പുതിയ സുരക്ഷാ പ്രോട്ടോക്കോളുകൾ: എപ്പോൾ, എങ്ങനെ നിയമപാലകരെ വിവരമറിയിക്കണം എന്നതിനെക്കുറിച്ച് കൂടുതൽ വ്യക്തവും അയവുള്ളതുമായ മാർഗ്ഗനിർദ്ദേശങ്ങൾ കൊണ്ടുവരും.
- നേരിട്ടുള്ള ആശയവിനിമയം: കനേഡിയൻ നിയമപാലകരുമായി നേരിട്ട് ബന്ധപ്പെടാനും വിവരങ്ങൾ കൈമാറാനും പ്രത്യേക സംവിധാനം ഏർപ്പെടുത്തും.
- സർക്കാർ സഹകരണം: ഇത്തരം സംഭവങ്ങൾ ആവർത്തിക്കാതിരിക്കാൻ എല്ലാ തലത്തിലുമുള്ള സർക്കാർ ഏജൻസികളുമായി ചേർന്ന് പ്രവർത്തിക്കുമെന്നും സാം ആൾട്ട്മാൻ ഉറപ്പുനൽകുന്നു.
ഈ നടപടികളെല്ലാം സ്വാഗതാർഹമാണ്. എന്നാൽ ഇതൊക്കെ നേരത്തെ ചിന്തിച്ചിരുന്നെങ്കിൽ എന്ന് ടംബ്ലർ റിഡ്ജിലെ ജനങ്ങൾ ചോദിച്ചാൽ അവരെ കുറ്റം പറയാനാവില്ല.
വെറുമൊരു പിഴവല്ല, ഇതൊരു മുന്നറിയിപ്പ്
ടംബ്ലർ റിഡ്ജിലെ സംഭവം ഓപ്പൺഎഐയുടെ മാത്രം പിഴവല്ല. അതിവേഗം വളരുന്ന ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് വ്യവസായത്തിന് മൊത്തത്തിലുള്ള ഒരു മുന്നറിയിപ്പാണിത്. “വേഗത്തിൽ മുന്നേറുക, തടസ്സങ്ങളെല്ലാം തകർക്കുക” (Move fast and break things) എന്ന സിലിക്കൺ വാലിയുടെ പഴയ മുദ്രാവാക്യം, യഥാർത്ഥ ലോകത്ത് എത്രത്തോളം അപകടകരമാകുമെന്നതിന്റെ ഉത്തമ ഉദാഹരണമാണിത്.
ഉപയോക്താക്കളുടെ സ്വകാര്യതയും പൊതുജനങ്ങളുടെ സുരക്ഷയും തമ്മിലുള്ള അതിർവരമ്പ് എവിടെയാണ്? ഒരു എഐ കമ്പനിക്ക് ഒരു വ്യക്തിയുടെ ചിന്തകളെയും എഴുത്തുകളെയും എത്രത്തോളം നിരീക്ഷിക്കാം? അപകടകരമായ സൂചനകൾ കണ്ടാൽ എന്തു ചെയ്യണം? ഈ ചോദ്യങ്ങൾക്ക് ഉത്തരം കണ്ടെത്തേണ്ടത് ഓപ്പൺഎഐ മാത്രമല്ല, ഗൂഗിൾ, മെറ്റ തുടങ്ങിയ എല്ലാ ടെക് ഭീമന്മാരുമാണ്.
നമ്മൾ കേരളത്തിൽ പോലും ദിവസേന ഉപയോഗിക്കുന്ന ഇത്തരം എഐ ടൂളുകൾക്ക് പിന്നിലെ നയപരമായ തീരുമാനങ്ങൾ എത്രത്തോളം അപകടകരമാകാമെന്നതിന്റെ ഒരു കണ്ണുതുറപ്പിക്കുന്ന ഉദാഹരണമാണിത്. ഒരു ഉപകരണം സൗജന്യമായി ഉപയോഗിക്കുമ്പോൾ, അതിന്റെ പ്രവർത്തനരീതികളെക്കുറിച്ചോ സുരക്ഷാ മാനദണ്ഡങ്ങളെക്കുറിച്ചോ നമ്മളിൽ പലരും ചിന്തിക്കാറില്ല. ഓപ്പൺഎഐയുടെ സുരക്ഷാ വീഴ്ച പോലുള്ള സംഭവങ്ങൾ നടക്കുമ്പോഴാണ് ഇതിന്റെ ഗൗരവം നമുക്ക് മനസ്സിലാകുന്നത്.
ഈ സംഭവത്തിന്റെ പശ്ചാത്തലത്തിൽ, ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസിനായി പുതിയ നിയമങ്ങൾ കൊണ്ടുവരുന്നതിനെക്കുറിച്ച് കനേഡിയൻ സർക്കാർ ഗൗരവമായി ആലോചിക്കുകയാണ്. ലോകമെമ്പാടുമുള്ള സർക്കാരുകൾക്ക് ഇതൊരു പാഠമാണ്. സാങ്കേതികവിദ്യയുടെ കുതിപ്പിന് കടിഞ്ഞാണിടുകയല്ല, മറിച്ച് അതിന് വ്യക്തമായ നിയമങ്ങളുടെയും ധാർമ്മികതയുടെയും ഒരു ചട്ടക്കൂട് നൽകുകയാണ് വേണ്ടത്.
സാം ആൾട്ട്മാന്റെ ക്ഷമാപണം ഒരു തുടക്കം മാത്രമാണ്. നഷ്ടപ്പെട്ട വിശ്വാസം വീണ്ടെടുക്കാൻ ഓപ്പൺഎഐ ഇനിയും ഒരുപാട് ദൂരം സഞ്ചരിക്കേണ്ടതുണ്ട്. സാങ്കേതികവിദ്യ മനുഷ്യന് വേണ്ടിയുള്ളതാകണം, മനുഷ്യന്റെ അന്തകനാകരുത് എന്ന വലിയ പാഠമാണ് ടംബ്ലർ റിഡ്ജ് ലോകത്തെ പഠിപ്പിക്കുന്നത്.




