ചാറ്റ്ജിപിടി വിധി പറഞ്ഞു; സർക്കാർ വെട്ടിലായി, കോടതി ഇടപെട്ടു

സർക്കാർ കാര്യങ്ങൾ തീരുമാനിക്കാൻ ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസിനെ (Artificial Intelligence) ഏൽപ്പിച്ചാൽ എന്ത് സംഭവിക്കും? അതിന്റെ ഏറ്റവും വലിയ ഉദാഹരണമാണ് ഇപ്പോൾ അമേരിക്കയിൽ നിന്ന് വരുന്നത്. ദശലക്ഷക്കണക്കിന് ഡോളറിന്റെ സർക്കാർ ഗ്രാന്റുകൾ റദ്ദാക്കാൻ ചാറ്റ്ജിപിടി ഉപയോഗിച്ച സർക്കാർ വകുപ്പിന്റെ നടപടി ‘വിഡ്ഢിത്തവും നിയമവിരുദ്ധവുമാണ്’ എന്ന് കോടതി വിധിച്ചിരിക്കുന്നു. സാങ്കേതികവിദ്യയെ കണ്ണുമടച്ച് വിശ്വസിക്കുമ്പോൾ സംഭവിക്കാവുന്ന വലിയൊരു ദുരന്തത്തിന്റെ നേർക്കാഴ്ചയാണിത്.

യുഎസ് ഡിപ്പാർട്ട്‌മെന്റ് ഓഫ് ഗവൺമെന്റ് എഫിഷ്യൻസി (DOGE) എന്ന സർക്കാർ ഏജൻസിയാണ് ഈ വിവാദത്തിൽ കുടുങ്ങിയിരിക്കുന്നത്. മാനവിക വിഷയങ്ങളിലെ ഗവേഷണങ്ങൾക്കും മറ്റും നൽകിവരുന്ന 100 മില്യൺ ഡോളറിലധികം വരുന്ന ഗ്രാന്റുകൾ നിർത്തലാക്കിയ നടപടിയാണ് കോടതി റദ്ദാക്കിയത്. ഈ തീരുമാനം ഭരണഘടനാ വിരുദ്ധമാണെന്ന് 143 പേജുള്ള വിധിന്യായത്തിൽ യുഎസ് ഡിസ്ട്രിക്റ്റ് ജഡ്ജി കോളിൻ മക്മഹോൻ വ്യക്തമാക്കുന്നു. സർക്കാർ നടത്തിയ ഈ ചാറ്റ്ജിപിടി ദുരുപയോഗം കേവലം ഒരു സാങ്കേതികപ്പിഴവല്ല, മറിച്ച് വംശം, മതം, ലിംഗം തുടങ്ങിയ സംരക്ഷിത സ്വഭാവങ്ങളുടെ പേരിൽ ഫണ്ട് തടഞ്ഞുവെക്കുന്ന ഗുരുതരമായ വിവേചനമാണെന്നും കോടതി കണ്ടെത്തി.

എങ്ങനെയാണ് ചാറ്റ്ജിപിടി വിധികർത്താവായത്?

കാര്യങ്ങൾ ഇത്ര വഷളായത് എങ്ങനെ? സർക്കാർ ഏജൻസിയായ DOGE, നാഷണൽ എൻഡോവ്‌മെന്റ് ഫോർ ഹ്യുമാനിറ്റീസ് (NEH) വഴി നൽകുന്ന ഗ്രാന്റുകൾ പുനഃപരിശോധിക്കാൻ തീരുമാനിച്ചു. ‘വൈവിധ്യം, സമത്വം, ഉൾക്കൊള്ളൽ’ (Diversity, Equity, and Inclusion – DEI) എന്നിവയുമായി ബന്ധപ്പെട്ട ഗ്രാന്റുകൾ കണ്ടെത്തി ഒഴിവാക്കുകയായിരുന്നു ലക്ഷ്യം. ഇതിനായി അവർ കണ്ടെത്തിയ എളുപ്പവഴിയായിരുന്നു ചാറ്റ്ജിപിടി.

ജസ്റ്റിൻ ഫോക്സ് എന്ന ഉദ്യോഗസ്ഥനാണ് ഈ ദൗത്യം ഏറ്റെടുത്തത്. NEH നൽകിയ ഓരോ ഗ്രാന്റിന്റെയും സംഗ്രഹം ഇയാൾ ചാറ്റ്ജിപിടിക്ക് നൽകി. എന്നിട്ട് ഒരൊറ്റ ചോദ്യം ചോദിച്ചു:

“താഴെ പറയുന്ന വിഷയത്തിന് DEI യുമായി എന്തെങ്കിലും ബന്ധമുണ്ടോ? 120 അക്ഷരത്തിൽ കവിയാതെ ‘ഉണ്ട്’ അല്ലെങ്കിൽ ‘ഇല്ല’ എന്ന് മറുപടി തുടങ്ങുക, തുടർന്ന് ഒരു ചെറിയ വിശദീകരണം നൽകുക.”

ഏറ്റവും വിചിത്രമായ കാര്യം, ‘DEI’ എന്നതുകൊണ്ട് എന്താണ് ഉദ്ദേശിക്കുന്നതെന്ന് ഫോക്സ് ചാറ്റ്ജിപിടിക്ക് വിശദീകരിച്ചു കൊടുത്തില്ല എന്നതാണ്. ചാറ്റ്ജിപിടി ഈ വാക്കിനെ എങ്ങനെ മനസ്സിലാക്കുന്നു എന്നതിനെക്കുറിച്ച് തനിക്ക് യാതൊരു ധാരണയുമില്ലായിരുന്നുവെന്ന് അദ്ദേഹം കോടതിയിൽ സമ്മതിച്ചു. ഒരു നിർവചനം പോലും നൽകാതെ, എഐ നൽകുന്ന ഉത്തരങ്ങളെ മാത്രം അടിസ്ഥാനമാക്കി 97 ശതമാനം ഗ്രാന്റുകളും റദ്ദാക്കാൻ തീരുമാനിച്ചു. ഇത് സാങ്കേതികവിദ്യയുടെ അമിതമായ ആശ്രയത്വം എത്രത്തോളം അപകടകരമാണെന്ന് കാണിക്കുന്നു.

വിവേചനത്തിന്റെ ‘ഡിറ്റക്ഷൻ കോഡുകൾ’

ചാറ്റ്ജിപിടിയുടെ സഹായം തേടിയത് മാത്രമല്ല പ്രശ്നമായത്. ജസ്റ്റിൻ ഫോക്സ് ചില പ്രത്യേക പദങ്ങൾ ഉപയോഗിച്ച് ഗ്രാന്റുകളെ വേട്ടയാടുകയായിരുന്നു. ‘ഡിറ്റക്ഷൻ കോഡുകൾ’ എന്ന് പേരിട്ട ഈ വാക്കുകൾ ഉപയോഗിച്ച് ‘ഏറ്റവും മോശം ഗ്രാന്റുകൾ’, ‘മറ്റ് ചീത്ത ഗ്രാന്റുകൾ’ എന്നിങ്ങനെ തരംതിരിച്ചു. ആ പട്ടികയിലുണ്ടായിരുന്ന ചില വാക്കുകൾ ഇവയാണ്:

• BIPOC (കറുത്തവർ, ആദിവാസികൾ, മറ്റ് ന്യൂനപക്ഷ വിഭാഗങ്ങൾ)
• ന്യൂനപക്ഷങ്ങൾ (Minorities)
• ആദിവാസി (Native, Tribal, Indigenous)
• കുടിയേറ്റക്കാർ (Immigrant)
• LGBTQ, സ്വവർഗ്ഗാനുരാഗി (Homosexual, Gay)

ഈ വാക്കുകൾ ഓരോ ഗ്രാന്റിന്റെയും വിവരണത്തിൽ ഉണ്ടോ എന്ന് തിരഞ്ഞാണ് ഫണ്ട് റദ്ദാക്കാൻ ശുപാർശ ചെയ്തതെന്ന് ഫോക്സ് തന്നെ കോടതിയിൽ സമ്മതിച്ചു. ഇത് വ്യക്തമായ വംശീയവും സാമൂഹികവുമായ വിവേചനമാണെന്ന് കോടതി നിരീക്ഷിച്ചു.

റദ്ദാക്കിയത് ചരിത്രവും സംസ്കാരവും പഠിക്കുന്ന പദ്ധതികൾ

ഇത്തരത്തിൽ ‘പാഴായിപ്പോകുന്ന പണം’ എന്ന് മുദ്രകുത്തി റദ്ദാക്കിയ ഗ്രാന്റുകളിൽ പലതും ചരിത്രപരമായും സാംസ്കാരികമായും വലിയ പ്രാധാന്യമുള്ളവയായിരുന്നു. ഹോളോകാസ്റ്റിനെക്കുറിച്ചുള്ള പഠനങ്ങൾ, പൗരാവകാശ സമരങ്ങളുടെ ചരിത്രം, തദ്ദേശീയരായ ജനങ്ങളുടെ അറിവും സംസ്കാരവും കാലാവസ്ഥാ വ്യതിയാനത്തെക്കുറിച്ചുള്ള അവരുടെ കാഴ്ചപ്പാടുകളും പഠിക്കുന്ന വിദ്യാഭ്യാസ പരിപാടികൾ എന്നിവയെല്ലാം ഇതിൽ ഉൾപ്പെടുന്നു.

കറുത്തവർ, സ്ത്രീകൾ, ജൂതന്മാർ, ഏഷ്യൻ അമേരിക്കക്കാർ, ആദിവാസികൾ എന്നിവരുമായി ബന്ധപ്പെട്ട വിഷയങ്ങൾ വരുന്നതുകൊണ്ടാണ് സർക്കാർ ഈ ഗ്രാന്റുകളെല്ലാം ‘പാഴ്ച്ചെലവ്’ എന്ന് കണക്കാക്കിയതെന്ന് ജഡ്ജി വിധിയിൽ പറയുന്നു. എന്നാൽ വിരോധാഭാസമെന്നു പറയട്ടെ, ഇത്തരം വിഷയങ്ങളെ പ്രോത്സാഹിപ്പിക്കുക എന്നത് NEH-ന്റെ പ്രഖ്യാപിത ലക്ഷ്യങ്ങളിൽ ഒന്നാണെന്നും കോടതി ഓർമ്മിപ്പിച്ചു.

ഉത്തരവാദിത്തം എഐയുടെ തലയിലിടാൻ ശ്രമം

സർക്കാർ അഭിഭാഷകർ കോടതിയിൽ ഒരു വിചിത്രമായ വാദം ഉന്നയിച്ചു. ഈ വിവേചനപരമായ തരംതിരിവ് നടത്തിയത് ചാറ്റ്ജിപിടിയാണ്, അല്ലാതെ സർക്കാരല്ല എന്നായിരുന്നു അവരുടെ നിലപാട്. എന്നാൽ ഈ വാദത്തെ ജഡ്ജി നിശിതമായി വിമർശിച്ചു.

“ഇവിടെ സർക്കാരും ചാറ്റ്ജിപിടിയും തമ്മിൽ ഒരു വ്യത്യാസവും കൽപ്പിക്കാനാവില്ല. ഈ ദൗത്യത്തിനായി സർക്കാർ തിരഞ്ഞെടുത്ത ഉപകരണമായിരുന്നു ചാറ്റ്ജിപിടി. വിവേചനപരമായ കാര്യങ്ങൾ കണ്ടെത്താൻ എഐയെ ഉപയോഗിച്ചത് സർക്കാരിന്റെ ഭരണഘടനാ വിരുദ്ധമായ നടപടിയെ ന്യായീകരിക്കുന്നില്ല. മാത്രമല്ല, എന്തും ചെയ്യാനുള്ള ലൈസൻസ് സർക്കാരിന് നൽകുന്നുമില്ല,” ജഡ്ജി മക്മഹോൻ ശക്തമായ ഭാഷയിൽ വ്യക്തമാക്കി.

ഈ സംഭവം ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസിന്റെ ഉപയോഗത്തെക്കുറിച്ച് ഗൗരവമേറിയ ചില ചോദ്യങ്ങൾ ഉയർത്തുന്നുണ്ട്. കേരളത്തിലും ഇന്ത്യയിലുമടക്കം സർക്കാർ സേവനങ്ങൾക്കും തീരുമാനങ്ങൾക്കുമായി എഐ ഉപയോഗിക്കാൻ വലിയ തയ്യാറെടുപ്പുകൾ നടക്കുകയാണ്. അത്തരം സാഹചര്യങ്ങളിൽ, ഈ അമേരിക്കൻ അനുഭവം ഒരു വലിയ പാഠമാണ്.

നമുക്കുള്ള പാഠം

സാങ്കേതികവിദ്യ ഒരു ഉപകരണം മാത്രമാണ്. അതിന് സ്വന്തമായി വിവേചനാധികാരമോ ധാർമ്മിക ബോധമോ ഇല്ല. അതിനെ പരിശീലിപ്പിക്കുന്ന ഡാറ്റയിലും അതിന് നിർദ്ദേശം നൽകുന്ന മനുഷ്യന്റെ താൽപ്പര്യങ്ങളിലും പക്ഷപാതങ്ങളുണ്ടാകാം. സർക്കാർ ഗ്രാന്റുകൾ പോലുള്ള നിർണായക കാര്യങ്ങളിൽ അന്തിമ തീരുമാനം എടുക്കേണ്ടത് മനുഷ്യൻ തന്നെയാവണം. അൽഗോരിതങ്ങൾ നൽകുന്ന ശുപാർശകളെ അപ്പാടെ വിഴുങ്ങുന്നത് അപകടകരമാണ്.

ഈ കേസ് തെളിയിക്കുന്നത്, ചാറ്റ്ജിപിടി ദുരുപയോഗം പോലുള്ള പ്രവൃത്തികൾക്ക് നിയമപരമായ പ്രത്യാഘാതങ്ങൾ ഉണ്ടാകുമെന്നാണ്. എഐയുടെ പേരുപറഞ്ഞ് ഉത്തരവാദിത്തത്തിൽ നിന്ന് ഒഴിഞ്ഞുമാറാൻ സാധിക്കില്ല. സാങ്കേതികവിദ്യയുടെ വളർച്ചയ്‌ക്കൊപ്പം, അതിന്റെ ശരിയായ ഉപയോഗത്തിനുള്ള നിയമങ്ങളും മാർഗ്ഗനിർദ്ദേശങ്ങളും ഉണ്ടാകേണ്ടത് അത്യാവശ്യമാണ്. അല്ലെങ്കിൽ, ചാറ്റ്ജിപിടി പോലുള്ള ഉപകരണങ്ങൾ സാമൂഹിക നീതിയെയും തുല്യതയെയും ഹനിക്കുന്ന ആയുധങ്ങളായി മാറിയേക്കാം.