എന്റെ പേരിൽ വ്യാജ എഐ; ഗ്രാമർലി സിഇഒയെ നേരിട്ടപ്പോൾ

ഒറ്റ ദിവസം രാവിലെ എഴുന്നേൽക്കുമ്പോൾ നിങ്ങളുടെ പേരും പ്രശസ്തിയും ഒരു ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് (Artificial Intelligence) കമ്പനി മോഷ്ടിച്ചതായി അറിഞ്ഞാൽ എന്തുചെയ്യും? ലോകപ്രശസ്ത ടെക് മാധ്യമമായ ‘ദി വെർജി’ലെ ഒരു പ്രമുഖ റിപ്പോർട്ടർക്ക് അനുഭവിക്കേണ്ടി വന്നത് ഇതാണ്. ഇതിന് പിന്നിൽ പ്രവർത്തിച്ചതാകട്ടെ, എഴുത്ത് മെച്ചപ്പെടുത്താൻ നമ്മളിൽ പലരും ഉപയോഗിക്കുന്ന ‘ഗ്രാമർലി’ എന്ന എഐ ടൂളിന്റെ മാതൃകമ്പനിയും. തുടർന്നുണ്ടായ സംഭവവികാസങ്ങൾ സാങ്കേതിക ലോകത്ത് വലിയ കോളിളക്കമാണ് സൃഷ്ടിച്ചത്.

വിവാദങ്ങൾക്കിടെ, കമ്പനിയുടെ സിഇഒ ശിശിർ മെഹ്റോത്രയുമായി ‘ദി വെർജ്’ നടത്തിയ അഭിമുഖം ഏറെ ശ്രദ്ധേയമായി. മുൻകൂട്ടി നിശ്ചയിച്ച അഭിമുഖം ഒരു സാധാരണ ചർച്ചയായി അവസാനിക്കേണ്ടതായിരുന്നു. എന്നാൽ ഗ്രാമർലിയുടെ ഭാഗത്തുനിന്നുണ്ടായ ഗുരുതരമായ വീഴ്ച കാരണം അതൊരു ചൂടേറിയ വിചാരണയായി മാറി.

എന്തായിരുന്നു ആ വിവാദ ഫീച്ചർ?

കഴിഞ്ഞ വർഷം ഓഗസ്റ്റിലാണ് ഗ്രാമർലി ‘എക്സ്പെർട്ട് റിവ്യൂ’ (Expert Review) എന്ന പേരിൽ ഒരു പുതിയ ഫീച്ചർ അവതരിപ്പിച്ചത്. ഉപയോക്താക്കളുടെ എഴുത്തുകൾ വിവിധ മേഖലകളിലെ വിദഗ്ദ്ധരുടെ ശൈലിയിൽ തിരുത്തി നൽകുന്ന ഒരു എഐ സംവിധാനമായിരുന്നു ഇത്. ഉദാഹരണത്തിന്, നിങ്ങൾക്ക് ഒരു കുറ്റാന്വേഷണ കഥ എഴുതണമെങ്കിൽ, പ്രശസ്തനായ ഒരു ഇൻവെസ്റ്റിഗേറ്റീവ് ജേണലിസ്റ്റിന്റെ ‘എഐ ക്ലോൺ’ ഉപയോഗിച്ച് അത് മെച്ചപ്പെടുത്താം. ആശയം കേൾക്കാൻ കൊള്ളാം. പക്ഷെ, കാര്യങ്ങൾ കൈവിട്ടുപോയത് ഇവിടെയാണ്.

ഈ ‘വിദഗ്ദ്ധരുടെ’ പട്ടികയിൽ ഗ്രാമർലി ഉൾപ്പെടുത്തിയത് ‘ദി വെർജ്’ അടക്കമുള്ള മുൻനിര മാധ്യമങ്ങളിലെ യഥാർത്ഥ റിപ്പോർട്ടർമാരെയായിരുന്നു. അവരുടെ പേരും ഫോട്ടോയും ഉപയോഗിച്ച് എഐ ‘വ്യക്തിത്വങ്ങൾ’ സൃഷ്ടിച്ചു. എന്നാൽ ഇതിനായി ഈ മാധ്യമപ്രവർത്തകരിൽ നിന്ന് ആരും അനുവാദം വാങ്ങിയിരുന്നില്ല. സ്വന്തം ഐഡന്റിറ്റി ഒരു എഐ ടൂൾ ഒരു പ്രതിഫലവും നൽകാതെ, അനുവാദം പോലും ചോദിക്കാതെ ഉപയോഗിക്കുന്നത് കണ്ടപ്പോൾ പലരും ഞെട്ടി. ഇതൊരുതരം എഐ വ്യക്തിത്വ മോഷണം ആണെന്ന് അവർ ആരോപിച്ചു.

പ്രമുഖ ഇൻവെസ്റ്റിഗേറ്റീവ് ജേണലിസ്റ്റായ ജൂലിയ ആംഗ്വിൻ ഇതിനെതിരെ ഒരു ക്ലാസ് ആക്ഷൻ സ്യൂട്ട് (class action lawsuit) ഫയൽ ചെയ്തതോടെ സംഭവം വലിയ നിയമയുദ്ധത്തിലേക്ക് നീങ്ങി. കടുത്ത വിമർശനം ഉയർന്നതോടെ ഗ്രാമർലി ആദ്യം ഈ ഫീച്ചറിൽ നിന്ന് ഒഴിവാകാനുള്ള സൗകര്യം (opt-out) നൽകി. എന്നാൽ പ്രതിഷേധം ശമിക്കാതെ വന്നപ്പോൾ ‘എക്സ്പെർട്ട് റിവ്യൂ’ എന്ന ഫീച്ചർ പൂർണ്ണമായും പിൻവലിക്കാൻ കമ്പനി നിർബന്ധിതരായി.

വിവാദങ്ങൾക്കിടയിലെ അഭിമുഖം

ഈ കോലാഹലങ്ങൾക്കിടയിലും, സിഇഒ ശിശിർ മെഹ്റോത്ര അഭിമുഖത്തിൽ നിന്ന് പിന്മാറിയില്ല എന്നത് ശ്രദ്ധേയമാണ്. മുൻപ് യൂട്യൂബിന്റെ ചീഫ് പ്രൊഡക്റ്റ് ഓഫീസറും ഇപ്പോൾ സ്പോട്ടിഫൈയുടെ ബോർഡ് അംഗവുമായ ശിശിർ, സാങ്കേതിക ലോകത്തെ ഒരു പ്രധാന വ്യക്തിത്വമാണ്. അഭിമുഖം വളരെപ്പെട്ടെന്ന് തന്നെ ഈ വിവാദത്തിലേക്ക് വഴിമാറി.

തന്റെ കമ്പനി ചെയ്തത് തെറ്റാണെന്ന് ശിശിർ ആവർത്തിച്ച് സമ്മതിക്കുകയും ക്ഷമാപണം നടത്തുകയും ചെയ്തു. എന്നാൽ, ഉപയോക്താക്കൾക്ക് മികച്ച അനുഭവം നൽകാനുള്ള ശ്രമത്തിന്റെ ഭാഗമായാണ് ഇങ്ങനെയൊരു ഫീച്ചർ കൊണ്ടുവന്നതെന്നായിരുന്നു അദ്ദേഹത്തിന്റെ വാദം. എങ്കിലും, മറ്റൊരാളുടെ വ്യക്തിത്വം അനുവാദമില്ലാതെ ഉപയോഗിക്കുന്നത് എത്രത്തോളം ഗുരുതരമായ പ്രശ്നമാണെന്ന് കമ്പനി വൈകിയാണ് തിരിച്ചറിഞ്ഞതെന്ന് അദ്ദേഹം പരോക്ഷമായി സമ്മതിച്ചു.

സൂപ്പർഹ്യൂമൻ: ഗ്രാമർലിയുടെ പുതിയ മുഖം

അഭിമുഖത്തിൽ ശിശിർ മെഹ്റോത്ര തങ്ങളുടെ കമ്പനിയുടെ പുതിയ ഘടനയെക്കുറിച്ച് വിശദീകരിച്ചു. പലർക്കും ഇപ്പോഴും ‘ഗ്രാമർലി’ എന്ന പേരിലാണ് കമ്പനിയെ അറിയാമെങ്കിലും, കോർപ്പറേറ്റ് സ്ഥാപനത്തിന്റെ പേര് ‘സൂപ്പർഹ്യൂമൻ’ (Superhuman) എന്ന് മാറ്റിയിട്ടുണ്ട്. സൂപ്പർഹ്യൂമന് കീഴിലുള്ള നിരവധി ഉൽപ്പന്നങ്ങളിൽ ഒന്ന് മാത്രമാണ് ഇപ്പോൾ ഗ്രാമർലി.

• ഗ്രാമർലി: ലോകപ്രശസ്തമായ റൈറ്റിംഗ് അസിസ്റ്റന്റ്.
• കോഡ (Coda): ഡോക്യുമെന്റുകൾ തയ്യാറാക്കാനും സഹകരിച്ച് പ്രവർത്തിക്കാനുമുള്ള ഒരു വർക്ക്‌സ്‌പേസ്.
• മെയിൽ (Mail): ഒരു ജനപ്രിയ ഇമെയിൽ ക്ലയിന്റ്.

ഈ മാറ്റത്തിന് കാരണം കമ്പനിയുടെ പ്രവർത്തനം എഴുത്തിൽ മാത്രം ഒതുങ്ങുന്നില്ല എന്നതാണ്. ജോലി ചെയ്യുന്ന എല്ലായിടത്തും എഐ എത്തിക്കുക എന്നതാണ് സൂപ്പർഹ്യൂമന്റെ ലക്ഷ്യം. ഇതിന്റെ ഭാഗമായി ‘സൂപ്പർഹ്യൂമൻ ഗോ’ (Superhuman Go) എന്ന പുതിയ പ്ലാറ്റ്‌ഫോമും അവർ അവതരിപ്പിച്ചു. ഗ്രാമർലി പ്രവർത്തിക്കുന്നതുപോലെ, ആർക്കും സ്വന്തമായി എഐ ഏജന്റുമാരെ നിർമ്മിക്കാൻ സഹായിക്കുന്ന ഒരു സംവിധാനമാണിത്.

മിക്ക എഐ ടൂളുകളും ഉപയോഗിക്കാൻ നമ്മുടെ ശീലങ്ങൾ മാറ്റേണ്ടി വരുമ്പോൾ, സൂപ്പർഹ്യൂമൻ ലക്ഷ്യമിടുന്നത് നമ്മൾ ജോലി ചെയ്യുന്നിടത്തേക്ക് എഐയെ കൊണ്ടുവരാനാണ്. ഗൂഗിൾ ഡോക്സിലോ ഇമെയിലിലോ എവിടെയായാലും, ഒരു തടസ്സവുമില്ലാതെ എഐ സഹായം ലഭ്യമാക്കുക. ഇതാണ് കമ്പനിയുടെ പ്രധാന ആശയം.

എഐയും വ്യക്തിത്വവും: തീരാത്ത തർക്കം

ക്ഷമാപണം നടത്തിയെങ്കിലും, ഈ സംഭവം ഉയർത്തുന്ന അടിസ്ഥാനപരമായ ചോദ്യങ്ങൾ ഇപ്പോഴും ബാക്കിയാണ്. പൊതുസമൂഹത്തിൽ ലഭ്യമായ വിവരങ്ങൾ ഉപയോഗിച്ച് എഐയെ പരിശീലിപ്പിക്കുമ്പോൾ അതിരുകൾ എവിടെയാണ്? ഒരു എഴുത്തുകാരന്റെ ശൈലി, ഒരു റിപ്പോർട്ടറുടെ പേര്, ഒരു കലാകാരന്റെ സൃഷ്ടി – ഇവയെല്ലാം അനുവാദമില്ലാതെ എഐക്ക് ‘പഠിക്കാനും’ ‘അനുകരിക്കാനും’ അവകാശമുണ്ടോ?

ഇത്തരം ‘എക്സ്ട്രാക്റ്റീവ് എഐ’ (Extractive AI) അഥവാ മറ്റുള്ളവരുടെ സൃഷ്ടികളിൽ നിന്നും വിവരങ്ങൾ ഊറ്റിയെടുക്കുന്ന എഐ മോഡലുകൾ വ്യക്തികൾക്ക് എത്രത്തോളം അസ്വസ്ഥതയുണ്ടാക്കുന്നു എന്ന കാര്യത്തിൽ സിഇഒയും അഭിമുഖം നടത്തിയ റിപ്പോർട്ടറും തമ്മിൽ വ്യക്തമായ അഭിപ്രായവ്യത്യാസമുണ്ടായിരുന്നു. ഇതൊരു പുതിയ സാങ്കേതികവിദ്യയാണെന്നും, അതിന്റെ നിയമങ്ങളും മര്യാദകളും രൂപപ്പെട്ടുവരുന്നതേയുള്ളൂവെന്നും സിഇഒ വാദിച്ചു. എന്നാൽ, അനുവാദമില്ലാതെ മറ്റൊരാളുടെ ഐഡന്റിറ്റി ഉപയോഗിക്കുന്നത് അടിസ്ഥാനപരമായ ധാർമ്മിക പ്രശ്നമാണെന്ന് റിപ്പോർട്ടർ തിരിച്ചടിച്ചു. ഈ എഐ വ്യക്തിത്വ മോഷണം ഭാവിയിൽ സൃഷ്ടിക്കാൻ പോകുന്ന തലവേദനകൾ ചെറുതായിരിക്കില്ല.

കേരളം പോലെയുള്ള സ്ഥലങ്ങളിൽ ഡിജിറ്റൽ സാക്ഷരത വർധിക്കുകയും എഐ ടൂളുകളുടെ ഉപയോഗം കൂടുകയും ചെയ്യുമ്പോൾ ഇത്തരം വിഷയങ്ങൾക്ക് പ്രസക്തിയേറുകയാണ്. നമ്മുടെ വിവരങ്ങളും ഡിജിറ്റൽ വ്യക്തിത്വവും എങ്ങനെ ഉപയോഗിക്കപ്പെടുന്നു എന്നതിനെക്കുറിച്ച് നാമും ബോധവാന്മാരാകേണ്ടതുണ്ട്.

ക്ഷമാപണം മതിയോ? ബാക്കിയാകുന്ന ചോദ്യങ്ങൾ

ഗ്രാമർലി തങ്ങളുടെ തെറ്റ് തിരുത്തി, വിവാദ ഫീച്ചർ പിൻവലിച്ചു. സിഇഒ പരസ്യമായി ക്ഷമ ചോദിച്ചു. പക്ഷേ, ഈ സംഭവം സാങ്കേതികവിദ്യയുടെ ധാർമ്മികതയെക്കുറിച്ച് നിരവധി ചോദ്യങ്ങൾ ഉയർത്തുന്നു. ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസിന്റെ വളർച്ച അവിശ്വസനീയമായ വേഗതയിലാണ്. എന്നാൽ അതിന്റെ കുതിപ്പിനിടയിൽ വ്യക്തികളുടെ അവകാശങ്ങളും സ്വകാര്യതയും ബലികഴിക്കപ്പെടുന്നുണ്ടോ?

ഒരു ഫീച്ചർ പിൻവലിക്കുന്നതിലൂടെയോ ഒരു ക്ഷമാപണത്തിലൂടെയോ അവസാനിക്കുന്നതല്ല ഈ പ്രശ്നം. എഐ വ്യക്തിത്വ മോഷണം പോലുള്ള വിഷയങ്ങളിൽ വ്യക്തമായ നിയമങ്ങളും നിയന്ത്രണങ്ങളും ഇനിയും വരേണ്ടിയിരിക്കുന്നു. അതുവരെ, സാങ്കേതിക ഭീമന്മാരുടെ ‘പരീക്ഷണങ്ങൾക്ക്’ സാധാരണക്കാർ ഇരകളായിക്കൊണ്ടേയിരിക്കും എന്ന ആശങ്ക ശക്തമായി നിലനിൽക്കുന്നു.