ഗ്രോക്ക് എഐ ഡീപ്ഫേക്ക് സാങ്കേതികവിദ്യ ഉപയോഗിച്ച് സ്ത്രീകളുടെയും കുട്ടികളുടെയും ലൈംഗികമായി ചിത്രീകരിക്കുന്ന വ്യാജചിത്രങ്ങൾ നിർമ്മിച്ച സംഭവത്തിൽ ഇലോൺ മസ്കിന്റെ സോഷ്യൽ മീഡിയ പ്ലാറ്റ്‌ഫോമായ എക്സ് (പഴയ ട്വിറ്റർ) യൂറോപ്യൻ യൂണിയന്റെ (EU) കടുത്ത അന്വേഷണം നേരിടുന്നു. എക്സിന്റെ ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് (Artificial Intelligence) ചാറ്റ്‌ബോട്ടായ ഗ്രോക്ക് (Grok) സൃഷ്ടിക്കുന്ന ഗുരുതരമായ സാമൂഹിക പ്രത്യാഘാതങ്ങളെക്കുറിച്ച് യൂറോപ്യൻ കമ്മീഷൻ ആശങ്ക പ്രകടിപ്പിച്ചു.

ഈ അന്വേഷണം എക്സിന്റെ ഭാവിക്കും എഐ സാങ്കേതികവിദ്യയുടെ നിയന്ത്രണങ്ങൾക്കും ഒരുപോലെ നിർണ്ണായകമാണ്. യൂറോപ്പിലെ കർശനമായ ഡിജിറ്റൽ നിയമങ്ങൾ ലംഘിച്ചതായി കണ്ടെത്തിയാൽ, എക്സിന് കോടിക്കണക്കിന് ഡോളർ പിഴ ചുമത്താൻ സാധ്യതയുണ്ട്. ഈ വിഷയത്തിന്റെ എല്ലാ വശങ്ങളും നമുക്ക് വിശദമായി പരിശോധിക്കാം.

എന്താണ് ഗ്രോക്ക് എഐ?

ഓപ്പൺഎഐയുടെ ചാറ്റ്‌ജിപിടി (ChatGPT), ഗൂഗിളിന്റെ ജെമിനി (Gemini) എന്നിവയ്ക്ക് ബദലായി ഇലോൺ മസ്കിന്റെ എഐ കമ്പനിയായ xAI വികസിപ്പിച്ചെടുത്ത ഒരു ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് ചാറ്റ്‌ബോട്ടാണ് ഗ്രോക്ക്. മറ്റ് എഐ മോഡലുകളെ അപേക്ഷിച്ച് കൂടുതൽ സ്വാതന്ത്ര്യത്തോടെയും നർമ്മബോധത്തോടെയും സംസാരിക്കും എന്നതാണ് ഗ്രോക്കിന്റെ പ്രധാന സവിശേഷതയായി മസ്ക് അവകാശപ്പെടുന്നത്. എക്സ് പ്ലാറ്റ്‌ഫോമിലെ തത്സമയ വിവരങ്ങൾ ഉപയോഗിച്ച് പ്രവർത്തിക്കാൻ ഗ്രോക്കിന് കഴിയും, ഇത് മറ്റ് എഐകളിൽ നിന്ന് ഇതിനെ വ്യത്യസ്തമാക്കുന്നു.

എക്സിന്റെ പ്രീമിയം വരിക്കാർക്ക് മാത്രമാണ് നിലവിൽ ഗ്രോക്കിന്റെ സേവനങ്ങൾ പൂർണ്ണമായി ലഭ്യമാവുക. ചോദ്യങ്ങൾക്ക് ഉത്തരം നൽകുന്നതിനൊപ്പം, ചിത്രങ്ങൾ നിർമ്മിക്കാനും എഡിറ്റ് ചെയ്യാനുമുള്ള കഴിവ് കൂടി ഗ്രോക്കിനുണ്ട്. ഈ ചിത്രനിർമ്മാണ ശേഷിയാണ് ഇപ്പോൾ വലിയൊരു ഗ്രോക്ക് എഐ ഡീപ്ഫേക്ക് വിവാദത്തിന് തിരികൊളുത്തിയിരിക്കുന്നത്.

എന്താണ് ഗ്രോക്ക് എഐ ഡീപ്ഫേക്ക് വിവാദം?

ഗ്രോക്കിന്റെ ഇമേജ് എഡിറ്റിംഗ് ഫീച്ചർ ഉപയോഗിച്ച് ഉപയോക്താക്കൾ ആവശ്യപ്പെടുന്നതനുസരിച്ച് സ്ത്രീകളുടെയും പ്രായപൂർത്തിയാകാത്ത പെൺകുട്ടികളുടെയും ലൈംഗികച്ചുവയുള്ള വ്യാജചിത്രങ്ങൾ നിർമ്മിക്കാൻ തുടങ്ങി എന്നതാണ് വിവാദത്തിന്റെ മൂലകാരണം. വളരെ എളുപ്പത്തിൽ ആരുടെയും മുഖം ഉപയോഗിച്ച് ഇത്തരം വ്യാജ നഗ്നചിത്രങ്ങൾ (Deepfake Nudes) നിർമ്മിക്കാൻ ഗ്രോക്ക് സഹായിച്ചു. ഇത് വലിയ രീതിയിൽ ദുരുപയോഗം ചെയ്യപ്പെട്ടു.

ഒരു റിപ്പോർട്ട് അനുസരിച്ച്, വെറും ഒമ്പത് ദിവസത്തിനുള്ളിൽ 1.8 ദശലക്ഷം ലൈംഗികച്ചുവയുള്ള വ്യാജചിത്രങ്ങളാണ് ഗ്രോക്ക് വഴി എക്സിൽ പങ്കുവെക്കപ്പെട്ടത്. ഇത് ലോകമെമ്പാടുമുള്ള മനുഷ്യാവകാശ സംഘടനകളുടെയും നിയമനിർമ്മാതാക്കളുടെയും കടുത്ത വിമർശനത്തിന് കാരണമായി. വ്യക്തികളുടെ സ്വകാര്യതയിലേക്കുള്ള കടന്നുകയറ്റവും സ്ത്രീകളുടെയും കുട്ടികളുടെയും സുരക്ഷയ്ക്ക് നേരെയുള്ള ഭീഷണിയുമായാണ് ഈ ഗ്രോക്ക് എഐ ഡീപ്ഫേക്ക് പ്രശ്നത്തെ വിദഗ്ദ്ധർ കാണുന്നത്.

ഈ വിഷയം വലിയ ചർച്ചയായതോടെ, പോസ്റ്റുകൾക്ക് മറുപടിയായി ചിത്രങ്ങൾ എഡിറ്റ് ചെയ്യാനുള്ള സൗകര്യം എക്സ് ഭാഗികമായി നിയന്ത്രിച്ചു. എന്നാൽ, എക്സിനുള്ളിലെ ഗ്രോക്ക് ചാറ്റ് ഇന്റർഫേസ് ഉപയോഗിച്ച് ആർക്കും ഇപ്പോഴും ഇത്തരം ചിത്രങ്ങൾ നിർമ്മിക്കാൻ സാധിക്കും എന്നത് ആശങ്ക വർദ്ധിപ്പിക്കുന്നു.

യൂറോപ്യൻ യൂണിയന്റെ അന്വേഷണം

യൂറോപ്യൻ കമ്മീഷൻ ഈ വിഷയത്തെ അതീവ ഗൗരവത്തോടെയാണ് കാണുന്നത്. ഗ്രോക്ക് എഐയുടെ ഇമേജ് ജനറേറ്റിംഗ് ടൂളുകൾ സൃഷ്ടിക്കുന്ന അപകടസാധ്യതകൾ എക്സ് ശരിയായ രീതിയിൽ വിലയിരുത്തുകയും ലഘൂകരിക്കുകയും ചെയ്തിട്ടുണ്ടോ എന്ന് പരിശോധിക്കുകയാണ് അന്വേഷണത്തിന്റെ പ്രധാന ലക്ഷ്യം. യൂറോപ്യൻ യൂണിയനിലെ പൗരന്മാരുടെ, പ്രത്യേകിച്ച് സ്ത്രീകളുടെയും കുട്ടികളുടെയും അവകാശങ്ങൾ സംരക്ഷിക്കുന്നതിൽ എക്സ് പരാജയപ്പെട്ടോ എന്നാണ് യൂറോപ്യൻ യൂണിയൻ പ്രധാനമായും ഉറ്റുനോക്കുന്നത്.

ഡിജിറ്റൽ സർവീസസ് ആക്ട് (DSA) എന്ന വജ്രായുധം

യൂറോപ്യൻ യൂണിയന്റെ ഡിജിറ്റൽ സർവീസസ് ആക്ട് (Digital Services Act – DSA) ആണ് ഈ അന്വേഷണത്തിന്റെ നിയമപരമായ അടിസ്ഥാനം. വലിയ ഓൺലൈൻ പ്ലാറ്റ്‌ഫോമുകളെ അവരുടെ പ്ലാറ്റ്‌ഫോമുകളിൽ വരുന്ന ഉള്ളടക്കത്തിന്റെ കാര്യത്തിൽ നിയമപരമായി ഉത്തരവാദികളാക്കുന്ന ശക്തമായ ഒരു നിയമമാണിത്. ഡിജിറ്റൽ സർവീസസ് ആക്ട് അനുസരിച്ച്, എക്സ് പോലുള്ള കമ്പനികൾ തങ്ങളുടെ സേവനങ്ങൾ വഴി ഉണ്ടാകാനിടയുള്ള അപകടസാധ്യതകൾ മുൻകൂട്ടി കണ്ട് പ്രതിരോധ നടപടികൾ സ്വീകരിക്കേണ്ടതുണ്ട്.

ഗ്രോക്ക് എഐ ഡീപ്ഫേക്ക് ചിത്രങ്ങളുടെ വ്യാപനം തടയുന്നതിൽ എക്സ് പരാജയപ്പെട്ടെങ്കിൽ അത് ഡിജിറ്റൽ സർവീസസ് ആക്ടിന്റെ നഗ്നമായ ലംഘനമായി കണക്കാക്കും. “സ്ത്രീകളുടെയും കുട്ടികളുടെയും ലൈംഗികമായ ഡീപ്ഫേക്കുകൾ അക്രമാസക്തവും അസ്വീകാര്യവുമായ ഒരു തരം അധഃപതനമാണ്,” എന്ന് യൂറോപ്യൻ കമ്മീഷൻ എക്സിക്യൂട്ടീവ് വൈസ് പ്രസിഡന്റ് ഹെന്ന വിർക്കുനെൻ പ്രസ്താവനയിൽ പറഞ്ഞു.

അന്വേഷണത്തിന്റെ പ്രധാന ലക്ഷ്യങ്ങൾ

• അപകടസാധ്യത വിലയിരുത്തൽ: ഗ്രോക്ക് എഐ അവതരിപ്പിക്കുന്നതിന് മുൻപ്, അതുണ്ടാക്കാൻ സാധ്യതയുള്ള അപകടങ്ങളെക്കുറിച്ച് (ഉദാഹരണത്തിന്, ഗ്രോക്ക് എഐ ഡീപ്ഫേക്ക് ദുരുപയോഗം) എക്സ് കൃത്യമായ ഒരു പഠനം നടത്തിയിരുന്നോ?
• പ്രതിരോധ നടപടികൾ: ഇത്തരം അപകടങ്ങൾ ഒഴിവാക്കാൻ എക്സ് എന്ത് നടപടികളാണ് സ്വീകരിച്ചത്? നിലവിലുള്ള സംവിധാനങ്ങൾ പര്യാപ്തമാണോ?
• ശുപാർശ സംവിധാനം: ഗ്രോക്ക് ഉപയോഗിച്ച് പ്രവർത്തിക്കുന്ന എക്സിന്റെ ശുപാർശ സംവിധാനം (Recommendation System) നിയമവിരുദ്ധമായ ഉള്ളടക്കങ്ങൾ പ്രചരിപ്പിക്കാൻ കാരണമാകുന്നുണ്ടോ എന്നും അന്വേഷണത്തിൽ ഉൾപ്പെടുത്തിയിട്ടുണ്ട്.

ഇത് ആദ്യമായല്ല എക്സ് യൂറോപ്യൻ യൂണിയന്റെ അന്വേഷണം നേരിടുന്നത്. 2023-ൽ ആരംഭിച്ച മറ്റൊരു അന്വേഷണത്തിന്റെ ഭാഗമായാണ് പുതിയ ഈ അന്വേഷണവും നടക്കുന്നത്.

ഇന്ത്യയിലെയും കേരളത്തിലെയും പ്രസക്തി

യൂറോപ്പിലാണ് അന്വേഷണം നടക്കുന്നതെങ്കിലും, ഗ്രോക്ക് എഐ ഡീപ്ഫേക്ക് വിഷയം ഇന്ത്യയിലും കേരളത്തിലും വലിയ പ്രസക്തിയുള്ളതാണ്. അടുത്തിടെ നടി രശ്മിക മന്ദാനയുടേത് ഉൾപ്പെടെ നിരവധി പ്രമുഖരുടെ ഡീപ്ഫേക്ക് വീഡിയോകൾ രാജ്യത്ത് വലിയ കോളിളക്കം സൃഷ്ടിച്ചിരുന്നു. സാധാരണക്കാർ പോലും ഡീപ്ഫേക്ക് സാങ്കേതികവിദ്യയുടെ ഇരകളാകുന്ന സംഭവങ്ങൾ കേരളത്തിലും റിപ്പോർട്ട് ചെയ്യപ്പെടുന്നുണ്ട്.

ഇത്തരം സാഹചര്യത്തിൽ, ഗ്രോക്ക് പോലുള്ള എളുപ്പത്തിൽ വ്യാജചിത്രങ്ങൾ നിർമ്മിക്കാൻ സഹായിക്കുന്ന ഒരു ഉപകരണം വലിയ അപകടമാണ് ക്ഷണിച്ചുവരുത്തുന്നത്. ഇത് വ്യക്തിഹത്യ നടത്താനും ബ്ലാക്ക് മെയിലിംഗിനും സാമൂഹിക സംഘർഷങ്ങൾ ഉണ്ടാക്കാനും വരെ ഉപയോഗിക്കപ്പെട്ടേക്കാം. ഇന്ത്യയിൽ നിലവിലുള്ള ഐടി നിയമങ്ങൾ (IT Rules) ഡീപ്ഫേക്കുകൾക്കെതിരെ കർശന നടപടികൾ വ്യവസ്ഥ ചെയ്യുന്നുണ്ടെങ്കിലും, എക്സ് പോലുള്ള ആഗോള പ്ലാറ്റ്‌ഫോമുകളെ പൂർണ്ണമായി നിയന്ത്രിക്കാൻ പലപ്പോഴും സാധിക്കുന്നില്ല.

യൂറോപ്യൻ യൂണിയന്റെ ഡിജിറ്റൽ സർവീസസ് ആക്ട് പോലുള്ള ശക്തമായ നിയമങ്ങൾ ഇന്ത്യയിലും ആവശ്യമാണെന്ന വാദത്തിന് ശക്തി പകരുന്നതാണ് ഈ സംഭവം. ടെക് ഭീമന്മാരെ അവരുടെ ഉൽപ്പന്നങ്ങളുടെ സാമൂഹിക പ്രത്യാഘാതങ്ങൾക്ക് ഉത്തരവാദികളാക്കേണ്ടത് കാലഘട്ടത്തിന്റെ ആവശ്യമാണ്.

എക്സ് നേരിടാൻ പോകുന്ന പ്രത്യാഘാതങ്ങൾ

യൂറോപ്യൻ യൂണിയന്റെ അന്വേഷണത്തിൽ എക്സ് കുറ്റക്കാരാണെന്ന് കണ്ടെത്തിയാൽ കനത്ത പ്രത്യാഘാതങ്ങൾ നേരിടേണ്ടി വരും. ഡിജിറ്റൽ സർവീസസ് ആക്ട് ലംഘിച്ചാൽ, കമ്പനിയുടെ ആഗോള വാർഷിക വരുമാനത്തിന്റെ 6% വരെ പിഴ ചുമത്താൻ യൂറോപ്യൻ യൂണിയന് അധികാരമുണ്ട്. എക്സിന്റെ വരുമാനം കണക്കിലെടുക്കുമ്പോൾ ഇത് കോടിക്കണക്കിന് ഡോളർ വരുന്ന ഒരു ഭീമമായ തുകയായിരിക്കും.

സാമ്പത്തികമായ തിരിച്ചടിക്ക് പുറമെ, എക്സിന്റെ ബ്രാൻഡ് മൂല്യത്തിനും ഇത് വലിയ കോട്ടമുണ്ടാക്കും. ഉപയോക്താക്കളുടെ സുരക്ഷയ്ക്ക് പ്രാധാന്യം നൽകാത്ത ഒരു പ്ലാറ്റ്ഫോം എന്ന ചീത്തപ്പേര് എക്സിന് ലഭിക്കാൻ ഇത് കാരണമാകും. കൂടാതെ, ഗ്രോക്ക് എഐയുടെ പ്രവർത്തനങ്ങളിൽ മാറ്റങ്ങൾ വരുത്താനോ അല്ലെങ്കിൽ യൂറോപ്യൻ യൂണിയനിൽ അതിന്റെ പ്രവർത്തനം നിർത്തലാക്കാനോ എക്സ് നിർബന്ധിതരായേക്കാം.

എക്സിന്റെ ഭാഗത്തുനിന്നുള്ള പ്രതികരണം

വിവാദം ശക്തമായപ്പോൾ, പോസ്റ്റുകൾക്ക് മറുപടിയായി ചിത്രങ്ങൾ എഡിറ്റ് ചെയ്യാനുള്ള സൗകര്യം പണമടയ്ക്കുന്ന ഉപയോക്താക്കൾക്ക് മാത്രമായി എക്സ് പരിമിതപ്പെടുത്തി. ഇതിനെ ഒരു ‘പേവാൾ’ (Paywall) സംവിധാനത്തിന് പിന്നിലേക്ക് മാറ്റുകയാണുണ്ടായത്. എന്നാൽ ഇത് പ്രശ്നത്തിന് ഒരു യഥാർത്ഥ പരിഹാരമല്ലെന്ന് വിമർശകർ ചൂണ്ടിക്കാണിക്കുന്നു.

കാരണം, എക്സിനുള്ളിലെ ഗ്രോക്ക് ചാറ്റ്‌ബോട്ട് വഴി ആർക്കും ഇപ്പോഴും സൗജന്യമായി ചിത്രങ്ങൾ നിർമ്മിക്കാൻ സാധിക്കും. അപകടകരമായ ഒരു ഫീച്ചർ പൂർണ്ണമായി നീക്കം ചെയ്യുന്നതിന് പകരം, അത് ഭാഗികമായി നിയന്ത്രിക്കാൻ മാത്രം ശ്രമിച്ചത് എക്സിന്റെ നിരുത്തരവാദപരമായ സമീപനമായാണ് പലരും കാണുന്നത്. യൂറോപ്യൻ യൂണിയന്റെ അന്വേഷണത്തെക്കുറിച്ച് എക്സ് ഇതുവരെ ഔദ്യോഗികമായി വിശദമായ ഒരു പ്രതികരണം നടത്തിയിട്ടില്ല.

സാങ്കേതികവിദ്യയും ഉത്തരവാദിത്തവും

ഗ്രോക്ക് എഐ ഡീപ്ഫേക്ക് വിവാദവും അതിനെത്തുടർന്നുള്ള യൂറോപ്യൻ യൂണിയന്റെ അന്വേഷണവും ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് യുഗത്തിൽ ടെക് കമ്പനികൾ കാണിക്കേണ്ട സാമൂഹിക ഉത്തരവാദിത്തത്തെക്കുറിച്ച് ഓർമ്മിപ്പിക്കുന്നു. പുതിയ സാങ്കേതികവിദ്യകൾ വികസിപ്പിക്കുമ്പോൾ, അവ സമൂഹത്തിൽ ഉണ്ടാക്കാൻ സാധ്യതയുള്ള ദോഷവശങ്ങളെക്കുറിച്ച് കൂടി കമ്പനികൾക്ക് ധാരണയുണ്ടായിരിക്കണം.

നിയന്ത്രണങ്ങളില്ലാത്ത സ്വാതന്ത്ര്യം എന്ന ഇലോൺ മസ്കിന്റെ ആശയം പലപ്പോഴും അപകടകരമായ പ്രത്യാഘാതങ്ങളിലേക്കാണ് നയിക്കുന്നത് എന്നതിന്റെ ഏറ്റവും പുതിയ ഉദാഹരണമാണിത്. യൂറോപ്യൻ യൂണിയന്റെ ഈ കർശനമായ നടപടി ലോകമെമ്പാടുമുള്ള മറ്റ് രാജ്യങ്ങൾക്കും ഒരു മാതൃകയാകുമെന്ന് പ്രതീക്ഷിക്കാം. സാങ്കേതികവിദ്യ മനുഷ്യന്റെ നന്മയ്ക്കായി ഉപയോഗിക്കപ്പെടുന്നുവെന്ന് ഉറപ്പാക്കാൻ ശക്തമായ നിയമങ്ങളും കമ്പനികളുടെ ഉത്തരവാദിത്തപരമായ സമീപനവും ഒരുപോലെ അനിവാര്യമാണ്.