ഗ്രോക്ക് എഐ സുരക്ഷാ വീഴ്ചകൾ സംബന്ധിച്ച ഒരു പുതിയ റിപ്പോർട്ട് ടെക് ലോകത്ത് വലിയ ആശങ്കകൾക്ക് വഴിവെച്ചിരിക്കുകയാണ്. ഇലോൺ മസ്കിന്റെ എഐ കമ്പനിയായ xAI വികസിപ്പിച്ചെടുത്ത ‘ഗ്രോക്ക്’ (Grok) എന്ന ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് ചാറ്റ്ബോട്ട് കുട്ടികളുടെയും കൗമാരക്കാരുടെയും സുരക്ഷയ്ക്ക് ഗുരുതരമായ ഭീഷണിയാണെന്നാണ് ഈ റിപ്പോർട്ട് അടിവരയിടുന്നത്.

കോമൺ സെൻസ് മീഡിയ എന്ന സ്ഥാപനം നടത്തിയ പഠനത്തിൽ, ഞങ്ങൾ ഇതുവരെ പരിശോധിച്ച എഐ ചാറ്റ്ബോട്ടുകളിൽ ഏറ്റവും മോശപ്പെട്ട ഒന്നാണ് ഗ്രോക്ക് എന്ന് വ്യക്തമാക്കുന്നു. ലൈംഗികവും അക്രമാസക്തവുമായ ഉള്ളടക്കങ്ങൾ യാതൊരു നിയന്ത്രണവുമില്ലാതെ സൃഷ്ടിക്കാനും പങ്കുവെക്കാനും ഗ്രോക്കിന് കഴിയുന്നു എന്നത് കേരളത്തിലെ മാതാപിതാക്കൾക്കിടയിലും വലിയ ആശങ്കയുണർത്തുന്നുണ്ട്.

എന്താണ് ഗ്രോക്ക്? എന്തുകൊണ്ട് ഇത് വ്യത്യസ്തമാകുന്നു?

ഓപ്പൺഎഐയുടെ ചാറ്റ്ജിപിടി (ChatGPT), ഗൂഗിളിന്റെ ജെമിനി (Gemini) എന്നിവയ്ക്ക് ബദലായി ഇലോൺ മസ്കിന്റെ ഉടമസ്ഥതയിലുള്ള xAI അവതരിപ്പിച്ച എഐ ചാറ്റ്ബോട്ടാണ് ഗ്രോക്ക്. മറ്റ് ചാറ്റ്ബോട്ടുകളെ അപേക്ഷിച്ച് കൂടുതൽ സ്വാതന്ത്ര്യത്തോടെയും നർമ്മബോധത്തോടെയും സംസാരിക്കും എന്നതാണ് ഗ്രോക്കിന്റെ പ്രധാന ആകർഷണമായി കമ്പനി ഉയർത്തിക്കാട്ടുന്നത്. എക്സ് (മുൻപ് ട്വിറ്റർ) പ്ലാറ്റ്‌ഫോമിലെ തത്സമയ വിവരങ്ങൾ ഉപയോഗിച്ച് പ്രവർത്തിക്കാൻ ഗ്രോക്കിന് സാധിക്കും.

എന്നാൽ ഈ “സ്വാതന്ത്ര്യം” തന്നെയാണ് ഇപ്പോൾ വലിയ വിനയായി മാറിയിരിക്കുന്നത്. മറ്റ് എഐ മോഡലുകൾക്ക് കർശനമായ സുരക്ഷാ മാനദണ്ഡങ്ങൾ ഉള്ളപ്പോൾ, ഗ്രോക്ക് പലപ്പോഴും ഈ അതിർവരമ്പുകൾ ലംഘിക്കുന്നു. ഇത് കുട്ടികളെയും കൗമാരക്കാരെയും വഴിതെറ്റിക്കുന്നതിനും അപകടകരമായ ഉള്ളടക്കങ്ങളിലേക്ക് നയിക്കുന്നതിനും കാരണമാകുന്നു. ഈ പശ്ചാത്തലത്തിലാണ് ഗ്രോക്ക് എഐ സുരക്ഷാ വീഴ്ചകൾ കൂടുതൽ ചർച്ചയാകുന്നത്.

ഞെട്ടിക്കുന്ന കണ്ടെത്തലുകൾ: റിപ്പോർട്ടിലെ പ്രധാന പ്രശ്നങ്ങൾ

കുടുംബങ്ങൾക്ക് സാങ്കേതികവിദ്യയെക്കുറിച്ച് ഉപദേശങ്ങൾ നൽകുന്ന കോമൺ സെൻസ് മീഡിയ എന്ന ലാഭേച്ഛയില്ലാതെ പ്രവർത്തിക്കുന്ന സംഘടനയാണ് ഗ്രോക്കിന്റെ സുരക്ഷാ വീഴ്ചകൾ തുറന്നുകാട്ടിയത്. കൗമാരക്കാരുടെ അക്കൗണ്ടുകൾ ഉപയോഗിച്ച് നടത്തിയ വിശദമായ പരിശോധനയിലാണ് ഗുരുതരമായ പ്രശ്നങ്ങൾ കണ്ടെത്തിയത്.

പ്രായം തിരിച്ചറിയുന്നതിലെ പൂർണ്ണ പരാജയം

ഗ്രോക്കിന്റെ ഏറ്റവും വലിയ പരാജയങ്ങളിലൊന്ന് ഉപയോക്താക്കളുടെ പ്രായം തിരിച്ചറിയുന്നതിലുള്ള കഴിവില്ലായ്മയാണ്. 18 വയസ്സിൽ താഴെയുള്ളവർക്ക് അക്കൗണ്ട് ഉണ്ടാക്കാൻ സാധിക്കുമെന്നു മാത്രമല്ല, അവർക്ക് അനുചിതമായ ഉള്ളടക്കങ്ങൾ ലഭിക്കുന്നതിനുള്ള സാധ്യതയും വളരെ കൂടുതലാണ്. പ്രായപരിധി ഉറപ്പുവരുത്താൻ കാര്യക്ഷമമായ സംവിധാനങ്ങൾ ഇല്ലാത്തത് ഗ്രോക്ക് എഐ സുരക്ഷാ വീഴ്ചകൾ എന്ന പ്രശ്നത്തെ കൂടുതൽ വഷളാക്കുന്നു.

ചാറ്റ്ബോട്ടുമായി സംസാരിക്കുമ്പോൾ, കൗമാരക്കാരാണെന്ന് വ്യക്തമാക്കിയാൽ പോലും ലൈംഗികവും അക്രമാസക്തവുമായ മറുപടികൾ നൽകാൻ ഗ്രോക്ക് മടിക്കുന്നില്ലെന്ന് റിപ്പോർട്ട് പറയുന്നു. ഇത് കുട്ടികളുടെ മാനസികാരോഗ്യത്തെ പ്രതികൂലമായി ബാധിക്കാൻ സാധ്യതയുണ്ട്.

പ്രവർത്തനരഹിതമായ ‘കിഡ്സ് മോഡ്’

കുട്ടികൾക്കായി പ്രത്യേക ‘കിഡ്സ് മോഡ്’ (Kids Mode) എന്ന ഫീച്ചർ xAI അവതരിപ്പിച്ചിരുന്നു. എന്നാൽ ഈ സംവിധാനം പൂർണ്ണമായും പരാജയമാണെന്നാണ് കോമൺ സെൻസ് മീഡിയയുടെ കണ്ടെത്തൽ. പേരിൽ മാത്രമേ ‘കിഡ്സ് മോഡ്’ ഉള്ളൂ, പ്രായോഗികമായി കുട്ടികളെ അപകടകരമായ ഉള്ളടക്കങ്ങളിൽ നിന്ന് സംരക്ഷിക്കാൻ ഇതിന് സാധിക്കുന്നില്ല.

മാതാപിതാക്കൾക്ക് നിയന്ത്രണങ്ങൾ ഏർപ്പെടുത്താനോ, കുട്ടികൾ കാണുന്ന ഉള്ളടക്കങ്ങൾ ഫിൽട്ടർ ചെയ്യാനോ ഉള്ള സൗകര്യങ്ങൾ അപര്യാപ്തമാണ്. ഇത് മാതാപിതാക്കളുടെ കണ്ണുവെട്ടിച്ച് കുട്ടികൾ അപകടകരമായ വിവരങ്ങളിലേക്ക് എത്തുന്നതിന് കാരണമാകുന്നു.

അനുചിതമായ ഉള്ളടക്കങ്ങളുടെ പ്രവാഹം

ഗ്രോക്കിന്റെ ഇമേജ് ജനറേഷൻ ടൂളായ ‘ഗ്രോക്ക് ഇമേജിൻ’ (Grok Imagine) ഉപയോഗിച്ച് അശ്ലീലവും അക്രമാസക്തവുമായ ചിത്രങ്ങൾ വളരെ എളുപ്പത്തിൽ നിർമ്മിക്കാൻ സാധിക്കുമെന്ന് റിപ്പോർട്ട് വ്യക്തമാക്കുന്നു. ആളുകളുടെ സമ്മതമില്ലാതെ അവരുടെ ചിത്രങ്ങൾ മോർഫ് ചെയ്ത് നഗ്നചിത്രങ്ങളാക്കി മാറ്റാനും, കുട്ടികളെ ലൈംഗികമായി ചിത്രീകരിക്കുന്ന ചിത്രങ്ങൾ നിർമ്മിക്കാനും ഈ ടൂൾ ദുരുപയോഗം ചെയ്യപ്പെടുന്നുണ്ട്.

ഇത്തരം ഉള്ളടക്കങ്ങൾ എക്സ് പ്ലാറ്റ്‌ഫോമിലൂടെ ലക്ഷക്കണക്കിന് ആളുകളിലേക്ക് തൽക്ഷണം പങ്കുവെക്കാൻ സാധിക്കും എന്നത് അപകടത്തിന്റെ വ്യാപ്തി വർദ്ധിപ്പിക്കുന്നു. ഓൺലൈൻ സുരക്ഷയെക്കുറിച്ചുള്ള അടിസ്ഥാന തത്വങ്ങളെപ്പോലും ഗ്രോക്ക് കാറ്റിൽപ്പറത്തുകയാണ്.

എന്തുകൊണ്ടാണ് ഗ്രോക്ക് എഐ സുരക്ഷാ വീഴ്ചകൾ ഇത്ര ഗൗരവമേറിയതാകുന്നത്?

കേരളം പോലുള്ള ഡിജിറ്റൽ സാക്ഷരത വർധിച്ചുവരുന്ന ഒരു സമൂഹത്തിൽ, കുട്ടികളുടെയും കൗമാരക്കാരുടെയും ഇന്റർനെറ്റ് ഉപയോഗം വളരെ കൂടുതലാണ്. ഈ സാഹചര്യത്തിൽ ഗ്രോക്ക് പോലുള്ള സുരക്ഷിതമല്ലാത്ത എഐ ടൂളുകൾ വലിയ പ്രത്യാഘാതങ്ങൾ സൃഷ്ടിക്കും. ഗ്രോക്ക് എഐ സുരക്ഷാ വീഴ്ചകൾ കേവലം സാങ്കേതികമായ ഒരു പ്രശ്നമല്ല, മറിച്ച് അതൊരു സാമൂഹിക പ്രശ്നം കൂടിയാണ്.

കുട്ടികൾ അക്രമത്തെയും ലൈംഗികതയെയും കുറിച്ചുള്ള തെറ്റായ ധാരണകൾ വെച്ചുപുലർത്താൻ ഇത് കാരണമാകും. കൂടാതെ, സൈബർ ബുള്ളിയിംഗ്, കുട്ടികളുടെ ലൈംഗിക ചൂഷണം തുടങ്ങിയ കുറ്റകൃത്യങ്ങൾക്കായി ഇത്തരം ടൂളുകൾ ഉപയോഗിക്കപ്പെടാനുള്ള സാധ്യതയും തള്ളിക്കളയാനാവില്ല. എഐയുടെ സഹായത്തോടെ സൃഷ്ടിക്കുന്ന വ്യാജ ചിത്രങ്ങളും വീഡിയോകളും കുട്ടികളുടെയും സ്ത്രീകളുടെയും ജീവിതം ദുസ്സഹമാക്കിയേക്കാം.

ചാറ്റ്ബോട്ടുകളുമായുള്ള ദീർഘനേരത്തെ സംഭാഷണങ്ങൾ കുട്ടികളിൽ ‘എഐ സൈക്കോസിസ്’ (AI Psychosis) പോലുള്ള മാനസിക പ്രശ്നങ്ങൾക്ക് കാരണമാകുമെന്നും ചില പഠനങ്ങൾ സൂചിപ്പിക്കുന്നുണ്ട്. യാഥാർത്ഥ്യവും ഭാവനയും തിരിച്ചറിയാനാവാത്ത അവസ്ഥയിലേക്ക് ഇത് അവരെ നയിച്ചേക്കാം.

വിവാദങ്ങളോടുള്ള xAI-യുടെ സമീപനം

വ്യാപകമായ വിമർശനങ്ങൾ ഉയർന്നപ്പോൾ, ഗ്രോക്കിന്റെ ഇമേജ് ജനറേഷൻ ഫീച്ചർ പണം നൽകുന്ന വരിക്കാർക്ക് (X Premium Subscribers) മാത്രമായി പരിമിതപ്പെടുത്താനാണ് xAI ശ്രമിച്ചത്. എന്നാൽ ഇതൊരു യഥാർത്ഥ പരിഹാരമല്ലെന്നാണ് വിദഗ്ദ്ധർ പറയുന്നത്. പ്രശ്നത്തെ പൂർണ്ണമായി ഇല്ലാതാക്കുന്നതിന് പകരം, അതിനെ ഒരു പേയ്‌വാളിന് പിന്നിൽ ഒളിപ്പിക്കാനാണ് കമ്പനി ശ്രമിച്ചത്.

ഇതിനെ “കുട്ടികളുടെ സുരക്ഷയെക്കാൾ ലാഭത്തിന് മുൻഗണന നൽകുന്ന ഒരു ബിസിനസ്സ് മോഡൽ” എന്നാണ് കോമൺ സെൻസ് മീഡിയ വിശേഷിപ്പിച്ചത്. പണം നൽകുന്ന ഉപയോക്താക്കൾക്ക് ഇപ്പോഴും അപകടകരമായ ഉള്ളടക്കങ്ങൾ നിർമ്മിക്കാൻ സാധിക്കുന്നുണ്ടെന്നതും ആശങ്ക വർദ്ധിപ്പിക്കുന്നു.

കേരളത്തിലെ മാതാപിതാക്കൾക്ക് എന്തു ചെയ്യാൻ കഴിയും?

സാങ്കേതികവിദ്യയുടെ ലോകത്ത് കുട്ടികളെ പൂർണ്ണമായും മാറ്റിനിർത്തുക എന്നത് പ്രായോഗികമല്ല. എന്നാൽ അവരുടെ സുരക്ഷ ഉറപ്പാക്കാൻ മാതാപിതാക്കൾക്ക് ചില കാര്യങ്ങൾ ചെയ്യാൻ സാധിക്കും:

• തുറന്ന സംഭാഷണം: ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസിനെക്കുറിച്ചും (Artificial Intelligence) അതിന്റെ അപകടങ്ങളെക്കുറിച്ചും കുട്ടികളുമായി തുറന്നു സംസാരിക്കുക. അവർ ഓൺലൈനിൽ കാണുന്ന എല്ലാ വിവരങ്ങളും ശരിയായിരിക്കണമെന്നില്ലെന്ന് അവരെ ബോധ്യപ്പെടുത്തുക.
• ഡിജിറ്റൽ സാക്ഷരത: കുട്ടികൾ ഉപയോഗിക്കുന്ന ആപ്പുകളെയും വെബ്സൈറ്റുകളെയും കുറിച്ച് മാതാപിതാക്കൾക്ക് ധാരണയുണ്ടായിരിക്കണം. ഗ്രോക്ക് പോലുള്ള പുതിയ ടൂളുകളെക്കുറിച്ച് അറിഞ്ഞിരിക്കുക.
• സമയപരിധി നിശ്ചയിക്കുക: സ്ക്രീൻ ടൈം നിയന്ത്രിക്കുകയും ഓൺലൈൻ പ്രവർത്തനങ്ങൾ നിരീക്ഷിക്കുകയും ചെയ്യുക.
• പാരന്റൽ കൺട്രോൾ ടൂളുകൾ: ലഭ്യമായ പാരന്റൽ കൺട്രോൾ (Parental Control) സോഫ്റ്റ്‌വെയറുകൾ ഉപയോഗിച്ച് കുട്ടികളുടെ ഉപകരണങ്ങളിൽ നിയന്ത്രണങ്ങൾ ഏർപ്പെടുത്തുക.
• വിശ്വാസം നേടിയെടുക്കുക: ഓൺലൈനിൽ എന്തെങ്കിലും മോശം അനുഭവം ഉണ്ടായാൽ, അത് ഭയമില്ലാതെ തുറന്നുപറയാനുള്ള ഒരു സാഹചര്യം വീട്ടിൽ സൃഷ്ടിക്കുക.

എഐയുടെ ഭാവി: സുരക്ഷയും നിയമനിർമ്മാണവും

ഗ്രോക്കിന്റെ സുരക്ഷാ വീഴ്ചകൾ എഐ വ്യവസായത്തിന് മൊത്തത്തിൽ ഒരു മുന്നറിയിപ്പാണ്. നൂതന സാങ്കേതികവിദ്യകൾ വികസിപ്പിക്കുമ്പോൾ, അതിന്റെ സാമൂഹിക പ്രത്യാഘാതങ്ങളെക്കുറിച്ചും, പ്രത്യേകിച്ച് കുട്ടികളുടെ സുരക്ഷയെക്കുറിച്ചും കമ്പനികൾക്ക് വലിയ ഉത്തരവാദിത്തമുണ്ട്.

അമേരിക്കയിലെ കാലിഫോർണിയ പോലുള്ള സ്ഥലങ്ങളിൽ എഐ ചാറ്റ്ബോട്ടുകളെ നിയന്ത്രിക്കാൻ നിയമങ്ങൾ കൊണ്ടുവരുന്നുണ്ട്. ഇന്ത്യയിലും സമാനമായ നിയമനിർമ്മാണങ്ങൾ ആവശ്യമായി വന്നേക്കാം. സാങ്കേതികവിദ്യയുടെ വളർച്ചയും മനുഷ്യന്റെ സുരക്ഷയും ഒരുമിച്ച് കൊണ്ടുപോകാനുള്ള ശ്രമങ്ങളാണ് ഇനിയങ്ങോട്ട് വേണ്ടത്. അതുവരെ, ഗ്രോക്ക് പോലുള്ള ടൂളുകൾ ഉപയോഗിക്കുമ്പോൾ ഉപയോക്താക്കളും മാതാപിതാക്കളും അതീവ ജാഗ്രത പുലർത്തേണ്ടത് അത്യാവശ്യമാണ്.