സുരക്ഷാ ഫീച്ചർ തടഞ്ഞുവെച്ചു; ടിക്ടോക് അല്‍ഗോരിതത്തിനിരയായ 16കാരന്‍ ആത്മഹത്യ ചെയ്തു

വാഷിങ്ടൺ: ഹാനികരമായ ഉള്ളടക്കം തുടർച്ചയായി ലഭിക്കുന്നത് തടയാൻ വികസിപ്പിച്ച സുരക്ഷാ സംവിധാനം അമേരിക്കയിലെ ഏകദേശം 1.5 കോടി ഉപയോക്താക്കൾക്ക് ടിക്‌ടോക് മനഃപൂർവം ലഭ്യമാക്കിയില്ലെന്ന് രഹസ്യ ആഭ്യന്തര രേഖ. പുതിയ സംവിധാനം ഉപയോക്താക്കളുടെ ഇടപെടലിനെയും ആപ്പിൽ ചെലവഴിക്കുന്ന സമയത്തെയും ബാധിക്കുമോയെന്ന് പരിശോധിക്കാനായിരുന്നു പഴയ അൽഗോരിതത്തിൽ ഇവരെ നിലനിർത്തിയതെന്ന് ബ്ലൂംബെർഗ് റിപ്പോർട്ട് ചെയ്തു.

2021ൽ സുരക്ഷിതമായ അൽഗോരിതം വികസിപ്പിച്ചശേഷവും അമേരിക്കയിലെ ഉപയോക്താക്കളിൽ പത്തുശതമാനത്തെ പഴയ സംവിധാനത്തിൽ നിലനിർത്തുകയായിരുന്നു. അന്നത്തെ കണക്കനുസരിച്ച് ഏകദേശം 1.5 കോടി പേരാണ് ഈ പരീക്ഷണവിഭാഗത്തിലുണ്ടായിരുന്നത്. ഇവരിൽ 16കാരനായ ചേസ് നാസ്‌കയും ഉൾപ്പെട്ടിരുന്നുവെന്ന് രേഖ വ്യക്തമാക്കുന്നു. ചേസ് 2022 ഫെബ്രുവരിയിൽ ആത്മഹത്യ ചെയ്തു.

ചേസിന്റെ മരണത്തിന് മുമ്പുള്ള രണ്ടാഴ്ചയിൽ അദ്ദേഹത്തിന് ലഭിച്ച 7,563 വീഡിയോകളാണ് ടിക്‌ടോക് പരിശോധിച്ചത്. ഇതിൽ 73 ശതമാനത്തിലും ആത്മഹത്യയെ അതിജീവിച്ചവരുടെ അനുഭവങ്ങൾ, മാനസികാരോഗ്യപ്രശ്നങ്ങൾ, നിരാശ, ഏകാന്തത, പ്രണയബന്ധങ്ങളിലെ തകർച്ച തുടങ്ങിയ വിഷയങ്ങളുണ്ടായിരുന്നു. ഇവ ടിക്‌ടോകിന്റെ ചട്ടങ്ങൾ ലംഘിക്കുന്നവയായി കമ്പനി കണക്കാക്കിയിരുന്നില്ല.

ഏകദേശം പത്തുശതമാനം വീഡിയോകൾ ടിക്‌ടോകിന്റെ സ്വന്തം മാനദണ്ഡങ്ങൾ ലംഘിക്കുന്നവയായിരുന്നുവെന്നും ആഭ്യന്തര രേഖ പറയുന്നു. കടുത്ത വിഷാദം, ആത്മാഭിമാനക്കുറവ്, ഏകാന്തത, ആത്മഹത്യാ ചിന്തകൾ എന്നിവയെ പ്രോത്സാഹിപ്പിക്കുകയോ സാധാരണവൽക്കരിക്കുകയോ ചെയ്യുന്ന ഉള്ളടക്കങ്ങളായിരുന്നു ഇവയിൽ പലതും.

ചേസിന്റെ തിരച്ചിലുകളിൽ ഭൂരിഭാഗവും കായികവും തമാശയുമായി ബന്ധപ്പെട്ടതായിരുന്നു. എന്നാൽ ഏകാന്തതയെയും നിരാശയെയും കുറിച്ചുള്ള ചില ഗാനങ്ങൾ തിരഞ്ഞത് സമാന സ്വഭാവമുള്ള ഉള്ളടക്കങ്ങൾ ആവർത്തിച്ച് ശുപാർശ ചെയ്യാൻ അൽഗോരിതത്തെ പ്രേരിപ്പിച്ചിരിക്കാമെന്നാണ് ടിക്‌ടോകിന്റെ ആഭ്യന്തര വിലയിരുത്തൽ.

മരണത്തിന്റെ തലേദിവസം ചേസ് അഞ്ചുമണിക്കൂറിലധികം ടിക്‌ടോക് ഉപയോഗിച്ചിരുന്നതായും ആത്മഹത്യയുമായി ബന്ധപ്പെട്ട ഉള്ളടക്കങ്ങൾ തിരയുകയും സമാന വീഡിയോകൾ ആവർത്തിച്ച് കാണുകയും ചെയ്തതായും രേഖയിൽ പറയുന്നു. എന്നാൽ ടിക്‌ടോക് അൽഗോരിതമാണ് മരണത്തിന് നേരിട്ട് കാരണമായതെന്ന് രേഖ സ്ഥാപിക്കുന്നില്ല.

ചേസിന്റെ അമ്മ പിന്നീട് അക്കൗണ്ട് പരിശോധിച്ചപ്പോഴാണ് ആത്മഹത്യയുമായി ബന്ധപ്പെട്ട വീഡിയോകൾ തുടർച്ചയായി ലഭിച്ചിരുന്നതായി കണ്ടെത്തിയത്. ചേസിന്റെ കുടുംബം ടിക്‌ടോക്കിനെതിരെ നൽകിയ കേസിൽ, കൗമാരക്കാരൻ നേരിട്ട് തിരയാതിരുന്നിട്ടും അപകടകരമായ ഉള്ളടക്കം ‘ഫോർ യു’ ഫീഡിൽ ആവർത്തിച്ച് ലഭിച്ചുവെന്നാണ് ആരോപിച്ചത്.

കുടുംബം നൽകിയ കേസ് കഴിഞ്ഞവർഷം കോടതി തള്ളിയിരുന്നു. സമൂഹമാധ്യമത്തിലെ ഉള്ളടക്ക ശുപാർശകൾക്ക് അമേരിക്കയിലെ കമ്മ്യൂണിക്കേഷൻസ് ഡിസൻസി നിയമത്തിലെ സെക്ഷൻ 230 പ്രകാരമുള്ള സംരക്ഷണമുണ്ടെന്ന ടിക്‌ടോക്കിന്റെ വാദം കോടതി അംഗീകരിക്കുകയായിരുന്നു. വിധിക്കെതിരായ അപ്പീൽ നിലവിലുണ്ട്.

ബ്ലൂംബെർഗ് ബിസിനസ്‌വീക്ക് 2023ൽ ചേസിന്റെ മരണം സംബന്ധിച്ച് ടിക്‌ടോക്കിനോട് വിശദീകരണം തേടിയതിന് പിന്നാലെയാണ് കമ്പനിയുടെ സുരക്ഷാ, അൽഗോരിതം വിഭാഗങ്ങൾ അക്കൗണ്ട് വിശദമായി പരിശോധിച്ചത്. 14 പേജുള്ള ആഭ്യന്തര റിപ്പോർട്ട് നിയമ, സുരക്ഷ, നയരൂപീകരണം, ആശയവിനിമയം തുടങ്ങി കമ്പനിയുടെ പത്തോളം വിഭാഗങ്ങളുമായി പങ്കുവച്ചിരുന്നു. കോടതി ഉത്തരവിനെ തുടർന്ന് രേഖ ഇപ്പോഴും രഹസ്യമായി സൂക്ഷിച്ചിരിക്കുകയാണ്.

പരീക്ഷണത്തിന്റെ ഭാഗമായി ചേസിന്റെ അക്കൗണ്ട് 2022 ജനുവരി 25നാണ് പഴയ അൽഗോരിതം തുടരുന്ന വിഭാഗത്തിലേക്ക് തെരഞ്ഞെടുത്തതെന്നാണ് രേഖയിലെ വിവരം. പുതിയ സുരക്ഷാ സംവിധാനം ലഭിച്ച 90 ശതമാനം ഉപയോക്താക്കളിൽനിന്ന് വ്യത്യസ്തമായി, പത്തുശതമാനം പേരെ പഴയ സംവിധാനത്തിൽ നിലനിർത്തി ഫലങ്ങൾ താരതമ്യം ചെയ്യുകയായിരുന്നു.

ഒരു സംവിധാനം ഒരു വിഭാഗത്തിനും മറ്റൊരു സംവിധാനം മറ്റൊരു വിഭാഗത്തിനും നൽകി ഫലങ്ങൾ പരിശോധിക്കുന്ന എ/ബി ടെസ്റ്റിങ് എന്ന രീതിയാണ് ഇതിനായി ഉപയോഗിച്ചത്. പുതിയ സുരക്ഷാമാറ്റം പ്രതിദിന സജീവ ഉപയോക്താക്കളുടെ എണ്ണത്തെയും ആപ്പിലെ ഇടപെടലിനെയും ബാധിക്കുമോയെന്നാണ് കമ്പനി പ്രധാനമായും പരിശോധിച്ചത്.

ഉപയോക്തൃസുരക്ഷയും പ്രതിദിന സജീവ ഉപയോക്താക്കൾ ഉൾപ്പെടെയുള്ള പ്രധാന ബിസിനസ് കണക്കുകളും തമ്മിൽ സന്തുലനം കണ്ടെത്തുന്നത് സങ്കീർണമായ തീരുമാനമായിരുന്നുവെന്നാണ് ആഭ്യന്തര രേഖയിലെ വിശദീകരണം. സുരക്ഷയ്ക്കായി വികസിപ്പിച്ച സംവിധാനം ഉപയോക്താക്കളുടെ ഒരു വിഭാഗത്തിന് നൽകാതിരുന്നത് ഗുരുതരമായ ധാർമിക ചോദ്യങ്ങൾ ഉയർത്തുന്നതായാണ് റിപ്പോർട്ട് ചൂണ്ടിക്കാട്ടുന്നത്.

സമാന സംഭവങ്ങൾ ആവർത്തിക്കാതിരിക്കാൻ പഴയ അൽഗോരിതത്തിൽ തുടരുന്ന പരീക്ഷണവിഭാഗം പത്തുശതമാനത്തിൽനിന്ന് ഒരുശതമാനത്തിൽ താഴെയാക്കണമെന്ന് ആഭ്യന്തര റിപ്പോർട്ട് ശുപാർശ ചെയ്തു. ഒരേ ഉപയോക്താക്കളെ ആറുമാസമോ ഒരുവർഷമോ പരീക്ഷണത്തിൽ നിലനിർത്തുന്നതിന് പകരം കാലാവധി ഏഴുദിവസമായി കുറയ്ക്കണമെന്നും നിർദേശിച്ചു.

എന്നാൽ പരീക്ഷണവിഭാഗം ഒരുശതമാനമായി കുറച്ചാലും കുറഞ്ഞത് 18 ലക്ഷം അമേരിക്കൻ ഉപയോക്താക്കൾ സുരക്ഷാ സംവിധാനത്തിൽനിന്ന് ഒഴിവാക്കപ്പെടുമെന്നും അവർ അപകടകരമായ ഫിൽട്ടർ ബബിളുകളിൽ കുടുങ്ങാൻ സാധ്യതയുണ്ടെന്നും റിപ്പോർട്ടിലെ പുതുക്കിയ കുറിപ്പിൽ പറയുന്നു.

2022ൽ നടത്തിയത് സുരക്ഷാമാറ്റങ്ങൾ ശരിയായി പ്രവർത്തിക്കുന്നുണ്ടോയെന്ന് പരിശോധിക്കുന്നതിനുള്ള സാധാരണ പരീക്ഷണമായിരുന്നുവെന്നാണ് ടിക്‌ടോക്കിന്റെ പ്രതികരണം. പിന്നീട് ഇത്തരം പരീക്ഷണങ്ങൾ നടത്തുന്ന രീതി പരിഷ്കരിച്ചതായും കമ്പനി അറിയിച്ചു. എന്തെല്ലാം മാറ്റങ്ങളാണ് വരുത്തിയതെന്ന് വിശദീകരിച്ചിട്ടില്ല.

കൗമാരക്കാരുടെ സുരക്ഷയ്ക്കും ക്ഷേമത്തിനും കമ്പനി വലിയ പ്രാധാന്യം നൽകുന്നുവെന്നും ചട്ടങ്ങൾ ലംഘിക്കുന്ന ഉള്ളടക്കം കണ്ടെത്തി നീക്കം ചെയ്യുന്നതിനായി സാങ്കേതിക സംവിധാനങ്ങളിലും പ്രത്യേക സംഘങ്ങളിലും നിക്ഷേപം തുടരുകയാണെന്നും ടിക്‌ടോക് വക്താവ് പറഞ്ഞു.

ചേസിന്റെ അക്കൗണ്ട് പരിശോധിച്ച് രണ്ടാഴ്ചയ്ക്കുശേഷമാണ് ടിക്‌ടോക് സിഇഒ ഷൗ സി ച്യൂ അമേരിക്കൻ കോൺഗ്രസിന് മുമ്പാകെ ഹാജരായത്. കൗമാരക്കാരുടെ സുരക്ഷയാണ് കമ്പനിയുടെ പ്രധാന പരിഗണനയെന്നും സുതാര്യതയ്ക്ക് പ്രതിജ്ഞാബദ്ധമാണെന്നും അദ്ദേഹം പറഞ്ഞിരുന്നു.

പിന്നീട് കോൺഗ്രസ് നൽകിയ ചോദ്യങ്ങളിൽ, ആത്മഹത്യയുമായി ബന്ധപ്പെട്ട വീഡിയോകൾ ലഭിച്ചതിന് പിന്നാലെ ഉപയോക്താക്കൾ മരിച്ച സംഭവങ്ങൾ കമ്പനിക്ക് അറിയാമോയെന്നും അൽഗോരിതം പരീക്ഷണങ്ങൾ ഉപയോക്താക്കൾക്ക് ദോഷമുണ്ടാക്കിയിട്ടുണ്ടോയെന്നും ചോദിച്ചിരുന്നു. ടിക്‌ടോക് ഉപയോഗമാണ് ഉപയോക്താക്കളെ ആത്മഹത്യയിലേക്ക് നയിച്ചതെന്ന് കമ്പനി വിശ്വസിക്കുന്നില്ലെന്നായിരുന്നു മറുപടി. എന്നാൽ ചേസ് ഉൾപ്പെട്ട പരീക്ഷണത്തെക്കുറിച്ച് മറുപടിയിൽ പരാമർശിച്ചിരുന്നില്ല.

കുട്ടികളുടെ മാനസികാരോഗ്യത്തെ സാമൂഹ്യമാധ്യമങ്ങൾ ബാധിക്കുന്നുവെന്നാരോപിച്ച് കഴിഞ്ഞ നാലുവർഷത്തിനിടെ അമേരിക്കയിൽ നാലായിരത്തിലധികം വ്യക്തിഗത നഷ്ടപരിഹാര കേസുകളാണ് ഫയൽ ചെയ്തത്. ഈ വർഷം വിചാരണയ്ക്കെത്തേണ്ടിയിരുന്ന അഞ്ച് കേസുകളും ടിക്‌ടോക് ഒത്തുതീർപ്പാക്കിയിട്ടുണ്ട്.