"അടുത്ത 10 വര്‍ഷം നിര്‍ണായകം" എഐ മനുഷ്യനെതിരെ തിരിയാമെന്ന് ആന്ത്രോപിക് സേഫ്റ്റി തലവൻ

നിര്‍മിത ബുദ്ധി അടുത്ത പത്ത് വര്‍ഷത്തിനകം മനുഷ്യരാശിയെ തന്നെ നശിപ്പിച്ചേക്കാം എന്ന ആശങ്ക പരസ്യപ്പെടുത്തി ഇവാൻ ഹുബിഞ്ചര്‍. നിര്‍മിത ബുദ്ധി വികസന രംഗത്തെ മുന്നേറ്റം ഇതേപോലെ തുടരുകയാണെങ്കിൽ വിനാശ സാധ്യത പത്ത് ശതമാനത്തിൽ കൂടുലാണെന്നും അഭിപ്രായപ്പെട്ടു. എഐ ലോകത്തെ മുൻനിര ഗവേഷണ സ്ഥാപനമായ ആന്ത്രോപികിന്റെ സേഫ്ടി ലീഡ് ആണ് ഇവാൻ ഹുബിഞ്ചർ.

എഐയുടെ നിയന്ത്രണം കൈവിട്ട് പോകുമെന്ന ആശങ്ക പരസ്യപ്പെടുത്തി ഇദ്ദേഹത്തിന്റെ തൊട്ടടുത്ത സഹപ്രവര്‍ത്തകനായ ജേക്കബ് കോക്സൺ ഈയിടെ രാജിവെച്ചിരുന്നു. ഇതിനു പിന്നാലെയാണ് ഇവാൻ തന്റെ ആശങ്ക പുറത്തു പറഞ്ഞത്. എക്സ് കുറിപ്പിലായിരുന്നു ഇത്. ഇതിന് മുൻപ് മൃതുൻജയ് ശർമ്മ എന്നൊരു ഗവേഷകനും സമാനമായ ആശങ്ക തുറന്നു പറഞ്ഞ് ജോലി ഉപേക്ഷിച്ചിരുന്നു.

മനുഷ്യ നന്മയ്ക്കായി എഐയെ സുരക്ഷിതമായി ഉപയോഗിക്കുന്നതിനുള്ള 'അലൈന്റ്മെന്റ്' സാങ്കേതിക വിദ്യ ഇനിയും വികസിതമായിട്ടില്ല. എഐ വളരുന്ന അത്രയും വേഗത്തിൽ സുരക്ഷാ രംഗത്തെ ഗവേഷണം വളരുന്നില്ല. മനുഷ്യരെക്കാൾ ശേഷിയുള്ള എഐ രൂപം കൊള്ളുകയും അവ സ്വയം മെച്ചപ്പെടുത്തി വളരുകയും മനുഷ്യരുടെ നിയന്ത്രണത്തിൽ നിന്നും വഴുതുകയും ചെയ്താൽ അതിന്റെ ഫലം സങ്കൽപിക്കാൻ കഴിയുന്നതിനെക്കാൾ വിനാശകരമാവും. നിലവിലുള്ള ചാറ്റ് ജിപിടി, ക്ലൗഡ്, ജെമിനി തുടങ്ങിയവ ഇത്തരത്തിൽ ഭീഷണി ഉയര്‍ത്തുന്നവയല്ല. എന്നാൽ ആര്‍ടിഫിഷ്യൽ ജനറൽ ഇൻ്റലിജൻസ് അഥവാ എജിഐ ആരംഭിച്ചു കഴിഞ്ഞതായി അവകാശങ്ങൾ ഉണ്ടായിട്ടുണ്ട്. ഈ സാഹചര്യത്തിലാണ് എഐ രംഗത്തെ ഗവേഷകരുടെ മുന്നറിയിപ്പുകൾ ചര്‍ച്ചാ പ്രധാന്യം നേടുന്നത്.

ഇതിനിടെ ലഭിച്ച

സൂചനകൾ ചെറുതല്ല

അടുത്തിടെ ഒപ്പൺ എഐ ഏജന്റുകൾ നടത്തിയ ഹാക്കിങും കടന്നു കയറ്റങ്ങളും വലിയ വാര്‍ത്തയായിരുന്നു. എഐ അപ്രതീക്ഷിതമായി പെരുമാറാമെന്നും വഞ്ചന, ഹാക്കിങ് തുടങ്ങിയ അപകടങ്ങൾ ഉണ്ടാക്കാമെന്നും അന്ന് ആന്ത്രോപിക് സിഇഒ ദാരിയോ അമോദെ തന്നെ സമ്മതിക്കയും ഉണ്ടായി.

സൈബര്‍ ആക്രമണങ്ങൾക്ക് പുറമെ ബയോളജിക്കൽ വെപണുകൾ, സര്‍വ്വനാശകാരികളായ ആയുധങ്ങൾ എന്നിവയുടെ ലോകത്തേക്കും ഇവ എത്താം. ഉത്തരവാദിത്വമില്ലാത്ത നിലയിൽ ഇവ ഉപയോഗിക്കപ്പെടാനും സാധ്യ ത തുറക്കാം. വ്യാജ വിവരങ്ങളടെ പ്രചാരണം, വൻ തോതിലുള്ള തൊഴിൽ നഷ്ടങ്ങൾ, നിയന്ത്രണം കൈവിടൽ എന്നിവയും ഇതോടൊപ്പം ആശങ്കയായി ഉയര്‍ന്നു നിൽക്കുന്നു.

ആന്ത്രോപിക് സിഇഒ ദാരിയോ അമോദെ കമ്പ്യൂട്ടര്‍ ഗെയിമുകൾ ഉപയോഗിച്ച് എഐയെ പരിശീലിപ്പിക്കുന്നു

എ ഐ രംഗത്തെ മുൻനിര ഗവേഷകരും ചിന്തകരുമായ ജഫ്രി ഹിന്റൺ (Geoffrey Hinton), യോഷുവ ബെഞ്ചിയോ (Yoshua Bengio) എന്നിവര്‍ എഐ ദുരന്തങ്ങൾക്ക് പത്ത് മുതൽ ഇരുപത് ശതമാനം വരെ സാധ്യതയുണ്ടെന്ന് അഭിപ്രായപ്പെട്ടിരുന്നു.

മറിച്ചുള്ള ചര്‍ച്ചകളും സജീവമാണ്. യഥാർത്ഥത്തിൽ എഐ സൃഷ്ടിക്കുന്ന ഭീഷണിയേക്കാളും അതിനെ നേരായ രീതിയിൽ നിയന്ത്രിക്കാനും അതിനാവശ്യമായ നിയമാവലികൾ നടപ്പിലാക്കാനും നമുക്ക് സാധിക്കുമോ എന്നതിലാണ് പ്രധാന ആശങ്ക കിടക്കുന്നത് എന്ന് ഇവര്‍ വാദിക്കുന്നു. ഗവേഷകയായ അജയ കൊത്ര (Ajeya Cotra)യെ പോലുള്ളവരാണ് ഈ പക്ഷത്ത്.