സോഷ്യൽ മീഡിയയിലെ ഏഐ നിർമ്മിത പോസ്റ്റുകൾക്ക് ലേബലിങ് നിർബന്ധമാക്കി

ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് (AI) ഉപയോഗിച്ച് തയ്യാറാക്കുന്ന പോസ്റ്റുകളുടെ ഉള്ളടക്കം തിരിച്ചറിയാൻ ലേബലിങ് നിർബന്ധമാക്കി ഐടി മന്ത്രാലയം. ലേബലിങ് ഉറപ്പു വരുത്താൻ എ ഐ കമ്പനിയ്ക്കും സോഷ്യൽ മീഡിയ പ്ലാറ്റ്‌ഫോമുകൾക്കും നിയമ പരമായ ബാധ്യത ഉണ്ടായിരിക്കും എന്നാണ് പ്രഖ്യാപനം.

സൈബർ ലോകത്ത് വളർന്നുവരുന്ന വിവിധ തലങ്ങളിലുള്ള ഡീപ്‌ഫേക്ക് പ്രചാരണങ്ങൾ തടയുന്നതിനാണ് ഈ നീക്കം എന്നു പറയുന്നു. രാജ്യത്ത് ഇന്റർനെറ്റ് ഉപയോക്താക്കൾ ഏകദേശം ഒരു ബില്യൺ കവിഞ്ഞു. വ്യാജവാർത്തകളും തെറ്റായ പ്രചാരണങ്ങളും സാമൂഹിക സംഘർഷങ്ങൾക്കും തെരഞ്ഞെടുപ്പുകളിലെ ഇടപെടലുകൾക്കും വഴിതെളിയുന്ന സാഹചര്യം ഉണ്ടാവുന്നതായി നിർദ്ദേശത്തിൽ പറയുന്നു.

നിർദ്ദിഷ്ട നിബന്ധനകൾ പ്രകാരം സോഷ്യൽ മീഡിയ കമ്പനികൾ അവരുടെ ഉപയോക്താക്കൾ അപ്‌ലോഡ് ചെയ്യുന്ന വീഡിയോകൾ ഡീപ്‌ഫേക്ക് ആണെങ്കിൽ അത് എ ഐ  സൃഷ്ടിച്ചതാണെന്ന് വ്യക്തമായി പ്രഖ്യാപിക്കാൻ ആവശ്യപ്പെടണം. ജനറേറ്റീവ് AI ഉപകരണങ്ങൾ ദുരുപയോഗം വർധിച്ചു വരുന്ന സാഹചര്യത്തോടുള്ള പ്രതികരണമായാണ് ഈ നീക്കമെന്ന് കേന്ദ്ര ഇലക്ട്രോണിക്സ് ആൻഡ് ഇൻഫർമേഷൻ ടെക്നോളജി മന്ത്രാലയം വിശദീകരിക്കുന്നു.

എങ്ങിനെയാണ് പ്രയോഗിക്കുക

ഇന്ത്യയുടെ ഐടി നിയമങ്ങളുടെ ഭാഗമായി നിർദ്ദിഷ്ട കരട് നിയന്ത്രണം രൂപപ്പെടുത്തും എന്നാണ് വിശദീകരണം. AI സാങ്കേതികവിദ്യകളിൽ നിന്നുള്ള അപകടസാധ്യതകൾ വിവരിക്കുമ്പോഴും നിയന്ത്രണം നടപ്പിലാക്കൽ സംവിധാനങ്ങളോ പാലിക്കാത്തതിനുള്ള പിഴകളോ സർക്കാർ ഇതുവരെ പ്രഖ്യാപിച്ചിട്ടില്ല. അന്തിമ ചട്ടക്കൂട് രൂപപ്പെടുത്തുന്നതിനായി ഉദ്യോഗസ്ഥർ, സാങ്കേതിക സ്ഥാപനങ്ങൾ, AI ഡെവലപ്പർമാർ, സിവിൽ സൊസൈറ്റി ഓർഗനൈസേഷനുകൾ എന്നിവയുമായി ചർച്ചകൾ നടത്തുന്നതായാണ് റിപ്പോർടുകൾ പുറത്തു വിട്ടിട്ടുള്ളത്.

നിയമമായി കഴിഞ്ഞാൽ ഇന്ത്യയിൽ പ്രവർത്തിക്കുന്ന ഡിജിറ്റൽ പ്ലാറ്റ്‌ഫോമുകളുടെ ഉത്തരവാദിത്തങ്ങൾ മാറും. AI- ജനറേറ്റഡ് ഉള്ളടക്കം തിരിച്ചറിയാൻ കഴിവുള്ള ഓട്ടോമേറ്റഡ് സിസ്റ്റങ്ങൾ സോഷ്യൽ മീഡിയ കമ്പനികൾ വികസിപ്പിക്കുകയോ സംയോജിപ്പിക്കുകയോ ചെയ്യേണ്ടി വരും. AI ഡെവലപ്പർമാർക്ക് അവരുടെ ഉപകരണങ്ങൾക്കായി പുതിയ വെളിപ്പെടുത്തൽ സംവിധാനം ഏർപ്പെടുത്തേണ്ടി വരും.

2023 ൽ നടി രശ്മിക മന്ദാന ലിഫ്റ്റിൽ കയറുന്നതിന്റെ ഒരു ഡീപ്പ്ഫേക്ക് വീഡിയോ സോഷ്യൽ മീഡിയയിൽ വൈറലായത് വലിയ വിവാദം ഉയർത്തിയിരുന്നു.