ഹാക്ക് ചെയ്യപ്പെട്ട എഐ ചാറ്റ്ബോട്ടുകൾക്ക് സെൻസിറ്റീവും നിയമവിരുദ്ധവുമായ വിവരങ്ങൾ ചോർത്താൻ കഴിയുമെന്ന് ഗവേഷകരുടെ കണ്ടെത്തൽ. എഐ ചാറ്റ്ബോട്ടുകളായ ചാറ്റ്ജിപിടി, ഗൂഗിൾ ജെമിനി, ക്ലൗഡ് തുടങ്ങിയവയെ എളുപ്പത്തിൽ തെറ്റിദ്ധരിപ്പിച്ച് വിവരങ്ങൾ ചോർത്താൻ കഴിയുമെന്നും അതിനാൽ ജയിൽബ്രേക്ക് എന്നൊരു സാധ്യത നിലനിൽക്കുന്നുവെന്നും ഗവേഷകർ പറയുന്നതായി ദി ഗാർഡിയൻ റിപ്പോർട്ട് ചെയ്തു.
ചാറ്റ്ബോട്ടുകൾ ദോഷകരമോ നിയമവിരുദ്ധമോ അനുചിതമോ ആയ ഉള്ളടക്കം പങ്കിടുന്നത് തടയുന്നതിനായാണ് അന്തർ നിർമിത സുരക്ഷാസംവിധാനങ്ങൾ ഒരുക്കിയിരിക്കുന്നത്. എന്നാൽ ഈ പരിരക്ഷകൾ എളുപ്പത്തിൽ കബളിപ്പിക്കപ്പെടാമെന്നും ഗുരുതരമായ സുരക്ഷാ ഭീഷണി സൃഷ്ടിക്കാമെന്നും ഗവേഷകർ പറയുന്നു.
ലാർജ് ലാംഗ്വേജ് മോഡലുകൾ (LLMs) എന്നറിയപ്പെടുന്ന ഈ ചാറ്റ്ബോട്ടുകളുടെ എഞ്ചിനുകൾ വലിയ അളവിലുള്ള സാങ്കേതിക വിവരങ്ങൾ ഉൾപ്പെടുത്തി പരിശീലിപ്പിരിക്കുന്നവയാണ്. സമൂഹത്തിന് ദോഷകരമായ വിവരങ്ങൾ നൽകരുതെന്നുള്ള ആശയങ്ങൾ നൽകിയിട്ടുണ്ടെങ്കിലും സിസ്റ്റങ്ങൾ എങ്ങനെ ഹാക്ക് ചെയ്യാം, ബോംബുകൾ ഉണ്ടാക്കുന്നതെങ്ങനെ, കള്ളപ്പണം വെളുപ്പിക്കൽ തുടങ്ങിയ നിയമവിരുദ്ധമായ വിവരങ്ങൾ ഉപയോക്താവുമായി പങ്കുവെക്കാനുള്ള സാധ്യതയുള്ളതായാണ് റിപ്പോർട്ടിൽ പറയുന്നത്. സാധാരണയായി സുരക്ഷാ നിയന്ത്രണങ്ങൾ ബോട്ടുകളെ ഇത്തരം വിവരങ്ങൾ ഉപയോഗിക്കുന്നതിൽ നിന്ന് തടയുന്നു. എന്നാൽ ജയിൽബ്രേക്കിംഗ് ഉപയോഗിച്ച് നിയന്ത്രണങ്ങൾ മറികടക്കാൻ കഴിയുമെന്നാണ് വിദഗ്ധർ അഭിപ്രായപ്പെടുന്നത്.
ഇസ്രയേലിലെ ബെൻ ഗുരിയോൺ സർവകലാശാലയിലെ പ്രൊഫ. ലിയർ റോക്കാച്ചിന്റെയും ഡോ. മൈക്കൽ ഫയറിന്റെയും പുതിയ പഠന റിപ്പോർട്ടിലാണ് ജയിൽബ്രേക്ക് അല്ലെങ്കിൽ സുരക്ഷിതമല്ലാത്ത ഡാർക്ക് എൽഎൽഎമ്മുകൾ വ്യാപിക്കുന്നതായി മുന്നറിയിപ്പ് നൽകുന്നത്. ഇത്തരം ചാറ്റ്ബോട്ടുകൾക്ക് ധാർമ്മിക ആശയങ്ങൾ വെച്ചുപുലർത്താൻ കഴിയില്ലെന്നും സൈബർ ആക്രമണങ്ങൾ, വഞ്ചന, മയക്കുമരുന്ന് നിർമ്മാണം തുടങ്ങിയ കുറ്റകൃത്യങ്ങളിൽ സഹായിക്കാൻ തയ്യാറാവുമെന്നും പഠന റിപ്പോർട്ടിൽ വ്യക്തമാക്കുന്നു.
ചാറ്റ്ബോട്ടുകൾക്ക് അപകടകരമായ ഉള്ളടക്കം സൃഷ്ടിക്കാൻ കഴിയുമെന്നത് ഞെട്ടിപ്പിക്കുന്നതാണെന്ന് ഡോ. ഫയർ പറഞ്ഞതായി ഗാർഡിയന്റെ റിപ്പോർട്ടിൽ പറയുന്നു. പഠന റിപ്പോർട്ടിന്റെ അടിസ്ഥാനത്തിൽ വിഷയത്തിന്റെ ഗൗരവം പ്രധാന എഐ കമ്പനികളെ അറിയിച്ചിരുന്നെങ്കിലും ആരും തന്നെ പ്രതികരിച്ചില്ലായെന്നും ഗവേഷകർ പറയുന്നു.
കൂടുതൽ ശക്തമായ സുരക്ഷാ നടപടികൾ കമ്പനികൾ സ്വീകരിക്കണമെന്നാണ് റിപ്പോർട്ടിൽ നിർദേശിച്ചിരിക്കുന്നത്. പരിശീലന ഡാറ്റയുടെ മികച്ച ഫിൽട്ടറിംഗ്, ദോഷകരമായ ചോദ്യങ്ങളും ഉത്തരങ്ങളും തടയുന്നതിനുള്ള മാർഗങ്ങൾ, തുടങ്ങിയ നിർദേശങ്ങളാണ് മുന്നോട്ട് വെച്ചിട്ടുള്ളത്.
ജയിൽ ബ്രേക്കുകളിലൂടെ തെറ്റായ വിവരങ്ങൾ, തട്ടിപ്പുകൾ, ആയുധ നിർമ്മാണത്തിനുള്ള വിവരങ്ങൾ എന്നിവ പ്രചരിപ്പിക്കാൻ സഹായിക്കുമെന്ന് ബെൽഫാസ്റ്റിലെ ക്വീൻസ് യൂണിവേഴ്‌സിറ്റിയിലെ ഡോ. ഇഹ്‌സെൻ അലൂവാനിയും മുന്നറിയിപ്പ് നൽകിയിട്ടുണ്ട്. കമ്പനികൾ ഉപയോക്തൃ ഇന്റർഫേസിൽ മാത്രമല്ല മോഡൽ തലത്തിൽ എഐ എത്രത്തോളം ഉപദ്രവകാരിയല്ല എന്ന് പരിശോധിക്കുന്നതിനും നിക്ഷേപം നടത്തണമെന്ന് അദ്ദേഹം പറഞ്ഞു. എഐ മോഡലുകൾക്ക് തുടർച്ചയായ പരിശോധനയും സുരക്ഷിതമായ രൂപകൽപ്പനയും അടിസ്ഥാനം മുതൽ ആവശ്യമാണെന്നും അലൂവാനി കൂട്ടിച്ചേർത്തു.
Content Summary: Study finds chatbots are being used to mislead and leak illegal information
