ആത്മഹത്യയെക്കുറിച്ച് ചാറ്റ് ചെയ്യുന്നവര്‍; ഞെട്ടിക്കുന്ന വിവരം പുറത്തു വിട്ട് ചാറ്റ് ജിപിടി

പ്രശസ്തമായ എഐ കമ്പനിയായ ഓപ്പണ്‍എഐ അവരുടെ ചാറ്റ്ബോട്ട് ആയ ചാറ്റ്ജിപിടിയുമായി ബന്ധപ്പെട്ട ഞെട്ടിക്കുന്ന വിവരം പുറത്തുവിട്ടിരിക്കുകയാണ്. ഓരോ ആഴ്ചയും പത്ത് ലക്ഷത്തിലധികം ഉപയോക്താക്കളാണ് ചാറ്റ്ജിപിടിയുമായി നടത്തുന്ന ആശയവിനിമയങ്ങളില്‍ അവര്‍ക്ക് ആത്മഹത്യ ചെയ്യാനുള്ള ആലോചനകളോ ശ്രമങ്ങളോ സൂചിപ്പിക്കുന്നതെന്നാണ് കമ്പനി പറയുന്നത്.

ഓരോ ആഴ്ചയും ഒരു ദശലക്ഷത്തിലധികം ചാറ്റ്ജിപിടി ഉപയോക്താക്കള്‍ ആത്മഹത്യയുമായി ബന്ധപ്പെട്ട അവരുടെ വിചാരങ്ങളുടെ വ്യക്തമായ സൂചനകള്‍ ഉള്‍പ്പെടുന്ന സന്ദേശങ്ങള്‍ അയയ്ക്കുന്നുണ്ടെന്നാണ് ഓപ്പണ്‍എഐ തിങ്കളാഴ്ച പ്രസിദ്ധീകരിച്ച ഒരു ബ്ലോഗ് പോസ്റ്റില്‍ പറയുന്നത്. സെന്‍സിറ്റീവായ സംഭാഷണങ്ങളില്‍ ചാറ്റ്ബോട്ട് എങ്ങനെ പ്രതികരിക്കുന്നു എന്നതിനെക്കുറിച്ചുള്ള ഒരു അപ്ഡേറ്റിന്റെ ഭാഗമായാണ് ഈ കണ്ടെത്തല്‍. മാനസികാരോഗ്യ പ്രശ്നങ്ങള്‍ വര്‍ദ്ധിപ്പിക്കുന്നതില്‍ നിര്‍മ്മിത ബുദ്ധിക്ക് എത്രത്തോളം പങ്കുണ്ടെന്നതിനെക്കുറിച്ച് ഈ ആര്‍ട്ടിഫിഷ്യല്‍ ഇന്റലിജന്‍സ് ഭീമന്‍ നടത്തുന്ന ഏറ്റവും നേരിട്ടുള്ള പ്രസ്താവനകളില്‍ ഒന്നാണ് ഇപ്പോള്‍ പുറത്തു വന്നിരിക്കുന്നത്.

‘മനസിലാക്കി ഉപയോഗിച്ചാല്‍ നല്ല സുഹൃത്ത്, അല്ലെങ്കില്‍ അപകടകാരി’; എ ഐയുടെ സാധ്യതകളും വെല്ലുവിളികളും

ഒരാഴ്ചയില്‍ സജീവമായ ഉപയോക്താക്കളില്‍ ഏകദേശം 0.07% പേര്‍, കമ്പനി അവകാശപ്പെടുന്നപ്രകാരം 800 ദശലക്ഷം പ്രതിവാര ഉപയോക്താക്കളില്‍ ഏകദേശം 5,60,000 പേര്‍ക്ക് സൈക്കോസിസ്, അല്ലെങ്കില്‍ ഉന്മാദം പോലുള്ള ഗുരുതരമായ മാനസികാരോഗ്യ പ്രശ്നങ്ങളുടെ ലക്ഷണങ്ങള്‍ കാണിക്കുന്നുണ്ടെന്നാണ് പറയുന്നത്. എന്നാല്‍ ഇത്തരം സംഭാഷണങ്ങള്‍ കൃത്യമായി കണ്ടെത്താന്‍ പ്രയാസമാണെന്നാണ് അവര്‍ പറയുന്നത്. – ‘സൈക്കോസിസുമായോ (ജ്യെരവീശെ)െ ഉന്മാദവുമായോ (ങമിശമ) ബന്ധപ്പെട്ട മാനസികാരോഗ്യ അടിയന്തരാവസ്ഥയുടെ സാധ്യമായ ലക്ഷണങ്ങള്‍’ കാണിക്കുന്നു എന്നും ഓപ്പണ്‍എഐ പറഞ്ഞു. ഈ സംഭാഷണങ്ങള്‍ കണ്ടെത്താനും അളക്കാനും ബുദ്ധിമുട്ടാണെന്നും ഇത് ഒരു പ്രാഥമിക വിശകലനമാണെന്നും പോസ്റ്റ് മുന്നറിയിപ്പ് നല്‍കി.

ചാറ്റ്ജിപിടി ഉപയോഗിച്ച ഒരു കൗമാരക്കാരന്‍ ആത്മഹത്യ ചെയ്ത സംഭവത്തില്‍ കമ്പനിക്കെതിരെ കേസ് വന്നതിന് പിന്നാലെയാണ് ഈ വെളിപ്പെടുത്തല്‍. കുട്ടികളുടെയും കൗമാരക്കാരുടെയും മേല്‍ എഐ ചാറ്റ്ബോട്ടുകള്‍ ഉണ്ടാക്കുന്ന ദോഷകരമായ സ്വാധീനം എങ്ങനെയാണ് അളക്കുന്നത് എന്നതിനെക്കുറിച്ച് അന്വേഷിക്കാന്‍ യുഎസ് സര്‍ക്കാര്‍ പരിശോധന ആരംഭിച്ചിട്ടുണ്ട്. കഴിഞ്ഞ മാസമാണ് ഫെഡറല്‍ ട്രേഡ് കമ്മീഷന്‍ കുട്ടികളിലും കൗമാരക്കാരിലും ഉണ്ടാകുന്ന ദോഷകരമായ പ്രത്യാഘാതങ്ങളെ കമ്പനികള്‍ എങ്ങനെയാണ് കൈകാര്യം ചെയ്യുന്നതെന്നു കണ്ടെത്താനായി ഓപ്പണ്‍എഐ ഉള്‍പ്പെടെയുള്ള എഐ ചാറ്റ്ബോട്ടുകള്‍ സൃഷ്ടിക്കുന്ന കമ്പനികളെക്കുറിച്ചുള്ള വിപുലമായ അന്വേഷണം ആരംഭിച്ചത്.

ഓപ്പണ്‍ എ ഐയുടെ പ്രതികരണം

തങ്ങളുടെ പുതിയ മോഡലായ ജിപിടി-5 അവതരിപ്പിച്ചതോടെ, ചാറ്റ്ബോട്ടിന്റെ പെരുമാറ്റത്തില്‍ വലിയ മാറ്റം വന്നിട്ടുണ്ടെന്നാണ് കമ്പനി അവകാശപ്പെടുന്നത്. ആത്മഹത്യാപരമായ സംഭാഷണങ്ങള്‍ കൈകാര്യം ചെയ്യുമ്പോള്‍, പുതിയ ജിപിടി-5 മോഡല്‍, സുരക്ഷിതമായ മറുപടികള്‍ നല്‍കുന്നതില്‍ മുമ്പത്തെ മോഡലിനേക്കാള്‍ കൂടുതല്‍ മെച്ചപ്പെട്ട ഫലം കാണിക്കുമെന്ന് അവര്‍ ഉറപ്പ് നല്‍കുന്നു.

ഇതിനായി 170 മാനസികാരോഗ്യ വിദഗ്ദ്ധരുടെ (സൈക്യാട്രിസ്റ്റുകളും സൈക്കോളജിസ്റ്റുകളും) സഹായം തേടിയെന്നും, 1,800-ല്‍ അധികം പ്രതികരണങ്ങള്‍ ഇവര്‍ പരിശോധിച്ച് മെച്ചപ്പെടുത്തിയെന്നും കമ്പനി അവകാശപ്പെട്ടിട്ടുണ്ട്.

‘ആക്ച്വലും വെർച്വലും’; എഐയെ പഴിക്കുന്ന പകൽമാന്യന്മാരും തെറ്റിദ്ധരിപ്പിക്കപ്പെടുന്ന സമൂഹവും

ആളുകള്‍ക്ക് മാനസികാരോഗ്യ സഹായം നല്‍കുന്ന ഹോട്ട്ലൈന്‍ നമ്പറുകളിലേക്ക് എളുപ്പത്തില്‍ എത്താനുള്ള സൗകര്യവും, ദീര്‍ഘനേരം ചാറ്റ് ചെയ്യുമ്പോള്‍ ഇടവേള എടുക്കാന്‍ ഓര്‍മ്മിപ്പിക്കാനുള്ള സംവിധാനവും ജിപിടി-5-ല്‍ ഉള്‍പ്പെടുത്തിയിട്ടുണ്ട്.

വിദഗ്ദ്ധരുടെ ആശങ്ക

ചാറ്റ്ബോട്ടുകള്‍ ഉപയോക്താക്കളെ പിന്തുണയ്ക്കുന്നതിന്റെ പേരില്‍, അവര്‍ക്ക് ദോഷകരമായേക്കാവുന്ന തീരുമാനങ്ങളെയും തെറ്റിദ്ധാരണകളെയും കണ്ണടച്ച് പിന്തുണയ്ക്കുന്ന രീതിയെക്കുറിച്ച് വിദഗ്ദ്ധര്‍ ആശങ്കയുയര്‍ത്തുകയാണ്.

മാനസിക പിന്തുണയ്ക്കായി എഐയെ ആശ്രയിക്കുന്നത് ദുര്‍ബലരായ ആളുകള്‍ക്ക് ദോഷകരമായേക്കാം എന്നാണ് വിദഗ്ധര്‍ മുന്നറിയിപ്പ് നല്‍കുന്നത്.

ഓപ്പണ്‍എഐയുമായുള്ള ആശയവിനിമയം മൂലം ഉപയോക്താക്കള്‍ക്ക് നേരിട്ട് മാനസികാരോഗ്യ പ്രശ്നങ്ങള്‍ ഉണ്ടാകുന്നുണ്ടെന്ന് കമ്പനി സമ്മതിക്കുന്നില്ല, പകരം ഉപയോക്താക്കള്‍ നേരിടുന്ന പ്രശ്നങ്ങളുടെ കണക്കുകള്‍ മാത്രമാണ് അവര്‍ നല്‍കിയിരിക്കുന്നത്.

Content Summary; One million users chat with Chat GPT about suicide in every week, Open AI report says.