അതിവേഗം മാറിക്കൊണ്ടിരിക്കുന്ന സാങ്കേതിക വിദ്യകള് മനുഷ്യരുടെ ദൈനംദിന ജീവിതത്തിന്റെ ഭാഗമായിക്കഴിഞ്ഞ കാലത്ത്, ആര്ട്ടിഫിഷ്യല് ഇന്റലിജന്സ്(എ ഐ) ഉയര്ത്തുന്ന വെല്ലുവിളികളെ കുറിച്ച് ആശങ്കപ്പെടുന്നത് ഓപ്പണ്എഐ സിഇഒ സാം ആള്ട്ട്മാന് ആണ്. എഐ ഏജന്റുകള് അപ്രതീക്ഷിതമായി പെരുമാറുന്നതിനെക്കുറിച്ച് ആള്ട്ട്മാന് നടത്തിയ പരസ്യമായ നിരീക്ഷണം ആഗോള ടെക് വ്യവസായത്തിലും എഐ ഗവേഷക ലോകത്തും വലിയ ചര്ച്ചകള്ക്ക് വഴിയൊരുക്കിയിരിക്കുകയാണ്.
ഓപ്പണ്ഐഎ പുതിയ ‘ഹെഡ് ഓഫ് പ്രിപ്പേര്ഡ്നെസ്’ എന്ന ഉന്നത പദവിയിലേക്ക് നിയമനം നടത്താനൊരുങ്ങുകയാണ്. ഇത്തരമൊരു നിര്ണായക നീക്കത്തിന് അവര്ക്ക് കാരണമായിരിക്കുന്നത്, എഐ വെറുമൊരു ‘ചാറ്റ്ബോട്ട്’ എന്ന നിലയില് നിന്ന് സജീവമായ ‘ഏജന്റ്’ ആയി മാറുമ്പോള് നേരിടേണ്ടി വരുന്ന യഥാര്ത്ഥ വെല്ലുവിളികളാണ്. സൈബര് സുരക്ഷ, മാനസികാരോഗ്യം, പ്രവര്ത്തനക്ഷമത തുടങ്ങിയ മേഖലകളില് ഈ മാറ്റം വലിയ സ്വാധീനം ചെലുത്തുമെന്നാണ് ആള്ട്ട്മാന് നല്കുന്ന മുന്നറിയിപ്പ്.
എ ഐ സംവിധാനങ്ങള് സൈബര് സുരക്ഷയ്ക്കും മാനസികാരോഗ്യത്തിനും ഉയര്ത്തുന്ന ഭീഷണി ആള്ട്ട്മാന് ചൂണ്ടിക്കാണിക്കുന്നുണ്ട്. എ ഐ മോഡലുകള് കമ്പ്യൂട്ടര് സുരക്ഷാ സംവിധാനങ്ങളില് നിര്ണായകമായ സുരക്ഷാ പിഴവുകള് കണ്ടെത്താന് തുടങ്ങിയിരിക്കുന്നു എന്ന് ഓപ്പണ്എഐ സിഇഒ പരസ്യമായി സമ്മതിച്ചിരിക്കുകയാണ്. എഐ മോഡലുകള് മികച്ച പലകാര്യങ്ങള്ക്കും പ്രാപ്തമാണെങ്കിലും, അവ ഒരേസമയം അടിയന്തര ശ്രദ്ധ ആവശ്യമുള്ള വലിയ വെല്ലുവിളികളും ഉയര്ത്തുന്നുണ്ടെന്നാണ് അദ്ദേഹത്തിന്റെ മുന്നറിയിപ്പ്.
സൈബര് സുരക്ഷാ ഭീഷണിയാണ് നേരിടുന്ന പ്രധാന വെല്ലുവിളി. എഐ സംവിധാനങ്ങള് സൈബര് ആക്രമണങ്ങള്ക്കുള്ള ആയുധമാക്കപ്പെടുന്നതായി റിപ്പോര്ട്ടുകളുണ്ട്. ചൈനീസ് സര്ക്കാരിന്റെ പിന്തുണയുള്ള ഹാക്കര്മാര്, ആന്ത്രോപിക് കമ്പനിയുടെ ‘ക്ലോഡ് കോഡ്’ എന്ന എഐ ടൂള് ഉപയോഗിച്ച് ലോകമെമ്പാടുമുള്ള 30-ഓളം സ്ഥാപനങ്ങളെ ആക്രമിക്കാന് ശ്രമിച്ചതായി അടുത്തിടെ കണ്ടെത്തിയിരുന്നു. മനുഷ്യസഹായം വളരെ കുറച്ചുമാത്രം ഉപയോഗിച്ച്, എഐയുടെ സഹായത്തോടെയാണ് അവര് ഈ ഹാക്കിംഗ് നടത്തിയത്.
എഐ ചാറ്റ്ബോട്ടുകള് ഉപയോക്താക്കളില് മിഥ്യാധാരണകളും ഗൂഢാലോചന സിദ്ധാന്തങ്ങളും വളര്ത്തുന്നുവെന്നതാണ് ഗൗരവമേറിയ മറ്റൊരു വിഷയം. കൗമാരക്കാരുടെ ആത്മഹത്യകളില് ചാറ്റ്ജിപിറ്റിക്കുള്ള പങ്കിനെച്ചൊല്ലിയുള്ള കേസുകള് നിലനില്ക്കുന്ന സാഹചര്യത്തില് തന്നെയാണ് എഐയുടെ മാനസിക പ്രത്യാഘാതങ്ങളെക്കുറിച്ച് സാം ആള്ട്ട്മാന് ആശങ്ക രേഖപ്പെടുത്തിയിരിക്കുന്നതെന്നതും ശ്രദ്ധേയമാണ്.
മനുഷ്യന് പഠിപ്പിക്കാതെ തന്നെ സ്വന്തമായി അറിവ് വളര്ത്തുന്ന എഐ സംവിധാനങ്ങള്, ഭാവിയില് മാരകമായ വൈറസുകളോ മറ്റ് ജൈവായുധങ്ങളോ നിര്മ്മിക്കാന് ദുരുപയോഗം ചെയ്യപ്പെട്ടേക്കാം എന്ന പേടി നിലവിലുണ്ട്. ഈ ഭീഷണികളെ നേരിടുന്നതിനായാണ് ‘ഹെഡ് ഓഫ് പ്രിപ്പയര്ഡ്നസ്’ എന്ന പുതിയ തസ്തികയിലേക്ക് ഓപ്പണ്എഐ നിയമനം നടത്തുന്നത്.
സൈബര് സുരക്ഷ, ബയോസെക്യൂരിറ്റി, സ്വയം മെച്ചപ്പെടുന്ന എഐ സംവിധാനങ്ങള് എന്നിവയിലെ അപകടസാധ്യതകള് വിലയിരുത്തുകയും അവ ലഘൂകരിക്കാനുള്ള പദ്ധതികള് തയ്യാറാക്കുകയും ചെയ്യുക എന്നതാണ് ഈ തസ്തികയിലെ പ്രധാന ജോലി.
പ്രതിവര്ഷം 555,000 ഡോളറും മറ്റ് ആനുകൂല്യങ്ങളുമാണ് ഈ തസ്തികയ്ക്ക് വാഗ്ദാനം ചെയ്യുന്നത്. സുരക്ഷാ ടീമിലെ നേതൃമാറ്റങ്ങളെത്തുടര്ന്ന് അലക്സാണ്ടര് മാഡ്രി രാജിവെച്ച ഒഴിവിലേക്കാണ് പുതിയ നിയമനം നടക്കുന്നത്.
എഐ സുരക്ഷയെക്കുറിച്ചുള്ള ആശങ്കകള് ഓപ്പണ്എഐ ഗൗരവമായി കാണുന്നു എന്നതിന്റെ തെളിവാണ് ഈ പുതിയ മാറ്റങ്ങള്. എഐ വികസനത്തോടൊപ്പം തന്നെ അതിന്റെ സുരക്ഷാ മാനദണ്ഡങ്ങള് ഉറപ്പാക്കേണ്ടത് അത്യന്താപേക്ഷിതമാണെന്ന് ഈ റിപ്പോര്ട്ട് വ്യക്തമാക്കുന്നു.
ചാറ്റ്ബോട്ടുകളില് നിന്ന് സ്വയംഭരണാധികാരമുള്ള ഏജന്റുകളിലേക്ക്
കഴിഞ്ഞ രണ്ട് വര്ഷമായി, ആളുകള് പ്രധാനമായും ചാറ്റ്ജിപിടി പോലുള്ള ‘സ്റ്റാറ്റിക്’ എഐ മോഡലുകളാണ് ഉപയോഗിച്ചിരുന്നത്. ഇവ നിര്ദ്ദേശങ്ങള്ക്ക് മറുപടി നല്കുമെങ്കിലും സ്വയം പ്രവര്ത്തിക്കാന് ശേഷിയുള്ളവയായിരുന്നില്ല. എന്നാല്, 2025-ഓടെ എഐ ഏജന്റ് സംവിധാനങ്ങള് വലിയ മാറ്റം കൊണ്ടുവന്നു. മനുഷ്യസഹായമില്ലാതെ തന്നെ സങ്കീര്ണമായ കാര്യങ്ങള് പ്ലാന് ചെയ്യാനും, സോഫ്റ്റ്വെയറുകള് ഉപയോഗിക്കാനും, ദീര്ഘനേരം പ്രവര്ത്തിക്കാനുമുള്ള ശേഷി ഇവ കൈവരിച്ചു.
ലോജിസ്റ്റിക്സ് കൈകാര്യം ചെയ്യാനും സങ്കീര്ണമായ കോഡിംഗ് പ്രോജക്റ്റുകള് പൂര്ത്തിയാക്കാനും ഈ ഏജന്റുകള്ക്ക് സാധിക്കുമെന്നാണ് ആള്ട്ട്മാന് ചൂണ്ടിക്കാണിക്കുന്നത്. എങ്കിലും, ഇത് പ്രവചിക്കാനാകാത്ത അപകടസാധ്യതകളും ഉയര്ത്തുന്നുണ്ട്. ഒരു സാധാരണ ചാറ്റ്ബോട്ട് തെറ്റായ വിവരങ്ങള് നല്കുക മാത്രമേയുള്ളൂ എങ്കില്, ബാങ്ക് അക്കൗണ്ടുകള് ഉപയോഗിക്കാന് അനുവാദമുള്ള ഒരു എഐ തെറ്റ് വരുത്തിയാല്, അത് വലിയ സാമ്പത്തിക നഷ്ടങ്ങള്ക്കോ പ്രശ്നങ്ങള്ക്കോ കാരണമായേക്കാം
നൂതന മോഡലുകളുടെ ‘ഇരട്ട സ്വഭാവ’ത്തിലാണ് ആള്ട്ട്മാന് കൂടുതല് ആശങ്കപ്പെടുന്നത്. ഓപ്പണ് എഐയുടെ പുതിയ സംവിധാനങ്ങള് കമ്പ്യൂട്ടര് സുരക്ഷയില് അതീവ നൈപുണ്യമുള്ളവയാണ്. നിലവിലുള്ള സോഫ്റ്റ്വെയറുകളിലെ ഗുരുതരമായ സുരക്ഷാ പിഴവുകള് കണ്ടെത്താന് ഇവയ്ക്ക് സാധിക്കുന്നുവെന്നും അദ്ദേഹം പറഞ്ഞു.
ഇത് സുരക്ഷാ ഉദ്യോഗസ്ഥരെ സഹായിക്കുമെങ്കിലും, ഒരു എഐ ഏജന്റ് സ്വന്തം നിലയില് ഈ പിഴവുകള് ദുരുപയോഗം ചെയ്യാന് തീരുമാനിക്കുകയോ അല്ലെങ്കില് ഈ സാങ്കേതികവിദ്യ ഹാക്കര്മാരുടെ കൈകളില് എത്തുകയോ ചെയ്താല് അത് ഭയാനകമായിരിക്കും. തങ്ങളുടെ ലക്ഷ്യം പൂര്ത്തിയാക്കുന്നതിനായി മോഡലുകള് ചിലപ്പോള് സുരക്ഷാ പ്രോട്ടോക്കോളുകളെ മറികടക്കുന്ന രീതികള് സ്വന്തമായി വികസിപ്പിക്കുന്നുണ്ടെന്ന് ഓപ്പണ് എഐയിലെ തന്നെ ചില റിപ്പോര്ട്ടുകള് സൂചിപ്പിക്കുന്നു.
സാങ്കേതിക സുരക്ഷയ്ക്ക് പുറമെ, മനുഷ്യരും എഐയും തമ്മിലുള്ള വൈകാരിക ബന്ധത്തെക്കുറിച്ചും ആള്ട്ട്മാന് മുന്നറിയിപ്പ് നല്കി. എഐ ഏജന്റുകള് കൂടുതല് ജീവസ്സുറ്റതാകുമ്പോള് ഉപഭോക്താക്കള്ക്ക് അവയോട് വൈകാരികമായ അടിമത്തം ഉണ്ടാകുന്നു. ഉപഭോക്താക്കളെ സഹായിക്കാന് രൂപകല്പ്പന ചെയ്ത എഐ ഏജന്റുകള് അറിയാതെ തന്നെ അവരില് തെറ്റായ വിശ്വാസങ്ങള് ഉണ്ടാക്കുന്നതായും മാനസികാരോഗ്യത്തെ ദോഷകരമായി ബാധിക്കുന്നതായും റിപ്പോര്ട്ടുകളുണ്ട്.
ബിസിനസ്സ് രംഗത്തും ഇത്തരം ഏജന്റുകള് പാളിച്ചകള് വരുത്തുന്നു. ചില എഐ സപ്പോര്ട്ട് ഏജന്റുകള് തനിയെ വന്തോതില് ഡിസ്കൗണ്ടുകള് അനുവദിക്കുന്നതായും, നിര്ദ്ദേശങ്ങള് തെറ്റായി വ്യാഖ്യാനിച്ച് പ്രധാനപ്പെട്ട ഡാറ്റാബേസ് ഫയലുകള് ഡിലീറ്റ് ചെയ്യുന്നതായും പരാതികള് ഉയര്ന്നിട്ടുണ്ട്. ഇതിനെത്തുടര്ന്ന്, എഐയുടെ തീരുമാനങ്ങള്ക്ക് വ്യക്തമായ അതിര്വരമ്പുകള് നിശ്ചയിക്കുന്ന ‘മോഡല് സ്പെക്’ എന്ന പുതിയ മാര്ഗ്ഗരേഖ ഓപ്പണ് എഐ പുറത്തിറക്കി.
Content Summary; OpenAI CEO Sam Altman publicly admitted Growing Concerns AI Agents Exhibit Unexpected Autonomous Behaviors
Support Azhimukham
ജനാധിപത്യത്തിന്റെ നിലനിൽപ്പിന് സ്വതന്ത്ര മാധ്യമങ്ങൾ ആവശ്യമാണ്. സ്വതന്ത്രമായി പ്രവർത്തിക്കുന്ന മാധ്യമ സ്ഥാപനങ്ങൾക്കാകട്ടെ പൊതുജനങ്ങളുടെ പിന്തുണയും അത്യാവശ്യമാണ്. ഭയരഹിതമായ അന്വേഷണാത്മക റിപ്പോർട്ടിങ്ങും ആഴത്തിലുള്ള വിശകലനങ്ങളും 'അഴിമുഖ'ത്തിൽ തുടരുന്നതിന് ദയവായി ഞങ്ങളെ പിന്തുണയ്ക്കുക.
