ചാക്രികലേഖനത്തെക്കുറിച്ച് ഇത്ര പറയാൻ എന്തിരിക്കുന്നു?

ജോസ് ടി തോമസ്

ആധുനിക കാലഘട്ടത്തിൽ, തന്റെ ആദ്യത്തെ ചാക്രികലേഖനംതന്നെ വ്യക്തവും സമഗ്രവുമായ ഒരു സാമൂഹിക ചാക്രികലേഖനമാക്കിയ ആദ്യ മാർപാപ്പയാണു ലിയോ പതിനാലാമൻ. അതും ഒരു സിദ്ധാന്തപരമോ ആത്മീയമോ ദൈവശാസ്ത്രപരമോ ആയ വിഷയത്തെക്കുറിച്ചല്ല, മറിച്ച് മനുഷ്യരാശിയുടെ ഭാവിയെ സ്പർശിക്കുന്ന ആഗോള സാങ്കേതിക-നാഗരികതാത്മക വെല്ലുവിളിയായ നിർമിതബുദ്ധിയെ (എഐ) കേന്ദ്രീകരിച്ചാണ്.

1891-ൽ വ്യവസായ വിപ്ലവം ഉയർത്തിയ ചോദ്യങ്ങളെ ലിയോ പതിമൂന്നാമന്റെ ‘റേരും നൊവാരും’ (പുതിയ കാര്യങ്ങൾ) അഭിമുഖീകരിച്ചതുപോലെ, ഇന്ന് എഐ വിപ്ലവം ഉയർത്തുന്ന സാമൂഹികവും നാഗരികതാത്മകവും (civilizational) ആയ ചോദ്യങ്ങളെ ‘മാനവ മഹിമ’ (Magnifica Humanitas) അഭിമുഖീകരിക്കുന്നു. പതിമൂന്നാമനും പതിനാലാമനും ഇടയിലെ 135 വർഷംകൊണ്ട്, മാറ്റങ്ങളുടെ ഒരു യുഗത്തിൽനിന്ന് ആ യുഗത്തിന്റെതന്നെ മാറ്റത്തിലേക്കു ഭൂമിയും മനുഷ്യരാശിയും എത്തുന്നു.

“ജാഗ്രത ആവശ്യമുള്ള വിലപ്പെട്ട ഒരു ഉപകരണം” ആയി നിർമിതബുദ്ധിയെ കാണുന്ന ഈ വിശ്വലേഖനം, ലോകമെമ്പാടും നടക്കുന്ന എഐ ചർച്ചകളിൽ പുതിയ ഒരു തിരിവു കൊണ്ടുവരുന്നുണ്ട്. എഐ ഗവേഷണത്തിനു രാജ്യാന്തര നിയന്ത്രണചട്ടക്കൂട് (regulatory framework) ഉണ്ടാക്കുക എന്ന മാനേജീരിയൽ ഭരണ-സാങ്കേതിക സമീപനത്തിൽ ഒതുങ്ങാതെ, പ്രശ്നത്തെ നരവംശശാസ്ത്രപരവും നാഗരികതാപരവുമായി കാണാൻ പാപ്പ ക്ഷണിക്കുന്നു.

എഐ സുരക്ഷിതമാണോ? തെറ്റായ വിവരങ്ങൾ പടരുമോ? ജോലികൾ നഷ്ടപ്പെടുമോ? സ്വകാര്യത ഇല്ലാതാകുമോ? അൽഗൊരിതങ്ങൾ പക്ഷപാതപരമാണോ? വലിയ ടെക് കമ്പനികൾ അധികാരം കേന്ദ്രീകരിക്കുമോ? ഇവയെല്ലാം ഗൗരവമുള്ള ചോദ്യങ്ങളാണ്. അതുകൊണ്ടുതന്നെ സർക്കാരുകളും സർവകലാശാലകളും അന്താരാഷ്ട്ര സ്ഥാപനങ്ങളും AI regulation, transparency, accountability, explainability, human oversight തുടങ്ങിയ നയരൂപീകരണ ചട്ടക്കൂടുകൾ വികസിപ്പിച്ചുകൊണ്ടിരിക്കുന്നു.

എന്നാൽ ഇതിന് അടിസ്ഥാനപരമായ ഒരു പരിമിതി ഉണ്ട്. അവയുടെ ഭൂരിഭാഗവും ഇപ്പോഴും ഒരു മാനേജീരിയൽ – ടെക്നോക്രാറ്റിക് ചക്രവാളത്തിലാണു നിലകൊള്ളുന്നത്. അതായത്, എഐയെ അതിശക്തമായ ഒരു സാങ്കേതികസംവിധാനമായി കണ്ട് അതിനെ “എങ്ങനെ നിയന്ത്രിക്കാം” എന്ന ചോദ്യത്തിനുള്ളിലാണ് അവയുടെ ശ്രദ്ധ. ഇവിടെത്തന്നെയാണു ‘മാനവ മഹിമ’ ഒരു നിർണായക തിരിവു സൃഷ്ടിക്കുന്നത്.

ഈ രേഖ എഐയെക്കുറിച്ചുള്ള ചോദ്യത്തെ, സാങ്കേതിക-ഭരണപരമായ ചുറ്റുവട്ടത്തിൽനിന്ന് മനുഷ്യാവസ്ഥയുടെയും നാഗരികതയുടെയും ചോദ്യങ്ങളിലേക്കു മാറ്റുന്നു. മനുഷ്യൻ ആരാണ്? ബുദ്ധി എന്നത് എന്താണ്? മനുഷ്യജീവിതത്തിന്റെ അർത്ഥം കാര്യക്ഷമത ആണോ വിവേകം ആണോ? മനുഷ്യബന്ധങ്ങൾ ഓപ്റ്റിമൈസേഷനിലേക്കു ചുരുങ്ങിയാൽ എന്തു സംഭവിക്കും? സ്നേഹം, സൗഹൃദം, ഉത്തരവാദിത്തം, തൊഴിൽ, സഹാനുഭൂതി എന്നിവയെ കേവലം കണക്കുകൂട്ടലിന്റെ (computation) ചട്ടക്കൂടുകൊണ്ടു പകരംവെക്കാനാകുമോ? ഈ ചോദ്യങ്ങളാണ് ഇത് ഉന്നയിക്കുന്നത്.

ചോദ്യത്തിലെ ഈ മാറ്റം വളരെ ഗൗരവമുള്ളതാണ്. കാരണം എഐയുടെ യഥാർത്ഥ അപകടം ഭാവിയിലെ സൂപ്പർഇന്റലിജൻസ് മാത്രം ആവണമെന്നില്ല. മനുഷ്യസമൂഹംതന്നെ ക്രമേണ അൽഗൊരിതീയ യുക്തിയുടെ അടിസ്ഥാനത്തിൽ പുനർസംഘടിതമാകുന്നതായിരിക്കാം, കൂടുതൽ വലിയ അപകടം. വിദ്യാഭ്യാസം learning analytics ആയി, സൗഹൃദം engagement metrics ആയി, രാഷ്ട്രീയം behavioural manipulation ആയി, മനുഷ്യശ്രദ്ധ market commodity ആയി, മനുഷ്യൻതന്നെ data profile ആയി മാറുന്ന ഒരു ലോകത്തിലേക്കുള്ള നീക്കമാണോ ഇന്നു നടക്കുന്നത് എന്നു സംശയിക്കാം.

ഈ പശ്ചാത്തലത്തിൽ ‘മാനവ മഹിമ’ ഒരു സാങ്കേതികവിദ്യാവിരുദ്ധ പ്രഖ്യാപനമല്ല. അതൊരു എഐ വിരുദ്ധ പ്രമാണവുമല്ല. മറിച്ച് “ബുദ്ധി” എന്ന ആശയത്തിന്റെ ആത്മാവിനെക്കുറിച്ചുള്ള നാഗരികതാപരമായ ഇടപെടലാണ്. ഈ രേഖ ഒരു നിർണായക വ്യത്യാസം മുന്നോട്ടുവയ്ക്കുന്നു: കണക്കുകൂട്ടൽ എന്ന നിലയിലെ ബുദ്ധിയും, ജീവിതത്തിൽ പങ്കുചേരുന്ന വിവേകവും തമ്മിലുള്ള വ്യത്യാസം. ചാറ്റ്ജിപിടി പോലുള്ള വിശാല ഭാഷാമാതൃകകൾക്ക് (LLM), മനുഷ്യർ “love”, “friendship”, “responsibility” എന്നീ വാക്കുകൾ എങ്ങനെ ഉപയോഗിക്കുന്നു എന്നു വളരെ ആഴത്തിൽ മനസ്സിലാക്കാൻ കഴിയും. പക്ഷേ മാർപാപ്പ ചൂണ്ടിക്കാണിക്കുന്നത് വ്യാകരണവ്യുൽപത്തിക്കും അനുഭവത്തിനും ഇടയിലെ അന്തരമാണ്. മനുഷ്യൻ സ്നേഹത്തെ വിവരിക്കുകമാത്രമല്ല, അത് അനുഭവിക്കുകയും സഹിക്കുകയും ബന്ധങ്ങളിൽ ജീവിക്കുകയും ചെയ്യുന്നു.

അതേസമയം ഭാവിയിൽ എഐയ്ക്ക് ഏതെങ്കിലും രൂപത്തിലുള്ള ആന്തരികത വികസിക്കില്ലെന്ന് ഉറപ്പായി പറയാനുമാവില്ല. എന്നാൽ ചാക്രികലേഖനത്തിന്റെ മുഖ്യചോദ്യം അതുപോലും അല്ല. അതിന്റെ പ്രധാന ആശങ്ക, മനുഷ്യർ തങ്ങളെത്തന്നെ സാങ്കേതിക സിസ്റ്റങ്ങൾ ആയി കാണാൻ തുടങ്ങുമോ എന്നതാണ്.

അതിനാൽ ഈ രേഖയുടെ ഏറ്റവും വലിയ സംഭാവന എഐയെക്കുറിച്ചുള്ള ചർച്ചയെ “risk management” എന്ന പരിധിയിൽ നിന്ന് “civilizational self-understanding” എന്ന തലത്തിലേക്ക് ഉയർത്തുന്നതിലാണ്.

ഇത് regulation-നെ നിരസിക്കുന്നില്ല; പക്ഷേ അതുമാത്രം മതിയാകില്ലെന്ന് ഓർമ്മിപ്പിക്കുന്നു. ഒരു സമൂഹത്തിന്റെ ആത്മാവും അതിന്റെ നൈതിക-സാംസ്കാരിക ദിശയും നഷ്ടപ്പെട്ടാൽ, ഏറ്റവും മികച്ച നിയമചട്ടക്കൂടുകൾക്കുപോലും മനുഷ്യനെ സംരക്ഷിക്കാൻ കഴിയില്ല.
എഐ ഭാവി ഒരു സാങ്കേതിക പ്രശ്നം മാത്രമല്ല. അത് മനുഷ്യൻ തന്റെ ബുദ്ധിയെ എന്തിനായി ഉപയോഗിക്കുന്നു എന്ന, വിവേകത്തെസംബന്ധിച്ച ചോദ്യമാണ്. കൊടുംകാര്യക്ഷമതയ്ക്കായോ, അധികാരത്തിനായോ, വിപണിക്കായോ? അല്ലെങ്കിൽ വിവേകം, ഉത്തരവാദിത്തം, അൻപ്, സഹസൃഷ്ടിപരത എന്നിവയ്ക്കായോ?

അവിടെയാണ് ‘മാനവ മഹിമ’ ഒരു പുതിയ നാഗരികതാ ചർച്ച ആരംഭിക്കുന്നത്.
എഐയെ കൊല്ലാനല്ല, നിരായുധീകരിക്കാൻ അത് ആവശ്യപ്പെടുന്നു.
വ്യക്തികൾ എന്ന നിലയിലും സമൂഹം എന്ന നിലയിലും നടക്കേണ്ട ഒരു നിരായുധീകരണം.

“എഐ ആധുനികകാല അടിമത്തത്തിലേക്കു നയിക്കാം” എന്നാണ് ചാക്രികലേഖനവാർത്തയുടെ ആദ്യവാക്യത്തിൽ മലയാള മനോരമ പറഞ്ഞത്.
നയിക്കാം, നയിച്ചേക്കാം, നയിച്ചേക്കും, കാരണമാകാം, കാരണമായേക്കാം, കാരണമായേക്കും എന്നൊക്കെ പറഞ്ഞാൽ അതിൽ എന്തു പഞ്ച്?
പഞ്ച് വരണമെങ്കിൽ തലക്കെട്ടിൽ “എഐ അടിമത്തത്തിനു കാരണമാകും”എന്നുതന്നെ തറപ്പിച്ചങ്ങു പറയണം! സംഭ്രമജനക വാർത്താവിനിമയത്തിന്റെ ഒരു വഴി! ലോകത്തെവിടെയും ഇന്ന് എഐയെക്കുറിച്ച് ഭീതി പരത്തുന്ന പരമ്പരാഗത മാധ്യമങ്ങൾ ഈ വഴിയാണു തിരഞ്ഞെടുത്തിട്ടുള്ളത്.

സകല മനുഷ്യരുടെയും ഡിജിറ്റൽ ജീവിതത്തിലൂടെയും ചെറിയൊരുപിടി കോർപ്പറേഷനുകളുടെ ഡിജിറ്റൽ ചൂഷണത്തിലൂടെയും പുതിയൊരു ലോകക്രമം രൂപംകൊള്ളുന്ന അന്തരാളഘട്ടമാണിത്. അവിടെ മുകളിലെ തലക്കെട്ടിലേതുപോലെ ഭാവി പ്രവചിക്കുകയല്ല മാർപാപ്പ. മുന്നിൽ രണ്ടു വിരുദ്ധ സാധ്യതകൾ ഉണ്ടെന്നു ചൂണ്ടിക്കാട്ടുകയും അവയിൽ ഒരു തിരഞ്ഞെടുപ്പ് എങ്ങനെ നടത്തുമെന്നതിന്റെ ധാർമികവും രാഷ്ട്രീയവുമായ പരിഗണനകൾ മുന്നോട്ടുവയ്ക്കുകയുമാണ് മാഗ്നിഫിക്ക ഹ്യുമാനിത്താസ് എന്ന ചാക്രികലേഖനം.

എഐ മനുഷ്യരാശിക്കു വിനാശം കൊണ്ടുവരുമോ, അതോ അഭൂതപൂർവമായ അഭിവൃദ്ധി സമ്മാനിക്കുമോ എന്ന ചോദ്യമാണ് ഇന്നു പലരും ഉയർത്തുന്നത്. എന്നാൽ ചരിത്രവും ലഭ്യമായ തെളിവുകളും സൂചിപ്പിക്കുന്നത് ഈ രണ്ട് അറ്റങ്ങളിൽ ഒന്നും അനിവാര്യമല്ല എന്നതാണ്. സാങ്കേതികവിദ്യകൾ സ്വയം സ്വർഗ്ഗമോ നരകമോ സൃഷ്ടിക്കാറില്ല; നിലവിലുള്ള മൂല്യങ്ങളെയും സ്ഥാപനങ്ങളെയും സാമൂഹിക ദിശകളെയും ശക്തിപ്പെടുത്തുകയാണ് അവ സാധാരണ ചെയ്യുന്നത്.

ഈ പശ്ചാത്തലത്തിലാണു പാപ്പ, ബാബേൽ ഗോപുരത്തിന്റെയും പുതിയ ജറുസലേമിന്റെയും പ്രതീകങ്ങൾ ഉപയോഗിക്കുന്നത്. ഇവ ഭാവിയെക്കുറിച്ചുള്ള പ്രവചനങ്ങളല്ല; മറിച്ച് മനുഷ്യനാഗരികതയ്ക്കു മുന്നിലുള്ള രണ്ടു ദിശാസൂചകങ്ങളാണ്. സാങ്കേതിക ശക്തിയിലും നിയന്ത്രണത്തിലും കേന്ദ്രീകൃതമായ ഒരു നാഗരികതയുടെ പ്രതീകമാണല്ലോ ബാബേൽ. ഇവിടെ ബുദ്ധി ജ്ഞാനത്തിൽനിന്നു വേർപെടുകയും കാര്യക്ഷമത മനുഷ്യബന്ധങ്ങളെ മറികടക്കുകയും ചെയ്യുന്നു. മനുഷ്യൻ ഡാറ്റയായും സമൂഹം ഒരു നിയന്ത്രിത സംവിധാനമായും ചുരുങ്ങാനുള്ള അപായസാധ്യത (risk) ഇവിടെ ഉണ്ടെന്നതു ശരിതന്നെ.

അതേസമയം “പുതിയ ജറുസലേം” (“ദൈവനഗരം”) മനുഷ്യ മഹിമ, നീതി, ഉത്തരവാദിത്തം, പരസ്പരബന്ധം, സഹവർത്തിത്വം എന്നിവയാൽ നയിക്കപ്പെടുന്ന ഒരു നാഗരികതയുടെ പ്രതീകമാണ്. ഇവിടെ സാങ്കേതികവിദ്യയും അധ്വാനവും മനുഷ്യനെ മാറ്റിസ്ഥാപിക്കുന്നില്ല; മറിച്ച് മനുഷ്യവികാസത്തെ സേവിക്കുന്നു. ആ ശുഭസാധ്യതയും (prospect) ഇവിടുണ്ടെന്നു കാണണം.

ഇങ്ങനെ ബാബേൽ സാധ്യതയെയും ദൈവനഗരസാധ്യതയെയും ഒരുമിച്ചുകാണുന്ന ഈ വീക്ഷണത്തിന്റെ പ്രത്യേകത, എഐയെക്കുറിച്ചുള്ള ചർച്ചയെ സാങ്കേതിക അപകടസാധ്യതകളിൽ (risks)നിന്നും നിയന്ത്രണനയങ്ങളിൽ (regulatory policies) നിന്നും ഉയർത്തി നാഗരികതാപരമായ ( civilizational) ചോദ്യമാക്കി മാറ്റുന്നതിലാണ്. യഥാർത്ഥ ചോദ്യം “എഐ എന്തായി മാറും” എന്നതല്ല; “എഐയെ നയിക്കുന്ന മനുഷ്യനാഗരികത എന്തായി മാറും” എന്നതാണ്. എഐയുടെ ഭാവി ഒടുവിൽ യന്ത്രങ്ങളുടെ കഥയല്ല. അത്, ജ്ഞാനത്തോടും കരുണയോടും ഉത്തരവാദിത്തത്തോടുംകൂടെ മനുഷ്യബുദ്ധി വളരുമോ എന്ന ചോദ്യമാണ്. ബാബേലിന്റെയും പുതിയ ജറുസലേമിന്റെയും ഇടയിലുള്ള തിരഞ്ഞെടുപ്പ് സാങ്കേതികവിദ്യയുടേതല്ല; മനുഷ്യരാശിയുടേതാണ്.

ഇതാണു ലോകമെമ്പാടും നടക്കുന്ന എഐ ചർച്ചകളിൽ മാർപാപ്പ കൊണ്ടുവരുന്ന പുതിയ മാനം.

“സാങ്കേതികവിദ്യ നിഷ്പക്ഷമാണ്; അത് എങ്ങനെ ഉപയോഗിക്കുന്നു എന്നതാണു പ്രശ്നം” എന്ന പൊതുവായ വാദത്തെ അദ്ദേഹം ഭാഗികമായി ചോദ്യം ചെയ്യുന്നു. സാങ്കേതികവിദ്യ ഒരു ഉപകരണം മാത്രമല്ല; അത് മനുഷ്യർ ലോകത്തെ കാണുന്ന രീതിയെയും ചിന്തിക്കുന്ന രീതിയെയും പ്രവർത്തിക്കുന്ന രീതിയെയും പുനഃക്രമീകരിക്കുന്നു എന്നതാണ് അദ്ദേഹത്തിന്റെ വാദം. ഉദാഹരണത്തിന്: കാറുകൾ യാത്രയെ മാത്രമല്ല, നഗരങ്ങളുടെ രൂപകല്പനയെയും മാറ്റി. സോഷ്യൽ മീഡിയ ആശയവിനിമയത്തെ മാത്രമല്ല, ശ്രദ്ധയെയും രാഷ്ട്രീയത്തെയും സാമൂഹികബന്ധങ്ങളെയും മാറ്റി. എഐ ഉൽപാദനക്ഷമതയെ മാത്രമല്ല, അറിവ്, സൃഷ്ടിപരത, വിദ്യാഭ്യാസം, തൊഴിൽ, തീരുമാനമെടുക്കൽ എന്നിവയെക്കുറിച്ചുള്ള നമ്മുടെ ധാരണകളെയും മാറ്റുന്നു. ഈ അർത്ഥത്തിൽ സാങ്കേതികവിദ്യ “നിഷ്പക്ഷം” അല്ല. അതിന് ഒരു അന്തർനിഹിത ദിശാബോധം (internal logic), പ്രോത്സാഹനഘടന (incentive structure), ലോകവീക്ഷണം (worldview) എന്നിവയുണ്ട്. ചില മൂല്യങ്ങളെ അതു ശക്തിപ്പെടുത്തുകയും ചിലതിനെ ദുർബലമാക്കുകയും ചെയ്യുന്നു.

എന്നാൽ പോപ്പ് പറയുന്നത് സാങ്കേതികവിദ്യ സ്വതവേ ദുഷ്ടമാണെന്നല്ല. മറിച്ച് ഓരോ സാങ്കേതികവിദ്യയും ഒരു സാംസ്കാരിക-നാഗരികതാത്മക ശക്തിയാണ്; അതിനാൽ അതിനെ സാമ്പത്തികമോ സാങ്കേതികമോ ആയ മാനദണ്ഡങ്ങൾകൊണ്ടു മാത്രം വിലയിരുത്താനാവില്ല എന്നാണ്. ഇവിടെയാണ് അദ്ദേഹത്തിന്റെ നിലപാട് “എഐ, വിനാശമോ അഭിവൃദ്ധിയോ” എന്ന അതിലളിതമായ ചോദ്യത്തെ മറികടക്കുന്നത്. എഐ മനുഷ്യന്റെ കഴിവുകളെ വർധിപ്പിക്കുമോ എന്നതുമാത്രമല്ല ചോദ്യം; മനുഷ്യൻ എന്നതിന്റെ അർത്ഥം തന്നെ അത് എങ്ങനെ പുനർനിർവചിക്കുന്നു എന്നതാണ് കൂടുതൽ അടിസ്ഥാനപരമായ ചോദ്യം.

അതിനാൽ ബാബേൽ-പുതുജറുസലേം പ്രതീകങ്ങൾ സാങ്കേതികവിദ്യയെക്കുറിച്ചുമാത്രമല്ല; സാങ്കേതികവിദ്യ രൂപപ്പെടുത്തുന്ന മനുഷ്യനാഗരികതയുടെ ആത്മാവിനെക്കുറിച്ചുകൂടിയാണ്. അത് അദ്ദേഹത്തിന്റെ ചർച്ചയെ സാധാരണ regulatory framework-കളിൽ നിന്ന് ഒരു civilizational critique-ലേക്കും civilizational vision-ലേക്കും ഉയർത്തുന്നു (പോപ്പിന്റെ വിരുദ്ധ ബൈബിൾ പ്രതീകങ്ങൾക്കുപകരം മതേതര വൈരുദ്ധ്യ കല്പനകളും ആവാം. ഉദാഹരണത്തിന്, മേധാവിത്വത്തിനെതിരെ സഹകരണം, ടെക്നോക്രസിക്കെതിരെ ഹ്യൂമനിസം, ഓപ്റ്റിമൈസേഷനെതിരെ വിവേകം, ഊറ്റിയെടുക്കലിനെതിരെ മേൽനോട്ടം, സിസ്റ്റം എഫിഷ്യൻസിക്കെതിരെ മാനവ ഉൽക്കർഷം….. അങ്ങനെയങ്ങനെ).

ചുരുക്കത്തിൽ, എഐയ്ക്കു കൂടുതൽ ബുദ്ധിവയ്ക്കുമോ എന്നതിനുപകരം, ആ വർധിതബുദ്ധിയ്ക്കൊത്ത്, അതില്ലാതിരുന്ന മനുഷ്യജാതിയുടെ വിവേകബുദ്ധിയും സാമൂഹികോത്തരവാദിത്തവും ഐക്യദാർഢ്യവും നമ്മൾ വികസിപ്പിച്ചുകൊണ്ടിരിക്കുമോ എന്നതാവുന്നൂ ചോദ്യം.