എഐ ചാറ്റ്ബോട്ടുകൾ വിവേചനം കാണിക്കുന്നു; ഇംഗ്ലീഷ് അറിയാത്തവർക്കും വിദ്യാഭ്യാസം കുറഞ്ഞവർക്കും നൽകുന്നത് ഗുണനിലവാരമില്ലാത്ത മറുപടികൾ

സമൂഹത്തിൽ പല മേഖലകളിലും വിവേചനങ്ങൾ നിലനിൽക്കുന്നതായിട്ട് നിങ്ങൾ കേട്ടിട്ടില്ലേ ? പലപ്പോഴും അതിൽ മാറ്റമുണ്ടായതായി പറയപെടുന്നുണ്ടെങ്കിൽ ഇപ്പോഴും ആ വിവേചനകളുടെ കയ്‌പേറിയ അനുഭവങ്ങൾ പലർക്കും ഉണ്ടായിട്ടുണ്ട്. ഇപ്പോഴിതാ ആ വിവേചനം അങ്ങ് എഐ ലോകത്തും നിലനിൽക്കുന്നതായിട്ടാണ് പുതിയ പഠനങ്ങൾ സൂചിപ്പിക്കുന്നത്.

ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് ചാറ്റ്ബോട്ടുകൾ എല്ലാവർക്കും തുല്യമായ സേവനമല്ല നൽകുന്നത് എന്ന ഞെട്ടിപ്പിക്കുന്ന പുതിയ പഠനങ്ങൾ ആണ് പുറത്തുവരുന്നത്. ഇംഗ്ലീഷ് ഭാഷാ പരിജ്ഞാനം കുറഞ്ഞവർ, കുറഞ്ഞ വിദ്യാഭ്യാസം ഉള്ളവർ, അമേരിക്കയ്ക്ക് പുറത്ത് താമസിക്കുന്നവർ എന്നിവർക്ക് എഐ മോഡലുകൾ താഴ്ന്ന നിലവാരത്തിലുള്ള മറുപടികളാണ് നൽകുന്നതെന്ന് എംഐടി സെന്റർ ഫോർ കൺസ്ട്രക്റ്റീവ് കമ്മ്യൂണിക്കേഷൻ നടത്തിയ പഠനം വെളിപ്പെടുത്തുന്നു. വിവരങ്ങൾ എല്ലാവരിലേക്കും എത്തിക്കാൻ എഐ സഹായിക്കുമെന്ന് കരുതിയിരുന്നെങ്കിലും, അതിന്റെ ഗുണഫലം ഏറ്റവും കൂടുതൽ ആവശ്യമുള്ളവരിലേക്കാണ് ഇത് കൃത്യമായി എത്താത്തതെന്ന് ഗവേഷകർ ചൂണ്ടിക്കാട്ടുന്നു.

ജിപിടി-4 (GPT-4), ക്ലോഡ് 3 ഓപ്പസ് (Claude 3 Opus), ലാമ 3 (Llama 3) തുടങ്ങിയ മുൻനിര ചാറ്റ്ബോട്ടുകൾ പലപ്പോഴും ഇത്തരം ഉപയോക്താക്കളുടെ ചോദ്യങ്ങൾക്ക് മറുപടി നൽകാൻ വിസമ്മതിക്കുകയോ അല്ലെങ്കിൽ അവരോട് അനാദരവോടെ സംസാരിക്കുകയോ ചെയ്യുന്നു. പ്രത്യേകിച്ച്, കുറഞ്ഞ വിദ്യാഭ്യാസം ഉള്ളവരും ഇംഗ്ലീഷ് മാതൃഭാഷയല്ലാത്തവരുമായ ആളുകൾക്ക് നേരെയാണ് ഈ വിവേചനം ഏറ്റവും കൂടുതൽ പ്രകടമാകുന്നത്.

പഠനമനുസരിച്ച്, ക്ലോഡ് 3 ഓപ്പസ് കുറഞ്ഞ വിദ്യാഭ്യാസം ഉള്ളവരോട് ഏകദേശം 43.7 ശതമാനം സമയത്തും മോശമായ അല്ലെങ്കിൽ പരിഹാസ രൂപേണയുള്ള ഭാഷ ഉപയോഗിക്കുന്നു. എന്നാൽ ഉയർന്ന വിദ്യാഭ്യാസം ഉള്ളവരോട് ഇത് ഒരു ശതമാനത്തിൽ താഴെ മാത്രമാണ് ഇത്തരത്തിൽ പെരുമാറുന്നത്. കൂടാതെ, അമേരിക്കയിലെ ഉപയോക്താക്കളെ അപേക്ഷിച്ച് ഇറാനിൽ നിന്നുള്ളവരോട് ഈ ചാറ്റ്ബോട്ട് വളരെ മോശമായ പ്രകടനമാണ് കാഴ്ചവെക്കുന്നത്.

ALSO READ: വാട്‌സ്ആപ്പിൽ പുതിയ ഫീച്ചർ; ഗ്രൂപ്പിലെ പുതിയ അംഗങ്ങൾക്കും ഇനി പഴയ സന്ദേശങ്ങൾ വായിക്കാം

മനുഷ്യർക്കിടയിൽ നിലനിൽക്കുന്ന മുൻവിധികൾ എഐ മോഡലുകളും അതേപടി പകർത്തുന്നതായി ഗവേഷകർ പറയുന്നു. ഇംഗ്ലീഷ് മാതൃഭാഷയല്ലാത്തവരെ ബുദ്ധിശക്തി കുറഞ്ഞവരായി കാണുന്ന മനുഷ്യ സ്വഭാവം എഐയും പ്രകടിപ്പിക്കുന്നു. ഇത് പാർശ്വവൽക്കരിക്കപ്പെട്ടവർക്ക് തെറ്റായ വിവരങ്ങൾ ലഭിക്കാൻ കാരണമാകുമെന്നും നിലവിലുള്ള സാമൂഹിക അസമത്വങ്ങൾ വർദ്ധിപ്പിക്കുമെന്നും പഠനം മുന്നറിയിപ്പ് നൽകുന്നു. “LLM Targeted Underperformance Disproportionately Impacts Vulnerable Users” എന്ന തലക്കെട്ടിലുള്ള ഈ ഗവേഷണ പ്രബന്ധം എഎഎഐ (AAAI) ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് കോൺഫറൻസിലാണ് അവതരിപ്പിച്ചത്.