પ્રોફેસર નવીન કુમાર / Courtesy Photo

ઓક્લાહોમા યુનિવર્સિટીના પ્રોફેસર નવીન કુમાર દ્વારા સહલેખિત એક નવા પ્રકાશિત અભ્યાસમાં ચેતવણી આપવામાં આવી છે કે આર્ટિફિશિયલ ઇન્ટેલિજન્સનો પૂર્વગ્રહ આરોગ્યસંભાળથી લઈને ભરતી સુધીના ઉદ્યોગોમાં નોંધપાત્ર જોખમો ઉભા કરે છે.

ઇન્ફોર્મેશન એન્ડ મેનેજમેન્ટમાં પ્રકાશિત થયેલા આ અભ્યાસમાં નિષ્પક્ષતા અને પારદર્શકતા સુનિશ્ચિત કરવા માટે નૈતિક, સમજાવી શકાય તેવી AIની તાત્કાલિક જરૂરિયાત પર પ્રકાશ પાડવામાં આવ્યો છે.

ઓયુની પ્રાઇસ કોલેજ ઓફ બિઝનેસમાં મેનેજમેન્ટ ઇન્ફર્મેશન સિસ્ટમ્સના સહયોગી પ્રોફેસર કુમારે યુનિવર્સિટી ઓફ વોશિંગ્ટન, બોથેલના ઝિયાહુઆ વેઇ અને જ્યોર્જિયા ઇન્સ્ટિટ્યૂટ ઓફ ટેકનોલોજી અને હોંગકોંગ બેપ્ટિસ્ટ યુનિવર્સિટીના હાન ઝાંગ સાથે સહયોગ કર્યો હતો.

તેમનું સંશોધન તપાસ કરે છે કે ચેટજીપીટી અને ગૂગલના જેમિની જેવા મોટા ભાષાના નમૂનાઓ (એલએલએમ) કેવી રીતે પક્ષપાતી પરિણામો ઉત્પન્ન કરી શકે છે અને લોકોના વિશ્વાસને ઘટાડી શકે છે.

"આ એલ. એલ. એમ. સમાજમાં મોટી ભૂમિકા ભજવે છે, ખાસ કરીને નાણા, માર્કેટિંગ, માનવ સંબંધો અને આરોગ્ય સંભાળમાં પણ, તેઓએ માનવ પસંદગીઓ સાથે સંરેખિત થવું જોઈએ.  àª¨àª¹àª¿àª‚તર, તેઓ પક્ષપાતી પરિણામો અને અયોગ્ય નિર્ણયો તરફ દોરી શકે છે ", કુમારે કહ્યું.

"આરોગ્ય સંભાળમાં પક્ષપાતી મોડેલો દર્દીની સંભાળમાં અસમાનતા તરફ દોરી શકે છે; પક્ષપાતી ભરતી અલ્ગોરિધમ્સ એક લિંગ અથવા જાતિને બીજા પર તરફેણ કરી શકે છે; અથવા પક્ષપાતી જાહેરાત મોડેલો રૂઢિપ્રયોગોને ટકાવી રાખી શકે છે", તેમણે ઉમેર્યું.

અભ્યાસમાં સર્વેક્ષણ ડેટાનો ઉલ્લેખ કરવામાં આવ્યો છે જે દર્શાવે છે કે લગભગ ત્રીજા ભાગના ઉત્તરદાતાઓ માને છે કે પક્ષપાતી AI અલ્ગોરિધમ્સને કારણે તેઓએ નોકરી અથવા નાણાકીય તકો ગુમાવી છે.  àª•à«àª®àª¾àª°à«‡ ભારપૂર્વક જણાવ્યું હતું કે AI પૂર્વગ્રહ દર્દીની સંભાળમાં અસમાનતા, અયોગ્ય ભરતી પદ્ધતિઓ અને રૂઢિચુસ્ત-સંચાલિત માર્કેટિંગ તરફ દોરી શકે છે.

સંશોધકો સંતુલિત અભિગમની હાકલ કરે છે જેમાં પૂર્વગ્રહ ઘટાડવા માટે તકનીકી અને સંગઠનાત્મક વ્યૂહરચનાઓનો સમાવેશ થાય છે.  àª¤à«‡àª“ નીતિ ઘડવૈયાઓ, વિકાસકર્તાઓ અને બિઝનેસ લીડર્સને AI સિસ્ટમો કાર્યક્ષમ, ન્યાયી અને પારદર્શક છે તેની ખાતરી કરવા માટે સહયોગ કરવા વિનંતી કરે છે.