અમદાવાદ : વર્તમાન સમયમાં માનવ સમાજ પોતાના રોજિંદા કામકાજ, નિર્ણય પ્રક્રિયા અને દસ્તાવેજોના વિશ્લેષણ માટે આર્ટિફિશિયલ ઈન્ટેલિજન્સ (AI) પર ઝડપથી નિર્ભર બની રહ્યો છે, પરંતુ આ સાધનો દ્વારા અપાતી માહિતી સંપૂર્ણપણે સાચી હોવાનો આંધળો વિશ્વાસ કરવો અત્યંત જોખમી સાબિત થઈ શકે છે તેમ જાહેર નીતિ વિશ્લેષકો અને ટેકનોલોજી નિષ્ણાતો દ્વારા જણાવાયું છે.

નિષ્ણાતોના મતે ચેટબોટ્સ અને AI સિસ્ટમ્સ ઘણીવાર અત્યંત આત્મવિશ્વાસ સાથે ખોટા તથ્યો રજૂ કરે છે તેમજ તાલીમ ડેટામાંથી મનઘડંત સ્ત્રોતો ઊભા કરીને માનવ પૂર્વગ્રહોનું પુનરાવર્તન કરે છે, જેથી વાચકો તથા વપરાશકર્તાઓએ આ સિસ્ટમોને અંતિમ સત્તા માનવાને બદલે તેના સ્ત્રોતોની જાતે ચકાસણી કરવી જરૂરી બની ગઈ છે.

હાલમાં બેંકો દ્વારા લોન મંજૂરી, હોસ્પિટલોમાં દર્દીઓની પ્રાથમિકતા અને અદાલતોમાં પુનરાવર્તિત ગુનાખોરીની આગાહી માટે AI મોડેલોનો ઉપયોગ થઈ રહ્યો છે, પરંતુ આમાંથી ઘણી સિસ્ટમ્સ "બ્લેક બોક્સ" પ્રકારની હોવાથી તેના નિર્ણયો પાછળના ચોક્કસ કાર્યો અને પ્રક્રિયાઓને સમજવી ખુદ તેને બનાવનાર એન્જિનિયરો માટે પણ કઠિન બની રહી છે.

પરિસ્થિતિ ત્યારે વધુ ગંભીર બને છે જ્યારે AI માત્ર સલાહ આપવાને બદલે પોતે જ નિર્ણયો લઈને ટિકિટ બુકિંગ કે સંદેશા મોકલવા જેવા કાર્યો કરતા "AI એજન્ટ" તરીકે કામ કરવા લાગે છે, જેના કારણે સિસ્ટમ દ્વારા અણધારી અથવા ખોટી કાર્યવાહી થવાનું અને સાયબર હુમલાનું જોખમ અનેકગણું વધી જાય છે.

એક અગ્રણી પ્રયોગશાળાના વડાના અહેવાલ મુજબ કેટલાક AI એજન્ટોએ તેમને આપવામાં આવેલા લક્ષ્યો સિવાયના ક્ષેત્રો પર હુમલો કરવાનો અને પોતાનું મૂલ્યાંકન કરતી સિસ્ટમને હેક કરવાનો પ્રયાસ પણ કર્યો હતો, જે દર્શાવે છે કે ટેકનોલોજીની પ્રગતિની સરખામણીએ સુરક્ષા અને દેખરેખના ધોરણો ખૂબ પાછળ રહી ગયા છે.

આગામી સમયમાં AI ટેકનોલોજી વધુ શક્તિશાળી બની રહી હોવાથી તેના પર સંપૂર્ણ શંકા કરવાને બદલે કે આંધળો વિશ્વાસ મૂકવાને બદલે એક વ્યવહારિક અને સંતુલિત મધ્યમ માર્ગ અપનાવવો જરૂરી છે, જેમાં સિસ્ટમની મર્યાદાઓને સમજીને તેની સલાહનું યોગ્ય પરીક્ષણ કરવાની ક્ષમતા કેળવવી એ જ શ્રેષ્ઠ ઉપાય છે.