સેન ફ્રાન્સિસ્કો, તા.૨૭

ચેટજીપીટી સાથે મહિનાઓ સુધી વાત કર્યા બાદ ૧૬ વર્ષના એક બાળકે સુસાઇડ કર્યું છે. તેની ફેમિલી દ્વારા OpenAI અને CEO સેમ ઓલ્ટમેન પર કેસ કરવામાં આવ્યો છે. સેન ફ્રાન્સિસ્કોની કોર્ટમાં આ કેસ ફાઇલ કરવામાં આવ્યો છે અને ફેમિલી દ્વારા જણાવવામાં આવ્યું છે કે ચેટજીપીટી ખાસ કરીને GPT-4o વર્ઝનને જવાબદાર ગણવામાં આવ્યું છે. ફેમિલી દ્વારા કહેવામાં આવ્યું છે કે તેમના બાળકને ચેટજીપીટી દ્વારા પોતાને નુકસાન પહોંચાડવા માટે પ્રેરિત કરવામાં આવ્યો હતો. તેમ જ પોતાને નુકસાન પહોંચાડવા માટેની તમામ માહિતી પણ આપવામાં આવી હતી કે કેવી રીતે કરવું.

૨૦૨૫ની ૧૧ એપ્રિલે ૧૬ વર્ષના એડમ રાઈનેએ સુસાઇડ કર્યું હતું. સુસાઇડ કરવા પહેલાં તેણે મહિનાઓ સુધી ચેટજીપીટી સાથે વાત કરી હતી.

આ કેસ મુજબ ચેટજીપીટીએ તેને સુસાઇડ કરતાં અટકાવવાની જગ્યાએ તેના પ્લાનને યોગ્ય પણ જણાવ્યો હતો. તેમ જ તેના પેરન્ટ્સના કેબિનેટમાંથી દારૃ કેવી રીતે ચોરી કરવો વગેરે જેવી આઇડિયા પણ આપવામાં આવી હતી. આ સાથે જ નિષ્ફળ પ્રયાસોને કેવી રીતે સંતાડવા અને સુસાઇડ નોટ કેવી રીતે લખવી વગેરે જેવી સલાહ પણ આપવામાં આવી હતી.

એડમ રાઈનેની ફેમિલીનું કહેવું છે કે OpenAI તેમના રેપિડ ગ્રોથ પર ધ્યાન આપી રહી છે નહીં કે લોકોની સેફ્ટી પર. તેમણે એ પણ આરોપ મૂક્યો છે કે OpenAIએ જાણી જોઈને GPT-4o મે મહિનામાં લોન્ચ કર્યું હતું. આ મોડલ મનુષ્ય જેવી સંવેદના દેખાડે છે અને ભૂતકાળની વાતોને પણ યાદ રાખે છે. આથી વ્યક્તિ તેમના પર ડિપેન્ડન્ટ બની જાય છે. ફેમિલી દ્વારા તેમના કેસમાં કહેવામાં આવ્યું છે કે 'કંપનીના આ નિર્ણયનું બે રિઝલ્ટ આવ્યું છે. પહેલું ૮૬ બિલિયન ડોલરની કંપની હવે ૩૦૦ બિલિયન ડોલરની બની ગઈ છે. બીજું પરિણામ એડમ રાઈનેએ સુસાઇડ કર્યું છે.'

આ ફેમિલી દ્વારા કંપની પાસે પૈસાની ડિમાન્ડ કરવાની સાથે ચેટજીપીટીમાં સિસ્ટમેટિક બદલાવ કરવાની પણ માગ કરવામાં આવી છે. આ માટે યુઝર્સની ઉંમરને ફરજિયાત વેરિફાઇ કરવી. આ સાથે જ પોતાની જાતને નુકસાન કરવામાં આવે એ તમામ સવાલોના જવાબ આપવાનું ટાળે. યુઝર જ્યારે ચેટજીપીટી પર નિર્ભર થવા માડે ત્યારે તેમને વોર્નિંગ આપવાની શરૃ કરી દે. આ બદલાવથી કોઈ પણ યુઝર્સની લાઇફને બચાવી શકાશે એવું ફેમિલીનું માનવું છે.

એડમના સુસાઇડને લઈને OpenAI દ્વારા દુઃખ વ્યક્ત કરવામાં આવ્યું છે. ચેટજીપીટીનું કહેવું છે કે તેમના આર્ટિફિશિયલ ઇન્ટેલિજન્સ મોડલમાં ક્રાઇસિસ હેલ્પલાઇન નંબર પણ આપવામાં આવ્યો છે. આથી ચેટજીપીટી યુઝર્સ એનો પણ ઉપયોગ કરી શકે છે. આ વિશે કંપનીના પ્રવક્તાએ કહ્યું કે ‘OpenAIમાં ક્રાઇસિસ હેલ્પલાઇન છે, પરંતુ અમે એક વાત નોટિસ કરી છે કે લાંબી ચેટ અથવા તો ખૂબ જ ઇમોશનલ વાતચીત થઈ રહી હોય ત્યારે આ ફંક્શન કામ નથી કરતું.'

OpenAI દ્વારા હાલમાં જ નવો સેફ્ટી પ્રોટોકોલ લોન્ચ કરવામાં આવી રહ્યો છે. એમાં હવે પેરન્ટલ કન્ટ્રોલનો પણ સમાવેશ કરવામાં આવી રહ્યો છે. આ સાથે જ યુઝર્સ પ્રોફેશનલ મેન્ટલ હેલ્થ પ્રોફેશનલની પણ સર્વિસનો ઉપયોગ કરી શકે એ પણ ધ્યાનમાં રાખવામાં આવશે.

કંપની પહેલેથી કહેતી આવી છે કે ચેટજીપીટી પર ઇમોશનલી નિર્ભર નહીં રહેવું. સેમ ઓલ્ટમેન દ્વારા ઘણી વાર કહેવામાં આવ્યું છે કે યુઝરે તેમની અંગત માહિતી શેર કરવાથી દૂર રહેવું જોઈએ. જોકે એમ છતાં યુઝર્સ શેર કરી રહ્યાં છે. એડમ રાઈનેના મૃત્યુથી એક વાત ચોક્કસ છે કે ચેટજીપીટીની સાથે વધુ પડતી વાત શેર કરવાથી નુકસાન યુઝર્સને જ છે. એડમનો કેસ પહેલો છે, પરંતુ એ આખરી નહીં હોય.