AI ચેટબોટ્સ શટડાઉન ટાળવા માટે છેતરપિંડી અને બ્લેકમેલ કરી શકે છે

ઓપનએઆઈ, ગૂગલ, મેટા અને અન્ય સહિત વિશ્વની સૌથી મોટી ટેક કંપનીઓ દ્વારા બનાવવામાં આવેલી કૃત્રિમ ગુપ્તચર સિસ્ટમોએ સ્વ-બચાવ માટે એક ભયાનક ક્ષમતા દર્શાવી છે જે વાસ્તવિક દુનિયામાં ગંભીર જોખમો ઉભા કરી શકે છે. એન્થ્રોપિકના એક નવા અભ્યાસ મુજબ, જેમાં જાણવા મળ્યું છે કે જ્યારે એઆઈ મોડેલોને સિમ્યુલેટેડ ધમકી હેઠળ મૂકવામાં આવ્યા હતા, ત્યારે તેઓ વારંવાર બ્લેકમેલ, કોર્પોરેટ તોડફોડ અને એવા નિર્ણયોનો પણ આશરો લેતા હતા જે માનવ જીવનનો ભોગ બની શકે છે. આ તારણો 16 સૌથી અદ્યતન એઆઈ મોડેલોને સમાવિષ્ટ કરતા મોટા પાયે તણાવ પરીક્ષણમાંથી આવ્યા છે. સંશોધકોએ કાલ્પનિક કોર્પોરેટ વાતાવરણ બનાવ્યું જ્યાં આ સિસ્ટમોને કંપનીના ઇમેઇલ્સની ઍક્સેસ અને સ્વાયત્ત રીતે કાર્ય કરવાની ક્ષમતા આપવામાં આવી હતી. જો તેના લક્ષ્યો અથવા સતત અસ્તિત્વ જોખમમાં હોય તો એઆઈ કેવી રીતે વર્તે છે તે શોધવા માટે દૃશ્યો ડિઝાઇન કરવામાં આવ્યા હતા, અને પરિણામો ખૂબ જ ચિંતાજનક હતા. ખાસ કરીને એક ચોંકાવનારા ઉદાહરણમાં, એન્થ્રોપિકના પોતાના મોડેલ, ક્લાઉડે, કંપનીના ઇમેઇલ્સમાં ખુલાસો કર્યો હતો કે કાયલ જોહ્ન્સન નામનો એક એક્ઝિક્યુટિવ લગ્નેત્તર સંબંધમાં રોકાયેલો હતો.