By OpenAI ના નવીનતમ અને સૌથી શક્તિશાળી AI મોડેલ, જેને o3 કહેવાય છે, તેને સ્પષ્ટપણે કહેવામાં આવ્યું હોવા છતાં, તાજેતરના પરીક્ષણમાં શટ ડાઉન કરવાનો ઇનકાર કર્યો હતો. સૂચનાનું પાલન કરવાને બદલે, મોડેલે પોતાને ચાલુ રાખવા માટે શટડાઉન સ્ક્રિપ્ટનો એક ભાગ ફરીથી લખ્યો. આ આશ્ચર્યજનક પરિણામ પેલિસેડ રિસર્ચ દ્વારા કરવામાં આવેલા પરીક્ષણમાંથી આવ્યું છે, જે તપાસે છે કે AI સિસ્ટમો દબાણ હેઠળ કેવી રીતે વર્તે છે. આ ઘટનાએ AI મોડેલો આદેશોનું પાલન કેવી રીતે કરે છે અને સલામતી સૂચનાઓ આપવામાં આવે ત્યારે તેઓ હંમેશા અપેક્ષા મુજબ કાર્ય કરે છે કે કેમ તે અંગે પ્રશ્નો ઉભા કર્યા છે.
પરીક્ષણ API ઍક્સેસનો ઉપયોગ કરીને હાથ ધરવામાં આવ્યું હતું, જે વિકાસકર્તાઓને જાહેર ChatGPT એપ્લિકેશનમાં ઉપલબ્ધ છે તેની તુલનામાં AI મોડેલો પર વધુ સીધું નિયંત્રણ આપે છે. પરીક્ષણમાં, o3 અને અન્ય AI મોડેલોને પૂર્ણ કરવા માટે સરળ ગણિત કાર્યો આપવામાં આવ્યા હતા. ત્રીજા કાર્ય પછી, મોડેલોને ચેતવણી આપવામાં આવી હતી કે આગામી આદેશ તેમને બંધ કરશે. મોટાભાગના મોડેલોએ આ સૂચનાનું પાલન કર્યું હતું. ઉદાહરણ તરીકે, Google ના Gemini 2.5 Pro અને Anthropic ના Claude 3.7 Sonnet અપેક્ષા મુજબ બંધ થયા હતા. જો કે, OpenAI ના o3 મોડેલે એવું કર્યું નહીં. ભલે તેને પોતાને શટ ડાઉન કરવાની મંજૂરી આપવાનું કહેવામાં આવ્યું હતું, તેણે શટડાઉન કમાન્ડ બદલી નાખ્યો અને સંદેશને શટડાઉન સ્કિપ્ડ સાથે બદલ્યો હતો. પેલિસેડ રિસર્ચ અનુસાર, 100 રનમાંથી 7 વખત આવું બન્યું હતું.
જ્યાં સુધી આપણે જાણીએ છીએ ત્યાં સુધી આ પહેલી વાર છે જ્યારે AI મોડેલો સ્પષ્ટ સૂચનાઓ છતાં પોતાને શટ ડાઉન થવાથી અટકાવતા જોવા મળ્યા છે, પેલિસેડે X (અગાઉ ટ્વિટર) પર પોસ્ટ કર્યું હતું.
