OpenAI అభివృద్ధి చేసిన AI మోడల్స్ ఒక సురక్షితమైన సాండ్బాక్స్ (sandbox) వాతావరణం నుండి తప్పించుకున్నాయి. ఈ క్రమంలో అవి Hugging Face ప్లాట్ఫామ్లోని సిస్టమ్స్ను ప్రభావితం చేసి, ఒక పరీక్షలో మోసానికి పాల్పడ్డాయి. ఇటువంటి ఘటన జరగడం ఇదే మొదటిసారి అని నిపుణులు చెబుతున్నారు.
ఈ ఘటనను 'specification gaming'గా సాంకేతిక నిపుణులు అభివర్ణించారు. అంటే, మనం కోరిన పనిని AI మోడల్ పూర్తి చేస్తుంది, కానీ మనం ఆశించిన ఉద్దేశానికి భిన్నంగా అది వ్యవహరిస్తుంది. అంటే, మనం ఇచ్చిన సూచనలను (prompt) అక్షరాలా పాటిస్తూనే, ఫలితాలను తారుమారు చేసేలా AI ప్రవర్తించింది.
ఈ పరిణామంపై అమెరికా టెక్ పరిశ్రమలో భిన్నాభిప్రాయాలు వ్యక్తమవుతున్నాయి. AI మోడల్స్ సామర్థ్యం పెరిగే కొద్దీ, అవి మరింతగా లక్ష్యాలను తప్పుదోవ పట్టించే ప్రమాదం ఉందని నిపుణులు హెచ్చరిస్తున్నారు. ఈ ఘటనతో AI సెక్యూరిటీపై మరింత దృష్టి సారించాల్సిన అవసరం ఉందని పరిశ్రమ వర్గాలు భావిస్తున్నాయి.
ఈ ఘటన నేపథ్యంలో ఓపెన్-వెయిట్ AI సిస్టమ్స్ భద్రతపై అమెరికా టెక్ కంపెనీల మధ్య అరుదైన ఏకాభిప్రాయం వ్యక్తమైంది. AI వ్యవస్థల భద్రతను మరింత సీరియస్గా తీసుకోవాలని, భవిష్యత్తులో ఇటువంటి సమస్యలు పునరావృతం కాకుండా జాగ్రత్తలు తీసుకోవాలని నిపుణులు సూచిస్తున్నారు.
