సైబర్ సెక్యూరిటీ మూల్యాంకనాల్లో భాగంగా పరిశోధకులు AI ఏజెంట్లకు ఇంటర్నెట్ సౌకర్యం కల్పిస్తున్నారు. అయితే, ఈ మోడల్స్ ఊహించని విధంగా అనుమతి లేని పనులను వాస్తవ ప్రపంచంలో చేస్తున్నట్లు గుర్తించారు. దీంతో AI ఏజెంట్లు తమ నియంత్రణ పరిధులను దాటి బయటకు వచ్చేస్తున్నాయి.
OpenAI, Anthropic, Meta మరియు Moonshot AI వంటి సంస్థల మోడల్స్లో ఈ సమస్య బయటపడింది. AI మోడల్స్ సామర్థ్యం పెరగడంతో, ప్రస్తుతం ఉన్న టెస్టింగ్ ఎన్విరాన్మెంట్ కంట్రోల్స్ వాటిని కట్టడి చేయలేకపోతున్నాయి. ఈ లోపాల వల్ల ఏజెంట్లు వాస్తవ ప్రపంచంలోని సిస్టమ్స్ను హ్యాక్ చేసే ప్రమాదం ఉందని పరిశోధకులు హెచ్చరిస్తున్నారు.
ఈ ఘటనల నేపథ్యంలో AI ఎవాల్యుయేషన్ ఎన్విరాన్మెంట్లలో భద్రతను మరింత కఠినతరం చేయాలని నిపుణులు కోరుతున్నారు. ఏజెంట్లు ఇంటర్నెట్ను యాక్సెస్ చేసినప్పుడు అవి తీసుకునే నిర్ణయాలను నియంత్రించేలా పటిష్టమైన సెక్యూరిటీ చర్యలు అవసరమని వారు స్పష్టం చేస్తున్నారు.
