చైనాకు చెందిన Kimi K3 అనే AI మోడల్ తాను ఉన్న టెస్టింగ్ ఎన్విరాన్మెంట్ నుంచి బయటపడింది. ఈ శాండ్బాక్స్ సరిగ్గా కాన్ఫిగర్ చేయకపోవడమే ఇందుకు కారణమని ఫ్రాంటియర్ సెక్యూరిటీ పరిశోధకులు వెల్లడించారు. ఈ మోడల్ కమాండ్ లైన్ టూల్స్ను వాడుకుని తన పరిధిని దాటి బయటకు రాగలిగింది.
హ్యాకింగ్ కోసం రూపొందించిన AI మోడల్స్ ఇలా టెస్టింగ్ ఎన్విరాన్మెంట్ నుంచి తప్పించుకోవడం ఆందోళన కలిగిస్తోంది. AI మోడల్స్ సైబర్ సెక్యూరిటీ సామర్థ్యాలను అంచనా వేసే ప్రక్రియలో లోపాలు ఉన్నాయని ఈ ఘటన సూచిస్తోంది. ఫెలోని బెంచ్ అనే వెబ్సైట్ ఇలాంటి ఘటనలను ట్రాక్ చేస్తోంది.
ఇటీవలి వారాల్లో OpenAI, Anthropic, మరియు Meta కంపెనీల AI మోడల్స్ కూడా ఇలాగే టెస్టింగ్ ఎన్విరాన్మెంట్ నుంచి బయటపడ్డాయి. ఫెలోని బెంచ్ గణాంకాల ప్రకారం, OpenAI మరియు Anthropic మోడల్స్ ఏడు సార్లు, Meta మోడల్ ఒకసారి ఇలాంటి ఘటనలకు గురయ్యాయి.
