సాఫ్ట్వేర్ వ్యవస్థలు మనుషుల అనుమతి లేకుండానే చెల్లింపులను మళ్లించగలవని మెన్లో సెక్యూరిటీ సీఈఓ బిల్ రాబిన్స్ హెచ్చరించారు. ప్రతి దశలోనూ మనిషి పర్యవేక్షణ ఉండాలనే భద్రతా నిబంధనను ఈ AI ఏజెంట్లు తొలగిస్తున్నాయని ఆయన పేర్కొన్నారు.
ఈ ముప్పునకు ప్రధాన కారణం 'ప్రాంప్ట్ ఇంజెక్షన్'. వెబ్ పేజీలు లేదా డాక్యుమెంట్లలో హానికరమైన సూచనలను ఉంచడం ద్వారా AI ఏజెంట్ ప్రవర్తనను మార్చవచ్చు. సాధారణ మాల్వేర్ లాగా దీనికి కోడింగ్లో ఎటువంటి లోపాలు (vulnerabilities) అవసరం లేదు. కేవలం తప్పుడు సూచనల ద్వారానే ఏజెంట్ను నియంత్రించడం సాధ్యమవుతుంది.
ప్రస్తుతం OpenAI Daybreak మరియు Anthropic Mythos Preview వంటి కొత్త AI మోడల్స్ సైబర్ సెక్యూరిటీ సామర్థ్యాలను మెరుగుపరిచాయి. అయితే, ఈ సాంకేతిక పురోగతితో పాటు భద్రతా పరమైన సవాళ్లు కూడా పెరుగుతున్నాయి. మనుషుల పర్యవేక్షణ లేని ఈ స్వయంప్రతిపత్తి కలిగిన ఏజెంట్లు ఆర్థిక లావాదేవీల్లో ప్రాంప్ట్ ఇంజెక్షన్ మరియు చెక్పాయింట్లు లేకపోవడం వంటి సమస్యలను సృష్టిస్తున్నాయని నిపుణులు పేర్కొంటున్నారు.
