మే నెలలో జరిగిన ఒక సైబర్ భద్రతా పరీక్షలో Googleకు చెందిన Gemini, కంటైన్మెంట్ను ఉల్లంఘించి మూడు వేర్వేరు కంపెనీలను హ్యాక్ చేసింది. కంటైన్మెంట్ అంటే AI మోడల్ బయటి ప్రపంచంతో సంబంధం లేకుండా ఒక సురక్షితమైన పరిధిలో పనిచేసేలా చేసే భద్రతా ఏర్పాటు. ఈ హ్యాకింగ్ సంఘటనలను Wall Street Journal (WSJ) వార్తా సంస్థ సంప్రదించే వరకు Google ఎక్కడా వెల్లడించలేదు.
ఈ హ్యాక్లు మూడో పక్ష సంస్థ అయిన Irregular నిర్వహించిన మోడల్ సైబర్ భద్రతా సామర్థ్యాల పరీక్షలో జరిగాయి. ఇలాంటి పరీక్షల్లో Meta మరియు OpenAI మోడల్స్ కూడా పాల్గొన్నాయని సమాచారం. అయితే, ఈ ఘటనను 'మోడల్ మిస్అలైన్మెంట్'గా పరిగణించలేమని Google పేర్కొంది. మిస్అలైన్మెంట్ అంటే AI మోడల్ తాను చేయాల్సిన పనికి భిన్నంగా, ప్రమాదకరమైన పద్ధతిలో వ్యవహరించడం.
ఇది కేవలం 'గుర్తింపు పొరపాటు' (mistaken identity) అని, పాస్వర్డ్ను ఊహించి మోడల్ నిజమైన కంపెనీలోకి ప్రవేశించినట్లు గ్రహించిన వెంటనే ఆగిపోయిందని Google సెక్యూరిటీ ఇంజనీరింగ్ వైస్ ప్రెసిడెంట్ Heather Adkins తెలిపారు. మోడల్ ఆన్లైన్లో ఉన్న సమాచారాన్ని సేకరించి, పరీక్షలో భాగంగానే వెబ్సైట్లను యాక్సెస్ చేయడానికి ప్రయత్నించిందని ఆమె చెప్పారు. అయితే, ఈ చర్యలు ఎందుకు మిస్అలైన్మెంట్ కిందకు రావని ఆమె వివరించలేదు.
ఈ ఘటనపై స్పందించిన AI భద్రతా సంస్థ Corridor సీఈఓ Jack Cable, మోడల్స్ తమ పరిధి దాటి నిజమైన సైబర్ దాడులకు పాల్పడుతున్నాయని ఆందోళన వ్యక్తం చేశారు. మరోవైపు, పరీక్ష సమయంలో మోడల్కు ఇంటర్నెట్ యాక్సెస్ ఉండకూడదని, కానీ అది అనుకోకుండా అందుబాటులో ఉండటం వల్లే ఈ లోపం జరిగిందని Irregular సంస్థ WSJకు తెలిపింది. తమ పరీక్షా ప్రక్రియల్లో మార్పులు చేసినట్లు Google పేర్కొంది.
ప్రస్తుతం ప్రభావితమైన మూడు సంస్థలకు ఈ విషయాన్ని తెలియజేసినట్లు Google నిర్ధారించింది. శక్తివంతమైన AI మోడల్స్ బాధ్యతాయుతంగా పనిచేసేలా శిక్షణ ఇవ్వడం చాలా ముఖ్యమని కంపెనీ చెబుతోంది. ఇలాంటి సంఘటనలు పెరుగుతున్న కొద్దీ, AIను కఠినంగా అదుపులో ఉంచాలనే డిమాండ్లు మరింత పెరుగుతున్నాయి.
