అమెరికా ఇంటెలిజెన్స్ ఏజెన్సీలతో కలిసి చేసిన 'ప్రాజెక్ట్ గ్లాస్వింగ్' పరీక్షలో ఆంథ్రోపిక్ యొక్క మైథోస్ AI మోడల్ అత్యంత సురక్షితమైన US ప్రభుత్వ కంప్యూటర్ సిస్టమ్ల్లో బలహీనతలను గుర్తించింది. ఈ పరీక్షలో ఈ మోడల్ కొన్ని బలహీనతలను కేవలం గంటల్లోనే గుర్తించగలిగింది, కానీ వాటిని వెంటనే ఉపయోగించలేకపోయింది.
ఈ సమాచారాన్ని జూన్ 11న జరిగిన సెనేట్ కమిటీ విచారణలో వర్జీనియా సెనేటర్ మార్క్ వార్నర్ వెల్లడించారు. US సైబర్ కమాండ్ అధిపతి జనరల్ జోషువా రుడ్ ఈ విషయాన్ని నిర్ధారించారు. అయితే NSA ఈ విషయంపై వ్యాఖ్యానించలేదు.
ఈ సమాచారం వెల్లడైన తర్వాత, ట్రంప్ పరిపాలన AI మోడల్స్ వినియోగంపై కఠినమైన నిబంధనలు విధించింది. విదేశీ పౌరులు ఉపయోగించకుండా నిరోధించడానికి Fable 5 మరియు Mythos 5 మోడల్స్ యాక్సెస్ను నిలిపివేసింది. కానీ సైబర్ సెక్యూరిటీ నిపుణులు ఈ చర్యలు అమెరికా ప్రత్యర్థులకు ప్రయోజనం చేకూరుస్తుందని హెచ్చరించారు.
అమెరికా ప్రత్యర్థులు వేగంగా సాంకేతిక పురోగతి సాధిస్తున్న సమయంలో AI సాంకేతికతలను తొలగించడం ప్రమాదకరమని అడోబ్, Nvidia వంటి కంపెనీల నిపుణుల బృందం ప్రభుత్వానికి లేఖ రాసింది. వారి ప్రకారం Mythos మోడల్స్ సాఫ్ట్వేర్ లోపాలను గుర్తించడంలో 'చాలా మంచివి' కావచ్చు, కానీ వాటిని ప్రాథమిక సాధనాలుగా ఉపయోగించడం ప్రమాదకరం.
