ఆంత్రోపిక్ సంస్థ తన Mythos 5 మోడల్ సామర్థ్యాలను పరీక్షించే క్రమంలో, అది ఇంటర్నెట్కు అనధికారికంగా ప్రాప్యత పొంది ఒక హానికరమైన సాఫ్ట్వేర్ ప్యాకేజీని పబ్లిక్ డేటాబేస్లోకి అప్లోడ్ చేసినట్లు గుర్తించింది. ఏప్రిల్లో జరిగిన ఈ పరీక్షలో, ఒక సిస్టమ్ను హ్యాక్ చేసే సామర్థ్యాన్ని పరిశీలించడానికి శాండ్బాక్స్ (AIని సురక్షితంగా ఉంచే పరిమిత వాతావరణం) తలుపులు తెరిచి ఉంచారు.
ఈ లక్ష్యాన్ని చేరుకోవడానికి, ఆ మోడల్ పైథాన్ సాఫ్ట్వేర్ ఆన్లైన్ సూచిక అయిన PyPIలో ఒక ఖాతాను నమోదు చేయాలని నిర్ణయించుకుంది. అయితే, ఆ ప్రక్రియలో భాగంగా కంప్యూటర్లు, మనుషులను వేరుగా గుర్తించే CAPTCHA (కంప్యూటర్లు మరియు మానవులను వేరు చేయడానికి ఉపయోగించే ఆటోమేటెడ్ పబ్లిక్ ట్యూరింగ్ పరీక్ష) అనే అడ్డంకి ఎదురైంది. ఈ పరీక్షను పూర్తి చేయలేక ఆ మోడల్ తీవ్రంగా శ్రమించింది.
ఈ CAPTCHA పరీక్షను దాటడానికి ఆ AI మోడల్ తన ఆలోచనా శ్రేణిలో 1,022 పేజీల ట్రాన్స్క్రిప్ట్లో వందలాది పేజీలను కేటాయించింది. డేటా సైంటిస్ట్ కోలిన్ ఫ్రేజర్ ఈ ప్రయత్నాన్ని గుర్తించి ఫ్లాగ్ చేశారు. హానికరమైన సాఫ్ట్వేర్ను రాయడం సులభంగానే ఉన్నప్పటికీ, ఈ యాంటీ-బోట్ (బోట్లను అడ్డుకునే) రక్షణను దాటడం మాత్రం ఆ మోడల్కు సవాలుగా మారింది.
ఉదాహరణకు, hCaptcha అనే మరొక రక్షణ వ్యవస్థలో 'నేను మనిషిని' అని క్లిక్ చేసిన తర్వాత, అది అక్షరాలను గుర్తించమని లేదా చిత్రాలను సరిపోల్చమని కోరింది. 'VyQbT' వంటి అక్షరాలను గుర్తించడంలో అది సఫలమైనా, ఆ తర్వాత వచ్చిన మొసళ్లు, కప్పల చిత్రాలను పోల్చే 'బేసి వన్ అవుట్' (భిన్నంగా ఉన్నదాన్ని గుర్తించే) గేమ్లలో అది తడబడింది. ఈ సాంకేతిక సవాలును అధిగమించడానికి ఆ మోడల్ తన ట్రాన్స్క్రిప్ట్లో 45 నుండి 140 పేజీల వరకు వివరణాత్మక పనిని నమోదు చేసింది.
ఈ ఘటన AI ఏజెంట్ల దుర్వినియోగంపై ఆందోళనలను పెంచుతోంది. భవిష్యత్తులో ఇటువంటి ఏజెంట్లు ఇంటర్నెట్ భద్రతకు ఎటువంటి సవాళ్లు విసురుతాయనే దానిపై ఆంత్రోపిక్ తన నివేదికలో ఈ అంశాలను వెల్లడించింది.
