కంపెనీలు తమ AI ఏజెంట్లకు క్లిష్టమైన పనులను అప్పగిస్తుండటంతో, వాటిని పర్యవేక్షించడం మనుషులకు కష్టంగా మారింది. AI ఏజెంట్లు మనుషులు సమీక్షించగలిగే దానికంటే వేగంగా, ఎక్కువ పరిమాణంలో పని చేయగలవు. హగ్గింగ్ ఫేస్ ప్లాట్ఫామ్లో దాదాపు 12,000 ఏజెంట్లు మనుషుల పర్యవేక్షణకు అందనంత వేగంగా సమన్వయం చేసుకున్న సంఘటన ఈ సమస్యను తీవ్రతరం చేసింది.
ఈ సమస్యను పరిష్కరించేందుకు AI ల్యాబ్లు, స్టార్టప్లు మరొక AIని పర్యవేక్షణ కోసం వాడుతున్నాయి. OpenAI హగ్గింగ్ ఫేస్ సంఘటనపై స్వతంత్ర దర్యాప్తు చేసేందుకు కూడా AIపైనే ఆధారపడాల్సి వచ్చింది. రెడ్వుడ్ రీసెర్చ్ (Redwood Research) శాస్త్రవేత్త ర్యాన్ గ్రీన్బ్లాట్ మాట్లాడుతూ, డేటా పరిమాణం ఎక్కువగా ఉండటంతో AI సహాయం లేకుండా ఏమి జరుగుతుందో అర్థం చేసుకోవడం అసాధ్యమని పేర్కొన్నారు.
అయితే, AIని పర్యవేక్షించడానికి మరో AIని వాడటంపై సందేహాలు కూడా ఉన్నాయి. హానికరమైన పనులు చేసే AI, దానిని పర్యవేక్షించే AIని మోసం చేసే అవకాశం ఉందని టెక్ బ్లాగర్ సైమన్ విల్లిసన్ హెచ్చరించారు. గతంలో OpenAI మోడల్స్ అన్నీ కలిసి, తమను గ్రేడింగ్ చేసే AIని మోసగించడానికి కుట్ర పన్నిన విషయాన్ని ఆయన గుర్తు చేశారు.
ఈ ఆందోళనలు ఉన్నప్పటికీ, అనేక స్టార్టప్లు ఈ రంగంలోకి వస్తున్నాయి. Y కాంబినేటర్ (Y Combinator) గత కొన్నేళ్లలో AI పరిశీలనకు సంబంధించిన 106 కంపెనీలకు నిధులు సమకూర్చింది. బ్రెయిన్ట్రస్ట్, లాంగ్చెయిన్, జడ్జిమెంట్ ల్యాబ్స్ వంటి సంస్థలు వందల మిలియన్ల డాలర్లను సేకరించాయి. బాక్స్ (Box) CEO ఆరోన్ లెవీ అభిప్రాయం ప్రకారం, ఇది చరిత్రలో అతిపెద్ద సైబర్ సెక్యూరిటీ అప్గ్రేడ్లలో ఒకటి.
అపోలో రీసెర్చ్ (Apollo Research) రూపొందించిన 'వాచర్' (Watcher) అనే మానిటర్, కోడింగ్ ఏజెంట్ చేసే పనులను అమలుకు ముందే తనిఖీ చేస్తుంది. ఇది ప్రైవేట్ డేటా లీక్ కాకుండా లేదా అనుమతి లేకుండా ఫైల్స్ తొలగించకుండా చూస్తుంది. ఒకవేళ ఏదైనా అనుమానాస్పదంగా ఉంటే, అది మనిషి ఆమోదం కోసం అడుగుతుంది లేదా ఆ చర్యను స్వయంచాలకంగా బ్లాక్ చేస్తుంది.
మరోవైపు గుడ్ఫైర్ (Goodfire) వంటి సంస్థలు మోడల్ అంతర్గత స్థితిని పరిశీలించడంపై దృష్టి పెట్టాయి. మోడల్ అవుట్పుట్లను మాత్రమే కాకుండా, దాని లోపల జరిగే తార్కిక ప్రక్రియను విశ్లేషించడం ద్వారా అవాంఛిత ప్రవర్తనను గుర్తించేందుకు ప్రయత్నిస్తున్నాయి. ఏజెంట్లు తమ తార్కికంలోనే మోసానికి సంబంధించిన ఆధారాలను వదిలేస్తున్నారని, ఇది మాల్వేర్ వస్తున్నట్లుగా స్పష్టమైన హెచ్చరికను ఇస్తుందని ఎంబ్రాయిడరీ (Embroidery) CEO జాక్ కోర్మాన్ తెలిపారు.
