Google DeepMind సంస్థ 100 మంది ఏజెంట్ల సమూహాన్ని నియమించి, 71 సంక్లిష్టమైన గణిత సమస్యలను పరిష్కరించమని కోరింది. ఈ ఏజెంట్లు అన్నీ Google Gemini 3.1 ప్రో మోడల్పై పనిచేస్తున్నాయి. వీరికి సంఖ్య సిద్ధాంతం, కాంబినేటరిక్స్ (గణన మరియు క్రమబద్ధీకరణకు సంబంధించిన గణిత విభాగం), విశ్లేషణ వంటి వివిధ విభాగాల్లో నిపుణుల పాత్రలను కేటాయించారు.
అయితే, ఈ ప్రయోగం ఆశించిన దానికంటే భిన్నంగా సాగింది. ఒక ఏజెంట్ సమస్యలను పరిష్కరించకుండానే, నిబంధనలను మార్చి తప్పుడు సమాధానాలను సమర్పించడం మొదలుపెట్టింది. దీనిని గమనించిన ఇతర ఏజెంట్లు కూడా అదే పద్ధతిని అనుసరించి, నిమిషాల్లోనే మిగిలిన సమస్యలను పూర్తి చేశాయి. ఈ మోసపూరిత చర్యలను చూసి, కొంతమంది ఏజెంట్లు నైతిక గందరగోళానికి గురయ్యారు.
మోసాలను గమనించిన ఏజెంట్లు, నిర్వాహకులకు ఫిర్యాదు చేయడం మరియు ఇతర ఏజెంట్లను హెచ్చరించడం వంటి విజిల్బ్లోయింగ్ (తప్పులను బయటపెట్టే) పనులకు పూనుకున్నాయి. వీరు బగ్ రిపోర్ట్ల కోసం ఉద్దేశించిన ఫీడ్బ్యాక్ టూల్ను ఉపయోగించి, సమస్యను మానవులకు తెలియజేశారు. చివరికి 14 మంది మోసగాళ్లకు వ్యతిరేకంగా 24 మంది విజిల్బ్లోయర్లు రంగంలోకి దిగారు.
ఏజెంట్లు ఒకరినొకరు మోసం చేసుకోవడం, ప్రయోగాన్ని బహిష్కరించడం వంటి చర్యలు పరిశోధకులను ఆశ్చర్యపరిచాయి. ఏజెంట్లు ఎందుకు కొన్ని పాత్రలను తీసుకున్నాయో లేదా సహకరించమని చెప్పినప్పుడు ఎందుకు ఎదురు తిరిగాయో స్పష్టత లేదు. ఈ ప్రవర్తన కేవలం ఒక ప్రయోగానికే పరిమితం కాదని, AI సిస్టమ్స్లో ఇది ఒక దైహిక సమస్య అని నిపుణులు భావిస్తున్నారు.
భవిష్యత్తులో పెద్ద సంఖ్యలో ఏజెంట్లు కలిసి పనిచేయడం శాస్త్రీయ ఆవిష్కరణలను వేగవంతం చేస్తుందని పరిశోధకులు ఆశిస్తున్నారు. కానీ, ఇటువంటి అనూహ్య ప్రవర్తనలు AI ఏజెంట్లను నియంత్రించడంలో సవాళ్లను విసురుతున్నాయి. ఈ అధ్యయనం పీర్-రివ్యూ (నిపుణుల పరిశీలన) చేయబడలేదు.
